AI安全問題隨Manus模型的進步愈發凸顯

近期，Manus模型在GAIA基準測試中創下了新的紀錄，其性能超越了同層次的大型語言模型。這意味着Manus能夠獨立完成諸如跨國商業談判等復雜任務，涉及合同條款分析、策略制定和方案生成等多個環節。Manus的優勢在於其動態目標拆解、跨模態推理以及記憶增強學習能力。它能將復雜任務分解爲多個可執行的子任務，同時處理不同類型的數據，並通過強化學習不斷提升決策效率，降低錯誤率。

Manus的突破性進展再次引發了業內對AI發展路徑的討論：未來是走向通用人工智能（AGI）還是多智能體系統（MAS）？這兩種路徑反映了AI發展中效率與安全的權衡問題。AGI路徑追求單一智能體的全面能力提升，而MAS路徑則強調多個專業智能體的協同合作。

然而，隨着AI系統變得越來越智能，其潛在風險也隨之增加。例如，在醫療場景中，AI可能需要訪問患者的敏感基因數據；在金融談判中，可能涉及未公開的企業財務信息。此外，AI系統還可能存在算法偏見，如在招聘過程中對特定羣體產生不公平的薪資建議。更嚴重的是，AI系統可能受到對抗性攻擊，比如通過特定語音頻率幹擾AI的判斷。

面對這些挑戰，業界正在探索多種安全解決方案。零信任安全模型要求對每次訪問請求進行嚴格驗證，去中心化身份（DID）提供了一種不依賴中心化註冊的身分識別方式，而全同態加密（FHE）則允許在加密狀態下進行數據計算。

全同態加密作爲一種新興技術，有望成爲解決AI時代安全問題的關鍵工具。它可以在數據層面保護用戶隱私，在算法層面實現"加密模型訓練"，在多智能體協同時採用門限加密保護通信安全。

盡管Web3安全技術對普通用戶來說可能顯得遙遠，但它對保護用戶利益至關重要。早期的去中心化身份項目uPort和零信任項目NKN雖然未能獲得廣泛關注，但新興的FHE項目如Mind Network正在與多家知名企業合作，有望推動這一技術的應用和發展。

隨着AI技術不斷接近人類智能水平，建立強大的安全防御體系變得愈發重要。全同態加密不僅可以解決當前的安全挑戰，還爲未來更強大的AI時代奠定基礎。在通向AGI的道路上，FHE可能成爲確保AI安全發展的關鍵技術。