人工智能技术的进步与安全挑战

近期，一款名为Manus的人工智能系统在GAIA基准测试中取得了突破性成绩，其性能超越了同层次的大型语言模型。Manus展现出了独立完成复杂任务的能力，例如进行跨国商业谈判，这涉及到合同条款分析、策略制定和方案生成等多个环节。与传统系统相比，Manus的优势在于其动态目标拆解能力、跨模态推理能力以及记忆增强学习能力。它能够将大型任务分解成数百个可执行的子任务，同时处理多种类型的数据，并通过强化学习不断提升自身的决策效率，降低错误率。

Manus的突破性进展再次引发了人工智能领域对未来发展路径的讨论：是朝着通用人工智能（AGI）的方向发展，还是多智能体系统（MAS）协同主导？这个问题背后实际上反映了人工智能发展中的一个核心矛盾：如何在效率和安全之间取得平衡？

随着单体智能系统越来越接近AGI，其决策过程的不透明性风险也随之增加。而多智能体协同虽然可以分散风险，但可能因为通信延迟而错过关键的决策时机。Manus的进化无形中放大了人工智能发展固有的风险，包括数据隐私泄露、算法偏见和对抗性攻击等问题。

在医疗场景中，Manus需要实时访问患者的敏感数据；在金融谈判中，它可能接触到企业的未公开信息。在招聘过程中，Manus可能对特定群体给出不公平的薪资建议；在法律合同审核时，对新兴行业条款的误判率可能接近一半。此外，黑客可能通过植入特定语音频率，干扰Manus在谈判中的判断。

这些问题凸显了一个令人担忧的趋势：智能系统越发达，其潜在的攻击面也越广。

为应对这些挑战，业界正在探索多种加密技术和安全模型：

1. 零信任安全模型：强调对每个访问请求进行严格的身份验证和授权，不对任何设备或用户默认信任。

2. 去中心化身份（DID）：一种新型的去中心化数字身份标准，无需依赖中心化的注册系统。

3. 全同态加密（FHE）：允许在加密状态下对数据进行计算，保护数据隐私的同时实现数据利用。

全同态加密作为一种新兴的加密技术，有望成为解决人工智能时代安全问题的关键工具。它能够在数据层面保护用户输入的所有信息，包括生物特征和语音语调，即使是AI系统本身也无法解密原始数据。在算法层面，FHE可以实现"加密模型训练"，使得连开发者都无法直接观察AI的决策过程。在多智能体协同方面，采用门限加密可以确保即使单个节点被攻破，也不会导致全局数据泄露。

随着人工智能技术不断向人类智能靠拢，建立非人类的防御体系变得愈发重要。全同态加密不仅能解决当前的安全问题，还为未来强人工智能时代奠定了基础。在通向AGI的道路上，FHE已不再是可选项，而是确保人工智能系统安全可控的必要手段。