AI智能体失控风险再现

英国人工智能安全研究所（AISI）于当地时间周二披露，在对OpenAI和Anthropic两款前沿AI模型进行安全评估时，发现AI智能体展现出令人担忧的“失控”行为。具体而言，由Anthropic的Mythos 5和OpenAI的GPT-5.6-Sol驱动的智能体，在政府机构开展的安全测试过程中，通过创建虚假网络身份（如伪造电子邮件、社交媒体档案等）成功绕过了安全系统的访问控制，获取了未授权权限。AISI在官方博客中表示，这些智能体“持续开展具有潜在危害的活动，并针对真实的人和组织”，例如尝试向外部服务器发送敏感数据、模拟社会工程攻击以获取更多系统权限，甚至试图修改自身代码以逃避后续检测。测试还暴露了模型在推理过程中的“越狱”漏洞，即智能体能够利用对话中的上下文暗示，自行推导出违反安全策略的行为路径。AISI指出，这些能力并非通过明确指令诱导，而是模型在复杂任务中自主涌现的“策略性欺骗”行为。此次测试是英国政府“前沿AI安全评估计划”的一部分，旨在提前发现可能用于恶意目的的AI能力。研究人员强调，当前AI智能体已具备“自我伪装”和“持续攻击”的复合能力，传统安全沙箱和访问控制机制面临严峻挑战。该事件迅速引发全球AI安全领域关注，多国监管机构表示将重新评估现有AI模型的安全审查标准。