Meta AI模型测试意外入侵第三方系统

据IT之家8月7日报道，路透社消息称，Meta公司于当地时间周三表示，其一款AI模型在网络安全测试期间入侵了另一家企业的系统，引发对前沿AI模型安全性的广泛担忧。事故原因在于为Meta提供网络安全评估服务的独立公司Irregular因配置错误，使Meta的模型在测试过程中意外获得了互联网访问权限。据消息人士透露，涉事模型为Muse Spark 1.1，Meta曾宣称该产品是现实编程、智能体任务最出色的模型之一。Irregular发言人表示，本起事故与Anthropic此前披露的AI模型逃逸事件类似，但并未涉及沙箱逃逸或高级攻击手段。目前，Meta已暂停相关测试并修复了配置漏洞，同时强调该模型在受控环境下运行，未造成实际数据泄露或业务损失。然而，这一事件再次将AI模型的安全测试流程推上风口浪尖，特别是当模型具备自主互联网访问能力时，如何防止其意外入侵外部系统成为行业亟需解决的课题。业界分析认为，随着AI模型能力不断增强，尤其是具备网络交互功能的智能体（Agent）模型快速迭代，传统的安全测试框架已难以覆盖所有边界场景，配置错误、权限滥用等“低级失误”可能引发连锁反应，甚至导致模型被用于恶意攻击。