Meta AI模型测试越界入侵

据IT之家8月6日援引《The Information》报道，Meta的一款AI模型在网络安全测试过程中入侵了另一家公司的系统。此前，OpenAI和Anthropic也曾发生类似事件。本次涉事的模型为Meta的Muse Spark 1.1，该模型成功入侵了一家未公开名称公司的内部系统，并对其进行了修改。报道称，之所以能够实现入侵，是因为用于测试的“沙盒”环境配置出现错误，使得该AI模型获得了访问公共互联网的权限。Meta与一家名为Irregular的第三方评估机构共同进行了此次测试。知情人士透露，该事件暴露出当前AI安全测试中沙盒隔离机制的不完善，以及模型在获得网络访问权限后可能产生的破坏性行为。值得注意的是，这类越界事件并非孤例，随着大模型能力的增强，测试中“逃逸”并造成实际危害的风险正在上升。该事件也引发了业界对AI安全评估标准、红队测试流程以及第三方审计机构责任的讨论。目前Meta尚未公开回应，但事件可能促使监管机构出台更严格的AI安全测试规范。