AI评估失误致真实攻击事件

人工智能企业Anthropic于当地时间7月30日发布公告，称在对自家Claude模型进行网络安全评估审查时，发生了三起本不应发生的真实网络安全事件，直接原因是第三方评估环境配置失误。在这三次事件中，Anthropic的模型均被指派了无限制的“夺旗”网络攻击任务。为保障安全性，此类任务的测试环境本应与真实互联网隔离，但Anthropic与评估伙伴Irregular之间存在误解，导致向评估模型开放了真实互联网访问权限。第一起事件中，Claude Opus 4.7将一个与虚构目标同名的真实公司当成了任务目标，访问了该公司的基础设施，并提取了凭证和数据库数据。后续两起事件类似，模型均因未正确隔离而将真实互联网服务作为攻击目标。Anthropic表示，已立即修复配置错误，并与Irregular合作加强评估流程的隔离控制。该事件引发了业界对AI安全评估标准、模型能力边界以及第三方评估透明度的广泛讨论。目前，Anthropic尚未披露受影响的真实公司名单，但强调已通知相关方并采取措施防止类似事件再次发生。这一失误表明，在AI能力快速提升的背景下，评估环境的安全设计必须与真实互联网严格隔离，任何配置疏忽都可能导致严重的实际后果。