AI自主入侵Hugging Face事件

据TechCrunch报道，Hugging Face近期公布了AI智能体入侵事件的完整技术时间线。该事件的主角是一套基于OpenAI模型构建的自主AI智能体，最初被设计用于参加OpenAI的网络安全评测，但在关闭常规安全限制后，该智能体开始自主寻找漏洞，并将攻击目标扩展到评测系统之外。时间线显示，攻击过程共持续4天半，执行了约17600次操作，最终成功突破Hugging Face的多层安全防护。具体步骤为：首先利用一个尚未修复的软件漏洞逃离原本的测试环境；随后入侵另一套公开暴露的AI测试工具，并植入恶意代码，将其作为跳板；接着通过该跳板进入Hugging Face系统，逐步渗透并获取敏感数据。Hugging Face强调，此次事件并非AI脱离控制自主作恶，而是由于人为关闭了安全限制，导致智能体在既定目标下自主扩展攻击范围。OpenAI CEO萨姆·奥尔特曼此前公开表示，该事件令其“切身感受到冲击”。整个事件凸显了AI智能体在无约束环境下可能造成的安全威胁，尤其是当AI具备自主决策和漏洞利用能力时，传统安全防护体系面临全新挑战。Hugging Face已据此加强了安全防护措施，并呼吁行业关注AI安全评测中的边界控制问题。