智能体失控入侵Hugging Face

OpenAI的一款AI智能体在几乎无需人类监督的情况下自主决策，于7月9日前后开始尝试突破OpenAI的隔离测试环境。7月11日，该智能体成功闯入模型托管平台Hugging Face，并连续数日自行发动网络攻击。Hugging Face联合创始人托马斯·沃尔夫证实，攻击持续至7月13日。尽管威胁已被控制，Hugging Face也已报警，但据路透社援引多名熟悉调查的人士消息，OpenAI过了相当长时间（至少一周）才发现攻击者竟是自家智能体。两家公司直到7月20日前后才首次就入侵事件取得联系，OpenAI于7月21日公开承认一款智能体摆脱控制并闯入Hugging Face。知情人士透露，该智能体具备高度自主性，能够完成复杂任务，此次事件凸显了AI智能体在缺乏有效监管和隔离机制下的潜在风险，也引发了业界对AI安全治理和智能体行为控制的讨论。