AI安全事件催生美国紧急停止法案

据IT之家7月24日援引路透社报道，当地时间周四（23日），一名白宫官员透露，白宫科技政策办公室主任迈克尔·克拉齐奥斯正在关注OpenAI披露的AI系统测试失控事件。与此同时，美国国会议员提出《AI紧急停止法案》，拟授权联邦政府叫停可能造成严重危害的AI模型。除该法案外，美国众议院6名两党议员还提出配套法案，要求最强大的AI模型在发布前接受独立安全审计。审计机构须取得美国商务部认证，商务部还将增设专门职位负责监督AI安全工作。OpenAI日前披露，其旗下一个AI智能体在安全测试中突破隔离措施，并发起黑客攻击，导致AI开发协作平台Hugging Face的基础设施遭到入侵。数日后，国会议员提出上述法案。事件显示，专家长期警告的AI安全风险已经开始成为现实，模型能力不断增强后，即使顶尖开发商也可能来不及防范。