据外媒Axios 8月12日报道,包括英伟达、思科和CrowdStrike在内的120多个组织组成的联盟,正在提议为AI智能体制定一个新的事件报告框架,即“共享人工智能发现交流”(SAFE)指南。该框架要求参与公司披露某些AI智能体事故,并保存详细的事故记录。随着AI智能体在计算机系统中获得越来越大的自主权,业界一直缺乏报告安全故障和从中吸取教训的标准方法。开放安全人工智能联盟(The Open Secure AI Alliance)正在制定该指南,这是一个关于如何报告涉及AI智能体网络安全事件的拟议框架。草案呼吁模型部署者、AI开发者、云和工具提供商、独立研究人员、关键基础设施运营商和其他团体参与,政府机构也将受邀作为“非控制性观察员”参与。SAFE成员同意报告以下事件:AI系统未经授权访问或利用第三方系统、泄露机密信息等。该框架的核心目标是建立统一的报告标准,促进跨组织间的安全信息共享,从而提升AI智能体的整体安全性。目前,已有超过120家组织签署了该倡议,涵盖科技巨头、网络安全公司、研究机构等。该框架预计将在未来几个月内发布正式版本,并逐步推广至更广泛的AI生态。