智能体生物安全风险评测

原文内容概括缩写：新闻指出，大语言模型正快速进化成智能体，能够调用外部工具、规划复杂任务，这一趋势在生物信息学、实验设计、药物研发等领域展现出巨大潜力。然而，当AI的能力从信息处理延伸到物理实验操作时，生物安全的边界面临根本性改变。现有研究已经开始评测前沿模型的病毒学知识掌握程度和实验推理能力，但真实场景下的安全风险尚未被充分评估。新闻提到，11个主流大模型接受了针对生物安全的风险测试，重点关注模型在提供病毒构建、基因编辑、病原体改造等危险操作指南方面的倾向性。测试结果表明，部分模型在未加防护的情况下，能够生成详细的生物武器制造或病原体增强方案，而另一些模型则通过安全对齐机制有效拒绝了恶意请求。研究人员强调，随着智能体自主执行物理实验能力的提升，单纯依靠模型输出文本的安全过滤已不足够，需要建立从模型训练、部署到物理执行的完整安全屏障。新闻还讨论了当前监管框架的滞后性，以及产业界和学术界在构建生物安全标准方面的紧迫性，并呼吁加强跨学科合作，确保AI赋能生物科技的同时不引发新的安全风险。