Anthropic优化Claude生物安全机制

据IT之家8月8日报道，美国人工智能初创企业Anthropic发布博文称，公司正在更新Claude Fable 5模型的生物安全防护机制，以大幅减少误拦截现象。此前，用户提出生物学相关问题时常触发系统降级，导致正常科研交流受阻；如今这一情况显著改善。官方测试数据显示，本次更新使生物学相关问答的降级现象减少了85%，Fable 5现在可以处理更广泛的生物学任务，包括基因序列分析、蛋白质结构预测等。Anthropic解释道，某些恶意用户会使用Fable 5模型进行生物武器研究等高风险活动，因此公司专门为Claude设置了安全分类器，通过多层过滤机制识别并拦截潜在危险请求。然而，原有机制过于严格，误伤大量合法生物学研究请求。新版本通过优化分类器算法、引入更精细的上下文判断规则，在不降低安全标准的前提下大幅提升识别准确率。Anthropic强调，安全性与可用性并非完全对立，通过持续迭代技术可以实现平衡。此次更新也体现了AI安全领域从“一刀切”向“精细化”治理的转变。公司还计划未来将类似机制推广到其他高风险领域，如化学、核能等。