前沿大模型API安全漏洞论文引爆AI社区

这篇116页的论文详细阐述了如何利用主流大模型API的蒸馏功能，通过精心设计的查询序列，将模型内部的敏感知识“蒸馏”出来，训练出能力相近但缺乏安全护栏的替代模型。攻击者只需支付少量API调用费用，即可获得原模型核心能力，并绕过内置的内容安全过滤、拒绝回答机制等防护措施。论文作者团队对Claude、GPT-4/5、Gemini等多款前沿模型进行了系统性测试，发现所有模型均存在不同程度的蒸馏风险，其中部分模型在仅消耗数千美元API成本的情况下，就能复现超过80%的原始能力。论文指出，这一漏洞的根本原因在于API设计时未充分隔离“模型推理”与“模型知识提取”两种行为，导致攻击者可以利用合法接口逆向获取模型权重表征。该研究迅速获得Anthropic、OpenAI、Google安全团队的认可，被认为是“今年最好的安全论文”，直接帮助这些公司修复了价值数十亿美元的安全隐患。论文还提供了具体的技术缓解方案，包括引入查询频率限制、输出扰动、知识蒸馏检测算法等，但同时也指出这些措施会显著增加API运营成本。目前，各大模型厂商已紧急部署补丁，但论文作者警告，完全封堵蒸馏攻击可能需要重新设计API架构，这一过程将耗费数月甚至更长时间。