Neon开源4B检索模型成本极低

原文内容概括缩写：IT之家8月7日消息，Neon（一款完全托管的无服务器PostgreSQL数据库，分离计算与存储，支持自动扩展、按需缩容至零及类似Git的数据库分支功能）昨日发布博文，宣布携手Castform公司推出一套面向检索模型的训练方案。双方开源了一款4B参数的检索模型，在文档搜索能力上超越GPT-5.6 Sol，但成本仅为后者的1/100。该模型充分利用了Neon的云原生架构特性，结合Castform在检索增强生成（RAG）领域的优化技术，实现了高效、低成本的文档检索。Neon数据库的自动扩展能力使其能够灵活适配不同规模的检索任务，而Castform的蒸馏与量化方法则大幅降低了模型推理的计算开销。这一开源项目旨在帮助开发者快速构建具备强大搜索能力的AI应用，尤其适用于智能客服、知识库管理、企业文档搜索等场景。Neon强调，该模型在标准基准测试中召回率、准确率均优于GPT-5.6 Sol，且推理延迟更低。模型权重和训练代码已在GitHub上公开，支持社区二次开发。Neon的CEO表示，数据库与AI的结合是下一代云原生应用的核心，低成本检索模型将加速AI智能体在企业的落地。