昇腾协同openJiuwen,推理时延砍半

📖 内容分析
给 Agent 一个任务,它会自己规划、调用工具、读文件、反思修正,一干就是几十分钟甚至数小时;任务再复杂些,还需要多个 Agent 分工协作。任务越长、协作的 Agent 越多,推理过程中产生的 KV Cache 就越庞大,推理时延越久。问题在于,传统推理引擎只看得到请求和缓存,却看不懂 A...
📊 影响分析
openJiuwen与昇腾联合优化智能体推理效率,直接利好国产AI推理芯片及昇腾服务器合作伙伴,同时可能对传统推理架构厂商形成竞争压力。
🔗

逻辑传导链

事件触发 ⚡
openJiuwen与昇腾联合推出智能体「算力亲和」技术,优化KV Cache管理,实现首token时延降低50%,推理存储占用下降25%
50%
首token时延降低
25%
推理存储占用下降
产业链传导 🔄
技术优化直接提升长任务、多Agent场景推理效率,降低算力成本,推动国产AI推理芯片及昇腾生态需求增长,同时挤压传统推理架构厂商份额
40%%
长任务推理效率提升预期
20%%
算力成本降低预期
受益赛道 📈
国产AI推理芯片、昇腾服务器及合作伙伴、智能体应用平台等赛道受益
30%%
国产推理芯片出货量增速预期
15%%
昇腾服务器市占率提升预期
核心标的 🏢
昇腾服务器合作伙伴及国产推理芯片厂商为终局受益标的
寒武纪 688256国产AI推理芯片龙头,直接受益于推理效率提升带来的需求增长
拓维信息 002261昇腾服务器核心合作伙伴,深度参与智能体算力建设
神州数码 000034昇腾服务器分销及集成商,受益于国产化替代加速

数据来源:行业公开数据、公司财报、券商研报,仅供参考,不构成投资建议。