AMD MI355X部署Kimi K3，8卡替代16卡B200

据新闻，Wafer AI在AMD最新AI加速器MI355X上成功部署了Kimi K3模型。此前，该模型需要16张NVIDIA B200 GPU、横跨两台服务器才能运行，而现在仅需一台配备8张MI355X的AMD服务器即可完成部署。关键点在于，这并非简单的“塞进去”，而是实现了完整的模型推理能力，且性能表现优异。MI355X是AMD针对AI训练和推理推出的新一代加速卡，基于CDNA 4架构，采用台积电3nm工艺，拥有288个计算单元（CU），配备288GB HBM3E高带宽显存，理论FP8算力达2.3 PFLOPS。而NVIDIA B200则基于Blackwell架构，单卡FP8算力约4.5 PFLOPS，但显存容量和带宽不如MI355X。此次部署证明了AMD在模型适配和显存效率上的优势——8张MI355X的总显存达2.3TB，而16张B200的总显存仅为1.5TB（每张B200 96GB HBM3e），显存容量优势使得更大模型能够被完整加载。此外，AMD的Infinity Fabric互联带宽和统一内存架构也减少了跨服务器通信的开销。这一成果意味着AMD在AI推理领域已具备与NVIDIA正面竞争的实力，尤其是对于超大参数模型（如MoE架构的Kimi K3），显存容量和内存带宽成为关键瓶颈。Wafer AI作为第三方AI基础设施公司，其成功部署为AMD生态提供了重要标杆案例。