ESP32-AI成功部署2890万参数模型

7月28日，科技媒体Tom's Hardware报道，乌克兰开发者Slava S发布了名为ESP32-AI的开源项目，针对乐鑫（Espressif）的ESP32-S3开发板，成功实现了2890万个参数的本地AI模型部署。ESP32-S3开发板由乐鑫推出，配备512KB的片上SRAM（访问周期仅需1个CPU时钟）、8MB的PSRAM（通过SPI总线扩展，访问速度取决于SPI时钟配置）以及16MB的闪存。此前，开发者Dave Bennett在该开发板上部署AI参数的上限仅为26万个，而本次突破将参数规模提升了两个数量级。该模型基于Transformer架构，与谷歌等大公司的AI模型同源，但经过极致的量化与压缩，能够在8MB PSRAM中运行推理。项目设想用于离线调配最佳咖啡，即通过本地AI分析咖啡豆品种、烘焙程度、研磨粒度等参数，实时输出最优冲泡方案，全程无需联网。这一成果展示了在资源极度受限的物联网设备上运行复杂AI的可能性，对边缘计算、智能家居、工业自动化等领域具有重要参考价值。