ESP32-AI亮相：8MB PSRAM运行2890万参数模型
乌克兰开发者成功在ESP32-S3上运行2890万参数AI模型，通过分层嵌入与4-bit量化将模型压缩至14.9MB，嵌入表存入闪存缓解内存压力，适用于离线咖啡机等垂直场景，验证了小芯片运行大模型的可能性。
在嵌入式AI领域，一个看似不可能的任务最近被实现了：乌克兰开发者Sla va S成功在乐鑫ESP32-S3开发板上跑通了2890万个参数的本地AI模型。要知道，这块开发板的内存资源相当有限——512KB的SRAM、8MB的PSRAM和16MB的闪存。此前，另一位开发者Da ve Bennett在这块板子上部署AI模型时，参数上限被卡在26万个。差距有多大？整整两个数量级。
那么，Sla va S是怎么做到的？关键一招是采用了Google Gemma模型中的“Per-Layer Embeddings”（分层嵌入）技术。模型经过4-bit量化后，文件大小被压缩到14.9MB，而25M参数的嵌入表被直接存入16MB的闪存中。这样一来，模型每生成一个Token，只需要从嵌入表中读取少量数据，内存压力大幅降低。
当然，得说清楚：这块板子虽然能跑2890万个参数，但别指望它陪你聊天或写代码。Sla va S本人也坦承，目前的应用场景更偏向于垂直领域——比如离线咖啡机。想象一下，一台搭载ESP32-S3的咖啡机，可以根据咖啡豆品种、研磨方式、水粉配比和水温，实时生成个性化的冲泡建议。这比云端方案更省心，也更有趣。
话说回来，这个突破的意义更多在于验证了“小芯片也能跑大模型”的可能性。当算力成本不再是唯一瓶颈，嵌入式AI的边界正在被重新定义。
赤友清理大师是一款为 Mac 设计的智能清理优化工具，可精准扫描垃圾、大文件、重复文件等，释放磁盘空间。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
极度公式是一款跨平台专业LaTeX公式识别编辑软件，支持OCR公式识别和多平台编辑。和使用说明，避免使用，享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时，它能把识别后的处理步骤接得更顺，资料录入这类场景会省下不少时间。
一款文字处理软件，一种订阅式的跨平台办公软件，基于云平台提供多种服务，通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合，Office 365 可让任何人使用任何设备随时随地创建和共享内容。
Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件，为私密数据添加多重保护。高频操作更强调就近处理，浏览、整理和跨目录移动文件时，来回切换和重复点击都会少很多。
CodeExpander 是一款快捷短语输入增强工具，通过键入缩写自动展开为自定义文段，提升工作效率。任务管理和过程控制会更完整，持续下载、批量同步或需要稳定传输流程的场景会更适合它。
Mountain Duck 是一款能将多个网盘挂载到本地的工具，像本地磁盘一样使用网盘。清理链路的完整性会更好一些，做应用卸载、残留处理和空间整理时，通常能少走很多手动排查步骤。
