淘宝MNN发布轻量端侧大模型MNN-Pocket-0.3B

2026年11月6日,淘宝MNN团队正式发布面向手机应用的轻量语言模型MNN-Pocket-0.3B。该模型参数约3亿,专为端侧低算力、低内存(峰值<300MB)、低功耗(100次推理耗电<电池总量1%)场景优化,在iPhone 18 Pro实测解码速度达350token/s,部署体积仅173MB。模型支持中英文,指令遵循能力领先同规模模型,开源多个训练与部署版本,适配Metal、OpenCL及CPU后端。

上一篇:

下一篇:

发表回复

登录后才能评论