量子位(公众号 · Wechat2RSS)·· 1 天前精选AI 评分80
面壁智能和OpenBMB开源 MiniCPM-V 4.7,可在 iPhone 断网运行 35B 多模态模型
iPhone断网跑35B多模态!国产开源新模型,只占3G内存
AI 导读
面壁智能和OpenBMB正式开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,主打端侧多模态运行。35B-A3B 是总参数 35B、每次推理激活 3B 的 MoE 模型,文中称大约只要 3G 内存即可在 iOS、安卓设备上运行,并在 iPhone 17 Pro Max 断网演示中完成图表问答。
推荐理由
原文把端侧实测、基准分数和推理优化放在一起,便于理解35B MoE在手机本地运行的路径。
来源:量子位(公众号 · Wechat2RSS) · mp.weixin.qq.com