跳到正文
原文
量子位(公众号 · Wechat2RSS)·· 1 天前精选AI 评分80

面壁智能和OpenBMB开源 MiniCPM-V 4.7,可在 iPhone 断网运行 35B 多模态模型

iPhone断网跑35B多模态!国产开源新模型,只占3G内存

AI 导读

面壁智能和OpenBMB正式开源 MiniCPM-V 4.7,包含 35B-A3B 和 1B 两个版本,主打端侧多模态运行。35B-A3B 是总参数 35B、每次推理激活 3B 的 MoE 模型,文中称大约只要 3G 内存即可在 iOS、安卓设备上运行,并在 iPhone 17 Pro Max 断网演示中完成图表问答。

推荐理由

原文把端侧实测、基准分数和推理优化放在一起,便于理解35B MoE在手机本地运行的路径。

来源:量子位(公众号 · Wechat2RSS) · mp.weixin.qq.com