面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度

IT之家 10 月 13 日消息,面壁智能今天宣布推出新一代端侧多模态大模型 MiniCPM-V 4.7,提供 35B-A3B 和 1B 两种规格,其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型。 据官方介绍,这款模型基于最新 LES(前瞻专家调度)推理加速技术,其中 35B-A3B 版本是首个支持端侧无损流畅运行的开源 MoE 模型, 在 iPhone 17 Pro Max 上以仅 3GB 内存达到 13+ token/s 的解码速度 。 IT之家了解到,MiniCPM-V 4.7 同时支持 iOS、安卓和鸿蒙,并适配 Intel、AMD、Arm、瑞芯微、后摩等芯片平台…
以上为资讯摘要,完整内容请访问原文网站。
阅读原文 →