蚂蚁百灵开源 Ling-3.1-flash AI 模型,最高支持 1M 上下文

IT之家 10 月 16 日消息,蚂蚁百灵昨日宣布开源 Ling-3.1-flash 模型,Ling-3.1-flash 总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文。 在 Artificial Analysis 的公开评测中,Ling-3.1-flash 的智能指数为 41、输出速度约为每秒 210 Token。 针对本地部署,团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB 。在对应的 Hopper GPU 测试配置中,服务部署由 8 卡降至 4 卡 ,让具备服务…
以上为资讯摘要,完整内容请访问原文网站。
阅读原文 →