🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

蚂蚁百灵开源 Ling-3.1-flash AI 模型,最高支持 1M 上下文

蚂蚁百灵开源 Ling-3.1-flash AI 模型,最高支持 1M 上下文
IT之家 10 月 16 日消息,蚂蚁百灵昨日宣布开源 Ling-3.1-flash 模型,Ling-3.1-flash 总参数约 560B,每个 Token 激活约 25B,最高支持 1M 上下文。 在 Artificial Analysis 的公开评测中,Ling-3.1-flash 的智能指数为 41、输出速度约为每秒 210 Token。 针对本地部署,团队对 routed experts 采用 MXFP4 量化、dense 层保持 block-FP8,权重占用从约 534GB 降至 292GB 。在对应的 Hopper GPU 测试配置中,服务部署由 8 卡降至 4 卡 ,让具备服务…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →