🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

小米公开 MiMo-V3 核心架构 HySparse2:面向长程多轮 Agent 优化推理效率

小米公开 MiMo-V3 核心架构 HySparse2:面向长程多轮 Agent 优化推理效率
IT之家 9 月 24 日消息,小米 MiMo 今天公布面向 MiMo-V3 的核心架构 HySparse2,瞄准下一代长上下文 Agent。新架构旨在让模型以更低成本处理网页、文件、代码和工具调用记录,并从不断增长的任务历史中更准确地检索关键信息。 IT之家附官方详细介绍如下: HySparse2 面向长程多轮 AGENT,更少的 Prefill 计算,更小的 KV Cache,更精准的长上下文检索。 从 Xiaomi MiMo-V2 系列开始,我们持续探索模型能力与计算效率的共同提升。MiMo-V2 系列采用的 Hybrid SWA 混合注意力架构,将全注意力(Full Attention…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →