🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内

商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内
IT之家 11 月 17 日消息,商汤科技今天(17 日)晚间正式发布 SenseNova Loop-9B 模型。 该模型 延续了 Preview 版本对参数效率的探索 :通过 Loop 结构复用模型层的参数,并结合流形约束超连接(mHC),在约 9B 参数规模下扩展计算深度,面向复杂推理、代码、工具调用和多模态任务。 模型得益于 Loop 的高效循环结构, 官方 4bit 量化后权重仅约 4.9GB ,部署显存需求低至 10 GB 内,能显著拓宽可部署的硬件范围, 让低显存芯片获得前沿 27B 级别模型性能成为可能 。 SenseNova Loop-9B 总参数量约为 9B。模型通过两次执行…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →