🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B

欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B
IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。 Olala mini 7A1B 采用结合了 Differential-TPA 和 Mamba-3 的混合注意力机制,总参数 70 亿、激活参数 10 亿,使用 BF16 数据格式。 该模型将以 Apache 2.0 许可开源发布在 Hugging Face 上 。 其 可在 8GB 显存的 GPU 上运行 ,在 RTX A4500 上可实现 160 TPS 的词元吞吐量,仅 CPU 平台也能实现 50 TPS。…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →