🐌 蜗牛AI
← 返回 AI 资讯
科技👁 0

专为大模型设计:新芯航途 X7 Ultra 芯片中国首发量产 Armv9 车规级 CPU

专为大模型设计:新芯航途 X7 Ultra 芯片中国首发量产 Armv9 车规级 CPU
IT之家 10 月 29 日现场消息,在今天的发布会上,XHEART 新芯航途 CEO 李宗霖正式发布全新 X7 Ultra 大模型芯片。 据介绍,这枚芯片专为大模型设计,拥有超大核 NPU 架构,核内数据交互对比核间数据交互, 互联速率 TB/s 数量级提升 。另外,芯片的多级缓存架构支持大容量、高并发特性,可降低推理时延与功耗。 新芯航途 X7 Ultra 大模型芯片内置高精度大模型专用算子加速引擎,针对 Layernorm、Softmax、Transpose 等一系列 Transformer 大模型关键算子进行极致硬件优化,原生支持 FP16/FP32 高精度向量计算,保障模型精度。 通…

以上为资讯摘要,完整内容请访问原文网站。

阅读原文 →