DeepSeek 宣布将内部推理框架 DeepInfer 全面开源，目标实现大模型普惠

IT之家 10 月 20 日消息，DeepSeek 今日官宣，在此前开源一系列大模型、TileLang 编译工具及推理算子库的基础上， 决定进一步将内部推理框架 DeepInfer 全面开源 。 DeepSeek 官方表示，大模型的能力边界由模型本身划定，但如何以合理成本提供超大规模的模型服务，还取决于一个长期未被公众了解的中间层： 推理框架 。 训练使模型学有所成，推理则让模型为人所用。面对如今海量的用户调用，推理框架负责统筹调度庞大的算力集群，其效率直接决定了 AI 服务的算力成本与电力消耗。 DeepSeek 希望通过分享内部的部署经验， 帮助开发者与企业组织优化大规模推理的吞吐与延迟 …