DeepSeek宣布将内部推理框架DeepInfer全面开源,目标实现大模型普惠
IT之家10月20日消息,DeepSeek今日官宣,在此前开源一系列大模型、TileLang编译工具及推理算子库的基础上, 决定进一步将内部推理框架DeepInfer全面开源 。
DeepSeek官方表示,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层: 推理框架 。
训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了AI服务的算力成本与电力消耗。
DeepSeek希望通过分享内部的部署经验, 帮助开发者与企业组织优化大规模推理的吞吐与延迟 ,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群, 实现真正的大模型普惠 。
基于DeepInfer,DeepSeek官方已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务。未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。
DeepInfer推理框架 :集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。
deepseek-recipe编解码组件 :同步开源的生产级Token编解码组件,与DeepSeek官方API处理逻辑完整对齐,确保社区获得与官方部署一致的API体验。
IT之家附开源地址如下:
DeepInfer:https://github.com/deepseek-ai/DeepInfer
deepseek-recipe:https://github.com/deepseek-ai/deepseek-recipe
转载说明引用来源:IT之家引用网址:https://www.ithome.com/1/015/429.htm