AI趋势 | DeepSeek开源推理框架DeepInfer，兼容华为昇腾

据 ChainCatcher 报道，DeepSeek宣布开源内部推理框架DeepInfer及Token编解码组件deepseek-recipe。DeepInfer支持分布式推理、推测解码、SWA Bounded Replay和结构化输出，兼容英伟达与华为昇腾。DeepSeek称，已基于该框架为DeepSeek V4.1 Flash实现高吞吐、低延迟的大规模推理服务；未来新模型的推理代码及优化也将在此更新。开源仓库及技术报告已发布。