DeepSeek 开源 DeepInfer 推理框架,首批支持 V4.1-Flash
DeepSeek 发布其大规模推理框架 DeepInfer 的开源代码,采用 Apache 2.0 许可,当前支持 DeepSeek-V4.1-Flash。公开版本提供离线推理及多项运行时优化,不等于可直接替代完整在线服务的全部基础设施。
推荐理由:Codex 来源核对 · 国内一手工程发布;按代码范围介绍,不把第三方利润估算当成官方经营数据。
技术方向
开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。
6 条精选近 30 天 6 条共收录 6 条
DeepSeek 发布其大规模推理框架 DeepInfer 的开源代码,采用 Apache 2.0 许可,当前支持 DeepSeek-V4.1-Flash。公开版本提供离线推理及多项运行时优化,不等于可直接替代完整在线服务的全部基础设施。
推荐理由:Codex 来源核对 · 国内一手工程发布;按代码范围介绍,不把第三方利润估算当成官方经营数据。
Clairic 在 Workers AI 上提供预览,面向从非结构化输入中提取、计算及估计值。官方将其定位为快速提取模型,并计划开放权重;性能和成本优势需按自己的数据复测。
推荐理由:Codex 来源核对 · 区分预览可用、未来开放权重与性能主张。
量子位介绍清华 THUNLP 等团队的项目,覆盖项目隔离、可查看修改的长期记忆、后台任务与模型路由,并原生支持 MCP。成本下降来自团队测试,应结合自己的长任务复验。
推荐理由:Codex 来源核对 · 原始技术资料,附实现与评估入口。
Hugging Face 介绍 Beam 的 501B 总参数、每 token 23B 激活参数与长上下文设计,采用 Apache 2.0 许可。文章附推理、微调及硬件要求,适合评估自托管条件。
推荐理由:Codex 来源核对 · 按原文范围整理,保留案例及数据的适用边界。
量子位介绍国产游戏世界模型的开源方案,以显式游戏逻辑管理血量、任务等状态,再生成视觉表现。单卡实时演示有画质与硬件前提,适合关注世界模型工程路线。
推荐理由:Codex 来源核对 · 按原文范围整理,保留案例及数据的适用边界。
官方生态文章介绍 Meta 多模态 MoE 模型的文本、图像、音频与视频能力,并列出 Transformers、MLX 等推理支持和微调示例。使用前需核对模型许可与硬件门槛。
推荐理由:Codex 来源核对 · 按原文范围整理,保留案例及数据的适用边界。