2024 年 12 月 26 日, 发布 ,一款 671B 参数的 MoE 基座模型,奠定了后续系列的能力基础。

DeepSeek-V3 671B MoE 开源大模型发布概览

图:DeepSeek 官网对话界面。V3 在 14.8T tokens 多语言语料上预训练,采用 FP8 混合精度并在 H800 集群上训练,官方披露总训练成本约 557.6 万美元(约 278.8 万 GPU 小时)。

版本速览

| 项目 | 内容 | |