DeepSeek 发布 V3.2-Exp 实验版:引入稀疏注意力 DSA,提升长文本效率
↗2025 年 9 月 29 日,DeepSeek 发布实验版 V3.2-Exp,引入 DeepSeek 稀疏注意力(DSA),在长上下文场景下提升计算效率,为后续正式版的效率优化铺路。
围绕这个主题,发现相关工具、新闻和真实工作流。
探索其他标签2025 年 9 月 29 日,DeepSeek 发布实验版 V3.2-Exp,引入 DeepSeek 稀疏注意力(DSA),在长上下文场景下提升计算效率,为后续正式版的效率优化铺路。
2024 年 12 月 26 日,DeepSeek 发布 671B 参数的 MoE 基座模型 DeepSeek-V3,单 token 激活约 37B,新增多 token 预测并采用 FP8 混合精度训练,性能对标 GPT-4o 与 Claude 3.5 Sonnet,并以极低训练成本引发业界关注。
2025 年 1 月 20 日,DeepSeek 以 MIT 协议开源 DeepSeek-R1 推理模型,从 V3-Base 初始化、以强化学习驱动训练,数学与编程推理对标 OpenAI o1 且免费可用,应用迅速登顶美国 App Store 并引发市场震动。
2024 年 5 月,DeepSeek 发布 DeepSeek-V2 系列开源大模型,首次引入多头潜在注意力(MLA)与 MoE 稀疏架构,236B 总参数、单 token 激活约 21B,以极低推理成本对标主流模型,奠定后续 V3、R1 的高效路线。