- 1
- 2
- 3
- 4
- 5
DeepSeek系列模型概览与架构演进.docx
资料介绍
DeepSeek系列模型概览与架构演进
一、引言
DeepSeek（深度求索）成立于2023年7月，是幻方量化旗下的AI公司，专注于通用人工智能（AGI）研究。自成立以来，DeepSeek以极低的训练成本和完全开源策略，在短短两年多时间内推出了从V2到V4、从R1到R1-0528等多个里程碑式模型，成为全球开源大模型领域最具影响力的技术力量之一。本文从宏观视角梳理DeepSeek系列模型谱系，分析其核心架构演进脉络与技术哲学。
二、模型谱系总览
2.1 基础模型（V系列）
DeepSeek-V2（2024年5月发布）：总参数236B，每token激活21B，采用MLA（多头潜在注意力）和DeepSeekMoE架构，支持128K上下文，API价格仅为GPT-4 Turbo的1/70，引发国内大模型价格战。
DeepSeek-V3（2024年12月发布）：总参数671B，每token激活37B，256个路由专家+1个共享专家，预训练14.8T token，训练成本仅557.6万美元，性能对标GPT-4o，震动硅谷。引入FP8混合精度训练、MTP（多Token预测）、DualPipe等关键技术。
DeepSeek-V3.1（2025年3月更新）：参数规模提升至685B，代码能力、UI设计、推理能力显著提高。
DeepSeek-V4 Preview（2026年4月发布）：V4-Pro（1.6T总参/49B激活）和V4-Flash（284B总参/13B激活），均原生支持100万token上下文，引入CSA/HCA混合注意力机制、mHC流形约束超连接、Muon优化器，推理FLOPs仅为V3.2的27%。
DeepSeek-V4-Flash正式版（2026年7月发布）：未修改架构，仅通过后训练提升，代码修复基准SWE-bench从7.3暴涨至54.4，涨幅超过640%。
部分文件列表
| 文件名 | 大小 |
| DeepSeek系列模型概览与架构演进.docx | 38K |
最新上传
- 打赏
- 30日榜单
-
21ic小能手 打赏5.00元 16小时前
资料：磁编码器开源方案
-
21ic小能手 打赏5.00元 16小时前
-
21ic小能手 打赏5.00元 16小时前
-
江岚 打赏20.00元 3天前
-
江岚 打赏50.00元 3天前
-
江岚 打赏20.00元 3天前
-
江岚 打赏10.00元 3天前
-
21ic小能手 打赏10.00元 3天前
-
21ic小能手 打赏8.00元 3天前
-
21ic小能手 打赏8.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
tangyu1 打赏1.00元 3天前
-
jjjjkkkkk 打赏1.00元 3天前
-
emlimei 打赏1.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏3.00元 3天前
资料：低频功率放大器的设计.
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏3.00元 3天前
-
21ic小能手 打赏5.00元 3天前
资料：51单片机数字频率计
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
21ic小能手 打赏5.00元 3天前
-
13573902396 打赏1.00元 3天前
-
21下载积分 打赏310.00元 3天前
用户：江岚
-
21下载积分 打赏310.00元 3天前
用户：潇潇江南
-
21下载积分 打赏60.00元 3天前
用户：他山之石可攻玉
-
21下载积分 打赏310.00元 3天前
用户：小猫做电路
-
21下载积分 打赏210.00元 3天前
用户：zhengdai
-
21下载积分 打赏210.00元 3天前
用户：w993263495
-
21下载积分 打赏10.00元 3天前
用户：烟雨
-
21下载积分 打赏60.00元 3天前
用户：gsy幸运
-
21下载积分 打赏70.00元 3天前
用户：铁蛋锅
-
21下载积分 打赏65.00元 3天前
用户：xzxbybd
-
21下载积分 打赏60.00元 3天前
用户：jh0355
-
21下载积分 打赏60.00元 3天前
用户：w178191520
-
21下载积分 打赏20.00元 3天前
用户：jh03551
-
21下载积分 打赏20.00元 3天前
用户：sun2152
全部评论(0)