前言

2025年1月10日，一个名为DeepSeek的初创公司发布了一款名为R1的大语言模型，声称其在推理任务上可与OpenAI的ChatGPT o1媲美。这款模型不仅在创纪录的时间内登顶App Store排行榜，还引发了全球范围内的广泛讨论。DeepSeek的创始人梁文峰曾是一名对冲基金经理，如今他带领团队在人工智能领域掀起了一场革命。

深度剖析DeepSeek R1

1. 背后的公司

DeepSeek成立于2023年5月，总部位于杭州和北京。由梁文峰创立的高飞飞行基金支持。这家公司不仅在短时间内推出了R1模型，还在Huggingface上发布了R1的权重，并在GitHub上发布了R1的推理代码。

2. 模型架构与训练

R1是基于V3-Base的推理模型，使用了监督微调（SFT）和强化学习（RL）进行训练。R1使用了长链思维模式进行推理，并被蒸馏成更小的密集模型。尽管DeepSeek未发布训练代码或所有硬件优化相关代码，但其技术组件仍显示出其在有限硬件上的高效训练能力。

3. 训练成本与技术细节

R1的训练成本据报道为558万美元。DeepSeek团队通过算法、框架和硬件的优化，充分利用了有限的硬件资源。他们使用了FP8混合精度训练框架，显著减少了所需内存量，并开发了高效的跨节点全对全通信内核，以充分利用InfiniBand和NVLink带宽。

4. 模型的独特优势

DeepSeek在模型架构、训练技术和数据方面进行了多种复杂修改，以充分利用他们可用的有限硬件。他们的模型在多语言处理方面表现出色，但在法语表现不够流畅，偶尔会出现意外的中文或阿拉伯字符，并且在复杂推理时偶尔会切换回英语推理风格。

深入探讨DeepSeek的独特之处

1. 针对可用硬件的优化

DeepSeek必须使用的H800有两个关键限制：它们的GPU到GPU互连带宽是H100的一半，内存要小得多。DeepSeek似乎将这些限制转为优势，通过算法、框架和硬件的优化协同设计实现高效训练。

2. 强化学习的影响

DeepSeek在V2和V3中使用了GRPO（组相对策略优化）进行强化学习。强化学习对推理模型R1的影响很大，显著提高了基准性能，同时节省了内存。

3. 多头潜在注意力（MLA）

DeepSeek在V2论文中引入了一种多头注意力的变体，称为多头潜在注意力（MLA）。MLA不仅允许扩展，还提高了模型质量。

4. 蒸馏 vs 强化学习

DeepSeek团队讨论了蒸馏与强化学习的优劣，得出结论：蒸馏可以产生出色的结果，但需要更强大的基础模型和更大规模的强化学习。

结语

DeepSeek R1的成功并非偶然，其背后的技术细节和独特方法使其在有限的硬件资源下实现了高效的训练和推理。尽管DeepSeek未开源他们的训练数据和代码，但其技术成就和独特方法仍为人工智能领域树立了新的标杆。未来，随着技术的不断进步，DeepSeek有望继续引领人工智能的发展潮流。