DeepSeek开源第三日行业影响几何加速AI计算生态构建

小大

用微信扫描二维码
分享至好友和朋友圈

关键词：

2025-02-26 21:35:35 第一财经

2月26日，在开源周第三天，DeepSeek宣布开放高效的FP8 GEMM库DeepGEMM。这三天的发布内容都与算法相关，偏向技术层面。大模型生态社区OpenCSG创始人陈冉举例说，以前DeepSeek直接提供一个产品并说明其性能，现在则深入探讨实现高性能的具体方法和框架。这些“脚手架”的开源有助于后续生态建设。

此次发布的关键词是GEMM（通用矩阵乘法），这是一种线性代数中的基本运算。FP8 GEMM是一种使用8位浮点数进行矩阵乘法的操作，适用于深度学习和高性能计算，能在保持高效率的同时减少内存占用和带宽需求。据DeepSeek介绍，DeepGEMM支持传统稠密模型和MoE（混合专家）模型的GEMM运算，为基于英伟达Hopper架构（如H100 GPU）的V3/R1系列硬件提供高效训练和推理支持。

在英伟达Hopper架构的GPU上，DeepGEMM可实现超过1350 FP8 TFLOPS的性能，充分利用了算力。该代码库设计简洁，只有一个核心内核函数，约300行代码，但在大多数矩阵规模上优于专家调优的内核。DeepGEMM通过FP8和硬件级优化解决了大模型计算效率和资源消耗问题，尤其是对MoE模型的支持。开源行为加速了技术民主化，可能成为AI计算生态的基础设施，推动行业向更高效、低成本的方向发展。

FP8作为AI计算的新兴标准，可以加速千亿参数模型的训练，降低显存需求。在边缘设备或云端部署时，FP8的低精度计算能显著提升吞吐量，降低成本。因此，开源DeepGEMM有助于推动FP8生态普及，降低开发者使用门槛，促进更多框架和模型适配FP8，加速行业向低精度计算迁移。此外，DeepGEMM的开源还提供了高效实现MoE模型的参考，可能催生更多应用，如多模态模型和边缘端高效模型。

对于DeepSeek连续三天的代码库开源，陈冉表示非常震撼。他认为DeepSeek的目标是展示R1和V3的技术细节，发布的算法某种意义上属于“脚手架”，必须给开发者提供这些基础工具，才能让整个行业在此基础上继续发展。长期来看，这一开源动作非常有意义，既有模型标准，也有工具标准，还有生态基石，这样才能使生态成长起来。

陈冉认为，DeepSeek的代码开源可能会影响一批从事AI基础设施层的人士。尽管DeepSeek已经公开了大部分技术栈和模型，但数据部分仍需复现。这种开源是一把双刃剑，如果能用好可能会带来好处，否则可能受到冲击。有从业者表示，虽然DeepSeek开源的是推理加速部分，对从业者的实际影响或许不会太大，但其对行业的影响才刚刚开始，未来走向难以预测。

DeepSeek此前宣布会陆续开源五个代码库，接下来还将发布两个代码库。每分享一行代码，都将为加速AI行业发展贡献力量。

(责任编辑：张佳鑫 0764)

关闭

DeepSeek开源第三日 行业影响几何 加速AI计算生态构建

相关新闻

今日热点

频道热点

DeepSeek开源第三日行业影响几何加速AI计算生态构建