中华网 china.com

新闻

DeepSeek-R2曝5月前上线 AI计算迎来新突破

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2025-02-26 13:36:35  新智元

DeepSeek-R2曝5月前上线。第三天，DeepSeek发布了DeepGEMM。这是一个支持稠密和MoE模型的FP8 GEMM计算库，可为V3/R1的训练和推理提供强大支持。仅用300行代码，这个开源库就能超越专家精心调优的矩阵计算内核，为AI训练和推理带来显著性能提升。

DeepGEMM库具有以下特点：在Hopper GPU上实现高达1350+ FP8 TFLOPS的算力；极轻量级依赖，代码清晰易懂；完全即时编译，即用即跑；核心逻辑仅约300行代码，却在大多数矩阵规模下超越专家级优化内核；同时支持密集布局和两种MoE布局。开发者惊叹于其简洁高效的设计，认为这可能是GPU运算技术的重大突破。

DeepGEMM改变了使用FP8 GEMM库的方式，简单、快速、开源，代表着AI计算的未来。在即将发布的DeepSeek-R2中，将实现更好的编码，并支持多种语言进行推理。业内人士预测，这将是AI行业的一个关键时刻。目前，DeepSeek已经在创建高成本效益模型方面取得成功，打破了该领域的垄断局面。DeepGEMM发布两天内，前两个项目FlashMLA和DeepEP分别获得了近10k和5k星标。

DeepGEMM专为清晰高效的FP8通用矩阵乘法设计，采用了DeepSeek-V3中提出的细粒度缩放技术。它支持常规矩阵乘法和混合专家模型分组矩阵乘法。DeepGEMM使用CUDA编写，通过轻量级即时编译模块在运行时编译所有内核。目前仅支持NVIDIA Hopper张量核，为了解决FP8张量核在累加计算时的精度问题，采用了基于CUDA核心的两级累加技术。尽管借鉴了CUTLASS和CuTe的一些概念，但避免了过度依赖它们的模板或代数系统，追求设计简洁，包含一个核心内核函数，代码量仅约300行。尽管采用轻量级设计，DeepGEMM在处理各种矩阵形状时的性能都能够达到甚至超越经专家调优的库。

关闭

求职者找工作变贷款买课 培训陷阱频现

求职者找工作变贷款买课2025-03-17 12:50:40

千万寻子当事人谢浩男考虑读博 父子团圆共庆未来

千万寻子当事人谢浩男考虑读博2025-03-17 12:50:10

水煮鸡蛋营养吸收率最高 每日一蛋助健康

水煮鸡蛋营养吸收率最高2025-03-17 12:48:35

被家暴16次案当事人称遭网暴 网络暴力再添伤痕

被家暴16次案当事人称遭网暴2025-03-17 12:32:02

为什么有人抢着进福耀科技大学 个性化培养方案吸引目光

为什么有人抢着进福耀科技大学2025-03-17 12:44:28

女子网购注射器打水光针 脸上长出硬疙瘩 自行注射隐患大

女子网购注射器打水光针脸上长出硬疙瘩2025-03-17 10:57:48

名牌卫生巾纸尿裤被翻新二次销售 黑幕曝光引发关注

名牌卫生巾纸尿裤被翻新二次销售2025-03-17 12:35:36

梅德韦杰夫：北约“维和部队”进驻乌克兰意味着与俄开战

梅德韦杰夫,北约维和部队进驻乌克兰意味着与俄开战2025-03-17 11:41:58

为何说乌克兰恨死了马斯克？军援中断引发前线不满

为何说乌克兰恨死了马斯克2025-03-17 11:37:19

求职者找工作变贷款买课 培训陷阱频现

求职者找工作变贷款买课2025-03-17 12:50:40

森林狼128-102轻取爵士 兰德尔助力连胜

森林狼128-102轻取爵士2025-03-17 12:35:08

纽约特斯拉Cybertruck被恶意涂鸦 车主对峙肇事者引发关注

纽约特斯拉Cybertruck被恶意涂鸦2025-03-17 11:25:50

大V解读美国将韩国列入“敏感国家” 影响科研合作

大V解读美国将韩国列入敏感国家2025-03-17 10:54:47

3名厅官被查！副厅长的她主动投案 汤筱疏涉严重违法

3名厅官被查,副厅长的她主动投案2025-03-17 12:37:33

美军大举空袭也门 是“敲山震虎”还是“作茧自缚”？ 向伊朗发出警告信号

美军大举空袭也门是敲山震虎还是作茧自缚2025-03-17 10:58:05

国内首个太空采矿机器人来了！适应微重力环境

国内首个太空采矿机器人来了2025-03-17 12:38:00

台湾屏东市区凌晨爆发枪战 5人受伤 街头对峙交火

台湾屏东市区凌晨爆发枪战5人受伤2025-03-17 11:06:52

315晚会曝光借贷宝高利贷！借贷宝App火速下线“打欠条”功能 电子借条平台被点名

315晚会曝光借贷宝高利贷,借贷宝App火速下线打欠条功能2025-03-17 12:39:33

乌克兰确认：乌军撤出！向俄乌边境靠拢

乌克兰确认,乌军撤出2025-03-17 11:24:33

第18届亚洲电影大奖获奖名单出炉 汤唯刘青云等获奖

第18届亚洲电影大奖获奖名单出炉2025-03-17 12:42:18

水煮鸡蛋营养吸收率最高 每日一蛋助健康

水煮鸡蛋营养吸收率最高2025-03-17 12:48:35

专家：美国背刺韩国是为防止其拥核 韩方措手不及

专家,美国背刺韩国是为防止其拥核2025-03-17 11:41:30

国产特种驳船亮相影响几何 引发国际震动

国产特种驳船亮相影响几何2025-03-17 11:06:28

千万寻子当事人谢浩男考虑读博 父子团圆共庆未来

千万寻子当事人谢浩男考虑读博2025-03-17 12:50:10

俄称已疏散数百苏贾民众，乌军撤离库尔斯克地区

俄称已疏散数百苏贾民众2025-03-17 11:35:25

美官员称击落11架胡塞武装无人机 否认美航母遭袭

美官员称击落11架胡塞武装无人机 否认美航母遭袭2025-03-17 10:52:33

食品专家：应理性看待食品添加剂 保水虾仁引争议

食品专家,应理性看待食品添加剂2025-03-17 12:40:04

专家：米汤代替母乳奶粉会造成严重营养不良 博主言论被禁言处置

专家,米汤代替母乳奶粉会造成严重营养不良2025-03-17 12:46:18

美前高官：美应接纳中国本来的面貌 中美关系需新机遇

美前高官,美应接纳中国本来的面貌2025-03-17 11:24:07

英法坚持要向乌克兰派驻部队 欧洲内部意见分歧严重

英法坚持要向乌克兰派驻部队2025-03-17 11:43:35

男子公交车上突然晕倒 司机和乘客齐心救助 生死时速救援

男子公交车上突然晕倒司机和乘客齐心救助2025-03-17 12:46:39

胡塞武装称24小时内2次袭击美航母 导弹与无人机齐发

胡塞武装称24小时内2次袭击美航母2025-03-17 10:49:10

家里养过猪的外卖小哥避雷烤鱼店 食品安全引热议

家里养过猪的外卖小哥避雷烤鱼店2025-03-17 12:33:19

启航！海军登陆舰编队跨昼夜实训 锤炼实战能力

启航,海军登陆舰编队跨昼夜实训2025-03-17 11:04:50

科创“试验田”成产业“丰产田” 机器人与AI产业蓬勃发展

科创试验田成产业丰产田2025-03-17 12:41:44

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网