中华网 china.com

新闻

中国AI企业应如何看待英伟达新显卡 算力不再是唯一关键(2)

关键词:
2025-01-08 09:00:03  玉渊谭天

Mistral AI公司公开引入混合专家模型进行大模型训练,用多个特定领域的“小专家”配合几个“通用专家”,先决定问题类型再处理不同类型的问题。此外,DPO、LoRA等高效微调方法也简化了模型对齐过程,降低了复杂度。在这种趋势下,国产大模型逐渐明确了发展方向。2024年,国产大模型取得了显著进展,有些通过底层优化,仅用2048块GPU就达到了头部公司数万块GPU训练才具备的大模型性能。

在中国工业互联网研究院的数据中,DeepSeek-V3通过采用混合精度方法,有效平衡了训练精度和效率,结合混合专家模型架构,将大模型训练成本降低至500万美元,仅为同性能模型的5%~10%,而性能却与GPT-4o和Claude 3.5 Sonnet相当。目前,国内类似的大模型成本和训练时长都大幅下降。这种新的训练方法不仅降低了大模型行业的门槛,还推动了全球大模型的降价潮,对人工智能技术的应用和转化具有革命性意义。

业内人士指出,在当前全球人工智能大模型的竞争中,算力虽然重要,但不是决定性因素。只有与软件和应用场景结合起来,才能真正赋能行业转型,提高经济效率。部分人工智能项目存在“假智能”的问题,即靠大量数据叠加出答案,缺乏真正的创造力和想象力。尽管一些前沿大模型探索了“思维链”,试图模拟人类思维推导,但在实现“通用人工智能”方面仍有较大障碍。

更大的问题是,仅靠算力的方式迟早会遇到瓶颈。现有大模型已经读完了几乎所有的英文书籍,接下来的发展方向必须回到技术本质,解决更关键的方向性问题。中国企业正通过高效灵活的路径,找到更加“聪明”的人工智能发展方向。人工智能是一场向着未知的探险,中国企业选定的方向不会轻易被各种“焦虑”裹挟。中国AI企业应如何看待英伟达新显卡!

(责任编辑:卢其龙 CN070)
关闭

山寨俄罗斯商品馆遍地开花 真假难辨引发关注

山寨俄罗斯商品馆遍地开花2025-01-08 08:58:10

专家:特鲁多下台意味着什么 中加关系有望改善

特鲁多下台意味着什么2025-01-08 08:57:17

吃人家的嘴短?内马尔也说沙特联强于法甲 认可C罗观点

吃人家的嘴短,内马尔也说沙特联强于法甲2025-01-08 08:57:03

特朗普就职后改革能成功吗

特朗普就职后改革能成功吗2025-01-07 16:42:33

还能这么玩?巴萨奥尔莫问题有人“全力相助”,规避失去风险 反对派质疑管理

还能这么玩,巴萨奥尔莫问题有人全力相助,规避失去风险2025-01-08 08:50:15

专家:特鲁多下台意味着什么 中加关系有望改善

特鲁多下台意味着什么2025-01-08 08:57:17

西藏日喀则拉孜县发生3.8级地震 震源深度10千米

西藏日喀则拉孜县发生3.8级地震2025-01-08 08:55:36

重磅!世界首富马斯克有意收购利物浦 Grok建议引援方向

重磅,世界首富马斯克有意收购利物浦2025-01-08 08:49:35

蓝营青年谈柯建铭为何突喊“双罢” 绿营内斗外溢

蓝营青年谈柯建铭为何突喊双罢2025-01-07 16:23:06

中国人也参与了“黑洞”的命名,但最终“灵魂画手”是惠勒

中国人也参与了黑洞的命名2025-01-07 16:31:31

山寨俄罗斯商品馆遍地开花 真假难辨引发关注

山寨俄罗斯商品馆遍地开花2025-01-08 08:58:10

历史上首次!拜登被日本知名企业正式起诉 指控非法干涉收购案

历史上首次,拜登被日本知名企业正式起诉2025-01-08 08:09:47

神奇!屏幕能拉长,伸手就收回 联想CES发布卷轴屏电脑 创新显示技术引领未来

神奇,屏幕能拉长,伸手就收回联想CES发布卷轴屏电脑2025-01-08 08:51:11

比亚迪向西藏捐赠1000万 助力灾后重建

比亚迪向西藏捐赠1000万2025-01-08 08:55:47

女友发文恳请保护王星隐私 减少肖像传播避免二次伤害

女友发文恳请保护王星隐私2025-01-08 08:53:42

泰警察总署署长搭特快专机接星星 确认找到并接回

泰警察总署署长搭特快专机接星星2025-01-07 16:38:28

成飞沈飞的六代机动力是什么?

成飞沈飞的六代机动力是什么2025-01-07 16:35:35

特朗普称要让格陵兰岛再次伟大 购岛意愿再起

特朗普称要让格陵兰岛再次伟大2025-01-08 08:08:34

中国船员被绑至缅甸 家属遭勒索10万元 家属焦急寻人

中国船员被绑至缅甸家属遭勒索10万元2025-01-08 08:08:08

泰国总理确认王星已找到 泰方谨慎处理减少影响

泰国总理确认王星已找到2025-01-07 16:37:57

静态体验领克900 豪华配置尽享科技

静态体验领克9002025-01-08 08:48:14

美媒:2025年五角大楼瞄准15个关键技术,包括航天器、生物化学等领域 战略资本助力国防科技

美媒,2025年五角大楼瞄准15个关键技术,包括航天器,生物化学等领域2025-01-07 16:40:48

中国科技巨头被美列“军工名单” 中方回应 坚决反对美方制裁举措

中国科技巨头被美列军工名单中方回应2025-01-07 16:26:52

吃人家的嘴短?内马尔也说沙特联强于法甲 认可C罗观点

吃人家的嘴短,内马尔也说沙特联强于法甲2025-01-08 08:57:03

王星称被关在有50个中国人的建筑内 机智勇敢获救

王星称被关在有50个中国人的建筑内2025-01-08 08:56:31

西藏地震已致126人遇难188人受伤 救援行动紧急展开

西藏地震已致126人遇难188人受伤2025-01-08 08:56:49

中国船员疑赴泰国后失联被绑至缅甸 家属急寻线索

中国船员疑赴泰国后失联被绑至缅甸2025-01-08 08:06:49

高通宣布近十项新合作 拓展汽车科技布局

高通宣布近十项新合作2025-01-07 16:43:05

运20飞往西藏日喀则地震灾区 抗震救灾进行时

运20飞往西藏日喀则地震灾区2025-01-07 16:40:18

黄仁勋:Blackwell已全面投入生产,性能提升四倍

黄仁勋Blackwell已全面投入生产2025-01-07 16:21:27

马斯克民调:美应解放英吗

马斯克民调美应解放英吗2025-01-07 16:29:47

踢完英超晕了!卢顿全队身价1亿英冠第5,6轮5负仅高降级区2分 保级警报再响

踢完英超晕了,卢顿全队身价1亿英冠第5,6轮5负仅高降级区2分2025-01-08 08:49:59

贾玲以李焕英名义向西藏灾区捐款 明星齐心援助

贾玲以李焕英名义向西藏灾区捐款2025-01-08 08:53:19

林允儿去年停止活动的原因 身体需要调整休息

林允儿去年停止活动的原因2025-01-08 08:55:21

退休教授将生前积蓄捐给母校 一生为教育

退休教授将生前积蓄捐给母校2025-01-08 08:47:44

相关新闻