中华网 china.com

新闻

AI的尽头是能源吗 能耗挑战与未来方向

关键词:
2024-11-08 15:34:52  知识分子

AI的尽头是能源吗

无论是否支持人工智能的发展,我们都不能忽视其能耗问题。有人担心AI发展过快会对能源市场和环境造成冲击,也有人担忧能源产业进步缓慢会成为AI发展的瓶颈。AI的尽头是能源吗!

AI的尽头是能源吗

随着AI的普及,其在能耗中的占比将逐年提升。为此,AI研发企业纷纷投资能源供应。谷歌宣布购买Kairos Power建造的小型模块化反应堆生产的电力,微软则与星座能源公司达成协议,重启三里岛核电站1号反应堆并购买未来20年的电能。OpenAI首席执行官山姆·奥特曼也在今年年初投资了核聚变技术。

然而,新的趋势正在出现。多位业界人士表示,可以通过软硬件技术的提升以及宏观布局优化来降低AI的能耗,使能源利用更加高效。更重要的是,AI的进步方向不一定更大更强,一些小而美的模型正悄然登场。

关于AI的耗电量,一篇报道指出ChatGPT每日耗电量或超50万千瓦时,相当于1.7万个美国家庭的能耗。但也有观点认为这些估算过于夸张。尽管如此,我们可以进行一些定性讨论。例如,在算法层面,训练阶段比推理阶段能耗更高。清华大学电子工程系主任汪玉团队测试了不同算力芯片的单卡推理功耗,发现推理阶段的功耗基本在300W-500W之间,而训练阶段的功耗则高达400W-700W。未来推理功耗有望进一步下降。

大模型训练过程中还存在容错相关的额外能耗开销。Llama 3-405B在为期54天的训练期间共发生了466次任务中断,约78%由硬件问题引起,实际算力利用率只有38%左右。不过,从应用场景上看,用户推理请求的调用频率更高,即使单次调用能耗低,总能耗也可能相当可观。

关闭

易烊千玺用半年时间才走出角色 东京电影节获奖影片幕后

易烊千玺用半年时间才走出角色2024-11-08 15:34:00

伊万卡亮相特朗普胜选演说 站位微妙 政治成熟的选择

伊万卡亮相特朗普胜选演说 站位微妙2024-11-08 15:33:17

“特朗普交易”点燃市场,狂欢还是引火烧身? 小盘股的狂欢

“特朗普交易”点燃市场,狂欢还是引火烧身?2024-11-08 15:33:06

在西太平洋一天 山东舰返回南海

在西太平洋一天 山东舰返回南海2024-11-07 09:50:11

这次是中国海军的高光时刻到了!

这次是中国海军的高光时刻到了2024-11-07 09:39:14

进博会为最不发达国家撑起伞 共享发展机遇

进博会为最不发达国家撑起伞2024-11-08 15:32:37

博主揭露乌克兰华人骗局 黑暗骗局背后的真相

博主揭露乌克兰华人骗局2024-11-08 15:19:13

三款隐身战机将齐聚中国航展 军事专家最新解读

三款隐身战机将齐聚中国航展 军事专家最新解读2024-11-07 10:02:00

哈师大称对殴打空少谣言已报警 涉事者非该校教师

哈师大称对殴打空少谣言已报警2024-11-08 15:25:04

疑似冰岛事件内幕

疑似冰岛事件内幕2024-11-08 15:21:56

杨子知道自己爹味但不想改 坦白与坚持

杨子知道自己爹味但不想改2024-11-08 15:25:04

易烊千玺用半年时间才走出角色 东京电影节获奖影片幕后

易烊千玺用半年时间才走出角色2024-11-08 15:34:00

特朗普又上台,世界将面临的10大变化

特朗普又上台,世界将面临的10大变化2024-11-07 09:33:57

歼-15T落地珠海 性能有何提升?

歼-15T落地珠海 性能有何提升?2024-11-07 10:03:37

大选日当晚,美军试射“民兵3”洲际弹道导弹

大选日当晚,美军试射“民兵3”洲际弹道导弹2024-11-07 11:09:36

教师骂夜骑学生是酒囊饭袋 不当言论引争议

教师骂夜骑学生是酒囊饭袋2024-11-08 15:32:27

俄议会上院批准《俄朝全面战略伙伴关系条约》

俄议会上院批准《俄朝全面战略伙伴关系条约》2024-11-07 09:53:11

以色列总理解除防长职务引震动:国内各方强烈反对,美国政府“措手不及”

以色列总理解除防长职务引震动:国内各方强烈反对,美国政府“措手不及”2024-11-07 10:06:17

模仿帝陈挑战对抗白血病 已康复回归球场

模仿帝陈挑战对抗白血病2024-11-08 15:19:32

“一人一机”飞抵珠海,苏-57飞行员有多传奇?

飞行,战斗机,珠海航展2024-11-07 09:56:58

马刺12人全部出场 8人得分上双 全民皆兵力克开拓者

马刺12人全部出场 8人得分上双2024-11-08 15:23:00

中国,该怎么应对特朗普2.0

特朗普2024-11-07 09:36:17

歼-35A和歼-20有何不同?组合作战将带来哪些可能?专家解读

歼-35A和歼-20有何不同?组合作战将带来哪些可能?专家解读2024-11-07 10:04:34

《B超里的我们》谢娜首聊双胞胎

谢娜首聊双胞胎2024-11-08 15:19:56

爱彼迎等预订量飙升 旅游需求超预期

爱彼迎等预订量飙升2024-11-08 15:21:05

叶珂混乱情史遭曝光:曾傍过4个男大佬 黄晓明情变牵出猛料

叶珂混乱情史遭曝光:曾傍过4个男大佬2024-11-08 15:32:50

乌波矛盾加剧!波兰副总理:乌克兰想把我们拖入“与俄罗斯的战争”

乌波矛盾加剧!波兰副总理:乌克兰想把我们拖入“与俄罗斯的战争”2024-11-07 10:06:41

泽连斯基:希望能亲自向特朗普表示祝贺

泽连斯基:希望能亲自向特朗普表示祝贺2024-11-07 09:52:37

政治作风粗暴直接!绰号“推土机”的以色列外长出任新防长

政治作风粗暴直接!绰号“推土机”的以色列外长出任新防长2024-11-07 10:09:46

重型舰载战斗机歼-15T落地珠海,专家:中国海军“航母五件套”开始逐步实现

重型舰载战斗机歼-15T落地珠海,专家:中国海军“航母五件套”开始逐步实现2024-11-07 09:58:42

济南菜价连续五周环比下降 市民“菜篮子”轻快多了

济南菜价连续五周环比下降2024-11-08 15:19:51

中消协提示拒绝三无燃气器具 防范安全事故

中消协提示拒绝三无燃气器具2024-11-08 15:22:02

伊万卡亮相特朗普胜选演说 站位微妙 政治成熟的选择

伊万卡亮相特朗普胜选演说 站位微妙2024-11-08 15:33:17

“特朗普交易”点燃市场,狂欢还是引火烧身? 小盘股的狂欢

“特朗普交易”点燃市场,狂欢还是引火烧身?2024-11-08 15:33:06

如何区分歼-15和歼-15T?专家:起飞方式大不同

如何区分歼-15和歼-15T?专家:起飞方式大不同2024-11-07 10:21:25

相关新闻