中华网 china.com

新闻

AI的尽头是能源吗 能耗挑战与未来方向

小 大

用微信扫描二维码
分享至好友和朋友圈

关键词：
2024-11-08 15:34:52  知识分子

AI的尽头是能源吗

无论是否支持人工智能的发展，我们都不能忽视其能耗问题。有人担心AI发展过快会对能源市场和环境造成冲击，也有人担忧能源产业进步缓慢会成为AI发展的瓶颈。AI的尽头是能源吗！

随着AI的普及，其在能耗中的占比将逐年提升。为此，AI研发企业纷纷投资能源供应。谷歌宣布购买Kairos Power建造的小型模块化反应堆生产的电力，微软则与星座能源公司达成协议，重启三里岛核电站1号反应堆并购买未来20年的电能。OpenAI首席执行官山姆·奥特曼也在今年年初投资了核聚变技术。

然而，新的趋势正在出现。多位业界人士表示，可以通过软硬件技术的提升以及宏观布局优化来降低AI的能耗，使能源利用更加高效。更重要的是，AI的进步方向不一定更大更强，一些小而美的模型正悄然登场。

关于AI的耗电量，一篇报道指出ChatGPT每日耗电量或超50万千瓦时，相当于1.7万个美国家庭的能耗。但也有观点认为这些估算过于夸张。尽管如此，我们可以进行一些定性讨论。例如，在算法层面，训练阶段比推理阶段能耗更高。清华大学电子工程系主任汪玉团队测试了不同算力芯片的单卡推理功耗，发现推理阶段的功耗基本在300W-500W之间，而训练阶段的功耗则高达400W-700W。未来推理功耗有望进一步下降。

大模型训练过程中还存在容错相关的额外能耗开销。Llama 3-405B在为期54天的训练期间共发生了466次任务中断，约78%由硬件问题引起，实际算力利用率只有38%左右。不过，从应用场景上看，用户推理请求的调用频率更高，即使单次调用能耗低，总能耗也可能相当可观。

随着技术完善，日常使用AI推理的单次能耗有望下降。上海数珩信息科技创始人张继生介绍，通过模型压缩、剪枝、量化等技术可以提高AI系统性能并降低能耗。清华电子院能源电子中心主任李中阳强调，算力与新能源供电特性匹配是关键，这需要AI前沿技术的支持。

关闭

县委书记实名招商 真诚邀约企业家

县委书记实名招商2024-12-04 17:00:30

“琼瑶经济”盈利约上亿美元 言情批发商的产业帝国

琼瑶经济盈利约上亿美元2024-12-04 16:58:30

琼瑶生前最后一段影像公布 作家轻生前留言

琼瑶生前最后一段影像公布2024-12-04 16:57:00

菲律宾前海军副司令：我们必须承认，中国成功争取到东盟国家的支持

菲律宾前海军副司令：我们必须承认，中国成功争取到东盟国家的支持2024-12-04 10:43:16

菲海警出动两艘日本造巡逻船，再赴鲎藤礁海域挑衅

菲海警出动两艘日本造巡逻船，再赴鲎藤礁海域挑衅2024-12-04 10:22:32

菲侵闯中国鲎藤礁现场图片公开 专家：菲方行为只会让中方加大管控力度

菲侵闯中国鲎藤礁现场图片公开 专家：菲方行为只会让中方加大管控力度2024-12-04 11:16:18

31岁女星乔欣劝网友独立结果自己转身嫁豪门备孕

31岁女星乔欣劝网友独立结果自己转身嫁豪门备孕2024-12-04 16:51:49

伊森和阿门·汤普森均表现不理想 交易市场关注度高

伊森和阿门·汤普森均表现不理想2024-12-04 16:48:54

“琼瑶经济”盈利约上亿美元 言情批发商的产业帝国

琼瑶经济盈利约上亿美元2024-12-04 16:58:30

琼瑶曾反对丈夫插管延续生命 尊重生命尊严的选择

琼瑶曾反对丈夫插管延续生命2024-12-04 16:52:10

中方加强相关两用物项对美国出口管制，“中国反制开始放开手脚了”

中方加强相关两用物项对美国出口管制，“中国反制开始放开手脚了”2024-12-04 11:03:20

女兵服役12年退伍向张桂梅报到 网友：女高精神永存！

服役12年女生回母校拥抱张桂梅2024-12-04 16:49:25

“白宫背后施压，要求土耳其约束其支持的叙反对派武装”

“白宫背后施压，要求土耳其约束其支持的叙反对派武装”2024-12-04 10:41:25

伊朗外长：如果叙利亚政府寻求伊朗军事帮助 伊朗会考虑

伊朗外长：如果叙利亚政府寻求伊朗军事帮助 伊朗会考虑2024-12-04 10:53:37

叙利亚叛军逼近中部大城市哈马

叙利亚叛军逼近中部大城市哈马2024-12-04 10:31:07

美最强驱逐舰不惜血本搞“换装”：准备搭载高超音速导弹，对标中俄“快速进步压力”

高超音速，导弹，驱逐舰2024-12-04 10:45:51

44岁霍思燕越胖越富，穿皮草没脖子，8岁女儿罕露面！

44岁霍思燕越胖越富2024-12-04 16:50:31

叙利亚乱局有蹊跷，到底谁是“幕后操盘手”？

叙利亚乱局有蹊跷，到底谁是“幕后操盘手”？2024-12-04 10:42:16

蔡文静新剧气血好足 都市剧的春天回来了

蔡文静新剧气血好足2024-12-04 16:54:09

乌克兰：拒绝接受成为北约正式成员的替代方案

乌克兰：拒绝接受成为北约正式成员的替代方案2024-12-04 10:40:48

县委书记实名招商 真诚邀约企业家

县委书记实名招商2024-12-04 17:00:30

琼瑶生前最后一段影像公布 作家轻生前留言

琼瑶生前最后一段影像公布2024-12-04 16:57:00

尹锡悦深夜宣布“紧急戒严”后，五角大楼发声：2.8万驻韩美军态势未发生变化

尹锡悦深夜宣布“紧急戒严”后，五角大楼发声：2.8万驻韩美军态势未发生变化2024-12-04 10:53:00

菲侵闯中国鲎藤礁现场图片公开 专家：菲方不可能占得丝毫便宜

菲侵闯中国鲎藤礁现场图片公开 专家：菲方不可能占得丝毫便宜2024-12-04 10:48:44

北约秘书长污蔑：中国“勒索”我们

北约秘书长污蔑：中国“勒索”我们2024-12-04 10:39:58

琼瑶最后一次公开现身 出席60周年演唱会

琼瑶最后一次公开现身2024-12-04 16:45:00

英国首相斯塔默：俄乌冲突可通过谈判结束

英国首相斯塔默：俄乌冲突可通过谈判结束2024-12-04 10:51:55

停火协议生效不到一周，黎以再动武

停火协议生效不到一周，黎以再动武2024-12-04 10:45:44

“今天的首尔就是明天特朗普治下的华盛顿”，CNN节目惹争议

今天的首尔就是明天特朗普治下的华盛顿,CNN节目惹争议2024-12-04 16:47:16

卡塔尔称未恢复加沙冲突的斡旋工作 但立场没有改变

卡塔尔称未恢复加沙冲突的斡旋工作 但立场没有改变2024-12-04 10:50:07

宪法之力 守护你我 弘扬法治精神

宪法之力守护你我2024-12-04 16:52:30

“北方第二城”天津还能重回巅峰吗

北方第二城天津还能重回巅峰吗2024-12-04 16:53:16

小学老师控诉涉黄卡片入侵校园 净土不再

小学老师控诉涉黄卡片入侵校园2024-12-04 16:53:43

女生被灌醉遭强奸致死案将于6日开庭 案件细节曝光引发关注

女生被灌醉遭强奸致死案将于6日开庭2024-12-04 16:49:32

韩国戒严军进入国会监控：2小时内24次出动直升机 280多名军人全副武装

韩国戒严军进入国会监控2024-12-04 16:45:42

相关新闻

主编邮箱
网上不良信息举报电话：010-56177181
关于中华网 | 广告服务 | 联系我们 | 招聘信息 | 版权声明 | 豁免条款 | 友情链接 | 中华网动态
版权所有 中华网