AI的尽头是能源吗
无论是否支持人工智能的发展,我们都不能忽视其能耗问题。有人担心AI发展过快会对能源市场和环境造成冲击,也有人担忧能源产业进步缓慢会成为AI发展的瓶颈。AI的尽头是能源吗!
随着AI的普及,其在能耗中的占比将逐年提升。为此,AI研发企业纷纷投资能源供应。谷歌宣布购买Kairos Power建造的小型模块化反应堆生产的电力,微软则与星座能源公司达成协议,重启三里岛核电站1号反应堆并购买未来20年的电能。OpenAI首席执行官山姆·奥特曼也在今年年初投资了核聚变技术。
然而,新的趋势正在出现。多位业界人士表示,可以通过软硬件技术的提升以及宏观布局优化来降低AI的能耗,使能源利用更加高效。更重要的是,AI的进步方向不一定更大更强,一些小而美的模型正悄然登场。
关于AI的耗电量,一篇报道指出ChatGPT每日耗电量或超50万千瓦时,相当于1.7万个美国家庭的能耗。但也有观点认为这些估算过于夸张。尽管如此,我们可以进行一些定性讨论。例如,在算法层面,训练阶段比推理阶段能耗更高。清华大学电子工程系主任汪玉团队测试了不同算力芯片的单卡推理功耗,发现推理阶段的功耗基本在300W-500W之间,而训练阶段的功耗则高达400W-700W。未来推理功耗有望进一步下降。
大模型训练过程中还存在容错相关的额外能耗开销。Llama 3-405B在为期54天的训练期间共发生了466次任务中断,约78%由硬件问题引起,实际算力利用率只有38%左右。不过,从应用场景上看,用户推理请求的调用频率更高,即使单次调用能耗低,总能耗也可能相当可观。
11月4日,陕西省发展改革委组织召开能源保供会议,分析研判今年供暖季能源供需形势,并对相关工作进行安排部署。综合研判显示,今年供暖季陕西省能源供需总体平衡
2024-11-05 13:08:00陕西部署冬季能源保供工作6月5日至6日,一场聚焦于新质生产力与数字能源人才发展的高级研修班在榆林顺利举行,此次活动由陕西省工业和信息化厅与中国西部人才开发基金会携手主办
2024-07-11 06:24:52国际能源产业联盟正式启动2024年的诺贝尔奖在科学领域掀起波澜,生理学或医学奖、物理学奖、化学奖相继公布,其中物理学奖与化学奖的殊荣均归属AI领域的研究者,让人们惊叹于AI技术在本年度诺贝尔奖中的突出表现
2024-10-13 09:21:00AI是今年诺贝尔奖最大赢家吗北京时间9月10日的凌晨1点,苹果公司安排了一场名为“高光时刻”的特别活动
2024-09-10 10:31:42苹果发布会是挤牙膏吗10月10日,字节跳动旗下的豆包推出了第一款AI智能耳机OlaFriend,这款产品集成了豆包大模型并与豆包App深度整合。用户无需拿出手机,只需佩戴耳机,就能通过语音激活豆包进行互动
2024-10-13 10:27:04字节豆包推出一款AI耳机