美媒关注：练习出ChatGPT必要斲丧多少电力？

yqlee2005

3月10日消息，AI已经重新成为科技行业的热门话题，预计它将彻底改变从零售到医药等代价数万亿美元的行业。但每创造一个新的谈天呆板人或图像天生器都必要泯灭大量的电力，这意味着这项技能大概开释大量温室气体，进而加剧环球变暖题目。
微软、谷歌和ChatGPT制造商OpenAI都要利用云盘算，而云盘算依靠于环球海量数据中心折务器内数以千计的芯片来练习被称为模子的AI算法，分析数据以资助这些算法“学习”怎样实行使命。ChatGPT的乐成促使其他公司竞相推出本身的AI体系和谈天呆板人，大概开辟利用大型AI模子的产物。
与其他情势的盘算相比，AI必要利用更多的能源，练习单个模子斲丧的电力凌驾100多个美国家庭1年的用电量。然而，固然AI行业增长非常快，但却不敷透明，以至于没有人确切知道AI的总用电量和碳排放量。碳排放量也大概有很大差别，这取决于提供电力的发电厂范例，靠烧煤或自然气发电供电的数据中央，碳排放量显然高于太阳能或风力发电支持的数据中央。
固然研究职员已经统计了创建单一模子所产生的碳排放量，有些公司也提供了有关他们能源利用的数据，但他们没有对这项技能的总用电量举行总体估计。AI公司Huging Face研究员萨莎·卢西奥尼（Sasha Luccioni）写了一篇论文，量化了她旗下公司Bloom的碳排放环境，Bloom是OpenAI模子GPT-3的竞争对手。卢西奥尼还试图根据一组有限的公开数据，对OpenAI谈天呆板人ChatGPT的碳排放环境举行评估。
进步透明度
卢西奥尼等研究职员表现，在AI模子的电力利用和排放方面，必要进步透明度。有了这些信息，当局和公司大概会决定，利用GPT-3或其他大型模子来研究癌症治疗或掩护土著语言是否值得。
更高的透明度也大概带来更多的检察，加密钱币行业大概会提供前车可鉴。根据剑桥比特币电力斲丧指数，比特币因其耗电量过大而受到品评，每年的耗电量与阿根廷一样多。这种对电力的贪心需求促使纽约州通过了一项为期两年的禁令，停息向以化石燃料发电供电的加密钱币采矿商发放允许证。
GPT-3是功能单一的通用AI步伐，可以天生语言，具有多种差别的用途。2021年发表的一篇研究论文表现，练习GPT-3耗用了1.287吉瓦时电量，约莫相称于120个美国家庭1年的用电量。同时，如许的练习产生了502吨碳，相称于110辆美国汽车1年的排放量。而且，这种练习只实用于一个步伐，大概说是“模子”。
固然练习AI模子的前期电力本钱巨大，但研究职员发现，在某些环境下，这只是模子现实利用所斲丧电力的40%左右。别的，AI模子也在变得越来越大。OpenAI的GPT-3利用了1750亿个参数或变量，而其前身仅利用了15亿个参数。
OpenAI已经在研究GPT-4，而且必须定期对模子举行再练习，以保持其对时势的相识。卡内基梅隆大学传授艾玛·斯特鲁贝尔（Emma Strubell）是首批研究AI能源题目的研究职员之一，她说：“假如你不对模子举行再练习，它乃至大概不知道作甚新冠肺炎。”
另一个相对的权衡尺度来自谷歌，研究职员发现，AI练习占该公司总用电量的10%至15%，2021年该公司的总用电量为18.3太瓦时。这意味着，谷歌的AI每年耗电量达2.3太瓦时，约莫相称于亚特兰大全部家庭的1年用电量。
科技巨头做出净零答应
固然在很多环境下，AI模子变得越来越大，但AI公司也在不停改进，使其以更高效的方式运行。微软、谷歌和亚马逊等美国最大的云盘算公司，都做出了碳减排或净零答应。谷歌在一份声明中表现，到2030年，该公司将在全部业务中实现净零排放，其目的是完全利用无碳能源运营其办公室和数据中央。谷歌还在利用AI来进步其数据中央的能效，该技能直接控制办法中的冷却体系。
OpenAI也枚举了该公司为进步ChatGPT应用步伐编程接口的服从所做的工作，资助客户低落了用电量和代价。OpenAI发言人表现：“我们非常认真地负担起制止和扭转天气变革的责任，我们对怎样最大限度地使用我们的盘算本领举行了许多思索。OpenAI运行在Azure上，我们与微软团队密切互助，以进步运行大型语言模子的服从并淘汰碳排放。”
微软指出，该公司正在购买可再生能源，并接纳其他步伐，以实现之前公布的目的，即到2030年实现净零排放。微软在声明中称：“作为我们创造更可连续性将来答应的一部门，微软正在投资于研究，以权衡AI的能源利用和碳排放影响，同时致力于进步大型体系在培训和应用方面的服从。”
耶路撒冷希伯来大学传授罗伊·施瓦茨（Roy Schwartz）与微软的一个团队互助，丈量了一个大型AI模子的碳足迹。他表现：“显然，这些公司不肯透露他们利用的是什么模子，以及它排放了多少碳。”
有些方法可以让AI更高效地运行。能源咨询公司Wood Mackenzie的本·赫兹-沙格尔（Ben Hertz-Shargel）表现，由于AI练习可以随时举行，开辟者或数据中央可以将练习安排在电力更自制或过剩的时间，从而使它们的运营更加环保。AI公司在电力过剩时练习本身的模子，然后可以在营销中将其当成一大卖点，以此表明他们注意环保。
芯片运行耗电量惊人
大多数数据中央利用图形处置惩罚单位（GPU）来练习AI模子，这些组件是芯片行业制造的最耗电组件之一。摩根士丹利分析师本月早些时间发布的一份陈诉称，大型模子必要数万个GPU，培训周期从几殷勤几个月不等。
AI范畴更大的谜团之一是与所利用芯片相干的碳排放总量。最大的GPU制造商英伟达表现，当涉及到AI使命时，他们的芯片可以更快地完成使命，总体上服从更高。
英伟达在声明中表现：“与利用CPU相比，利用GPU来加快AI速率更快，也更高效。对于某些AI工作负载来说，能效通常可以进步20倍，对于天生式人工智能必不可少的大型语言模子，能效则可进步300倍。”
卢西奥尼说，固然英伟达已经披露了与能源相干的直接排放和间接排放数据，但该公司并没有透露更多细节。她以为，当英伟达分享这些信息时，我们大概发现GPU斲丧的电量与一个小国用电量差不多，“这大概会让人抓狂”！（小小）

段吧灭楼组_帆

谷歌文化已经不顺应期间了，印度CEO整创新真不可，马斯克上来把twitter里的印度高管全干掉是对的。

吴垒彪

谷歌文化已经不顺应期间了，印度CEO整创新真不可，马斯克上来把twitter里的印度高管全干掉是对的。

吴垒彪

微软老大也是印度人