速率快10倍，本钱降一个数目级！英伟达发布ChatGPT专用GPU

加了个小菲

汹涌消息编辑 李垚瑞(00:59)
“AI的iPhone时候已经到来。”
北京时间3月21日晚，图形芯片巨头英伟达（Nvidia）召开2023年GTC大会，其首创人兼CEO黄仁勋穿着标记性皮夹克发表主题演讲，先容了英伟达在人工智能（AI）范畴的多款产物，包罗为大型语言模子计划的新款GPU（图形处置惩罚器）、针对AI（人工智能）视频的芯片L4，以及AI超等盘算服务DGX Cloud等。
在演讲中，黄仁勋多次重复道，AI的iPhone时候已经到来，并表现“天生式AI将重塑险些全部行业”。
“天生式AI让企业产生重新思索其产物计划、贸易模式，各人都盼望成为推动厘革的一方，而不是被厘革镌汰的一方。”黄仁勋说道。
3月21日美股收盘，英伟达涨1.15%，报收261.99美元/股。
H100 NVL：速率快10倍，本钱低落一个数目级
客岁11月，OpenAI推出基于大型语言模子（LLM）的谈天呆板人ChatGPT，这一技能引发各界关注，随后微软、谷歌等科技公司在AI范畴睁开比赛。
在演讲中，黄仁勋也偏重先容了英伟达在这一范畴的结构，透露道针对算力需求巨大的大型语言模子（LLM），英伟达推出新款GPU——NVIDIA H100 NVL。
H100基于英伟达的Hopper架构，接纳Transformer引擎。其具有94GB内存，并配备了双GPU NVLINK的PCIE H100 GPU，能处置惩罚含1750亿参数的GPT-3。
与用于处置惩罚ChatGPT的HGX A100相比，搭载四对H100和双NVLINK的尺度服务器的处置惩罚速率最高可达10倍。黄仁勋称，它能将大语言模子的处置惩罚本钱低落一个数目级。
“加快盘算并非易事。”黄仁勋举例，2012年盘算机视觉模子AlexNet动用了GeForce GTX 580，每秒可处置惩罚262 PetaFLOPS，该模子引发了AI技能的爆炸。而十年之后，随着Transformer的出现，GPT-3动用323 ZettaFLOPS的算力，是AlexNet的100万倍。
泉源：英伟达

别的，针对AI视频英伟达还推出了芯片L4，在视频解码和转码、视频内容考核、视频通话等功能上举行优化。英伟达称，相比传统的CPU，L4可以或许提供高出120倍的AI视频性能，同时能效进步99%。
在芯片制造工艺方面，英伟达还公布推出盘算光刻库cuLitho，并与ASML、台积电等巨头睁开互助。据先容，cuLitho可将盘算光刻加快40倍以上，使2nm及更先辈芯片的生产成为大概。
“盘算光刻是芯片计划和制造范畴中最大的盘算工作负载，每年必要斲丧数百亿CPU小时。”黄仁勋说道，该软件正被集成到环球最大的代工芯片制造商台积电的计划体系中，台积电将于6月开始对cuLitho举行生产资格认证。
DGX Cloud：每月3.7万美元，让任何企业都能构建AI本领
在主题演讲中，黄仁勋还先容了英伟达在天生式AI方面的另一个结构——AI超等盘算服务DGX Cloud。
黄仁勋透露，英伟达已经与多家云服务供应商互助，推出云端人工智能DGX Cloud，将来企业可以按月租、通过欣赏器利用DGX Cloud集群，快速轻松地扩展大型多节点AI练习。DGX Cloud起价为每个实例每月36999美元。
“这种互助关系将英伟达的生态体系带到云服务商手中，还扩大了英伟达的市场规模和覆盖面。”黄仁勋说道。
据先容，每个DGX Cloud实例具有八个H100或A100 80GB Tensor Core GPU，每个节点共有640GB GPU内存。NVIDIA Networkin 构建的高性能、低耽误布局确保工作负载可以跨互结合统集群扩展，允很多个实例充当巨大的GPU，以满意高级AI练习的性能要求。
现在英伟达已经与甲骨文睁开互助，预计微软Azure在下个季度将会开始托管DGX Cloud，将来谷歌云也将参加托管行列。
值得留意的是，早在2016年，黄仁勋便向OpenAI交付了第一台NVIDIA DGX超等盘算机。黄仁勋透露，现在DGX已经被企业广泛用于优化数据和处置惩罚 AI，《财产》100强企业中有一半安装了DGX。黄仁勋称，DGX是超等盘算机是当代AI工厂。
对于英伟达带来的产物，金融机构Rosenblatt Securities的半导体分析师Hans Mosesmann表现，这些产物“比竞争对手领先许多年。”该分析师以为，“英伟达在AI软件方面的向导职位不但具有里程碑意义，而且还在加快发展。”