雷火竞技GTC 2024硬件一览:史上最强AI芯片GB200揭晓 高达80亿晶体管

 常见问题     |      2024-03-19 16:08:54    |      小编

  当大师还正在睡梦中时,大洋彼岸有一场“科技春晚”悄悄召开。没错,又到了一年一度的GTC大会岁月。本年的GTC大会分别以往,终究复兴了线号。先给不相识GTC的玩家先容一下,GTC是闭于AI的NVIDIA开辟者大会,集会中你能够相识奈何使用AI、加快谋划以及数据科学去塑造以至是转换宇宙。

  本年的GTC峰会中心一律盘绕AI张开,2个幼时的工夫,老黄又一次带来了AI的革新岁月。当然除了老黄的揭幕演讲表,后面又有900多场饱吹人心的集会正在等着你。同时此次GTC大会还吸引了赶上200家展商,集聚了数千名分别行业规模的从业职员一同参预。充足多彩的本领分享、越见杰出的革新本领,称它是AI的嘉会都不为过。念必你也好奇老黄毕竟正在GTC上带来了什么惊喜吧,别焦炙,本篇带你一见GTC峰会上的那些硬件产物。

  峰会伊始,咱们熟谙的皮衣刀客准时退场。一上来就直奔此日的中心——AI,并显露“加快式谋划机的坐蓐力曾经抵达了一个改见解,天生式AI正正在加快繁荣,而咱们必要以一种全新的形式举办谋划,才可能进一步进步谋划机坐蓐力硬件。”

  而且还知心的涌现了其我方亲手画出的闭于谋划机坐蓐力的演变流程,末了一项恰是此日的中心!

  没错硬件,老黄正在GTC公布推出新一代GPU Blackwell。这里先先容一下Blackwell架构,此前NVIDIA推出的显卡凡是是两种架构,个中游戏显卡比如咱们熟谙的RTX 40系则是Ada Lovelace架构,而面向AI、大数据等操纵的专业级显卡则采用Hopper 架构。

  而老黄正在大会上则显露“Blackwell不是一个芯片,它是一个平台的名字。”有趣是Blackwell架构将同时用于以上两品种型的产物。借帮这一架构,NVIDIA将推出涵盖多个操纵规模的显卡,即RTX 50系显卡也会是这个架构。而且从老黄手上的芯片能够看出,新的Blackwell GPU的体积光鲜比上代Hopper GPU要更大少许。

  至于这个架构名字的由来,则要追溯到美国科学院首位黑人院士硬件、加州大学伯克利分校首位黑人毕生老师戴维布莱克维尔(David Blackwell),它是知名的数学家、统计学家,不表很怜惜的是这位老师正在2010年因病仙逝。

  言反正传,让咱们接续闭怀此次Blackwell GPU。“咱们必要更大的GPU,倘使不行更大,就把更多GPU组合正在沿道,酿成更大的虚拟GPU。”老黄正在GTC上也确实这么干了。Blackwell架构的首个GPU为B200,因为目前4nm造程工艺曾经贴近极限雷火竞技,是以NVIDIA也玩起了“拼图”,B200采用台积电的 4 纳米(4NP)工艺蚀刻而成,由两个芯片通过NVLink 5.0组合正在沿道,以10TB每秒的满血带宽互联,总的晶体管数目更是抵达了可骇的2080 亿。

  第五代NVLink互连则是将多个Blackwell GPU组合起来的紧要用具。它与守旧的PCIe相易机分别,NVLink带宽有限,能够正在效劳器内的GPU之间告竣高速直接互连。目前第五代NVLink可每个GPU 供应了1.8TB/s双向模糊量,确保多达576个GPU之间的无缝高速通讯硬件。

  这个RAS牢靠性引擎则是基于AI告竣雷火竞技,Blackwell 透过专用的牢靠性雷火竞技、可用性和可庇护性 (RAS) 引擎,可扩大聪明光复才力,赶早辨认出或许发作的潜正在阻滞,尽或许缩短停机工夫。

  Secure AI有劲供应机要运算成效,同时Blackwell也是业界第一款接济EE-I/O的GPU,它能够正在不影响职能的条件下,庇护你的数据安详,这对付金融、医疗以及AI方面有极大效力。

  末了一项革新本领则是闭于解压缩层面,材料阐发和材料库作事流程此前更多是仰赖CPU 举办运算。倘使放到GPU中举办则可大幅提拔端对端阐发的功用,加快成立价格,同时消重本钱。

  Blackwell装备了专用的解压缩引擎硬件,行使经过中能够配合内置的Grace CPU告竣每秒900 GB的双向频宽,而且还能统筹最新的压缩式子 (如 LZ4、Snappy和Deflate等)。

  而两个B200 GPU与Grace CPU团结就成为此日“炎热”的GB200超等芯片。这款超等芯片的职能特别惊人,你认为H100曾经很疾了?不!GB200更疾,过去,正在90天内陶冶一个1.8万亿参数的MoE架构GPT模子,必要8000个Hopper架构GPU。现正在,你只消2000个Blackwell GPU就能够告终。

  官方称,正在法式的1750亿参数GPT-3基准测试中,GB200的职能是H100的7倍,供应的陶冶算力是H100的4倍。

  不止是职能更疾更强,Blackwell GPU还相当节能。照样同样的操作,90天内陶冶一个1.8万亿参数的MoE架构GPT模子,8000个Hopper GPU要奢侈15兆瓦功耗,当前的Blackwell GPU仅需1/4的能耗就能告竣。

  倘使你必要更强劲的GPU,NVIDIA也面向有大型需求的企业供应造品效劳,供应无缺的效劳器。比如:GB200 NVL72,它将36个CPU和72个GPU插入一个液冷机架中,总共可告竣720 petaflops的AI陶冶职能或1,440 petaflops(1.4 exaflops)的推理。

  与一致数宗旨72个H100比拟,GB200 NVL72的职能绝对是逆天的存正在,大模子推理职能能够提拔30倍,而且本钱和能耗唯有前者的1/25。

  以上即是本次GTC 2024的硬件闭联报道,或许有玩家会说,怎样没有游戏显卡?原本遵照过往常例,NVIDIA并没有正在GTC上推出消费级显卡的民风。不表本次NVIDIA正在GTC 2024上推出的B100显卡所行使的架构是Blackwell,上面咱们也讲过了,这是一个逾越数据核心与消费级产物的架构,这也就意味着咱们熟谙的GeForce显卡应当也是统一架构的产物,不出无意的话,下半年咱们就希望看到心心念念的RTX 50系显卡了!雷火竞技GTC 2024硬件一览:史上最强AI芯片GB200揭晓 高达2080亿晶体管