在這個(gè)星球上，英偉達(dá)毫無(wú)疑問(wèn)是如今的AI之王，其推出的H100已經(jīng)被眾多科技企業(yè)搶購(gòu)，而英偉達(dá)的營(yíng)收和利潤(rùn)也是節(jié)節(jié)攀升。但是在這個(gè)算力決定效率的今天，英偉達(dá)H100計(jì)算卡的算力還遠(yuǎn)遠(yuǎn)不夠，尤其是像Sora這樣的文生視頻的模型出來(lái)，更是對(duì)計(jì)算卡的算力提出了更高的要求，于是英偉達(dá)也適時(shí)地推出了下一代GPU，在AI性能上有著突飛猛進(jìn)的進(jìn)步，可以說(shuō)拉了競(jìng)爭(zhēng)對(duì)手整整一代。

英偉達(dá)在今天凌晨舉辦GTC技術(shù)大會(huì)，在大會(huì)上， 英偉達(dá)正式宣布了Blackwell架構(gòu)，同時(shí)也表示B200芯片將會(huì)是首款基于Blackwell打造的GPU。首先是制程架構(gòu)，沒(méi)想到已經(jīng)不差錢(qián)的英偉達(dá)并沒(méi)有采用臺(tái)積電的3nm制程架構(gòu)，而是繼續(xù)采用4nm制程，而B(niǎo)200則是基于兩顆芯片打造而成，總共擁有2080億個(gè)晶體管，借助NVlink 5.0進(jìn)行數(shù)據(jù)傳輸，而NVLink 5.0在B200上可以實(shí)現(xiàn)1.8TB/s的數(shù)據(jù)傳輸，是上代的兩倍，而NVLink 5.0的理論速度可以達(dá)到10TB/s。

毫無(wú)疑問(wèn)B200芯片最大的特點(diǎn)就在于其強(qiáng)大的AI算力，老黃表示B200芯片的AI算力達(dá)到了20PFlops，遠(yuǎn)超現(xiàn)在的H100的4PFLOPs，相當(dāng)于是現(xiàn)在的5倍性能，從而可以讓AI廠商訓(xùn)練更加復(fù)雜的模型，但是算傳統(tǒng)的算力，B200中單個(gè)芯片比H100高出25%，也就是說(shuō)傳統(tǒng)算力B200是H100的2.5倍。

此外老黃還發(fā)布了基于兩顆B200芯片以及Grace CPU打造的AI超算GB200，訓(xùn)練與推理LLM的性能比上代提升了30倍，簡(jiǎn)直就是黑科技。英偉達(dá)表示按照AI廠商訓(xùn)練一個(gè)1.8萬(wàn)億參數(shù)的大語(yǔ)言模型計(jì)算，原本需要8000塊Hooper GPU，同時(shí)功耗達(dá)到了15兆瓦，而現(xiàn)在廠商僅需2000塊GPU，功耗大約是4兆瓦，而在GPT-3的訓(xùn)練中，GB200的訓(xùn)練速度是H100的4倍，而推理速度則是H100的7倍。

這還只是AI超算的一小部分，英偉達(dá)針對(duì)企業(yè)以及高性能計(jì)算用戶推出了GB200 NVL72服務(wù)器，最多擁有36個(gè)CPU和72個(gè)Blackwell GPU，以及專門(mén)定制的水冷解決方案，最高提供720PFLOPs的AI訓(xùn)練性能以及1440FLOPs的推理性能，此外一個(gè)機(jī)架上還包括18個(gè)GB200芯片以及9個(gè)NVLink交換機(jī)，最高實(shí)現(xiàn)27萬(wàn)億個(gè)參數(shù)模型的訓(xùn)練，要知道現(xiàn)在的GPT-4模型訓(xùn)練參數(shù)大約為1.7萬(wàn)億個(gè)，未來(lái)將會(huì)為AI帶來(lái)更大的可能。

當(dāng)然GB200 NVL72服務(wù)器并不是Blackwell的極限，英偉達(dá)還將推出DGX GB200這樣的服務(wù)器集群，共有八個(gè)GB200 NVL72服務(wù)器，擁有288個(gè)CPU，576個(gè)GPU，內(nèi)存容量達(dá)到了240TB，F(xiàn)P4算力更是達(dá)到了11.5EFLOPs，實(shí)在是太過(guò)于恐怖，甚至英偉達(dá)還表示如果你覺(jué)得算力還不夠，未來(lái)英偉達(dá)DGX還可以進(jìn)行不斷地?cái)U(kuò)展，借助Quantum-X800 InfiniBand以太網(wǎng)實(shí)現(xiàn)數(shù)萬(wàn)顆GPU的互聯(lián)互通，讓AI訓(xùn)練性能達(dá)到前所未有的高度。

目前包括微軟、谷歌、亞馬遜已經(jīng)表示將大量采購(gòu)英偉達(dá)的新一代GB200服務(wù)器用于AI訓(xùn)練。目前英偉達(dá)還沒(méi)有公布GB200的具體價(jià)格，不過(guò)很有可能價(jià)格達(dá)到了十幾萬(wàn)，而且現(xiàn)在這種AI神器完全就是買(mǎi)方市場(chǎng)，供不應(yīng)求，看起來(lái)英偉達(dá)的營(yíng)收還將在2024年創(chuàng)下新高，畢竟在AI領(lǐng)域，老黃的領(lǐng)先程度實(shí)在是太大了。