全程回顧黃仁勳GTC演講：Blackwell架構B200晶片登場

2024-03-20 Comments 0 Comment

英偉達創始人黃仁勳在美國加州聖何塞SAP中心登台，發表GTC 2024的主題演講《見證AI的變革時刻》。鑑於過去一年多時間裡AI帶來的生產力變革，以及英偉達等一眾概念股的表現，老黃的演講已經變成全球資本市場翹首以待的熱門事件。

在這場兩小時的演講中，黃仁勳公佈了搭載B200晶片的GB200 Grace Blackwell超級晶片系統，以及英偉達在AI軟體（NIM微服務）、Omiverse雲端、具身智慧方面的最新進展。

以下為演講內容回顧：

黃仁勳登台，對觀眾們強調：我希望你們搞清楚今天這裡不是演唱會，而是一場開發者大會。

黃仁勳介紹了本屆GTC的一些參與者，並強調這些公司不只是來參會，而是有自己的東西要來展示。

黃仁勳展示英偉達發展史，並提了將首台DGX One送給OpenAI的故事。

黃仁勳：今天我們將討論這個新產業的許多問題。我們要談談如何進行計算、我們要談談你所構建的軟體類型，你將如何看待這個新軟體，新行業中的應用然後，也許（再談談）下一步是什麼，我們如何從今天開始做準備，下一步會發生什麼。

黃仁勳：我們使用模擬工具來創造產品，不是為了降低運算成本，而是為了擴大運算規模。我們希望能夠以完全保真、完全數位化的方式模擬我們所做的整個產品。從本質上講，我們稱之為數位孿生。

老黃開始介紹一系列「新加速生態系統」合作夥伴，包括ANSYS、Synopsis、Cadence等。他也提及，台積電和Synopsys將突破性的英偉達運算微影平台投入生產。

隨著transformer模型被發明，我們能以驚人的速度擴展大型語言模型，實際上每六個月就能翻倍。而為了訓練這些越來越大的模型，我們也需要更強的算力。

「非常強大」的Blackwell架構GPU登場

老黃現場對比Blackwell架構與Grace Hopper架構的GPU

老黃現場展示Grace-Blackwell系統（兩個Blackwell GPU、四個die與一個Grace Cpu連接在一起）。GB200將兩台B200 Blackwell GPU與一個基於Arm的Grace CPU進行配對。新晶片擁有2080億個晶體管，所有這些晶體管幾乎同時存取與晶片連接的記憶體。

為了處理大規模資料中心的GPU互動問題，也需要更強的連結（NVlink）能力。

這個GB200新系統提昇在哪裡呢？老黃舉例稱，如果要訓練一個1.8兆參數量的GPT模型，需要8,000張Hopper GPU，消耗15兆瓦的電力，連續跑上90天。但如果使用Blackwell GPU，只需要2000張，同樣跑90天只要消耗四分之一的電力。當然不只是訓練，生成Token的成本也會隨之降低。

將晶片做大的好處：單GPU每秒Token吞吐量翻了30倍

毫無疑問，微軟Azure、AWS、Google雲端等一眾科技巨頭都是Blackwell架構的首批使用者。

接下來應該是應用側的部分，先展示的是生物醫藥的部分，包括NVIDIA DGX雲中的多項更新。

黃仁勳宣布新的AI微服務，用於開發和部署企業級生成式AI應用。老黃表示，未來如何開發軟體？與現在寫一行行程式碼不同，未來可能就要靠一堆NIMs（NVIDIA inference micro service），用與AI聊天的形式調動一堆NIMS來完成訓練、應用的部署。英偉達的願景是成為AI軟體的「晶圓廠」。

英偉達的AI微服務NIM網站已經上線。

NIM微服務提供了最快、效能最高的AI生產容器，用於部署來自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模型，以及來自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的開放模型。

NVIDIA AI Enterprise軟體平台更新，包括NIM、建置RAG應用程式的工具等。隨後老黃又分享了西門子科技、日產車等用如何在工作流程中將Omiverse Cloud應用在工作流程中。

黃仁勳宣布，現在支援將Omniverse雲推流至Vision Pro。

可能是時間不太夠了，老黃開始加速官宣一系列合作。其中提到全球最大電動車公司比亞迪將採用英偉達下一代智慧汽車晶片Thor。比亞迪同時將使用英偉達基礎設施進行自動駕駛模型訓練，以及英偉達Isaac設計/模擬智慧工廠機器人。

開始提機器人了。黃仁勳表示，在我們的世界裡，類人機器人很有可能會發揮更大的作用，我們設置工作站、製造和物流的方式，不是為人類設計的，而是為人類設計的。因此，這些人類或機器人的部署可能會更有成效。黃仁勳同時宣布一項名為GR00T的項目，旨在進一步推動英偉達在機器人和具身智慧的突破性工作。由GR00T驅動的機器人可以理解自然語言，並透過觀察人類動作來模擬運動。