最近，《連線》的記者採訪了英偉達CEO黃仁勳。記者表示，與Jensen Huang交流應該帶有警告標籤，因為這位NVIDIA首席執行官對人工智能的發展方向如此投入，以至於在經過近90 分鐘的熱烈交談後，我（指本採訪的記者，下同）確信未來將是神經網路的涅槃。

我還可以看到這一切：機器人復興、醫療天賜物（medical godsends）、自動駕駛汽車、有記憶的聊天機器人。該公司聖克拉拉園區的建築物並沒有起到任何作用。無論我的目光落在哪裡，我都會看到三角形中的三角形，這種形狀幫助英偉達獲得了第一筆財富。

黃是過去一年的風雲人物，甚至可能是未來十年。因為科技公司確實對NVIDIA 的超級運算GPU 愛不釋手。這不是以前的NVIDIA，它是X 代視頻遊戲顯示卡的供應商，透過有效渲染無數的三角形使圖像變得栩栩如生。這就是英偉達，它的硬體開創了一個我們與電腦對話、電腦與我們對話的世界，最終，根據你與哪位技術專家交談，它們超越了我們。在我們的會面中，現年61 歲的黃穿著他標誌性的皮夾克和簡約的黑色運動鞋。他在那個星期一早上告訴我，他討厭星期一早上，因為他星期日工作一整天，開始正式工作週時已經很累了。黃仁勳制定了一個模式，讓英偉達走在每個科技大趨勢的前面。2012 年，一小群研究人員發布了一個名為AlexNet 的突破性影像辨識系統，該系統使用GPU（而非CPU）來處理程式碼，開啟了深度學習的新時代。於是，黃立即指揮公司全力追逐人工智慧。2017 年，當Google發布了被稱為Transformer 的新型神經網路架構（ ChatGPT 中的T）並引發了當前的人工智慧淘金熱時，NVIDIA 處於完美的位置，可以開始向飢餓的科技公司出售其專注於人工智慧的GPU。NVIDIA 目前佔據AI 晶片市場70% 以上的銷售額，估值剛超過2 兆美元。2023 年最後一季的營收為220 億美元，比上年成長265%。去年其股價上漲了231%。黃要么在他所做的事情上出奇地出色，要么非常幸運——或者兩者兼而有之！——每個人都想知道他是如何做到的。但沒有人能永遠統治。他現在成為中美科技戰的焦點，並受到監管機構的擺佈。黃仁勳在人工智慧晶片領域的一些挑戰者是家喻戶曉的名字——Google、亞馬遜、Meta 和微軟——並且在科技領域擁有最雄厚的財力。12月底，半導體公司AMD推出了一款用於人工智慧運算的大型處理器，旨在與NVIDIA競爭。新創公司也瞄準了這個目標。研究公司Pitchbook 的數據顯示，光是去年第三季度，創投就向人工智慧晶片投資了超過8 億美元。究竟黃仁勳是如何看待這些的呢？讓我們來看看這個採訪原文：黃仁勳：你和我都是史丹佛大學的畢業生。Lauren Goode：是的。嗯，我讀的是新聞專業，而你沒有讀新聞專業。黃仁勳：我希望我有。Lauren Goode：這是為什麼？黃仁勳：嗯，作為領導者和個人，我真正敬佩的人是Adobe 執行長尚塔努·納拉延(Shantanu Narayen)。他說他一直想成為一名記者，因為他喜歡講故事。Lauren Goode：能夠有效地講述企業的故事似乎是建立企業的重要組成部分。黃仁勳：是的。戰略制定就是說故事。文化建設就是說故事。Lauren Goode：您曾多次說過，您並沒有根據宣傳資料推銷NVIDIA 的想法。黃仁勳：這是正確的。這實際上是為了講故事。Lauren Goode：所以我想從另一位技術主管告訴我的事情開始。他指出，英偉達比亞馬遜早一年，但在許多方面，英偉達比亞馬遜更有「day one」的做法。您如何保持這種前景？黃仁勳：坦白說，這確實是個好詞。我每天早上醒來都像第一天一樣，原因是我們總是在做一些以前從未做過的事情。它也有脆弱的一面。我們很可能會失敗。剛才，我正在開會，我們正在做一些對我們公司來說是全新的事情，但我們不知道如何正確地做。Lauren Goode：什麼是新事物？黃仁勳：我們正在建造一種新型的資料中心。我們稱之為人工智慧工廠。按照當今資料中心的建構方式，許多人共享一組電腦並將他們的檔案放在這個大型資料中心中。人工智慧工廠更像是一台發電機。這是相當獨特的。過去幾年我們一直在建造它，但現在我們必須將其變成產品。Lauren Goode：你打算怎麼稱呼它？黃仁勳：我們還沒為它命名。但它會無所不在。雲端服務提供者將建置它們，我們將建置它們。每個生技公司都會有它。每個零售公司，每個物流公司。未來的每家汽車公司都將擁有一家製造汽車（實際商品、原子）的工廠，以及為汽車製造人工智慧（電子）的工廠。事實上，就在我們說話的時候，你看到伊隆馬斯克正在這樣做。在思考工業公司未來會是什麼樣子方面，他遠遠領先大多數人。Lauren Goode：您之前曾說過，您經營的是一個扁平化組織，有30 到40 位高階主管直接向您匯報，因為您希望融入資訊流中。最近是什麼激起了你的興趣，讓你想，“我最終可能需要在這件事上押注NVIDIA？”黃仁勳：資訊不必像尼安德特人時代那樣從組織的頂部流向底部，當時我們沒有電子郵件和簡訊以及所有這些東西。如今，資訊流動得更加迅速。因此，不需要從上到下解釋資訊的分層樹。扁平網路使我們能夠更快地適應，這是我們所需要的，因為我們的技術發展如此之快。如果你看看英偉達技術的發展方式，你會發現摩爾定律每隔幾年就會翻倍。嗯，在過去10 年裡，我們已經將人工智慧進步了大約一百萬倍。這是摩爾定律的很多很多倍。如果您生活在一個指數世界中，您不希望訊息一次從上到下一層傳播。Lauren Goode：但我問你，你的羅馬帝國是什麼？這是一個模因。今天的transformer paper是什麼版本？現在正在發生什麼你覺得會改變一切的事情？黃仁勳：有幾件事。其中之一並沒有真正的名字，但它是我們在基礎機器人領域所做的一些工作。如果你可以生成文本，如果你可以生成圖像，你也可以生成運動嗎？答案可能是肯定的。然後，如果您可以產生動作，您就可以理解意圖並產生通用版本的清晰度。因此，人形機器人技術應該指日可待。我認為圍繞狀態空間模型（SSM：state-space models）的工作可能是下一個transformer，它允許您學習極長的模式和序列，而無需在計算中呈二次方增長。Lauren Goode：這能帶來什麼？現實生活中的例子是什麼？黃仁勳：您可以與電腦進行持續很長時間的對話，但上下文永遠不會被忘記。您甚至可以暫時更改主題並回到先前的主題，並且可以保留該上下文。您也許能夠理解極長鏈的序列，例如人類基因組。只需查看遺傳密碼，您就可以了解其含義。Lauren Goode：我們距離這個目標還有多遠？黃仁勳：從我們有了AlexNet 到超人的AlexNet，只花了大約五年的時間。機器人基礎模型可能即將出現——我會在明年的某個時候公佈。從那時起，五年後，您將看到一些非常令人驚奇的事情。Lauren Goode：哪個產業將從廣泛訓練的機器人行為模式中受益最多？黃仁勳：嗯，重工業代表了世界上最大的工業。移動電子並不容易，但移動原子卻極為困難。運輸、物流、將重物從一個地方移動到另一個地方、發現下一種藥物——所有這些都需要了解原子、分子和蛋白質。這些是人工智慧尚未影響到的巨大而令人難以置信的行業。Lauren Goode：你提到了摩爾定律。這個定律現在已經無關緊要了嗎？黃仁勳：摩爾定律現在更多是一個系統問題，而不是一個晶片問題。更多的是關於多個晶片的互連性。大約10、15 年前，我們開始了分解電腦的旅程，以便您可以將多個晶片連接在一起。Lauren Goode：這就是你在2019 年收購以色列公司Mellanox 的初衷。NVIDIA 當時表示，現代運算對資料中心提出了巨大的要求，而Mellanox 的網路技術將使加速運算更加有效率。黃仁勳：對，完全正確。我們購買了Mellanox，這樣我們就可以擴展我們的晶片，將整個資料中心變成一個超級晶片，從而實現現代人工智慧超級電腦。這實際上是為了認識到摩爾定律已經結束，如果我們想繼續擴大計算規模，我們必須在資料中心規模上做到這一點。我們研究了摩爾定律的製定方式，然後說：「不要受其限制。摩爾定律並不是計算的限制。」我們必須拋棄摩爾定律，這樣我們才能考慮新的擴展方法。Lauren Goode：Mellanox 現在被認為是NVIDIA 非常明智的收購。早兩年，您試圖收購全球最重要的晶片IP 公司之一Arm，但遭到監管機構的阻撓。黃仁勳：那太好了！（That would’ve been wonderful!）Lauren Goode：我不確定美國政府是否同意，但是是的，讓我們確定這一點。當您現在考慮收購時，您會關注哪些具體領域？黃仁勳：這些大型系統的作業系統極為複雜。如何在運算堆疊中建立一個作業系統，以協調GPU 中數千萬、數億甚至數十億個微型​​處理器？這是一個非常困難的問題。如果我們公司外部有團隊這樣做，我們可以與他們合作，或者我們可以做更多的事情。Lauren Goode：你的言下之意是否代表著，對於NVIDIA 來說，擁有一個作業系統並將其建構成一個平台至關重要？黃仁勳：我們已然是一家平台公司。Lauren Goode：你越成為一個平台，你面臨的問題就越多。人們往往會對平台的輸出承擔更多的責任。自動駕駛汽車的行為方式、醫療保健設備的誤差幅度是多少、人工智慧系統是否有偏見。你如何解決這個問題？黃仁勳：不過，我們不是應用程式公司。這可能是最簡單的思考方式。我們將盡我們所能，但盡可能少地服務於一個行業。因此，就醫療保健而言，藥物發現不是我們的專長，計算才是。製造汽車不是我們的專長，但為汽車製造極為擅長人工智慧的計算機，才是我們的專長。坦白說，一家公司很難擅長所有這些事情，但我們可以非常擅長其中的人工智慧運算部分。Lauren Goode：去年有報導稱，您的一些客戶為您的AI GPU 等待了幾個月。現在情況怎麼樣？黃仁勳：嗯，我認為今年我們不會趕上供應。今年不會，明年也可能不會。（Well, I don’t think we’re going to catch up on supply this year. Not this year, and probably not next year.）Lauren Goode：目前的等待時間是多少？黃仁勳：我不知道現在的交貨時間是多少。但是，你知道，今年對我們來說也是新一代的開始。Lauren Goode：您是指Blackwell，您傳聞中的新GPU 嗎？黃仁勳：是的，新一代GPU 即將問世，Blackwell 的表現超乎想像。這將是令人難以置信的。Lauren Goode：這是否意味著客戶需要更少的GPU？黃仁勳：這就是目標。目標是大幅降低訓練模型的成本。然後人們可以擴大他們想要訓練的模型的規模。Lauren Goode：英偉達投資了許多人工智慧新創公司。去年有報導稱，您投資了30 多家新創公司。這些新創公司是否會在購買您的硬體時排長隊？黃仁勳：他們和大家一樣面臨供應緊張的問題，因為他們大多都使用公有雲，所以他們必須自己與公有雲服務供應商進行談判。不過，他們確實獲得的是我們的人工智慧技術，這意味著他們可以使用我們的工程能力和我們來優化其人工智慧模型的特殊技術。我們讓他們變得更有效率。如果您的吞吐量增加五倍，您實際上會多獲得五個GPU。這就是他們從我們那裡得到的。Lauren Goode：在這方面你認為自己是個造王者嗎？黃仁勳：不。我們投資這些公司是因為他們的工作令人難以置信。能夠投資它們是我們的榮幸，而不是相反。他們是世界上一些最聰明的人。他們不需要我們來支持他們的信譽。Lauren Goode：當機器學習更多地轉向推理而不是訓練時（基本上，如果人工智慧工作的計算強度降低）會發生什麼？這會減少對GPU 的需求嗎？黃仁勳：我們喜歡推理。事實上，我想說，如果我猜的話，NVIDIA 今天的業務可能是70% 的推理，30% 的訓練。這是一件好事，因為那時你就會意識到人工智慧終於成功了。如果NVIDIA 的業務90% 是訓練，10% 是推理，你可能會說人工智慧仍處於研究階段。七、八年前就是這樣。但今天，每當您在雲中輸入提示時，它都會生成一些內容- 它可以是視頻，可以是圖像，可以是2D，可以是3D，可以是文本，可以是圖形- 它是最有可能的是它背後有一個NVIDIA GPU。Lauren Goode：您是否認為AI GPU 的需求在任何時候都會減弱？黃仁勳：我認為我們正處於生成式人工智慧革命的開端。如今，世界上進行的大部分計算仍然是基於檢索。檢索意味著您觸摸手機上的某些內容，它會向雲端發送訊號以檢索訊息。它可能會用一些不同的東西組成一個回應，並使用Java 將其呈現在您的手機的漂亮螢幕上。未來，計算將更加基於RAG（Retrieval-augmented generation：檢索增強生成，這是一個框架，允許大型語言模型從其通常參數之外提取數據），它的檢索部分會更少，而個性化生成部分會高得多。那一代將由GPU 完成。所以我認為我們正處於這場檢索增強的生成運算革命的開端，生成人工智慧將成為幾乎所有事物不可或缺的一部分。Lauren Goode：最新消息是，你們一直在與美國政府合作，開發出可以運往中國的符合製裁規定的晶片。我的理解是這些不是最先進的晶片。為了確保您仍然可以在中國開展業務，您與政府的合作有多密切？黃仁勳：好吧，這其實是出口管制，而不是製裁。美國已確定英偉達的技術和人工智慧運算基礎設施對國家具有戰略意義，並將對其實施出口管制。我們首次遵守出口管制是在—Lauren Goode：2022 年8 月。黃仁勳：是的。而美國在2023年對出口管制增加了更多條款，導致我們不得不再次重新設計我們的產品。所以我們就這麼做了。我們正在開發一套符合當今出口管制規則的新產品。我們與政府密切合作，確保我們提出的方案與他們的想法一致。Lauren Goode：您對這些限制將刺激中國推出有競爭力的人工智慧晶片有多大擔憂？黃仁勳：中國有一些有競爭力的東西。Lauren Goode：正確的。這還不是資料中心規模，但去年推出的華為Mate 60 智慧型手機因其自主研發的晶片而引起了一些關注。黃仁勳：真的非常非常好的公司（Really, really good company）。他們受到所擁有的半導體處理技術的限制，但他們仍然能夠透過將許多晶片聚合在一起來構建非常大的系統。Lauren Goode：您總體上對中國能否在生成人工智慧領域趕上美國感到擔憂嗎？黃仁勳：該規定將限制中國獲得最先進技術的能力，這意味著西方世界，即不受出口管制限制的國家，將能夠獲得更好的技術，而且發展速度相當快。所以我認為這種限制給中國帶來了很大的成本負擔。從技術上講，您始終可以聚合更多的晶片製造系統來完成這項工作。但這只會增加這些產品的單位成本。這可能是最簡單的思考方式。Lauren Goode：你們正在製造合規晶片以繼續在中國銷售，這一事實是否會影響你們與台積電（台灣半導體的驕傲和喜悅）的關係？黃仁勳：不。法規是具體的。這和限速沒什麼兩樣。Lauren Goode：您多次說過，您的超級電腦中的35,000 個組件中，有8 個來自台積電。當我聽到這個時，我想這一定是很小的一部分。您是否正在淡化對台積電的依賴？黃仁勳：一點都不。一點也不。Lauren Goode：那你想表達什麼觀點呢？黃仁勳：我只是強調，為了建造人工智慧超級計算機，還涉及許多其他組件。事實上，在我們的人工智慧超級電腦中，幾乎整個半導體產業都與我們合作。我們已經與三星、SK 海力士、英特爾、AMD、博通、Marvell 等密切合作。在我們的人工智慧超級電腦中，當我們成功時，一大堆公司也會與我們一起成功，我們對此感到高興。Lauren Goode：您多久與台積電的張忠謀或劉德音交談一次？黃仁勳：每時每刻。不斷地。是的。不斷地。Lauren Goode：你們的談話是什麼樣的？黃仁勳：這些天我們談論先進封裝，規劃未來幾年的產能，先進的運算能力。CoWoS [台積電將晶片晶片和記憶體模組塞入單一封裝的專有方法] 需要新工廠、新生產線和新設備。所以他們的支持真的非常非常重要。Lauren Goode：我最近與一位專注於產生人工智慧的執行長進行了交談。我問NVIDIA 的競爭對手可能是誰，這個人建議是Google的TPU。其他人提到AMD。我想這對你來說並不是一個二元對立的問題，但你認為誰是你最大的競爭對手？誰讓你徹夜難眠？黃仁勳： Lauren，他們都這麼做。TPU 團隊非常出色。最重要的是，TPU 團隊真的很棒，AWS Trainium 團隊和AWS Inferentia 團隊真的非常出色，非常優秀。微軟正在進行內部ASIC 開發，稱為Maia。中國的每個雲端服務供應商都在建立內部晶片，還有一大堆新創公司以及現有的半導體公司正在建造出色的晶片。每個人都在建構晶片。這不應該讓我徹夜難眠——因為我應該確保我已經因工作而精疲力盡，以至於沒有人可以讓我徹夜難眠。這確實是我唯一能控制的事情。但早上叫醒我的肯定是，我們必須繼續兌現我們的承諾，也就是說，我們是世界上唯一一家每個人都可以合作建造資料中心規模人工智慧超級電腦的全堆疊公司。Lauren Goode：我有一些個人問題想問你。黃仁勳： [黃對公關代表說]她已經做好功課了。更不用說，我只是很享受這次談話。Lauren Goode：我很高興。我也是。我確實想——黃仁勳：順便說一句，每當張忠謀或我認識很久的人要求我擔任採訪主持人時，原因是我不會坐在那裡透過提問來採訪他們。我只是在和他們交談。你必須對觀眾以及他們可能想聽的內容抱持同理心。Lauren Goode：所以我向ChatGPT 問了一個關於你的問題。我想知道你是否有紋身，因為我打算在下次聚會時提議給你紋身。黃仁勳：如果你紋身，我也紋一個。Lauren Goode：我已經有了一個，但我一直在尋求擴展。黃仁勳：我也有一個。Lauren Goode：是的。這是我從ChatGPT 學到的。據稱，黃仁勳在股價達到100 美元時紋了公司標誌。然後它說，“然而，黃表示他不太可能再紋身，並指出疼痛比他預期的更劇烈。” 據說你哭了。你哭了嗎？黃仁勳：一點點。我的建議是，在這樣做之前你應該喝一杯威士忌。或服用Advil。我還認為女性可以承受更多的痛苦，因為我女兒有一個相當大的紋身。Lauren Goode：所以，如果你想紋身，我想三角形可能會不錯，因為誰不喜歡三角形呢？它們是完美的幾何形狀。黃仁勳：或是NVIDIA 大樓的輪廓！它是由三角形組成的。Lauren Goode：這是一個承諾。我想知道，您個人使用ChatGPT 或Bard 等的頻率如何？黃仁勳：我一直在使用Bard，我也喜歡ChatGPT。我幾乎每天都使用兩者。Lauren Goode：為了什麼？黃仁勳：研究。例如，電腦輔助藥物發現。也許您想了解電腦輔助藥物發現的最新進展。因此，您想要建立整個主題，以便您可以擁有一個框架，並且從該框架中，您可以提出越來越多的具體問題。我真的很喜歡這些大型語言模型。Lauren Goode：我聽說你曾經舉重。你現在還這樣做嗎？黃仁勳：不，我會嘗試每天做40 下伏地挺身。這不會花費超過幾分鐘的時間。我是一個懶惰的運動者。我會一邊刷牙一邊做深蹲。Lauren Goode：最近，您對Acquired播客發表了評論，該播客迅速走紅。主持人問，如果你今天30歲，正在考慮創辦一家公司，你會開始什麼？你還說你根本不會創辦公司。您對此有何修改？黃仁勳：這個問題可以用兩種方式來回答，我是這樣回答的，那就是：如果我當時知道我現在所知道的所有事情，我會因為害怕而不敢去做。我會太害怕了。我不會這麼做的。Lauren Goode：你必須有一定的妄想才能創業。黃仁勳：這就是無知的好處。你不知道這會是多麼艱難，你不知道其中會包含多少痛苦和磨難。這些天當我遇到企業家時，他們告訴我這將是多麼容易，我非常支持他們，而且我實際上並沒有試圖戳破他們的泡沫。但我內心深處知道，“哦，天哪，事情不會像他們想像的那樣。”Lauren Goode：您認為您在營運NVIDIA 過程中必須做出的最大犧牲是什麼？黃仁勳：其他企業家也做出同樣的犧牲。你工作真的非常努力。很長一段時間，沒有人認為你會成功。只有你一個人相信自己會成功。不安全感、脆弱感，有時羞辱，這些都是真實的。沒有人談論這件事，但這都是真的。執行長和企業家和其他人一樣都是人。當他們公開失敗時，那就令人尷尬了。所以當有人說，“Jensen，以你今天所擁有的一切，你不會開始它嗎？” 就像，“不，不，不，當然不是。”事實上，如果我知道NVIDIA 會成為今天的樣子，你問我會創辦這家公司嗎？你在開玩笑嗎？我願意犧牲一切來做到這一點。原文連結https://www.wired.com/story/nvidia-hardware-is-eating-the-world-jensen-huang/