英偉達在AI晶片市場的主導地位激發了其他公司自主設計晶片的決心。儘管從頭開始設計晶片充滿挑戰，耗時多年且成本高昂，通常以失敗告終，但人工智慧的巨大潛力驅使業界人士勇敢嘗試。

在這一背景下，兩位前Google工程師共同創立了MatX。他們利用在Google的經驗，識別出現有人工智慧晶片的局限性，並致力於開發更有效率、成本更低的新型晶片，旨在提高大語言模型的訓練和運作效率。MatX信心十足地預測，其晶片的效能將至少比英偉達的GPU好十倍。目前該公司已成功籌集了2500萬美元的資金。

人工智慧時代的到來改變了創投對晶片產業的態度，儘管面臨英偉達等巨頭也在快速發展，但市場對於專門針對大語言模型設計的晶片仍然充滿期待。

以下是翻譯內容

大約25年後，感覺矽谷終於又成了「矽」谷。

英偉達在驅動人工智慧軟體的晶片市場上已成絕對主導，促使其他公司決定自行設計晶片。歷史告訴我們，這通常是充滿災難的嘗試。從頭開始設計晶片需要耗費數年時間和數億美元，而且大多數嘗試以失敗告終。然而，人工智慧的巨大前景促使人們認為這是一次必須的嘗試。

麥克·岡特（Mike Gunter）和萊納·波普（Reiner Pope）就是這樣的兩個探索者。他們創立了MatX公司，旨在設計專為處理大語言模型所需資料而最佳化的晶片。大語言模型，如OpenAI的ChatGPT和Google的Gemini，是多種人工智慧應用的基礎，它們需要大量昂貴的晶片來運作。如果有公司能製造出更便宜、處理速度更快且更適合人工智慧的晶片，那麼它將在人工智慧軟體不斷擴張的世界中佔據極為有利的地位。

岡特和波普先前在Alphabet旗下的Google工作，岡特負責設計運行人工智慧軟體的硬體晶片，而波普則負責編寫人工智慧軟體。多年來，Google一直致力於開發TPU（tensor processing unit，張量處理單元），一種專為人工智慧設計的晶片。然而，根據MatX高層的說法，這些晶片是在大語言模型普及之前設計的，對當前任務而言不夠高效。「在谷歌，我們努力讓大語言模型運行得更快，也取得了一些進展，但總是遇到困難，」波普表示，「在公司內部，有很多關於晶片改進的想法，很難只專注於大語言模式。這是我們選擇離職的原因。”

英偉達在人工智慧晶片市場的主導地位有些偶然。它最初生產的GPU晶片是為加速電玩遊戲和某些電腦設計任務而設計的。這些晶片擅長同時處理大量的小型任務，恰好適合運行人工智慧軟體，其性能大幅超過了英特爾等公司生產的其他類型的晶片。

英偉達在其GPU晶片上劃分了資源區塊，以適應廣泛的運算任務，包括晶片內部的資料傳輸。這些設計決策似乎更傾向於滿足以往運算時代的需求，而非當前人工智慧的高速發展，從而在效能方面存在一定的權衡。MatX的創辦人相信，在新的人工智慧時代，這些額外的資源增加了不必要的成本和複雜性。相較之下，MatX採取了全新的設計方法，開發了只有一個大型處理核心的晶片，目的是盡可能快地完成乘法運算——這是大語言模型的主要任務。MatX全力以赴，堅信其晶片在訓練大型語言模型和輸出結果上至少能比英偉達的GPU高出十倍。“英偉達的產品非常強大，對大多數公司來說是正確的選擇，”波普說，“但我們認為我們可以做得更好。”

MatX已經籌集到2500萬美元的資金，最新一輪融資由人工智慧產業的投資人納特·弗里德曼（Nat Friedman）和丹尼爾·格羅斯（Daniel Gross）領投。MatX位於加州山景城，距離矽谷的發源地－蕭克利半導體實驗室(Shockley Semiconductor Laboratory)僅幾英里之遙。目前，數十名員工正致力於研發計畫於明年推出的晶片。格羅斯表示：“MatX的創始人代表了人工智慧領域的一股趨勢，他們正在將一些大公司開發的最佳想法商業化，因為那些公司動作過慢，過於官僚化。”

如果人工智慧軟體繼續沿著現有的發展路徑，對於高成本的運算需求將會大大增加。據估計，目前正在研究的每個模型的訓練成本約為10億美元，而未來模型的訓練成本可能達到100億美元。MatX預測，只要能夠贏得OpenAI和Anthropic PBC等主要人工智慧公司的青睞，它的業務將會蓬勃發展。“這些公司的經濟模式與典型公司截然不同，”岡特說，“他們將所有資金都投入到計算資源上，而不是人力資源上。如果這一趨勢不改變，他們最終會耗盡資金。”

在矽谷，晶片公司隨處可見，曾經有數十家晶片新創公司，甚至電腦巨頭如惠普、IBM和Sun Microsystems也生產自己的晶片。然而近年來，英特爾憑藉其在個人電腦和伺服器市場的主導地位擊敗了許多競爭對手，而三星和高通則主宰了智慧型手機晶片市場。這導致投資者轉而避開晶片新創企業，認為相比軟體公司，它們成本更高、週期更長、風險更大。MatX的投資人之一、晶片產業專家拉吉夫·赫馬尼（Rajiv Khemani）回憶道：「大約在2014年左右，我曾拜訪過一些創投公司，他們已經讓所有懂晶片的合夥人離開了。“我面前的人根本不懂我在說什麼。”

然而，人工智慧的崛起改變了風險和回報的平衡。亞馬遜、谷歌和微軟等資源雄厚的公司已經開始投資設計自己的晶片，專門用於執行人工智慧任務。幾年前，如Groq和Cerebras Systems這樣的新創公司亮相，推出了一大批針對人工智慧專用的晶片。但這些產品都是在大語言模型實現技術突破並開始主導人工智慧領域之前設計的。這迫使新創公司必須適應人們對大語言模型的突然興趣，並在快速發展中調整自己的產品。MatX可能代表著又一波從頭開始、專門開發大語言模型專用晶片的新創企業浪潮。

進入晶片產業的一大挑戰是，設計和製造新晶片需要三到五年的時間。而在此期間，英偉達也不會停滯不前，它在本月剛發布了更快的GPU晶片。新創公司必須預測技術趨勢和競爭對手的動向，而且不能犯任何可能導致生產延誤的錯誤。軟體公司通常需要重寫程式碼才能在新的晶片上運行，這是一個成本高昂且耗時的過程，只有在能從這種變化中獲得巨大收益時才會進行這樣的轉變。一個經驗法則是，新晶片必須在效能上至少比前代產品好10倍，才能說服客戶重寫他們所有的程式碼。

格羅斯認為，我們目前仍處於建立支援人工智慧成為主要運算形式的基礎設施的初期階段。「我認為，我們正處於一個晶片​​週期的早期階段，與此相比，其他產業的發展將相形見絀。」如果格羅斯的看法正確，那幾乎可以肯定地說，新的晶片巨頭將會誕生。