OpenAI與博通和台積電合作打造首款晶片放棄自行生產的雄偉計劃
路透社報道,OpenAI正在與博通和台積電合作。打造其首款專為支援人工智慧系統而設計的內部晶片,同時增加AMD晶片和英偉達晶片的採購,以滿足其激增的基礎設施需求。
ChatGPT背後的快速成長公司OpenAI已經研究了一系列方案,以實現晶片供應多樣化並降低成本。 OpenAI 曾考慮過在公司內部建造所有設備,並為一項昂貴的計劃籌集資金,即建立一個被稱為”代工廠”的晶片製造工廠網路。
但據不願透露姓名的消息人士稱,由於建立網路需要成本和時間,該公司暫時放棄了雄心勃勃的代工廠計劃,轉而計劃專注於內部晶片設計工作。
首次被詳細披露的該公司的策略凸顯了這家矽谷新創公司如何利用行業合作夥伴關係以及內部和外部相結合的方法,像更大的競爭對手亞馬遜、Meta、Google和微軟一樣,確保晶片供應和管理成本。 作為晶片的最大買家之一,OpenAI 在開發客製化晶片時決定從不同的晶片製造商處採購,這可能會對科技產業產生更廣泛的影響。
OpenAI、AMD和台積電拒絕置評。 博通公司沒有立即回應置評請求。
OpenAI 有助於將生成式人工智慧商業化,這種人工智慧能對查詢做出類似人類的反應,它依賴強大的運算能力來訓練和運行其係統。 作為英偉達(NVIDIA)圖形處理器(GPU)的最大買家之一,OpenAI使用人工智慧晶片來訓練模型(人工智慧從資料中學習)和推理(應用人工智慧根據新資訊做出預測或決策)。
知情人士透露,OpenAI 已與博通公司合作數月,打造其首款專注於推理的人工智慧晶片。 目前對訓練晶片的需求更大,但分析師預測,隨著更多人工智慧應用的部署,對推理晶片的需求可能會超過訓練晶片。
博通幫助包括Alphabet 在內的公司微調用於製造的晶片設計,並提供有助於在晶片上快速移動資訊的設計部件。 這在人工智慧系統中非常重要,因為數以萬計的晶片會串聯在一起協同工作。
其中兩位消息人士說,OpenAI 仍在決定是否開發或收購晶片設計的其他元素,並可能聘請更多合作夥伴。
該公司已經組建了一支由約20 人組成的晶片團隊,由曾在Google構建張量處理單元(TPU)的頂級工程師領導,其中包括托馬斯-諾裡(Thomas Norrie)和理查德-何( Richard Ho)。
消息人士稱,透過博通公司,OpenAI已經獲得了台積電的製造能力,將於2026年製造出首款客製化設計的晶片。 他們表示,這項時間表可能會改變。
目前,NVIDIA 的GPU 佔有80% 以上的市佔率。 但短缺和成本上升已導致微軟、Meta 和OpenAI 等主要客戶開始探索內部或外部替代方案。
OpenAI 計劃透過微軟的Azure 使用AMD 晶片,這表明AMD 的新型MI300X 晶片正試圖從NVIDIA 主導的市場中分一杯羹。 AMD 預計,繼2023 年第四季推出該晶片後,2024 年的AI 晶片銷售額將達到45 億美元。
訓練人工智慧模型和運作ChatGPT 等服務的成本很高。 知情人士透露,OpenAI 已預計今年將虧損50 億美元,營收為37 億美元。 運算成本,即處理大型資料集和開發模型所需的硬體、電力和雲端服務支出是該公司最大的開支,這促使該公司努力優化利用率並實現供應商多樣化。
消息人士補充說,OpenAI在從NVIDIA挖人才方面一直很謹慎,因為它希望與這家晶片製造商保持良好的合作關係,尤其是在使用其新一代Blackwell晶片方面。
NVIDIA拒絕對此發表評論。