被低估的AI晶片強國
近年來AI的繁榮,讓擁有包括HBM在內的韓國儲存公司受益匪淺,尤其是領先的龍頭SK海力士,更是賺到盤滿缽滿。韓國也因此成為了AI市場的贏家。但其實除了儲存以外,韓國在AI晶片市場,還有很多佈局。某種程度上說,我們低估了這個東亞國家的AI實力。
韓國總統尹錫烈在今年4月表示,到2027年,韓國將在人工智慧領域投資9.4兆韓元(69.4 億美元),以維持在尖端半導體晶片領域全球領先地位的努力之一。此外,韓國的K-Cloud 專案也在大力補貼AI 資料中心專用於處理機器學習演算法的NPU晶片的開發。韓國總統設定的目標是,到2030年,韓國要成為包括晶片在內的人工智慧技術領域前三大國家之一,並在全球系統半導體市場佔據10%以上的份額。
韓國AI晶片產業:三星、海力士雙輪驅動
三星和SK海力士撐起了韓國快速發展AI的兩架馬車。隨著AI模型的不斷複雜化,對記憶體頻寬的需求將持續成長,HBM作為高頻寬記憶體的代表,將在AI晶片市場佔據重要地位。
三星
身為全球最大的記憶體晶片製造商,三星電子在AI晶片領域一直沒怎麼沾到很大的光。勝在三星的盤面比較大,有儲存、代工和晶片各項業務。
近日,三星在美國三星代工論壇(SFF) 上介紹了推出的一體化AI解決方案。這是一個交鑰匙AI 平台,是該公司代工、記憶體和AVP 業務部門共同努力的成果。透過將代工、記憶體和AVP等多個業務部門緊密協作,三星成功簡化了供應鏈管理,並顯著縮短了產品上市時間,總週轉時間提升了20%。並且,三星計劃在2027年推出一體化、CPO整合的AI解決方案,旨在為客戶提供一站式AI解決方案。
借助美國《晶片與科學法案》的東風,三星正在美國加速佈局HBM產能。美國商務部(DOC)與三星電子於4月15日簽署了一份不具約束力的初步條款備忘錄(PMT),根據《晶片與科學法案》提供高達64億美元的直接資助。三星預計將在未來幾年在德州中部投資超過400億美元,包括HBM和2.5D封裝產能。
此外,透過投資Tenstorrent、DreamBig Semiconductor、Axelera AI等AI晶片新創企業,三星也加速了在AI晶片領域的佈局。
2024年7月22日,三星半導體創新中心(SSIC)旗下的創投基金三星催化基金(SCF)最近參與了美國AI晶片新創公司DreamBig Semiconductor的B輪7500萬美元投資,投資者當中還包括Marvell的創始人。三星的具體投資金額尚未披露。
DreamBig 成立於2019 年,專注於開發基於小晶片的尖端晶片平台,瞄準的是大型語言模型(LLM)、生成式AI、資料中心、邊緣運算和汽車應用。產業觀察家推測,DreamBig 的技術可以實現3D 高頻寬記憶體(HBM) 堆疊,並在記憶體頻寬方面提供強大的效能和效率,可能會被納入三星未來的AI半導體中。
2024年6月份,三星催化基金也參與了荷蘭AI解決方案新創公司Axelera AI 的6,800 萬美元B 輪融資。 Axelera AI成立於2021 年,為生成式AI 和電腦視覺推理提供專門的AI 硬體加速技術。
去年8 月,三星催化基金加入了由現代汽車集團主導的加拿大人工智慧晶片新創公司Tenstorrent 的1億美元投資。雖然具體投資金額沒有披露,但產業分析師認為三星投資了不少。 Tenstorrent由半導體傳奇人物Jim Keller 領導。 Tenstorrent 是三星代工業務的主要客戶,它使用開源RISC-V 架構設計用於訓練和運行人工智慧模型的電腦。三星與Tenstorrent合作預計將加速Tenstorrent 基於RISC-V 的電腦和AI 加速架構的採用。
三星還有意自研AI晶片。根據Sedaily報道,三星電子在其第55 屆年度股東大會上宣布,該公司正準備在2025 年初推出自己的AI 加速器晶片Mach-1。此舉將意味著與Nvidia 等公司競爭,據悉,三星已投入數十億美元進行研發。三星的Mach-1 是一款基於專用積體電路(ASIC) 的AI 推理加速器,配備LPDDR 內存,特別適合邊緣運算應用。
總之,三星為了贏下AI之戰,真的是多路並舉了。
SK海力士
SK海力士的母公司SK集團是韓國龐大的投資財團之一,2024年5月,SK集團實際的人工智慧投資部門SK Networks投資了人工智慧軟體新創公司Upstage,投資者還包括韓國電信營運商KT、新韓投資(曾支持韓國晶片新創公司Rebellions和MangoBoost)等。 Upstage專注於幫助企業開發語言特定的大型語言模型(LLMs),這輪融資使Upstage的總籌資額超過1億美元,使其成為韓國最資深的人工智慧軟體新創公司之一。
SK集團最近一直在出售非核心資產,來更專注於人工智慧。例如,SK Networks同意將其汽車租賃業務SK Rent-a-Car以約6.1億美元的價格出售給私募股權公司Affinity Equity Partners。同月,SK Networks宣佈在矽谷開設了一個人工智慧實驗室。
而SK最大的人工智慧「印鈔機」當屬SK海力士,在過去一年裡,SK海力士的股價翻了一番。所以,SK集團也更願意下大注給SK海力士。今年6月底,SK海力士母公司SK集團在聲明中表示,計劃在2028年前向SK海力士投資103兆韓元(約748億美元),約80%的投資,即82兆韓元,將用於投資HBM晶片。
目前,SK海力士的投資擴產計畫正在穩步推進中。
在韓國本地方面:
(一)龍仁半導體產業群聚:SK海力士先前定下向龍仁半導體產業集群注資約120兆韓元。 2024年7月26日,SK海力士已批准建造龍仁半導體產業集群首個晶圓廠及事業設施,項目投資約9.4萬億韓元,第一座工廠生產包括代表性AI存儲器HBM在內的下一代DRAM。此外,SK海力士計劃在第一階段建造“Mini-fab”,配備300毫米晶圓加工設備的研究設施,幫助小型企業開發、展示和評估技術。
(二)清州M15X晶圓廠:2024年4月24日,SK海力士宣布將在韓國忠清北道清州市建設M15X晶圓廠,作為新的DRAM生產基地,並投資約5.3兆韓元用於晶圓廠建設。工廠擴建旨在增加高頻寬儲存和其他先進人工智慧晶片的生產能力。該晶圓廠計劃於4月底動工建設,目標是2025年11月完工並儘早實現量產。隨著設備投資計畫的逐步增加,新生產基地的建設總投資將長期超過20兆韓元。
M15X位於一直在擴展TSV產能的M15附近,是優化HBM生產的最佳條件(圖源:SK海力士)
SK海力士希望對M15X和龍仁產業群的投資能幫助韓國成為更強大的AI半導體強國,同時為振興當地經濟提供動力。
除了在國內的投資佈局,2024年4月3日,SK海力士宣布,計劃在美國印第安納州西拉斐特投資約38.7億美元,建造一個先進的AI產品封裝製造和研發設施。該生產線將批量生產下一代HBM。預計2028 年下半年開始量產。
圖源:KEI
大量AI晶片新創公司崛起
除了三星和海力士等巨頭外,韓國AI晶片產業也湧現一批充滿活力的新創公司,如Rebellions、Sapeon、MangoBoost、HyperAccel、Mobilint、DEEPX和FuriosaAI等。詳情請查看《這個國家,豪賭AI晶片》。這些新創公司專注於神經網路加速器、視覺處理等細分領域,不斷推出創新性的AI晶片解決方案,為韓國AI晶片產業注入了新血,豐富了產品形態。
韓國政府的大力支持,如斥資4,714億美元打造龍仁半導體集群,更為人工智慧產業發展注入了強勁動力,極大提振了投資者信心。韓國經濟人聯合會委託Mono Research對韓國500 家最大企業(按營收計算)的國內投資計畫進行了調查,結果發現10.6%的企業表示,他們在今年下半年制定了與人工智慧相關的資本投資計劃。
自2024年以來,OpenAI的CEO Sam Altman和Meta的Mark Zuckerberg等科技巨頭領導者紛紛訪韓,尋求與韓國在人工智慧領域展開合作。
同時,英偉達和AMD等晶片巨頭也看準了韓國AI產業的潛力,積極投資相關新創公司。
2024年6月,英偉達向韓國生成式AI新創公司Twelve Labs 提供1,000 萬美元A 輪融資,這是一家專注於影片搜尋的AI 新創公司。三星電子的企業創投子公司三星Next和韓國創投公司Korea Investment Partners也加入了這輪融資。這是繼去年A輪前融資之後,英偉達又一次下注這家公司了。 Twelve Labs公司備受業界關注,其視訊大模型贏得了微軟技術大賽。目前該公司已在其平台中整合了英偉達的一些框架和服務,包括NVIDIA H100 Tensor Core GPU和NVIDIA L40S GPU,以改善其視訊理解技術。
而在去年10月,AMD和韓國電信公司KT投資了AI軟體廠商Moreh的2,200萬美元的B輪融資,Moreh表示,其旗艦AI軟體MoAI與Nvidia的CUDA類似,但與現有的機器學習框架相容,例如Meta 的PyTorch、Google的TensorFlow,以及以前只能在Nvidia 上運行的應用程式和AI 模型。
KT是韓國主要電信公司之一,也是韓國最大的雲端服務供應商。自2021 年以來,KT 一直與Moreh合作設計由AMD GPU 和MoAI 平台軟體提供支援的經濟高效、可擴展且可存取的AI 基礎架構。 2023年3 月至6 月,KT 和Moreh 在MoAI 平台和1,200 個AMD MI250 集群系統上訓練了有史以來最大的韓國LLM,參數數量為2210億。此叢集由300 個運算節點(每個4 個MI250)和38 個InfiniBand HDR 40 連接埠交換器組成(每個節點提供兩個IB HDR 連接)。
除了傳統科技巨頭,中東地區的投資也開始湧入韓國AI晶片領域。 2024年7月,韓國AI晶片設計新創公司Rebellions Inc.宣布獲得沙烏地阿美旗下企業創投基金Wa’ed Ventures的投資,據悉,該公司從阿美旗下的企業創投基金Wa’ed Ventures 籌集了200 億韓元(1,440 萬美元)。這標誌著韓國AI晶片新創公司在國際舞台上的影響力進一步擴大。
韓國在人工智慧晶片領域的崛起,得益於其強大的半導體產業基礎、政府的大力支持以及國際資本的青睞。
人才挑戰
隨著Fabless新創公司的興起,韓國面臨嚴峻的人才短缺問題。根據韓國半導體產業協會(KSIA)的預測,未來十年,韓國半導體產業的人才缺口將達到5.4萬人。這一缺口主要源自於以下幾個面向:
人才供需失衡:每年韓國畢業的半導體專業人才數量遠低於產業需求,無法滿足快速成長的市場。在韓國,晶片工程產業並不是學生最青睞的學術領域,因為人們普遍認為工程師的職業生涯會在40 多歲左右結束。這就是為什麼過去20 年來,成績最好的學生都選擇攻讀醫學學位而不是工程學位。韓國科學技術研究院電機工程教授Kim Jung-ho 表示:「韓國工程師的壽命太短了。
大企業虹吸效應:三星、海力士等巨頭企業憑藉著高薪和良好的發展前景,吸引了大量人才,人才會更期望在大企業就職。中小企業「人才荒」將愈演愈烈。
國際競爭加劇:英偉達、AMD等國際巨頭透過高薪、股權激勵等方式,積極從韓國挖角人才,加劇了人才流失。根據LinkedIn 6 月19 日的數據,Nvidia 從三星電子挖走了500 名半導體人才,反觀三星只有278名是來自英偉達。 SK海力士也被英偉達挖走了38人,沒有員工轉職。韓國企業的人才流出遠大於流入。
業內人士指出,韓國國內半導體企業正在積極招攬HBM等高性能存儲器崗位,此外,韓國半導體碩士、博士級人才也越來越多地進入該行業,呈現出人才從學術界流向國內企業、再流向國際企業的趨勢。半導體產業是韓國經濟的支柱,人才流失將對整個經濟產生負面影響。
寫在最後
美國專攻晶片設計,中國台灣專攻製造,韓國專攻記憶體晶片,日本專攻設備和零件的慣例現在已成為過去。在美國補貼的支持下,英特爾正大舉進軍晶片製造,而日本正與台灣聯手提升其製造能力。韓國也在AI策略下,一改只有儲存的局面,韓國AI晶片產業形成了以三星、海力士為代表的巨頭企業,與許多新創企業共同發展的生態系統。這種多元化的生態系統,不僅促進了技術創新,也為韓國AI產業的長期發展提供了有力保障。