訓練時間有望縮短至幾分鐘台積電或將生產Cerebras“超級AI芯片”
根據DIGITIMES報導,台積電在推出3D SoIC後端服務後,還開發了主要用於超級計算AI芯片的InFO_SoW(晶圓上系統)技術,並有望在兩年內以InFO(集成式扇出封裝技術)衍生的工藝開始量產。此前,台積電已與Cerebras達成合作,InFO衍生的工藝開始量產意味著台積電可能在兩年內開始商業化生產專用於超級計算機的AI芯片。
這款從去年推出就備受矚目的超級AI芯片若進入商業化,機器學習或將邁入新台階。
圖片源自於pxhere
製造“超級”AI芯片,面臨互連難題
此次台積電計劃生產的AI芯片,其實是由一家初創人工智能公司Cerebras Systems在去年推出的世界上最大的半導體芯片,該芯片擁有1.2萬億個晶體管,40萬個核心,面積為46225平方毫米,片上內存18G,是目前面積最大芯片英偉達GPU的56.7倍,並多78個計算內核。
根據Cerebras的說法,該芯片是目前唯一的萬億級晶體管晶圓級處理器,基於該芯片推出的CS-1系統可以提供比其他系統更少的空間和功耗的計算性能,相當於標準數據中心機架的三分之一,同時取代對數十萬個GPU的需求。
圖片源自Cerebras官網
Cerebras之所以推出這款AI芯片,主要是針對深度學習的工作負載。當今人工智能的發展受訓練模型所需花費時間的限制,如何縮短訓練時間是整個行業共同面臨的問題。目前大多數芯片都是在12英寸的矽晶圓上製成的芯片的集合,並在芯片工廠批量加工,但Cerebras芯片卻是採用互連的方法將所有內核放在同一塊矽晶圓上,使得數據移動快速且低功耗。
另一方面,Cerebras將所需的數據存儲在處理器芯片上而非單獨的存儲芯片上,這也就意味著,該款芯片能將原本需要幾個月的訓練縮短到幾分鐘,推理能力也更強。
所有這些改進,都指向製造出盡可能大的芯片。但芯片越大,可能出現的缺陷也就越多。這就要求在製造該款芯片的過程中,盡可能解決一些難題。例如,光刻工具是旨在將其特定的圖案一遍又一遍地投射到較小的矩形框內,由於在晶圓的不同位置刻蝕不同圖案的成本和難度,限制了在同一個晶圓上構建不同的系統。
對於這款超級計算芯片而言,最大的挑戰在於芯片互連。這要求芯片製造商能夠在每個芯片周圍留下空白矽的窄邊,這一窄邊稱為劃線。基於這一難題,Cerebras與台積電展開了合作。
台積電先進封裝技術有望實現“超級”AI芯片量產
在台積電與Cerebras的合作中,其集成式扇出封裝技術(InFO)發揮著重要作用。
集成式扇出封裝技術到底是什麼呢?
從技術特點來看,先進的晶圓封裝技術分為扇入型(Fat-in)和扇出型(Fan-out)兩種,傳統的晶圓級封裝多采用扇入型結構,完成再佈線並形成與外部互連的焊球,主要應用於I/O引腳數量較少的集成電路芯片。但隨著終端用戶對產品性能的要求日趨增多,摩爾定律下工藝節點不斷推進,滿足要求的芯片需要更多的I/O引腳,傳統扇入型封裝已不符合要求,扇出型晶圓級封裝方式應運而生。
扇出型封裝突破I/O引出端數目的限制,通過晶圓重構增加單個封裝體面積,之後應用晶圓級封裝的先進製造工藝完成多層再佈線和凸點製備,切割分離後得到能夠與外部帶性能互連的封裝體。
圖片源自台積電官網
不同廠商的技術各有差異,就台積電而言,在扇出型晶圓封裝領域開發出了集成式扇出封裝技術(InFO),並於2014年宣布量產。台積電採用的扇出型封裝技術,捨棄了原本扇入型封裝所使用的印刷電路版,直接將NAND、邏輯IC、RF射頻等器件嵌入晶圓,這就意味著,依靠扇出型封裝技術所得到的芯片厚度和成本都減少。
根據台積電的說法,其扇出型封裝技術使芯片厚度減少20%,成本降低30%,同時互連功耗降低15%。以較小的功耗實現巨大的連接性,這正是超級計算AI芯片所需解決的問題。
儘管扇出型封裝技術比扇入型封裝先進,但考慮到安全性等因素,目前市場上只有手機應用處理器使用扇出型封裝,CPU和邏輯IC等依然使用扇入型封裝。基於其成本與厚度優勢,未來,可能會有越來越多的芯片採用扇出型封裝技術。此次台積電與Cerebras的合作,也為扇出型封裝技術開拓了新市場。
小結
預計Cerebras晶圓的成本為200萬美元,價格昂貴,這一AI芯片就算實現量產也無法在短時間內大量普及,但其學習能力和推理能力確實值得我們期待,這似乎是賽博時代機器走向人類的一大步,如同我們對5G世界的想像一樣,當機器學習變得更加容易,我們的世界將會是什麼樣子?