Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

巨人圍攻英偉達CUDA 用Android模式打破算力霸權

巨人圍攻英偉達CUDA 用Android模式打破算力霸權

2024-03-28 Comments 0 Comment

過去一年多,矽谷掀起的生成式AI 革命席捲全球,愈演愈烈。而在這場革命有中兩條非常明顯的主線:一是基礎技術的進化,以GPT、Gemini 為代表的大模型繼續向著AGI(通用人工智慧)迭代;二是現象級應用的湧現,生成式AI 在不同領域、不同場景下的應用狂潮在逐步改變人類的生活和工作方式,例如雷科技尤其關注的AI硬體領域,就出現了AI手機、AI PC、AI電視、AI家電、AI清潔等新應用。

在兩條主線下,還有一條關於算力的「暗線」。

對AI 的發展來說,算力短缺已經不是一天兩天的問題,時至今日各大公司都還在繼續搶購GPU,更確切地說,是英偉達的高端GPU:

如果說《沙丘》是“得香料者得天下”,那麼AI 行業就是“得英偉達GPU 者得天下”。

圖/英偉達

這也讓整個產業對英偉達GPU 又愛又恨,一方面是基於CUDA 平台的英偉達高階GPU 可以簡單、有效率地進行人工智慧訓練,另一方面是所有人都過於依賴英偉達這家公司。

CUDA是英偉達AI的基石

關於英偉達GPU 成功原因的分析已經很多了,其核心主要還是英偉達GPU 本身的高效能(包括互連性能),加上CUDA 平台帶來的軟硬體協同效應。英偉達在硬體本身的優勢並不難逾越,問題關鍵在於軟體,在於CUDA 平台。

在前段時間的GTC 2024開幕演講上,老黃也回顧了英偉達的發展史。

2014年,黃仁勳首次強調機器學習的重要性,當時AlphaGo尚未戰勝李世石,深度學習並未引發世界級關注。不過當時英偉達已提出CUDA(通用運算平台)的概念,當許多人還在把英偉達當作「遊戲顯示卡」的製造商時,其走在了AI 變革前沿。

不過最初,CUDA的應用場景主要是科學計算,就是類似氣候模擬、物理模擬、生物資訊學等專業研究,應用場景很有價值,但卻狹窄。正因為此,英偉達的CUDA一直沒有打開市場,帶給英偉達的回報無法與對應的巨量研發投入相符。黃仁勳每年都需要向董事會解釋,為什麼英偉達要堅持做CUDA?

其實當時老黃也不知道,英偉達的CUDA會在未來幾年,先後迎來區塊鏈「挖礦」、AI大模型計算等計算場景,真實潑天富貴。

(圖源:英偉達)

短短兩年時間,英偉達透過H100、H200 晶片,締造了萬億AI帝國,市值已超越亞馬遜等傳統豪強,按照這樣的勢頭,在可見的未來,超越蘋果、微軟成為世界頭號巨頭也不是沒有可能。

現在,英偉達的「卡」供不應求,不只是字節、百度等中國科技巨頭在搶著囤卡以應對極端情況,矽谷科技巨頭如微軟、Meta,也全都在找老黃買卡。

在被稱為AI應用元年的2024,英偉達的CUDA(通用計算平台)正如其名,變得通用起來,從大語言模型、對話式AI、邊緣計算等底層技術,到智能座艙、自動駕駛、人形機器人等應用場景,再到AI手機、AI PC、AI家電、AI搜尋、AI繪畫等應用,以及未來的氣候預測、計算光刻與6G網絡,AI正無所不在,英偉達的計算也無所不在不在,成為「通用計算」。

當英偉達的卡片以及CUDA平台越來越重要時,其他科技巨頭看到了「制霸」危機:

一方面,英偉達的卡價格不菲,且擁有絕對定價權,廠商們囤積GPU卡要給英偉達巨額資金,結果就是:做AI的不一定賺錢(當前幾乎都不賺錢),英偉達卻賺爆了。

另一方面,科技巨頭被英偉達卡了脖子。英偉達可以決定最頂尖的卡片先給誰,給多少,給不給。此外,英偉達也依托GPU的運算資源向上層業務拓展,涉足雲端等業務,與科技巨頭形成一定的競爭。

事實上從2023 年開始,許多晶片廠商和大型模型廠商都意識到了這些問題,紛紛希望透過另建一套軟體平台對抗英偉達的CUDA。不能說所有嘗試都失敗了,只能說目前還沒有出現真正的挑戰者。

如今,一個新聯盟和開源平台,可能會徹底改變英偉達CUDA 一家獨大的局面——如同當初谷歌振臂高呼組建的OHA聯盟以及開源的Android對抗蘋果一般。因緣際會的是,在這一輪打破CUDA霸權的戰爭中,Google依然扮演了至關重要的角色,Android陣營的高通、ARM們也在發揮各自的關鍵作用。

日光之下,無新事。

巨頭組聯盟反抗CUDA

「整個產業都希望能幹掉CUDA,包括Google、OpenAI 等公司都在想方設法讓人工智慧訓練更加開放。我們認為CUDA 的護城河既淺又窄。」在去年年底的一場活動上,英特爾CEO 帕特·基辛格(Pat Gelsinger)語出驚人地指出了對於英偉達CUDA 平台的看法。

但即便基辛格認為CUDA 的護城河“既窄又淺”,他也明白挑戰在人工智慧訓練上挑戰英偉達,絕非易事。

根據路透社報道,Linux 基金會聯合英特爾、Google、高通、ARM 以及三星等公司成立了統一加速基金會(UXL),以英特爾的oneAPI 為起點,正在開發一套開源軟體套件,允許人工智慧開發者在任何AI 晶片上運行他們的程式碼。

圖/ UXL

這裡需要簡單介紹下,oneAPI 是英特爾的統一程式設計模型和軟體開發框架,讓開發者無需對程式碼進行重大修改,就能藉助oneAPI 實現跨硬體架構(包括英特爾的CPU、GPU 和FPGA)的程式開發。

簡單來說,UXL 就是在oneAPI 的基礎上更進一步,要實現更廣泛的跨架構跨平台支持,解除晶片硬體與軟體的強綁定關係。

而集合了晶片廠商、大型模型廠商以及晶圓代工廠的UXL,無疑是想取代英偉達CUDA 平台,成為全球人工智慧開發者的首選開發平台。高通人工智慧和機器學習主管Vinesh Sukumar 就明確表示:

“我們實際上是在向開發者展示如何從英偉達平台遷移出來。”

甚至,UXL 最終也將支援英偉達的硬體和程式碼。

而除了最初參與的創始成員,UXL 還吸引了包括亞馬遜AWS、微軟Azure 以及多家晶片廠商。同時根據規劃,UXL 預計在今年上半年確定技術規範,在年底前將技術細節完善成熟。

至於UXL 能不能成功取代掉CUDA,成為全球人工智慧開發者的首選平台,顯然還需要一系列的證明,畢竟超越CUDA:

真的很難。

對抗CUDA,到底難在哪裡?

首先我們要明白,CUDA 既是一種程式語言,也是一種編譯器。

作為程式語言,CUDA 是開發者透過CUDA 與底層硬體(GPU)溝通、呼叫算力的一種方式,要新建一套新的程式語言並不難。作為編譯器,CUDA 無疑有很高的效能,這意味著開發者可以透過CUDA 在GPU 上更有效率地執行程序,用更容易理解的話說:

CUDA 可以有效率地利用GPU 的峰值算力。

CUDA,圖/英偉達

考慮到現今人工智慧訓練對於大算力、高效能的追求,也無怪乎開發者對CUDA 的偏好。

但實際上英偉達在這兩個層面上絕非天下無敵,尤其是OpenAI 開源的Triton,不僅能在英偉達的GPU 上實現接近CUDA 的執行效率,還在合併AMD ROCm(對標CUDA)等平台的程式碼,相容於更多的GPU。

CUDA 難以被撼動的關鍵在於,它還是一種生態。

去年台北電腦展上,老黃透露有400 萬開發者正在使用CUDA 運算平台。而且在過去十幾年間(CUDA 推出於2007 年),CUDA 已經累積了大量的高效能程式庫以及框架程式碼。這也是為什麼儘管連OpenAI 都吐槽用CUDA 為GPU 編程的難度,但更多開發者還是基於CUDA,而不是Triton 進行開發。

另一方面,英偉達的軟硬體協同設計也讓這種優勢更加牢不可破。

要知道,Triton 可以相容於英偉達的GPU,其他GPU 也可以相容於CUDA,甚至在效率上後來居上也並非不可能。但軟體適配硬體需要時間,尤其是在GPU 上需要更長的時間。

這意味著英偉達一旦發布新的GPU 與CUDA 版本,不管是相容CUDA 還是相容於英偉達的GPU,就需要重新追趕英偉達的腳步。

(老黃最新發布的Blackwell,圖/英偉達)

所以某種程度上,能打敗英偉達的只有採用軟硬體協同設計的策略,同時擁有強大的晶片能力和軟體能力。

用“Android模式”,打破英偉達算力霸權

Google擁有自己的TPU、XLA 運算平台,還有自己的大模型和一系列算力「出口」。但Google這套並不外賣,所以包括Authropic(Claude 母公司)、Midjourney 都是透過Google雲端使用這套算力解決方案,而沒有選擇購買英偉達的GPU。

從這個角度來看,UXL 雖然聚集了從晶圓代工廠到晶片廠商,再到雲端運算和大模型廠商,涵蓋了AI 晶片的主要上下游,但真正的挑戰還在於不同成員之間的協同,這也是UXL 能不能成功的關鍵。

如果沒有足夠的利益捆綁,每個「聯盟」都難成氣候,聚集得多高調,渙散就有多迅猛。 Android生態能成功的關鍵在於,系統平台、半導體、硬體、開發者等等參與者能各取所需,一起將蛋糕做大。 UXL 是否能形成同樣的正向循環效應?當下,我們不知道答案。

年初,OpenAI Sam Altman 語不驚人死不休,曝出計畫募得7 兆美元解決AI 面對的算力問題。雖然這個數字驚掉了所有人的下巴,但也再一次地說明了,以OpenAI 為代表的人工智慧產業對於算力的極度渴求——在微軟支持下,OpenAI也在佈局自有晶片體系。

總而言之,英偉達無法滿足所有人,所有人也不滿足於只有一家英偉達。換句話說,不管UXL 能不能成功,Google會不會改變策略,所有人都會繼續挑戰英偉達:

直到打破算力霸權。

分享此文:

  • 按一下即可分享至 X(在新視窗中開啟) X
  • 按一下以分享至 Facebook(在新視窗中開啟) Facebook
  • 分享到 WhatsApp(在新視窗中開啟) WhatsApp
  • 按一下以分享到 Telegram(在新視窗中開啟) Telegram
  • 分享到 Pinterest(在新視窗中開啟) Pinterest
  • 分享到 Reddit(在新視窗中開啟) Reddit
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟) 電子郵件
  • 點這裡列印(在新視窗中開啟) 列印

相關


網絡資訊

Post navigation

PREVIOUS
26.14萬元小米SU7購車發票曝光
NEXT
分析師:小米SU7汽車12個月出貨量可超5萬輛

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
赫思醫美
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2024 年 3 月
一 二 三 四 五 六 日
 123
45678910
11121314151617
18192021222324
25262728293031
« 2 月   4 月 »

分類

  • 網站公告
  • 赫思醫美
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 嫦娥七號明年前後將發射也將帶一件重要儀器上月球 2025-07-10
  • 三星首款三折疊已就緒但仍在觀望市場是否真有需求 2025-07-10
  • 地表最貴AI誕生年費2.1萬,自稱學術能力超人類博士 2025-07-10
  • 中車長客設計師:CR450BF爭取明年見 2025-07-10
  • 儲存空間越來越不夠用1%的PC玩家設備可用不足10G 2025-07-10
  • 跳票6年後特斯拉Semi電動半掛終於完成貨運測試 2025-07-10
  • 主產帕薩特和速派存世17年的上汽大眾南京工廠正式關閉 2025-07-10
  • 歐洲高效能運算處理器「Rhea1」流片上市時間延至2026年 2025-07-10
  • 烏克蘭將在2026年推出星鏈行動服務 2025-07-10
  • 美國機器人自主完成膽囊切除手術表現堪比資深醫生 2025-07-10

熱門文章與頁面︰

  • 無3C行動電源禁止登機一文看懂到底什麼是3C認證、如何分辨真偽
  • Photon Matrix:針對蚊子的“防空系統”
  • 百度地圖新增攤位上傳綠色通道用戶使用地圖可直接導航至地攤前
  • TIM for Windows v2.3.0.20979 正式版发布
  • 曝鈴木汽車因中國稀土管制全面停產主力車型雨燕
  • ABC/CBS/Fox/NBC紛紛向免費電視流媒體應用Locast發起訴訟
  • 完整驅動程序解決方案Treexy Driver Fusion v8.1.0 + v1.7.0 Premium
  • 您可以在Windows 11 24H2 中找回WordPad
  • 微信調整新裝置登入驗證功能可以人臉辨識取代先前兩位好友驗證碼
  • CorelDRAW Graphics Suite 2020 v22.1.0.517

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

赫思醫美

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2025   All Rights Reserved.