Skip to content
WONGCW 網誌
  • 首頁
  • 論壇
  • 微博
  • 壁紙下載
  • 免費圖床
  • 視頻下載
  • 聊天室
  • SEO工具
  • 支援中心
  • 表格製作
  • More
    • 在線名片
    • 網頁搜索
    • 天氣預報
    • 二維碼生成器
    • WordPress 插件及主題下載
  • Search Icon

WONGCW 網誌

記錄生活經驗與點滴

英偉達「中國特供版」H20 AI晶片綜合算力比H100降80%

英偉達「中國特供版」H20 AI晶片綜合算力比H100降80%

2023-11-10 Comments 0 Comment

近日有消息稱,晶片巨頭英偉達(NVIDIA)將基於H100推出三款針對中國市場的AI晶片,以應對美國最新的晶片出口管制。規格文件中顯示,英偉達即將向中國客戶推出新產品分別名為HGX H20、L20 PCle、L2 PCle,基於英偉達的Hopper和Ada Lovelace架構。

從規格和命名來看,三款產品針對的是訓練、推理和邊緣場景,最快將於11月16日公佈,產品送樣時間在今年11月至12月,量產時間為今年12月至明年1月。

鈦媒體App從多位英偉達產業鏈公司了解到,上述消息屬實。英偉達的這三款AI 晶片並非“改良版”,而是“縮水版”。其中,用於AI 模型訓練的HGX H20在頻寬、計算速度等方面均有所限制,理論上,整體算力要比英偉達H100 GPU晶片降80%左右,即H20等於H100的20%綜合算力性能,而且增加HBM顯存和NVLink互聯模組以提高算力成本。所以,儘管比起H100,HGX H20價格會下降,但預計該產品價格仍將比國內AI 晶片910B高一些。

「這相當於將高速公路車道擴寬,但收費站入口未加寬,限制了流量。同樣在技術上,透過硬體和軟體的鎖,可以對晶片的性能進行精確控制,不必大規模更換生產線,即便是硬體升級了,性能仍然可以按需調節。目前,新的H20已經從源頭上’卡’住了性能。」一位行業人士這樣解釋新的H20晶片,「比如,原先用H100跑一個任務需要20天,如今H20再跑可能要100天。”

儘管美國發布新一輪晶片限制措施,但英偉達似乎並沒有放棄中國龐大的AI 算力市場。

那麼,國產晶片是否可以替代?經過測試,目前在大模型推理方面,國內AI 晶片910B僅能達到A100的60%-70%左右,集群的模型訓練難以為繼;同時,910B在算力功耗、發熱等方面遠高於英偉達A100/H100系列產品,且無法相容CUDA,很難完全滿足長期智算中心的模型訓練需求。

截止目前,英偉達官方對此並未做出任何評論。

據悉,今年10月17日,美國商務部工業與安全局(BIS)發布了針對晶片的出口管制新規,對包括英偉達高性能AI晶片在內的半導體產品施加新的出口管制;限制條款已經於10月23日生效。英偉達給美國SEC的備案文件顯示,立即生效的禁售產品包括A800、H800和L40S這些功能最強大的AI晶片。

另外,L40和RTX 4090晶片處理器保留了原有30天的窗口期。

10月31日曾有消息稱,英偉達可能被迫取消價值50億美元的先進晶片訂單,受消息面影響,英偉達股價一度大跌。此前,英偉達為中國專供的A800和H800,由於美國新規而無法正常在中國市場銷售,而這兩款晶片被稱為A100及H100的“閹割版”,英偉達為了符合美國之前的規定而降低了晶片性能。

10月31日,中國貿促會新聞發言人張鑫表示,美方新發布的對華半導體出口管制規則,進一步加嚴了人工智慧相關晶片、半導體製造設備對華出口的限制,並將多家中國實體列入出口管制「實體清單」。美國這些措施嚴重違反了市場經濟原則和國際經貿規則,加劇了全球半導體供應鏈撕裂與分散風險。美國自2022年下半年開始實施的對華晶片出口禁令正在深刻改變全球供需,造成2023年晶片供應失衡,影響了世界晶片產業格局,損害了包括中國企業在內的各國企業的利益。

英偉達HGX H20、L20、L2與其他產品的性能參數比較

鈦媒體App了解到,新的HGX H20、L20、L2三款AI 晶片產品,分別基於英偉達的Hopper和Ada架構,適用於雲端訓練、雲端推理以及邊緣推理。

其中,後兩者L20、L2的AI 推理產品有類似的「國產替代」、相容CUDA的方案,而HGX H20是基於H100、透過韌體閹割方式AI 訓練晶片產品,主要取代A100/H800,國內除了英偉達,模型訓練方面很少有類似國產方案。

文件顯示,新的H20擁有CoWoS先進封裝技術,而且增加了一顆HBM3(高效能記憶體)到96GB,但成本也隨之增加240美元;H20的FP16稠密算力達到148TFLOPS(每秒兆次浮點運算),是H100算力的15%左右,因此需要增加額外的演算法和人員成本等;NVLink則由400GB/s升級至900GB/s,因此互聯速率會有較大升級。

據評估,H100/H800是目前算力集群的主流實踐方案。其中,H100理論極限在5萬張卡集群,最多達到10萬P算力;H800最大實踐集群在2萬-3萬張卡,共4萬P算力;A100最大實踐集群為1.6萬張卡,最多為9600P算力。

然而,現今新的H20晶片,理論極限在5萬張卡集群,但每張卡算力為0.148P,共計近7400P算力,低於H100/H800、A100。因此,H20集群規模遠達不到H100的理論規模,基於算力與通訊均衡度預估,合理的整體算力中位數為3000P左右,需增加更多成本、擴展更多算力才能完成千億級參數模型訓練。

兩位半導體產業專家向鈦媒體App表示,基於目前效能參數的預估,明年英偉達B100 GPU產品很有可能不再向中國市場銷售。

整體來看,如果大模型企業要進行GPT-4這類參數的大模型訓練,算力集群規模則是核心,目前只有H800、H100可以勝任大模型訓練,而國產910B的性能介於A100和H100之間,只是「萬不得已的備用選擇」。

如今英偉達推出的新的H20,則更適用於垂類模型訓練、推理,無法滿足萬億級大模型訓練需求,但整體性能略高於910B,加上英偉達CUDA生態,從而阻擊了在美國芯片限制令下,國產卡未來在中國AI 晶片市場的唯一選擇路徑。

最新財報顯示,截至7月30日的一個季度內,英偉達135億美元的銷售額中,有超過85%份額來自美國和中國,只有大約14%的銷售額來自其他國家和地區。

受H20消息影響,截至美股11月9日收盤,英偉達股價微漲0.81%,報收469.5美元/股。近五個交易日,英偉達累漲超過10%,最新市值達1.16兆美元。

分享此文:

  • 分享到 Twitter(在新視窗中開啟)
  • 按一下以分享至 Facebook(在新視窗中開啟)
  • 分享到 WhatsApp(在新視窗中開啟)
  • 按一下以分享到 Telegram(在新視窗中開啟)
  • 分享到 Pinterest(在新視窗中開啟)
  • 分享到 Reddit(在新視窗中開啟)
  • 按一下即可以電子郵件傳送連結給朋友(在新視窗中開啟)
  • 點這裡列印(在新視窗中開啟)

相關


網絡資訊

Post navigation

PREVIOUS
3243家晶片設計企業55%銷售額不足1000萬魏少軍:應杜絕「精神分裂」式內卷
NEXT
魏少軍:用14/28nm做出7nm產品性能才是真正的高手長江存儲和Mate 60都是案例

發表迴響取消回覆

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。

More results...

Generic filters
Exact matches only
Search in title
Search in content
Search in excerpt
Filter by 分類
網站公告
Featured
限時免費
Windows 軟件下載
系統軟件
辦公軟件
圖像處理
影音媒體
網絡軟件
應用軟件
Mac 軟件下載
安卓軟件下載
網絡資訊
Mac資訊
Linux資訊
VPS資訊
NASA資訊
WordPress資訊
WeChat資訊
PHP資訊
教學資源
開源程序
網頁工具
SEO工具
醫療健康
其他資訊
Content from
Content to
2023 年 11 月
一 二 三 四 五 六 日
 12345
6789101112
13141516171819
20212223242526
27282930  
« 10 月   12 月 »

分類

  • 網站公告
  • 限時免費
  • Windows 軟件下載
  • 系統軟件
  • 辦公軟件
  • 圖像處理
  • 影音媒體
  • 網絡軟件
  • 應用軟件
  • Mac 軟件下載
  • 安卓軟件下載
  • 網絡資訊
  • Mac資訊
  • Linux資訊
  • VPS資訊
  • NASA資訊
  • WordPress資訊
  • WeChat資訊
  • PHP資訊
  • 教學資源
  • 開源程序
  • 網頁工具
  • SEO工具
  • 醫療健康
  • 其他資訊

彙整

近期文章

  • 馬斯克狂吹的Cyber​​truck真來了看過實車的消費者怎麼想? 2023-12-11
  • 現代汽車推出內建雪地防滑鏈的汽車輪胎一鍵完成切換 2023-12-11
  • 《決勝時刻:現代戰爭3》將支援FSR 3幀生成 2023-12-11
  • 2023年諾貝爾獎頒獎典禮在斯德哥爾摩舉行單項獎金1100萬瑞典克朗 2023-12-11
  • 《eFootball 2024》第三季更新 包含新的遊戲模式 2023-12-11
  • 經典遊戲《毀滅戰士》(DOOM)發行30週年約翰羅梅羅發行SIGIL II以示慶祝 2023-12-11
  • 利用極化子:改變半導體技術的微小動力源 2023-12-11
  • 聯發科獲各大手機廠商Wi-​​Fi 7訂單打破博通長期壟斷 2023-12-11
  • 從無人問津到成功逆襲新款大眾ID.3亮相 2023-12-11
  • 針對果蠅的新研究揭示了雄性求偶行為的起源 2023-12-11

熱門文章與頁面︰

  • Chrome測試新界面:讓用戶快速更改頭像和主題顏色
  • 打車叫到特斯拉不會開門很尷尬?官方介紹開關門方法
  • Google Chrome瀏覽器意外出現Status_Access_Violation錯誤而崩潰
  • 完整驅動程序解決方案Treexy Driver Fusion v7.2.0 + v1.7.0 Premium
  • 英國大學生設計出適用於盲人的手持式設備可被當成機器導盲犬
  • 世界上有多少個國家
  • 日本會社提供《勇者鬥惡龍》SavePoint服務仿教會重新證婚
  • 騰訊官宣:國銀Switch延保計畫停售
  • 下載WINDOWS10 登入畫面的圖片 (WINDOWS焦點)
  • Office 2019部署自定義安裝教程

投遞稿件

歡迎各界人士投遞稿件到admin@wongcw.com

請提供以下資料:

1.你的名字

2.你的電郵

3.分類目錄

4.文章標題

5.文章摘要

6.文章內容

7.文章來源

 

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

快帆

MALUS

極度掃描

DMCA.com Protection Status

WONGCW 網誌

  • 免責聲明
  • 捐助我們
  • ThemeNcode PDF Viewer
  • ThemeNcode PDF Viewer SC
  • Events

服務器提供

本站使用之服務器由ikoula提供。

聯繫我們

查詢,投稿,商務合作:
​admin@wongcw.com
​技術支援:
​support@wongcw.com
​客户服務:
​cs@wongcw.com

QQ群:833641851

© 2023   All Rights Reserved.