原本PC、服務器市場需求陷入了下降週期，然而今年由於AIGC人工智能技術的火爆，NVIDIA的高端GPU反而供不應求，最頂級的H100顯卡售價超過25萬元，現在訂單都排到了明年。ChatGPT引發的AI熱潮仍在繼續，AI算力成為各大廠商投資的重點，而在這個領域中NVIDIA的AI顯卡幾乎是唯一選擇，因此今年湧入了大量急單，導致NIVIDIA的訂單已經排到了2024年，很多廠商要半年甚至近一年才能拿到產品。

訂單在手，NVIDIA也緊急向台積電下單增產A100、H100等高性能AI顯卡，導致後者的5nm產能利用率幾近滿載，現在台積電採用的是超級急件的方式給NVIDIA生產。

即便如此，訂單到今年底都是滿載的，實在是太火了。

H100基於GH100 GPU核心，定製版台積電4nm工藝製造，800晶體管，集成18432個CUDA核心、576個張量核心、60MB二級緩存，支持6144-bit HBM高帶寬內存，支持PCIe 5.0。

H100計算卡有SXM、PCIe 5.0兩種樣式，其中SXM版本15872個CUDA核心、528個Tensor核心，PCIe 5.0版本14952個CUDA核心、456個Tensor核心，功耗最高達700W。

性能方面，FP64/FP32 60TFlops(每秒60萬億次)，FP16 2000TFlops(每秒2000萬億次)，TF32 1000TFlops(每秒1000萬億次)，都三倍於A100，FP8 4000TFlops(每秒4000萬億次)，六倍於A100。