NVIDIA最強GPU H100太搶手，供不應求找外援產能大增30%

由於AI火爆，NVIDIA的AI顯示卡現在是供不應求，其中高階的A100、H100尤其搶手，廠商都是大量下單，而NVIDIA也在加急下單，最近更是找到了外援，產能大增30%。

NVIDIA的高階GPU採用了台積電的7nm、5nm製程代工，但是產能瓶頸不在先進製程上，而是所用的Cowos先進封裝上，此前也是依賴台積電，但後者的產能提升有限，還有AMD等公司的訂單搶產能。

最新消息稱，聯電也開始為NVIDIA提供外援了，7月份起每個月增加3000片晶圓的Cowos中介層產能，然後再有另一家封測大廠Amkor安靠封裝，三方的合作使得A100、H100的整體產能提升了30%。

供應量上來了，A100、H100等顯示卡的供應情況應該會有所緩解，下半年有望解決加價搶購的麻煩。

H100基於GH100 GPU核心，定製版台積電4nm工藝製造，800電晶體，內建18432個CUDA核心、576個張量核心、60MB二級快取，支援6144-bit HBM高頻寬記憶體，支援PCIe 5.0。

性能方面，FP64/FP32 60TFlops(每秒60兆次)，FP16 2000TFlops(每秒2000兆次)，TF32 1000TFlops(每秒1000兆次)，都三倍於A100，FP8 4000TFlops(每秒4000兆次)，六倍於A100。

• 延伸閱讀：Nvidia H100 11分鐘內訓練一遍GPT-3，8秒訓練完BERT稱霸8項測試
• 延伸閱讀：玩家將 NVIDIA最強AI GPU H100 拿來「不務正業」，測試來跑遊戲分數會逆天嗎？
• 延伸閱讀：NVIDIA公布H100 GPU MLPerf效能成績，最高較前代A100提升6.7倍