NVIDIA公布更多MLPerf效能測試數據，透過軟體最佳化提升效能高達6.5倍

繼先前NVIDIA發表MLPerf V1.0效能驗證成果之後，這次他們提供更多與競爭產品對照的效能測試數據，並表示透過在2.5年內持續透過最佳化方式，最高提升效能高達6.5倍。

連台積電都採用的測試基準

MLPerf是由學術界、研究實驗室和業界共同組成的AI聯盟，目標為打造公平、實用的測試基準。其測試項目含

1. RNN-T：語音辨識
2. BERT：自然語言處理
3. DLRM：推薦系統
4. MiniGo：強化學習
5. UNet-3D：醫學影像分析
6. SSD：物體偵測（輕量型）
7. Mask R-CNN：物體偵測（重量型）
8. ResNet-50 v 1.5：圖像分類

等多種測試類別，以發揮為硬體、軟體和服務的AI訓練與推論提供客觀的效能評估。

TSMC（台積電）也導入MLPerf對機器學習運算效能進行評估，並表示機器學習能夠顯著提升光學接近校正（Optical Proximity Correction，OPC）與光刻模擬的準確度，除了與NVIDIA工程團對共同合作將麥斯威爾模擬（Maxwell Simulation）逆向光刻技術（Inverse Lithography Technology，ILT）等程式移植至GPU，也將MLPerf作為決策的重要依據。

根據NVIDIA提供的數據，自家的DGX SuperPOD超級電腦是唯一提交所有測試項目的系統，並在多項測試保持大幅領先，另一方面，NVIDIA也不斷透過軟體最佳化與系統整合，提升整體效能表現。

▲ MLPerf由8種不同的測試項目構成。

▲ TSMC也表示機器學習的至重要性，並導入MLPerf評估效能。

▲ DGX SuperPOD能在多項測試大幅領先。（數據為AI訓練用時，越低越好）

▲ 將數據標準化後，可以看到NVIDIA能在單一晶片提供最佳綜合效能。

▲ NVIDIA透過軟體最佳化與系統整合在過去1年提升效能最高達3.5倍。

▲ 若將時間拉長到2.5年，效能提升幅度最高達6.5倍。

關於更多MLPerf資訊，可以參考MLPerf組織官方網站。