NVIDIA在最新公布的MLPerf測試成績中,提供了使用多種運算平台的效能表現,並首次提供於Arm處理器平台搭配A100運算卡的數據。
NVIDIA在最新公布的MLPerf測試成績中,提供了使用多種運算平台的效能表現,並首次提供於Arm處理器平台搭配A100運算卡的數據。
維持絕對效能優勢
MLPerf是由學術界、研究實驗室和業界共同組成的AI聯盟,目標為打造公平、實用測試基準,透過圖像分類、物體偵測、翻譯、自然語言處理、推薦等不同類型的測試項目,提供客觀的AI訓練與推論效能評估。
在最新公布的結果中,可以看到A100運算卡在過去1年中,能夠透過軟體更新多可帶來50%的效能增益,讓使用者不需額外支出就能改善AI運算效能表現。至於與Qualcomm Cloud AI 100以及Intel Xeon Platinum 8380等運算平台的效能對比部分,無論在資料中心以及邊緣運算等使用情境下,主流的A30運算卡與高階的A100運算卡都能取得效能領先,而在電力效率部分,A100與Cloud AI 100則互有輸贏。
值得注意的是,這次的成績還包含了Arm架構伺服器搭配A100運算卡的數據,可以看到它能夠提供與x86平台相近的效能表現。
Arm高效能運算資深總監David Lecomber表示,身為MLCommons的創始成員,Arm致力於建立標準測試流過程,而這次公布的數據可以證明Arm架構處理器與軟體堆疊已經準備好搭配NVIDIA GPU進行各種AI運算負載。
加入電腦王Facebook粉絲團