今年四月初由眾多人工智慧業界一流廠商參與的 MLPerf v3.0 AI 推論(Inference)效能基準測試中,台灣 AI ASIC 平台廠商創鑫智慧(NEUCHIPS)公布其世界第一個專為資料中心推薦模型 (Recommendation Model)設計的 AI 加速器 RecAccel N3000 的測試數據。
根據評測結果,RecAccel N3000 在伺服器領域的能源效率(Energy efficiency)上領先 AI 大廠輝達(NVIDIA),成為世界第一能效的 AI 加速平台,讓需要高運算力的資料中心與雲端服務供應商,以最低的總擁有成本(TCO)實現企業永續(ESG)發展目標。
MLPerf v3.0 AI 推論測試是由致力提升機器學習技術和應用的開放工程聯盟 MLCommons 所進行。創鑫智慧此次採用技鋼 G482-Z54 伺服器搭載 AMD EPYC 7452 32 核 CPU,以及 8 張 RecAccel N3000 32G PCIe 加速卡執行 DLRM 測試。
根據 MLCommons 公布的測試數據,在資料中心推薦系統領域,RecAccel N3000 系統除了展現其 100% 的效能擴充性(Performance Scalability)之外,在每瓦可處理 1,060 次查詢 (Queries)的評測上,能效為對手 NVIDIA H100 的 1.7 倍,高居榜首。
未來計畫推出的 RecAccel Quad N3000 PCIe 卡,更能提供高達 2.2 倍的卓越效能。RecAccel N3000 優異的效能和 TCO 特性,滿足了資料中心與雲端服務業者對於 AI 應用的需求並符合 ESG 發展趨勢。
近年來,COVID-19 疫情的影響大幅改變了多數人的生活習慣和消費模式,進而引爆行銷科技(MarTech)的興起。如何提升行銷效率及藉由 AI 模型運算提供即時、個人化的精準數據,設計更佳的消費者使用體驗,已成為各大線上、線下業者所面臨的最大挑戰。
此外,電商平台、社群媒體、影音傳媒、交友軟體和搜尋引擎的蓬勃發展,也加速了全球對推薦系統的需求,其市場每年以大約 30% 左右的複合年增長率(CAGR)快速成長,吸引全球各大廠商與新創公司參與競逐。
「為實現量大、精準、即時且節能的人工智慧運算,我們必須找到更可持續和環境友好的解決方案,這不僅僅是一個商業挑戰,更是對社會責任和綠色發展的追求,」創鑫智慧創辦人暨董事長林永隆博士表示。「我們以具體行動證明我們對永續發展的承諾,除了在 MLPerf 測試中取得最佳表現,我們還將推出專為開放運算計畫(OCP)設計的 DM.2 模組,繼續引領產業發展,提供更多協助雲端服務供應商與資料中心節省成本的平台方案,並助力 AI 技術的繁榮與成長。
AMD 策略業務發展全球副總裁Kumaran Siva則表示:「AMD 提供高效能運算產品,幫助智慧系統有效管理複雜的資料集。我們非常高興能與創鑫智慧合作,藉由 AMD EPYC 處理器為 MLPerf v3.0 中的 DLRM 推理實現領先的效能及能耗。我們期待持續與創鑫智慧協同發展與創新,為市場提供不斷引領先進技術的人工智慧解決方案。
創鑫智慧由資深 IC 及軟體設計專家團隊於 2019 年創立,台灣總部坐落於新竹科學園區,為 AI ASIC 解決方案的領導廠商。其管理和研發團隊在領先的半導體公司擁有數十年經驗,在訊號處理、神經網路和電路設計方面擁有多項專利。
加入電腦王Facebook粉絲團