Arm繼先前針對物聯網裝置推出的Ethos-U55、U65等產品之後,這次推出的Ethos-U85 NPU最高能夠提供4 TOPS AI運算效能,帶來更豐富的應用潛力。
可搭配多種處理器的NPU
Arm針對物聯網(IoT)裝置的運算應用推出了Cortex-M系列微控制器,並在Armv8-M指令集加入TrustZeon功能以提高連網裝置的資安防護,並在隨後的Armv8.1-M指令集加入Helium向量擴充方案,能夠有效提高ML(機器學習)與DSP應用的效能表現。
而Ethos-U系列NPU(神經處理器)則是進一步透過特化運算單元,強化ML與AI的運算效能與吞吐量。這次發表的Ethos-U85較前代Ethos-U65效能提升4倍,MAC單元從先前最高256組提升至128~2048組,在1 GHz時脈的運作條例下能夠提供4 TOPS的AI運算效能,並提高20%電力效率,能夠滿足工廠自動化、商用監視器、智慧家庭攝影機等需要更高效能的應用情境。
在新功能部分,Ethos-U85支援卷積神經網路(Convolutional Neural Network, CNN)的權重乘矩陣(Weights Times Matrix)以及矩陣相乘(Matrix Times Matrix Multiplication)等運算,並支援Transformer網路,可提高硬體使用效率,並在運算資源有限的邊緣裝置上部署AI模型,尤其能夠強化電腦視覺和生成式AI的使用情境,對理解影片、填補圖像缺失部分或分析多個攝影機以進行圖像分類和物體檢測等工作類型相當有幫助。
Ethos-U85不僅能與Cortex-M系列微控制器協同運作,也能搭配採用Armv9指令集的Cortex-A系列處理器,加速以處理器為基礎的物聯網裝置的機器學習與AI運算效能。
工具鏈與參考設計平台簡化開發
Ethos-U85也具有統一的工具鏈(Toolchain,即軟體開發工具),有助於讓軟體工程師以及開發人員快速上手,也讓合作夥伴能夠重複使用現有的軟體,另一方面它也能夠支援TensorFlow Lite和PyTorch等AI運算框架,大幅簡化軟體開發的流程並消除障礙。
Arm物聯網事業部亞太區IoT市場資深經理黃晏祥在說明會中特別強調,Arm與PyTorch具有長期深度合作的緊密關係,因此在PyTorch推出針對行動裝置、邊緣裝置而設計的AI推論運算框架ExecuTorch之初,就能提供更完善的軟硬體整合支援。
Arm也為了協助開發者加速語音、音訊和視覺系統的部署,推出全新Corstone-320物聯網參考設計平台,它整合了Cortex-M系列效能最高的Cortex-M85,以及Mali-C55影像處理器(ISP)和全新的Ethos-U85 NPU,提供語音、音訊和視覺等邊緣AI運算應用所需的效能。
舉例來說,Corstone-320能夠滿足即時圖像分類、目標識別,或在智慧音箱上啟用具有自然語言翻譯功能的語音助手等應用。
Corstone-320參考設計平台同時也涵蓋了軟體、工具和支援,其中最重要的就是包括Arm虛擬硬體,能夠讓軟體開發人員在晶片完成生產之前,就提早進行軟體開發工作,進而加速推進產品進程,提升產品的經濟效益。
Arm與超過1,000間廠商建立技術合作關係,促使人工智慧能夠在各種使用情境順利運作,並致力於為從晶片到雲端建立堅實的資安防護。
加入電腦王Facebook粉絲團