效能與電力的拔河
Arm台灣總裁曾志光在新品發表會表示,在接下來的5G通訊世代中,超高頻寬、超低延遲、超大量連接的特色,會大幅改變終端裝置、物連網裝置以及AI裝置的樣貌。曾志光提到在甫結束的CES 2020拉斯維加斯消費性電子展中,主辦單位表示2020年時美國具有5G通訊功能的智慧型手機將佔有12%的市佔率,到了2022年此一數據將大幅成長至67%,這除了表示5G手機的普及之外,也代表5G基礎建設(如基地台)將日趨完善。
舉例來說我們的手機可以因為5G通訊的超高頻寬,用來播放4K甚至8K解析度的超高解析度串流影片,而效能有限的智慧型手機,也可以透過串流的方式播放由雲端伺服器負責運算的AR、VR內容,而車用電腦、車聯網也受益於超低延遲,而縮短偵測、預警危險的時間,提升行車安全,超大量連接能力也可滿足密集而大量的物聯網裝置連線的需求。
Arm的目標在於提供搭載AI功能的行動裝置、車聯網、物聯網裝置「負擔得起」(Affordable)的處理器,由於這類裝置的尺寸通常很小,因此成本大多比較低,而且也沒有充足的空間安裝大容量電池,因此而其中的負擔除了價格因素之外,電力消耗也是一大重點。所以壓低耗電量,以及提升效能,就是新處理器的2大要務。
新款處理器、NPU帶來效能革命
Arm應用工程總監徐達勇則在接下來的簡報中,介紹了全新的Cortex-M55處理器與Ethos-U55神經網路處理器,以滿足低功耗終端裝置的機器學習與人工智慧運算需求。
Cortex-M55是第一款採用Arm v8.1-M架構的處理器,並搭載Arm Helium技術Cortex-M向量延伸指令集(M-Profile Vector Extension,MVE,可以提供高效能與電力效率的向量運算能力,可以比前代Cortex-M提升5倍DSP(數位訊號處理)效能,與15倍機器學習效能。
Ethos-U55則是Arm第一個針對Cortex-M處理器推出的微型NPU神經網路處理器,得以搭配Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4等處理器使用,可以透過先進的壓縮技術,減少電力消耗並顯著地縮小機器學習模型尺寸,開發商也可依使用情境選擇搭配32、64、128、256組乘積累加運算(Multiply Accumulate,MAC,累加乘法結果的特殊運算單元),提升體積受限的嵌入式與物聯網裝置之機器學習運算能力。
(筆者註:徐達勇在會後問答中表示,技術上Ethos-U55可以透過共享匯流排(Shared Bus)搭配任何Cortex-M處理器使用,但基於綜合效能考量,所以推薦搭配上述處理器。)
提升產品效能與開發速度
從Arm官方提供的理論數據來看,Cortex-M55可以提升15倍機器學習效能,而Ethos-U55則可提升32倍,2者結合後與現有的Cortex-M處理器相比,機器學習理論效能可以大幅提升480倍。但上述的數據畢竟只是理論值,與實際表現一定會有落差,對此Arm官方也提供了在實際環境中所測得的數據。
Arm選擇AI語音辨識進行測試,測試過程的運算需求包含語音偵測、消除噪音、雙麥克風波束成形、迴聲消除、等化器、混音、關鍵字偵測、OPUS解碼、自動語音識別等項目,單純使用Cortex-M55可以提升機器學習的推論速度6倍,並提升7倍電力效率,搭配Ethos-U55則能將上述數據分別提升至50倍與25倍,可見其效果十分顯著。
這些新產品除了能提升終端裝置的運算速度外,Arm也提供Corstone-300參考設計,以及TrustZone、信任韌體(Trusted Firmware)、平台安全架構(Platform Security Architecture,PSA)等技術,提升裝置的安全性,並加快通過認證所需的手續,以增加產品上市的速度。
Arm也為了增加軟體開發的工作效率,提供了整合處理器、DSP、神經網路處理器的軟體開發環境,讓開發者可以在單一環境中,使用1套編譯器、1套除錯器完成工作,並不像過去要拆分為3項工作,並仰賴3套編譯器、3套除錯器,可以大幅降低工作複雜度,讓開發流程更加流暢。
Cortex-M55與Ethos-U55的智慧財產授權、軟體函數庫、開發工具現已開始供應,官方估計最快在2021年初就能看到實際搭載這些晶片的產品上市。
加入電腦王Facebook粉絲團