完全運算大戰略思維
在Arm資深副總裁暨車用與物聯網事業部總經理 Dipti Vachani的演說中,提到Arm能透過客製化SoC的優勢,滿足雲端、邊緣、終端等各種裝置的運算需求,提供完全運算(Total Compute)的完整解決方案。
完全運算包含3大要點,分別為運算效能、資安、軟體與工具。運算效能相當容易理解,就是指提供充足的效能以推動服務,資安則是透過硬體與軟體方式共同守護使用者不受惡意攻擊,至軟體與工具則是針對開發者而言,提供適當的開發工具,讓開發者能夠輕鬆駕馭裝置的各項運算資源,並創造最佳的使用者體驗。
由今年演說的比重可以發現,Vachani相當重視機器學習的應用,提到除了打頭陣的Ethos-N77之外,還有稍早推出的Ethos-N37、Ethos-N57等神經網路處理器 (Neural-network Processing Unit,以下簡稱NPU),讓廠商能依裝置的用途與需求,自由選擇不同等級的NPU。
若是因為成本考量而不在裝置搭載NPU的話,也能使用裝置的處理器(Central Processing Unit,以下簡稱CPU)或圖型處理器(Graphics Processing Unit,以下簡稱GPU)進行機器學習運算,不會因為缺乏NPU而無法使用對應的功能。
另一方面近期Arm也宣佈擴大與Unity遊戲引擎的合作,強化Unity的運算資源利用效率,進一步降低開發者的工作負擔,並強化遊戲的沉浸式體驗。
安全也是首要考量
隨著物聯網裝置越來越多,資料的儲存、傳輸、使用、運算都需要納入資安考量,Arm也提供平台安全架構(Platform Security Architecture,PSA)技術,布局安全的物聯網環境,確保從終端到雲端、從資料到設備的管理與安全,協助物聯網裝置開發商與製造商建構從韌體、硬體、連接到資料的全面安全防護。
至於自駕車方面,產業仍需持續投注於安全、軟體、運算等3大關鍵,為了解決將自駕車從Level 3(司機不需親自駕駛但需保持專注,應對自駕系統無法處理之情況)推升到Level 5(自動系統能在任何情況下駕駛車輛)所面臨的技術挑戰,Arm與Denso、NPX、Toyota……等汽車製造廠、技術供應商組成自駕車運算協會(Autonomous Vehicle Computing Consortium,AVCC),希望透過協同合作的方式推進自駕車技術發展。
彈性是Arm最大武器
Arm為了降低IP(智慧財產)的使用門檻,在2019年7月推出Flexible Access授權模式,可以讓開發者更靈活地取得需要的IP,並只在正式生產後才需付費,能夠避免商轉失敗而需承擔的巨大財務損失,讓開發團隊能放手進行更多實驗與創新設計,以促進探索更多元的應用可能性。
Vachani形容這是Arm對開發者的投資,若開發不幸宣告失敗,開發者也不需負擔授權費用,當開發成功並實際推出產品後,開發者才需繳付權利金,有利於創造雙贏。
此外Arm也為了讓開發者更自由地開發特定指令集,推出Arm Custom Instructions服務,能針對CPU進行客製化修改,以更創新、具差異化的方式,滿足日益增加的龐大運算需求。
在論壇的休息時間時,筆者也向Arm主任應用工程師胡岱勛請益對自家Arm NN機器學習加速框架的看法。胡岱勛表示Arm NN最大的優勢在於它能整合軟體與硬體的搭配問題,程式開發者只需專注於撰寫程式,不用為終端裝置的硬體配置煩心。
當透過Arm NN開發的程式安裝到智慧型手機、平板電腦、物聯網裝置、機器人等各類裝置後,程式就會自動偵測裝置所搭載的CPU、GPU、NPU等資源,並自動決定要調用哪些運算資源,大幅降低程式開發的難度,不但能夠節省開發過程的人力與工時,也能讓開發者有更多心力探索各種不同的應用可能性。
由於Arm的IP廣泛應用於各種智慧型手機、平板電腦的SoC,而各種產品卻又因為市場定位與成本考量搭載不同CPU,而GPU與NPU的配置情況落差也很大(甚至沒有NPU),因此對於程式開發者來說,要如何在機器學習相關程式運作時分配運算資源就是個讓人頭痛的問題。
Arm NN正巧是個解決這個問題的方案,胡岱勛也在訪談中說明,Arm身為產業最上游的供應商,致力透過提供完整的硬體IP與軟體生態系統持續支持產業發展,並與開發者共同創造雙贏。
加入電腦王Facebook粉絲團