Arm Tech Symposia 2023：多元差異化設計滿足各種邊緣AI需求

Arm Tech Symposia 2023科技論壇於11月1日在台北揭開序幕，Arm終端產品事業部產品管理副總經理James McNiven、台灣總裁曾志光與多位來賓分享了深入觀點。

Arm專長提供差異化與彈性選擇

Arm終端產品事業部產品管理副總經理James McNiven在Arm Tech Symposia 2023大會的主題演說以及會後的媒體訪談中，表示將Arm定位為運算平台公司，除了全面運算解決方案23（Total Compute Solutions 2023）等系列產品之外，也提供更多元、更複雜的產品IP組合，滿足不同應用的需求。同時James McNiven也強調，Arm仍然也具有許多簡易的產品，且提供Flexible Access授權方案，協助新創公司快速取得必要的授權。

• 延伸閱讀：【Computex 2023】Arm發表全新第四代大核 Cortex-X4，台積電N3E製程、單位面積效能歷代最高

談到在邊緣端實作AI運算的應用，James McNiven則表示這是業界的趨勢。對比雲端AI運算，邊緣AI運算有著反應速度較快、確保隱私等優勢，例如在製造業導入AI品質監測系統，最好還是能夠將系統建構於工廠，以確保運算的時效，並節省將影像上傳到雲端所消耗的頻寬，以及避免機敏資訊外流。

而Arm提供適合行動、手持裝置的全面運算解決方案，針對伺服器設計的Neoverse，針對物聯網應用設計的Corstone，以及針對車用電腦設計的SOAFEE，並客戶在選用IP的同時給予高度差異化的空間，提供最理想的解決方案，透過將客戶視為合作夥伴的精神，創造雙贏局面。

▲ Arm終端產品事業部產品管理副總經理James McNiven在主題演說中提到Arm為各種需求提出的解決方案。

▲ 會後James McNiven也在訪談中詳細說明Arm的策略，並回答媒體提問。

台灣產業優勢在軟硬體合作

Arm台灣總裁曾志光首先進行了大會開幕致詞，並與iKala共同創辦人暨執行長程世嘉、MediaTek（聯發科技）執行副總經理暨技術長周漁君等業界意見領袖，以「AI於邊緣運算的運用」為題進行討論。

程世嘉從大型語言模型（LLM）切入，表示規模太大的模型應用於邊緣端會遇到許多問題，從軟體端的角度可以設法裁剪模型，或是透過更少量（筆者註：且針對應用方向）的資料重新訓練模型，達到縮小模型規模、適合在邊緣運算的目標。他也以隨身型翻譯機、陪伴機器人為例，若能達到此一目標，就能改善產品的使用者體驗。

周漁君表示MediaTek則是以車用電腦的應用為例，車用的AI系統需要在接受到影像訊號後，進行圖像處理與分割（Segmentation），接著進行物件的偵測（Detection）與辨識（Recognition）。但是在行車過程中，影像品質可能會受到陽光、車燈等環境光線影響，因此需要更高的AI運算效能才能完成工作。

而MediaTek具有軟、硬體整合開發的優勢，能夠在看到趨勢後，深入瞭解應用的需求再進行系統設計，進而改善產品。舉例來說，能夠在瞭解車用系統的運作模式後，從軟、硬體的設計改善系統閒置的行為，達到省電的效果。

▲ Arm台灣總裁曾志光為大會進行開幕致詞。

▲ 曾志光（左二）也與iKala共同創辦人暨執行長程世嘉（左一）、MediaTek（聯發科技）執行副總經理暨技術長周漁君（右二）等業界意見領袖，以「AI於邊緣運算的運用」為題進行討論。

曾志光也在討論中說明，Arm具有多種適合AI運算的異質運算IP組合（筆者註：例如CPU、GPU、NPU、加速器），並有完整的軟體生態系統與運算框架，提供最佳化的運算效能，滿足小至透過水銀電池供電的裝置，都能進行基礎的AI運算，將AI運算落實到邊緣端。