最近，美國人工智慧晶片初創公司 Syntiant 公佈了一款超低功耗晶片，可以在 1mW 的功耗下玩《毀滅戰士》。
一個 1 毫瓦的機器學習晶片可以做很多事情，不過像玩《毀滅戰士》（Doom）這樣充滿想像力的做法卻很少見。
最近幾日，在舊金山舉行的 2023 IEEE ISSCC（International Solid State Circuits Conference）大會上，總部位於加州歐文的 AI 晶片初創公司 Syntiant 詳細介紹了他們的產品 NDP200—— 一款超低功耗晶片，主要用來運行監控影片的神經網路，並在發現重要事件時喚醒其他系統。
如下為 NDP200（Neural Decision Processor）玩《毀滅戰士》的展示影片。
如何做到的呢？
Syntiant 使用了基於 Doom 的 AI 研究平臺 VizDoom，這在 AI 研究中很受歡迎。團隊使用強化學習來訓練多層神經網路，其中第一層負責理解網路看到的內容，而最後一層負責採取回應行動。整體來說，這個網路由大約 60 萬個參數組成。雖然沒有 ChatGPT 所需的億級規模參數，但仍然要比監聽「OK, Google」這類關鍵短語所需的 10000 個參數強大得多。NDP200 有 640 kilobytes 的板載記憶體用於神經網路參數。
如上展示的片段中的遊戲關卡叫做「保衛圓圈」，它讓玩家在一個圓形房間內移動，射擊面前的怪物。IEEE Fellow、前 Syntiant 高級工程師副總裁 David Garrett 表示，在訓練中，神經網路必須首先辨識怪物，然後學習射擊它們。在第一次殺死獵物後，系統會卸載 clip（可以理解為一種檔案類型），但後來發現這不是一個好辦法。因此，系統很快就學會了節省彈藥。
儘管《毀滅戰士》的示範非常精彩，但 NDP200 還有更多實際用途。Garrett 指出，它有能力進行人體輪廓檢測，這是一項通常由更強大的處理器完成的關鍵任務。Syntiant 晶片可以運行人體檢測，作為家庭或汽車安全系統的節能步驟。
為了展示其能源效率，Syntiant 將 NDP200 與基於 Arm Cortex A53 的處理器進行了比較，該處理器運行了 20 萬個參數版本的 MobileNetV1，這是 MLPerf 用來判斷系統對視覺喚醒詞回應情況的測試。NDP200 每次掃描圖像只使用 166 微焦耳，大約是 Arm 處理器的 1/100。因此，Syntiant 晶片每秒可以掃描 6 格影片，而耗電量為 1 毫瓦。
這款晶片並沒有那麼神秘，它有一條定制的路徑，資料在晶片的神經決策處理器中流動。據 Garett 介紹，它盡可能充分利用了晶片的乘法累加單元，即機器學習計算的核心，將高達每秒 9 gigabytes 的資料頻寬傳輸到神經核心。
Garrett 不願透露 Syntiant 下一步的技術發展，但他表示會有更多有趣的應用。他說：50 萬個參數足夠做出真正的好東西了。
資料來源：
- Watch Syntiant’s 1-Milliwatt Chip Play Doom ：The NDP200 is meant to watch for key events and wake up bigger systems