筆者將繼續在這篇文章中，針對Jetson Orin Nano開發套件的AI推論效能進行測試，並展示PeopleNet人物辨識模型的運作狀況。
6種模型效能實測
首先我們先看執行NVIDIA提供的Jetson Orin Nano效能測試工具，利用下列6種模型進行AI推論並測量效能表現。
AI推論測試項目
1. PeopleNet：辨識並標示影片中的人物
2. ActionRecognitionNet 2D：辨識影片中人物的動作（2D模型）
3. ActionRecognitionNet 3D：辨識影片中人物的動作（3D模型）
4. DashCamNet：辨識並標示影片中的汽車、人、路標和自行車。
5. BodyPoseNet：辨識影片中人物的骨架與18個關鍵點
6. LPRNet：辨識影片中的車牌
不過需要注意的是，由於測試用的腳本、Tensor RT模型引擎是針對Jetson Orin Nano所準備，無法使用於其他Jetson機種，因此這邊就不列出其他機種的對照數據。
本機執行PeopleNet
Jetson Orin Nano是款有能力進行邊緣AI運算的平台，因此筆者使用NVIDIA官方提供的PeopleNet人物辨識模型進行展示。
PeopleNet能夠針測畫面中的人物、臉部、包包等特徵，並將針測到的特徵以方框標示。筆者將於下列展示中，直接於Jetson Orin Nano開發套件上進行運算與辨識，但是因為不方便於開發套件上架設攝影機，因此改以NVIDIA提供的預錄影片進行替代監視攝影機拍攝的即時畫面，模擬利用Jetson Orin Nano打造智慧型監視器的應用情境。
另一方面，筆者也錄下《真‧三國無雙2》的遊戲畫面，將影片送至Jetson Orin Nano開發套件辨識，看看效果如何。
▲NVIDIA提供的預錄影片能夠模擬商店中監視器拍到的畫面，可以看到人物都被方框標示，並於標籤顯示「People」。
▲PeopleNet也能辨識《真‧三國無雙2》遊戲畫面內的人物，而且準確度還蠻高的。需要注意的是，Jetson Orin Nano在AI推論過程造成影片播放較慢的狀況，原始影片為全速執行遊戲，並無拖慢狀況。
搭配Omniverse Replicator、TAO強化訓練效果
最後筆者也參考NVIDIA官方提供的程式，模擬將Jetson Orin Nano打造為自走車型的機器人，並透過攝影機辨識環境中人員的腳。
首先我們先透過原始AI模型進行辨識，接著利用以Omniverse Replicator建立的3D影片加強Isaac Sim的影像辨識訓練，並透過TAO工具套件對AI模型進行最佳化，再以強化訓練過的AI模型。
這樣的好處是開發人員能夠透過合成的3D影片進行強化訓練，在省下拍攝訓練用影片的時間，也能提高辨識的準確度，讓Jetson Orin Nano能夠更加準確地辨識人員的腳。
▲影片中左上的小視窗為模擬將自走車拍攝的畫面，以及用紅色標示人員的腳。使用原始AI模型進行影像辨識的AI推論的準確度比較低，有些區域並無正確被標示。
▲使用在電腦中進行強化訓練的優勢為不用花時間拍攝訓練用影片，就能提升辨識效果。可以看到能更完整標售出人員的腳。
在看完了Jetson Orin Nano開發套件的正經應用之後，考量到它的處理器與GPU效能比Jetson Nano提升許多，不免手癢裝了一下RetroArch，但還需要進行一些調整並自行編譯核心檔案，若一切順利的話，則將於日後更新「One More Thing」。
加入電腦王Facebook粉絲團系列文章
NVIDIA推出Jetson Orin Nano開發套件，大幅提升AI入門裝置效能
Jetson Orin Nano開發套件動手玩（一）：規格介紹與開箱
Jetson Orin Nano開發套件動手玩（二）：效能實測（本文）
Jetson Orin Nano開發套件動手玩（三）：One More Thing（工作中，刊登時間未定）