NVIDIA在AI on RTX技術與應用分享會說明了多項在搭載Windows作業系統個人電腦上的AI應用，並進行實際展示。
專注高於100 TOPS高階AI應用
身為AI軟、硬體技術大廠，NVIDIA自然也相當重視包含桌上型與筆記型等個人電腦的AI應用，雖然NVIDIA並不像AMD、Intel等廠商推出處理器搭配內建NPU（神經處理器）或內建GPU（繪圖處理器）的解決方案，但卻能透過效能更高的獨立顯示卡、獨立顯示晶片等GPU提供更豐富的應用。
- 延伸閱讀：
- GTC 2024春季場系列報導
- NVIDIA說明Windows作業系統AI應用（上）：強調高階AI功能優勢（本文）
- NVIDIA說明Windows作業系統AI應用（下）：多種AI應用功能展示（工作中）
NVIDIA將個人電腦粗分為AI運算效能介於10~45 TOPS（Int8資料類型）、由NPU與內建GPU驅動的基本AI電腦（Basic AI PC），以及效能介於100~1300 TOPS（Int8、FP8資料類型）、搭載獨立GPU的高階AI電腦（Permium AI PC）。
雖然NVIDIA並沒有點名「基本」與「高階」AI電腦的規格與型號，但我們仍可明確推斷，基本AI電腦指的是搭載AMD Ryzen 7040、8040、8000G等系列處理器，或是Intel Core Ultra 1系列處理器的電腦，而高階AI電腦自然就是搭載NVIDIA自家獨立顯示卡或獨立顯示晶片的桌上型與筆記型電腦。
這2種類型的電腦都具有在本機執行AI應用程式的能力，具有低延遲、不需連網或將資料上傳至雲端、無額外伺服器費用等優勢，而高階AI電腦則進一步能夠執行規模更大的AI模型（有助於提供更精確、理想的回應與結果），並執行更複雜的AI應用程式以提升使用者體驗與工作效率，並可在更短的時間內完成相同的運算負載。
NVIDIA也補充了NPU的優勢，那就是它們雖然效能不如獨立GPU，但具有更高的電力效率，更適合常時間於背景持續運作，尤其對藉由電池運作的筆記型電腦來說更加重要。
至於例如複雜的AI圖像生成、AI模型訓練、執行超大規模AI模型等運算負載更高的需求，則建議使用AI運算效能可達數千TOPS且具有擴充性（Scalable）的雲端GPU完成。
強固AI生態系統
NVIDIA也在會中說明自己具有完整且強固的AI軟、硬體生態系統，能夠支援PyTorch、ONNX、TenosrFlow等常見的AI運算框架，有許多應用程式也支援NVIDIA自家的Tensor RT SDK與執行環境，目前已有超過125款應用程式、功能可以透過RTX系列顯示卡、顯示晶片加速，在照片編輯、影片編輯、直播、3D渲染等應用程式的數量上都位居第1。
此外NVIDIA也透過DLSS將超解析度（Super Resolution，即升頻）、畫格生成（Frame Generation）、光線重建（Ray Reconstruction）等AI功能應用於提升遊戲的畫質以及FPS效能。
AI運算的效能表現方面，NVIDIA也是獨佔鰲頭。根據NVIDIA提供的測試數據，搭載行動版GeForce RTX 4090的筆記型電腦在Stable Diffusion圖像生成的速度比搭載Apple Silicon M3 Max的MacBook Pro快了7倍。而在UL Procyon AI圖像生成測試部分，市場價格約為新台幣21,990元的GeForce RTX 4070 Super，表現就超出價格達新台幣35,990元的AMD Radeon RX 7900 XTX。
至於影片編輯、大型語言模型部分，NVIDIA提供的解決方案也都具有更出色的效能表現，在視訊會議強化功能部分也有更理想的效果。詳細情況請參考下方圖表說明。
NVIDIA也在活動當天提供多樣AI應用與程式展示，筆者將會在下篇文章中繼續介紹。
加入電腦王Facebook粉絲團