NVIDIA在AI on RTX技術與應用分享會實際展示多樣AI應用程式與功能,其中也包含具有RAG功能的ChatRTX。
離線聊天機器人幫你整理文件
NVIDIA先前在CES 2024(消費性電子展)的動態展示中,介紹了具有RAG(Retrieval Augmented Generation,檢索增強生成)功能的Chat with RTX聊天機器人,並在正式發表時改名為ChatRTX。
- 延伸閱讀:
- GTC 2024春季場系列報導
- NVIDIA說明Windows作業系統AI應用(上):強調高階AI功能優勢
- NVIDIA說明Windows作業系統AI應用(下):多種AI應用功能展示(本文)
ChatRTX的能夠在搭載NVIDIA GeForce RTX 30、RTX 40系列顯示卡與顯示晶片的Windows作業系統電腦上運作,它最大的特色就是能夠執行Mistral、Llama 8B、Llama 13B、ChatGLM3等大型語言模型(Large Langue Model,LLM),並透過RAG技術導入使用者自有的文字文件、圖片、影片等資料與數據,達到快速客製化的效果。由於程式在本地端運作,因此不需將資料上傳至雲端,不但執行速度更快,且可避免資料外流的風險。
另一方面,ChatRTX也整合CLIP(Contrastive Language-Image Pretraining)以及Whisper等程式,達到讓「人工智慧」能夠協助整理圖片以及語音(含錄音檔案與影片中的語音)等資料,讓ChatRTX能夠發揮更強大的個人助理功能。
多樣AI功能展示
NVIDIA也在會場提供了DLSS 3.5、RTX HDR、ACE等遊戲相關功能。DLSS 3.5部分使用《心靈殺手2》進行示範,透過光線重建功能可以降低因為升頻過成使用的降噪演算法而細節遭抹除的問題,提供更細膩、完整的畫面細節,RTX HDR則是可以將現有遊戲自動加入HDR功能,強化亮暗對比與色彩呈現能力。
ACE部分則與先前在CES 2024展示的「拉麵店」不同,而是以全新的推理遊戲方式進行,玩家可以透過語音與遊戲中角色對談,抽絲剝繭以找珠真相。但是人品出眾的讀者又……把人家的東西搞壞了。
在創作者應用方面,NVIDIA展示了搭載行動版GeForce RTX 4090顯示晶片的筆記型電腦與Apple MacBook Pro進行Stable Diffusuion圖像生成的對比,在相同條件下2者生成圖片花費的時間分別為9.7秒與167.6秒,差距相當大。此外NVIDIA也展示Topaz Photo AI進行照片物件去除的效果。
筆者預計製作ChatRTX動手玩專題,在這段期間讀直者也可以至NVIDIA官方網站下載程式親自嘗試。
加入電腦王Facebook粉絲團