NVIDIA推出NeMo Guardrails，讓大型語言模型的AI不翻車

NVIDIA以開源方式推出NeMo Guardrails工具軟體，協助開發人員限制AI聊天機器人的行為，確保符合企業安全要求。

防止AI聊天機器人被玩壞

回想一下當我們教外國朋友中文的時候，是不是都會抱著惡作劇的心情，先教對方說一些「不好的話」。但是如果企業的AI聊天機器人也被開這種玩笑的話，後果可就非同小可。

NVIDIA為了避免這種狀況而推出NeMo Guardrails工具軟體，可以確保如ChatGPT等以大型語言模型（LLMs）為基礎的AI應用程式能夠準確、適當、切題且安全地回答問題，避免AI被「玩壞」的情況發生。

• 延伸閱讀：NVIDIA於GTC 2023春季展發表多樣AI技術，帶來更多生成式AI還能用AI加速晶片設計與生產

NeMo Guardrails主要提供下列3種功能，它的操作相當簡單，只需幾行程式碼就能快速建立新規則，即使不是機器學習專家也能使用。

NeMo Guardrails功能一覽

1. 主題護欄：可以避免應用程式偏離到不想要的領域。例如，它們可以防止客戶服務助理回答關於天氣的問題。
2. 安全護欄：確保應用程式回覆準確、適當的資訊。它們可以過濾不必要的語言，並強制要求只引用可信的來源。
3. 保全護欄：限制應用程式僅與已知為安全的外部連結建立連接。

▲ NeMo Guardrails工具軟體以開源方式推出，可以搭配多種大型語言模型使用。

▲ NeMo Guardrails具有主題護欄、安全護欄、保全護欄等功能。

▲ NeMo Guardrails能夠限制AI聊天機器人的行為。

▲ NeMo Guardrails的設定只需簡單幾行程式，操作相當簡單。

受益於開放原始碼的特性，NeMo Guardrails可以與企業應用程式開發人員使用的所有工具配合使用，有利於縮端開發時間，整合第三方應用程式與大型語言模型的強大功能，發揮更大的生產力。