NVIDIA推出開源軟體NeMo Guardrails 作為人工智慧運作背後「防線」

NVIDIA宣布推出開源軟體NeMo Guardrails，藉此作為以大型自然語言模型為基礎的自動生成式人工智慧背後「防線」，藉此避免人工智慧技術危害數據隱私，或是產生倫理道德問題。

在越來越多人擔心自動生成式人工智慧技術應用背後充滿不確定性，因此可能造成自動生成內容有誤，或是影響使用者個人隱私安全，甚至可能引發更多倫理道德問題情況下，NVIDIA作為以GPU產品加速人工智慧技術成長的廠商，更說明自己不能因此造成更大問題產生。

此次宣布推出開源軟體NeMo Guardrails，並且透過GitHub對外提供使用，或是透過NVIDIA AI Enterprise管道取得完整技術支援，更計畫將NeMo Guardrails與現有NeMo框架整合，讓人工智慧技術應用能有「防線」作為保護，避免人工智慧運作超出原本想像與可控範圍。

NVIDIA表示NeMo Guardrails將可讓以大型自然語言模型為基礎的自動生成式人工智慧，在精確、適當情況下以符合安全及合理範圍內運作，並且透過主題安全護欄、安全護欄，以及保全護欄校準方式，讓人工智慧技術維持一定可控。

而護欄設計則包含避免人工智慧技術偏離原本對應領域，並且確保人工智慧回覆內容正確，同時過濾非必要的錯誤內容，使其引述可信來源內容，另一方面也確保人工智慧建立安全連結，讓企業、一般開發者能透過NeMo Guardrails避免人工智慧出錯。

藉由將NeMo Guardrails開源，企業或開發者能透過簡單幾行編碼內容，讓NeMo Guardrails與既有應用服務整合，NVIDIA更強調NeMo Guardrails是以累積多年研究資源建立而成，預期藉由對外開源讓更多開發者、企業取用，藉此讓人工智慧技術應用可以變得更加「安心」，並且消弭市場對於人工智慧技術應用發展的擔憂。

《原文刊登於合作媒體mashdigi，聯合新聞網獲授權轉載。》