NVIDIA 宣布推出開源軟體NeMo Guardrails,藉此作為以大型自然語言模型為基礎的自動生成式人工智慧 背後「防線」,藉此避免人工智慧技術危害數據隱私,或是產生倫理道德問題。
在越來越多人擔心自動生成式人工智慧技術應用背後充滿不確定性,因此可能造成自動生成內容有誤,或是影響使用者個人隱私安全,甚至可能引發更多倫理道德問題情況下,NVIDIA作為以GPU產品加速人工智慧技術成長的廠商,更說明自己不能因此造成更大問題產生。
此次宣布推出開源軟體NeMo Guardrails,並且透過GitHub對外提供使用,或是透過NVIDIA AI Enterprise管道取得完整技術支援,更計畫將NeMo Guardrails與現有NeMo框架整合,讓人工智慧技術應用能有「防線」作為保護,避免人工智慧運作超出原本想像與可控範圍。
NVIDIA表示NeMo Guardrails將可讓以大型自然語言模型為基礎的自動生成式人工智慧,在精確、適當情況下以符合安全及合理範圍內運作,並且透過主題安全護欄、安全護欄,以及保全護欄校準方式,讓人工智慧技術維持一定可控。
而護欄設計則包含避免人工智慧技術偏離原本對應領域,並且確保人工智慧回覆內容正確,同時過濾非必要的錯誤內容,使其引述可信來源內容,另一方面也確保人工智慧建立安全連結,讓企業、一般開發者能透過NeMo Guardrails避免人工智慧出錯。
藉由將NeMo Guardrails開源,企業或開發者能透過簡單幾行編碼內容,讓NeMo Guardrails與既有應用服務整合,NVIDIA更強調NeMo Guardrails是以累積多年研究資源建立而成,預期藉由對外開源讓更多開發者、企業取用,藉此讓人工智慧技術應用可以變得更加「安心」,並且消弭市場對於人工智慧技術應用發展的擔憂。
《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》
訂閱《科技玩家》YouTube頻道!
💡 追新聞》》在Google News按下追蹤,科技玩家好文不漏接!
📢 LINE免費貼圖6款!這款「不可瑟瑟」免任務用半年 卡娜赫拉慶耶誕新年
📢 AirPods 4主動式降噪款開箱!實測噪音消滅驚豔 佩戴貼合度、音質再進化
📢 蘋果史上最薄!iPhone 17 Air僅6.25mm厚度 但藏1隱憂被當「中階手機」
📢 《軒轅劍參》Switch完全版開箱!典藏畫冊勾出老粉絲情懷 妮可Q版外露
📢 石頭G20S Ultra掃拖機器人開箱!7.98cm超薄機身鑽低矮區 星陣導航輕鬆過障礙賽
📢 果粉超愛「關iPhone APP保持順暢省電」!專家搖頭:手機電池壽命更慘