市場動態 生活 網路 軟體

NVIDIA推出開源軟體NeMo Guardrails,作為人工智慧運作背後「防線」
避免人工智慧技術危害數據隱私,或是產生倫理道德問題

NVIDIA宣布推出開源軟體NeMo Guardrails,藉此作為以大型自然語言模型為基礎的自動生成式人工智慧背後「防線」,藉此避免人工智慧技術危害數據隱私,或是產生倫理道德問題。

NVIDIA, NVIDIA推出開源軟體NeMo Guardrails,作為人工智慧運作背後「防線」<br><span style='color:#848482;font-size:16px;'>避免人工智慧技術危害數據隱私,或是產生倫理道德問題</span>, mashdigi-科技、新品、趣聞、趨勢

在越來越多人擔心自動生成式人工智慧技術應用背後充滿不確定性,因此可能造成自動生成內容有誤,或是影響使用者個人隱私安全,甚至可能引發更多倫理道德問題情況下,NVIDIA作為以GPU產品加速人工智慧技術成長的廠商,更說明自己不能因此造成更大問題產生。

此次宣布推出開源軟體NeMo Guardrails,並且透過GitHub對外提供使用,或是透過NVIDIA AI Enterprise管道取得完整技術支援,更計畫將NeMo Guardrails與現有NeMo框架整合,讓人工智慧技術應用能有「防線」作為保護,避免人工智慧運作超出原本想像與可控範圍。

NVIDIA表示NeMo Guardrails將可讓以大型自然語言模型為基礎的自動生成式人工智慧,在精確、適當情況下以符合安全及合理範圍內運作,並且透過主題安全護欄、安全護欄,以及保全護欄校準方式,讓人工智慧技術維持一定可控。

而護欄設計則包含避免人工智慧技術偏離原本對應領域,並且確保人工智慧回覆內容正確,同時過濾非必要的錯誤內容,使其引述可信來源內容,另一方面也確保人工智慧建立安全連結,讓企業、一般開發者能透過NeMo Guardrails避免人工智慧出錯。

藉由將NeMo Guardrails開源,企業或開發者能透過簡單幾行編碼內容,讓NeMo Guardrails與既有應用服務整合,NVIDIA更強調NeMo Guardrails是以累積多年研究資源建立而成,預期藉由對外開源讓更多開發者、企業取用,藉此讓人工智慧技術應用可以變得更加「安心」,並且消弭市場對於人工智慧技術應用發展的擔憂。

楊又肇 (Mash Yang)
mashdigi.com網站創辦人兼主筆,同時也是科技新聞業流浪漢。

發表迴響