App 生活 網路

Facebook計畫透過人工智慧減少Deepfake虛假帳號、社團爭吵行為產生影響

Facebook在今年F8 Refresh強調將擴大人工智慧技術應用後,在稍早聲明中更表示將與美國密西根州立大學學者合作,針對Deepfake一類技術生成的臉譜、圖像進行逆向解析,藉此判斷Facebook上的虛假帳號。此外,Facebook也表示將運用人工智慧技術判斷社團中爭吵行為,讓社團管理者能更快介入處理,避免產生更大問題。

-

依照Facebook說明,透過人工智慧分析各類以Deepfake技術偽裝的假帳號,藉此減少虛假消息傳遞、色情內容散播等問題。不過,目前此項技術仍處於研究階段,因此尚未計畫落實應用在Facebook現行服務內。

在相關說明中,將會透過人工智慧分析圖像中可能有被調整過痕跡,並且將其逐一標示,藉此判斷圖像內容生成方式,進而判斷圖像是否為偽造。

而另一項採用人工智慧技術識別的應用模式,則是用於判斷社團討論內容是否有爭論,或是出現攻擊言論等情況,並且讓社團管理者可以更快知曉,並且介入進行調停等處置。而跟判斷Deepfake圖像內容技術一樣,Facebook表示目前判斷社團討論內容是否有爭論的技術同樣處於測試階段,因此尚未成為正式佈署應用功能。

從Facebook解釋運作模式來看,系統會透過機器學習方式分析討論串平均回覆時間、內容產生量等方式判斷內容是否呈現負面互動,但目前仍有可能因為快速回覆互動情況而有誤判情況,同時也可能被諷刺、俚語或雙關字詞內容混淆判斷結果。

楊又肇 (Mash Yang)
mashdigi.com網站創辦人兼主筆,同時也是科技新聞業流浪漢。

發表迴響