Facebook開始藉由「Rosetta」人工智慧識別圖像內容中的不當言論

先前曾強調將遏止網路罷凌與仇恨言論現象,Facebook預期藉由代號Rosetta (羅塞塔)的人工智慧系統,分別在Facebook與Instagram服務平台過濾超過10幾億的影像與影片內容,並且從中分析各種語言所呈現「訊息」是否涉及仇恨傳播或鼓吹暴力。

藉由人工智慧方式識別圖像中的文字內容,進而分析其中內容是否涉及虛假、不當言論

除了藉由Rosetta遏止網路罷凌與仇恨言論,此項人工智慧系統預期也能用於網路謠言、假新聞等內容過濾,一旦系統偵測被眾人分享、傳遞內容時,系統便會自動介入釐清內容是否涉及仇恨言論、網路罷凌等問題。

提出Rosetta的原因,最主要在於越來越多「訊息」傳遞是以圖像、影片方式呈現,因此傳統透過文字辨識過濾方式顯然已經無法阻止此類內容透過網路平台擴散,因此Facebook希望藉由圖像識別等方式交叉比對,藉此避免此類惡意「訊息」持續透過Facebook或Instagram服務平台蔓延。

在此之前,Facebook已經表明希望徹底遏止網路罷凌現象,同時也強調希望阻止假新聞、仇恨言論所造成影響,並且持續藉由過濾假帳號、檢舉機制,以及主動過濾機制減少此類問題。

雖然目前部分處理模式仍仰賴人力檢查篩選,但面臨每天成千上萬的資訊量傳遞,Facebook認為更應該藉由人工智慧技術主動過濾這些不當內容,而非被動地等待用戶檢舉提報。

發表迴響