你敢傳裸照給 AI 嗎?Facebook 祭新招防「色情報復」

根據澳洲廣播公司報導,Facebook 正在澳洲測試一項防範報復性裸照及影片的措施,運用尖端 AI 影像辨識技術來自動封鎖並下架疑似用於報復的裸露畫面。
評論
評論

根據 澳洲廣播公司 報導,Facebook 正在澳洲測試一項防範報復性裸照及影片的措施,運用尖端 AI 影像辨識技術來自動封鎖並下架疑似用於報復的裸露畫面。

Facebook 與澳洲政府機構 e-Safety 合作,若民眾害怕自己可能成為報復性裸照的受害者,可以聯絡 e-Safety,接下來 e-Safety 會採取的其中一項措施就是請民眾透過 Messenger 傳一張自己的裸照或影片給自己。Facebook 經過加密的系統就會辨認其中影像,而且保證影像不會存到伺服器上。

根據報導中 e-Safety 委員  Julie Inman,Facebook 不會留存裸照檔案,他們讓 AI 以及其他影像辨識技術,透過連結讀取影像並學習,若有其他人要發表擁有相同數位足跡或 (加密) 雜湊值的同樣影像,就會被限制上傳。

先前針對美國女性海軍的攻擊在 Facebook 和 Instagram 的私人群組流傳,事件爆發後,2017 年 4 月,Facebook 就開始在美國限制報復性情色影像,透過相片比對技術來阻止使用者再次上傳曾被舉報為報復性情色內容的畫面。Facebook 在該報導中提到澳洲為 4 個參與此裸照辨識機制測試的國家之一,但目前尚未公布另外 3 個區域的資訊。