Facebook 公佈《社群守則》執行成效, 2019 第一季就停了 21.9 億個帳號!

Facebook 公佈《社群守則》執行成效, 2019 第一季就停了 21.9 億個帳號!
Candice

台灣社群龍頭的 Facebook 在今天發表了第三份《社群守則執行報告》,涵蓋了 2018 年第 4 季和 2019 年第 1 季期間的調查,調查範圍是對於目前 Facebook 總共將《社群守則》中九大政策的各項衡量指標:成人裸露和性行為、霸凌和騷擾、兒童裸露和兒童性剝削、假帳號、仇恨言論、管制商品、垃圾訊息、全球宣揚恐怖主義,以及血腥暴力內容等。這也是 Facebook 首次公開與管制商品守則以及申訴案件和恢復顯示內容相關的數據資料,希望能藉由提供透明的政策執行過程,實踐 Facebook 對資訊公開的承諾,並持續推進社群平台安全,保障用戶安全。

報告中所提到用於追蹤 Facebook 執行《社群守則》成效的重要衡量指標包括:

盛行率:指的是用戶看到違反《社群守則》的內容的頻率。

Facebook 非常在乎用戶實際看到違規內容的頻率。處置的內容指 Facebook 撤下的內容數量盛行率則是指 Facebook 尚未辨識出來,而用戶仍有可能看到的違規內容數量。Facebook 衡量的方式為定期針對用戶在 Facebook 上瀏覽的內容進行取樣,然後藉著查看取樣內容,瞭解違規的比例。

這個衡量指標目前適用於成人裸露和性行為、血腥暴力內容以及假帳號:
Facebook 估計用戶在查看 Facebook 內容時,每 10,000 次瀏覽中就有 11-14 次含有違反成人裸露和性行為政策的內容。

Facebook 估計用戶在查看 Facebook 內容時,每 10,000 次瀏覽中就有 25 次含有違反血腥暴力內容政策的內容。
Facebook 估計 Facebook 的每月活躍帳號中約有 5% 為假帳號。
在這份報告中,Facebook 也首次分享「全球恐怖主義」與「兒童裸露和兒童性剝削」的盛行率衡量數據。這兩類內容的盛行率都不高,因此難以使用Facebook 的標準機制進行衡量;但 2019 年第 1 季的資料量足以讓 Facebook 估算出結果,資料顯示用戶在查看 Facebook 內容時,每 10,000 次瀏覽中含有違規內容的次數不到 3 次。

處置的內容:因違反《社群守則》而遭到 Facebook 處置的內容數量。

Facebook 採取的處置包括移除內容、為內容加上警告畫面或停用帳號。此數據反映的是用戶發佈的違規內容數量,以及Facebook 辨識違規內容的成效。

在假帳號方面,由於有心人士企圖一次建立大量帳號並發動自動攻擊,導致受到處置的帳號數量增加。Facebook 在 2018 年第 4 季停用了 12 億個帳號,在 2019 年第 1 季則停用了 21.9 億個帳號。

主動先發率:這是指在 Facebook 採取處置的內容中,於用戶檢舉前,已經由 Facebook 系統主動偵測到的數量。

這項衡量指標通常可反映人工智慧在特定政策領域的應用效果。

本報告涵蓋的六項政策領域中,超過 95% 的處置內容都是由 Facebook 在用戶檢舉前主動偵測到的違規內容。

在仇恨言論方面,移除的內容有 65% 是由系統主動偵測,相較於一年前 Facebook 初次分享成果時的 24% 提升了不少。

在 2019 年第 1 季,Facebook 總共撤下 400 萬則涉及仇恨言論的貼文,而 Facebook 持續投注心力,希望能針對不同語言及地區,提升偵測仇恨言論的技術與能力。

Facebook 處置內容時會同步通知發佈者,並且在多數情況中,若發佈者認為 Facebook 的處置有誤,他們可以提出申訴。在第三版的報告中,Facebook 開始提供遭到用戶申訴以及恢復顯示的內容數量。

因為 Facebook 採取的處置並非全然正確,但只要 Facebook 確認是誤判,就會立刻設法修正。正因如此 Facebook 會在報告中提供相關數據,讓大家瞭解有多少內容在申訴後已恢復顯示,以及有多少內容即使未經用戶直接提出申訴,也已由Facebook自行恢復顯示。而內容未經申訴就會恢復顯示的原因如下:

Facebook 誤將多則內容相同的貼文移除時,只要其中一位用戶針對處置提出申訴,Facebook 便會將所有相關貼文一併恢復顯示。或是 Facebook 主動發現審查結果有誤,此時 Facebook 就會在發佈者提出申訴前自行恢復顯示內容。

在其他案例中,特別是含有 Facebook 視為惡意連結的垃圾訊息貼文遭到移除時,若 Facebook 確認該連結已經無害 Facebook 便會恢復顯示貼文。

相同季度的「申訴內容數量」與「恢復顯示內容數量」無法直接比較,因為在 2019 年第 1 季恢復顯示的內容可能是在2018 年第 4 季提出申訴。同樣的,於 2019 年第 1 季申訴的內容可能是在 2018 年第 4 季遭到處置。

*請注意,由於 Facebook 會將數據四捨五入,所以申訴後恢復顯示的內容與未經申訴就恢復顯示的內容總和,不一定會與「總恢復顯示內容數量」完全一致。

另一項也是相當重要的是非法販售毒品和槍枝武器,為了防止非法販售毒品和槍枝武器,Facebook 早已制定多項政策。多年來,Facebook 以各種方法施行政策,包括:調查與已移除的違規內容相關聯的個人檔案、粉絲專頁、社團、主題標籤和帳號;封鎖及過濾數百個與毒品販售相關的用語;以及與專家攜手合作,隨時掌握有心人士用來掩飾犯罪行為的最新手法,例如毒品的最新俗稱。

自 2018 年夏季起,Facebook 開始藉人工智慧找出違反管制商品政策的內容。這項投資讓 Facebook 得以針對更多內容採取行動,並且在大多情況中,還能在用戶檢舉前早一步進行處置。在 2019 年第 1 季,Facebook 針對 90 萬則涉及毒品販售的內容採取行動,其中有 83.3% 是由系統主動偵測;同一期間,Facebook 也針對 67 萬則涉及槍枝武器販售的內容採取行動,其中有 69.9% 是由系統主動偵測。

這項技術能主動揪出更多違規貼文,讓 Facebook 的團隊得以專注於自身的任務,努力找出有心人士未來可能用於避開偵測的方式,以保障用戶安全。

過去一年來,Facebook 採取了幾個作法,讓政策研擬和衡量政策執行成效的過程更加公開透明。獨立的外部審查和意見回饋是幫助 Facebook 進步的不可或缺要件。基於這個精神,Facebook 成立了資料透明度諮詢團隊(Data Transparency Advisory Group, DTAG),針對 Facebook 在《社群守則執行報告》中分享的衡量指標進行獨立、公開的評估,藉此瞭解這些指標是否能為整體運作帶來實質幫助,以及是否精準符合需求。這個獨立團隊是由成效衡量、統計學、犯罪學和管理學等領域的國際專家組成,專門評估 Facebook 執行政策的方法,Facebook 將執行流程與衡量方法的詳細機密資訊提供給諮詢團隊,而他們已經在本週發佈獨立評估結果。在評估結果中,諮詢團隊指出《社群守則執行報告》是落實資訊公開透明的重要手段,他們也發現 Facebook 執行政策的作法均十分恰當且合理。此外,他們也指出一些 Facebook 能夠更加公開的領域,可藉此提升平台用戶的信任程度及回應熱度。這些重要的分析數據將有助於 Facebook 瞭解未來需要努力的方向。

軟體快報
Candice

SayDigi.com iPhone 教學專欄作家; 3C生活,周邊小物編輯; 活動採訪編輯;
蘋果相關主題報導.
--
■作者:Candice
■主題:3C、生活、親子
■FB粉絲團:
https://www.facebook.com/MissCandice112
■連絡方式:candice9112@gmail.com

More in 軟體快報

網友自創《Mario Royale》瑪利歐大逃殺 一起免費線上鬥心機!

Candice2019/06/18

秋行軍蟲 app 通報教學 通報獎金高達 1 萬元 !

Candice2019/06/16

LINE 隨你填貼圖第二彈 讓熊大&兔兔與你一起放閃!

Candice2019/06/15

《動物之森》任天堂 Switch 大作《集合!動物之森》將在 2020 年 3 月發售!

Candice2019/06/13

Apple iOS iMovie 更新,加入綠色螢幕、子母畫面、分割螢幕等新功能!

Candice2019/06/13

跨系統新途徑,iCloud 現在能在 Windows 10 官方商店下載

8-BIIIIIT2019/06/13
一起用好點子過好生活吧!