嘿!你知道這些社群媒體巨人為了讓你的螢幕擺脫恐怖主義做了什麼事嗎?

2018年04月 64212

作者:Hillary Grigonis
原文出處:Digital Trends

 

Photo on VisualHunt

 

對一些團體而言,社交媒體是拉人參與恐怖活動的強大媒介,他們所散播的恐怖主義內容引發了社群網路廣泛的變化。不過,這些變化是否真的足夠達成他們的目的呢?以上這些問題,是Facebook、Twitter和YouTube本週的代表在美國參議院商業、科學和交通委員會,於華盛頓所舉行的聽證會上發言。

 

此次聽證會目的在研究社群網絡當前對遏制極端主義內容所作出的努力,並就這些科技公司們在阻止線上網路傳播的角色展開討論。這些社群公司之前曾出現作證俄羅斯干涉美國總統大選,而這次的聽證會是這些社群媒體大佬們,首次向商業委員會提供有關極端主義內容的言論。

 

這三大媒體都提出數據佐證,它們從各自的平台上刪除了更多與恐怖主義相關的內容,並且它們都在第一時間阻止了這些訊息的散佈。在某些情況下,這些網絡媒體投入的心力重疊,包括全球互聯網論壇的反恐資訊共享,而擁有超過40000個「Hashes」的數據庫有助於讓這些內容在同個網絡上被識別,而不是另一個網路。

 

Facebook

 

Facebook的產品政策和反恐怖主義負責人,Monika Bickert表示,Facebook現在能夠在被檢舉人看見之前,就提前先移除超過99%的ISIS以及蓋達組織相關的貼文,這些反恐成效大部分都歸功於機器學習,Facebook的AI平台能夠良好地分析恐怖組織的圖片、影像以及文字內容。

 

Facebook也同時努力教導系統,該如何辨識哪些貼文是在支持恐怖份子或恐怖組織。(例如,有些貼文是在寬恕恐怖組織,別將他們誤判成支持恐怖份子。)

 

Facebook也將 AI 投入上傳內容更新的應用,若用戶上傳之前曾被Facebook移除的內容,圖像辨識系統也會提前防止上傳。此外,Bickert在一份準備的聲明中提道,Facebook還和專家們合作,追蹤這些團體釋出的宣傳內容,並主動加入辨識系統裡。

 

Facebook也會透過這些被刪除的帳號,查找他們所綁定的群集,或是相關的粉專、群組、貼文以及個人檔案,同時也在努力讓被刪除的用戶無法再創建新帳的戶。

 

Facebook已經增員三千人投入審查團隊,今年將擴編到兩萬人投入在內容的辨識,以區分哪些發布違反社群標準,包括極端主義的內容鑑定。

 

Bickert表示,Facebook特地訓練了180位專業人員投入於恐怖份子的內容預防計畫。同時間,他們進一步嘗試「Counterspeech(反駁言論)」,以制衡這些網站中的仇恨和極端貼文。

 

「面對恐怖份子所發佈的內容,我們的主張很簡單:在Facebook你不會看見任何和恐怖主義相關的訊息。」Bickert説:「長期以來Facebook所發布的貼文法規裡,一直明確表示不允許恐怖份子出現在我們的網站,哪怕他們沒有張貼任何違反Facebook使用條款的貼文,一但被我們發現是恐怖份子,我們就會直接移除他們的帳號。」

 

 

Twitter

 

 

Twitter的公共政策和慈善事業總監 Carlos Monje Jr. 表示,目前平台自2015年中開始,已經停權超過一百萬個恐怖份子的帳號。包括去年停權的57萬4079個帳戶,2015年一共停了6萬7千個恐怖份子的帳戶,明顯相較下來這幾年這些恐怖帳戶的註冊有跳躍式的成長。

 

有很大一部分停權數字的成長來自於運用技術檢測,2015年透過技術抓出了1/3的恐怖份子帳號,然而現在,最近的停權帳戶有高達90%都是仰賴技術偵測。

 

Monje表示:「雖然Twitter沒有驚人的演算法好以辨識恐怖份子在網路上的內容,不過我們有越來越多透過技術來提高 Twitter 內部專有的反垃圾郵件效率。」

 

「這些技術填補了我們用戶的報告,並極大程度地增進我們辨識和刪除Twitter上違規內容的能力。」

 

極端主義的內容是去年年底 Twitter 推動的社群規則全面改革的一部分,這部分的內容來自#womenboycotttwitter。這些擴展的規則不只包含貼文的檢查,包括句柄,個人社群大頭照,和其他的個人檔案資訊。

 

另一方面, Twitter 也在致力防止選舉的錯誤信息,此將很快地向用戶們展示用戶們是否有看到宣傳廣告,並從這些廣告中的捐款進行額外的研究。雖然Twitter已經分享了專門為政治廣告設計的最新版,但核實所有州和聯邦候選人也是這些改變的一部分。

 

 

YouTube

 

 

YouTube的公共政策與政治關係總監,Juniper Downs説,YouTube 在「暴力極端主義」影片類型的移除率,從一年前的40%,到現在已經能夠過機器學習移除掉 98% 。Downs補充,有將近70%在八小時內被移除,50%在兩小時內被移除。

 

隨著擴大後的軟體服務,YouTube也為信譽旗幟計劃增加了其他組織,包含反恐團體們。而在母公司Google內部本身,負責處理違規影片的員工人數將在今年成長到一萬人,今年還將提供關於舉報影片的透明度報告。

 

對於沒有嚴重違規的灰色地帶影片,YouTube已經宣布這些類型的影片不會收到金錢補償,而且也不會在YouTube上成為推薦影片的一部分,同時還會刪除該影片的評論機制。與Facebook一樣,YouTube也認為在Counterspeech(反駁言論)方面該被大力推廣,包括創作者變革計劃。

 

Downs在她預備的聲明裡寫道:「沒有任何人可以單打獨鬥解決這個議題,為了走向媒體資訊健康的正道,我們必須團結同力解決這個問題。」

 

 

我們正在向前邁進

 

 

雖然該會議被形容為「最友善的」會議,每個平台都報告高比例的被刪除內容和停權帳戶數字,但外交政策研究所Robert A. Fox的研究員Clint Watts建議,這些社群網路們可以重新考慮匿名帳號現行的合適性,並消除機器人帳戶,或是註冊需要綁定驗證碼,而政治廣告的聯邦法規適用範圍也應該擴及到社交媒體。

 

Watts 在他準備的聲明中提及:「這些社群媒體公司體認到這些不良行為者所帶來的傷害實在是太晚了,他們競相實施相關政策,好以防止最後的訊息攻擊,但卻未能預料到下一次出現的社交媒體濫用,可能是針對好人所規劃的新興威脅。」這場聽證會的視頻可從委員會網站公開獲取,包括每一個社群網路媒體的預備聲明。

 

Tags: