文化 (Culture),新聞 (News)

打擊極端主義,YouTube 採取 4 項新措施加強影片審核

2 months ago by | 494 帖子發布時間

Add to Slack


網路是恐怖份子進行招募、傳遞理念、組織活動的重要工具;因此當近幾年恐怖攻擊事件頻傳,Google、Facebook 和 Twitter 等網路巨頭便紛紛採取各種措施打擊線上極端主義。繼日前以廣告評論員與機器學習判別影片內容,Google 於 6 月 18 日公開了 YouTube 對付恐怖主義的 4 項新措施。

Google 法律顧問 Kent Walker 表示,「雖然這幾年來我們投入許多心力在偵測和移除不當內容,但事實上我們必須認知到要做的事情還有很多。」在 Google 發布的文章中提到,Google 和 YouTube 將採行以下方法對抗極端主義:

  • 為了以更快的速度偵測並移除不當內容,我們將利用更多工程資源來讓最先進的機器學習技術能被用於訓練新進的內容分類人員。事實上就如同 Facebook 的反恐計畫,AI 同樣也不是內容審核的核心,Google 認為恐攻影片有時也是相當有新聞價值的資訊,當同樣的影片重製上傳後,甚至可用來偵測那些推崇恐怖攻擊的人士。在過去的 6 個月中,只有一半被移除的恐攻影片是經由 AI 偵測而刪除的。
  • 在 YouTube 的「檢舉人員計畫」(flagger program)中新增 50 個非官方且獨立的專業組織(原先已有 63 個組織加入),Google 會提供補助金來資助這些組織。這項檢舉人員計畫是自願性質的,參與的組織專精於仇恨言論、自我傷害和恐怖主義等領域,因此這將有助於 YouTube 釐清暴力宣傳活動與一般宗教言論之間的界線。
  • 將「未明確違反規範的影片」(例如內容中有激進的宗教言論或隱含優越主義)標上警示符號,上傳者將無法從影片流量中獲取任何利潤,此外該影片不會出現在推薦影片的行列中,留言功能也會被禁止。Google 認為這項措施達成了言論自由與資訊取得以及散播敵意言論之間的平衡。
  • 與子公司 Jigsaw 合作將「重新導向功能」(redirect)推行至更多歐洲國家。這項功能運用線上廣告的精準投放來找到可能加入 ISIS 的人員,接著再將頁面重新導向至反恐影片以改變對方加入 ISIS 的想法。這項重新導向功能已在美國實行。Google 發現這些潛在 ISIS 成員中,有很高的比例會不自覺點入廣告,目前這些人觀看反恐影片的時數已超過 50 萬分鐘。

除了上述措施,Google 也已和 Facebook、Microsoft 和 Twitter 等企業成立一個國際性研討會,分享並開發相關技術,他們也將協助小型公司共同打擊線上極端主義。

Walker 在文章最後說明,「這些努力加總後將會造成改變。極端主義者和恐怖份子不只想要侵犯我們的安全,他們更想挑戰我們的價值,這些價值正是使這個社會自由開放的因素,而我們不會讓那些人這麼做。我們可以一同創造出持久的解決方案,並消除這些有害於社會和自由的威脅。這是個勢不可擋而錯綜複雜的挑戰,而我們將致力於扮演好我們的角色。」

評論

, , , , , , , ,