网络是恐怖份子进行招募、传递理念、组织活动的重要工具；因此当近几年恐怖攻击事件频传，Google、Facebook 和 Twitter 等网络巨头便纷纷采取各种措施打击线上极端主义。继日前以广告评论员与机器学习判别影片内容，Google 于 6 月 18 日公开了 YouTube 对付恐怖主义的 4 项新措施。
Google 法律顾问 Kent Walker 表示，“虽然这几年来我们投入许多心力在侦测和移除不当内容，但事实上我们必须认知到要做的事情还有很多。”在 Google 发布的文章中提到，Google 和 YouTube 将采行以下方法对抗极端主义：
- 为了以更快的速度侦测并移除不当内容，我们将利用更多工程资源来让最先进的机器学习技术能被用于训练新进的内容分类人员。事实上就如同 Facebook 的反恐计划，AI 同样也不是内容审核的核心，Google 认为恐攻影片有时也是相当有新闻价值的资讯，当同样的影片重制上传后，甚至可用来侦测那些推崇恐怖攻击的人士。在过去的 6 个月中，只有一半被移除的恐攻影片是经由 AI 侦测而删除的。
- 在 YouTube 的“检举人员计划”（flagger program）中新增 50 个非官方且独立的专业组织（原先已有 63 个组织加入），Google 会提供补助金来资助这些组织。这项检举人员计划是自愿性质的，参与的组织专精于仇恨言论、自我伤害和恐怖主义等领域，因此这将有助于 YouTube 厘清暴力宣传活动与一般宗教言论之间的界线。
- 将“未明确违反规范的影片”（例如内容中有激进的宗教言论或隐含优越主义）标上警示符号，上传者将无法从影片流量中获取任何利润，此外该影片不会出现在推荐影片的行列中，留言功能也会被禁止。Google 认为这项措施达成了言论自由与资讯取得以及散播敌意言论之间的平衡。
- 与子公司 Jigsaw 合作将“重新导向功能”（redirect）推行至更多欧洲国家。这项功能运用线上广告的精准投放来找到可能加入 ISIS 的人员，接着再将页面重新导向至反恐影片以改变对方加入 ISIS 的想法。这项重新导向功能已在美国实行。Google 发现这些潜在 ISIS 成员中，有很高的比例会不自觉点入广告，目前这些人观看反恐影片的时数已超过 50 万分钟。
除了上述措施，Google 也已和 Facebook、Microsoft 和 Twitter 等企业成立一个国际性研讨会，分享并开发相关技术，他们也将协助小型公司共同打击线上极端主义。
Walker 在文章最后说明，“这些努力加总后将会造成改变。极端主义者和恐怖份子不只想要侵犯我们的安全，他们更想挑战我们的价值，这些价值正是使这个社会自由开放的因素，而我们不会让那些人这么做。我们可以一同创造出持久的解决方案，并消除这些有害于社会和自由的威胁。这是个势不可挡而错综复杂的挑战，而我们将致力于扮演好我们的角色。”
- YouTube to work harder to fight extremist, terrorist videos
- Four steps we’re taking today to fight online terror
- Google plans to scrub ‘inflammatory’ and terror vids from YouTube
（首图来源：pixabay）
延伸阅读：
- 网络社群的双面刃：伦敦恐袭后梅伊再次呼吁加强网络管制
- 活跃用户突破 18 亿，Facebook 该如何审核争议性贴文？
- Ad Rater：Youtube 广告投放 AI 背后的训练人员
