如何监控极端暴力和仇恨言论已经成了各社群平台的一大挑战，YouTube 采用机器学习技术监控网络平台的暴力和极端主义内容，提升了辨识和管理的效率，过去一个月 83% 的暴力和极端主义内容被删除。
2017 年 6 月 YouTube 宣布严格管控该平台的暴力和极端主义内容，辨识过程加入最先进的机器学习技术，利用已有的影片分类模型来研究和分析过去半年被删除的恐怖主义相关内容，完成违规内容的分类；增加 YouTube 可信任标记计划的专家人数，人为审查煽动性宗教和极端主义内容，大约招募了 50 位非营利机构专家，警告没有明确违反 YouTube 规定但包括煽动性宗教和极端主义的内容，此类内容不能获得收益、推荐和评论。
经过 4 个月推广后，YouTube 发表报告称，机器学习技术的应用，有效提升了监控暴力和极端主义内容的效率，把人为审查和技术辨识整合在一起，由辨识系统辨识和分类暴力和极端主义内容，再由专业人士审查。过去一个月，该平台暴力和极端主义内容的删除率达 83%，比 2017 年 8 月提升了 8%，自 2017 年 6 月以来，人为审查团队已审查了超过 100 支影片，加入更多背景和资讯，不断提升机器学习的准确率。
Youtube 的团队也承认过去监控违规内容犯过一些错，但恐怖主义和暴力内容不应在网上传播，未来将继续打击此类内容的传播，与各政府、网络反恐机构合作。
- YouTube says machine learning is making progress against violent extremist content
- An update on our commitment to fight violent extremist content online
