由于增长、合规等诸多因素，内容审核对任何网络内容产品来说，都是很难但却逃不过的事，更别提 TikTok 这由中国公司开发营运、全球爆红的短片平台。
TikTok 短时间内受到诸多考验和打击，许多都和内容审核有关。
去年大批用户诟病 TikTok 对未成年用户隐私和使用体验保护不力，甚至放任恋童癖肆虐；今年初有媒体爆料 TikTok 要求审核员挡下破墙烂瓦或呲牙咧嘴等“视觉不美好”的内容；最近美国平权运动大爆发，又有用户指责 TikTok 屏蔽游行相关内容……如果不改进，TikTok 的全球扩张将面临更多风险。
躲不过，那就正面对决。面对这些质疑，TikTok 决定采用开诚布公的姿态面对。
今年 3 月，TikTok 宣布在加州洛杉矶办公室内开设全球第一家开放“透明度中心”（Transparency Center），为媒体及数据隐私、内容审核专家提供导览参观，让大众直接全面了解 TikTok 内容审核。不过由于疫情，这座透明度中心的开放计划也受到影响。
近日，笔者询问字节跳动现任和离职员工，了解更多关于 TikTok 透明度中心的营运，以及内容审核机制的细节。
标签决定一切
根据知情人士透露的情况，参观者在 TikTok 透明度中心将可看到内容安全的关键流程，也能够亲眼目睹人工内容审核员的工作。
以直播内容为例，每位内容审核员将面对一块屏幕，上面会有多条（最多同时 9 条）内容截图。这些出现在审核员屏幕的内容，来源有两种：
- 第一种是机器抽帧分析直播影片，分析截图可能包含的高风险内容，然后送到人工屏幕，审核员主要基于抽帧结果二次分析。
- 第二种是用户举报及其他管道，人工操作也类似。
了解 TikTok 内容审核机制的消息来源透露，审核员看到内容之前，机器已进行不只一道预先审核。最基础的就是分析内容品质，如垃圾内容、竞争对手内容，把这些品质明显最低的内容以“不推荐”处理，结果就是不会出现在非关注用户的页面。
同时机器还会借助预先设计的模型高级分析。这步自动化操作主要针对明显严重违法的内容，如儿童色情、宣扬恐怖主义等。一旦内容模型验证成功，就不是简单的“不推荐”了，而是直接下架。
进入人工审核阶段后，审核员的主要工作是查看机器提交的截图或直接看即时影片，标记各种标签。
较早的 1.0 版本的 TikTok 审核机制，主要的标签是“推荐”和“不推荐”；现在 TikTok 内容审核系统升级到 2.0 版，标签多样性显著提升，除了推不推荐，还有“儿童色情”、“裸露”、“性”、“仇恨言论”、“宣扬暴力”、“宣扬恐怖主义”等诸如此类大量新标签。内容被打上不同标签，造成的结果不同。
一旦影片打上较严重的标签（包括机器自动标记和后续的人工核查／手动标记），将会自动触发标签预先设定的操作。
某些标签关联较轻，结果可能是不推荐；至于儿童色情和宣扬恐怖主义这类标签，关联的就是下架，结果是直接下架。如果自动处理后，影片热度达到特定值，还会召回人工再看一遍，确认处理是否合适。
简单来说，就是标签决定一切。
这套新的内容审核机制，显著提高内容标签的数据价值，帮助 TikTok 掌握平台内容生态动向。
类似的内容审核思路，以 YouTube 为代表的其他顶级内容平台也在采用（事实上，TikTok 的思路就是来自 YouTube）。
前几周，有美国用户宣称自己在黑人平权运动游行现场的 TikTok 直播内容被平台阻挡，此后，包括路透社等新闻机构都做了事实核查，发现并非如此。
TikTok 当时并没有阻挡游行内容，巧就巧在当时平台搜寻话题故障，包括 #BLM、#Cat 等许多话题搜寻都无法显示影片播放量。
根据多位消息来源透露，TikTok 目前所有内容审核功能，都是逐案进行，并没有针对如此大规模活动即时、全话题等级屏蔽的先例。
规则和审核操作完全本地化
现任员工透露，具体的内容审核原则，会根据审核对象所在地不同的法律、法规、文化和习俗，采用不同的审核尺度。
比如在美国大麻使用已在少数州合法，全国 35 个州医用合法，如果有这些州用户的 TikTok 影片出现对应药品，内容审核就会遵守所在州法律的条文，而其他州用户的类似内容则会判定为违规。
同理，诸如仇恨言论、平权、宗教等争议话题，TikTok 都会参考各个国家不同的法律法规文化习俗，制定针对性的内容审核标准。
字节跳动现任员工透露，未来 TikTok 的内容审核工作也会完全本地化，意味着：美国的审核团队负责美国本土上传和直播内容，甚至在美国会设立多间透明度中心、多批审核团队，分别审核不同州的内容；印度团队按照印度法律审核印度内容；新加坡的团队审核新加坡的内容。
TikTok 的计划是，所有内容审核工作都由本地团队执行。一些重要的国家或地区市场，也会逐步开设自己的透明度中心，让当地大众一览平台内容审核的全貌。不过目前新中心的开设计划并未启动，毕竟美国第一座中心还未完全落实。
一方面为了合法营运，最小化公司面临的海外监管和舆论风险，另一方面也是为了一家中国科技公司史无前例的国际化大计，字节跳动最近几年多次大刀阔斧人力和内部技术改革，拆分团队、设立防火墙，以及 TikTok 升级内容审核系统，都是改革的一部分。
TikTok 还在今年 3 月宣布成立 7 名外部专家组成的内容审核委员会，包括法律、技术、民权运动和政策等专家。
其中一名委员 Dan Schunur 接受科技媒体 TechNode 采访时曾表示，他对 TikTok 主动接受批评、展开合作、做出改变，而非躲避问题感到印象深刻。
（本文由 PingWest 授权转载；首图来源：shutterstock）
