在阅读服务条款时，许多人都会像《命运好好玩》电影中的主角一样，仿佛被按下了快进键自动略过所有内容按下同意。对于个资被如何利用，你不怎么关心吗？这里有个有趣的消息：其实不只是被收集的你，收集你个资的企业可能也不是这么关心。
就在数日前，一款名为“Ever”的 App 又被外媒揭露出数据滥用的情况。
Ever 是一款类似 Flickr 和 Photobucket 的应用程序，当使用者将照片张贴在 Ever 上时，他们可以选择是否让系统自动进行脸部辨识，如果使用者同意，软件便会分析照片上人物的脸部并自动分类照片，让使用者能针对特定对象进行搜索，也可以使用建议标签让 App 更容易辨别朋友和家人。
对于用户来说，这项功能让搜寻非常简单，图片分类也非常整洁，而对于 Ever 来说，它是有利可图的，但这些数据究竟被用做什么用途了呢？
据披露消息的 NBC 报导指出，Ever 已经将运用用户照片训练的脸部识别系统授权给执法机构和美国军方，随着越来越多的人同意在 Ever 上自动脸部辨识，系统也就变得更加先进。
Ever 对 NBC 的报导并没有发表回应，但一些隐私权团体已对此展开抗议。非营利组织 POGO（Project on Government Oversight）高级顾问 Jake Laperruque 认为，这就像是用户被“征召”来协助建立军事和执法单位的监视系统，但使用者并不清楚照片与军事用途间的关系，如果他们知道，很有可能就不会同意使用这项功能。
Google“Maven”项目和健身 App “Strava”
类似的情况并不少见。在 2018 年时，外媒 Gizmodo 曾揭露了 Google“Maven”项目的存在，这个由 Google 和军方合作的项目主要目的是改善无人机使用的视觉系统，调查发现参与的员工和协助分类的合作对象多数都没有意识到它的用途。在报导刊出后，许多 Google 员工开始发起抗议要求停止这项合作计划。
同样在 2018 年初，一款让用户记录自己运动路线的健身 App “Strava”也出现了类似问题。由于全球有近 2,700 万名用户，Strava 收集的数据足以建构出世界各地热门的运动路线，其中也包含在各国军事基地周遭的运动路线图。这些人都同意服务条款中的收集数据，然而他们认为的是追踪健身，而非国际间谍活动，当分析师察觉数据包含的问题时，不只是被收集者，就连 Strava 开发商也十分惊讶。
Ever 面对的情况也十分类似。尽管 Ever 的脸部辨识功能都是在获得使用者同意后才开启，但 NBC 联系的用户多半表示，如果他们知道这与军事用途有关联，当初就不会同意使用。
然而问题在于，除了使用者不知道数据会被用于何处，收集的企业多半也不知道未来对数据有兴趣的客户是谁，又会为了什么购买数据。
微软研究院高级研究员、哈佛大学 Berkman Klein 网络与社会研究中心研究员 Mary Gray 指出，在大多数情况下，企业都在收集数据并尝试将其捆绑贩售给可能对其感兴趣的人，“这意味着他们可能也不知道这些数据将被用什么用途”。
▲ 尽管进行多重保护，在现行数据供应链的不透明情况下，个人数据资料很可能早被利用而不自知。（Source：Flickr/matteo papagna CC BY 2.0）
为了挖掘数据留给未来的用途，企业在服务条款中加入了模糊的权限，而面对文字数轻易破千的服务条款内容，多数使用者只会迅速下滑并点选“我同意”，最终使得数据来源和贩售者都不明白风险是什么。
不可读的服务条款
从脸部辨识到智慧音响，许多 AI 产品都与 Ever 有着相同做法。人们使用产品产生了数据，而数据再透过协同工作者的标记及整理后，让 AI 软件变得更加聪明可靠，但其中的参与者并没有多少人知道自己的数据究竟被用于何处，模糊的条款隐藏了资讯，用户和协作者经手的数据又是如此多变，双方都对正在做的事情一无所知，数据的用途始终隐藏在黑暗之中。
2017 年时，英国一家科技公司 Manchester-based wifi 便曾进行过一次实验，希望借此说明消费者在同意内容时是有多么缺乏意识，而实验结果也确实展现了这种情况。近 2.2 万名使用者为了连接 Wi-Fi 迅速同意了服务条款，但他们并未看到在服务条款中的“社区服务条例”内容──根据这项条例，所有使用者都同意为公司进行 1,000 个小时的社区服务。
为了解决这样问题并建立起“道德 AI”，Gray 认为第一步便是得揭露数据在供应链中的实际情况，因为当制作或改进数据的人不知道数据会如何被使用时，他们就不能采取行动去阻止第三方将数据用于他们可能认为不道德的目的。
而隐私倡导团体 STOP（Surveillance Technology Oversight Project）常驻技术专家 Liz O’Sullivan 对此也有相同的看法。在 AI 新创公司 Clarifai 宣布与军方签订合约来强化电脑视觉系统后，O’Sullivan 便辞去了在该公司的职务并与 STOP 展开合作，希望透过讯息自由法案（Freedom of Information Act litigation）诉讼督促企业提供相关内容给公众和相关合作者知悉。
▲ 你都有认真看完服务条款才按同意吗？（Source：shutterstock）
其实服务条款的除了内容含糊不清，艰涩的用字措辞也是很大的问题。在 1 月发表的一篇论文中，两位法学教授分析数百项服务条款后指出，其中大部分内容远高于建议的中学阅读程度，甚至就像是要求用户去阅读不可读的内容。
O’Sullivan 认为，国会应该强迫科技公司将他们的服务条款协议变成简单易懂的文字，好让用户知道他们究竟提供了什么样的许可同意。
“人们不应该得去获得一个法律学位才能了解企业如何处理这些数据，人们应该要能够根据自己的信念体系去进行选择。”
- The AI Supply Chain Runs on Ignorance
（首图来源：shutterstock）
延伸阅读：
- 3,100 名 Google 员工连署，抵制与美国国防部进行涉及军用 AI 技术合作
- 健身 App Strava 让军事机密大曝光，台湾营区和监狱也全都露
