AI 技术日益成熟,丰富多元的运用也让 AI 可以说是无所不在,国外一名开发者推出一款可快速创建女性裸体照片的应用 DeepNude ,正是利用神经网络与算法来创建相当拟真的女性裸体照片,引起褒贬两极的反应,在 AI 活用同时似乎也助长了各种恶意假照片的产生。
国外开发者推出 DeepNude 利用 AI 创建女性裸体照片,引发侵犯隐私争议
在过去就已经有利用 AI 换脸的应用程序,让大家玩得很开心,不过接下来要讲的应用可能会有全球一半的人口不乐意。一名化名为“Alberto”的开发者最近上架了一款应用程序 DeepNude,只需要在该服务上提供一张照片,就能飞快地利用 AI 创建出非常逼真的裸体照片,使用者所提供的原始照片裸露的皮肤越多,照片越准确真实。该应用不仅有免费版(有浮水印)、50 美元付费版(无浮水印,但有 Fake 标记) ,还提供了网页版。
国外媒体 Motherboard 对开发者的访谈中,开发者表示,该应用只能用于女性,会开发这款应用的原因在于“有意思、好奇、有趣”。该媒体也进行测试,如果放入男性照片则下体也会被替换成女性器官,且像是穿着比基尼等布料较少的衣服也越拟真。不过这个应用还是有缺点,经过该服务产出的裸体照片(特别是低分辨率的)还是会有 AI 拼贴合成的痕迹,当你输入卡通人物的照片时,所得到的影像将完全扭曲。
在过去就已经有其他利用 Deepfake AI 算法的成果在网络流通,但这种技术很容易就会成为伤害女性的帮凶,在未经同意的前提下使用女性照片或是在网上恶意散布色情内容都会对女性造成伤害。反色情报复组织“Badass”的创始人 Katelyn Bowden 表示:“现在每个人都有可能成为色情报复的受害者,即使没有拍过一张裸体照片,也可能会成为受害者。这样的技术根本不应该向公众开放。”而马里兰大学凯里法学院(University of Maryland Carey School of Law)Danielle Citron 认为,DeepNude 无疑是在侵犯用户的性隐私。
虽然得到的照片并非真实,但在网络散布时其他阅听者根本无从查证,直接对受害者造成多次伤害。开发人员在发想与创作一款应用时,更该将道德前提放在前面,而非仅是因为好奇、有趣等动机,如果仅是实验性也就罢了,但真正公开释放出来获利就必须好好拿捏人性之间的界线才是。
◎资料来源:Motherboard