机器人应当遵循哪些伦理原则?
早在 1942 年,美国著名科幻小说家、文学评论家艾西莫文( Isaac Asimov)用作品《我,机器人》给出了他心中的答案——“机器人三定律”:
- 第一,机器人不得伤害人类,或坐视人类受到伤害;
- 第二,除非违背第一法则,机器人必须服从人类的命令;
- 第三,在不违背第一及第二法则的前提下,机器人必须保护自己。
后来作为补充,第零定律(机器人必须保护人类的整体利益不受伤害,其它三条定律都是在这一前提下才能成立)出现,此后这一理论被称为现代机器人学的基石。
不过现实世界中,人们对机器人的应用似乎并非如此。
最近,美国的一个恶搞组织将一把蒂普曼 98 彩弹枪绑在波士顿动力公司网红机器狗 Spot 的身上,任其在画廊里游荡。
对此,波士顿动力发推进行了一番谴责,认为这种求关注的做法只会引发暴力、伤害或恐吓。
Spot 架上彩弹枪
这一作品出自一个爱搞恶作剧的艺术 / 行销团体 MSCHF,其英文发音正是 mischief(意为恶作剧)。
按《连线》杂志的话说就是:
一群恶搞者想要以一种反乌托邦的方式来展示机器人技术。
具体来讲,MSCHF 设计了一个最新程式 Spot’s Rampage, 该程式于美东时间 2021 年 2 月 24 日下午 1 点开放,其界面酷似一款小游戏,人们可以通过带有两个模拟摇杆的控制器,在一个虚拟艺术画廊里控制被架上彩弹枪的 Spot,每人限时 2 分钟。
(Source:Spot’s Rampage)
此外据《连线》杂志报导,MSCHF 组织会定期发布一些恶作剧程序。
在 MSCHF 的官网上可以看到, Spot’s Rampage 是其最新恶作剧,编号为 40。
(Source:MSCHF)
其网站页面上共显示有 85 个程序,剩余的 45 个程序都处于发布倒计时阶段,未来 MSCHF 将以一个月 2 次的频率发布新程序(均在周一发布),下一次程序发布定在 2021 年 3 月 15 日。
一直以来,MSCHF 的脑洞都不小:
- 创建过一款 App,持续按住一个按钮时间最长的用户将获得 2.5 万美元奖励;
- 开发了一款基于占星学的选股软件;
- 将英国艺术家达米恩·赫斯特(Damien Hirst)的画作切割开,再一点一点卖出去。
网友:真是讽刺
外媒 The Verge 报导了此次 MSCHF 对波士顿动力的 Spot 下手的原因——MSCHF 成员 Daniel Greenberg 表示:
人们看到 Spot 跳舞的影片,通常都会觉得这只机器狗欢脱可爱,但如果我们真正想一想它在现实世界中的用途,就会发现 Spot 的形象可以是警察或军人。
对此,波士顿动力发推文称:
今天我们得知,一个艺术团体以充满争议的方式,用我们的机器狗 Spot 策划了一场博眼球的活动。需要明确的是,我们谴责所有将我们的技术用于暴力、伤害或恐吓的行为,我们的使命是创造和交付能力惊人的机器人,对社会产生激励、愉悦等积极影响。
我们长期致力于确保客户将机器人用于合法用途。在批准出售之前,我们将所有申请购买机器人的名单与-的个人、实体清单进行核对;买家须同意我们的销售条款,其中就明确规定了我们的产品必须在遵守法律的前提下使用,且不能用于伤害或恐吓人类和其他动物。
任何违反我们销售条款的行为都将导致产品保修自动取消,机器人将不会再被更新、服务、维修、更换。
这种充满挑衅意味的艺术在根本上歪曲了 Spot 便于我们日常生活的事实。
pic.twitter.com/8BjVXhfZjP
— Boston Dynamics (@BostonDynamics) February 20, 2021
自然,这一事件引发了网友热议。
一方面,有网友表示:
做出这样行为的人真是可耻。
Shame on whoever is doing that.
— ⫸ Aaki ⫷ (@aakibot2) February 20, 2021
如果这些艺术团体成员是机器人的设计者,恐怕机器人早就统治世界了!波士顿动力公司和美国国防部高级研究计划局(DARPA)显然遵循了 Isaac Asimov 的机器人三定律,只有这样类似的机器人挑衅行为才不会发生。
These art people will be the reason why robots take over the world if they are the one to program all of it. Boston Dynamics and DARPA clearly follow Isaac Asimov’s Laws of Robotics so anything provocative like that will never happen at all.
— ╬Seraphic|Nephilim╬ (@SeraNeph) February 20, 2021
另一方面,也有网友认为:
波士顿动力的声明真是讽刺,波士顿动力在把产品出售给警察和军队的时候就应该明白,Spot 将会被用于暴力。
不管 MSCHF 的做法是否显示出了滥用波士顿动力机器人技术的潜力,都不能否认机器人可能会被滥用的事实。MSCHF 其实提出了一个有效的观点:这项技术将被警察用来对付民众。
Let’s outlaw cars and helmets, too. And plexiglass. And pants. Jesus, is there anybody around any more who can think like a goddam adult?
— Elwood (@elwood) February 24, 2021
Twitter 网友 Elwood 称:
如果这样的行为不合法,那么汽车、头盔、有机玻璃、牛仔裤都应该被视为违法。天啊,能以一个成年人的思维方式想问题吗?
在很多人记忆中,波士顿动力的网红机器狗 Spot 会尬舞。
会放羊。
会测温。
其实除了上述场景,Spot 也被用于美国执法机构。
据了解,Spot 率先被美国马萨诸塞州警察局使用,最近也正在接受纽约警察局测试,即将上岗——而这一点正是不少网友认为讽刺的地方。
此前知乎有一个问题是“如何解释机器人三定律与军事机器人之间的矛盾”,这个话题下的一条回答是:
不要用机器人三定律解释现实世界产物。
那么,对于机器人伦理问题,你怎么看?
- Boston Dynamics’ Robot Dog Is Now Armed—in the Name of Art
- The NYPD deploys a robot dog again
- MSCHF’s latest drop lets you control a Boston Dynamics robot with a paintball gun on its back
- 如何解释机器人三定律与军事机器人之间的矛盾?
(本文由 雷锋网 授权转载;首图来源:Spot’s Rampage)
延伸阅读:
- 超越“机器人三定律”?英国标准协会制定机器人道德标准
- 军用犬变牧羊犬?波士顿动力 Spot 机器狗到新西兰赶羊啦
- 网红机器狗 Spot 再秀新技:种花写字清垃圾,还能组团玩“花式跳绳”