日前曾报导过新创公司 Knightscope 研发的蛋型保安机器人 K5 担任 Uber 公司保全,它近日就闯大祸了。
据 ABC 报导,11 日,一部 K5 保全机器人在美国加州的史丹佛购物中心辗压了一个 16 个月的幼童,其母亲描述了事件经过。当时这部蛋型机器人先是从后面撞上幼童的头部,导致幼童摔倒在地,之后右腿被机器人碾压。
整个过程,机器人没有任何检测到该幼童的迹象,全程往前行动,没有停止。还好孩子仅受到轻微擦伤。
(source:Twitter)
(source:Twitter)
商场官方称,他们已经暂停了 K5 机器人的营运,待事件查明。Knightscope 并没有做出任何回应。
这款机器人是由 Knightscope 在 2014 年发表的,高约 1.5 米,重约 300 磅(约 136 公斤)。如此重量如果当时角度稍稍偏离,可能会造成幼童重伤,甚至带来生命危险。
(source:My Security Sign)
貌似可靠的新科技,其实有漏洞?
这台机器上装有多种传感器,包括镜头、热成像仪、激光测距仪、空气质量感测器以及麦克风,用于侦察周围的任何异常。此外,这项设备还具有人脸辨识、车牌辨识功能,并与停车场报警系统、警方和消防局连线。这台机器人是完全自动化的,可自行充电。
这台机器人于 2014 年上线后,在加州的企业园区、物流中心、购物中心和数据中心试运行,并被 Uber 用来保卫停车场。它没有装备任何武器,因此不能用于驱逐罪犯,仅可以用于巡逻、记录和报警。
(source:Wall Street Journal)
其开发者这样描述他们的机器人:
它们是你的眼睛和耳朵,每周 7 天 24 小时,无论在市内或室外,可以不间断保护你的顾客、财产和员工。
租用这台机器人的成本较低,仅为每小时 7 美元,相比之下,一个保全一小时的工资为 25 到 35 美元。极低的成本导致其市场潜力非常大。
但是,目前发生这样的事故,可以基本判断是由于技术漏洞导致机器人没有检测到幼童。或许是由于孩子过于矮小,也有可能是传感器或探测系统发生故障,其技术可靠度难辞其咎。
而一个非常讽刺的事实是,Knightscope 的工程师们曾表示,这一机器人的灵感源于当时震惊全美的桑迪胡克小学枪击案。他们当时希望可以它安置在社区和学校,用于保护如幼儿这类弱势群体的安全。可是他们的机器人却连侦测孩子的位置都没有做到。
(source:Digital Trends)
人工智能屡次出错
类似的由人工智能导致的乱象并不是第一次发生。
在 2015 年,一名在德国大众汽车供职的技术员被工厂内的装配机器人杀死。之后的调查结果显示,该技术员在装配过程中操作失误,系统错误导致工人被夹。而正常规范下,这款机器人仅可在特定工作中保证安全。
此外,今年 6 月,一台 Promobot 机器人从位于俄罗斯的测试工厂逃脱,并在市区内引发大规模交通拥堵。
(source:Tech Insider)
而最著名的可能要算最近特斯拉自动驾驶(Autopilot)的 3 起事故了,其辅助驾驶的可靠性已经引起了社会各界的警惕,德国机动车管委会甚至明确提出要禁止这种不成熟的测试版自动驾驶。
这不免让人想起法国哲学家让-弗朗索瓦‧利奥塔在著作《非人道》中的观点:
机器是非人道的,他们只按照效率优先的规则运行,而保护人类利益从来不是他们的第一要务。
且不论这种说法对或错,如何让科技真正以人为本,恐怕是现在涉足人工智能的公司最需要考虑的问题。
- Terminator 5 Moves Up to Fourth of July
(本文由 爱范儿 授权转载;首图来源:Knightscope)
延伸阅读:
- Uber 新任的保全人员是位蛋型机器人!
- 机器人逃离实验室!结果半路没电造成交通堵塞