毫无节制地发展人工智能(artificial intelligence,AI),后果可能不堪设想,且灾难可能最近几年就会爆发!
AI 发展迅速恐造成严重后果
身兼美国豪华电动车制造商特斯拉(Tesla Motors)、航太运输服务公司 SpaceX 两家公司首席执行官以及美国太阳能板公司 SolarCity 董事长的 Elon Musk 上周末再度对人工智能的危险性提出警告,认为这种科技的发展脚步非常快速,而且只有英国人工智能公司 DeepMind 等相关业者的内部人才知道速度究竟有多快。
CNBC 17 日报导,Musk 同时指出,人工智能势必会导致非常危险的事件,且五年内、最多十年就可能发生。Musk 强调,这绝对不是“狼来了”,他是对整个事件有相当的理解才会对大家示警。
Musk 是在知名科学交流网站 Edge.org 一篇名为“The Myth of AI(人工智能的迷思)”的文章底下留言,但他在留言送出不久后立即将之删除。
Musk 发言人在回答 Re/code 询问时表示,该篇留言的确是 Musk 所写,但这原本是要寄送给 Edge 网站创办人 John Brockman 的私人电子邮件,并非公开的评论。该名发言人并透露,Musk 之后会在部落格撰写一篇较长的文章来讨论这个话题。
Musk 6 月 18 日在接受 CNBC 专访时就曾指出,他在 DeepMind 被 Google 并购前曾是该公司的股东之一,另外也投资了旧金山人工智能软件业者 Vicarious。Musk 说,投资 Vicarious 的目的并不是在追求报酬,他只是想借此追踪人工智能的发展程度。Musk 当时警告,就像电影“魔鬼终结者”演的一样,人工智能发展到最后可能会有严重后果。
可能难以被人类掌控
霍金与加州大学柏克莱分校人工智能教授 Stuart Russell、麻省理工学院宇宙学家 Max Tegmark 以及麻省理工学院物理系教授 Frank Wilczek 5 月份就曾联合在英国独立报(The Independent)发表文章警告,AI 短期内的影响端赖背后掌控的人而定,但长远来看,AI 能否被操控,才是问题的核心。
霍金等人指出,强尼戴普主演的最新电影《全面进化(Transcendence)》描述了一个逐渐失控的 AI,其实这并非危言耸听,因为 AI 未来可能会比金融分析师还聪明、比科学家更具创意、比人类领袖更能操纵人心、甚至还有机会研发出人们完全无法理解的武器。
霍金并警告,世界文明是人类智慧的产物,但当这种智慧被 AI 的工具放大时,产生的结果实在难料,唯一能确定的就是,战争、疾病与贫穷会是大家最先消灭的问题。就在最近,全球各地的军队已开始考虑导入能够自选并歼灭目标的自动化武器系统(联合国与人权观察组织已开始呼吁禁用这类武器);中期来看,人工智能甚至可能转化整个经济型态,带来巨大的财富与严重的混乱。
(MoneyDJ新闻 记者 郭妍希 报导)
首图来源:Escapist Friday: The Terminator (1984)