北朝鲜近日的氢弹试爆,让许多人忧心起第三次世界大战会否来临,但特斯拉首席执行官马斯克(Elon Musk)对此有不同想法,他认为从“对人类文明的威胁”的角度来看,人工智能(AI)发展仍旧是最大的问题。
马斯克近日在推特发文表示,人类文明存在的风险清单上,北朝鲜的威胁程度应该比较低,在他看来,各国都在竭力争取 AI 竞争的优势,才是最有可能导致第三次世界大战的原因。
许多人认为,马斯克这系列推特发文,便是在对俄罗斯总统近期的宣言发表评论。
China, Russia, soon all countries w strong computer science. Competition for AI superiority at national level most likely cause of WW3 imo.
— Elon Musk (@elonmusk) 2017年9月4日
就在日前学生演讲时,普丁(Putin)少见的透露了对 AI 发展的想法,他认为 AI 影响的并不只俄罗斯,而是全人类的未来,因为他相信 AI 领域的领导者,也将具有支配这个世界的能力。
因此普丁建议,各个国家应该互相分享关于 AI 的知识,以避免有人获得垄断地位,“一旦有人获得垄断地位,情况将会变得十分严峻。”
那么从目前的情况看来,究竟会是哪个国家在这场竞争中获得优势呢?高知特(Cognizant)的策略负责人 Malcolm Frank 指出,以目前的情况看来,美国、中国、印度在 AI 领域的领先远远超乎其他国家。
但马斯克认为,不论是哪些国家取得领先,其他国家也会用尽一切手段迎头赶上。“政府并不用遵守一般的法律,他们可以取得任何公司开发的 AI 产品,只要有那个必要。”
这并非马斯克第一次呼吁政府应该制定 AI 相关法律,来保障公众安全,在过去很长一段时间,马斯克一直试图警告人们关于 AI 发展的危险性,但很显然的影响力并不够。
“于是我想说,好吧,看来为了确保 AI 的开发方向不会偏离正途,我们也得投入研究了。”
(Source:shutterstock)
在那之后,马斯克建立了两个新企业来减缓他对 AI 发展的“焦虑”,一个是研究人机界面的 Neuralink,另一个则是非营利的研究机构 OpenAI。
在 OpenAI 近期用游戏训练的过程中,AI 也确实出现潜在的危险举动──原先只要得到最高分通过终点就可获胜的游戏,AI 却开始不断追求得高分,毫无通过终点的意愿,甚至愿意为了分数与其他玩家碰撞。
为了避免 AI 再度出现这种搞错重点的情况,OpenAI 目前正在研究如何在算法里置入人工干预成分,确保 AI 系统的安全性。
其实不只是 OpenAI,在 AI 技术的快速发展之下,许多团队都已知人工智能的安全性问题,并开始进行研究与改良,像是 Google 旗下 DeepMind、Google Brain 和一些大学研究团队,就都在对此进行相关研究。
- Elon Musk predicts World War III
(首图来源:Flickr/Dow Jones Events CC BY 2.0)
延伸阅读:
- 未来战争就看无人机!普丁:AI 技术领导者将统治世界
- OpenAI 和 Google 如何预防人工智能失控?
- 呼吁政府正视 AI 发展的潜在危险,马斯克:人们会担忧,也应该如此