在世界上占主导地位的科技企业支持下，这几年人工智能技术进展非常快速，面对充满人工智能的世界，美国著名科幻小说家，同时也是生化教授 Isaac Asimov，1950 年时即在其著作《我，机器人》中定出机器人三律，后来还成为机械伦理学基础。近期美国科学家 Steve Omohundro 在一份论文中提出六种邪恶的人工智能系统，针对此，以史蒂芬霍金为首的科学家也发出警告，认为这问题的确值得担忧。
Steve Omohundro 的论文题出一个假想画面，一个机器人被指派运送 Amazon 商品，想当然他的脑袋里会被植入一个系统可以处理周遭环境的阻碍，如果你试着阻止他，机器人会把你当成障碍，甚至把你处理掉。史蒂芬霍金认为，近期人工智能虽然离科幻电影里面的样子还很远，但随着技术进展快速，人工智能导致人类毁灭的可能性确实该被提出来讨论。
史蒂芬霍金在英国媒体 The Independent 表示，Google 的自动驾驶汽车，IBM 的华生电脑赢得益智节目冠军，苹果的数位个人助理 Siri 等等，只是庞 IT 军备竞赛成果当中的凤毛麟角。但是霍金指出，这些庞大投资产出的成就，绝对不包含这些技术会为接下来数十年的人类社会带来什么危害。
霍金认为，人工智能很有可能是人类最伟大的发明，但前提是，人类必须先知道避免风险的方式才有权力享有他们。然而，目前我们只知道这些技术智胜财务金融市场，比人类研究员更聪明，摆脱人类领袖的操纵，且能够发展我们无法理解的武器。霍金指出，人工智能短期的冲击来自于控制他们的人，但长期来看，这些机器人能否被控制住才是个大问题。
科学家 Steve Omohundro 提出阻止邪恶人工智能的方式，即第一时间就避免伤害性的人工智能系统被制造出来，在写程式的时候避免使用带伤害性字眼的指令。此外，在邪恶的人工智能还没取得太多资源之前，提前侦测并立即关机，这一步骤只是要开发者注意这些自主性的系统，他你发现这系统不好的时候就赶快关机。若太晚发现，邪恶的人工智能可能会给人类带来一场噩梦。
看完科学家的担忧有没有让你感到一点毛骨悚然呢?
- Stephen Hawking Is Worried About Artificial Intelligence Wiping Out Humanity
- There Are Only 3 Ways To Stop The Inevitable Robot Uprising
