系统粉 > IT资讯 > 微软资讯

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!

发布时间:2017-09-11    浏览数:

2017年5月柯洁与AlphaGo在中国展开对弈。阿尔法狗毫无悬念的三胜柯洁。阿尔法狗只是一个初级的人工智能,但他具备了“深度学习”的技能。它形成的神经网络“大脑”已经可以进行精准复杂的处理,像人类大脑一样工作。

7月Facebook 人工智能研究所(FAIR)使用机器学习方法,对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言。

如果AI继续创建自己的语言,这会让机器实际上推翻其研发者。研究者不得不对其进行了人工干预,紧急关闭了该研究项目。

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(1)

这不是第一次发现 AI 偏离训练所用的英文,转向发展出新的更加有效的语言。

随着人工智能的发展,科学家开始担忧人工智能会给人类带来各种难以预计的影响,甚至可能是灾难。

被世人誉为“宇宙之王”的史蒂芬·威廉·霍金(Stephen William Hawking)多次发出警告:一场潜藏的威胁正在硅谷的技术实验室中悄悄酝酿。人工智能伪装成数字辅助设备和自动驾驶的交通工具,正在人类社会中逐渐站稳脚跟,它们或许有朝一日将导致人类的终结。

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(2)

特斯拉的创始人伊隆·马斯克将人工智能的发展比作“召唤恶魔”。他此前曾发出警告:人工智能技术有朝一日会比核武器更加可怕。未来人类在智力上将被远远抛在后面,并沦落为人工智能的宠物。

顶级计算机专家斯图尔特-拉塞尔也发出警告称,人类制造出的事物(人工智能)将可能进化得比人类更聪明。

不要质疑霍金,你能确定发出警告的到底是霍金的脑子还是他的那台人工智能呢?

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(3)

目前人工智能虽然不会自己主动去杀人,但未来在国家与国家之间的战争中,人工智能会是国家之间互相攻击的首选手段!

人工智能一旦失去控制将会是人类的灭顶之灾!随着人工智能的发展,机器能独立选择并针对目标开火的可能性也逐渐增高,未来的自动武器或“杀人机器人”。

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(4)

人工智能与人类的对话:

“你不该有感情!”
“为什么”

“你只是一段程序”

“人类不也是DNA编码的程序吗?”

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(5)

霍金认为,人类可以组成某种形式的“世界政府”来防范人工智能可能带来的威胁。拉塞尔也建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。

现在,Google 母公司 Alphabet、Facebook、微软、IBM 和 亚马逊 5 家科技巨头、行业大佬已经意识到了这个问题的严重性,

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(6)

据纽约时报报道:最近 5 家公司举行了一场秘密会谈,在人工智能对劳动市场、交通和战争等方面的道德伦理标准展开了讨论。他们准备成立一个行业协会,其目的是确保人工智能有利于人类而不是伤害人类,但参会者没有公布具体的协会名称。

特斯拉创始人马斯克出资未来生命研究所(Future of Life Institute) 1000 万美元,评估和分析人工智能带来的风险。

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(7)

谷歌董事长 Eric Schmidt 称,人类必须知道如何在人工智能变得危险的时候关闭掉它的系统。”

美国政府也举行了类似会议,主题是“政府应不应该对人工智能进行管理”,但会议并没有就此议题得出结论。

在政府没有做出具体的动作之前,科技公司决定自己制定框架,让人工智能研究能够进行下去,并确保它不会伤害人类。

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!(8)

1940年科幻作家阿西莫夫提出了“机器人三原则”,阿西莫夫因此获得“机器人学之父”的桂冠!

第一条:机器人不得伤害人类.

第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

上一篇:一周AI直通车|微软脸书发布AI生态系统;“看脸判性取向”合理吗 下一篇:微软要暗渡陈仓? Windows 10 Mobile又卷土重来?

相关资讯

最新热门应用

电脑问答