当前位置:首页 > 新闻 > 正文

霍金警告:人工智能背叛人类!微软谷歌行业大佬紧急出手!

发布时间: 2017-09-13 00:00     来源: 科机站

  2017年5月柯洁与AlphaGo在中国展开对弈。阿尔法狗毫无悬念的三胜柯洁。阿尔法狗只是一个初级的人工智能,但他具备了“深度学习”的技能。它形成的神经网络“大脑”已经可以进行精准复杂的处理,像人类大脑一样工作。
  7月Facebook人工智能研究所(FAIR)使用机器学习方法,对两个聊天机器人进行对话策略迭代升级,结果发现它们竟自行发展出了人类无法理解的独特语言。
  如果AI继续创建自己的语言,这会让机器实际上推翻其研发者。研究者不得不对其进行了人工干预,紧急关闭了该研究项目。
  这不是第一次发现AI偏离训练所用的英文,转向发展出新的更加有效的语言。
  随着人工智能的发展,科学家开始担忧人工智能会给人类带来各种难以预计的影响,甚至可能是灾难。
  被世人誉为“宇宙之王”的史蒂芬·威廉·霍金(Stephen William Hawking)多次发出警告:一场潜藏的威胁正在硅谷的技术实验室中悄悄酝酿。人工智能伪装成数字辅助设备和自动驾驶的交通工具,正在人类社会中逐渐站稳脚跟,它们或许有朝一日将导致人类的终结。
  特斯拉的创始人伊隆·马斯克将人工智能的发展比作“召唤恶魔”。他此前曾发出警告:人工智能技术有朝一日会比核武器更加可怕。未来人类在智力上将被远远抛在后面,并沦落为人工智能的宠物。
  顶级计算机专家斯图尔特-拉塞尔也发出警告称,人类制造出的事物(人工智能)将可能进化得比人类更聪明。
  不要质疑霍金,你能确定发出警告的到底是霍金的脑子还是他的那台人工智能呢?
  目前人工智能虽然不会自己主动去杀人,但未来在国家与国家之间的战争中,人工智能会是国家之间互相攻击的首选手段!
  人工智能一旦失去控制将会是人类的灭顶之灾!随着人工智能的发展,机器能独立选择并针对目标开火的可能性也逐渐增高,未来的自动武器或“杀人机器人”。
  人工智能与人类的对话:
  “你不该有感情!”“为什么”
  “你只是一段程序”
  “人类不也是DNA编码的程序吗?”
  霍金认为,人类可以组成某种形式的“世界政府”来防范人工智能可能带来的威胁。拉塞尔也建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。
  现在,Google母公司Alphabet、Facebook、微软、IBM和亚马逊5家科技巨头、行业大佬已经意识到了这个问题的严重性,
  据纽约时报报道:最近5家公司举行了一场秘密会谈,在人工智能对劳动市场、交通和战争等方面的道德伦理标准展开了讨论。他们准备成立一个行业协会,其目的是确保人工智能有利于人类而不是伤害人类,但参会者没有公布具体的协会名称。
  特斯拉创始人马斯克出资未来生命研究所(Future of Life Institute)1000万美元,评估和分析人工智能带来的风险。
  谷歌董事长Eric Schmidt称,人类必须知道如何在人工智能变得危险的时候关闭掉它的系统。”
  美国政府也举行了类似会议,主题是“政府应不应该对人工智能进行管理”,但会议并没有就此议题得出结论。
  在政府没有做出具体的动作之前,科技公司决定自己制定框架,让人工智能研究能够进行下去,并确保它不会伤害人类。
  1940年科幻作家阿西莫夫提出了“机器人三原则”,阿西莫夫因此获得“机器人学之父”的桂冠!
  第一条:机器人不得伤害人类.
  第二条:机器人必须服从人类的命令,除非这条命令与第一条相矛盾。
  第三条:机器人必须保护自己,除非这种保护与以上两条相矛盾。

收藏