研究指出人类将无法阻止人工智能改变世界

关于人类与人工智能的对抗是从古至今科幻作品中最常出现的题材之一，像是《2001: A Space Odyssey》、《Terminator》等等。早先，根据 Max-Planck Institute for Humans and Machines 的最新研究报告确认，人类将无法阻止人工智能自行做出决策，进而改变人类的走向。

研究小组负责人 Manuel Cebrian 表示，虽然人工智能这项技术距离电影中那种和人类如出一彻的思考能力乍看之下还有很大一段路要走，但它无庸置疑地正积极地被开发中，且已经有许多人工智能能够独立执行某些重要任务，而人类却还未能完全理解他们的学习方式。事实上，人工智能所具有的适应能力已经超出了大多数「Robot Ethics」机器人伦理学的范畴，因为它们已有超越编程的原始范围。因此，为了研究该问题，Manuel Cebrian 的研究小组构想了一种称为「Containment Algorithm」遏制演算法的理论，希望能够藉此查看人类是否可以通过改变人工智能的内码来控制人工智能，使人工智能在任何情况下都不会伤害人类，并在认为该行为有害的情况下使其停止运行。但是研究人员发现，在当前的计算范围内，人类无法创建出实现这种效果的密封演算法。

「如果将问题分解为理论计算机科学的基本规则，就会发现命令人工智能不破坏人类世界的 Containment Algorithm 会在无意中突然停止运作，在这种情况我们也将无法得知 Containment Algorithm 是否仍在分析威胁，或者它已停止遏制有害的人工智能。简单来说，这使 Containment Algorithm 没有任何用处。」Max-Planck Institute for Humans and Machines 的 Iyad Rahwan 解释。更严重地，人类根本无法预测超级人工智能机器何时会进化，或是它们其实已然来到。

近年来，尽管越来越多科学家提醒全人类人工智能的潜在危险性，在该领域的创新仍在继续前进。各位对此有什么看法呢？不妨在留言处与我们分享。