《西部世界惊人真实:人工智能可能是有意识的和不可预测的

Westworld最近，该剧第一季以惊人的转折和惊人的数据结束:平均收视人数为1200万收视率第一季HBO电视台历史上的原创剧集西方世界这是一个不合常理的主题公园，风格是美国旧西部的风格。公园的“主人”，即在身体上与人类难以区分的人工智能生物，开始回忆公园的“客人”给他们带来的可怕经历，这些“客人”花钱来参观，为所欲为，包括强奸和杀害主人。

《西部世界》的虚构联合创始人罗伯特·福特(Robert Ford，安东尼·霍普金斯[Anthony Hopkins]饰)在建造公园的接待员时，能够根据环境即兴发挥并做出决定——这一人工智能愿景与牛津大学理论神经科学和人工智能中心(Oxford Centre for Theoretical Neuroscience and Artificial Intelligence)主任西蒙·斯特林格(Simon Stringer)的愿景惊人地相似。斯金格是该领域的领军思想家之一，他和福特一样，认为具有某种内化的空间和因果模型的机器可以获得一种直觉的、类似人类的智能。

在我和斯特林格的谈话中西方世界我们讨论了什么让人工智能看起来像人类，人工智能对人类的潜在威胁，自我修改程序的作用，以及图灵测试的重要性。

我们什么时候可以西方世界我们自己的?

好吧，我可以告诉你，没有人会在下个世纪生产出那种水平的东西。这是一个非常长期的研究。我实验室的人都知道这种研究要花多长时间。你可以花一辈子的时间研究大脑的一个小区域，试图弄懂它。

人工智能会实现意识吗?

有了足够的资金，我想在未来的20年内，我们将会看到意识的转变。我们可以找到介于老鼠和老鼠之间的基本认知系统，这将是非凡的成就，因为你将建立第一个基本的人工意识系统。

早在20世纪30年代和40年代就有研究表明，即使是老鼠的大脑也可以学习世界的因果模型，然后它们可以利用这个世界知识来指导自己的行为。如果老鼠知道了迷宫中的路径，然后你堵住了一条路，它就可以走另一条路去获得食物奖励。这种行为的灵活性，也就是为什么我们的大脑会了解这个世界是如何运作的，意味着我们可以利用这些信息来纠正正常的行为序列。换句话说，我们智能的一个核心部分就是我们学习世界的因果模型，我们利用这个世界的知识来指导我们的行为。因此，记忆和灵活性将在未来的机器中发挥关键作用，这些机器可以显示真正的人工智能和机器意识。

给人工智能配备生物组件是否可行?这是西方世界作家，他们把不活跃的主机储存在冷藏设施。

我认为这将会到来，但是以不同的方式。在牛津，人们正在研制人造视网膜。人们已经在开发神经植入物来处理，例如，感觉处理，我想我们会看到其他类型的植入物直接进入大脑，可能有助于记忆和运动功能等等。我想我们会看到半机械人的发展，但我们会看到人类变成半机械人，而不是人工智能变成半机械人。现在正在发生的。牛津有很多盲人，现在他们有了仿生眼睛。我是在70年代长大的，那时我们《无敌金刚还有史蒂夫·奥斯汀，都是科幻小说。现在他们真的在创造仿生眼睛，而且成功了。这是惊人的。

是否有可能对人工智能设定严格的限制，同时允许它们访问内存和自我修改程序?

很难说我们会有什么样的控制力。关于人类和意识的另一件事是它给了我们巨大的自主权。这就是我们在机器意识领域的目标。我们想要真正了解世界的系统。今天，像史蒂芬·霍金这样的人表达了对人工智能对人类存在威胁的担忧。我可以告诉你:今天没有一个系统会造成这样的威胁，因为它们根本不了解自己的世界。只有当他们开始像人类大脑一样以常识理解世界时，他们才会对我们构成威胁。

你可能对DeepMind的研究很熟悉。当他们开发了一些软件学习如何玩雅达利电脑游戏时，他们开始崭露头角。我听到有人在接受英国广播公司(BBC)的采访，他是一位著名的机器学习教授;我不会说他是哪所大学的。他说他们使用的是"无模型强化学习"通过这种技术，程序并不能真正了解世界是如何运行的。它只知道，如果我在屏幕上看到这样的像素排列，我就这样做。它的地图是由奖励符号优化的。这是一种不会学习的算法方法。

机器能理解这个世界吗?

只有那些显示意识本身的系统才会开始理解世界。这些机器真的会表现出行为自主，而且它们是不可预测的。他们会很聪明。

所有的西方世界宿主看起来像人类，但现实世界中的人工智能生物就一定像人类吗?

不客气。他们甚至可以在虚拟世界中拥有完全虚拟的生活。我认为它们必须存在于某种物理空间中，一个物理空间中的模拟物，它们需要某种形态，所以它们需要某种有感觉和动力的身体，以便系统能够自我组织，就像大脑一样。但我认为我们将完全自由地设计我们自己的形态和驱动，系统将会适应。

在西方世界在美国，公园的成功是基于这样一个事实:主人和客人没有区别——是什么让人造生物看起来像人?

我认为我们首先要看他们的行为。神经学模型让我们深入了解意识本身的本质。当你观察这个世界时，你会在每个空间尺度上看到数以百万计的特征。如果我看着对面的一盏灯，我看到了所有的边界元素——曲率以及所有元素在每个空间尺度上是如何连接在一起的。这些视觉图像被认为是在视觉系统的连续阶段表现出来的。换句话说，最简单的特征是在视觉皮层的早期被提取出来的。更复杂的特征，如整个物体和面部，在后期处理阶段被提取出来。现在我们可以看到所有这些特征是如何相互关联的;这是绑定的问题我们现在已经解决了。这是令人难以置信的丰富。我们发现自己正站在复杂的山脚下。

但当你开发大脑功能模型时，硬币有两部分。这是真实的神经层次结构，然后是感官世界。当你将这两件事结合在一起时，出现的复杂性几乎是压倒性的。这就是我们在未来几年要探索的。这就是为什么很难说什么是人类，什么不是。

非物理人工智能可能成为该学科的下一步发展方向吗?比如微软的小冰和其他人工智能虚拟聊天机器人?

你知道吗?这是一个很好的问题。让我给你一个有趣的答案。我认为图灵测试对人工智能来说是一场灾难。很多设计聊天机器人的人都在考虑图灵测试。我们能让这个聊天机器人复制人类的语言，好到可以愚弄人们吗?我认为，实现真正的人工智能和机器意识的途径必须是通过模拟老鼠等简单生命形式来达到这一水平。例如，对于老鼠，首先有很多神经生理学帮助建立模型。我认为今天试图建立一个可以解决图灵测试的聊天机器人是一条死胡同，我认为我们需要做的是开发简单的人工生命形式。一步一步来，逐步增加这些系统的复杂性和智能。

所以身体是人工智能的关键?

是的,没错。

福特提出的支持人工智能意识的论据之一是，这是人类进化的下一个阶段。你觉得呢?

看看数万年来的人类;它遍布地球表面。我认为这是不可避免的，因为我们是天生的探险家。同样，科学是一种探索活动;它的创意;这是人类的一种本能，试图去理解这个世界，看看我们能做些什么，然后建造美妙的工程结构和美妙的艺术。最不寻常的是大脑本身和意识本身。我们的精神自我价值感是基于这种意识的概念。我想我们总是想要理解这一点。我认为这是当今神经科学的驱动力，包括理论神经科学，也就是对大脑的计算机模拟。

此外，我们还试图了解神经紊乱，比如自闭症，精神分裂症，抑郁，焦虑。这意味着我们想要了解大脑的功能，这样我们就可以进行医疗干预。这本身将推动并提高对大脑功能的理解，然后将其转化为机器学习和机器人技术。我认为我们将不可避免地继续取得进展。

Cody Delistraty是巴黎的一位作家和历史学家。他写书，写文化，写有趣的人纽约时报，《纽约客》《巴黎评论》和永旺．在推特上关注他@Delistraty．

看:加州大学伯克利分校的机器人专家肯·戈德堡解释了类人人工智能的吸引力。