你想要一个意识吗？

P.世卫民们经常问我是否最终会发现人为智慧。我的回答是：你呢想要它有意识吗？我认为它在很大程度上取决于我们我们的机器是否会醒来。

这听起来可能有些自以为是。意识的机制——为什么我们能对世界和自我有生动直接的体验——是神经科学中一个未解之谜，有些人认为永远都是;用科学的客观方法来解释主观经验似乎是不可能的。但在25年左右的时间里，我们认真地把意识作为科学审视的目标，我们取得了重大进展。我们已经发现了与意识相关的神经活动，并且我们对什么行为任务需要意识意识有了更好的了解。我们的大脑在潜意识中执行许多高级认知任务。

如果我们无法弄清楚为什么AIS做到他们所做的事，我们为什么不问他们？我们可以用元拍赋予它们。

意识，我们可以追求得出结论，不是我们认知的必然副产品。AIS也可能是真的。在许多科学小说故事中，机器自动发展内心的生命，只要凭借他们的复杂性，而且它是可能的，即意识必须明确地设计成他们。

我们拥有稳固的科学和工程原因，试图这样做。我们对意识非常无知是一个。第18世纪和19世纪的工程师们没有等到物理学家在制造蒸汽机之前对热力学的定律进行了分类。它逐渐努力：发明推动了理论。所以今天。关于意识的辩论往往过于哲学，在圈子周围旋转，而不会产生切实的结果。我们对人工意识工作的小社区旨在通过执行来学习。

此外，意识必须对我们有一些重要的功能，否则进化不会赋予我们。相同的功能将用于AIS。在这里，科幻小说可能会误导我们。对于书籍和电视节目中的AIS，意识是诅咒。他们表现出不可预测，故意的行为，事情对人类并不好。但在现实世界中，戴斯托邦方案似乎不太可能。无论AIS可能姿势如何姿势都不依赖于他们的意识。相反，有意识的机器可以帮助我们管理AI技术的影响。我宁愿与他们共享世界，而不是与无思想的自动化。

W.母鸡alphago正在对阵人类的冠军，李塞米尔，很多专家想知道为什么alphago扮演它所做的方式。他们想要一些解释，对alphago的动机和理由的一些理解。这种情况对于现代AIS是常见的，因为他们的决定并不被人类预编程，而是学习算法的紧急属性和他们接受培训的数据集。他们的缺乏性引发了人们对不公平和武断决定的担忧。已经有一些算法歧视的案例;例如，Propublica去年的一项调查发现，佛罗里达州法官和假释官使用的一种算法显示，黑人被告比实际情况更容易再犯，而白人被告比实际情况更不容易再犯。

从明年开始，欧洲联盟将为居民提供合法的“解释权”。人们将能够要求为什么AI系统做出决定的核算。这种新要求在技术上要求苛刻。目前，鉴于当代神经网络的复杂性，我们难以辨别到AIS如何产生决策，远低于将过程翻译成人类可以理解的语言。

如果我们无法弄清楚为什么AIS做到他们所做的事，我们为什么不问他们？我们可以以元认识为赋予它们 - 以报告其内部精神状态的内省能力。这种能力是意识的主要功能之一。当他们测试人类或动物是否有意识的意识时，神经科学家都在寻找。例如，具有特殊经验的清晰度的元认知，信心，尺度的基本形式。当我们的大脑处理信息没有我们的注意事项时，我们对这些信息感到不确定，而当我们意识到刺激时，经验伴随着高信任：“我绝对看到了红色！”

任何用统计公式编程的袖珍计算器都可以提供信心的估计，但还没有机器具备我们全部的元认知能力。一些哲学家和神经学家试图发展元认知是意识的本质这一观点。所谓的高阶意识理论假设，意识经验依赖于感觉状态的直接表征的次级表征。当我们知道某件事时，我们就知道我们知道它。相反，当我们缺乏这种自我意识时，我们实际上是无意识的;我们处于自动驾驶状态，接收感官输入并对其采取行动，但不记录它。

这些理论有所作为建立意识AI的一些方向。我的同事和我正试图在神经网络中实施元认知，以便他们可以传达其内部状态。通过对哲学中的现象学，通过对有意识体验的系统反思研究意识结构来称之为“机器现象学”。为避免教导AIS以人类语言表达的额外困难，我们的项目目前侧重于培训他们开发自己的语言，以彼此分享他们的内省分析。这些分析包括AI如何执行任务的说明;这是一个超出机器通常通信的步骤 - 即任务的结果。我们没有准确地指定机器如何对这些说明进行编码;神经网络本身通过培训过程开发策略，奖励在将指示传送到另一台机器时的成功。我们希望扩大我们的方法来建立人为AI通信，以便我们最终可以从AIS中的解释。

B.eSides给我们一些（不完美）自我理解程度，意识有助于我们实现神经科学派蒂门叫做“心理时间旅行”的目标。我们在预测我们的行为或规划未来的后果时意识到。如果我在脸上挥舞着我的手，即使没有实际执行运动，我也可以想象它会觉得。我也可以考虑去厨房制作咖啡，而不实际站在起居室里的沙发上。

事实上，即使我们对目前的那一刻的感觉也是一种有意识的心态。我们在各种实验和案例研究中看到了这一点的证据。对视觉皮质对象识别部分受到损坏的毒性患者无法命名他们看到的对象，但可以抓住它。如果给予信封，他们知道将他们的手定向通过邮件插槽插入它。但是，如果实验者在显示对象和提示测试的时间延迟之间，则患者无法执行到达任务。显然，意识与本身的复杂信息处理没有相关;只要刺激立即触发行动，我们就不需要意识。当我们需要在几秒钟内保持感官信息时，它进入了戏剧。

凭借反事实信息，AIS将能够以自己的方式想象可能的未来。

一种特殊的心理调理实验表明了桥接时间差距的意识的重要性。在古典调理中，由Ivan Pavlov和他的狗成名，实验者对刺激刺激，例如空气吹向眼睑或触电给手指，具有不相关的刺激，例如纯净的刺激。测试对象自动学习配对的关联，而无需意识到。在听到语气上，他们不由自主地反冲了对粉扑或震惊的影响，并且当实验者被问到他们为什么这样做时，他们可以提供任何解释。但是，只要两个刺激在时间互相重叠，这种潜意识的学习就可以了。当实验者延误第二款刺激时，只有当他们有意识地意识到关系时，参与者才能学习协会 - 也就是说，当他们能够告诉实验者时，基调意味着浮夸。参与者似乎是必要的，即使在停止后，参与者也要保留刺激记忆。

这些例子表明，意识的一个功能是拓宽我们对世界的时间窗口——延长当前时刻的持续时间。在刺激消失后的一段时间内，我们的意识领域以一种灵活的、可用的形式保持感官信息。当不再有直接的感觉输入时，大脑会继续产生感觉表征。意识的时间成分可以通过经验来检验。弗朗西斯·克里克(Francis Crick)和克里斯托弗·科赫(Christof Koch)提出，我们的大脑只使用了我们视觉输入的一小部分来规划未来的行动。如果计划是意识的关键功能，那么只有这种输入才应该与意识相关。

一种这些示例中的常见线程是反事实信息生成。它是生成不直接在我们面前的感官表示的能力。我们称之为“反事实”，因为它涉及过去或预测未执行未来的未来行动的记忆，而不是外在世界中发生的事情。我们称之为“代”，因为它不仅仅是关于信息的处理，而且是假设创建和测试的积极过程。在大脑中，当它从低级脑区流到高级或“馈电”过程时，感觉输入将传感输入压缩到更多抽象表示。但是神经生理学研究表明，这种前馈扫描，无论是复杂的，都没有与有意识的经历相关。为此，您需要从高级到低级区域的反馈。

反事实信息的产生使有意识的主体能够脱离环境，做出非反射性的行为，比如在行动前等待三秒钟。为了生成反事实信息，我们需要有一个内部模型，这个模型已经学习了世界的统计规律。这种模型可以用于许多目的，如推理、运动控制和心理模拟。

我们的AIS已经有了复杂的培训模式，但他们依靠我们给他们数据来学习。通过反事实信息生成，AIS将能够生成自己的数据 - 以想象他们提出的可能期货他们自己。这将使他们能够灵活地适应他们之前没有遇到的新情况。它也会有好奇心提供AIS。当他们不确定未来会发生什么，他们想象，他们会试图弄清楚。

我的团队一直在努力实施这种能力。但是，当我们觉得我们创建的AI代理商出现意外行为时，已经存在了一切。在一个实验中，我们模拟能够通过景观驾驶卡车的代理。如果我们希望这些代理商爬山，我们通常必须将其作为目标，而代理商会找到最好的途径。但是赋予了好奇心的代理人认为山是一个问题，并弄清楚如何爬出它，即使没有被指示这样做。我们仍然需要做一些更多的工作来说服自己的东西正在进行中。

如果我们认为以反思和想象力为意识的两个成分，也许甚至是主要的，也可能是不可避免的，我们最终会召唤一个有意识的AI，因为这些功能对任何机器都很有用。我们希望我们的机器解释如何以及为什么他们做的事。建造这些机器将锻炼自己的想象力。这将是对意识反应力的最终测试。

Ryota Kanai是一名神经科学家和人工智能研究员。他是Araya的创始人兼首席执行官，Araya是一家位于东京的初创公司，旨在了解意识的计算基础，并创造有意识的人工智能。@Kanair

铅图像：Photocreo Michal Bednarek / Shutterstock

这个故事最初标题为“我们需要有意识的机器人”，首先出现在我们的“意识“于2017年4月发行。