P人们经常问我，人类水平的人工智能最终是否会变得有意识。我的回答是：你知道吗想要它有意识吗？我认为它在很大程度上取决于我们我们的机器是否会醒来。
这听起来可能有些自以为是。意识的机制——为什么我们能对世界和自我有生动直接的体验——是神经科学中一个未解之谜，有些人认为永远都是;用科学的客观方法来解释主观经验似乎是不可能的。但在25年左右的时间里，我们认真地把意识作为科学审视的目标，我们取得了重大进展。我们已经发现了与意识相关的神经活动，并且我们对什么行为任务需要意识意识有了更好的了解。我们的大脑在潜意识中执行许多高级认知任务。
意识，我们可以追求得出结论，不是我们认知的必然副产品。AIS也可能是真的。在许多科学小说故事中，机器自动发展内心的生命，只要凭借他们的复杂性，而且它是可能的，即意识必须明确地设计成他们。
我们拥有稳固的科学和工程原因，试图这样做。我们对意识非常无知是一个。第18世纪和19世纪的工程师们没有等到物理学家在制造蒸汽机之前对热力学的定律进行了分类。它逐渐努力：发明推动了理论。所以今天。关于意识的辩论往往过于哲学，在圈子周围旋转，而不会产生切实的结果。我们对人工意识工作的小社区旨在通过执行来学习。
此外，意识必须对我们有一些重要的功能，否则进化不会赋予我们。相同的功能将用于AIS。在这里，科幻小说可能会误导我们。对于书籍和电视节目中的AIS，意识是诅咒。他们表现出不可预测，故意的行为，事情对人类并不好。但在现实世界中，戴斯托邦方案似乎不太可能。无论AIS可能姿势如何姿势都不依赖于他们的意识。相反，有意识的机器可以帮助我们管理AI技术的影响。我宁愿与他们共享世界，而不是与无思想的自动化。
W当AlphaGo与人类围棋冠军李世石对弈时，许多专家都想知道为什么AlphaGo会以这种方式下围棋。他们想要一些解释，了解AlphaGo的动机和原理。这种情况在现代人工智能中很常见，因为它们的决策不是由人类预先编程的，而是学习算法和它们所训练的数据集的紧急属性。他们的缺乏性引发了人们对不公平和武断决定的担忧。已经有一些算法歧视的案例;例如，Propublica去年的一项调查发现，佛罗里达州法官和假释官使用的一种算法显示，黑人被告比实际情况更容易再犯，而白人被告比实际情况更不容易再犯。
从明年开始，欧盟将给予其居民合法的“解释权”。人们将能够要求对人工智能系统做出决定的原因进行说明。这一新要求在技术上要求很高。目前，考虑到当代神经网络的复杂性，我们很难辨别人工智能是如何产生决策的，更不用说将过程翻译成人类能够理解的语言了。
在现实世界中，反乌托邦的情景似乎不太可能发生。
如果我们无法弄清楚为什么AIS做到他们所做的事，我们为什么不问他们？我们可以以元认识为赋予它们 - 以报告其内部精神状态的内省能力。这种能力是意识的主要功能之一。当他们测试人类或动物是否有意识的意识时，神经科学家都在寻找。例如，具有特殊经验的清晰度的元认知，信心，尺度的基本形式。当我们的大脑处理信息没有我们的注意事项时，我们对这些信息感到不确定，而当我们意识到刺激时，经验伴随着高信任：“我绝对看到了红色！”
任何用统计公式编程的口袋计算器都可以提供置信度的估计，但没有机器尚未具有我们的全方位的元认知能力。一些哲学家和神经科学家已经试图培养元认知是意识的本质。所谓的高阶理论的意识，有意识的经历取决于感官状态的直接代表的次要表现。当我们知道某些东西时，我们知道我们知道。相反，当我们缺乏这种自我意识时，我们有效地无意识;我们在自动驾驶仪上，占据感觉输入并作证，但没有注册。
这些理论有所作为建立意识AI的一些方向。我的同事和我正试图在神经网络中实施元认知，以便他们可以传达其内部状态。通过对哲学中的现象学，通过对有意识体验的系统反思研究意识结构来称之为“机器现象学”。为避免教导AIS以人类语言表达的额外困难，我们的项目目前侧重于培训他们开发自己的语言，以彼此分享他们的内省分析。这些分析包括AI如何执行任务的说明;这是一个超出机器通常通信的步骤 - 即任务的结果。我们没有准确地指定机器如何对这些说明进行编码;神经网络本身通过培训过程开发策略，奖励在将指示传送到另一台机器时的成功。我们希望扩大我们的方法来建立人为AI通信，以便我们最终可以从AIS中的解释。
B除了给我们一些（不完美的）自我理解之外，意识帮助我们实现神经科学家恩德尔·图尔文（Endel Tulving）所说的“精神时间旅行”。我们在预测我们行为的后果或规划未来时是有意识的。我可以想象如果我在脸前挥手，即使没有实际做动作，那会是什么感觉。我也可以考虑去厨房煮咖啡，而不用从客厅的沙发上站起来。
事实上，即使是我们对当下的感觉也是一种有意识思维的建构。我们在各种实验和案例研究中看到了这方面的证据。失认症患者的视觉皮层的物体识别部分受损，他们不能说出他们看到的物体的名称，但可以抓住它。如果给他们一个信封，他们知道如何调整手的方向，将其插入邮箱。但是，如果实验者在展示物体和提示受试者伸手之间引入时间延迟，患者就无法完成伸手任务。显然，意识本身与复杂的信息处理无关；只要刺激立即触发动作，我们就不需要意识。当我们需要在几秒钟内保持感官信息时，它就开始发挥作用。
一种特殊的心理调理实验表明了桥接时间差距的意识的重要性。在古典调理中，由Ivan Pavlov和他的狗成名，实验者对刺激刺激，例如空气吹向眼睑或触电给手指，具有不相关的刺激，例如纯净的刺激。测试对象自动学习配对的关联，而无需意识到。在听到语气上，他们不由自主地反冲了对粉扑或震惊的影响，并且当实验者被问到他们为什么这样做时，他们可以提供任何解释。但是，只要两个刺激在时间互相重叠，这种潜意识的学习就可以了。当实验者延误第二款刺激时，只有当他们有意识地意识到关系时，参与者才能学习协会 - 也就是说，当他们能够告诉实验者时，基调意味着浮夸。参与者似乎是必要的，即使在停止后，参与者也要保留刺激记忆。
这些例子表明，意识的一个功能是拓宽我们对世界的时间窗口——延长当前时刻的持续时间。在刺激消失后的一段时间内，我们的意识领域以一种灵活的、可用的形式保持感官信息。当不再有直接的感觉输入时，大脑会继续产生感觉表征。意识的时间成分可以通过经验来检验。弗朗西斯·克里克(Francis Crick)和克里斯托弗·科赫(Christof Koch)提出，我们的大脑只使用了我们视觉输入的一小部分来规划未来的行动。如果计划是意识的关键功能，那么只有这种输入才应该与意识相关。
A.这些示例中的常见线程是反事实信息生成。它是生成不直接在我们面前的感官表示的能力。我们称之为“反事实”，因为它涉及过去或预测未执行未来的未来行动的记忆，而不是外在世界中发生的事情。我们称之为“代”，因为它不仅仅是关于信息的处理，而且是假设创建和测试的积极过程。在大脑中，当它从低级脑区流到高级或“馈电”过程时，感觉输入将传感输入压缩到更多抽象表示。但是神经生理学研究表明，这种前馈扫描，无论是复杂的，都没有与有意识的经历相关。为此，您需要从高级到低级区域的反馈。
反事实信息的产生使有意识的主体能够脱离环境，做出非反射性的行为，比如在行动前等待三秒钟。为了生成反事实信息，我们需要有一个内部模型，这个模型已经学习了世界的统计规律。这种模型可以用于许多目的，如推理、运动控制和心理模拟。
如果我们无法弄清楚为什么AIS做到他们所做的事，我们为什么不问他们？
我们的AIS已经有了复杂的培训模式，但他们依靠我们给他们数据来学习。通过反事实信息生成，AIS将能够生成自己的数据 - 以想象他们提出的可能期货他们自己。这将使他们能够灵活地适应他们之前没有遇到的新情况。它也会有好奇心提供AIS。当他们不确定未来会发生什么，他们想象，他们会试图弄清楚。
我的团队一直在努力实现这一能力。然而，我们已经有过这样的时刻：我们创造的人工智能代理表现出了意想不到的行为。在一个实验中，我们模拟了能够驾驶卡车穿越地形的代理。如果我们想让这些特工爬上一座山，我们通常必须把这作为一个目标，特工们会找到最好的途径。但是具有好奇心的特工发现这座山是一个问题，并在没有得到指示的情况下找到了如何爬上去的方法。我们还需要做更多的工作，让自己相信正在发生一些新奇的事情。
如果我们把内省和想象看作意识的两个成分，甚至是主要的成分，那么我们不可避免地会召唤出一个有意识的人工智能，因为这些功能对任何机器都是非常有用的。我们希望我们的机器能够解释它们是如何以及为什么做这些事情的。建造这些机器将锻炼我们自己的想象力。这将是对意识反事实力量的终极考验。
Ryota Kanai是一名神经科学家和人工智能研究员。他是Araya的创始人兼首席执行官，Araya是一家位于东京的初创公司，旨在了解意识的计算基础，并创造有意识的人工智能。@Kanair
来自Dano / Flickr的引领形象
