C以Data为例《星际迷航:下一代》.假设他发现自己在一个充满敌意的星球上,周围都是外星人,他们正准备摧毁他。为了生存,他迅速将自己的人工大脑上传到企业电脑上。数据生存吗?他能不能,至少在原则上,每次遇到危机时都这么做,这样他就能永生?
人们普遍认为,人工智能可以通过创建自己的备份副本,从而将自己的意识从一台计算机转移到另一台计算机,从而实现永生。这种观点受到科幻小说的鼓励。但这是正确的吗?
我想问的问题是,人工智能是否能够实现我们所谓的“功能不朽”,即上传和下载备份的时间是否足够长,以见证宇宙大爆炸,甚至是宇宙热死的旁观者,这是宇宙中最大的事件。
程序就像数学方程一样,不是存在于空间或时间中的具体事物。
关于超级智能人工智能的前景和危险有很多讨论,这是一种假想的人工智能,在各个方面都比普通人聪明:科学推理、数学能力等等。长期以来,在科幻小说中,超级智能人工智能在另一个方面也被描绘成超人。与生物衰老的人类不同,人工智能可以通过上传和下载程序实现功能永生。慢慢地向无所不知和永生迈进,人工智能变得几乎像上帝一样。
然而,像Data这样的上传努力并不能达到目的。请注意,“AI”是指特定的AI还是指某种类型的AI程序,这是一种模棱两可的说法。考虑一下,“特斯拉Model 3”这个表达可能指的是你车道上的某辆特斯拉,也可能指的是汽车的类型(比如,制造商和型号)。即使在你的汽车被拆卸和摧毁后,这种类型也会继续存在。类似地,我们可以将特定的人工智能(Data)与他运行的程序类型(如果你愿意,可以称之为数据程序)区分开来。
当我们在上面的例子中问Data的生存时,我们是在问这个具体的、特别的机器人Data能否生存到宇宙的尽头。数据是一种特殊的人工智能,因此,他很容易遭到破坏,就像我们一样。可能还有其他这种类型的机器人,但它们的存在并不能确保Data的存在,它只是确保了其他机器人也有Data的存在类型的程序。
在这里,有人可能会反对说,如果您精确地复制Data的程序,那么您不仅复制了Data程序,实际上还以某种方式重新复制了Data本身。数据的心智和意识转移。(在这里,为了讨论的目的,我假设,至少在原则上,人工智能可以是一个有意识的存在,并且有头脑,我在我的书中对此提出了质疑人为你.)
这一反对基于对自我或心灵本质的某种假设:即心灵(或自我)是一个软件程序的立场。你可能会认为,就像你可以上传和下载一个电脑文件一样,你的思想或自我只是一个程序,它也可以上传和下载。
毕竟,通过内省,我们可以知道,时刻对我们来说转瞬即逝——我们是暂时的存在。
这种观点大错特错。程序就像数学方程一样,不是存在于空间或时间中的具体事物。它也不会引起世界上的事件。这就是哲学家所说的“抽象实体”。当然,一个方程或软件程序是可以写下来的,所以你可能会假设它存在于空间和时间中,但这是为了把方程或程序(一种类型)与它的铭文(如哲学家所说,一个“符号”)混为一谈。题词在纸上,但方程或程序不在。
如果自我和心灵被证明是像数字和程序这样的抽象实体,那将是非常奇怪的。毕竟,我们可以通过内省来判断,那些时刻对我们来说是转瞬即逝的我们是暂时的存在.我们的行为在时空世界中引起事件。抽象实体什么都不做,也不在任何地方。
那么这一切将我们引向何方?数据在一个充满敌意的星球上,被即将毁灭他的外星人包围着。他迅速将他的人工大脑上传到企业号上的一台电脑上。他能活下来吗?
在我看来,我们现在有了一个独特的例子(一个标记),数据,由企业计算机运行。我们可能会问:通过再次上传,特定实例或标记能否在计算机破坏后幸存下来(即,将标记的思想转移到另一台计算机)?不。同样,上传只会创建相同程序类型的不同实例(或令牌)。一个人的生存取决于事物在符号层面的位置,而不是类型层面的位置。Data,尽管它的名字叫Data,但它不是一个程序。
同样值得强调的是,一个特定的人工智能仍然可以存活很长时间,只要它的部件非常耐用。或许Data可以通过避免事故和更换磨损的部件而实现功能不朽。至少可以说,在几十亿年的时间里避免事故将是一项非凡的壮举。(我想,至少在原则上,未来的人类也可以通过生物技术的创新来做到这一点。)但我的视图与这个场景是兼容的,因为在这种情况下,Data的存续不是通过将其程序从一个物理对象转移到另一个物理对象来实现的。
苏珊·施耐德是美国国会图书馆和美国国家航空航天局巴鲁克·布隆伯格主席,著有《人工你:人工智能和思想的未来。
这张照片最初出现在1988年的《数据》(Datalore)中《星际迷航:下一代》。