我还记得我第一次对光明未来的信心消失时，我对技术进步的灵丹妙药的信心动摇了。那是2007年9月一个温暖的夜晚，在旧金山，我在一家廉价的汽车旅馆里休息。此前两天，我正在报道奇点峰会(The Singularity Summit)。奇点峰会是科学家、技术专家和企业家们一年一度的聚会，讨论人类未来的退化问题。
在数学中，“奇点”是一个具有无限值的函数，通常会损害方程的理智和情感。在物理学中，这个词通常指密度无限、空间无限弯曲的区域，即黑洞内部和大爆炸初期存在的东西。用硅谷的另一种说法，“奇点”是一个不可阻挡的即将到来的事件，在这个事件中，人类乘着加速的技术进步浪潮，以某种方式创造了卓越的人工智能——这种智能具有可预见的不可预测性，然后爆炸性地进一步创造出破坏性创新，如此强大和深刻，以至于我们的文明，我们的物种，甚至我们的整个星球也可能迅速转变成某种难以想象的状态。奇点的支持者认为，奇点出现后不久，人类对地球的统治就会结束。
在这次会议上，我遇到了各种各样的想法。一些与会者兴高采烈，等待着充满爱心的机器到来，在一个天堂般的后稀缺性乌托邦中守护他们，而另一些人则更关注历史，担心新技术可能释放出的恶魔。就连与会的那些自称持怀疑态度的人也感觉到，世界正处在由技术推动的大规模转型的风口浪尖上。会议上的典型对话至少会提到一次奇异的概念，比如全脑模拟、认知增强、人工生命、虚拟现实或分子纳米技术，许多都带有末世论的讽刺色彩:上车吧，不要拖延，现在就投资，你也可能会成为从前世界的废墟中崛起的幸运儿!
素食餐前小点心和红酒在海湾地区别墅,我有聊天的亿万富翁风险投资家彼得•泰尔计划采取的“咄咄逼人”的战略投资一个“积极的”奇点,这将是“有史以来最大的繁荣”,如果不首先“炸毁整个世界。”我曾与自学型人工智能研究人员埃利泽·尤多科夫斯基(Eliezer Yudkowsky)谈过他的担忧，他担心人工智能一旦被创造出来，可能会迅速摧毁地球。有一次，这位发明家变成了布道者 雷·库兹韦尔(Ray Kurzweil)召开了电话会议，讨论他成为超人类的计划，超越自己的生物学， 获得某种 的永生。Kurzweil 相信这是可能的， 甚至是很有可能的，只要他能活着看到 奇点的黎明， ，他认为在21世纪中期的某个时候， 会出现。为此，他每天要服用150余种维生素。
如果我们的技术文明要避免衰退，那么人类在某种形式上的过时是不可避免的。
每天晚上回到汽车旅馆房间时，我都精疲力尽，我会读一本旧书的摘录，总结Technologiae．已故波兰作家斯坦尼斯拉夫·莱姆(Stanislaw Lem)在20世纪60年代初写了这本书，为自己定下了一个崇高的目标，打造一个与13世纪相当的世俗作品神学大全，托马斯·阿奎那的里程碑式的纲要，探索基督教神学的基础和局限。当阿奎那认为造物主、不朽的灵魂和永恒的救赎是基于圣经的确定性时，莱姆关注的是在现代科学的原则指导下，整个宇宙的智能和技术的不确定的未来。
套用莱姆的话来说，这本书是对尚未开花的科技玫瑰刺的调查。然而，尽管莱姆后来观察到“没有什么比未来衰老得更快”，但令我惊讶的是，这本书中近半个世纪前的预言，大部分都与我在大会上遇到的话题有关，而且同样让我感到新鲜。最令人惊讶的是，在随后的对话中，我证实了自己的怀疑:在聚集在旧金山打造超人类未来的科技世界里，很少有人熟悉这本书，也很少有人熟悉莱姆。我觉得自己就像一名坐在车里的乘客，在驾驶员视野的中心焦点上发现了一个盲点。
这种盲目或许是可以理解的。2007年，只有碎片总结Technologiae由文学学者彼得·斯维尔斯基(Peter Swirski)和德国软件开发者弗兰克·普伦格尔(Frank Prengel)独立进行部分翻译。这些碎片是我在汽车旅馆读到的。第一本完整的英译本是由媒体研究员乔安娜·齐林斯卡(Joanna Zylinska)在2013年出版的。莱姆自己承认，这本书从一开始就是一个商业和评论性的失败，在首次出版时就“消失得无影无踪”。莱姆的术语和密集的巴洛克风格是部分原因——他的许多最好的观点都是在离题的寓言、寓言和脚注中提出的，他还为那些在当时明显超出地平线的领域创造了自己的新词。在莱姆的字典里，虚拟现实是“幻影学”，分子纳米技术是“分子电子学”，认知增强是“大脑学”，仿生学和人工生命的创造是“模仿学”。他甚至为搜索引擎优化创造了一个术语，命名为谷歌:“ariadnology”。他将通往高级人工智能的道路称为“智能电子学”的“技术进化”。
即使是现在，如果说莱姆为英语世界的绝大多数人所知，那也主要是因为他的著作Solaris这部1961年出版的科幻小说曾被改编成两部广受好评的电影，一部由安德烈·塔科夫斯基(Andrei Tarkovsky)创作，另一部由史蒂文·索德伯格(Steven Soderbergh)创作。然而，说这位多产作家只写科幻小说是愚蠢的轻视。他的这么多作品能被归为一类，是因为他的许多知识漫游把他带到了知识的边缘。
莱姆是一个博学多才的人，他如饥似渴地阅读，不仅阅读经典文学经典，还阅读大量的研究期刊、科学期刊，以及顶尖研究人员的流行书籍。他的天才之处在于站在科学巨人的肩膀上，从他们的工作中提炼出精华，其中有苦乐参半的洞察力和思维实验，将他们的数学抽象与深刻的存在主义奥秘和人类状况的本质联系起来。仅就这个原因而言，阅读莱姆就像是一种教育，你可以从中学到诸如克劳德·香农(Claude Shannon)对信息理论的发展、艾伦·图灵(Alan Turing)对计算的研究，以及约翰·冯·诺伊曼(John von Neumann)对博弈论的探索等重大突破的深远影响。他的许多优秀作品都是基于任何人都会同意的逻辑构建分析，然后展示这些非常合理的前提如何导致惊人的结论。而这一切的基本原始文本，也是他剩余产出的源泉，是总结Technologiae．
这本书的核心是进化生物学、热力学(研究能量在一个系统中的流动)和控制论的令人兴奋的结合。控制论是由诺伯特·维纳在20世纪40年代开创的一个扩散领域，研究反馈回路如何自动调节机器和有机体的行为。以这种方式考虑一个行星文明，莱姆提出了一套社会稳定与其技术发展程度之间的反馈。莱姆写道，在早期阶段，技术的发展是一个自我强化的过程，它促进了内稳态，即在面对持续变化和日益加剧的混乱时保持稳定的能力。也就是说，技术的渐进进步往往会逐步增强一个社会对破坏性环境力量(如流行病、饥荒、地震和小行星撞击)的抵御能力。更多的进步导致更多的保护，这促进了更多的进步。
其结果是一个令人不安的悖论:为了保持对我们自己命运的控制，我们必须把我们的力量交给比我们自己更强大的思想。
然而，莱姆认为，同样由技术驱动的正反馈回路也是行星文明的阿喀琉斯之踵，至少对我们在地球上的文明是如此。随着科学技术的进步和发现的步伐继续加速，我们的社会将接近一个“信息屏障”，超过这个屏障，我们的大脑——由于进化而盲目、随机地塑造的器官——将无法再有效地解释信息洪流并对其采取行动。
过了这一阶段，我们的文明将达到科学技术指数增长时期的终点。体内平衡将被打破，如果没有一些重大干预，我们将陷入一场“发展危机”，我们可能永远无法完全恢复。莱姆写道，试图简单地蒙混过去，只会导致经济泡沫繁荣和萧条的恶性循环，因为社会盲目地沿着随机的、依赖路径的科学发现和技术发展道路蜿蜒前行。他写道:“胜利，也就是突然出现的一些新的精彩活动领域，将把我们淹没在它们的巨大规模中，从而阻止我们注意到其他一些机会——从长远来看，这些机会可能更有价值。”
莱姆因此得出结论，如果我们的技术文明要避免陷入衰退，人类在某种形式或另一种形式的淘汰是不可避免的。那么，继续进步的唯一剩余选择将是通过开发算法“信息农场”和超人类人工智能实现“认知过程自动化”。莱姆干巴巴地指出，生物进化是宇宙中唯一已知的构建哲学家的技术，而不仅仅是哲学。
结果是一个令人不安的悖论，莱姆在书的开头就表达了这个悖论:为了保持对自己命运的控制，我们必须把自己的 机构交给比我们自己更强大的思想，这些思想通过我们无法完全理解的过程创造出来，因此可能对我们来说是不可知的。这是莱姆探索奇点的基础，在描述奇点的结果时，他得出了许多结论，现在的大多数奇点追随者也都有这些结论。但是，在典型的现代方法和莱姆的方法之间有一个不同，不是在程度上，而是在性质上。
不像如今在硅谷亿万富翁的泡沫世界中如此普遍的商业化未来主义，莱姆的预测实际上并不是要从市场波动、闪亮的新设备或“颠覆性创新”的简单化意识形态中寻求个人财富。在总结Technologiae在接下来的大部分工作中，莱姆试图为一些问题找到合理的答案，这些问题在今天常常被默默忽略，或许是因为它们无法完全符合任何TED演讲或初创企业的商业计划:是技术控制人类，还是人类控制技术?我们的知识和成就的绝对界限在哪里?这些界限是由自然的基本规律还是由我们心灵的内在限制所形成的?如果我们有能力满足几乎所有的物质欲望，我们真正想要的是什么?
莱姆对这些问题的探索被他对机遇的痴迷所主导，作为人类命运的仲裁者，混乱和秩序之间的概率张力。他对“熵”有着深刻的理解，“熵”是一种使混乱自然地、自发地产生和蔓延的能力，诅咒一些人，同时宽恕另一些人。这种感激源于他年轻时在波兰的经历，在二战之前、期间和之后，他看到了机遇在无数梦想的毁灭中扮演的角色，也许纯粹是偶然，他的犹太血统并没有导致他的死亡。他在书中写道:“我们就像在蚁丘里忙碌的蚂蚁，靴子的后跟就在蚁丘上。Highcastle，一部自传体回忆录。“有些人看到了它的影子，或者他们认为看到了，但是每个人，包括不安的人在内，都在忙着他们的日常事务，直到最后一刻，带着热情和献身精神——去确保、安抚和驯服未来。”从这些经验积累的重量，莱姆在《纽约客》1986年，他“开始理解所有系统都具有的脆弱性”，以及“人类在极端条件下的行为——他们在巨大压力下的行为几乎是无法预测的。”
对莱姆(以及相当数量的现代思想家来说，值得赞扬的是)来说，奇点与其说是一个机会，不如说是一个问号，一个多维的熔炉，人类的未来将在其中形成。
2007年夏天，我忍不住想起了莱姆的问号。奇点峰会(Singularity Summit)就在新古典主义的艺术宫殿剧院(Palace of Fine Arts Theater)周围的花园里举行，黑暗和破坏性的阴影似乎笼罩着聚集在一起的富人的计划和抱负。但它们与邪恶的超级智能或失控的纳米技术几乎毫无关系。在我住的汽车旅馆和会场之间，乞丐们沿着人行道休息，或者拿着空杯子站在繁忙的十字路口，几乎每个人都看不见。有一次我在课间休息时出去散步，无意中发现一个无家可归的人在两棵修剪整齐的灌木之间排便。即便是在大会的背景下，有关融资的谈话中偶尔也会出现绝望的暗示;次贷危机已经开始显现，一年后，它将引发全球金融体系几近崩溃。当我们社会的科技巨头们在寻求优势，以创造他们希望是所有可能的未来中最好的时候，外面的世界提醒那些愿意倾听的人，即使在今天，我们也几乎无法控制。
在莱姆看来，尽管人类并不完美，但我们应该始终努力进步和提高。
我在2008年和2009年又参加了两次奇点峰会，在那三年里，各种技术的所有被大肆吹嘘的性能提升，与一个更明显但较少被讨论的加速变化模式相比，似乎微不足道:全球生态恶化、经济不平等和社会不稳定的快速持续增长。在这方面，对我们未来信息技术能力的预测往往远没有那么乐观。他们有信心地指出，如果我们将灵魂吸入我们的机器，大多数人类将不会梦想超越他们的生理，而是梦想淡水、饱腹和温暖、安全的床。如果超级智能计算机被海平面上升引发的风暴潮淹没，或者无法获得稳定的电力供应，它还能有多大用处?在一个被武装的、愤怒的、饥饿的暴民和流离失所的人们蹂躏的世界里，生物技术提高个人寿命有价值吗?我不止一次地想知道，为什么这么多的高科技专家更关心那些还不存在的威胁，而不是那些更平凡、更真实的威胁，就在他们眼前。
莱姆能够讲述我对奇点会议窗外世界的体验。在他的作品中贯穿着一种人文主义的谦卑，一种来之不易的确信，即技术发展往往只是为了服务于我们最原始的欲望，奖励个人的贪婪而不是公共利益。他认为我们的世界是极其脆弱的，是由大量的巧合所决定的，在这些巧合中，人类精神的变幻无常成为最不稳定的变量。
在这里，我们发现了莱姆作为未来主义者的主要优势。他拒绝低估人性对超人类可能性的影响，并相信，了解我们作为人类的优势和弱点这一尚未完成的任务，是通往任何后奇点未来的所有推测路径的关键先决条件。然而,这种力量也会导致登月舱可能是伟大的弱点,一个他和今天的希望超人:一个通过otherwise-dispassionate照耀黑暗的人性的乐观,一个狂热的信仰,当面对一个超越未来的挑战,我们会英勇地盲目轻率地去它的深度。在莱姆看来，像我们一样不完美的人类，应该永远努力进步和改进，寻找所有美好和可能的东西，而不是仅仅是方便和有利可图的东西，通过这一点，我们可能会找到救赎。相反，我们可能会屈服于自满、停滞、倒退和灭绝，这是他承认的，但几乎不能支持的事情。最后，莱姆也被诱惑了——尽管不是被个人永生、无穷成长或宇宙目的论的准宗教观念所诱惑，而是被不屈不挠的人类精神所诱惑。
就像许多其他的想法总结Technologiae这一点在莱姆1981年的一部中篇小说中得到了最好的表达傀儡十四在该节目中，一台自我编程的军事超级计算机通过自我引导进入感知系统，进行了一系列批评进化和人类的讲座。有些人会说，在小说中寻找真相是愚蠢的，或者把虚构人物的思想和作者的真实信仰划等号，但对我来说，结论是不可避免的。当中篇小说中的人造哲学家通过一个相互关联的声码器发表声明时，莱姆的人类声音出现了，发出了一种超越的预言，这是他最希望的——也许从今天的趋势来看，也是最错误的:
“我觉得你正在进入一个蜕变的时代。你们将决定抛弃你们的整个历史、你们的全部遗产和所有人性的遗存——人性的形象被放大成美丽的悲剧，成为你们信仰的镜子的焦点;你要前进(因为没有别的路可走)，而在这一点上，对你来说，现在不过是跳进深渊，你会发现一种挑战，如果不是一种美的话;你还是要走你自己的路，因为抛弃了人，人也就救了自己。”
自由撰稿人李·比林斯是《50亿年的孤独:在恒星中寻找生命》
摄影:Forum/UIG/Getty Images
本文最初发表于2014年秋季鹦鹉螺的季度。
