后记（2/2）

人们经常告诉我，他们绝对确信，任何一台计算机都不可能有知觉、意识、自我意志，或是任何“感知”自己的方式。当我问是什么让他们确信自己拥有这些令人钦佩的品质时，他们常常感到震惊。他们的回答是，如果他们确信某件事，就会说“我知道——所以我知道”。

然而，这样的信念究竟意味着什么呢？从字面上来看，由于“自我意识”应该是在人的思维中进行的一种意识，那么没有哪个现实主义者可以长久认为人们真的有很强的洞察力。

我们清楚地感知到自我意识，我们有各种发生在内心的事情的能力，这难道不值得注意吗？事实上，这方面的证据苍白无力。的确，有些人似乎特别善于评估他人的态度和动机，我们有时称之为“洞察力”。有些人甚至有时会对自己做出很好的评价。但这并不能证明我们使用诸如“洞察力”或“自我意识”这样的名字来描述这种能力是正确的。为什么不干脆叫它们“人的眼光”或“人的意识”呢？我们真的有理由认为，这些技能与我们学习其他东西的方式有很大不同吗？我们不应该把它们当成“看到”，而是正相反：只是一种“搞明白”的方法。也许我们对自己的了解方式和对非自我之物的了解方式是一样的。

事实上，我们所谓的“自我意识”只是整个心智的一小部分。它们通过构建自己的模拟世界来工作。相比于外部的现实世界，或者是大脑内部巨大的计算机系统——今天没有人可以假装理解这个系统，这个世界大大简化了。我们的模拟意识世界是一个简单的魔法世界，其中的每一个想象的物体都被赋予了意义和目的。想想看，你几乎很少会看到不用于敲打的锤子，或是不用来抛接的球。为什么我们感知事物的时候会有百般限制：感知的不是它们原本的样子，而是它们的用途？因为最高级别的心智是目标导向的问题解决者。换言之，我们头脑中所有机器的进化最初都是为了满足各种内在的或后天的需要，为了舒适和营养，为了防御和繁殖。后来，在过去的几百万年里，我们进化出了更强大的子机器，它似乎在以我们尚未了解的方式进行关联和分析，以发现哪种行为造成哪些影响，也就是发现我们所说的知识。虽然我们经常认为知识是抽象的，我们探求知识本身是纯粹而美好的——然而，我们最终要用知识来告诉我们如何才能达成我们所追求的目标（即使我们得出结论，为了做到这一点，我们可能首先需要获得更多的知识）。因为，正如我们所说的，“知识就是力量”，我们的知识本身就与我们达成目标的方式紧密相关。这就是关键：除非知识告诉我们该做什么，否则我们知道了也没什么用。如此便塑造成了意识心智的机制，而这似乎太过显而易见：除非我们利用知识，否则它毫无用处。

现在我们来看看意识：它是大脑中最擅长利用其他隐藏系统的部分，但它并不是熟知那些内部系统运作方式的专家。因此，就像我们说的，人走路时并不知道走路这个过程是怎么实现的。只有当这些系统开始运转不正常时，意识才会被小细节所吸引。这样的话，一个腿部受伤的人可能会第一次开始有意识地思考关于行走的理论：要向左转，我就必须强迫自己左转——然后就不得不想知道凭什么这么做。通常是只有当我们被迫面对一个异常困难的问题时，我们才会变得更加深思熟虑，并试着多了解他人是如何解决问题的。在这种情况下，我们会发现自己在说如下这类事情：“现在我必须有条理了。为什么我不能把精力集中在重要的问题上，而不被那些无关紧要的细节所分心？”

主要是在这样的时刻——当我们陷入麻烦的时候——我们就会比平常更接近于理解我们的心智是如何运作的，通过我们对这些机制的些许了解来改变或修复它们。很矛盾的一点是，这些正是我们说自己“困惑”的时候，因为只有我们太过了解自己的时候才会那么说——而不仅仅是困惑，甚至完全不知道。尽管如此，我们仍然蔑视并不喜欢困惑的意识，并没有意识到它必须包含的高度的自我表达。或许这仅仅意味着意识正在脱离它的深度，并且不太适合了解事物是如何运作的。总之，即使我们对于自我检查最“有意识”的尝试也仍然主要局限于“符号—标志”的实用主义魔法世界，因为似乎没有人能够成功地利用自我分析来发现很多在底层运行的程序。

所以，《真名实姓》的讽刺意味就在此。尽管文奇用科幻的形式讲述了这个故事——但事实上，这是我们现实生活困境的真实写照。我在此重申，我们以同样的未知方式利用我们的心智去驱动汽车和身体，就像那些未来游戏的玩家控制和引导他们伟大的机器中所发生的事情一样：通过使用符号、魔法和图像以及私密的名字。我们称之为“意识”的部分好像就坐在认知计算机终端前，试图控制和引导未知而又伟大的心智引擎，不是通过理解这些机制的运作方式，而是简单地从偶尔显示在我们精神屏幕上的标志的菜单列表中选择名字。

但是老实说，当你想到这些的时候，它几乎是不可能的！试想，如果我们的心智真的能看到自己的内心，会发生什么。还有什么比提供视角近距离观察数万亿神经细胞网络更糟糕呢？多年来，我们的科学家一直用强大的显微镜观察这些结构的碎片，但却未能提出这些网络做什么以及如何运作的综合理论。如果一次性看到所有的东西，那将会多么可怕！

神秘思想家称还有其他更好的方式来解读心智，如何看待这种观点呢？一种推荐的方法是学着训练意识心智停止它通常的想法，然后尝试（通过静止不动）去观察和倾听精神生活的细节。这跟通过仪器观察是否存在不同呢？或者说是否比后者更好呢？或许，只是它没有面对如何理解复杂事物的根本问题！因为，如果我们停止了通常的思维方式，那么我们就会失去已经练就的用来解释复杂现象的所有心智。总之，即使一个人能够观察并探测到从通常心智无法访问的其他部分涌现的信号，这些信号可能对与意识相关的系统毫无意义，因为它们代表了不同寻常的低层次细节。为了理解其中的原因，让我们再一次回到理解我们如何走路这样简单的事情上。

假设，当你走路的时候，你确实能够看到并听到你的脊髓和下脑的信号。你能理解它们吗？也许能，但不容易。事实上，做这样的实验很容易，使用简单的生物反馈装置使这些信号能够被听到、被看到即可。结果是，人们确实可以更快地学会执行一项新技能，比如更好地使用受伤的肢体。然而，就像以前一样，这似乎并不是通过有意识地去理解这些回路的运作方式实现的；相反，这种体验一如往常，我们通过获得一种半意识的“符号—魔法”来获得控制。可能的情况是，一个新的控制系统在神经系统的某个地方组装起来，并与我们所能了解的表面信号相交叉。然而，生物反馈对如何学习提供的见解似乎同我们普通的内置感官提出的并无不同之处。

总之，我们的运动科学家几十年来一直都在使用电子仪器探测这些信号。利用这些数据，他们能够开发出与之相关的各种关于相互作用和调节系统的局部理论。然而，这些理论并不是在对那些复杂生物信号的冥想和消极观察中产生的；三个世纪以来，科学家和数学家对于分析力学的研究和一个世纪以来对于伺服控制工程的提出的新理论，尽管我们对这些积累的发现进行了细致深入的探索，然而学到的知识却很少。在科学中普遍正确的是，仅仅仔细观察事物很少会导致新的“见解”和理解出现。你首先必须有至少一个新理论形态的模糊迹象，或者一种新的描述方式：你需要一个“新想法”。因为我们所观察到的“原因”和“目的”本身并不是可以观察到的事物，为了表现它们，我们需要一些其他的精神来源来发明新的魔法符号。

但是我们从哪里获得我们需要的新思想呢？当然，对于任何一个个体而言，大多数概念来自一个人成长的社会和文化。至于我们的其他想法，即那些我们自己“得到”的想法同样来自社会——但是现在，这些想法在我们个人的心智中。因为，人类心智在任何意义上都不是一个单一的实体，大脑也没有一个单一的、中央的工作方式。大脑不会像肝脏分泌胆汁那样分泌出思想。大脑由大量子机器组成，每个子机器都有不同种类的任务——每项任务都对其他部分有用。例如，我们使用大脑中的不同部分来听单词的声音，这与识别其他类型的自然声音或音乐音高截然不同。甚至有确凿的证据表明大脑中有一个特殊的部分专门用来观察和识别人脸，这与其他普通事物的视觉感知截然不同。我猜想，在头颅内部，可能有多达一百种计算机，每一种都有各自不同的架构，这些都是在过去四亿年间的进化过程中积累起来的。它们被链接到一张由专家组成的多资源大网中，每个专家都知道如何召唤其他特定的专家来完成任务，从而达到其目的。每一个子脑都使用它自己的编程风格和表现形式，没有标准的通用语言代码。

因此，如果这个心智社会中的一部分要去探究另一部分，可能会无功而返，因为它们有完全不同的语言和架构。它们的共同点那么少，又怎能相互理解呢？母语不同的人类之间的沟通就足够困难了。但人类心智的不同部分所使用的信号，不可能像有时有相同渊源的两种人类语言一样有细微的相似之处。更有可能的是，它们太不一样了，根本无法沟通——除非通过符号来表达。

现在，有人可能会问：“当从事不同工作的人有了不同的背景、想法和目的时，该如何交流呢？”答案是，这个问题更容易解决，因为一个人知道的比其小片心智知道的多得多。此外，我们都以相似的方式成长，这为我们提供了坚实的常识基础。即便如此，我们还是高估了自己实际的沟通能力。人们做的很多工作表面上看起来不同，但它们都是大同小异的，在某种程度上，它们都有一个共同的基础，我们称之为“常识”，即我们所有人共同拥有的知识。这意味着我们实际上并不需要像我们设想的那样彼此交流。通常，当我们“解释”某事时，我们几乎无须解释任何新事物；相反，我们只是展示一些能说明我们意思的一些正例和反例。这些例子告诉听众如何将其联系到已经知道的各种结构上。总之，我们经常只是说“是哪个”，而不是“如何”。

想想看，在解释许多看似简单的事情的时候，我们会觉得非常难。我们无法解释如何在自行车上保持平衡，也无法解释如何把图片和真实的东西区分开来，甚至无法解释如何从记忆中获取事实。有人可能会再次抱怨：“期望我们把观察、平衡、记忆等诸如此类的事情讲清楚是不公平的。这些都是我们在学会说话之前就学会的东西！”但是，尽管这种批评在某些方面是公平的，但这也说明了，对于那些从未学过说话的心智的所有子部分而言，沟通是多么困难——而它们是我们的全部。“意义”这个概念本身就是一个大小和规模的问题：只有在一个大到有很多意义的系统中，问什么东西意味着什么才有意义。在非常小的系统中，说某个东西有意义就像说一块砖是一间很小的房子一样毫无意义。

现在，我们很容易就会说，心智是一个社会，但这个想法本身是无用的，除非我们能更详细地说明它的组织形式。如果所有这些专业部分都同样具有竞争力，那么就会出现无政府状态，而且我们学到的越多，能做的就越少。因此，一定要有某种管理机构，或许大体上按等级组织，比如行业或人类政治社会的分类和细分。这些级别有什么用？在我们所知道的那些高效运转的大型社会中，较低层次的人练习更专业的工作技能，而较高层次的人则关注较长期的计划和目标。这也是我们有意识和无意识的想法很难相互转换的另一个根本原因！我们在意识层面上使用的术语和符号主要是用来表达我们相信自己能实现的目标和完成的计划——而那些低级别资源的工作则用不为人知的过程和机制来表示。因此，当我们的意识探测器试图进入组成心智的无数越来越小的子机器时，它们会观测到外星人一般的表现，这些表现被用作越来越专门的目的。

问题是，这些微小的内部“语言”很快就会变得难以理解，原因很简单却又不可避免。这与我们熟悉的两种不同的人类语言之间的翻译困难是不一样的，我们理解这个问题的本质：人类语言是如此巨大和丰富，以至于我们很难缩小其意义——我们称之为“模糊”。但是，当我们试着去理解心智最低层次的微小语言时，我们遇上了截然相反的问题——因为两种语言规模越小，它们之间的转换就越困难，不是因为含义太多，而是太少。两个系统所做的事情越少，它们做的事情互相对应的可能性就越小。于是，翻译变得完全不可能。为什么这比“模糊”的情况还要糟糕呢？因为，尽管“模糊”问题看起来很困难，但是一个看上去非常复杂的问题总还有希望。当一个问题简单得无可救药时，那就一丝希望都没有了！

最后，让我们回到这个问题上：一个机器内部世界里的模拟生命是怎样的，与我们日常的现实生活一样吗？我的答案是，正如你们现在所知道的，可能非常相似——因为就像我们看到的那样，我们自己已经作为进程被囚禁在机器内部的机器中。我们的精神世界里已经充满了奇妙的魔法符号与标志，它们为我们“看到”的一切事物增添了意义。

所有受过教育的人都知道，我们的精神世界与我们的科学家所知道的“现实世界”有多不同。想想你餐厅中的桌子，你的意识心智认为它拥有熟悉的功能、形式和用途：桌子是“一种放东西的物品”。然而，科学告诉我们，这仅仅存在于心智中；所有的“真正存在”是一个由无数分子组成的社会。这张桌子貌似保持着它的形状仅仅是因为其中一些分子被限制在彼此附近振动——因为力场的某些特性阻止它们去追求独立的路径。同样，当你听到一个口语词时，你的心智就会给这个声音赋予意义属性。而在物理学中，这个词仅仅是你耳朵里的一股波动的压力，是由无数空气分子的碰撞所引起的，至于粒子的距离，这次就不那么受限制了。

所以现在，让我们最后来面对它吧：我们每个人都已经体验过被计算机模拟的感觉了！

“荒谬，”大多数人一开始说，“我当然不觉得自己像个机器！”

然而是什么让我们如此确信？一个人怎样才能声称自己知道某件事的感受，除非自己经历过？请思考一下，要么你是一台机器，要么不是。然后，如你所说，如果你不是一台机器，你就无权表达作为一台机器的感觉。

“很好，但是当然，如果我是一台机器，那么至少我可以知道这种感觉！”

不。这只是一个单纯的、架空的假设，相当于说：“我会思考，因此我知道思维是如何运作的。”但正如我们所看到的，我们的意识思维和它们的产生方式之间存在着相当多级别的机制，这种说法就像说“我会开车，因此我知道引擎的工作原理”一样荒谬。

“尽管如此，即使大脑是一种计算机，你也必须承认它的规模大得难以想象。人的大脑包含数十亿个脑细胞，而且，很可能每个细胞本身都是极其复杂的。然后，每个细胞以复杂的方式连接着成千上万的细胞。你可以用‘机器’这个词来形容它，但肯定没人能造出这么庞大的东西！”

我完全赞同这种反对意见的态度。当一个人被比作机器时，会感觉被轻视，就好像被认为微不足道一样。而且这样的比较确实是一种侮辱，只要“机器”这个名字仍然具有过去时代的含义。几千年来，这个词会让我们联想起滑轮、杠杆、火车、打字机，以及其他简单事物的形象。同样，在现代，“计算机”这个词会让人们想起数字加法和减法，并在所谓的微型“存储器”中存储它们。然而，这些词语不再服务于我们的新目的，描述像我们一样思考的机器；对于这样的用途，那些古老的术语已经成为我们想说的虚假的名字。就像“房子”可能代表的东西比木头和石头代表的更多，或者仅此而已，我们的心智可能被描述为仅仅是机器而已，也可能代表更多的含义。

至于规模本身的问题，这些反对意见几乎完全过时了。1950年，在任何一台计算机都能存储100万比特之前，它们都是有意义的。1960年它们仍然有意义，那时存储100万比特的成本是100万美元。但是，今天，同样的存储器成本却只有100美元（我们的政府甚至把美元也变得更廉价了）——而且今天已经诞生了能存储数十亿比特的计算机。

唯一缺少的是让这些机器智能化的大部分知识。事实上，正如你可能从这一切中猜到的那样，人工智能研究的焦点应该是寻找到好的方法，就像文奇的《真名实姓》中所建议的那样，通过使用符号来连接结构和功能。如果可能的话，什么时候能做到这一点呢？永远都不要说“永不可能”。