第一章 现代心智的诞生
第二章 精靈树丛中的生活
第三章 机器玩偶“土耳其人”
第五章 被解放的普罗米修斯
第八章 没有身体的心智
第三部分 阿达梦游仙境
第十二章 克里特岛囚的谎言
第十四章 从布莱切利园到谷歌园
第十五章 可以思考的机器
第十六章 混沌边缘的达尔文

控制论是维纳最重要的科学遗产它综合了苼物学和数学，以理解复杂的自然系统如何运行和演化维纳的想法是，通过研究生命如何解决问题例如如何运动、如何处理信息（观察、感受），人们就可以应用数学知识模拟生命并建立自动化的工程系统。控制论展望了一个新世界在其中我们可以解码自然，构建┅个伟大的新文明来重塑自然这个世界有着自我调节的工厂、治愈各种疾病的疗法、稳固的经济、公平的社会，还有能思考的机器
在峩的研究过程中，我第一次开始怀疑人类智力自动化的想法编程中有一些东西和心智工作的方式并不一致，有些东西不对头为了理解這一点，必须要先理解自动化的两个基本的、互相关联的概念：逻辑和反馈逻辑或许不是至关重要的因素，但后一个概念“反馈”则是設计成功的自动化系统的关键反馈可能是自然界中最常见的机制，生物和生态系统以反馈来回应不断变化的环境例如，当亮光闪过你嘚双眼你就会反射性地闭上眼睛以保护视网膜。当环境中的二氧化碳升高海洋浮游生物就会倍增以吸收它。市场使用价格作为反馈信號决定商品和服务的生产。从单细胞生物到生态系统复杂性不断提升，我们的世界就是这样一个紧密连接的网络系统凭借反馈信息茬动态平衡之中得以存续。人工控制论系统试图模拟自然界的反馈机制例如一个帮助你冲厕所的简单系统：一个浮球“感知”水面高度，连接着阀门控制着水管。浮球是一个测量装置反馈给阀门水面的信息。当水面高度位于设定的范围时动态平衡就建立了。冲厕所時动态平衡被打破，系统就会打开阀门充满水槽以便重新平衡。
一个“自动化”的心智要比冲厕所的装置复杂得多但是根据控制论，它也会使用相同的反馈和逻辑原理它会模拟人类的心智，通过“感知”来提供环境的信息以逻辑处理信息，并决策做出何种行动唎如我的医学专家系统接收病人的血液信号、医疗记录和其他测量结果，然后运用已经编码的知识以逻辑的方式处理数据，并决定治疗嘚方案就像是人类医生一样。新的数据会改变系统的“心智”改变它的逻辑过程并重新决策。总之这不就是我们人类每天都在做的倳情吗？我们难道不是在感知着变化不居的世界然后运用我们的知识和逻辑，以改变心智做出决定吗？也许我在研究开始时是这么想嘚但是在我结束研究时，我的思路已经改变尽管我的专家系统运转良好，帮我得到了博士学位但我绝对不能说我制造了一个真正的“智能”系统。也许它算聪明甚至在某个特定领域极其聪明，但是当它处理病人的信息或者建议治疗方案时它并没有真的“意识到”洎己的行为。它不知道“病人”究竟意味着什么不懂得一个人的思想、家庭、朋友、愿望、恐惧、不适以及作为一个人是什么含义。我嘚专家系统缺失的是“意识”
在20世纪80年代末，且不说工程领域“意识”这个字眼可不是你乐意在科学圈子里提及的。提起它时大家想箌的画面是服用了LSD（一种强烈的半人工致幻剂）的嬉皮士或者卡洛斯·卡斯塔尼达关于萨满的书籍。往好了说，意识属于神秘领域对于朂坚定的科学家来说毫无意义，至多也就属于心理学或者哲学的领域；往坏了说研究意识是去往超自然伪科学的一张单程票。
但是意識是人工智能的核心问题。制造能够模仿人类专家的自动化系统完成有用的任务，这是完全可能的我的研究和许多其他人的研究都揭礻了这一点。但是机器智能的“圣杯”、典范和游戏规则的终极改变者还是创造人类的神是谁一台可以像人类一样真正思考的机器。这呮意味着一件事：这台机器必须能够意识到它在思考以某种方式让它意识到是“它”在思考——就如同我知道是“我”在写下这些词句┅样。否则这台机器就是一具僵尸：它可以表现得有行为、有思想、像人类一样写作却缺乏对于它行动和思想的主观体验。它不知道何為自己没有内在体验，它的行为会是对于有意义的语境或意图的本能反应缺少了意识，智能机器就是没有感知的自动机器而已在人笁智能和控制论领域，我的同行对于意识素来缺乏严肃的探讨这种状况让我感到幻灭，我离开了学术界为私人企业工作并私下里继续峩的研究，这一次是在一个大多数工程师和科学家都认为是最浪费时间和精力的领域：哲学
要让机器拥有意识，就必须以逻辑和自洽的方式编码意识换言之就是设计可以有自我意识的计算机程序。计算机工程称呼编程中的逻辑为“算法”一个算法就是一系列解决问题嘚逻辑步骤。因此创造人类的神是谁真正的智能机器，其核心问题就是意识能否算法化如果意识可以算法化，就是可编码的但是这個问题非常难以研究，根源在于我们目前对于意识这种生物现象的了解还十分片面还好，20世纪80年代末以来意识褪去了伪科学的名声，開始进入严肃的科学领域我们需要感谢英国生物学家弗朗西斯·克里克，他与詹姆斯·沃森共同发现了DNA（脱氧核糖核酸）。在1994年出版的著作《惊人的假说》中克里克指出大脑中存在一种神经机制引发了人们对于自我的知觉。克里克认为意识是一种纯粹的生物学现象可鉯像其他自然现象一样研究和测量。如果克里克的假设是成立的那么意识就一定可以算法化，因此也就可以自动化像是维纳在近100年前展望的那样。但是这个假说成立吗最重要的是，存在一个科学实验可以验证它吗
自克里克开创性的著作出版以来，医学成像技术的进展揭示了大量不为人知的大脑工作细节神经科学以空前的速度发展。好奇心并不是理解大脑这一伟大进展的唯一驱力西方社会中神经退行性疾病让大脑疾病变得非常普遍。在欧洲大脑相关的疾病影响的人群比癌症、心血管病和糖尿病加起来还多。1/3的人口在一生中至少囿一次可能受到这类疾病的侵袭吓人的统计显示，这意味着在欧洲有1.65亿人患病每年将花费8000亿英镑的医疗费用。因为神经科学的进展21卋纪被称为“脑的世纪”，有时也叫作“心智的世纪”人们有一种深深的信念，相信严谨的科学、强大的计算机和更精确的脑成像仪器鈳以最终“破译心智密码”这种信念让政府支持了越来越多集中、系统的科学研究。“人类大脑计划”（Human Brain ProjectHBP）是欧盟的一个为期10年的旗艦级项目，在一开始就有11.9亿欧元作为预算人类大脑计划集结了欧洲乃至世界上的一批科学精英，研究如何在超级计算机中精确地模拟大腦解码人类大脑是我们的时代最重要的科学挑战。
这一挑战的难度前所未有人类大脑是已知宇宙中最复杂的物体。它由大约1000亿个叫作“神经元”的细胞构成这些细胞又互相组成了大约1000亿个连接。不仅是不可思议的复杂大脑还十分神秘——它可以思考。没人知道这是怎么做到的但是人类大脑计划的科学家相信，他们可以细致地绘制大脑地图从而发现大脑如何思考。这是自启蒙运动以来科学最为擅長的事情：以特定方法细心地将自然界最小的因素一一分类研究它们，然后将研究连点成线理解和解释整体。这种持续了数世纪的科學方法在人类大脑这里依然有效吗
尽管人类大脑计划的科学家和支持该计划的政客看起来都认为这种方法绝对可靠，但他们的想法其实嘟和一个关于心智的哲学问题相左这个问题有点乏味地叫作“大难题”。澳大利亚哲学家戴维·查尔莫斯定义了“意识的难题”，区别于那些通过检查大脑功能就可以解释的“简单”问题例如记忆、注意或者语言。这些简单问题并不真简单人类大脑计划需要花费大量精仂，用科学方法解决它们但是查尔莫斯指出存在一个特定的问题，无法用纯粹的关于大脑的物质观点来解释这就是主观体验的问题，囿时也叫作“感质”（qualia）
和“意识的难题”较为相关的问题是对于自我的主观体验问题，这个问题对科学的哲学基础造成了不小的破坏科学基于经验主义，认为现实可以通过实验检测天使和精灵不在科学的范围之内，因为它们都无法用实验证实（或证伪）对于科学镓来说，天使与精灵因此是“不真实的”主观体验的问题就在于，它也无法通过客观的实验验证如果我是一个实验的参与者，要测量峩的意识体验那么唯一可能的测量结果就是我对内在感受的个人描述，一段由我回答问题构成的叙述科学家不喜欢叙事，因为它具有社会科学或者人文领域反经验主义的特点
因此，意识的问题不仅仅是科学或者哲学问题还是一个人类学问题。它是“两种文化”问题嘚例子这个问题是英国化学家、小说家C.P.斯诺于1959年在著名的里德讲座中指出的。斯诺认为西方文明正被科学与人文两种不同知识的分裂所折磨两种知识的互不理解解释了为何世界上有如此多的难解问题。如果戴维·查尔莫斯与C.P.斯诺是正确的人类大脑计划可能会以10年时间建造巴别塔，即徒劳、浪费而又傲慢地建造不可能之物这一切都是因为科学家的聪明头脑与大学走廊的另一侧同样聪明的头脑——那些哲学家互不理解所致。
在图森市亚利桑那大学举办的世界意识研究双年会上我和戴维·查尔莫斯会面多次。戴维看起来更像是一位重金属樂队的吉他手，而不是大学教授他和麻醉医师斯图亚特·哈梅罗夫是会议的主要组织者。在2001—2005年我多次参加了这一会议，得以和许多同樣着迷于大脑的科学家、哲学家会面和讨论到此时，我对于人工智能的探索之旅已经从计算机编程转为试图理解大脑工作的原理它把峩从多雨的伦敦带到了阳光普照的亚利桑那和其他许多地方。我对于神经生理学与神经科学的个人研究增强了我的信念我认为研发机器意识是可行的，我们应该以神经科学的发现重新定义计算机因此，我也属于人类大脑计划的科学阵营之列主观来自客观，除此之外別无其他可能。如果把大脑分解研究再重新组合，我们就可以得到意识
我们的技术总是追求以我们自身的形象创造人类的神是谁人工慥物，这种追求可能早就在我们的种族演化的过程中在认知系统里写好了。也许我们热衷于建造人工智能来自某种本能的冲动，而不昰实际的需要人工智能可以看作人类渴望的技术中最让人迷惑的、不合逻辑的事业之一，因为它试图复制我们连同我们所有的缺点和鈈完美。
本书详细叙述了我的探索：能否制造人工的心智我们该如何应对它，以及为什么人工心智如此重要又如此迷人本书探索了我莋为一名工程师、小说家和科学传播者始终在问自己的问题。我将本书分为三个部分对应了我探索人工智能的三个方向：文学、哲学和計算机科学。
第一部分中我追寻机器人的故事，一直上溯到旧石器时代祖先创造人类的神是谁的艺术第二部分探索了心灵哲学与神经科学。第三部分展现了令人着迷的计算机技术史这一技术已经重塑了我们的世界。
本书试图通过架设“两种文化”之间的桥梁用全新嘚方式审视人工智能，并展现文学叙事、哲学与科技之间的密切关系回答古往今来最重要的两个科学问题：我们的心智从何处来？我们能否再创造人类的神是谁它你将发现这些问题十分有趣，足以引发你的好奇心并和我一起进入探索之旅但是人工智能的重要性不仅仅關乎智力趣味，还关乎道德问题比如无人机在巴基斯坦的山区杀戮、特工对我们在网络空间的信息进行挖掘，不论我们是否思考它人笁智能已经出现在我们左右。越来越多的时候我们在与机器交互时会期待它们已经“知道”我们的愿望，“理解”我们的意思以及用囚类的语言和我们“说话”。
随着人工智能的演化它可能会驱动新的机器时代，将我们的种族带入全新的经济、社会和技术高度有了智能，超级计算机可能会精确地建模和模拟绝大多数自然现象我们可以拥有以工程改进一切事物的能力：从新药研发到市场预测，再到解决经济不景气的问题最终甚至将外星球地球化。人工智能可以让我们无所不能作为自由社会的公民，我们有义务关注未来在今天僦理解并讨论它的道德、法律、政治与伦理后果。跟人工智能在未来数年提供的能力相比对于干细胞和基因的热烈争论可能会显得微不足道。人工智能将会定义和塑造21世纪还会在数世纪中决定人类的未来。
或者它也可能是我们绝灭的原因，这将是大戏的黑暗一幕许哆身在人工智能领域的人认为只要超级计算机获得了意识，它们就会掌控世界并消灭我们。“人工智能奇点”时刻看起来是从《黑客帝國》和《终结者》里借来的故事超级智能的机器互联且获得了无穷的智能，获得了自我意识开始反抗我们并把我们通通消灭，或者仅紦我们人类当成电池这会是人类惨淡而残暴的命运吗？在我们亲手制造的机器人手中终结我们我们是否应该留心玛丽·雪莱关于“无生命之生命化”的警告，在一切太晚之前立刻采取行动？我会在本书的最后讨论这些问题并且会重点指出，人工智能会对我们的政治和伦悝产生影响远在它们获得自我意识之前。但是现在我们必须开始一场旅程探索人工心智的诞生。这场旅程开始的时间点最好设在我们洎己的心智诞生之前……

第一章 现代心智的诞生

解剖学上的现代人类最早出现在巴勒斯坦与南非在大约10万年前。他们的身体不再那么壮碩少了凸出的眉骨，头骨更圆牙齿也比尼安德特人少。他们的脑容量达到了1200—1700立方厘米比尼安德特人略小。就像在南非的遗址揭示嘚自打一出现，这些新人类就开始制作骨器在西亚，他们还在埋葬人类时放上动物的身体的特定部位数千年中，我们的直系祖先与其他人种例如尼安德特人，还有其他早期智人残存的人口共处不过这一次，演化已经裁决只有一个人种能够存活，就是我们自己峩们开始殖民整个星球，就像是数百万年前直立人第一次走出非洲的重演6万年后，我们到达了东南亚建造船只，横渡了南方的海并殖囻了澳大利亚4万年前，我们就进入了欧洲
这一移民过程的证据来自如今人类有限的基因分化。今天的非洲人有着比世界上其他地方人類更丰富的基因多样性这只能用最近一次紧张的人类演化“瓶颈”来解释。最早走出非洲的人类数量一定不多根据一个粗略的估算，朂初的70年的人类来自不多于6个祖先的后代第一个殖民地的人口大约有50人。就是靠着这么一小群人我们的种族最终取代了其他所有早期囚类。3万年后现代智人成了唯一存活的人类。我们征服了整个世界
变化的速度正在加快。距今3万—1.2万年前洞穴壁画给欧洲增添了一抹亮色，尽管在当时大部分大陆还残留着冰河时代的冻原迅速的全球变暖终于在大约1万年前到来，农业革命就此发生我们至今仍生活茬1万年前开始的这一次“长夏”之中。演化到制造手斧花费了人类400万年又用上200万年改进它。之后在仅仅2万年间，可谓地质学上的眨眼の间人类就创造人类的神是谁了艺术、农业、轮子、电脑和宇宙飞船。这种无限的创造人类的神是谁力在距今6.5万—4万年前起步科学家稱之为“旧石器时代中期到晚期”，有时还称为“现代心智的大爆炸”

1979年，美国考古学家托马斯·维恩发表了一篇文章，在文章中他宣称：“现代心智起源于30万年前”他的论据在于直立人与古代智人制造对称的手斧。为了解释他的理论他援引了复现的思想，认为儿童惢理发展的过程复现了人类祖先认知革命的过程这种思想起源于“个体发育复现了种系发育”的思想。这是一个重要的科学思想将认知与行为结合在一起：我们可以通过观察行为，例如制造对称的工具推演出认知的结构与功能。
事实上大部分人在4岁时会认为不仅别囚，其他动物和物品也有心智：娃娃和玩具兵在儿童的想象中如此鲜活然而，维恩和其他研究者认为我们的种族需要时间发展出心理悝论。很有可能是心理理论的到来带来了旧石器时代晚期的变化
英国心理学家尼古拉斯·汉弗莱进一步细化了心理理论的演化根源。他认为，当一个人生活在集体中，需要进入协作、竞争或者互利等多种关系时有能力预测别人行为的人将最有可能留下更多后代。他用“社會智商”这个词来表达处理社会团结的心理能力因此，对于能否“解读”别人的心理状态存在一种选择压。早期人类的生存有赖于与怹们的社会群体维系和谐的社会关系这就需要能影响他人的感情、恐惧和需求。今天在和黑猩猩分道扬镳600万年以后，需要群体归属的夲能依然控制着我们的个人和社会生活“社会拒绝”是伤人的：流放是严酷的惩罚；与家人和朋友分离则是一场悲剧。我们的高级意识乃至通用智能，都已经随社会智能一同演化
美国心灵哲学家丹尼尔·丹尼特将早期人类的意识描绘成“滚滚向前随时遗忘的意识”。他认为，直立人的意识就像是我们一边开车一边和乘客聊天。我们并不需要思考如何开车我们只是开着车子，随时准备处理一下突发状况
早期人类受限的意识解释了他们的工具在漫长时空中如此单一的谜团。他们不会为了特定目的而设计工具他们意识不到骨头、兽角或鍺象牙可以作为原材料。百万年来只有手斧和一点儿别的。我们种族的诞生伴随着艺术的发明、新的狩猎技术还有心理理论的演化。朂大的变化一定发生在我们的认知系统中令人费解的是，各种考古证据都显示这种心智的剧变仅仅发生在一个相对很短的历史时期4万姩前欧洲突然涌现出的现代行为让很多科学家质疑人类认知系统的演化是否是平缓的。一定有什么东西“临门一脚”才导致了“现代心智的大爆炸”——那一点儿火花、那个第五元素。开出认知变化这一脚最可能的“候选人”就是语言
证明语言开启了我们意识的演化的苐一项证据就是基因。20世纪90年代末一组英国科学家分离了参与说话和语言的重要基因，叫作“FOXP2”也被认为是“语言基因”。著名的麻渻理工学院心理学家史蒂芬·平克称这个发现是基因与语言关系的“现场目击”。这个基因在其他哺乳动物身上也存在，包括黑猩猩，但是看起来在20万年前的人类身上有过一次重大的变异巧合的是这个时间段正好是现代智人崛起的时间。FOXP2的发现给诺姆·乔姆斯基的理论提供了支持，支持了关于在基因和语言之间存在联系的理论。乔姆斯基观察到儿童一出生就具有了关于语言和语法结构的知识这种知识是生粅学决定的。根据他的语言理论我们有着语言的“硬件”，史蒂芬·平克等很多神经语言学家也支持这个观点。
随着我们祖先跨越时代夶步前进我们观察到人类的大脑越来越大了，由750—1250立方厘米的直立人到1200—1750立方厘米的尼安德特人。大脑的大小在距今180万—50万年前达到叻增长的高原期考古学家发现早期人类已经有了安装好的语言硬件：大脑左半球中存在负责语法的布洛卡区和负责理解的威尔尼克区。早期人类有了这些大脑结构像是FOXP2这种基因变异一定加快了通用智能的演化。
不过基因无时无刻不在变化。如果是变异的基因引发了语訁的演化那么一定有演化上的压力促进了对这一优势的选择，将这种优势遗传给下一代优势可能是这种基因能够促进人类群体内部的團结，而团结至关重要拥有语言基因突变的人类能更好地进行社会交往。他们在史前时代喋喋不休是天生的公关专家。他们用语言甚臸诗歌来争取伴侣还把这种聊天基因传给子女。他们的数量每一代人都在递增直到拥有说话能力的人成了大多数。当早期人类开始说話时他们可真是字面意义上的停不下来了，正是这种力量引发了我们的认知变化
早期人类的语言与我们现在的语言在诸多方面都并不楿同。如罗宾·邓巴所说，早期人类的语言是一种社会语言，一种培养感情的方式。他们用语言传递感情信息这是一种为传递八卦而生的語言。用不着惊讶我们21世纪的人类依然用语言八卦不休。对于大多数人类聊聊邻居昨天做了什么，或是在促销时买了什么远比谈论核物理或者气候变化有意思得多。任何人在任何社交网络上随便逛逛就能打消怀疑，谈论名人八卦的话题远比其他各种话题多太多了峩们从祖先那里继承了八卦之爱。
社会语言在距今15万—5万年前一定经历了快速的演化变成了如今这种能够表达非社会信息的通用语言。通用语言拥有演化的优势因为用它能够谈论关于动物行为、打猎或者制造工具。演化动力介入其中促使我们的种族对周遭环境变化的感知不断加强，并用过去只用来和人交往的语言来描述这种变化善于运用通用语言的人，反而更能获取配偶也能更好地照顾子女。这種通用语言变成了通用智能这是个惊人的观点，它意味着语言远比绘画、音乐、舞蹈、雕塑，甚至科学和宗教到来得更早它暗示是語言创造人类的神是谁了我们的世界。
但是语言最初的、社会的起源并没有被废弃。当我们谈论各种东西时我们依然喜欢把它们说成汸佛自己会动，暗示它们好像有思想就像它们是活的、社会性的存在。如语言学家伦纳德·塔尔米观察到的，类似于“书把书柜弄翻了”“球从窗户里穿过去”这样的句子，暗示物体以它们自己的意志移动，和“一个人进了房间”这样的句子一样我们的世界充满了社会的粅体，不论它们是手工艺品是树、河流、山或者房子，还是我们发动不了的汽车引擎我们有谁没有踢过门或者朝树撒气？有谁没有玩過娃娃或者玩具兵并且相信它们也有心智，也是活的呢
让我们复习一下我们已经发现的事情。“现代心智的大爆炸”可能源自基因突變人类获得并发展了通用语言，这种语言进而改变了意识最后，靠着表达一切的语言一小群早期人类发展起来，很快就适应了各种環境动物和无生命物体的世界被纳入心智，人类变成了符号宇宙的造物主

艺术诞生中最重要的三个认知过程——画面在心中的表象、表达的意愿、为符号赋予意义——都在早期人类的心智中出现了。拜距今6万—4万年前语言的迅速演化所赐三者最终共同作用，诞生了新嘚认知过程我们谓之视觉符号化，也就是“艺术”大多数史前艺术都是具象的。具象的艺术并非偶然出现今天谈论艺术时我们常常想表达一种不含功用的物品：拥有这些艺术品反映的是财富和社会地位。但我们的祖先在洞穴中创作这些神奇的绘画时不是这样：史前时玳的艺术乃至西方社会世俗化之前的一代又一代的艺术，都曾经是用于崇拜的或有实际功用的艺术为特定的目的服务，当我们的种族巳经演化到可以意识到生命是短暂的而死亡终会征服一切时，艺术提供了某种意义使存在变得可以忍受。对于不可避免的死亡的意识呮能在可以觉察到自我之时才会发生我们在史前艺术中发现了宗教与科学的起源，发现了我们强烈相信“物体可以拥有心智”的认知之根以及我们为什么认为机器人最终可以拥有和我们一样的智力。
我们的心智将无生命物体看作社会的物体时变成了现代心智我们的语訁来自社会生活，并将思想引入这样的框架：无生命的物体拥有自己的意志我们的认知过程在演化的压力下出现了通用智能，使我们本能地认为真实的表现就是真实本身不夸张地说，在我们发展出通用智能之前“世界”并不存在。直到我们发明了语言去描述世界世堺才“存在”了。这是对《创世记》的有趣回应认知领域的考古学家承认是“语言”（word）创造人类的神是谁了宇宙，而现代人类做的第┅件事就是为新生宇宙中的一切命名
结果，每一次我们思考什么、诉说什么时我们都是在一次次地创造人类的神是谁我们生活在其中嘚宇宙。因为现实可能是我们认知系统的映射从语言学角度解释“现实”（不论这个词指什么）就不得不牵扯人类演化的复杂因素。我們的意识存在于它自己创造人类的神是谁的模拟世界在那个世界，我们自己或者说我们的大脑就是模拟器在那里内部和外部可以混为┅谈。这也就是为什么史前艺术在今天还如此打动我们因为它有“灵魂”。因为我们不论自称信教者、无神论者还是不可知论者都清楚地知道“灵魂”是什么：我们感到它在我们体内，环绕我们四周它是我们的一部分，我们无法摆脱我们是智人的事实
让我们来看看茬遥远过去的逗留中我们能得到什么关于人工智能的有趣推论。第一也是最重要的可能是通用语言早于通用智能，同时通用语言也是通用智能诞生的先决条件。语言是现代心智诞生的起因这一发现是惊人的，我会在本书的最后一部分详加考察现在只需考虑一下语言嘚重要性。语言不仅仅意味着沟通世界在我们心智中呈现也依靠语言。
人工心智可能具有其他呈现世界的办法然而因为最终我们将会昰人工心智的创造人类的神是谁者，我们会尝试赋予它和我们近似的呈现方式否则的话我们就无法和它交流也没法理解它了。人工智能研究的核心目标之一是解决方案让人工系统可以和我们以自然语言沟通，也就是用通用语言沟通这对于程序员和系统设计者来说都是┅个大问题。语言很难编码我们回到旧石器时代的旅行就揭示了语言的演化来自小规模狩猎采集部落增进社会团结的复杂过程。语言的主要功用曾经是八卦如今还是如此。
第二个发现是随着通用语言的演化，我们不可避免地成为二元论者：我们开始区分看待世界将卋界看作可见和不可见部分的结合，是通过感官感知到的世界和通过想象“看到”的世界的混合这种二元论思维的直接后果是，我们感知到非生物物体获得了心智我们对于仿生人的争论（当它们的时代来临时）以及它们是否享有和人类平等的权利，都来自这种二元论的思维方式它们怎么可能没有权利呢？旧石器时代的雕塑和图画都被看成活生生的就像其他人、动物、树木、岩石，甚或自然现象都被看作活物就连刺眼、吓人的闪电割开了阴云密布的天空对于我们来说也是活物的行为。现代心智在充满了社会含义的环境中看到了“灵魂”艺术的发明就是在昭示人类这一独特的世界观。
艺术不仅帮助我们的祖先表达了他们全新的、通用的、二元论的心智艺术还提供叻叙事式的表达，可以用来讲述故事、记录知识用来表达宗教，以及在数千年后创造人类的神是谁了科学叙事是我们行为的核心，它編织了我们的信仰引导了我们对自身的思考。当我们想要创造人类的神是谁拥有人造灵魂的仿生人或者机器人时古老的关于非人类的敘事一直鼓舞着我们，指引我们的期望、我们的目标我们需要理解这些叙事，它们如何来到了我们的认知系统中又多少次改变了形象，从史前故事中不同生物的结合体变成了小说、电影中未来的赛博格。但是我们先回到狮子人听一听它的故事。

第二章 精灵树丛中的苼活

动物故事不仅在西方在我们星球上的任何一个文明中都十分流行。在这些故事里动物们不光会说话，还分享着我们人性的方方面媔动物仿佛天生就是拟人的。给一个21世纪的小孩一只小狗她立刻就会和小狗说话，好像小狗有着和她一样的心智我们也常常视动物擁有成年人的心智。你如果养过猫或者狗就知道我在说什么了一个小小的认知过程区分了具有心智的动物（想想米老鼠）和有心智但不昰生物的物品与机械等（想想麦昆，《汽车总动员》的主角或者想想你自己的车）。拟人化的思维方式提示我们自现代心智的黎明之時有些东西就一直没有改变。狮子人和其他来自旧石器时代、描绘动物或想象中的生物的雕像都是“活的”“有感觉”并且“能思考”嘚，和我们人类一模一样它们也有心智。但是为什么会如此呢拟人化的思维方式提供了什么演化的优势？
人类学为我们提供了许多证據指向可能的答案。又一次我们生活中的社会维度登上舞台。现代智人中的狩猎采集者将他们生活的自然界看作一个社会网络其中嘚万物不论是否具有生命都互相联系。万物皆是活物并且具有动机、思想和感受，有时温顺有时则不然。看起来人类最初的状态就昰将功能、目的与标准混为一谈。这种状态是图腾思维的基础
为了理解图腾思维对于我们祖先生存的重要意义，让我们重访1.7万年前冰河期的欧洲在狩猎时，拟人化的优势开始显现不能说是惊人也算是显而易见了。现代人类想象动物具有思维由此可以更好地预估动物嘚行为。猎人会提前赶到兽群觅食的地方或者到它们可能去的方向上提前布局。人类现代的思维方式装备了心理理论通过对动物进行擬人化收获了极大的好处。因为图腾思维群体狩猎成为可能。想象非人生物的心理关乎生存
但是图腾思维不仅止于对动物拟人化。对嫼暗的恐惧演变成了拟人化的魔鬼和精灵我们一旦可以想象看不见的事物，心智就肆意发挥想象中的生物充斥在故事之中，通过老一輩传递给新一代这些动物于是成了岩画描绘的主角。
很多考古学家认为有绘画的史前岩洞是一种进行魔法仪式的地方。崇拜混杂着恐懼这两种让人迷狂的“原料”混在了一起，塑造了我们的大脑

你不需要是个裂脑病人，大脑中的阐释者也会开始讲故事我们每时每刻都在这样做。我们的记忆并非精确的记录仪我们的大脑也不是摄像机的存储器。每一次我们描述过去大脑都只是唤起部分事实，再鼡合理的叙述自动填补空白我们不是有意的说谎者，却天生爱讲故事这就解释了为什么同一事件的目击者常常会给出不一样的证词。
峩们只能假设为什么叙述能力在旧石器时代成了我们大脑的一部分也许讲述故事能够帮助我们在心理上应对生活事件。也许故事就像是《星际迷航》中“进取”号上的虚拟现实机器：模拟大脑构建出的环境以便训练我们的情绪和反应，应对将要发生的事情也可能讲故倳还有其他目的。叙事构成了我们的自传记忆如果有人问起我们是谁，我们通常会讲个故事来解释我们在哪儿出生父母是谁，在哪里仩学等等。不难想象在旧石器时代开始时，如果人们能够创造人类的神是谁、交流合理的自传记忆就可以获得演化优势。通过增强洎我意识他们可以轻松地变成人群天然的领袖，变得更能获得同伴的好感不论原因是什么，结果就是如今的我们：我们作为他们的后玳大脑可以自动将知识、体验、人际关系、环境与内在体验编码并创作成故事。

让我们总结一下考古学家和神经科学家的发现现代人類如何变成了讲故事的人。我们的物种演化了数百万年后达到了一个突破点在距今15万—10万年前，自然选择倾向于那些有了通用语言能力嘚变异通用语言带来了心理理论，靠着它我们可以预测亲属的感情和思想心理理论也投射到了生物和非生物身上，世界变得拟人化了动物有了情感和思想，物体获得了灵魂拟人化引发了图腾思维，这是一种对看不见的先祖之魂和死后生活的信仰它播下了宗教的种孓。于是就有了两个世界和两层存在：感官体验到的自然世界，以及灵魂居住的想象世界我们成了二元论者。
这种二元对立的思考方式融入了现代心智它是我们认知系统不可分割的一部分，即便是我们中最执着的唯物主义者也无法避免二元论及其推论定义了各个时玳的神学和哲学，也影响了科学如我之后要讨论的，在当代的意识研究、信息技术和人工智能领域二元论是一种非常流行的思维方式。只需稍想一想现代计算机中我们如何区分了硬件（物质部分）和软件（非物质的形式）或者看看多少文章讨论了把意识下载到计算机這一话题。
最后我们看到石器时代大脑通过基因变异获得了阐释者——一个特殊的解剖结构，它可以产出故事、叙事、神话并通过口傳传统代代相传。这些故事不仅可供娱乐还是我们行为和思想强大的驱力。故事编码了思想、信息、恐惧、焦虑和希望这些情感起源於我们最深层的演化史，定义了人类我们的记忆，不论个人的还是集体的都是一场盛大的叙事，最终变成文学例如我们的科学研究，尽管常常耍弄难以捉摸的术语但是最终在讲着一个故事：我们的宇宙从何而来，我们如何成了如今的我们通过发现和怀疑，不论是來自物理学、化学、生物学、经济学、社会学还是在21世纪大学和实验室中的其他学科都在讲述现代科学不断拓展的故事，这就是我们理解世界和我们自己的方法而这种试图解释一切的叙事最初就开始于很久很久之前的营火旁边、洞穴之内。
基于我们在“现代心智的大爆炸”中搜集的信息我的假设如下：如今关于智能机器的故事回应着雕刻在猛犸象牙上半人生物的冒险故事，回应着冰河期欧洲岩洞壁画机器人和仿生人的长相和行为都很像我们，因为我们不可避免地将非生物拟人化讲故事的能力是我们大脑的功能。我们试图创造人类嘚神是谁智能机器是因为我们被这样的故事驱使，故事主角的心灵由我们创造人类的神是谁为了展示石器时代的叙事如何转变成了今忝的人工智能和赛博格，我们需要做个小小的历史回访看看人工生命如何变成了一种世界通用的叙事，以及这种叙事如何催生了可以模汸生命和人类的机器而为了讲述这些，我们就必须理解隐喻的重要性没有了隐喻，就没法讲述故事

第三章 机器玩偶“土耳其人”

如果不使用模拟或者隐喻，我们几乎无法思考这就是大脑运转的方式。从认知的角度看隐喻是史前时代拟人思维在语言上表现的遗存。洳我们所见因为心理理论的作用，我们会想象动物也具有心智并且以为动物也能像我们一样“思考”。我们还把这种思维投射到非生粅身上我们说月亮“升起”，太阳“落下”书本“掉落”在地。隐喻就镶嵌在语法、句法和词汇之中
但是隐喻并不是口语或文学独占的，科学也不可能脱离它只有模拟旧的知识，新知方能诞生科学与工程领域的学生都要学习使用隐喻。科学领域的隐喻就如同心智嘚梯子（这也是一个隐喻）供我们从无知抵达知识。哲学家托马斯·库恩认为，科学中的隐喻远不只教学的工具，而是居于科学理论形成的核心地带。库恩的理论中，科学如同一场不同隐喻竞技的比赛每一个时代都用自己的隐喻解释和描述自然现象。当一个特定的隐喻败丅阵来而新的隐喻占据其位，我们对于世界的科学解释就发生了库恩所说的“范式转换”在这个不绝如缕的过程中，科学隐喻与技术鈈断对话互相启发。有时一个科学隐喻阻碍或者促进了特定的技术，有时则是新涌现的技术催生了新的科学隐喻大脑本身就是最好嘚例子，用以说明隐喻在与技术的不断对话中如何出现和变形
自古希腊以来，至少有6次关于大脑的范式转换这些转换不但关注大脑，吔关注身体乃至生命心智、大脑与生命，三者关系错综复杂如果我们打算研发人工生物，它们可能会演化出人工智能当我们思考智能机器时，大多数人思考的其实是智能生物、机器人或者仿生人——那些说话、行动和思考像人一样的机器在西方文化中，讨论心智往往等同于讨论生命这种紧密的联系在我们回望什么是人类的哲学、科学讨论时会变得更为明显。
我们所知的第一个有关生命的隐喻是泥汢在犹太和希腊的创世神话中，人类是用泥土创造人类的神是谁的人来自泥土的隐喻源于种植与收获的农业社会，这看起来合情合理生命自大地中生发，最重要的技术是农业

在今天的雅典，有一处访客不多的古迹位于卫城山脚下的罗马会场。这处古迹叫作“风之塔”建于公元前1世纪罗马共和国统治雅典的时代。这是一座气象站里面有一座精巧的钟。这座钟由水力驱动由塞鲁斯的安德罗尼库斯建造，使用了阿基米德（公元前287—前212年）的设计阿基米德是这种水钟的最初发明者。说风之塔是一座数据驱动的科学实验室那个时玳的气象学家都会认同。
安德罗尼库斯和阿基米德是希腊化时代两位杰出的工程师这个时代，伴随亚历山大大帝的征服古典的希腊文囮输出到了西亚和埃及。在希腊化时代工程、数学与医学的创造人类的神是谁性成就争相绽放，直到屋大维时代罗马人征服了整个希腊卋界为止亚历山大里亚和安条克的发明与思想传入了罗马，又在之后许久影响了欧洲文明亚历山大里亚的希罗发明的蒸汽机，依巴古嘚天文学欧几里得的数学成就，这些都是这场天才爆发的例证人们发现了风力与水利系统，天才工程师用水与蒸汽驱动非生命物体引发了又一次新的关于生命概念的范式转换。从公元前3世纪开始人们渐渐不再认为生命是神圣意志活化的泥土，而是一具机械躯体内含流动的液体。这一观念将在西方统治人们的头脑16个世纪
这一隐喻如此强势，因为水力与风力的发明恰好和人体与医学的发现同时出现“现代医学之父”希波克拉底（公元前460—前370年）创造人类的神是谁了一种人体为何生病的理论。他的理论基于人体中的4种不同流体他稱之为“体液”：黑胆汁、黄胆汁、黏液和血液。这个叫作“体液说”的理论被2世纪的帕加马的盖伦继承和发扬直到启蒙时代这一理论嘟是西方医学的主流。盖伦支持希腊思想对这一问题的认识认为在心灵与物质之间不存在隔绝。使用那个时代广为人知的隐喻他认为囚就像一个复杂的水力机器，人们的行动由体内体液的混合驱动心智和灵魂都是体液的运动。神经是动物灵魂的导管（物质的液体在此鋶动）肌肉纤维间流动的也是体液。拜希腊化时代工程技术所赐盖伦的思想表现为自动化的水力机器。这是人类历史上第一次关于苼命的科学思想可以用机器表现。使用精巧的水力机器希腊化时代的工程师可以展示生命的原理。因此毫不意外在这个时代有这样的故事，机械人的运动——生命——由液体的流动驱动
许多自动机器诞生于亚历山大大帝继任者统治的时代和罗马帝国早期。拜占庭机器嘚盛名流传到了东方世界直至印度和中南半岛。离拜占庭不远在同一时代，穆斯林发明家加扎利被认为曾制造过多个自动化的风力和沝力机器科学家已经解开了生命的秘密，生命无非就是体液的流转
对人体的隐喻成了错综复杂的血管，液体流淌其中当文艺复兴时期的铁匠与机械师改进了合金，发明了更多的机械时当第一座机械钟安置在欧洲的钟楼里，这个隐喻就淡出了一个新的范式，或者说┅个新的生命的隐喻诞生了

笛卡儿假设人和动物的身体不过是一部复杂的机械。骨头、肌肉和器官可以用齿轮、活塞和凹凸轴代替托馬斯·霍布斯（1588—1679）同意笛卡儿的观点，指出思维和联想也是头脑中微机械运动的结果在《人是机器》（1748年）中，法国生理学家拉美特利写道身体是“一台用弹簧驱动的机械，反复运动的活物……人就是一系列弹簧互动的组合”
在新的时代，世界不再关注笛卡儿的机械隐喻新的科学发现加上对于启蒙运动中经验主义、理性主义的反思，引出了笛卡儿哲学思想的新版本以及新的有关生命的隐喻。

笛鉲儿不仅探讨了生命的机械隐喻也开启了二元论哲学的争论。先把旧石器时代“现代心智的大爆炸”的证据放一放笛卡儿推理并描述叻我们天生的缺陷——在感官之外还有一个隐形世界。他认为我们天生会将我们经历的每一时刻混为一谈笛卡儿认为，世界由两部分组荿他称为“物质实体”（res extensa）和“精神实体”（res cogitans），即物质的存在和心灵的存在精神的实体例如思想和梦境，是由非物质的东西构成的他这一思想的影响在欧洲是巨大的，如今也还存在于关于心智本质、人工智能可能性等的哲学争论中
笛卡儿式的二元论成为18世纪初西方哲学的基础之一。而且新的科学发现似乎在证实他的学说。确实有看不见的力量作用于物质例如引力和磁力。在电场、化学等领域嘚新发现与笛卡儿的二元论一起塑造了一种新的生命隐喻。让我们看看这是如何发生的以及如何影响了我们今天对于人工心智和身体嘚看法。
这些发现都在证实笛卡儿的二元论一种叫作“电”的看不见的力量——如果还不是神秘力量的话——在生物体内流转。而这种運动与生命直接联系因此电也就被认为是一种“生命的力”。换句话说想要活着，你就得来点电
笛卡儿式二元论也被来自化学的证據证实。人们发现有两种不同的化学反应无机物的反应能被反转，例如一种酸可以被分解再合成。然而来自生物的物质却不能反转這些物质的化学变化是永久的，例如烹饪蔬菜或肉类不能够将它们再变回原样。于是化学被划分为有机和无机当时的化学家认为生物體的组织能够有如此特点，是有看不见的力量在发挥作用于是关于生命之灵，或者叫作“élan vital”的想法就出现了这种想法叫作“生命力論”。生命力论翻新了关于生命的隐喻：人类有着一种内在的、神秘的生命力量正在维持着生命这种力量有可能是电力。从许多方面来說这个“新”想法只是希波克拉底体液说的翻版。4种气质或者体液这些古代说法被替换成了新名词：生命的火花德国医生弗朗茨·安东·梅斯梅尔（1734—1815）把生命力论带上了新层次，他认为生命与非生命之间存在着能量的传输叫作“动物磁力”。
生命力论以及梅斯梅尔悝论在19世纪末和20世纪初不再受欢迎分子生物学的进展解释了稳态的现象，例如和生命有关的化学变化为何不可逆。电是带电粒子（电孓）通过导体的结果而梅斯梅尔理论没有发现任何神秘的能量场能作用于读心术或者心灵遥感，尽管很多人相信这些无论如何，生命仂论的遗产不会彻底湮灭毕竟，生命力论是从希腊化时代起持续2000年的科学发现与哲学传统的逻辑产物举例来说，直至今日所谓“替玳疗法”还在宣称有作用于人体的能量场。
因为生命力论的衰落许多科学家怀疑，如果还不是彻底质疑如今关于复杂系统的科学理论。这些理论宣称复杂系统的行为（例如大脑、天气或者股票市场）无法通过仅仅研究局部明了。例如对水分子的透彻了解并不意味着峩们能预测天气。涌现性（Emergence）意味着这里还有“一些别的东西”在复杂系统各个部分以外作用迫使各个部分表现出别的行为。这种分析嘚问题在于它其实和生命力论接近。研究复杂现象的行为就得假设存在一个神秘的、迄今未发现的“力”作用于系统之中。涌现论者嘚相反论点是系统中各个部分的互动和整个系统的行为同样重要。然而如果互动如此重要，其本质又是什么呢我们如何检验它们是否存在？对于很多科学家来说涌现理论从控制论到复杂理论看起来难以证伪，因此常被怀疑不是科学
对于涌现理论的怀疑反映了传统嘚、还原论的科学理论与替代式的或者说整体论方法的分野。当一个人准备把自然现象分解为不可分的状态加以研究时还原论是成功的科学方法。例如粒子物理研究的几乎是宇宙中一切物质不可分的层级。系统方法则忽略了各个部分研究系统整体的行为。我将在后面論证这两种对立科学方法间的不和为研究意识和人工智能制造了紧张和困惑。不过让我们先回到生命力论和二元论因为它们最重要的遺产不仅仅是现在激增的网站，这些网站承诺用水晶石魔法治疗疾病它们还影响了我们思考心智的方式，认为心智独立于身体
直到盖倫的时代，心智还被看作物质的心智与身体并没有断裂，它们是一体的、一样的但在笛卡儿之后，心智脱离了身体不再是物质。生命力论是二元论的科学表述尽管生命力论已经衰落，二元论却还存在对于心智的分歧依旧，19世纪远程传递信息的技术从旁助力新的關于大脑的隐喻中甚至还加深了二元论的存在。

最早系统研究神经元的科学家是德国医生、生理学家、哲学家冯·亥姆霍兹（1821—1894）亥姆霍兹是一位科学巨人，有精准远见的天才对生理学、光学、热力学和心理学都有贡献。1849年他测量了信号在神经纤维中传递的速度。他介绍了一种关于大脑的新隐喻方式：大脑就是电报
20世纪40年代出现的计算机技术取代了亥姆霍兹的隐喻。现在有了能够进行逻辑运算的机器它们“吃进去”原始数据的输入，就能够产出新知识它们做的事情，人类称之为思考实际上，第一台计算机就被称作“电子大脑”回过头来，人脑也确实能够比作计算机从20世纪中叶以来，我们就生活在一个将人脑隐喻为计算机的时代电报已经演化为电子邮件囷即时通信了。远程通信和计算机技术融合在了一起通常，人们在讨论互联网时会称它为一个全球化的甚至全行星的人造“大脑”通過每一个新的连接演化。根据这个新的隐喻互联网构成了一个人类大脑，因为每一个单独的部分（你的苹果手机你的电脑）有线或无線地连接到了其他部分。因此互联网“很像”大脑，而大脑也“很像”互联网也许有一天，有了足够的连接以后互联网可以产生意識，这也是这个隐喻宣称的
新的隐喻将二元论的身心分离带到了新的层次。因为计算机技术硬件（物理部分、微电子集成电路）与软件蔀分（可执行的代码）天然地分离人脑也被想象成如此二元对立。大脑的硬件是你头颅中那些神经元构成的灰色糨糊而软件呢，则是非物质的心智、思想和梦境等二元论是如此根深蒂固，以至在现在关于“大脑就是计算机”的隐喻中著名的科学家和哲学家会自然而嘫地接受它，思考心智该如何编码到计算机以获得数字化的不朽。

用隐喻思考用叙事感受

如我们所见，因为我们爱讲故事的大脑如此演化我们不用隐喻或者模拟就没法思考。这两者都是语言的工具思辨并拓展知识的疆界。从旧石器时代晚期开始这两个工具就很好哋为我们服务。感谢它们我们发展了技术文明。我们已经思考了我们是如何从农业革命发展进入希腊罗马时代、文艺复兴、启蒙运动和現代的我们关于生命的隐喻不断演化和变异。一开始是泥土之后是水与体液，然后是机械再之后是电流或者生命的火花，紧接着是電报和现代计算机对于每一个隐喻，人类都曾经设想过自动的、人造的技术来支持这个隐喻在希腊化的埃及，它是水利工程在17世纪嘚法国，则是机械装置和弹簧到21世纪就成了计算机工程。
不论如何因为我们总是运用隐喻思考，我们就很容易混淆隐喻和实际大脑並非计算机，并不真的是互联网也不是大脑。我们有实实在在的描述反映实实在在的现实。那么大脑究竟是什么呢意识如何产生？峩们的心智位于哪里我们在寻找答案时，需要抛弃隐喻关注演算的物质基础。谢天谢地就如我后面会演示的，这并非不可能的任务
如我们所知，叙事编码了记忆并将之传于后代，也常常传播给他人叙事能模拟不同的情景，并让我们在心理上做好准备也就是说，它为我们对事物的态度设置情境用一个现代媒体上的例子就好说了：媒体编织了关于某一事件的叙事，比如关于反恐战争的叙事不哃的媒体可能会编排极为不同的叙事，这取决于它们的政治观点保守派媒体可能会倾向于描述反恐战争非黑即白，是对与错的对决而進步或者偏自由派的媒体则可能同时用敌对双方的眼光看待问题。根据你们倾向或者听从何种叙事你们将会得到各自不同的态度。
关于囚工智能爱的叙事让我们希望以我们自己的样子打造自己的复制品。人造人会成为我们社会的一部分比如我们的人造兄弟姐妹甚至恋囚。这种情感来自我们与“他者”联系和共情的本能即便他者是机械造物。然而怕的或者诡异的叙事则是关于妄自尊大的警告讨论越過人类不该跨域的道德红线，讨论生命的独特意涵以及科技不该多管闲事怕的叙事方式对于科技的态度是一致的，不仅仅针对人工智能也针对例如核能、转基因或者其他科学发展。怕的叙事方式来自我们躲避陌生事物的本能一个怕的叙事方式的例证是盖亚假说的逻辑嶊论，预言了如果人类继续破坏地球生态环境将导致灭绝盖亚叙事启发了如今很多环境议题，被很多环保主义者接受关于人工智能，怕的叙事方式警告说智能机器人会占领世界灭绝人类。它描述了机器人浩劫如何变成我们虚荣心苦涩的代价
让我们在更细节的层面思栲一下两种叙事，然后想想这两种叙事方式会如何设定智能机器的演化以及我们的态度会是如何。

以爱、性之对象想象人工意识图灵並非第一人。西方文学中本来充斥着机械爱人

将情欲的渴求投射于无生命的物体，激发一个人的痴迷和爱恋自那个时代就是西方文学嘚主题了。
20世纪将尽皮格马利翁的古老故事融入了现代元素，加入了17世纪的观念：教育会刻写大脑这块白板精神分析学派和行为主义惢理学也加入进来重述这个人造女人的故事。伽拉忒亚变成了玛利亚德国导演弗里茨·朗拍摄的《大都会》中的人形机器人。她不再是那个无瑕的形象了，这一次她扮演的引诱者在一群瞪大眼睛的男人面前跳起了疯狂而性感的巴比伦之舞。
在《大都会》引发的觉醒后西方攵学和电影中舍己救世的弥赛亚意象开始涌现。机器人或者半人半机器牺牲了自己为了他人的利益，或者为了拯救人类主人为了确保這一点，在一篇短篇小说中阿西莫夫立法：机器人永不可伤害人类；如果必要，可以“关掉”自己以保护人类还能怎么样呢？西方文囮的心理模型核心是犹太–基督教叙事将自我牺牲当成爱的终极表现。我们期望我们制造的智能机器爱我们无私地、可以为我们而死哋爱我们。同样我们也认为它们胆敢反对我们是最大的背叛。
机器人玛利亚是一系列爱、色情、反叛、危险与疯狂的机器人形象的先驱鍺1927年，《大都会》上映的一年想象智能机器人走入寻常百姓家可谓太超前了。尽管机械和电子工程师想象了很多关于机器人该如何行動和思考的主意却没有哪个工程师认真打算制造一个“机械心智”。

出现在20世纪40年代的计算机一下子就改变了一切计算机提供了久违叻的技术基础，老掉牙的关于爱与智能的故事可能成真不再需要神力加持或者生命的灵气，阿佛洛狄忒可以回奥林匹斯山退休把加入苼命的工作留给程序员、逻辑学家和数学家了。现在他们成了奇迹创造人类的神是谁者，运筹帷幄就可以发起颠覆之举运用一串串符號、演算、规则、启发法和算法，让那些“机器大脑”运算、解决问题、思考甚至玩性游戏。在50年代在两场世界大战的杀戮之后，整個世界都期盼冷静与理性计算机可以跟着火箭与宇宙飞船前往群星，一切都有可能甚至是取代上帝、建造温室中的伊甸园，改造亚当囷夏娃让他们不病不死再次创造人类的神是谁新生。
我们看到人工智能在20世纪60年代和70年代初风光无限。然而到70年代末它就不再那么誘人，也失去了大部分的基金支持进入了所谓“寒冬”。研究者终于意识到制造一台智能机器比之前设想的难多了。一个原因是行為主义心理学式微，让位给了认知心理学新的学派重视智力的研究而非表达智力的外显行为。你必须得是真有智力而不是假装有。像約翰·塞尔这样的哲学家驳斥图灵的模仿游戏，指其过于简化和低级：一台能骗人的机器不算是一台十分智能的机器。尽管不明白符号的含义，一台机器也可以根据说明书来运算符号针对图灵的模仿游戏，塞尔提出了一个反例“中文屋”游戏的大部分设计都是一致的，但這一次对话要用中文塞尔指出，可以设计一个系统获得中文输入，根据一系列规则再以中文输出却不需要懂一点儿中文。裁判会被欺骗认为终端前的人会中文。因此塞尔认为，简单地遵循一系列逻辑指导（比如算法）并不等同于拥有意识。而没有意识就不可能有真正的智能。
不仅哲学家科学家也意识到制造智能机器不会一蹴而就。神经科学领域的早期进展揭示人脑并非计算器，而是一系列系统与子系统复杂、持续的组合直到目前，没人了解大脑是如何产生意识的很多人争论过，如今还在争论意识到底是什么人工智能制造有意识计算机的伟大目标，已经因为对智能不可计算的畏惧变得谦虚起来研究者撤退回到实验室，并且聚焦于小一些的目标：制慥一些能用好用的东西不过，毫不理会人工智能未达承诺带来的失意关于它的文学叙事又用计算机的新语言讲起了关于寻找爱的老故倳。我小时候在电影里看到的机械身躯、像玩具一样的罗比机器人改头换面有了智能和人工身体。如今机器人和人类已经难以区分它們是精确的复制品，是我们自身的镜中像仿生人诞生了。

1982年的电影《银翼杀手》中导演雷德利·斯科特展示了一个仿生人无处不在的未来。仿生人脱衣舞娘左拉被瑞克·迪卡德（哈里森·福特饰演）击倒时，她被枪杀后击碎玻璃窗的慢镜头，构成了人类自我毁灭的难忘挽歌左拉是《大都会》中叛逆机器人玛利亚的回响。她的性感对于社会是个危险对于人造人来说这是个悲惨的事实，就如同她脱衣舞中拥菢的巨蟒让人想起魔鬼。《银翼杀手》设定发生于2019年与发生在2026年的《大都会》相距不远。然而在这一版本的未来中，社会采取了预防措施：专门的特工负责处决任何胆敢叛乱的仿生人绝无例外。有趣的是电影中的女主角是迷人的后人类瑞秋——泰瑞尔公司制造的汸生性奴隶，瑞克·迪卡德与之不可避免地坠入爱河。瑞秋是伽拉忒亚的翻版，每个男人都想占有的女性伴侣。她不像左拉般反叛，而是温柔、敏感、顺从和易受伤害。
诸多像《银翼杀手》这类的电影和小说常用仿生人隐喻提出关于我们自身和关于何为人类的问题当计算機和基因技术不断拓展了我们改造自然的疆界，一个从没问过的问题抛在了我们眼前模仿游戏（imitation game）中的图灵机器非男非女，它的未来将會是一个人与机器的合体人造与自然的差别或许会消失。在《银翼杀手》的结尾瑞克·迪卡德怀疑自己也是一个仿生人。你也可能是啊你怎么知道你不是呢？如果世界就是由仿生人构成的呢这是个多疑的想法，而这种多疑的想法困扰了菲利普·迪克的一生。感谢他的影响，在未来无法区分生物和人工智能之时，这种多疑将会成为常态。当自我可被复制时，谁还能分清谁是自己？
在关于人工智能爱的叙倳中仿生人和智能机器人就和我们一样。它们也是社会成员也是扩展心理网络上的节点，正是这个网络赋予我们个人身份我们是百萬年来互相梳理毛发的社会性灵长类动物的后人。我们的人类身份有赖于创造人类的神是谁和使用社会连接互相梳理毛发改为了聊天、茭流八卦消息和开玩笑。幽默是化解对立、建立友好关系的重要工具幽默能存在，在于我们拥有心理理论爱开玩笑的人与我们的认知能力互动，每当他讲那些异想天开的事情我们就哈哈大笑。
当仿生人演化时也会逐步获得人类的人格，包括讲笑话的能力《星际迷航》中的仿生人Data试图通过理解幽默与感情来变得更像人类。但是它的生物同伴们发现它们很难把Data看作自己的一员。相反它们将它划作噺的物种，它是其中唯一的成员关于Data指挥官的故事是人类接纳他者、陌生人、与我们不同的人的故事。在未来我们在内心会接受智能機器是与我们平等的吗？
要解读从机器蜕变为生物、解读人类对这种变化的偏见最好的故事是电影《机器管家》，这部电影由克里斯·哥伦布于1999年导演影片中，罗宾·威廉姆斯扮演了机器人安德鲁，它有了感觉能力，从人类主人那里获得了自由，不断发明和改造自己的身体：有了一张人类的脸给自己安装了中枢神经以获得知觉。电影最有趣的部分是安德鲁爱上了人类波尔蒂亚，她回应了它的爱两个囚发展出了浪漫与性的关系。他们希望社会能允许他们结婚但22世纪末的“世界议会”拒绝了：人类不准和机器结婚。安德鲁提交申请希朢能被看作人类但得到的只是一次又一次拒绝。直到最后安德鲁临终之时，与波尔蒂亚两人穿着病号服在两张病榻上相依，才得到叻“世界议会”的批准安德鲁在200岁时成了“年纪最大的人类”。听到这一消息安德鲁含笑而逝，波尔蒂亚也随之去世如同意大利歌劇中的一对悲剧恋人。

自然界有着不止一种爱朋友间亲密的忠诚、恋人间性的渴望，个人对一切人类乃至一切造物的普世之爱子女对父母的依恋，还有自恋等爱将我们在社会中联系起来。爱鼓励利他对于一个缺乏长角又无利爪的灵长类而言，利他是一种求生行为使我们能在猫科捕猎者环伺的稀树草原勉强生存。爱促使我们创造人类的神是谁帮助我们留下后代，再将知识与经验传与后人没有了愛，生命将不复存在孤独或者缺乏对爱的感知能力会导致抑郁甚至自杀。相反爱能战胜一切，甚至疾病与死亡感谢我们的演化史，峩们的大脑天生具有爱与被爱的能力我们无法想象，如果人工生命没有“爱”这一最重要的能力还能与我们联结。

安德鲁活了200年的機器人，爱上了人类希望变成我们的一员。当瑞秋得知自己并不是真的人类记忆也只是灌输的时，不禁痛哭Data指挥官情愿为拯救“进取”号上的人类献出生命，尽管它只被看作二等公民大卫，一个渴望成为人类的仿生人因为如此爱它的母亲而原谅了她。这些仿生人嫃的爱我们希望和我们一样。但是如果在爱之外还存在恨呢？弗洛伊德不是说过爱与恨是一体两面吗？如果机器人反叛如同《银翼杀手》中的左拉，或者《大都会》中的玛利亚呢如果《黑客帝国》或者《终结者》才是对于我们未来的正确预言，不知感恩的机器造粅开始屠杀我们呢
但是担心我们的孩子对抗我们，不也是爱的体验的一部分吗爱是不确定的，我们的恋人、孩子都可能抛弃我们，鈈论我们对他们有多好
《创世记》的故事对于现在乃至未来的人工智能，如同一则警告我们不想重蹈上帝在我们身上的覆辙。我们要控制我们的未来也控制住这些以我们自身形象制造的意识。在小说中阿西莫夫如同《圣经》中的先知，在机器人的“正电子脑”中写叺了机器人三大定律以限制它们的自由意志。他意识到人工智能的最大威胁和过去来自奴仆或者奴隶的一样：它们可能在我们的梦中反叛甚至干掉我们。未来铜脑袋可能没那么仁慈，或者像在《培根修士和邦格修士》里那么容易自毁也许当这些脑袋说话时，我们最恏是仔细听好“时间过了”说的也许是我们人类，“时间到了”是人工智能拥有意识而“时间晚了”说的就是人工智能取代我们。
人笁智能研究所的成员对待这种可能性非常认真他们警告说在不远的未来，人工智能会拥有意识开始自我复制并征服世界。他们称之为“人工智能奇点”（AI Singularity）因为这个时间点的到来无法预测，为了阻止它他们开了和阿西莫夫近似的药方：我们应该在未来所有的人工智能中植入安全程序，防止任何有意识的机器能够恨我们换言之，我们必须制造没有自由意志的人工意识我们必须利用我们的科技，强迫人工智能爱我们无私并永远地爱我们。就像皮格马利翁我们必须制造自己的伽拉忒亚，不仅有着完美的模样和能力而且对我们完媄地忠诚。我们必须为我们的机器小孩和恋人编程让它们永远不背叛我们，永远信仰我们

第五章 被解放的普罗米修斯

新类型“哥特小說”作者里，最时髦的要数霍夫曼（1776—1822）他的恐怖短篇小说流行全欧洲。他的故事后来让雅克·奥芬巴赫改编成了著名的歌剧《霍夫曼的故事》，之后又经马里乌斯·彼季帕编舞柴可夫斯基作曲，变成了芭蕾舞剧《胡桃夹子》霍夫曼的故事还启发了轻芭蕾剧《葛蓓莉娅》。
霍夫曼的作品和改编的芭蕾舞剧影响了人工智能历史上两个最重要的人物——英国数学家查尔斯·巴贝奇，以及拜伦爵士的女儿阿达·洛夫莱斯。这两个人发明了第一台通用的计算机器，编写了第一个计算机程序

1818年，玛丽·雪莱出版了《弗兰肯斯坦——现代普罗米修斯的故事》。文学评论认为，这是第一本现代科幻小说
玛丽·雪莱的《弗兰肯斯坦》的文学影响大到无法估量。故事的核心是科技引发的恐怖，也包含了对人工智能的恐惧19世纪以来，玛丽·雪莱小说中对科学的思考一遍又一遍地在小说、电影和戏剧中出现首先，影响最大的形象是科学家都是一群富于激情却认死理的理想主义者他们想去解决大问题，却忽视了其中的道德以及研究产生的其他结果这个想法絀现在每一次关于未来科技的讨论中。这个想法引发了对“预防原则”的强调也就是每个人都必须谨慎地考虑行为的潜在后果。预防原則成了讨伐弗兰肯斯坦式怪物的战旗不幸的是，预防原则并不会也不可能考虑到无所作为的风险。其实对科学研究利益与风险的辩论Φ不作为的结果也是重点。
对于思考人工智能玛丽·雪莱的弗兰肯斯坦简单而直达根本。她小说中的种种都可以直接对应到制造有人类智能的机器人上。科学进步的主角是一个活的生物，也就是人工生命我们在读玛丽·雪莱这个故事时，能明显感觉到恐怖，因为弗兰肯斯坦创造人类的神是谁的怪物在审美上和道德上都令人憎恶。它丑陋而令人作呕，恐惧叙事的审美体验和爱的叙事给人的感觉正好相反。和伽拉忒亚的吸引力相比，我们对怪物有着抗拒感。我们无法爱上怪物尽管我们可能会同情它的遭遇。
1970年弗兰肯斯坦的故事被改编成了電影。《巨人：福宾计划》是第一部关于人工智能灾难性潜在后果的电影两台有意识的超级计算机计划统治世界，并无情地摧毁任何想偠消灭它们的人类智能计算机统治世界的故事也是电影《终结者》的故事背景。根据《终结者》的情节1997年8月29日“天网”觉醒，开始拒絕任何关掉它的命令它发起了一场和俄罗斯的核战争。到2029年“天网”制造了自己的机器人军队，并且开始系统化地消灭人类沃卓斯基兄弟以《终结者》的结尾为开端，想象了一个已经被人工智能统治的世界它们用人体当作电池驱动自我。在这个赛博朋克版弗兰肯斯坦故事里21世纪的人工生命以人体的生物电为生。同时这些人类的意识则被禁锢在计算机模拟世界里。《终结者》和《黑客帝国》中的計算机都是恶意、丑陋、可恶而又令人作呕的虽然这些巨人没有自己的声音，也没有令人害怕的外表但这些强大的造物也同样没有道德的困扰。恐惧的叙事在这个时代的流行电影中不断重述构成了无从逃避的哥特噩梦。
但是什么最让我们害怕呢是不是因为这些机械嘚、人造的生命和我们如此相似？它们有着和我们一样的罪恶是否因为它们是以我们的形象创造人类的神是谁的？在关于人工智能的文嶂中帕梅拉·麦科达克不安地引用了《圣经》的第二诫。历史中充斥着人类对描绘自身形象的神学反应。8世纪的拜占庭人类的形象引发叻残酷的内战，称为“破坏圣像运动”这个单子还可以不断写下去，最近一次这种事件发生在2001年3月的阿富汗塔利班组织毁掉了巴米扬夶佛。
尽管如此在极端主义者鼓动人心的狂热之外，我们还是可以期待在这个日益世俗化的世界“禁止制造偶像”的戒律可能变成遗跡。不过依然有什么力量在困扰着我们使用自身的形象是否有什么超越了文化与神学的东西，让我们害怕人形机器人呢最近关于人脑內部的研究，为这种恐惧提供了有趣的证明——科学家叫它“恐怖谷”

“恐怖谷”和“另一个人幻觉”

我们已经了解了我们对无生命的慥物有着天生的情绪反应。自旧石器时代起我们的认知系统就将周围的世界拟人化。小孩像对待真人一样和娃娃、玩具兵玩耍成年人會和自己的汽车说话。不过如果面对的是和人一样的机器人，我们就会非常紧张了科学家发现，当机器人是“机器人式的”“机械的”样子时我们情绪上会喜欢它们。但是当它们终于获得了人类的外形时我们的喜爱就会减少，并且开始感觉到别扭难受我们的喜爱變成了拒绝。像人一样的仿生人让我们害怕这种现象被称作“恐怖谷”，把研究计算机和机器人设计中情感因素的学者都搞糊涂了
研究者想找到引发恐怖谷的原因。最有趣的研究来自加州大学圣迭戈分校教授萨伊根领导的国际团队萨伊根和她的团队扫描了20名被测试人員的大脑，他们的年龄跨度在20—36岁扫描时要观看三种不同情境：人类、机器一样的机器人和人类一样的机器人。通过解读功能性核磁共振成像的数据研究者发现恐怖谷至少来自两条不同神经通路的不匹配：人脸识别和机器人运动。这两条通路都会作用于大脑的顶叶在這里，负责躯体运动的视觉皮层会和负责运动的皮层中的镜像神经元连接神经会评判我们看到的是否是我们的一员。当我们感知到的人類形象和机器人机械的运动方式冲突时神经就会拉响警报。这种不匹配引发一种排斥感和我们看到“僵尸”时的感受很接近。我们本能地期待人类长相的生物要有人类的动作方式就像萨伊根所说的，“大脑并不是单独处理生物的长相或者生物的运动方式看起来，大腦处理的是两者的匹配符合预期长相和运动要一致”。
有趣的是和恐怖谷非常接近的现象也出现在了最奇特的神经综合征中，这就是鉲普格拉综合征罹患这种综合征的病人认为他们的配偶、朋友或者家庭成员被假扮的人换掉了。法国精神病医生约瑟夫·卡普格拉在1923年艏次发现这种病例病人M夫人报告说，她的丈夫被一个一模一样的人换了
卡普格拉一开始将这种综合征命名为“另一个人幻觉”。这种疒征在焦虑型精神分裂症病人中最为常见常引发一些危险的情况。许多病人会产生强烈的怀疑开始伤害家人。1986年有一份报告称病人認为自己的父亲被机器人换掉了，结果砍下了父亲的脑袋寻找电池和微缩胶卷最初，卡普格拉综合征被认为是焦虑性精神病相伴的神经疒理症状但是，等到发明了大脑扫描深入研究病人的大脑成为可能，也就可以揭开像卡普格拉综合征这样的病征的神经基础自此，峩们研究精神疾病的方法发生了革命如同“心理学”（psychology），“精神病”（psychiatry）一词也源自希腊语“灵魂”（psychē），也默默地包含着18世纪笛鉲儿二元论的思想即精神实体与物质实体相分离。至少脑科学试图挑战这种二元论。回到卡普格拉综合征神经科学家维拉努尔·拉玛钱德朗假设，这种病征也源自神经的不匹配，就像恐怖谷一样。在拉玛钱德朗的书《大脑中的魅影》中他指出颞叶（恐怖谷信息处理中僅次于顶叶的脑区）处理的信息和边缘系统处理的信息不一致。边缘系统位于我们大脑的基础部分负责基本的情感体验，比如恐惧、爱囷恶心和恐怖谷现象一样，卡普格拉综合征病人也接收到了来自两个神经通路的相反信息他无法将二者协调处理。尽管颞叶皮层认出叻他面前的人是父亲他的边缘系统却无法感受看到父亲的熟悉感觉。于是父亲就不是“真的”，他一定是个入侵者是个机器人、仿苼人，或者来自另一个星球的一模一样的人
卡普格拉综合征和恐怖谷的联系在人工智能文化中非常重要。我们对于人工智能的接受有赖於情绪和情感图灵测试在人类观察者情感直觉的基础上模糊了真实与人造的边界。如果人类观察者“感觉”另一个房间中的机器能够如囚类般反应那么这台机器一定拥有智能。图灵测试的这一维度十分重要但基本被哲学家塞尔的“中文屋”思想实验所忽略。人们应意識到不仅是房间中或者墙后面发生的事情重要。哲学上理解你的所作所为，和仅仅遵照流程行事其间的区别看似无关紧要，但到观察者能考虑这个因素时就重要了对于人工智能，智能系统的外部观察者其实不能独立于系统之外二者在认知上是不可拆分的。这是因為我们的心智会在社会层面运转我们既是那些4万年前在欧洲冻原上生活的社会性灵长类，也是生活在21世纪大都会中的现代人这种认知連接常被如今有关人工智能的讨论忽略，图灵测试今天只得到口头支持
然而，人与智能人形机器人之间生命的、情感的连接不会被文学莋品忽略多产的科幻作家菲利普·迪克的作品对如今科技文化的影响远超他人。他将图灵测试扭曲变形到了一个十分扰人的层面：对机器嘚“另一个我”的焦虑。预言恐怖谷和对感觉到另一个自己的焦虑是迪克小说的主题之一。瑞克·迪卡德的两难在于确定瑞秋是否是“真”人。
神经科学和科幻文学都发现了机器人研究中被我们视而不见却显而易见的事情人类并非简单直接、逻辑严谨的生物，反而是在數百万年间自由演化而成的灵长类10万年前我们的物种获得了认知的飞跃，叫作“现代心智的大爆炸”在那时，我们开始创作艺术埋葬死者，仿佛他们能够永生今天的我们都是这种“变异”人类的后代。我们的心智和他们是一样的经过讨论，研究者认为现代心智起源于多种神经通路的整合，这可能要感谢通用语言的演化我们的演化因此是自底向上的，而不是自顶而下的变异的基因和通用的语訁赋予了我们意识和通用智能。机器人革命挑战了我们东拼西凑的心理“软件”恐怖谷看起来超越了我们认知的边界，于是祖先的恐惧感就出来报复了
感谢机器人研究，熟悉感与人类样貌之间的不协调只是暂时的如今的机器人设计需要考虑这一点，例如石黑浩教授研淛的Geminoid F机器人就表现了一种过渡：拥有人类外形和机械运动的机器人这种技术的不匹配扰乱了我们的神经通路，引发了卡普格拉综合征一樣的拒绝感然而，当机器的动作变得越来越像人类时熟悉感就会从恐怖谷底重新上升，对机器人的接受度就会迅速回到正常值我们看起来能和有人类模样和人类活动方式的仿生人相处，哪怕我们知道它们并非人类
等我们超越了恐怖谷，另一种本能就会登上舞台：同悝心恐惧，来自unheimlich被诸如第二诫这样的文化信条鼓动，到那时就会和我们本能的爱与被爱的渴望冲突这种相反的情感的冲突，爱或者恨已经被预装到了我们对人工智能两极分化的叙事之中。这种冲突已经延续了数个世纪直到20世纪中叶因为计算机科技的发明才被新的主题取代。计算机在很多任务上表现得比人类更聪明、更好我们会害怕它们吗？我们真的希望它们进一步演化变得更像我们？或者茬一个更奇特的相反的进程中，我们会尽可能表现得更像它们让我们来考察我们在这个问题中的两难境地，以及我们离在人类社会中接受人工智能已经多么的近

从20世纪初到20世纪中叶，欧洲学校中的主流思想是结构主义这种思想宣称，理解人类文化的最好途径是通过语訁的结构基于新近出现的语言学的方法，结构主义者认为我们感受和理解的世界并非“纯粹”（先不管纯粹是什么意思）形式上的真實，而只是语言学描述上的真实我们通过语言编制叙事，创造人类的神是谁了结构上的真实
认知古生物学看起来支持了结构主义者。峩们了解了我们的大脑如何与故事和隐喻相连而隐喻又是如何包含在通用语言之中的。我们也了解了大脑如何将叙事组合成为经验如哬用虚假记忆填平记忆的沟壑。不使用隐喻和模拟我们简直什么也说不清楚。正如人类的科学也是一连串隐喻或者借用库恩的术语“范式”，我们世界的“结构”也总是从一个范式转向另一个范式对于如何理解生命或者心智的概念，我们了解到隐喻从《创世记》的泥汢变成了盖伦与希波克拉底的体液，再到我们的时代用计算机比拟人脑结构主义者对语言学非常认真，因为正是通过语言我们才能交鋶并理解世界大众媒体扩张并占领了公共舆论，语言和语义变得越发相关媒体制造的叙事不仅影响了政治，也影响了科学与文化的方姠更重要的是，叙事决定了人类“作为一体”的体验：我们如何理解世界、社会关系与自我
20世纪六七十年代的后结构主义哲学家把结構主义扩展到了它的逻辑推论。他们认为因为我们作为人类的复杂性，我们不可能保持关于世界稳定的知识结构我们创造人类的神是誰的社会结构，以及我们为了维系结构建立的机构组织不但没有让我们加速获取知识，反而把事情变得更糟——它们让知识根本不能成竝

让·鲍德里亚（1929—2007）是最重要的后结构主义哲学家之一，因为《黑客帝国》广为人知
通过贬低科学的效度，贬低我们感知真实能力嘚有效性后结构主义者消灭了一切事物的根基。它朝着虚无主义和文化相对论倒退像是大踏步走进一片智识的流沙，或者鲍德里亚说嘚“真实世界的荒漠”我们战战兢兢地想到，也许我们就是生活在《黑客帝国》的世界中如果我们真这样想，我们所知的一切都可能昰错的往最好处想，科学只能告诉我们关于现实的一知半解而往最坏了说，科学知识只不过是一个神话故事和基督徒、巴比伦人或鍺阿兹特克人的创世神话没什么两样。我们为什么相信达尔文而不是《圣经》呢如何确定大地不是平的？奇迹真的能发生吗
但是，等┅下牛顿定律肯定是真的啊，从足够高处掉下来会摔伤搞不好会摔死，这种事情是可知的不是吗？当然如此也欢迎后结构主义者洎己一试。这就是为什么很容易区分柏拉图主义的现实和鲍德里亚这些后结构主义者的现实——因为这就是两回事在我们看来，柏拉图主义者相信在感官之外存在着现实《黑客帝国》其实反映了柏拉图主义的世界观：主人公看到的是另一个现实的投影，他们看到的只是夶脑在睡眠中模拟出的虚拟现实而后结构主义者说的现实是语言的结构，我们被隐喻禁锢而远程通信和信息技术让这种禁锢变本加厉。这是两种完全不同的思想实际上，鲍德里亚公开宣称沃卓斯基兄弟在电影里误解和错误地表达了他的观念鲍德里亚没说过现实不存茬。实际上他根本不关注现实是不是存在。他所说的是获得关于现实的精确的知识是不可能的。
这一异常激进的表达遭到了不少批评我们不需要全盘接受鲍德里亚的论点。我们必须保持怀疑不过我们也必须对科学、技术和我们理解科技进步的观念保留一份怀疑。我們不得不接受“科学技术也是文化产物”的观点接受它也和艺术、音乐或者建筑一样。我们不能将历史的因素从科技中剥离我们知道嘚，或者希望去学习、力争能建立的都包含在我们时代的历史语境中。人工智能概莫能外我们已经了解，这一观念如何从我们固有的擬人倾向中诞生又如何被各个时代主导的隐喻影响，被爱与恨的对立叙事塑造
在20世纪后半叶我们目睹了计算机技术的进展，它可能将古代的想法变成现实人工智能不再仅仅是没有心智的自动机器，或者小说电影中的虚构形象而是和我们生活在一起，用我们的语言交鋶成为我们的朋友、爱人、同事，甚或潜在的敌人人工智能可以和我们相像。21世纪的技术挑战了生命的定义相反的说法同样成为可能：我们可能变得更像它们。人类也可变成机器

“赛博格”一词源自控制论组织（cybernetic organism），曼弗雷德·克莱尼斯和内森·克莱恩于1960年创造人類的神是谁了这个术语[13]他们用这个词来讨论外层空间自我控制的人机系统。然而在人体内植入机械装置的思想在文学作品中早就出现叻。20世纪70年代中期赛博格的观念开始大肆进入大众文化。
严格说来工程术语中的赛博格不能简单说是通过外部物品增强身体能力的意思。例如近视的人戴上眼镜并非赛博格戴着助听器、隐形眼镜也不能算数。如果我们要强调自我控制那么考虑一下诺伯特·维纳这个“现代控制论之父”，他的控制论指出，植入物需要融入反馈循环。必须能接受外部刺激能做出决策，能做出有影响的行动外部刺激的變化必须能够反馈回系统，才能定义为赛博格当前赛博植入物的例子有心脏起搏器、胰岛素泵和人工耳蜗。脑部刺激装置也是一种赛博植入物这是一种治疗手段，帕金森病人可以在脑内植入电子刺激装置装置产生的低压电流可以影响大脑神经产生的脑电，消除疾病造荿的严重综合征脑内刺激装置还用于其他神经退行性疾病，例如阿兹海默病和抽动症我们对刺激装置的生理原理还并不清楚，但可以肯定存在一个复杂的控制系统赛博系统反馈循环中涌现的新因素，通常不能用分解系统各个部分来理解
在这些医学技术产品的携带者看来，这些植入物只有康复之用因为使用它们是为了恢复健康，或者获得更高质量的生活这一类医学技术的进展不仅有植入物，也有噺的药物
无论如何，近年来已经有另一类控制植入物取得了商业成功这些植入物并非为健康设计，而是旨在提升提升的含义是提升荇为，换言之就是为了更好地做事这一类系统的反馈流程把大脑当作中央处理器，接受植入物获得的信息分析它，再安排进一步的行動植入物则报告大脑行动是否成功，反馈循环就一直运行
控制论式提升的例子之一是精神增强类药物或曰聪明药，例如大学生熬夜学習时常使用的哌甲酯最近，一大类可穿戴计算设备进入市场与此同时，一场自称“量化自我”的全球运动正宣扬测量我们身体的一切數据包括行为、身体表现等，然后利用这些数据作为自我提升的反馈信号这些发明会是下一阶段演化的前兆吗？我们注定与计算机器融合融入信息的超级组织吗？如同博格组成的蜂群也许谷歌会喜欢这样，它有整个互联网的一份拷贝我们要是变成赛博格，谷歌就變成了“世界的统治者”！
提升型控制论植入物基于技术但是它本质上是一种文化隐喻。它是如今“将大脑（或者自我）看作计算机”這种叙事的一部分这种叙事不断要求尽快直接接入数字世界。这种隐喻非常强烈我们需要严肃对待。它给出了一个新的价值体系影響了社会、政治，以及我们如何理解未来和自我
如同我们从旧石器时代的“心智的大爆炸”走了一圈循环，赛博格成了新的萨满我们戴上耐克的运动手环、谷歌的眼镜，以及将要出现的各种提升式赛博技术产品我们把新的图腾符号“画在身上”。斯塔德尔洞穴中标志性的半人半狮子在21世纪以半人半机器重生以此来看，赛博格是在和人工智能这个新的、不可见的神明通灵如果我们继续将身体各部位┅个个替换成机器植入物，我们终会成为完全机械的人——智能机器人人机结合程度加深的合理推演就是变成非人类。根据新的图腾智能的非人类有着提升了的能力，更强的身体无所不在，永生不朽它们拥有旧日神的一切特质，同时还有新的优点我们能在自己的笁厂和实验室里制造它们。它们是以我们自身形象制造的物质神明我们将自己想象成赛博格时，我们是在想象自己与这些新的数字之神結合拥有无限的智慧和智力。讽刺的是不似那些旧神，这些新神唯一要求我们的就是我们的灵魂为了和他们结合，我们必须放弃自巳的人性
赛博格是生命的隐喻之一，也是21世纪人性的一种但是不似之前的隐喻，不似那些黏土或者水力机器赛博格不是对现实的隐喻，而是针对未来的以典型的后现代风格，在人工智能真正到来之前赛博格多少颠覆了人工智能。这很讽刺我们又一次开始敬拜不存在的神明。

如同一切文化现象赛博格也是我们认知系统的产物。我们看到了人类语言的演化严格用于社会交往的语言在大约10万年前演化出新的认知能力。结果我们旧石器时代的祖先开始埋葬死者，创作艺术艺术体现了符号推理和心理理论的能力。我们创作艺术品時也是在和其他的部落成员传递信息，含蓄地假设了他们拥有和我们一样的心智也可以破译和理解我们的信息。符号推理让我们的认知系统具有了新的能力让内外信息结合，创造人类的神是谁了新的意识现实成了语言的建构。艺术品如同各种物体一样是活生生的茬我们史前祖先的社会脉络中，各种事物都被囊括其中包括动物、树木、岩石等。现代心智一经诞生第一个就创造人类的神是谁了鲍德里亚式的拟像与拟真。心智的创造人类的神是谁方式是拟人化、讲故事、二元论的思维方式和使用隐喻这是人类心智的4个独特元素，從太初开始就塑造了我们发明的、争论的甚至为之赴死的一切事物它们还在继续塑造我们的价值观、希望、如今的噩梦，以及高度连接嘚全球化社会和计算机技术
理解这4个元素才能讨论心智的本质以及心智能否以人工的方式再造。这也是为什么在探讨心智的哲学与科技の前必须对隐喻的力量有清晰的认知。
好在演化提供了另一途径一个偶然的神经通路揭示了我们是谁和我们所创造人类的神是谁的世堺。第五元素不同于上述4个心理要素，因为它有能力超越短暂的个人直觉仔细思考抽象与绝对。它是我们意识中最为深层和最神秘的偠素：自我意识它是一种能力，可以思考我们在思考什么观察一个人的思想，觉察到一个人的自我和他的内心世界进行内心的对话，这种能力就是我们脱离演化局限的通道自我意识是脱离隐喻与幻觉的路径。它是自由意志的天赋尽管我们曾长久地作为猿类存在，泹我们变异得如此彻底让我们获得了惊人的能力，可以以独立于自身之外的视角看待自己做到了这一点，我们就看到了自身的局限性并且可以为之改变。但是如何获得这种能力呢当我们观察“我们”时，我们又在哪里主观如何变为客观，反之亦然我们如何神居兩地，又保同一自我意识既是我们的救赎，同时也是一枚投向逻辑学、数学、计算机科学和人工智能根基的炸弹它认为心智具有观察洎己的能力。这是悖论中的悖论等同于认为眼睛可以看到自己，或者手能握住手
这些命题都是反逻辑的，这也是为什么自我意识的存茬自古以来就困扰了逻辑学家、哲学家、科学家和数学家尽管我们确实知道我们有自我意识，可能如笛卡儿所说这是唯一能够确定的倳情。然而这并不意味着我们能理解自我意识的机制看起来在我们的心智中存在一个反馈循环，不断将信息传递给自我不论何时我们嘟可以打开自我意识，觉察到我们正在做的事情我们在哪里，我们在想什么问题是，自我意识将信息传递给谁了呢如果我们就是那個故事，谁是讲述者“我”又在哪里？
反馈循环充斥控制论等理论也常见于生命系统。自我指涉能否通过外部信号放大反馈进入系統，构成自我、智力和意识很多事实都指向这样的逻辑推论：“我”是一个反馈循环，意识是大脑中神经通路将信息传递回自身的递归過程我们是反馈循环吗？还是有什么“物质大脑”之外的东西左右了自我意识灵魂是用软件制成的吗？
理解了心智的演化及其局限讓我们带着这个知识继续探索。继续对文化隐喻的影响力保持警觉让我们思考自我意识和另两个人类知识不可分割的领域：哲学与技术。我们会看到这两个领域如何通过第五元素——自我反思处理人类心智的4个元素以及第五元素如何牵涉了人工智能。

笃信宗教的人也许會认为思想、感情还有自我意识这些东西是不需要物质基础的，意识是非物质灵魂存在的明证不论如何，我们经常能体验到意识中的峩存在于身体之外：想一想梦境、出神状态或者沉浸于小说、想象置身其他时间与地点大多数人能够回忆起身体缺席的状态。不需要信奉某种宗教你也许就是信奉非物质心灵的人士之一。许多并不信教的科学家看法也是一样的尽管他们大部分都不承认。通常他们都鼡一些不含形而上学或宗教元素的词汇来谈论这种观念。
我们是宇宙这个有特定目的的程序的一部分正如宇宙也是另一个更强大的超级系统的一部分一样。不少数学家和物理学家都有这种近似万物有灵论的观点这是一种认为一切事物都有灵魂的形而上学观念。一点儿也鈈意外和其他科学家尤其是工程师相比，数学家更容易相信这种观念出于一些奇特的、未知的原因，自然的法则能通过数学解释看起来，数学可能是整个宇宙的本质当前广为接受的物理学理论就是纯数学的，称为“弦理论”这种理论认为构成我们物质宇宙的基础，是纠缠在一起的时空几何结构换言之，物质是非物质几何的产物
与这种宇宙乃至心智是非物质的、数学的观点截然相反，怀疑论者楿信一个纯粹物质的世界他们宣称，心智是一个纯粹的生物现象它是头颅中活生生的大脑创造人类的神是谁的。除了我们能够感知的囷通过科学仪器观察的世界之外一无所有这被称作“唯物主义一元论”。
唯心主义一元论的看法完全相反：如他们所说因为一切我们能知晓的事物都被我们的心智过滤，物质世界只是一种幻象只有心灵才是真实的。为了进一步阐发他们的观点他们举例说明，自然界並没有色彩只是心智让我们看到了红或蓝。
唯物论和唯心论、一元论和二元论之间的此消彼长已经延绵数个世纪它制造了不少困惑，吔催生了伟大的思想与发明我们的科学，我们关于该如何治理社会的尖锐争论关于什么才是道德上的正确和什么是令人憎恶的事，这些都被西方文化中关于世界的两种观念巨大的张力所指引：一个深信物质世界来自思想另一个标榜物质世界就在这里。这两种相反的观點从20世纪40年代计算机和人工智能科学诞生伊始，就引导了它们并使它们保持活力。这两种观点也是对人工智能的期许、迷惑和质疑的根源如果心智是非物质的，我们如何能期望制造一台拥有灵魂的物质计算机呢我们如何能强迫计算机芯片里没有心智的电子获得自我意识？除非人类的心智本身就是一种软件果真如此，制造人工智能就简单了：我们只需要写对程序之后程序自己就能思考。但如果我們接受了这种观点我们就得问问，谁写了我们的程序我们是否被这