21世纪的人文主义挑战：尤瓦尔·诺亚·赫拉利2018年演讲整理稿
一、开场致辞
本次会议很荣幸邀请到尤瓦尔·诺亚·赫拉利教授到场。我此前一直更习惯线下与嘉宾面对面交流，而非像上个月温哥华TED大会上那样，只能看到您的全息影像，因此今天能邀请到您本人到场，我深感荣幸。 在我看来，您丰富了当下的公共讨论，提供了许多被反复呼吁却极少有人真正给出的内容：您搭建了完整的分析框架，不仅讲述细碎的具体故事，更提供了贯通普遍历史的宏大叙事。在“宏大叙事终结”的论调甚嚣尘上的当下，您通过《人类简史》（*Sapiens*）回望过去、通过《未来简史》（*Homo Deus*）展望未来，为我们理解当下提供了全新的实验性视角。您的新书《21世纪课堂》（*21 Lessons for the 21st Century*）也即将于下周出版，今天现场已经能看到首批样书，德国总统也拿到了德国境内的首本样书，他对此非常开心和自豪。 您的新书将过去与未来的视角更紧密地锚定在了当下，在谈到您的出版方时，请允许我特别感谢德国C.H.贝克出版社（Verlag C. H. Beck）执行董事会成员乔纳森·贝克（Jonathan Beck）先生，他为今天这场讲座的举办做出了重要贡献，谢谢您，贝克先生。（观众鼓掌） 当然，并非所有人都会认同您的所有解读，但有一点是明确的：您的分析框架能帮助我们以全新的视角看待当下趋势。本次会议的主题是“技术挑战下的人文尊严”，您的演讲作为大会的开场，相信会为接下来的讨论提供极具价值的启发。 接下来，让我们用掌声欢迎尤瓦尔·诺亚·赫拉利教授上台。（观众鼓掌）
二、核心演讲：21世纪的人文主义挑战
大家好。 20世纪，人类真正做到了看似不可能的事：我们遏制了曾经肆虐人类的饥荒、瘟疫和战争。如今历史上首次，饿死的人数少于肥胖病致死的人数，瘟疫致死的人数少于自然衰老死亡的人数，暴力致死的人数少于意外事故死亡的人数。在展望21世纪的全新挑战时，我们首先要记得这些了不起的成就。 21世纪将充满比我们以往遇到的任何挑战都更复杂、更艰难的新问题，从气候变化到人工智能等颠覆性技术的崛起，不一而足。今天我想聚焦的，可能是其中最复杂的一项挑战：对人类自身的挑战。 未来几十年，生物技术与信息技术的双轨革命，或者说二者融合为的一股势不可挡的科学浪潮，很可能会冲击我们对“人类”的认知，动摇现代文明的人文主义根基。因为当我们面对任何重大挑战——无论是核战争、气候变化还是人工智能问题时，都需要有坚实的伦理基础作为支撑。过去几代人最稳固的伦理基础是人文主义，但21世纪，人文主义本身可能走向过时。 那么到底什么是人文主义？简单来说，人文主义是这样一个理念或信念：人类的感受是最高权威的来源。当我们面对个人生活或社会集体生活中的任何重大问题时，人文主义认为人类的感受和自由选择能为我们提供答案。人文主义告诉我们：要听从内心，追随自己的感受，忠于自我；既然没有人能比我更了解自己的感受和自由选择，那么任何人都没有权力对我、对我的生活拥有绝对权威。这就是人文主义的核心思想。 这个概念听起来很模糊、抽象、复杂，所以我举几个实际例子来说明人文主义在实践中的含义——当我们讨论这类重大伦理问题时，清晰性是第一位的，没有清晰的认知，我们根本无法理解自己在讨论什么。 那么人文主义在实践中有哪些体现？我们可以看几个不同领域： 首先是政治领域：什么是人文主义政治？人文主义政治认为选民最清楚自己的需求，政府应该为选民服务。当你遇到任何重大政治问题时，应该去问选民的感受，选民的感受就是最高的政治权威。需要注意的是，在公投和选举中，人们其实不是被问“你怎么想”，而是被问“你感受如何”。如果选举是基于人的理性，根本没必要给所有人平等的投票权，因为不同人的理性能力是有差异的。但在感受层面，理论上所有人都是平等的。这也是为什么英国决定是否脱欧时，没有让英国女王、坎特伯雷大主教，甚至牛津剑桥的教授们来做决定，而是问每一个英国公民的感受。当公民说他们想脱欧时，没有任何更高的权威能说“你的感受是错的”。这就是人文主义政治：选民最清楚。 其次是经济领域：什么是人文主义经济？人文主义经济认为“顾客永远是对的”，企业应该为顾客服务。怎么判断一个产品好不好？答案很简单，由顾客决定：顾客愿意买的就是好产品，顾客不愿意买的就是坏产品。如果你做了一个自认为是全世界最好的产品，但没人愿意买，那它就是坏产品。你不能反驳顾客说“你的感受、你的选择是错了”，至少如果你相信人文主义经济的话。 第三是审美领域：什么是人文主义美学？正如人文主义经济认为顾客永远是对的，人文主义美学认为“美在观者眼中”。历史上曾有很多人试图为艺术和美找到客观的定义，但人文主义出现后说：不，不存在客观的定义，只有主观的体验和感受。1917年，也就是一百年前，马塞尔·杜尚（Marcel Duchamp）将一件量产的小便池搬进展厅，宣布其为伟大的艺术品，自此关于“这是否是艺术、是否美”的争论从未停息。如果你是人文主义者，最终会得出结论：艺术就是人们认为是艺术的东西，美就是人们觉得美的东西。如果有人觉得这是美的艺术品，愿意花数百万美元收藏，宇宙中没有任何力量能说“你错了，这不是艺术，也不美”。这就是人文主义美学。 第四是伦理领域：什么是人文主义伦理？人文主义伦理的核心就是“感觉好就去做”。历史上也曾有很多人试图定义独立于人类信念、感受和体验的绝对客观道德，比如中世纪的道德基于神启：当时同性恋被视为可怕的罪恶，因为圣经这么说，因为教会这么说，因为教皇这么说。但人文主义出现后说：我们不在乎教会、教皇或圣经怎么说，我们只在乎人的感受，这才是道德的根本基础。如果两个男人相爱，没有伤害任何人，凭什么说这是邪恶的？当然，人文主义伦理也会遇到困境：如果同一件事让我感觉好，却让别人感觉坏怎么办？比如我偷了你的车，我自己很爽，但你很不爽。这种情况下我们不会诉诸更高的绝对道德，而是权衡双方的感受。这就是人文主义社会的道德辩论方式：权衡不同的感受，最终我们通常认为偷窃、谋杀是错的，不是因为某本书这么说，而是因为它们会伤害人，让人痛苦。 最后是教育领域：什么是人文主义教育？人文主义教育教人独立思考。过去的时代，比如中世纪，教育的核心是教人们学习过去的权威之书、权威之人的思想：圣经怎么说，亚里士多德怎么说，因为这些是权威的来源。但人文主义兴起后，教育的目的改变了：人文主义认为权威来自人的内心，而非外部。因此人文主义社会的教育核心也发生了变化：如果你问从幼儿园到大学的老师“你们到底想教给学生什么”，老师会说“我教历史、化学、物理，但最重要的是教他们独立思考，因为这才是最高权威的来源”。 以上就是人文主义的核心内涵，它已经主导我们的世界相当长一段时间了。但21世纪初，人文主义正面临巨大的挑战，挑战不是来自独裁者或煽动家，而是主要来自实验室。人文主义认为权威来自人的感受，而感受反映自由意志，只有本人能真正了解。但科学现在正以越来越强的说服力告诉我们：这都是神话，根本不是真的。不存在自由意志，感受不是自由意志的反映，感受是生化算法，只要有足够的数据和算力，外部系统能比你自己更了解你。我们时代的核心思想，无论喜欢与否，都是：有机体就是算法，而算法可以破解包括智人在内的有机体——它只是另一种有机体而已。 我知道这比人文主义的概念更复杂，所以我再举几个例子，解释科学家说的到底是什么。 首先是没有自由意志。自然科学（生物学、化学、物理学）对世界的理解还远不完美，但已经越来越清晰：就我们目前所知，宇宙中只有两种过程：决定论过程和随机过程。随机性不是自由，这一点非常明确：我们不知道宇宙中有任何东西可以被描述为“自由的过程”。自由意志作为一个概念，目前来看是空的，它描述不了现实或自然中的任何东西。人类当然有欲望、有意愿，但不能选择自己的欲望、不能选择自己的意愿。因此，感受也不反映任何自由选择或自由意志。根据生命科学的研究，感受也不是上帝只赋予智人的特殊精神品质，不是用来欣赏美、做道德判断的。所有动物、所有哺乳动物、鸟类都有感受，这些感受是自然选择演化出的、用于做决策的生化算法，基础不是自由直觉，而是概率计算。所谓“心脑之争”“情感vs理性”根本不存在：情感、感受、感觉本质上都是计算，只是速度快到我们意识不到这个发生在瞬间、低于意识层面的计算过程。 举个直观的例子：一只狒狒站在非洲稀树草原上，看到一棵结满香蕉的树，不远处还有一头狮子。它需要做出每个动物每天都要面对的选择：要不要为了香蕉冒生命危险？这个决策直接关系到它的生存。要做出判断，狒狒必须计算概率：不吃香蕉饿死的概率，和摘香蕉被狮子吃掉的概率，哪个更高。要完成这个计算，狒狒需要大量信息：香蕉有多少、大小如何、熟没熟；狮子离得多远、体型多大、是醒着还是睡着、看起来饿不饿；还有它自己的状态：有多饿、跑得有多快，等等。它需要整合、分析这些信息，权衡概率，最终做出决定。狒狒不会掏出笔在纸上演算，它的整个身体，尤其是感官、神经系统和大脑，就是计算器：在电光石火间，它接收气味、声音、视觉和身体内部的感受，数十亿个神经元处理所有信息，瞬间完成计算，最终给出的不是数字，而是一种感受——恐惧、勇气，或是犹豫、困惑。恐惧和勇气就是计算结果的外化，不是某种精神启示，而是生化层面的计算。这种决策机制不仅适用于狒狒摘香蕉，也适用于英国公民决定是否脱欧，适用于德国公民决定移民政策——本质上都是极快的生化算法在做概率计算，不存在所谓的自由意志或精神启示。 过去人文主义认为“感受反映自由意志”的判断是错误的，但直到21世纪初，这个信念在实践层面依然非常合理：毕竟人的感受是宇宙中已知最有效的决策工具，没有任何外部系统能真正理解你内心的决策逻辑——既没有足够的生物学知识，也没有足够的算力。比如20世纪的东德斯塔西（Stasi，东德国家安全机构）情报机构，就算24小时跟踪监视你、窃听你的所有对话，也没有足够的生物学知识理解人脑的运行机制，也没有足够的算力处理收集到的信息，因此永远无法真正了解你。 但生物技术与信息技术的融合改变了这一切：生物学尤其是脑科学的进步，让我们至少部分掌握了人类决策的生物学基础；计算机科学尤其是机器学习和人工智能的发展，给了我们足够的算力。两者结合，就获得了破解人类的能力。 一旦我们能破解人类，权威很可能会从人的感受（不再是没人能懂的黑箱）转移到计算机算法，人文主义的选举、自由市场等制度都会失去意义。这种转变已经在我们眼前发生了：首先是经济领域，我们已经进入“算法永远是对的”的新经济时代，因为算法可以预测甚至操纵顾客的感受。 以图书行业为例：过去读者选书主要靠自己的感受和文学品味，现在越来越多的人依赖算法推荐。当你打开亚马逊（Amazon）的线上书店，首先弹出的就是算法推荐：它根据你之前的喜好、购买记录告诉你“我了解你”，为你推荐新书。当然，目前的算法还非常初级，会犯很多错误，因为它掌握的数据还不够多。但它会不断收集更多数据：如果你用Kindle电子阅读器读电子书，设备会在你阅读时“读取”你的状态：它知道哪页你读得快、哪页读得慢、什么时候停止阅读，从而更精准地判断你的喜好。下一步，把Kindle和面部识别软件连接，算法就能知道什么让你发笑、什么让你哭泣、什么让你无聊、什么让你愤怒。最终步骤是连接你体内或体表的生物传感器，算法就能知道你读每一句话时的心跳、血压、肾上腺素水平和脑活动变化。等你读完托尔斯泰的《战争与和平》这本千页大部头，你可能已经忘了大部分内容，但算法永远不会遗忘：它精准地知道你的性格类型，知道怎么触动你的情绪按钮。有了这些信息，它不仅能比你更精准地为你选书，还能告诉你该学什么专业、该住在哪里、该和谁结婚。从实践上看，如果人们发现算法的建议确实更好，就会越来越依赖它，最终失去自主决策的能力。我们已经在其他领域看到这种趋势：比如很多人发现用谷歌地图（Google Maps）导航比自己认路更高效，久而久之就丧失了独立认路的能力；更关键的是，人类最重要的能力之一是主动寻找信息、解答困惑，但现在越来越多的人找答案的唯一方式就是问谷歌——短短15到20年间，这个核心能力就已经从人脑外包给了算法。如果算法足够可靠，它同样会逐步接管我们选专业、约会、结婚的决策权。 算法不仅能替人做决策，还能直接替代人：未来几十年，生物和信息技术的双重革命将冲击就业市场，可能催生一个规模巨大的“无用阶级”——这些人不是对家人无用，而是对整个经济系统无用：没有任何工作是算法、计算机或机器人做不了的。需要强调的是，这不是人工智能单独作用的结果：仅靠人工智能本身做不到这一点，是人工智能与生物技术的融合带来了这种可能。因为很多工作（比如医生、教师、律师、司机）要胜任，都需要解读人类的情绪和感受。过去很多人认为计算机永远做不到这一点：它们能做计算，但无法理解情感和感受，因此永远替代不了人类医生、教师。这种判断成立的前提是：认为感受是上帝只赋予智人的超自然神秘现象，以某种形而上的方式运作。但如果我们接受“感受只是生化模式的概率计算”，就没有理由坚信人工智能在情感智能上无法超越人类——AI不需要有自己的感受或意识，但它能比任何人类医生、教师、律师都更精准地判断“这个人现在很恐惧”“那个人现在很愤怒”。 算法不仅会取代经济领域的顾客和劳动者，还会取代政治领域的选民权威：正如我们之前所说，民主的基础从来不是人的理性，而是人的感受——选举时选民被问的从来不是“你怎么想”，而是“你感受如何”。如果算法能破解、操纵、预测人的感受，民主就会沦为情感的木偶戏。政客有点像演奏人类情感系统的乐手：一场演讲能让全国陷入恐慌，一条推文能引爆全民仇恨，这些恐惧和仇恨是很多政治体系的燃料。当这些乐手有了更精密的乐器，会发生什么？答案是数字独裁的崛起。 20世纪民主战胜独裁，不只是伦理体系的胜利，也是数据处理方式的胜利：民主是分布式数据处理系统，把信息和决策权分散到无数机构、组织和个人手中；而独裁是集中式数据处理系统，把所有信息和权力集中在一处。在20世纪的技术条件下，集中太多信息和权力效率极低，没人能快速处理信息、做出正确决策，这也是西方阵营能在冷战中战胜共产主义阵营的重要原因之一。有个轶事：20世纪80年代，一名苏联官员到伦敦，想了解撒切尔夫人治下的自由社会和自由市场到底怎么运作。英国主人带他参观了伦敦的银行、证券交易所，见了无数经济学教授和其他名流，但几个小时后，这名苏联官员突然说：“等一下，我不明白。在莫斯科，我们最聪明的人都在研究怎么给莫斯科供面包，可几乎每家面包店和杂货店前都排着长队。在伦敦这座千万人口的城市，我们来回跑了几个小时，没见过一次面包排队。请取消我所有其他行程，带我去见负责给伦敦供面包的人，我必须知道他的秘密。”英国主人尴尬地挠挠头说：“没有这个人。没人负责给伦敦供面包。”这就是自由社会和自由市场的秘密：没人负责。你只要让信息在所有部分之间自由流动，让个人和组织自己做决定就行。 但这不是自然法则：集中式数据处理永远比分布式低效只是20世纪的特殊情况。信息和通信技术尤其是机器学习和人工智能的革命，可能让钟摆摆向相反的方向：AI能够集中处理海量信息，而且信息越集中，处理效果越好。20世纪独裁政权试图集中信息的劣势，可能变成21世纪的核心优势。这可能催生一种完全不同于20世纪独裁的全新政权形态：数字独裁。 最后，当算法能破解有机体，还能开始创造、重新设计全新的有机体和生命形态：21世纪经济的核心产品很可能不再是纺织品、汽车、武器，而是身体、大脑和心智。我们正在学习如何生产、工程化、制造这些“产品”：我们正在学习通过加速自然选择的方式设计创造新的有机体，学习创造半机械人——有机体与无机部件的结合体，甚至学习创造完全无机的生命。如果这一切真的发生，这不仅是10万年前有历史记载以来最大的革命，也是40亿年前生命起源以来最大的生物学革命：40亿年来，生命游戏的基本规则从未改变，恐龙出现又灭绝，哺乳动物出现，无数变化发生，但基本规则不变：所有生物，从阿米巴到恐龙、番茄到智人，都受自然选择法则约束，都由有机生化物质构成。21世纪，自然选择可能被智能设计取代，成为生命演化的核心驱动力——不是云上上帝的设计，而是我们人类的设计，更准确地说，是谷歌云、微软云的设计，它们将成为演化的主要驱动力。同时，在有机生化的小池塘里困了40亿年后，生命可能突破到无机的广阔领域。 那么，谁来决定怎么使用这些造物主般的力量？是选民？是顾客？是听从我们自己的内心？但当你内心的感受时刻被算法监控、操纵的时候，你该怎么听从内心？这就是我们时代最大的问题，谢谢大家。（观众鼓掌）
三、问答环节
**主持人**：非常感谢尤瓦尔的宏大历史叙事和对21世纪挑战的前瞻性分析。由于时间有限，本次会议开场仅安排一位提问者，我邀请哈佛大学科学、技术与社会项目主任希拉·贾萨诺夫（Sheila Jasanoff）教授提问，她稍后还有行程，需要提前离场，请您提问。 **希拉·贾萨诺夫**：非常感谢给我提问的机会。接在您刚才的演讲之后，我几乎提不出什么问题了，我有50个问题想问，首先您幻灯片里的“无用阶级”性别化特征很明显，或许还有希望——因为里面没几个女性。不过视觉设计之外，我们今天讨论的伦理，是在怀疑、矛盾、分歧、前路不明的空间里扎根的，您的演讲恰恰完全相反。您提到政客像乐手一样把公众当乐器演奏，这让我想到《哈姆雷特》里的一个片段，在座的部分观众可能熟悉：哈姆雷特和吉尔登斯特恩对话，他把长笛递给吉尔登斯特恩，说“给我吹首曲子”，吉尔登斯特恩一直说“大人，我不会，您知道我没有这个技艺，我不会吹这些键”，等等。哈姆雷特说：“你看，你以为我比长笛好对付吗，伙计？你连操作它的技术规程都没有。”您描绘的算法未来，不仅掌握了长笛，还掌握了人类本身。我在您这种决定论式的未来图景里（其实也有不少证据支持这种图景），看不到容纳哈姆雷特对吉尔登斯特恩提出的那种挑战的空间——吉尔登斯特恩自以为懂算法，知道怎么让这个矛盾的王子动起来。您会怎么改写莎士比亚的这段台词？我很想听您当场给出这段“反莎士比亚”的回应。 **尤瓦尔·赫拉利**：这是个非常棒且及时的问题，我会试着回答其中的几个层面，因为这个问题很复杂。 首先，要实现您说的这种场景，算法不需要完美地“演奏”这个人，它只需要比平均人类做得更好就行。我们信任谷歌地图导航，不是因为谷歌地图完美，只是因为它比普通人的认路能力更强；自动驾驶汽车要替代人类司机，也不需要开得完美，只要比平均人类司机开得好就行，这绝非不可能的任务——毕竟现在全球每年有约125万人死于人类司机的人为失误，在这个基础上改进并不是不可能。同理，算法要越来越多地参与重要的经济、政治决策，也不需要完美，只要比平均人类做得更好就行，这也没我们通常想象的那么难。 我并不是说这是好的未来或好的发展，我们必须极度警惕其中蕴含的巨大危险。但要真正意识到这些危险，我们需要对人类自身的能力更谦卑：不要筑起“算法永远理解不了我们”的虚幻堡垒，觉得我们有自由意志、有灵魂、有精神，算法永远碰不到，我们就安全了——那是最容易被欺骗和操纵的。比如假新闻最容易操纵的，就是那些过度相信自己的自由意志、觉得“我这是完全自主的决定”的人，因为他们根本意识不到，一旦对方了解他们的仇恨、恐惧和弱点，操纵他们有多容易。除非我们对自己有更清晰的认知，了解自己的弱点和不完美，才能真正应对算法未来的风险。 我最大的恐惧其实不是人工智能，而是“自然愚蠢”——这才是更大的危险，因为这是人工智能可以钻的空子。当然，我绝对不是技术决定论者，不是说AI来了我们就什么都做不了，只有唯一的结果。没有任何技术是决定论的，我们虽然没有绝对的自由意志，但我们依然有意志、有选择、有能动性。历史证明，同样的技术可以用在完全不同的方向：东德和西德拥有完全相同的技术，有电、有收音机、有汽车、有火车，只是它们选择了用这些技术做不同的事。人工智能和生物技术也是一样，它们会改变世界，但可以往不同的方向改变，最终走向哪个方向，依然取决于我们如何努力去影响它。正如我所说，对人类的能力和局限有更谦卑、更现实的认知，不会让我们一定做出正确选择，但会让我们更有可能做出正确的选择，谢谢大家。（观众鼓掌）
四、会议闭幕
**主持人**：由于尤瓦尔接下来的行程非常紧张，我们的会议也即将进入下一环节，非常感谢尤瓦尔带来的极具启发性的演讲，相信他的思考会为我们接下来的讨论提供重要的方向。我们也预祝您接下来的活动一切顺利，也期待您未来能带来更多新的思考，再次感谢您，也恭喜您的新书出版。 **尤瓦尔·赫拉利**：谢谢大家。（观众鼓掌）