尤瓦尔·赫拉利：如何度过21世纪——2020年达沃斯论坛对话
一、开场介绍
本次对话的主持人、贝恩咨询公司董事长埃里卡首先开场，指出本次“如何度过21世纪”的议题并非新话题：18年前英国皇家天文学家马丁·里斯曾出版相关著作，当时他给人类文明 surviving 21世纪的概率定为五五开，去年里斯出版新书，对技术灾难与生态崩溃的担忧进一步加剧。埃里卡表示自己年过三十，大概率无法活到21世纪末，看到澳大利亚山火等灾难时，甚至会产生几分释然，但她更担心后代可能目睹 horrific 的未来，除非人类从现在开始认真对待已经显现的生存危机。
随后埃里卡介绍两位对话嘉宾：第一位是尤瓦尔·赫拉利，全球畅销书作家，最新著作为《21世纪21课》，身为历史学家的他长期思考核战争、生态崩溃、技术颠覆三大人类生存挑战；第二位是马克·吕特，历史学家出身，曾担任荷兰首相10年，2019年荷兰被世界经济论坛全球竞争力报告评为全球第四、欧洲第一。作为三分之一国土低于海平面的国家，荷兰以堤坝工程和“小男孩堵堤缺口”的寓言闻名，但如今面对全球性威胁，早已没有足够的“小男孩”可以填补所有缺口，或许人类可以从这种公共利益精神中汲取应对当下挑战的经验。随后埃里卡邀请尤瓦尔·赫拉利首先发言。
二、尤瓦尔·赫拉利：21世纪人类的三大生存级挑战
尤瓦尔首先表示，进入21世纪第三个十年，人类面临的问题与疑问之多，让人难以聚焦核心，因此他将在接下来的发言中梳理所有挑战里最关键的三个：核战争、生态崩溃与技术颠覆，其中前两个已是公众熟悉的威胁，他将重点阐释相对陌生的技术颠覆风险。
在达沃斯论坛上，人们常讨论技术带来的巨大承诺，这些承诺确实真实存在，但技术同样会从多个层面颠覆人类社会与人类生命的意义，风险包括催生“无用阶级”、数据殖民主义与数字独裁。
首先是社会经济层面的剧烈动荡：自动化技术将在短期内淘汰数以百万计的工作岗位，虽然新岗位必然会诞生，但人们能否快速掌握所需的新技能仍是未知数。以一名50岁的卡车司机为例，若他因自动驾驶技术失去工作，虽然市场上存在软件设计、瑜伽教学等新岗位，但他很难在短时间内完成职业转型。更关键的是，自动化革命并非一次性事件，之后不会形成新的就业市场 equilibrium，而会是一波比一波更大的颠覆浪潮——因为AI远未达到其全部潜力，所有岗位都可能消失，新岗位会出现，但很快又会改变、消失。过去人类的主要挣扎是反抗剥削，而21世纪人类最大的挣扎将是反抗“无关紧要”：被社会边缘化比被剥削更可怕，那些在反抗边缘化过程中失败的人，将构成新的“无用阶级”——他们并非对家人朋友无用，而是对经济与政治系统而言失去了价值。这个无用阶级与日益强大的精英阶层之间的鸿沟会不断扩大。
AI革命可能带来前所未有的不平等，这种不平等不仅存在于阶级之间，也存在于国家之间：19世纪英国、日本等先完成工业化的国家征服并剥削了全世界，如果应对失当，21世纪也会出现同样的局面。目前中美已经处于AI军备竞赛的前列，大多数国家远远落后，如果不采取措施让AI的福利与权力在全人类中公平分配，少数高科技枢纽将积累巨额财富，其他国家要么破产，要么沦为被剥削的数据殖民地。
这里需要澄清，我们讨论的不是科幻场景中机器人反叛人类，而是更原始的技术就足以颠覆全球平衡：试想如果未来在加州生产纺织品、汽车的成本比墨西哥更低，发展中国家经济将受到怎样的冲击？如果20年后旧金山或北京的人掌握了你国所有政客、法官、记者的完整医疗与个人历史，包括所有桃色新闻、心理弱点、腐败交易，你的国家还能保持独立吗？还是会成为数据殖民地？当掌握足够的数据时，根本不需要派遣士兵就能控制一个国家。
其次是数字独裁的兴起：全天候监控所有人的系统将成为新的重大风险，这一风险可以用一个公式概括：生物知识×计算能力×数据=破解人类的能力。只要有足够的生物学知识、计算能力和数据，就能破解你的身体、大脑与生活，比你更了解你自己：它能知道你的性格类型、政治立场、性取向、心理弱点、最深层的恐惧与渴望，甚至能预测、操纵你的感受与决策，最终替你做出选择。过去许多独裁者与政府都想实现这一点，但既没有足够的生物学知识，也没有足够的计算能力和数据，盖世太保与KGB都做不到，但很快一些企业与政府将能够系统性破解所有民众。人类需要习惯这样一个事实：我们不再是神秘的灵魂，而是可被破解的动物。
这种破解人类的能力当然可以用于善事，比如提供更优质的医疗服务，但如果这种能力落入21世纪的“斯大林”手中，就会产生人类历史上最恶劣的极权体制，而如今已经有不少“候选人”了。试想20年后的朝鲜：每个人都要佩戴生物识别手环，24小时监测血压、心率、脑活动，当你收听最高领导人的广播时，系统知道你的真实感受，你可以鼓掌微笑，但如果你心怀愤怒，第二天早上你就会被送进劳改营。如果允许这种全面监控体制出现，达沃斯等地的权贵也不会安全：斯大林时期的苏联，被监控最严的就是共产党高层，未来的全面监控体制也一样，地位越高，被监控得越紧密。你愿意让你的CEO或总统知道你对他们的真实想法吗？因此防止数字独裁的兴起符合所有人类的利益，包括精英阶层。顺便提醒各位，收到可疑的“王子”发来的消息不要点开。
就算我们成功阻止了数字独裁的建立，破解人类的能力仍然会动摇人类自由的本质：随着人类越来越依赖AI做决策，权威会从人类转移到算法，这一趋势已经显现。如今几十亿人信任Facebook算法告诉自己什么是新闻，谷歌算法告诉自己什么是真相，Netflix告诉自己看什么，亚马逊、阿里巴巴的算法告诉自己买什么，在不久的将来，类似的算法可能会告诉我们去哪里工作、和谁结婚，决定是否录用我们、是否给我们发放贷款，甚至决定央行是否加息。如果你问为什么没拿到贷款、为什么央行没有调整利率，答案永远是“算法判定不符合要求”。由于有限的人脑没有足够的生物学知识、计算能力和数据，人类根本无法理解算法的决策，就算在所谓的自由国家，人类也会逐渐失去对自身生活的控制权，也无法理解公共政策。现在能理解金融系统的人可能只有1%，再过几十年，能理解金融系统的人数会 exactly 为零。
人类一直把生活看作决策的戏剧，当大多数决策都由我们根本不理解的算法做出时，人类生命的意义是什么？我们甚至没有哲学模型来理解这种存在。过去哲学家与政客的 usual 默契是：哲学家有很多天马行空的想法，政客耐心解释这些想法缺乏实现的资源。现在情况完全相反：我们面临“哲学破产”。信息技术与生物技术的双重革命给了政客与商人创造天堂或地狱的能力，但哲学家们连新的天堂与新的地狱是什么样子都难以 conceptualize，这是非常危险的情况：如果我们不能尽快 conceptualize 新的天堂，就容易被幼稚的乌托邦误导；如果我们不能 conceptualize 新的地狱，就可能发现自己被困在其中，无路可逃。
最后，技术还会颠覆人类的生物学：未来几十年，AI与生物技术会赋予人类神一般的能力，重新设计生命，甚至创造全新的生命形式。经过40亿年自然选择塑造的有机生命，即将进入由智能设计塑造的无机生命新纪元，人类的智能设计将成为生命进化的新驱动力。在使用这些新的创世能力时，我们可能会犯下宇宙尺度的错误：政府、企业、军队很可能只会用技术提升他们需要的技能，比如智力、纪律，而忽视其他人类技能，比如同情心、艺术敏感度、灵性，最终可能造出一种非常聪明、非常有纪律，但缺乏同情心、审美能力、灵性深度的人类。
当然这不是预言，只是可能性：技术从来不是决定论的。20世纪人类用工业技术建成了完全不同的社会，有法西斯独裁、共产主义体制、自由民主制，21世纪也是一样，AI与生物技术一定会改变世界，但我们可以用它们建成完全不同的社会。如果你害怕我提到的某些可能性，你仍然可以做点什么，但要采取有效行动，我们需要全球合作：三大生存挑战都是全球性问题，需要全球性解决方案。任何领导说“我国优先”的时候，我们要提醒他：没有任何一个国家能单独阻止核战争、阻止生态崩溃、单独监管AI与生物工程，几乎所有国家都会说“我们不想开发杀人机器人、不想基因编辑人类婴儿，我们是好人，但我们不能信任对手不做，所以我们必须先做”。如果允许AI与生物工程领域出现这样的军备竞赛，不管谁赢，输家都是人类。
不幸的是，正当全球合作比以往任何时候都更需要的时候，世界上最有权力的领导人与国家却在故意破坏全球合作：比如美国总统说民族主义与全球主义存在根本矛盾，我们应该选择民族主义、 reject 全球主义，这是危险的错误。民族主义与全球主义没有矛盾：民族主义不是仇恨外国人，而是爱自己的同胞，21世纪要保护同胞的安全与未来，就必须和外国人合作，因此21世纪的民族主义者也必须是全球主义者。全球主义不是建立全球政府、放弃所有民族传统、开放边境接受无限移民，而是承诺遵守一些全球规则，这些规则不否认每个国家的独特性，只规范国家之间的关系。最好的例子是足球世界杯：世界杯是国家之间的竞争，人们经常激烈支持自己的国家队，但同时也是全球和谐的绝佳展示，法国队要与克罗地亚队比赛，必须双方同意同样的比赛规则，这就是全球主义的实践，喜欢世界杯的人已经是全球主义者了。
希望各国能不仅在足球上，也在阻止生态崩溃、监管危险技术、减少全球不平等、确保AI不仅让美国软件工程师受益，也让墨西哥纺织工人受益等问题上达成全球规则。当然这比足球难得多，但并非不可能，因为我们已经完成了不可能的事：我们已经逃离了人类历史上一直生活的暴力丛林。几千年来，人类一直生活在丛林法则下，处于无处不在的战争状态：丛林法则认为，每两个相邻的国家都存在下一年开战的合理场景，和平只是战争的暂时停止，比如雅典与斯巴达、法国与德国之间的和平，只是当下没有开战，下一年可能就会爆发冲突。几千年来人们都认为不可能逃离这个法则，但过去几十年人类做到了不可能的事：打破了法则，逃离了丛林，我们建立了基于规则的 liberal 全球秩序，尽管有很多缺陷，但仍然创造了人类历史上最繁荣、最和平的时代。
和平的含义已经发生了根本改变：和平不再只是战争的暂时 absence，而是战争的不可能性，现在世界上有很多国家，你根本无法想象它们下一年会互相开战，比如法国与德国。当然世界上还有一些地区存在战争，我来自中东，非常清楚这一点，但这不能让我们忽视整体全球图景：我们现在生活的世界里，战争杀死的人比自杀少，糖对生命的危害比火药大，大多数国家（除了俄罗斯等少数例外）根本不会幻想征服 annex 邻国，因此大多数国家可以把GDP的2%左右花在国防上，把更多的资金投入教育与医疗，这不是丛林。
不幸的是，我们已经太习惯这种美好的局面，把它视为理所当然，因此变得极其粗心，不仅不努力加强脆弱的全球秩序，反而在忽视甚至故意破坏它。全球秩序现在就像一座所有人都居住、但无人维修的房子，还能支撑几年，但如果继续这样下去，它会倒塌，我们会发现自己回到了无处不在战争的丛林，我们已经忘了丛林是什么样子，但相信我，作为历史学家，你绝对不想回去，那比你想象的糟糕得多。当然我们的物种在丛林里进化、生存甚至繁荣了数千年，但如果现在带着21世纪强大的新技术回去，我们很可能会自我毁灭。当然就算我们消失了，也不是世界的终结，会有东西幸存下来，也许老鼠最终会接管并重建文明，也许老鼠会从我们的错误中学习，但我非常希望我们能依靠在座的各位领导，而不是依靠老鼠。谢谢尤瓦尔的发言。
三、马克·吕特：技术治理与全球合作的务实路径
主持人随后转向马克·吕特，指出他作为荷兰首相，2019年签署了气候与AI领域的多边战略协议，也是欧盟首个系统思考数据隐私、推出非恐吓式绿色增长战略的领导者之一，询问他对未来道路的看法。
吕特首先表示自己比尤瓦尔稍显乐观，是“永远的乐观主义者”，但他也承认尤瓦尔提到的风险真实存在，必须加以缓解。他指出当前对AI与气候变化存在强烈的紧迫性：气候变化方面，除了遏制全球变暖、减少碳排放的目标外，还蕴含着巨大的经济机遇，能创造大量新岗位，荷兰在能源转型与气候变化领域的投资正在持续增长。但实现这些目标需要全社会达成共识，荷兰以“最荷兰的方式”让所有相关方参与到讨论中，去年6月达成了可负担、可实施的气候协议，现在正在推进落地，该协议不仅能实现气候目标，还能创造未来需要的就业岗位。
AI领域同样蕴含巨大可能性：在癌症研究、精准农业（降低碳排放）、自动驾驶、能源转型等领域都能发挥关键作用，AI带来的变革甚至比互联网的发明更深远，如果应对得当会带来巨大收益，当然也可能出现严重问题。因此气候变化方面要聚焦气候适应，荷兰作为三分之一国土低于海平面的国家，明年10月将主办气候适应峰会，正如荷兰谚语所说“上帝创造了地球，荷兰创造了荷兰”，荷兰希望向世界展示如何开展气候适应工作。AI领域则必须改革教育体系，使其适配AI技术的发展，坚持欧盟提出的“以人为本”的发展路径，同时制定数据与隐私标准至关重要。
随后吕特回应了尤瓦尔提到的几个核心问题：第一，要维持全球治理体系，但一味指责特朗普没有意义，他是美国总统，确实指出了联合国、北约、WTO等全球组织功能失调的问题，正好可以利用他的总统身份推动这些组织的改革，因为双边合作无法解决全球性问题，特朗普、默克尔、习近平等强人用传统双边方式也无法应对全球挑战。第二，要关注自由媒体的作用：如今Facebook等大型科技公司吸走了绝大多数广告收入，对传统媒体造成冲击，但我们需要媒体揭露假新闻——比如此前流传的伪造奥巴马视频，如果在大选前两天放出，可能严重影响选举结果，因此需要自由媒体向公众解释真相，而这需要资金支持，因此他呼吁达沃斯的商界领袖不要把全部资金投入互联网广告，也要确保报纸、电视台等传统新闻机构有能力给记者支付合理的工资，这是至关重要的。第三，成熟的民主制度是应对挑战的核心：成熟的民主制度天然有辩论所有议题与不同观点的传统，这是人类的核心特质——我们天生喜欢辩论，以色列就是整个社会的辩论场，大多数成熟的民主体制都通过对立观点的辩论实现繁荣，这也能教育年轻人区分荒谬的想法与真实的想法，让他们自己对重大社会议题形成独立判断，因此他致力于在荷兰维持成熟的民主制度。
四、关于技术监管与数字未来的讨论
主持人表示吕特的发言乐观但不够乐观，随后提出问题：20世纪初有两本预言人类未来的著作，一本是奥威尔的《1984》，描绘了 fearsome 的独裁与无处不在的监控，思想警察知晓民众的思想并加以迫害，对应尤瓦尔提到的数字独裁风险；另一本是赫胥黎的《美丽新世界》，更为可怕——人口被培育或编程去主动追求世界国家提供的一切，购买算法告诉他们想要的东西，做算法让他们开心的事，正是尤瓦尔提到的幼稚乌托邦。两本书的作者都没有提到算法，因为当时的算法概念与如今完全不同，但和书中的主角不同，我们知道自己在被操纵。尤瓦尔提到需要自由媒体应对这一风险，问题在于：我们是否应该要求所有影响决策的算法都成为公共记录，或者至少由能够揭开算法运作方式的监管机构进行监管？
吕特首先回应：最终人民应当成为共同的监管者，就像全球监管机构一样，目前各国已经在尝试监管AI，保护隐私与数据安全，欧盟是全球最大的数据市场，所有国家都想挖掘这些数据的价值，因此监管至关重要，但监管也不能过于强势，核心是保障社会各阶层的人都拥有独立思想，这是我们社会制度的核心。他指出被操纵去购买特定商品并非新现象，19世纪杂志的广告就会针对特定受众的偏好，和现在的互联网算法没有本质不同，当然现在的规模更大，但像“剑桥分析”这类事件，其实并没有人们想象的那么 sophisticated，当然风险是真实存在的，需要某种形式的监管，但不要过度恐慌——如果监管者权力过大，又会引发新问题：谁来监管监管者？监管者将掌握极大的权力。
尤瓦尔随后补充：AI革命还只是个婴儿，5年前除了少数科学家，几乎没人谈论AI，2016年大选时的剑桥分析只是小打小闹，真正的分水岭是AI与生物识别的结合。目前被挖掘与破解的数据大多不是来自体内的生物数据，而是你的点击记录、出行轨迹、购买记录等，还在身体之外，真正的分水岭是生物传感器无处不在，数据来自体内，能够获取你的心脏、大脑活动，而不仅仅是信用卡信息。而且AI远未达到其全部能力，未来会越来越复杂，也越来越难监管。就算像欧盟这样出台法律，规定算法如果做出不录用你的决策，你有权知道原因，这看似关键，但完全无效——因为算法做决策是基于成千上万个数据点，每个数据点只贡献很小的百分比，而人类做决策通常只基于两三个 salient 数据点，你能理解自己因为性取向、宗教被歧视，但算法会给你一本上千页的数字资料，你根本不知道这些数字如何导致了不录用的结果。决策的方式正在发生根本改变，算法与人类的决策逻辑完全不同。
主持人随后补充：两位都是历史学家，历史上无数帝国与王朝回首往事时都会感叹“如果当时做了什么就好了”，如今我们可能就处在这样的关键节点：有些国家明确表示不想合作制定全球标准，有些人不愿意改变盈利模式，目前也没有能够约束他们的监管者。因此问题在于：我们如何从这些真实挑战中找到一个真实或感知到的共同敌人，推动各方合作？尤瓦尔提到他写过虚构作品，了解宗教、民族能够凝聚人心，因此先向尤瓦尔提问：核战争与生态崩溃是容易形成共识的共同敌人，因为 obviously 是对所有人的威胁，没有人能赢得核战争，但技术颠覆很难形成共识，因为很多企业、政府有理由认为自己能赢得AI军备竞赛，控制世界经济或政治体系，很难说服他们所有人都在同一条船上。核心问题是不平等：他不担心荷兰这样的国家，更担心委内瑞拉、巴西、印度、印尼这些国家，30年、50年后会变成什么样？他提到19世纪工业革命的类比：当时少数先工业化的国家主导并剥削了全世界，21世纪可能更糟，如果只有少数国家掌握AI与生物技术的“神一般的能力”。就算看欧洲，目前也 hardly 参与AI竞赛，主要是中美竞争，两个选项都不够理想：美国几年前还声称要做全球领导者、为所有人谋福利，现在已经放弃这一角色， openly 表示只关心自身利益，这种“我优先”的领导者没有人会追随。他认为当前是一个机会：这是给欧洲的 wake-up call，不能再依赖美国，要成为独立的第三种力量，但放眼全球20大科技公司，没有一家是欧洲的。
吕特随后从商业角度补充：AI领域很重要的一部分是技术的决策、采购与使用方式，虽然美国和中国拥有大众熟知的大型平台，但欧洲有独特优势：美国现在没有一家公司能够量产5G设备，因为移动通信起步时美国走了不同的技术路线，欧洲则统一了标准，共同推进技术迭代，在成本与质量上都形成了经验优势，美国的相关企业要么被欧洲公司收购，要么已经消失，目前能够量产5G的是中国、韩国与欧洲，这是欧洲的机会——掌握5G技术就能控制所有我们讨论的技术的基础设施。他承认自己可能对美国过于负面，仍然相信美国是自由世界的领导者，任何重大全球问题没有美国的参与都无法解决，不管谁担任总统。但欧盟的经济规模是美国的1.5倍，是中国的3-4倍，如果中美陷入竞争，焦点不是争夺第一，而是谁能占据第二，不要忘了这一点。他也认同AI领域需要监管，包括透明度标准，要确保人们能知道自己因为肤色等原因被拒绝录用，而不是面对一堆看不懂的数字数据，需要清晰的透明度标准。最终技术决策需要政治系统拍板，需要技术领域的输入，他对欧洲很有信心：荷兰有国家AI战略，正在和全球大型科技公司合作建设AI集群，因为荷兰要保持全球第四、欧洲第一的竞争力，这是转型性的变革。当然要承认技术的风险与弊端，也要承认这些技术能带来的巨大好处，比如医疗进步、癌症治疗等，他完全同意尤瓦尔在这一问题上的看法，包括推动全球标准、维护自由国际秩序，同时改革当前功能失调的全球组织。
最后主持人总结：由于时间有限，本次对话是一位哲学家与一位政治领导人进一步 conceptualize 21世纪可能的面貌，过程中有悲观也有乐观，更多的是现实主义，随着我们进入……
三、后续思考方向与致谢
我们应当进一步思考相关议题的后续推进方向，充分讨论这些问题、深化对相关议题的认知具有重要价值。接下来，让我们用掌声感谢今天到场的两位演讲者。