《真相衰退与技术威胁：尤瓦尔·赫拉利与特里斯坦·哈里斯对话录》（第一部分）
一、开场与嘉宾介绍
主持人伊森·古普塔（Eason Gupta）开场致意，介绍自己是《纽约时报》记者，长期报道气候变化这一人类面临的生存性威胁，早年曾在硅谷科技公司上市潮期间负责相关报道，彼时正尝试向读者解释“赞助内容”这一新兴概念。他指出，达沃斯论坛历来有探讨科技与生活关系的温和议程，而今日的讨论将聚焦更尖锐的议题：数据与科技对个人生活、社会生活、政治生活的深层影响。 随后他向在场观众介绍两位嘉宾：尤瓦尔·赫拉利（Yuval Noah Harari）是历史学出身，著有数本畅销全球的著作，最新作品恰好直指科技在人类生活中的角色；特里斯坦·哈里斯（Tristan Harris）是计算机科学出身，曾在谷歌担任设计伦理师数年，之后共同创立了人类技术中心（Center for Human Technology）。主持人欢迎两位嘉宾登场。
二、科技巨头为何接纳批判性观点：从自我膨胀到责任焦虑
主持人首先抛出一个观察：2018年特里斯坦曾向同事表示，自己无法理解尤瓦尔·赫拉利在硅谷的超高人气——哪怕赫拉利描绘的是相当“末日式”的科技图景，硅谷企业仍争相邀请他去园区演讲；本届达沃斯论坛上，全球科技巨头也愿意聆听两位的分享，昨日的人工智能专场座无虚席，今日的讨论现场同样爆满。主持人提问：尤瓦尔的信息为何能引发如此强烈的共鸣？其中关于“人类被技术黑客化”“自动化经济中将产生数百万无用阶层”的批判，是否恰好是科技巨头愿意听到的内容？ 尤瓦尔首先回应，这种欢迎 partly 是出于自我陶醉：科技巨头普遍认为自身是历史上最重要的人物，其影响力远超成吉思汗建立的帝国——成吉思汗并未改变人类本身，其帝国前后的人类没有本质区别，但拉里·佩奇、马克·扎克伯格等当代科技领袖出现前后，人类将发生根本性改变。千百万年后回望历史，人们不会记得成吉思汗，只会记得当代的科技变革者，他们自认为是新进化阶段的“核心参与者”，这种 ego 满足是欢迎的部分原因。 另一部分原因则是，许多科技巨头已经意识到早年“科技必然让世界更美好”的天真乌托邦设想落空了：他们低估了人类社会、历史、哲学的复杂性，尽管手握巨大权力，却对自身责任感到压力与担忧，因此愿意倾听哲学家、历史学家的不同观点——尽管这些观点若要求他们改变现有商业模式，是否会被采纳仍是未知数，但至少他们具备了基本的倾听意愿，以及对责任的感知正在觉醒。 主持人追问，是否有具体轶事能证明科技巨头已经意识到问题，不再天真地认为“只要连接世界、让信息更易获取，一切就会变好”？ 特里斯坦回应，2016年美国总统大选就是给硅谷的一记重锤。此后硅谷的讨论中开始频繁出现“值得花的时间”（time well-spent）这类倡议，足以证明他们的认知正在转变。科技巨头的心态是矛盾的：一方面有着近乎妄自尊大的自我认知，认为自身掌握着前所未有的巨大权力；另一方面也意识到自己并不清楚该如何运用这种权力，早年“只要连接所有人、让信息普及就能解决所有问题”的天真想法已经被现实打破——他们终于意识到人类比想象中复杂得多：连接确实能让真相更快传播，但谎言和虚构内容同样能更快扩散。
三、政治虚假信息的传播逻辑：技术放大了人类固有的认知弱点
主持人顺势提问，已有大量研究证明政治虚假信息的传播速度和范围都远超真实信息，从缅甸、印度、巴西到美国都出现了相关现实案例，能否解释其中的机制？同时，面对自己逐渐意识到拥有的巨大权力，科技从业者能做什么？ 特里斯坦首先指出，只要科技公司的商业模式建立在对用户的“信息不对称”之上——即公司比用户自身更了解用户，本质上就是在商业化这种权力不对称，利用这种优势操控用户心理，这是必须改变的核心问题。 关于虚假信息的传播，麻省理工学院的一项推特研究显示，假新闻的传播速度是真新闻的6倍。从进化逻辑来看，这一结果并不意外：假设有两个信息传播主体，一个主体只能说真话，需要反复斟酌内容准确性、措辞合理性，可传播的内容范围被严格限制；另一个主体没有任何约束，可以测试6万种不同的措辞、尝试不同的配图、按钮颜色、话术，甚至测试不同语言版本的传播效果，显然不受约束的主体会占据绝对优势，就像一场搏斗中，一方赤手空拳，另一方直接掏出匕首，结果不言而喻。 当下社会对虚拟世界的期待仍停留在现实世界的社交规范上：默认大多数人会传播准确信息，会做出有益贡献，不会故意违法或操控系统。但虚拟世界的现实是，用户的信任被严重错配，恶意行为者的传播效率远高于普通用户，最终劣币驱逐良币。比如，一个人是否相信新阴谋论，最大的预测因素就是他是否已经相信过其他阴谋论；而YouTube曾向用户推荐了150亿次亚历克斯·琼斯的阴谋论视频，其总播放量超过《纽约时报》《华盛顿邮报》《卫报》、BBC、福克斯新闻的总和，可见问题之严峻。 随后尤瓦尔补充，虚假信息并非新问题，从历史视角看，20世纪上半叶的虚假信息远比今天严重：苏联曾掩盖数百万人的死亡真相，外界长期不知情，如今已经不可能再隐藏如此大规模的死亡事件；甚至印刷术发明之初，16世纪欧洲的畅销书不是科学著作，而是《女巫之锤》这类猎巫手册，其传播范围远超伽利略的著作，阴谋论和虚假信息始终与人类文明相伴。 但当下真正全新的是：技术实现了虚假信息的“个性化定制”。中世纪的猎巫手册无法针对每个读者调整内容，但今天的算法可以精准了解每个用户的偏好：如果用户本身有反移民偏见，就会推送“移民团伙强奸当地女性”的假新闻；如果用户本身反感右翼，就会推送“新纳粹谋杀移民”的假新闻，精准匹配用户的既有立场。最终，两个持有对立偏见的用户，在现实中可能住在同一栋公寓楼里，却完全无法就移民问题展开理性讨论，因为双方接收的信息已经被完全切割。过去希特勒通过广播发表演讲，所有听众听到的是完全相同的内容，而今天算法可以给每个用户推送完全不同的“定制化内容”，这才是真正的变革：技术第一次实现了对人类的“黑客化”，即系统可以比个体自身更了解个体，从整个社会的层面而非个别案例上实现这一点。
四、技术对民主与自由市场的根本性挑战：当外部系统比个体更了解自身
尤瓦尔进一步指出，这一技术能力从根本上动摇了自由民主与自由市场的基础：自由民主的核心假设是“选民最了解自身利益”，如果存在主体能比选民更精准地预测、操控选民的意愿，民主制度就名存实亡；自由市场同理，其核心假设是“顾客永远是对的”，如果存在主体能精准预测、操控消费者的需求，自由市场也将不复存在。我们可能已经在部分领域越过了这条红线，而最容易操控的，恰恰是那些相信“自由意志存在”“自己不可能被操控”的人——操控的本质就是利用个体已有的恐惧、偏见等固有弱点，就像黑客攻击计算机是利用系统已有的漏洞一样，这种操控已经可以在全社会层面实现，若想延续民主与自由市场，二者必须完成自我革新。过去人们相信“人类是神秘的存在，没有人能真正了解灵魂深处的秘密”，这种信念曾经无害，但在技术已经可以实现精准操控的今天，这种信念反而会让人更容易成为操控的受害者。 特里斯坦进一步补充，我们早已越过了“技术可以比人更了解人”的红线，最直观的例子就是YouTube的成瘾设计：用户明明计划只看一个视频就回去工作，却往往陷入阴谋论内容的“兔子洞”长达数小时，事后只会责怪自己“自制力不足”，却不知道这是算法精准计算的结果：谷歌服务器里的“用户数字分身”会基于用户过往的所有点击、点赞、观看时长数据建模，精准预测用户会被什么内容吸引，进而推送能最大化用户停留时长的内容——如果推送BBC新闻，用户只会停留5分钟，推送空难相关内容能停留30分钟，推送阴谋论内容则能留住用户1小时20分钟。全球最大的超级计算机正对着用户的大脑“下棋”，能提前预判数十亿步的决策路径，这种权力不对称早已成为常态，只是我们从未公开讨论过。 很多人怀疑Facebook在监听自己的麦克风，因为刚聊完某个话题，打开APP就看到了相关广告，实际上Facebook并未这么做，这是“频率错觉（即当两件事几乎同时发生时，人们会默认二者存在关联）”在作祟：算法根本不需要监听麦克风，只要激活用户的数字分身，就能精准预测用户接下来会聊到的话题，准确率之高甚至不需要额外获取数据。
五、应对路径：从个体认知升级到制度层面的系统性变革
针对如何应对上述危机，尤瓦尔提出两层应对方案： 个体层面，每个人都需要尽可能深入地了解自己，在政府、企业等主体完全看透自己之前跑得更快。无论是冥想、心理咨询还是远足，任何能帮助个体提升自我认知的方式都值得投入时间精力，这是一场“谁更了解你”的竞速。但个体层面的努力长期来看是不够的，必须同时推进集体行动：首先，计算机工程专业必须将伦理、社会学、哲学作为核心必修课，而非边缘课程，因为工程师编码的不仅是计算机，更是整个社会；其次，数据所有权必须成为全球政治议程的首要议题，就像历史上曾围绕“谁应该拥有土地”“谁应该拥有工厂”展开激烈讨论一样，今天必须明确“用户的数据属于用户自己”；最后，应当设计更多“反向监控”工具：目前最优秀的科技人才都在设计服务于企业、政府的监控个体工具，我们同样可以设计监控企业、政府、揭露腐败的工具，我们仍有选择权，但必须在为时已晚之前行动。 特里斯坦补充，针对“技术成瘾”的问题，解决方案不是简单的“戒断”，而是弥补现实连接的缺失：人们之所以沉迷虚拟世界，本质是现实中的人际连接、自然连接、意义感连接的缺失带来的焦虑与空虚。如果技术能让维护有意义的人际关系（比如视频通话、共同烹饪）像查阅维基百科一样便捷，就能从根源上降低成瘾性。关于“文化免疫系统”，他援引了斯坦福大学教授弗雷德·特纳的著作《民主的包围》：1940年代美国曾成立“国家士气委员会”和“宣传分析研究所”，意识到“民主人格”不会凭空产生，必须主动培养，以抵御法西斯宣传的渗透。今天我们同样需要主动培养公众的批判性思维、开放心态与价值判断能力，而非默认“自由意志”会自然保护人们不受操控。 针对企业内部的变革压力，特里斯坦指出，推动企业内部员工觉醒是更高效的路径：许多科技公司的员工并不清楚自己开发的产品正在造成何种危害，一旦内部员工意识到问题，从内部推动变革的速度远快于外部监管。如果企业不得不支付更高薪酬留住 disillusioned 的员工、面临高校人才拒绝入职、人员流失率上升等问题，就会产生足够的经济压力，推动企业调整行为。 尤瓦尔进一步强调，上述方案都是“补丁”，真正的根本答案来自哲学与政治领域：我们正在见证的是一场对人类主义世界观的根本性挑战，过去两三百年主导西方乃至全球的个体性、个体能动性、自由意志等核心假设，正在被技术现实击碎。我们尚未知道新的价值体系、新的世界观会如何诞生，这一过程必然需要通过政治程序转化为新的政策，最终落实到个体行为与企业责任的调整上，这正是政治的核心意义。
六、现场提问环节
主持人随后收集现场观众问题： 第一位观众提问：你提到的“文化免疫系统”具体指什么？ 第二位观众（《哈佛商业评论》法国版）提问：你提到了个体责任与“接种”式防护，但从你描述的行为模式来看，这更像是技术成瘾，解决方案是否不是“接种疫苗”，而是帮助人们“戒断”这种类似毒品的依赖？ 第三位观众提问：从硅谷的视角来看，科技公司并不认为自己需要承担责任，它们只是按商业规则运营的普通企业。俄罗斯干预选举的案例中，中情局、国安局等专业机构都无法阻止干预，却要求Facebook做到，似乎并不合理。在所有解决方案中，似乎只有监管是科技公司无法抗拒的，但改变用户行为不可能一蹴而就，改变企业行为同样困难，它们有商业利益和法律保护，没有动力改变，除了监管之外还有其他可行的方案吗？ 针对第三个问题，特里斯坦首先回应了成瘾问题：他和团队的播客《你的全部注意力》曾邀请成瘾研究专家，得出的结论是，成瘾的解决方案不是戒断，而是重建连接——人们沉迷虚拟世界，本质是现实中的人际连接、自然连接、意义感连接的缺失。如果技术能让安排一次有意义的亲友聚会、一次户外徒步像打开维基百科一样简单，就能从根源上缓解成瘾问题。 关于文化免疫系统，他再次援引《民主的包围》中的案例：1940年代美国意识到民主心态不会自然形成，必须主动培养，以抵御法西斯宣传，这一努力当年是成功的，今天我们同样需要类似的公众教育。 关于监管之外的方案，他再次强调内部员工施压的可行性：科技公司内部员工的觉醒和施压，是比外部监管更快速的推动力量，人才流失、招聘困难带来的经济压力，会迫使企业做出调整。 尤瓦尔则从更宏观的视角总结：所有技术层面的补丁都只能帮助我们应对当下的危机，真正的根本挑战是对人类主义世界观的反思：过去我们默认个体有完全的自主选择权，但技术已经证明这种假设并不成立，我们需要构建新的价值体系与政治框架，这需要全社会的共同讨论与政治实践。 最后主持人指出，本届达沃斯论坛上关于科技对政治生活影响的讨论明显不足，尽管Palantir、Facebook、亚马逊云等科技巨头都有展位参会，但这一议题被明显回避。尤瓦尔分析，这 partly 是因为科技巨头不知道该如何应对这类问题，partly 是因为“无知是福”：继续旧有的政治讨论远比开启全新的政治讨论容易，这也是为什么恐怖主义、移民等传统议题总能获得更多政治关注——这些议题的讨论框架已经成熟，而科技对政治的影响是一个全新的、没有现成答案的议题，自然容易被回避。
三、公共技术议题讨论缺失的深层症结与技术与制度的错配危机
相较于民众对共和党与民主党在AI监管问题上的分歧这类已有明确立场和讨论框架的议题，当下技术领域的核心公共议题反而长期处于讨论缺失状态。特里斯坦指出，以达沃斯论坛为代表的主流技术讨论场域，刻意回避了根本矛盾：人们不愿质疑技术本身对人类的价值，只会将技术带来的问题归因为“个别不良用例、不良行为者”，默认资本主义本身是善的，技术引发的负面问题只是外部性偏差。但真正的核心症结在于，当前新自由主义无约束市场体系本身就会毫不费力地催生大量外部性问题——类比工业资本主义时代的逻辑：鲸鱼活着比死了值钱，树木作为活体比作为木材值钱；当下的注意力经济模型同样更偏好被操控的用户：用户越沉迷、分心、愤怒、极化、被误导，对平台而言价值越高，无论这个用户是你的孩子、普通个体还是民主社会的公民。这种偏好并非出自某个人的恶意，而是系统本身的运行逻辑使然，就像商业模式更希望用户先患上糖尿病，再向其推销订阅服务一样。而达沃斯等场域根本不愿展开这类触及体系本质的讨论。 特里斯坦进一步指出，技术领域存在另一重核心矛盾：技术议题的演化、叠加和加速速度，远快于政府的响应速度。他援引生物学家E.O.威尔逊的论断：人类的核心困境在于，我们拥有旧石器时代的大脑、中世纪级别的制度，以及神级的技术，三者运行的时间尺度完全错配：旧石器时代形成的大脑结构20万年未变，本质无法改变；中世纪级别的制度每4到5年才能完成一次更新，甚至相关经济法案的通过都要等待5年；而神级技术正在以远超前两者的速度创造新的可能性、风险和伤害。因此人类的应对路径只能是：接纳我们无法改变的旧石器大脑，升级落后的中世纪制度，同时保持足够的智慧，为神级技术套上缰绳，控制其发展速度。
四、观众提问：技术能力能否用于应对气候变化？
主持人表示时间有限，将优先回答一个观众提问，再进行最后收尾。有观众提问：能否将此前讨论的这类技术破解能力用于应对气候变化这类问题？毕竟当前人类自救的能力看起来相当有限，我们究竟该怎么做？ 特里斯坦回应称，这正是他一直在推动硅谷做的事。他认为，硅谷此前几乎在一夜之间摧毁了全球民主、将人类推向黑暗时代，如今唯一的救赎路径，就是调取他们已经搭建好的全球基础设施，用于解决气候问题：当前这些平台搭建的全球意义建构、全球公共选择、全球社会联结的基础设施，在涉及气候变化的内容上几乎完全失效：有研究显示，YouTube推荐的内容里50%是气候变化否认类视频；而Facebook上的气候变化相关内容，要么是“情况比你想的更糟”的恐吓式内容，要么是“你做什么都没用”的虚无式内容，本质上是以27亿人的规模给用户投喂“习得性无助”，这对应对气候变化毫无帮助。如果各位中有关注气候变化的人，不妨想想自己曾在网上浏览气候相关内容花费的所有时间：我们完全可以做一次大规模的查找替换操作，把大家反复阅读的、已经看过成千上万次的相同段落和句子，全部替换成具体行动指引、下一届选举中你可以支持的候选人、你可以发布的个人气候故事（比如你的农场是如何被灾害摧毁的），让否认气候变化的人知道这些事真实发生在了普通人身上，就能产生巨大价值。他所在的团队已经梳理出约300项科技公司可以采取的具体行动，用于应对气候变化，这正是他希望硅谷接下来做的事。 主持人随即追问确认：你的意思是，硅谷最聪明的一代人都忙着提升广告收入，而你希望他们转而解决气候变化问题？ 特里斯坦回应：最终他们也会和我们一同沉入水中，届时他们在坟墓里有多少钱根本毫无意义。
五、技术使用的核心原则：文化高于技术
主持人接着提出最后一个问题：我们身上有没有某一部分、某一种存在是如此珍贵或脆弱，以至于我们不应该把它交给技术、交给大数据？是选择谁统治我们、如何养育孩子、和谁相爱，还是其他方面？有没有哪部分生活是应该完全由我们自己保留的？ 尤瓦尔首先给出总体原则：技术应当作为工具为我们自身的目的服务，而不是让我们被技术奴役，服务于技术的目标，这一点适用于生活的所有领域，并不存在可以完全交给技术、与自我完全割裂的领域。他也常被误认为是反对技术、厌恶技术的人，但他并非认为技术本身是恶的，实际上技术可以给人类带来很多福祉：他花费大量时间讨论技术的风险，正是因为当前有太多聪明人都在不遗余力地宣扬技术带来的益处，因此需要历史学家和哲学家站出来提醒公众：技术同样存在危险。2002年他在以色列的一个早期同性恋约会网站上认识了丈夫，当时他住在以色列一个思想保守的小省份，几乎没有认识同性恋伴侣的渠道，突然互联网出现了，虚拟空间让他可以轻松结识他人——他和丈夫其实住得很近，只隔了一条街，每天坐同一班公交车去上学，却从未在现实中见过，最终在虚拟空间相识，这就是技术带来的美好。因此问题从来不是要不要接纳技术，而是要知道如何让技术服务于人的目的，而不是让人被技术奴役。 尤瓦尔补充称，他非常认同特里斯坦此前的观点：技术本身既不是破坏性的，也不是邪恶的，问题在于过强的错误激励跑在了过于强大的技术前面。他回忆2001年的互联网还是一个工具、一座图书馆，整体上无害：当时的约会网站没有病毒式传播的增长黑客，没有为了最大化用户停留时长设计的过滤器和点赞机制，也没有算法推荐，功能只是提供一个地址簿式的服务。只有当技术有了明确的诉求、想要从用户身上获取什么、有了个性化推荐的激励时，问题才会出现。 特里斯坦进一步总结称，核心原则是文化必须高于技术：如果技术反过来主导文化、决定我们的价值观、决定孩子追求什么——比如一整代年轻人把拥有多少Instagram粉丝、账号有多少关注者当作核心价值，这就是技术爬进孩子的大脑、把自身的价值观植入下一代，这是不可接受的。文化必须保持在技术之上。 最后主持人感谢两位嘉宾的精彩讨论，也感谢在场观众的参与。