尤瓦尔·诺亚·赫拉利Impact Theory访谈整理稿
一、开场与嘉宾介绍
主持人开场欢迎观众,介绍本节目旨在介绍助力梦想实现的人物与思想,随后介绍本期嘉宾尤瓦尔·诺亚·赫拉利的成就:两次获得博兰斯基创造力与原创性奖,著作全球销量超1200万册,被译为45种以上语言;里程碑著作《人类简史》(*Sapiens*)曾连续6个月登顶《星期日泰晤士报》畅销书榜,也助其成为《纽约时报》畅销书榜首作者;作品得到比尔·盖茨、理查德·布兰森、马克·扎克伯格、贝拉克·奥巴马等众多名流推荐,斩获军事历史学会蒙卡多奖、2017年《商报》德国年度经济图书奖等多项荣誉;作为全球极具影响力的演讲者,他曾多次在TED平台就人类议题发表演讲,2018年受邀在达沃斯世界经济论坛年会发表关于人类未来的主旨演讲;他拥有牛津大学博士学位,是耶路撒冷希伯来大学历史学终身教授,除著作外还曾在《金融时报》《纽约时报》《华尔街日报》《卫报》等全球顶级媒体发表文章;他每年进行为期60天的静默内观禅修(Vipassana),是《21世纪21课》(*21 Lessons for the 21st Century*)的畅销书作者。最后主持人欢迎赫拉利登场。
二、21世纪的核心特征:人类成为可被“黑客化”的物种
主持人表示自《人类简史》出版后便持续阅读赫拉利的著作,非常认同其梳理历史脉络、指向未来走向的视角,尤其《21世纪21课》聚焦“历史如何塑造当下、当下如何决定未来”的核心问题,对制作科幻内容、探索未来图景的团队而言极具参考价值。他首先提出想探讨赫拉利的核心判断:部分技术发展正在变得危险,因为人类本身可以被“黑客化”,希望赫拉利先解释“黑客化人类”的含义,再探讨如何将这种能力转化为自我赋权的工具。
赫拉利首先指出,21世纪最重要的认知之一,是人类已经成为可被黑客化的动物。我们拥有破解人类思想、欲望,预测人类选择,以历史上从未有过的方式操纵人类欲望的技术。他解释,黑客化一个人类需要两个核心条件:一是大量数据,尤其是生物识别数据(biometric data),不仅包括行踪、消费记录,还包括身体内部、大脑内部正在发生的生理活动;二是足够的算力来处理这些数据。历史上从来没有人同时具备这两个条件:哪怕KGB或盖世太保24小时跟踪目标、窃听所有对话、监控所有社交关系,他们也没有足够的生物学知识理解人体内部的运作机制,更没有足够的算力处理收集到的数据,因此无法真正理解目标、预测其所有选择、操纵其所有欲望。但如今情况已经改变:KGB无法实现的目标,如今的企业和政府已经开始具备实现能力,核心原因是生物技术革命与信息科技革命的融合。我们越来越了解身体和大脑内部的运作机制,同时信息科技革命为我们提供了必要的算力。当信息科技与生物技术融合,我们就能创造出比人类自身更了解自己的算法。这些算法不仅能预测人类的选择,还能操纵人类的欲望,本质上可以将任何物品——无论是商品还是政治人物——推销给人类。
主持人确认:您所说的“黑客化”,就是指基于用户的生物识别数据,在精确的时机推送精准的情绪信息?赫拉利给出肯定答复,并进一步指出,这只是“黑客化”的初级应用:如果真正破解了一个系统的运作逻辑,就必然能够重新设计它,甚至完全替换它。21世纪我们面临的另一重大风险是:计算机和人工智能将在越来越多的任务中取代人类,可能导致数以百万计的人被挤出就业市场,形成赫拉利提出的“无用阶级(useless class)”。
三、技术“黑客化”人类的正面价值
主持人表示完全理解其中的风险,其团队制作的《霓虹未来》(*Neon Future*)故事项目正在探索“无用阶级”被挤出就业市场后的经济与社会影响,但希望先回到“可被黑客化”的议题:在您描述潜在风险的同时,这种技术也蕴含着巨大的积极可能性,极具诱惑力——如果它只有危害,我们大可以直接叫停研发,但它之所以难以拒绝,是因为能带来历史上最优质的医疗服务:比如30年后,地球上最贫困的人通过智能手机获得的医疗服务,可能比当今最富有的人从顶级医院和顶级医生那里获得的还要好,我们对身体内部状况的认知能力是此前从未有过的。
主持人进而提问:如果假设这种能力已经普及,我们拥有了全量的生物识别数据,技术已经落地,您会如何鼓励人们利用这种能力赋权自身?他举了书中的例子:您提到自己成长过程中一度不确定自己的性取向,而斯坦福大学已开发出算法,仅通过3到4张人脸照片就能以91%的准确率预测一个人的性取向,这听起来不可思议,但如果属实,这意味着我们可以通过数据获得关于自己最深层的、与生俱来的欲望的清晰认知,这种清晰度显然是有价值的。您会如何鼓励人们使用这种能力?
赫拉利回应,这个例子非常好,不过斯坦福的相关研究其实存在很多争议,我们可以先搁置。这个例子最核心的信息是:人类对自己的认知少得可怜。他人生中最重要的认知之一,也是其科研生涯的重要转折点,就是意识到人类对自身的了解有多么有限。很多对我们自身至关重要的观念和事实,我们往往意识不到。他21岁才意识到自己是同性恋,这其实非常不可思议——按理说15、16岁就应该很明显了,而算法很快就能发现这一点:比如你走在海滩上、看着电脑屏幕,面前同时出现有吸引力的男性和女性,算法只需要追踪你的眼球运动轨迹,看你的目光停留在谁身上、停留多久,就能很快得出结论,这种算法在15岁时就能告诉你自己的性取向。 这种“算法比你更早了解你”的情况会带来极其深远的影响:在部分国家,这可能会让你被政府、警察盯上,甚至被送去再教育机构;在另一些实行监控资本主义(surveillance capitalism)的国家,你可能自己都没意识到自己的性取向,但可口可乐已经通过算法知道了——因为他们需要判断该给你投放什么广告:假设可口可乐知道你是同性恋,你也知道他们掌握这一信息,但百事可乐不知道,那么可口可乐会给你投放有肌肉男性饮用可乐的广告,而百事会失误地投放比基尼女性的广告,第二天你去超市、餐厅的时候,会不自觉地选择可乐而不是百事,你甚至不知道原因,而商家可能根本不会告知你他们掌握的信息。 如果算法主动将信息分享给你,情况又会不同:比如你15岁,去参加同学的生日派对,有人听说有个新算法能检测性取向,大家觉得好玩,轮流用算法测试,其他人围观结果——你愿意在这种场景下发现自己的性取向吗?这可能会是极具冲击性的体验。哪怕是在完全私密的场景下,这也是一个非常深刻的哲学问题:从算法那里发现关于自己的重要事实,这意味着什么?对人类生命、对人类身份意味着什么?我们对此几乎没有经验。从古至今,所有的哲学家、圣贤、智者都告诉人们要“认识你自己”,这可能是人生中最重要的事,但历史上所有的自我探索都是通过冥想、运动、艺术、沉思等方式自主完成的。当自我探索的过程被外包给大数据算法,这意味着什么?其中的哲学意涵是极其深远的。
四、自我探索的边界:算法辅助与自主认知的平衡
主持人表示这个点非常有意思,他每天都会收到大量读者的提问,核心问题只有一个:我该如何找到自己热爱的事?他告诉读者,热爱的事不是“找到”的,而是“培养”的,但前提是你得先找到自己真正感兴趣的领域,也就是在底层层面能给你正向反馈的方向。大家的下一步问题就是:我该怎么发现能触发这种反馈的事?如果有一个算法,能用商家使用的那些操纵性技术,但目的是引导你走向更好的方向,会怎么样?他举了书中的另一个例子:假设有个算法知道你刚分手,正处于心碎的情绪中,因为它能读取你的生物识别数据。
赫拉利接话,比如最简单的选歌场景:你刚被恋人分手,控制你听歌的算法会根据你当下的心理状态,选择最适配的歌曲。这里立刻会引出一个核心问题:你的目标是什么?你希望音乐提振你的情绪,还是希望音乐让你沉浸在最深的悲伤和抑郁里?算法可以遵循不同的指令:如果你明确知道自己想要什么样的情绪状态,可以直接告诉算法,它会照做;如果你不确定,可以告诉算法“按照当今最优秀的心理学家的建议执行”,比如让你按照哀伤的五个阶段听歌,算法能做得比任何人类DJ都好。 我们需要理解的是:音乐和大多数艺术最终作用于人类的生化系统(biochemical system)——至少现代西方世界的主流艺术观是这样的,不同文化有不同看法,但现代西方认为艺术的核心是激发人类情绪,不一定是快乐,伟大的艺术也可以激发悲伤、愤怒、恐惧,涵盖全部的情绪光谱,但艺术的核心是激发情绪。所以无论是音乐家、诗人还是电影制作者,本质上都是在演奏“智人”的生化系统。我们可能很快就会走到一个节点:算法对这个“乐器”的了解超过任何人类艺术家。一首歌、一部电影、一首诗,打动不了你,却可能打动我;能激发我的作品,换个场景可能就失效了。随着算法收集的关于你的数据越来越多,它会越来越精准地读取你的生化系统,像弹钢琴一样精准地操控它:比如你想要快乐,它按下一个按钮,就会放出全世界唯一一首能让你此刻真正快乐起来的歌。
主持人提问:在现实中,如果让你立刻选择一个你想要监控、获取反馈的生化过程,你会选什么? 赫拉利回答,那肯定是医疗健康。如果我身体里有严重的、我自己不知道的问题,比如癌症,我希望算法能帮我发现。现在的常规诊断流程是:问题必须先经过你自己的感知,你没法外包这个过程——比如诊断癌症,大多数情况下,你必须先自己感觉到身体不对劲,然后跑一家又一家医院、做一项又一项检查,最后才被发现肝脏有癌之类的。但这个流程依赖你自己的感受,尤其是痛感,往往发现的时候已经很晚了:等你感觉到疼痛的时候,癌症通常已经扩散了,哪怕还能治,过程也会非常昂贵、痛苦、麻烦。但如果我们可以把这个过程外包,不需要经过我的大脑、我的感受,我希望有一个带生物识别传感器的算法,24小时不间断监控我的健康,甚至不需要我意识到它的存在。它可以在癌症还只是几个细胞刚开始分裂扩散的时候就发现,这时候治疗非常简单、便宜、无痛苦,而不是等两年后扩散了变成大问题。几乎所有人都会愿意接受这种服务,这就是它的诱惑力所在——但它也伴随着一长串风险:这个掌握你几乎所有健康数据的算法,背后是医疗系统,而21世纪最大的博弈之一很可能就是隐私和健康的权衡,我猜最终健康会赢:大多数人愿意为了更好的医疗服务放弃非常可观的隐私。 我们当然需要努力兼顾两者,建立既能提供优质医疗服务、又不侵犯隐私的系统:数据只能用来告诉我有没有问题、该怎么解决,不能在我不知情的情况下被用于其他用途。我们能不能做到“既要又要”,这是非常大的政治问题。
五、身份认同的本质:我们讲述的自我叙事
主持人转而提到赫拉利此前论述过的“故事”的力量:比如金钱,大多数人不会把它当成故事,但它其实是塑造我们生活、给我们共同行动准则、让我们朝同一方向前进的强大力量。他提问:我们该如何掌控自己讲给自己的、关于自己的故事?这在我看来是您探讨的最重要的故事之一。
赫拉利回答,我们的身份本质上就是一个我们不断建构、修饰的故事。你可以说整个人类的大脑就是一台不断生产故事的机器,其中最重要的一个故事就是“我的故事”。不同的人擅长讲不同类型的故事:有些人把自己的故事建构为悲剧,有些人建构为喜剧或戏剧,但归根结底,自我不是一个真实存在的实体,而是一个故事。 一方面,新技术让我们建构自我的能力越来越强;但另一方面,如今很多原本发生在我们大脑、心智中的建构身份、建构故事的工作,已经被外包给了Facebook之类的平台:你注册一个Facebook账号,本质上就是把建构自我的工作从大脑里搬到了线上,你每天可能花好几个小时构建自己的线上故事,对它产生极强的依恋,并向所有人公开。你还会犯一个根本性错误:你以为这就是真实的你。 主持人追问:为什么这是错误? 赫拉利解释,首先,你在Facebook、Instagram上创建的自我主页,显然不能反映你真实的存在——无论是内在现实还是外在现实。比如你在Instagram上微笑的时间占比,远高于你在真实生活中微笑的时间占比。你去度假发了照片,照片里你穿着泳衣、在沙滩上抱着恋人、拿着鸡尾酒,笑得特别开心,所有人都觉得你过得特别幸福,但实际上你五分钟前才和恋人吵了一架。一年后、两年后你回头看这些照片,会忘记真实的经历是什么样的。
主持人提问:我们讲给自己的、关于自己的故事里,真相扮演什么角色? 赫拉利回答:非常小。 主持人追问:您觉得应该更大吗? 赫拉利肯定: absolutely 应该更大。 主持人进一步问:如果我们真的努力确保自己讲给自己的故事是客观真实的,会有什么结果? 赫拉利回答:会非常痛苦、非常困难。我觉得值得付出这个努力,但确实非常难。我们无时无刻不在编辑自己的故事,就像电视台编辑新闻一样,有点像拍电影:你在电影院看的时候觉得故事流畅无缝,但你看幕后制作的时候会发现,一个几秒钟的场景要拍50遍,有时候因为档期、场地原因,第二场戏比第一场先拍,最后成片 seamless 又完美,但其实是由一堆零散的片段拼起来的:这个片段来自这里,那个片段来自那里,最后粘在一起,看起来很好。我们的人生故事也是一样,由无数零散的碎片组成,只有当你讲给自己或别人听的时候,才会拼凑出逻辑。坚持完全遵循现实的成本非常高:非常困难,需要付出很多努力,而且往往非常痛苦,因为你要面对很多自己不想承认的关于自己的事实。 很多人都有一种幻想:去某个静修所,抽出一两周的时间,真正向内观察,探索“我是谁”“我的真实自我是什么”,他们幻想自己能终于连接到内在小孩,发现人生真正的使命,发现自己身上所有美好的东西。但你真的这么做的时候,首先遇到的通常是你所有不想了解的自己。你不想了解它们是有原因的。我觉得值得付出努力,但这是非常非常难的事。
六、幸福、真相与自我认知的权衡
主持人提到,大量研究都表明,自我欺骗程度越高的人,往往越幸福。您作为历史学家,一直在试图回答的核心问题之一就是:随着人类物种、社会的进步,我们真的变得更幸福了吗?听起来您很看重幸福,那为什么还要建议大家做这种直面现实的艰难工作,去认识自己不想承认的部分?这是因为它最终会带来更多幸福吗?
赫拉利回答,我觉得 ultimately 这是值得的。因为自我欺骗的代价也非常高,不仅是对你自己,对你的身边的人、对整个世界都是。最终它会导向战争、种族灭绝这样的结果。我来自以色列,来自中东,身边有数百万人因为相信各种虚构的故事、自我欺骗而互相残杀。有时候自我欺骗是一种重要的防御机制,一直面对 raw 的真相非常难,但自我欺骗、分不清虚构和现实的代价会不断累积,最终累积到战争、种族灭绝的程度。 主持人表示,这个代价确实非常惊人。
七、21世纪的职业变革与终身学习的必要性
主持人转到《21世纪21课》中的另一个核心问题:当我们面临失业、成为“无用阶级”,需要在职业层面彻底重塑自己的时候该怎么办?人类寿命越来越长,职业生涯可能长达50、60、70甚至80年,而每7到10年整个世界就会变得完全不同,人类有没有能力承受这种程度的反复重塑?
赫拉利回答,这是非常重要的问题,和永生关系不大:哪怕没有永生,我们也在朝这个方向走。哪怕人均寿命还是80岁,每10年你都会遭遇一次重大冲击。很多人对人工智能革命和自动化革命有一个误解:他们觉得这是一次性事件——2025年发生一次大的AI革命,卡车司机、出租车司机、医生等等都失业,经过几年的调整,最终进入AI时代的全新平衡。这种场景极不可能发生,因为我们远没有达到AI发展的上限,其发展速度只会越来越快。我们真正要面对的是就业市场乃至生活各领域(人际关系、政治等等)的一系列越来越大的颠覆:2025年一次大冲击,2035年更大的,2045年还要更大。 比如你40岁的时候是卡车司机,行业不需要你了,但市场需要瑜伽老师,你费劲重塑自己成了瑜伽老师;10年后,瑜伽老师也不需要了,因为出现了结合生物识别传感器的应用,能精准知道你做每个瑜伽姿势时每一块肌肉的状态,没有任何人类瑜伽老师能竞争,你又失业了,得重新塑造自己成为虚拟世界游戏的设计师;你做到了,但10年后这个工作也被自动化了。哪怕有政府支持、有成人教育体系,真正的大问题还是心理层面的:我们作为人类,有没有足够的心理稳定性和情商,能够反复重塑自己?20岁的时候重塑自己、甚至第一次建立自我,已经非常难了;30岁更难,但还能做到;40岁、50岁、60岁的时候,越来越难——你已经投入了很多去建立职业生涯、人格、技能,要全部放弃重新开始,太困难了。我不知道我们能不能做到。
八、面向未来的教育方向
主持人表示这确实是我们最终必须回答的问题,这让他想到教育。如果现在有一个18岁的年轻人,正在纠结要不要上大学,您会给他什么建议?要不要上大学,如果上,该学什么?
赫拉利回答,这是非常难的问题。首先他要意识到:没有人真的知道2040年的就业市场会是什么样,所以要警惕所有假装知道20年后就业市场需要什么的人的建议。我认为最好的投资是情商和心理平衡,以及那些能让你终身学习、终身改变的能力。但问题是怎么学到这些?我们现在没有“心理灵活性”的大学学位,但这些才是最重要的工具。不管你选什么:去法学院、去芭蕾舞学院都可以,但要记住,你学的很多东西在20、30年后可能就没用了,所以不管学什么,都要同时投资于发展自己的情商、心理平衡、终身学习和重塑的能力。 打个比方:过去的教育像建一座石头房子,地基打得非常深;现在的教育更像搭一个帐篷,你可以随时把它折起来,轻松搬到另一个地方。
九、科幻作品对公共认知的关键作用
主持人认为这个类比非常好。既然未来如此难以预测,您之前多次提到科幻作品、科幻作家的力量,您能展开讲讲吗?科幻作家、故事创作者、电影制作者能扮演什么角色?
赫拉利回答,21世纪我们的生活将比以往任何时候都更受新技术的塑造,尤其是人工智能和生物技术。而大多数人对这些技术的好坏潜能的认知,都来自科幻作品。迄今为止政治体系在理解和帮助我们应对这些发展方面做得非常糟糕:政治领域几乎不讨论人工智能和生物技术,科学界当然在深入研究,但大多数人不会读《科学》《自然》这样的专业期刊,哪怕去读,也很难理解专业术语和统计数据。所以大多数人关于未来的认知,都来自科幻作品。这意味着,至少在我看来,科幻现在是重要的艺术类型,也理应是最有责任感的一类。但问题是到目前为止,科幻作品做得还不够好:有些小说、电视剧、电影在探索可能性方面做得非常出色,比如我最喜欢的是奥尔德斯·赫胥黎在1930年代初写的《美丽新世界》(*Brave New World*),我认为它是最有预见性、最深刻的。
十、赫拉利的公共使命与核心关切
主持人表示在问最后一个问题之前,请赫拉利告知观众在哪里可以找到他的作品。赫拉利介绍,个人网站是ynharari.com,也可以在Facebook、Instagram、Twitter等所有常规平台找到他。
主持人提问最后一个问题:您希望给世界带来什么影响? 赫拉利回答,我希望为公众讨论带来更多清晰度。我觉得现在大部分公共讨论要么聚焦在错误的问题上,要么极其混乱、不清晰。人们被海量的信息淹没,不知道该如何理解这些信息。我的使命就是为公共讨论带来清晰度,尤其是引导公众关注最重要的问题。我也会尝试给出一些答案,但我并不在乎人们是否同意我的答案、我的解决方案,重要的是我们要对问题本身达成共识。最后我想说,21世纪人类面临的三大挑战是核战争、气候变化和技术颠覆,这应该成为每个国家政治议程的前三项,但现在并不是这样,我希望未来能成为这样。
十一、收尾
主持人感谢赫拉利的精彩分享,鼓励观众阅读他的前三部著作,称其能帮助大家理解人类从何处来、在何处、向何处去,甚至能帮大家从操作系统甚至内核层面理解自己,思维方式真正与众不同,非常值得阅读。随后主持人提醒观众订阅频道,承诺每周会更新关于成长型思维、培养毅力、释放潜能的内容,最后告别观众,现场响起掌声。