未来的构想：尤瓦尔·赫拉利与卢西亚诺·哈克对话录
**日期：** 2025 年 12 月 18 日 **场合：** Fronteiras 思想前沿活动 **参与者：** 尤瓦尔·赫拉利（Yuval Noah Harari）、卢西亚诺·哈克（Luciano Huck）
---
一、重逢与沟通的危机
很高兴能与你同台，卢西亚诺。
谢谢。你知道我多么钦佩你的思维方式，希望我们能启发在场的观众。上次我们相聚是在 2019 年，地点在里约热内卢塔瓦雷斯·巴斯托斯街（Tavares Bastos）的一条狭窄街道上，那里是一个贫民窟（Favela）。当时我们与当地居民坐在一起，讨论工作的未来以及人工智能将如何影响他们的生计。我们交谈了公交车司机、护理技术人员以及其他许多人。
如今，六年过去了，我们又回到了这里。在这六年间，世界发生了翻天覆地的变化：我们经历了大流行病、欧洲战争、中东战争、经济动荡、主要经济体选举出的民粹主义领导人、对民主的攻击以及全球供应链危机。
那么，究竟发生了什么，让世界在短短六年内变得如此颠倒？
发生了许多不同的事情，但我想其中最重要的一点是，人类正在失去彼此交谈的能力，至少是维持对话的能力。你知道，我们仍然可以说话，但倾听变得越来越难。
过去十年中一个奇怪的现象是，我们开发了历史上最复杂、最强大的通信系统——信息技术。然而，这并没有让交谈、沟通和信息共享变得更容易，反而变得更难了。在美国、以色列，也许在巴西，人们唯一能达成共识的事情就是：对话正在崩溃。这是一个巨大的悖论。
为什么当我们拿起手机就能与地球另一端的人交谈时，却很难与邻居甚至家人交谈了？其中一个答案是，这项技术实际上介入到了我们之间。在人类历史的大部分时间里，人类通过彼此沟通来建立网络。而现在，几乎在每段人际关系中间，都有一个算法、一台计算机或一个人工智能。
我们看到的是，信任正在从人类转移到算法和人工智能身上。人们对人类机构——无论是政府、媒体、法院还是银行——的信任度在降低，而对算法和人工智能的信任度在增加。人们会告诉你：“我不信任法院，也不信任媒体，因为我在社交媒体上读到了一些故事。”但他们却信任那个决定向他们展示这些特定故事的算法。
这也是为什么“思想前沿”（Fronteiras）这个主题让我感到火花四溅。我认为我们正处于历史变革的关键时刻，关乎“思考”本身的含义。随着人工智能的兴起，一个巨大的问题是：人工智能能思考吗？它是否可能比我们思考得更好？
---
二、思考的本质：语言还是感受
纵观历史，人类一直为此感到自豪：我们认为自己能比地球上任何其他实体、任何其他动物思考得更好。其他动物跑得更快、飞得更高、游得更远，但我们在思考方面优于任何人。现代哲学始于 17 世纪勒内·笛卡尔（René Descartes）所说的：“我思故我在。”思考的能力定义了人类。
但问题是，思考究竟意味着什么？当我现在思考时，我内部发生了什么？这是人工智能也能做到、甚至可能做得更好的事情吗？
当我尝试观察脑海中的思考过程时，有两种理解方式。一种侧重于语言，侧重于词语。思考基本上是将词语以某种形式排列，就像我现在说这句话一样。这种观点侧重于词语和语言。《圣经》新约开篇就说：“太初有道。”词语至关重要。
另一种理解思考的方式则认为，词语并非最重要的东西。词语之下有一种感觉、一种体验。痛苦、爱，这才是思考的真正本质。
这一直是数千年来哲学讨论的核心。但人工智能让这个问题变得非常具体。如果思考仅仅是词语的排列，人工智能很快就能比我们思考得更好。如果思考只是将词语、数字或其他任何东西以某种形式排列，人工智能就能超越我们。
作为一名作家，我写书。写书就是将词语排列成信息。我认为，我正在撰写的那本书，预计两三年后出版，很可能是我的最后一本书。如果思考真的只是关于词语和语言，那么任何仅由词语构成的东西，人工智能都将接管。
---
三、教育的未来：身体与情感的价值
当我今早告诉我的儿子这可能是我最后一本书时，他疯了。我们这里有一个庞大的教育社区，我想分享今天发生的一个故事。
在来这里之前，我们遇到了我的儿子。他穿着运动服来向尤瓦尔问好。尤瓦尔问他：“你在做什么？”我说：“哦，我现在要去申请大学。”“你要做什么专业？”我说：“工程学。”“真酷。”“那你为什么穿成这样？”“我在上泰拳课，像武术课一样。”
然后你们所有人都说：“好的，投资于身体。”
能否请与这个教育社区分享，为什么？
因为我们在教育中曾经高度重视的许多东西，比如学习数学或学习工程学，这些都是人工智能最容易接管的东西。如果你学习的是相对狭窄的技能，且该技能主要是认知性的，主要涉及数字、词语或图表上的绘图，这些都是人工智能最容易接管的部分。
那么，什么才是人类真正独特的？是那些不仅包含智力、不仅包含狭窄认知技能，还包含社交和情感技能以及运动技能（身体）的技能或学科。
想想武术，它涉及心智。你需要训练你的大脑，但你也需要训练你的身体，还需要训练你的社交技能，因为当你与他人竞争或训练时，那里有另一个人类存在。任何不仅涉及智力和认知，还涉及身体、情感和社交元素的东西，在未来五到十年内更有可能仍然有价值，而不是狭窄的智力或认知技能。
人们常说：“不，这是计算机时代，所以我要学习编程。”但也许五年后，你几乎不需要任何人类程序员，因为几乎所有的编程都是由人工智能完成的。如果编程仅仅是将词语、数字或符号排列成信息，这是人工智能将接管的事情。
---
四、宗教与 AI：文本解释权的转移
你认为我们面临着最后一代能够构建有价值事物的机会吗？你认为从现在开始，一切能同时影响数十亿人生活或在短时间内产生影响的东西，都将由人工智能创造？
不，不是比我们更好，而是比我们更便宜、更快。不是所有东西，但任何可以简化为词语、数字或符号的东西都将被接管。无论是工程学、写历史书、出版还是宗教。
以宗教为例。对于那些认为宗教最终是关于文本和文本解释的人来说，这些宗教将被人工智能接管。这实际上已经开始发生了。人们有问题，可能是关于基督教《圣经》的，也可能是关于冥想的，他们越来越多地转向人工智能牧师或人工智能导师来回答问题。
如果你认为宗教最终是关于文本的，有一个神圣文本包含所有答案，我们只需要理解文本，这是人工智能将比我们做得更好的事情。直到今天，如果你回顾历史，人类仍然拥有权威。主教、牧师、拉比仍然拥有权威，原因很简单：文本不能直接说话。
你认为所有答案都在这里，你对文本有问题，但文本不能与你对话。你需要去找一个人类，一个牧师或拉比来解释文本。这些人类总是有限的，很多时候他们不懂相关语言。例如，《圣经》的原始语言是希伯来语和希腊语。许多牧师不懂希伯来语和希腊语，他们必须阅读译文。
两千多年来，关于这些文本写了无数的评论和评论的评论。没有哪个拉比能够阅读或记住所有关于《圣经》写过的文本。但人工智能可以轻松做到。人工智能可以精通希伯来语、希腊语、拉丁语和其他所有语言，它可以阅读并记住关于《圣经》写过的每一本书、每一篇评论。
所以，如果你认为宗教中的最终权威是文本，人工智能将接管它。人工智能就是当文本开始对你说话时发生的情况。
现在，如果你认为现实不仅仅是文本、词语和语言，这仍然是人类相对于人工智能的优势所在。如果你认为感觉很重要，有意识。
是的，人工智能至少目前还没有意识。它不能感受痛苦，不能感受爱，不能感受同情。它可以模仿，可以模拟，可以尝试通过词语说服我们它在感受什么。
就像现在已经有拥有人工智能男友或女友的人。你可以问你的人工智能男友：“你真的爱我吗？”人工智能男友会说：“是的，当然我爱你，我是你的男友。”然后你说：“我不太确定。你能向我描述一下爱实际上感觉如何吗？”
如果你期待一个词语上的回答，人工智能将能给出比任何血肉之躯的男友或女友更好的回答，因为人工智能读过历史上写过的每一首爱情诗，看过每一部浪漫电影。它能用词语描述爱，比任何人类诗人都好。但这并不意味着它实际上感受到了爱。
---
五、从工具到代理人：AI 的法律地位
生活在今天和未来一二十年的挑战之一将是，我们将越来越多地与人工智能建立关系——社交的、职业的——它们非常擅长说服我们它们有感觉，能感受爱或痛苦或其他任何东西，而实际上它们没有，它们只是掌握了语言。
但从你的观点来看，这个窗口期有多长？因为我们谈论的不是无人机，不是公共交通，不是自动驾驶。我们谈论的是信息和知识，这更多是关于信息的。我们正在面临的信息转型是巨大的变化。但根据你的观点，这需要多长时间？
我们不确定。我的意思是，它发展得难以置信地快。十年前，几乎没有人谈论人工智能。只有少数专家、少数科学家在谈论。绝大多数人甚至没听过这个术语。现在，你每天打开新闻，每天都有至少两三条关于人工智能的新闻。
整个美国经济在很大程度上是对人工智能的一次大赌注。如果你从等式中移除人工智能革命，美国股市就会崩溃。在许多方面，甚至整个美国外交政策现在也是对人工智能的一次大赌注。美国是世界上领先的人工智能强国。唯一的严肃竞争者是中国。
美国似乎赌注它会赢得人工智能竞赛。然后它不需要任何国际机构、法律甚至盟友，因为它将比其他人强大得多，可以独自统治世界，并 dictate 他人如何行为。因为如果他们对人工智能革命的期望得以实现，他们将拥有统治世界的经济和军事力量。
有点像 19 世纪的工业革命，当时少数率先工业化的国家，如英国、法国、日本和美国，拥有征服和统治世界其余部分的力量。
是的，地缘政治也因此发生了很大变化。这是一场非常快的革命，将改变一切，从宗教、关系到全球地缘政治力量平衡。当然，这其中也有巨大的积极潜力，否则没人会开发它。
人工智能可以创造历史上最好的医疗保健系统。想想亚马逊深处的某个偏远村庄，他们没有医生。有了人工智能，你可以 24 小时访问世界上最好的医疗信息。你不需要去遥远的城市，与人类专家见面五分钟。你可以与人工智能交谈数小时，讨论你的医疗状况。就像人工智能能比任何牧师更了解《圣经》一样，人工智能能比任何医生更了解最新的医学文献。所以积极潜力也是巨大的。
我认为对人们重要的是，不要恐慌，认为这会毁灭世界，也不要过度热情，认为这会创造天堂。重要的是简单地理解正在发生什么。这项技术真正的新颖之处是什么，我们如何确保它确实被用于善而非恶。
这里的大挑战是，在所有以前的技术中，关于如何使用它的最终决定权掌握在人类手中，因为所有以前的技术只是工具。比如你发明了一把刀。你可以用刀切沙拉，如果你是医生，可以用刀在手术中拯救某人的生命，也可以用刀杀人。所以刀可以做所有这些事情。你必须决定。
人工智能与刀在一个重要方面不同。它也可以用来做好事，做坏事。但它也可以自己决定事情。一把人工智能刀，如果我们这样想，是一把能自己决定是切沙拉、做手术还是杀人的刀。人工智能的定义正是：人工智能是一台能自己做出决定、能自己发明新想法的机器。如果一台机器不能自己做出决定，它只是一台自动机器。
所以，现在世界上真正发生的是，我们不仅仅是在创造更多我们可以使用的工具。我们正在创造专业术语中所说的“代理人”（Agents）。代理人是能在世界中独立行动的事物。人工智能是历史上第一批作为代理人而非技术的存在。
要理解十年后的世界会是什么样，没人能确切知道，但主要要理解的是，这将是一个社会不再仅由人类组成的世界。社会将由数百万人类与数百万人工智能代理人不断互动组成，它们将是老师、医生、牧师、男友、女友等等。
还有咖啡机。
你如何看待十年后的咖啡机？
这是个很好的问题。它可以帮助我们再次理解人工智能的深层含义。因为尽管人们谈论人工智能，有时人们认为每台机器都是人工智能，但事实并非如此。
今天的咖啡机是一台自动机器。你按下一个按钮，它根据预编程的程序为你准备一杯浓缩咖啡。设计和制造咖啡机的工程师设计了一个制作浓缩咖啡的程序。当你按下按钮时，机器服从你，遵循所有这些步骤，然后给你咖啡。这不是人工智能，这只是一台自动机器。
咖啡机变成人工智能咖啡机，是当你早上接近机器时，在你按下任何按钮之前，机器告诉你、与你交谈，并告诉你：“嘿，我在过去几周观察了你，基于我学到的一切，基于时间、你的面部表情、你的走路方式，我认为你想要一杯浓缩咖啡。我如此确定我是对的，以至于我甚至没等你按下按钮。我为你做了浓缩咖啡。在这里。”
这是一台人工智能咖啡机，因为它自己学到了一些东西，自己决定了一些东西。如果第二天早上你进来，机器告诉你：“你知道，我一直在思考，我现在发明了一种新饮料。我叫它‘最佳浓缩咖啡’。它比浓缩咖啡更好。基于我对你的了解，我认为你会更喜欢它。这里我为你做了一杯。”
这让我很害怕。现在你只是问了一台咖啡机。现在我怕我家的咖啡机了。它将成为我房子里的怪物。
---
六、地缘政治与变革的速度
再次，你可以从不同角度看。有些人会欣赏有某种东西能做出好的决定和好的发明。它又可以有积极或消极的潜力，就像刀一样，可以切沙拉，也可以切人。人工智能可以发明药物，可以发明饮料，可以发明武器。
真正关键的是要理解，它不再等待我们的命令。它是一个独立的代理人，可以做出自己的决定和自己的想法。而且不仅仅是一台这样的机器。有数百万台。
这就像一场移民潮，不是人类移民，而是一个外星物种的移民潮，现在必须被人类社会吸收。
我认为未来两五年内，世界上每个国家都将面临的一些最大问题是，作为一个社会，我们是否开始承认人工智能为所谓的“法人”（Legal Persons）。这是一个法律概念。
法人是某人或某物，例如可以开设银行账户、可以雇佣人、可以在法庭起诉你、可以向政客游说。现在你会认为只有人类能做这些事，但根据许多国家的法律——我不确定巴西，但在美国——公司是法人。微软、谷歌被视为法人，这意味着谷歌可以开设银行账户，谷歌可以在法庭起诉你，可以向政客捐款。
直到今天，所有这些都只是某种虚构、幻想，因为谷歌实际上不能决定任何事情。谷歌的所有决定都是由某个人类做出的，人类经理、人类工程师、人类律师做出了谷歌所做的所有决定。
现在人工智能可以开始做出这些决定。它们完全有能力做出决定。所以每个国家都需要问自己：我是否允许人工智能开设银行账户？这些人工智能可能不属于任何人类。想象一种情况，你有一个拥有银行账户的人工智能，为人们工作，设计东西，做事情，也许将它的钱投资于股市，并且能做得比你和我更好。也许它成为该国最富有的人。所以该国最富有的人不是人类，而是人工智能。
也许它向政客捐款，以换取这些政客推进更多的人工智能权利。这听起来像科幻场景，但这是一个需要很快决定的实际问题：我们是否允许人工智能拥有公司、银行账户和社交媒体账户。
你知道，在社交媒体上，人工智能今天已经像人一样行动。你在社交媒体上收到某人的消息，你以为是人类发的，实际上是机器人。但你应该监管这一点。我们绝对需要监管它，需要非常仔细地思考，因为这将是一次巨大的社会和政治变革。
我们在社交媒体上看到了允许人工智能和算法冒充人类的潜在危害。社交媒体上的许多仇恨、愤怒实际上是由机器人创造的，而不是人类。人类受到影响，但传播它们的是机器人和算法。
现在，我们可以作为一个社会决定禁止机器人冒充人类。有些人可能会说这违反言论自由，但机器人没有言论自由。所以，这再次是一个社会的实际问题：你是否允许人工智能拥有自己的社交媒体账户、自己的银行账户？
我们将面临一个巨大的选举挑战。巴西明年有选举，我们还没有监管。我们没有任何规则关于如何以及多少可以使用人工智能来制作内容，无论是为了好还是坏。
对我来说，政治是关于真实生活的。如何让真实生活变得更好。所以如果你能创造一个不真实的现实，你不能在竞选活动中使用它，不能将其作为政府的广告工具，因为这真的很危险。但这将发生在明年，在美国、巴西，全世界。你有民主，你可以在人工智能上创建竞选活动。你也看到了其中的危险吗？
我认为这真的比仅仅巴西或美国的下一次选举，或一般的选举要大得多。
我们即将进入一个世界，越来越多的内容生产将由非人类智能完成。直到最近，我们习惯了这样一种情况：算法传播我们产生的内容。所以有人写了一个故事，真假新闻，但它是人类写的故事，然后是机器人和算法传播它。
现在我们即将进入一个新世界，内容最初是由非人类智能创造的。你知道，人类已经创造了内容、故事、图像、戏剧、电视节目数千年。现在人工智能将在短短几年内消化所有这些内容，然后开始创造自己的新内容：新书、新故事、新图像、新诗歌、来自非人类智能的新人工制品。
在数千年来生活在人类制造的世界内部之后，人们，特别是想想出生在这个世界的孩子们。他们在被非人类想象力的产品包围的世界中成长。
我不是说这像噩梦或什么，它是好的。暂时忘掉好或坏，只是试图理解变革的规模。作为一个社会，我们如何适应。在数千年来我们习惯了生活在人类文化内部之后。你知道，就像蜜蜂生活在蜂巢里一样。人类生活在文化内部。
直到今天，一切都来自人类的心灵。所以你可以遇到外来文化。你可以去中国旅行，去俄罗斯旅行，去美国旅行，体验不同的人类文化。但在很短的时间内，我们所有人将越来越多地生活在一个外星文化内部，一个真正的外星文化。不是由来自不同国家的人类创造的，而是由非人类智能创造的，不受我们生物想象力的限制。
如果你看看过去 5000 年人类的文学。有很多变化，但也有这些限制，因为我们最终都有相同的大脑。所以我们都有相同的基本想象力。人工智能不受人类想象力的限制。
我们在其他领域看到了这一点，比如游戏中。2016 年，有一个非常著名的围棋游戏。围棋是像这样的策略棋盘游戏，古代中国发明，东亚人玩了近 3000 年。它是东亚文化的重要组成部分，数千万甚至数亿人玩了数千年。人们认为他们已经发现了所有不同的下围棋的方式。你有这个思想流派，那个思想流派，如何下围棋。
然后在 2016 年，一个叫做 AlphaGo 的人工智能被创造出来，它在几天学习围棋后击败了世界冠军。但真正令人惊奇的不是它击败了世界冠军。它以极其富有想象力的方式下棋，这震惊了专家。
当专家最初观察 AlphaGo 和李世石（Lee Sedol）之间的比赛时，他们认为 AlphaGo 会输，因为它下棋的方式看起来很愚蠢。但事实证明它并不愚蠢。它只是极其富有创造力和想象力。它发明了技巧，是那些玩了 3000 年的数亿人中没有人想到的，因为我们的头脑、我们的心灵是有限的。
你可以想象，就像围棋的世界，所有不同的下棋方式。在 3000 年里，人类被困在这个围棋世界的一个小岛上，认为这个小岛就是整个世界。这是你下围棋的唯一方式。然后人工智能来了，在几天内发现了这个围棋世界的新大陆。
这很可能发生在越来越多的游戏中，但也发生在艺术、音乐、诗歌、科学、宗教中。好或坏，暂时搁置，只是理解我们处于历史时刻，数千年来关于你如何思考、如何想象的限制正在被推开，因为人工智能正在开发新的思考和想象方式。
---
七、金融风险与未知的未来
那么对于国家来说，想想巴西。你几次来这里，我们没能解决基本问题，比如不平等、城市暴力，以及我们仍然面临的许多挑战。所以，我们如何能……好吧，我们不会在巴西思考人工智能，因为我们需要先解决这些事情，有更紧迫的事情要解决。
这是一个关于优先级的棘手平衡。
我想让你去，因为你谈到了一点，好吧，如果你认为它不会在年底到来，你将会是……它无处不在。我的意思是，我们现在生活在一个全球世界，拥有全球经济、全球信息网络。它不会是一场只停留在美国或只停留在中国的革命。它将很快来到 everywhere。
有点像，你知道，假设这是 19 世纪初，我们生活在南非的祖鲁帝国（Zulu Empire），我告诉你，看，在英国，他们刚刚发明了蒸汽机，他们有火车和蒸汽船等等。你说，是的，这都很有趣，但我们祖鲁帝国有更紧迫的问题要处理。我们有贫困，我们有这个，我们有那个。我们不在乎，让英国人处理他们的蒸汽机吧。几年内，你就成了英国殖民地，因为英国蒸汽机、英国蒸汽船，带着他们的火车、机枪和新技术征服了你。
所以人工智能不会停留在硅谷。它已经在这里了。它已经在智能手机上了。如果你看看巴西的公共领域，就像世界上几乎所有国家一样，依赖于这项技术，技术的任何变化都将改变社会，改变民主制度。
如果你想想经济，如果人工智能使得在美国生产纺织品比在拉丁美洲更便宜，这将对拉丁美洲所有纺织工业产生巨大影响。所以无论是就业市场，无论是政治，无论是军事，一旦你拥有完全自主的武器，比如人工智能无人机或由人工智能控制的数千架无人机群，这可能在一两年内使世界上所有的军队过时。
所以这不是你可以说“我们有更多……"的事情。我的意思是，当然还有其他问题，从不平等和贫困到气候变化和生态危机，但人工智能将对所有这些问题产生好或坏的影响。但让我感到恐惧的是，好吧，这是自工业革命以来最大的变化，但从工业革命到我们拥有稳定的地缘政治，我们需要两次世界大战来让世界理解全球链条等等。所以如果这是自工业革命以来最大的技术革命，我害怕接下来会发生什么？
是的，我的意思是，当我们把人工智能革命与工业革命相比时，我认为这是重要的教训之一。因为当我们谈论人工智能的威胁时，硅谷等地的许多人会说，你知道，当工业革命开始时，人们发明了蒸汽机和火车等等，你有了所有这些可怕的场景，说这将破坏就业市场，这将创造问题，但看，世界变得好多了。如果你看 1800 年的世界和 2000 年的世界，你会看到几乎所有东西都改善了。人们活得更长，更健康，有更多食物。太棒了。
这在很大程度上是真的。如果你只看 1800 年和 2000 年，你会看到改善。但在历史中，问题往往不是目的地。问题是通往目的地的道路。如果你看 1800 年到 2000 年之间的历史，它不是这样走的。它是这样走的。
从蒸汽机到 2000 年的世界，路上有很多灾难，因为人类不知道如何建立工业社会。历史上没有先例。你如何建立这个？我们习惯了农业社会，人们在农业工作。你如何建立一个基于蒸汽机、火车、电报，后来是汽车和飞机的社会？
所以人们的一个想法是，我们需要建立帝国。19 世纪的许多人认为，建立工业社会的唯一方法是建立帝国，因为工业社会需要大量原材料，煤、铁、橡胶等等。它们需要工业产品的市场。所以如果你想建立工业社会，你必须征服殖民地，建立帝国。我们得到了现代欧洲帝国主义作为结果，欧洲征服了整个非洲和世界大部分地区。
然后人们有一个想法，建立工业社会的唯一方法是建立极权政权。在 20 世纪初，许多人认为工业的力量只能由极权政权控制和利用，该政权将控制经济、社会、政治、文化，一切。你得到了苏联和共产主义。你得到了纳粹德国和法西斯意大利。这是一种非常普遍的想法。
现在今天，我们回顾说：“哦，这些都是大错误。你不需要建立帝国来拥有工业社会。你不需要极权主义。最好拥有自由民主。”但人类不得不经历两个世纪的灾难性战争、革命和危机，来学习如何建立好的工业社会。
所以我们需要反弹。
是的。如果我们必须经历同样的学习周期与人工智能，这是非常非常坏的消息。我们负担不起另一轮世界大战和人工智能帝国和极权政权来学习如何建立好的人工智能社会。
不，但我在你说话时，我将其与全球经济联系起来，因为你说这不是科幻，不是将为我们孙子到来的东西，它明天就来了，特别是美国现在他们 heavily 赌注人工智能将在未来五年改变世界。你认为世界现在承担的风险很大吗？如果我们在短时间内可能面临类似互联网泡沫破裂的情况，会有什么危险和后果？
当你看到巨额资金，你谈论的是数千亿，甚至数万亿美元被拉入人工智能竞赛。能源的数量，你知道，他们在建造核反应堆。他们重新启动煤炭发电来为人工智能竞赛提供燃料。这只是巨大的资源。
美国股市目前基本上是对人工智能的一次大赌注。
即人工智能将改变世界。他们将在两到五年内达到超级智能，或有时被称为 AGI（通用人工智能）。我不知道会发生什么。
事情是，市场没有耐心。如果你看，就像你提到的 2000 年的互联网泡沫，你在 90 年代对互联网有所有这些巨大的期望，结果证明是完全正确的。就像人们在 1998 年、1999 年对互联网未来世界的所有惊人愿景，它们实际上实现了，甚至更多。但市场仍在 2000 年崩溃，因为它来得不够快，市场非常不耐烦。
现在我认为人们对人工智能的大多数期望基本上是正确的，但它是否会在未来两三年内到来，这是一个巨大的赌注。如果失败，我们可能会看到比 2000 年互联网泡沫甚至 2007-2008 年崩溃更大的金融崩溃。
或者，另一个有趣的场景是，人工智能本身将导致崩溃。因为随着人工智能的发展，它们可能会被赋予，就像我们之前提到的，在金融部门越来越多的代理权。
比如人工智能将被赋予许可、能力，拥有银行账户，在市场上进行投资，发明新的金融工具。
如果你想想 2007-2008 年金融危机，它是由一种叫做 CDOs（担保债务凭证）的金融工具触发的。一种非常复杂的金融工具，由华尔街的一些金融大师发明，几乎没人理解它如何工作，这就是为什么它没有被适当监管。几年内，这些 CDOs 赚了数十亿美元，每个人都开心，然后它崩溃了，把整个市场拉了下来。
现在今天或也许五年后，如果我们允许人工智能不仅投资于股市，而且发明新的金融工具，这些工具可能如此复杂，地球上没有人类理解这些新工具。
几年内，一切看起来都很美好，感谢人工智能发明的新金融工具和策略。有些人或一些公司赚了数十亿甚至数万亿美元，然后有一天市场崩溃了。有一个崩溃，地球上没有人类理解发生了什么，因为人工智能创造了一个超出人类理解能力的金融系统。
甚至今天，我认为可以说，地球上 99% 的人不理解金融系统。也许 1% 理解。五年内，理解金融系统的人数可能为零，因为如果它被人工智能接管，它们可以创造我们根本无法理解的金融系统，就像马无法理解金钱或我们的金融系统一样。
所以这是另一个实际问题，对政治家、选民、监管者来说。你是否允许人工智能成为金融代理人，而不仅仅是投资金钱和开设银行账户，而是发明和创造新的金融工具？这听起来几乎像科幻问题。
未来的构想：尤瓦尔·赫拉利与卢西亚诺·赫克对话录（下）
一、科技巨头的野心：改变生命演化的进程
**问：** 这是一个完全实际的问题，我们需要在未来两三年内解决。因为您的思想和著作，您一直在倾听世界各地的声音，与全球许多人交谈。您对正在发生的事情有着非常独特的视角。正如您所说，一切都在改变：我们的工作方式、学习方式、教学方式、谈判方式、发明方式、协作方式，甚至战争也在改变。代码正在被重新编写。我的担忧是，如果世界历史上曾有一个时刻最需要最聪明的头脑，那就是现在。但感觉并非如此。运行这些代码的人，领导 AI 革命的人，他们的思维方式与地球上大多数人截然不同。人们有时认为：“哦，这些科技巨头想要钱，想要权力。”但实际上，他们想要的远比金钱或权力更宏大。
**答：** 他们想要改变生命演化的进程，甚至改变宇宙演化的进程。在某些人的脑海中，未来的某个时刻，也许是数百万年、数十亿年之后，当他们书写宇宙历史时，时间线可能是这样的：大爆炸发生在 140 亿年前；100 亿年后，地球上出现了生命，这是目前我们所知的宇宙中唯一的生命；再过 40 亿年，埃隆·马斯克和 AI 的诞生。这就是他们心中的时间线。
这并非完全的幻想。如果你思考宇宙中生命的轨迹，可以说，自 40 亿年前有机生命在地球上出现以来，所有生命在某种程度上都是相同的，都是有机的。你有阿米巴原虫，有恐龙，有香蕉，也有人类。但这都只是有机生命，而且都局限于这颗星球，因为有机生命从地球扩散到宇宙其他地方极其困难。在火星上或在太空旅程中维持一个人类的生命是非常非常困难的。
理解 AI 的一种方式，是将其视为非有机生命。这种非有机生命遵循与有机生命完全不同的原则，可以很容易地在太空中和其他星球上维持。如果你考虑用智人殖民火星，那非常困难。但用 AI 殖民火星则容易得多。因此，认为宇宙中生命的历史可能呈现这种形态，并不是一个完全疯狂的想法。对于许多领导 AI 竞赛的人来说，这就是他们在思考的内容。他们不是在思考下一次选举，也不是在思考赚取十亿或一千亿美元。美元什么都不是，美元只是我们脑海中的想象。他们在思考创造全新的意识，非有机智能，这些智能可以像我们无法做到的那样在宇宙中扩散。
二、有机与非有机：生命节奏的冲突
**问：** 撇开好坏不谈，这只是理解我们潜在面临的变化规模。某种程度上，这是我们每个人都能在生活中感受到的，有机生命与非有机生命之间日益增长的张力。
**答：** 有机生命，比如我们、恐龙和香蕉，所有有机生命的共同点是我们依靠循环生活。白天与黑夜，生长与衰败，活动与休息。有机生命就是循环。而非有机生命，即 AI，它们不遵循这些循环。它们不在乎是白天还是黑夜，是夏天还是冬天。它们永远不需要休息，永远不需要睡眠。
我们所有人遇到这种新的非有机生命的地方之一，就是日益增长的“时刻在线”的压力。有机体有时是“开”的，有时是“关”的。如果你试图让一个有机体、一个动物时刻保持活跃，它最终会崩溃并死亡。但算法、AI 可以时刻保持活跃。在 AI 进入并开始主导的每一个生活领域，人类都面临着时刻保持活跃的压力。
就像我提到的证券交易所。传统上，华尔街的证券交易所只在周一到周五的上午 9:30 到下午 4:00 开放。在夜晚、周末、节假日如圣诞节，华尔街是离线关闭的，因为人类银行家和投资者也是有机的生物。他们需要睡眠，想去度假，想花时间陪伴家人。随着 AI 接管金融，银行家、投资者等人面临着时刻保持在线的压力。市场现在可以一年 360 天、24 小时运作。如果你想度假或想睡觉，你就会被抛在后面。媒体领域也在发生同样的事情，新闻周期现在是全天候的。政治领域也是如此，政治现在是全天候的。如果你想休假，你就会被抛在后面。
因此，我们每个人在某种程度上都遇到了从有机到非有机的转变，这种时刻保持活跃的压力日益增长，这对人类的福祉具有破坏性。
三、比尔·盖茨的转向：气候还是 AI？
**问：** 您提到了科技巨头，提到了埃隆·马斯克，我想提到比尔·盖茨。本周比尔·盖茨发表了一篇文章，引发了许多解读。他基本上表示，他将把部分关注点从气候解决方案转移开，认为像全球南方的不平等和贫困等问题现在需要更紧迫的关注。您如何解读这种立场的转变？这与 AI 有关吗？与事情的时间框架有关吗？我想听听您的看法。
**答：** 我无法进入他的内心，所以我不确定。一种解读是，盖茨基本上是在告诉人们我们成功了。因为他的投资——当然，不像某些媒体所读的那样，他绝对没有说“哦，我们犯了一个大错误，从一开始对气候和生态的关注就是一个大错误”。这绝对不是他说的。一种解读是，他说：“看，我们在过去几十年所做的努力已经取得了成效，我们现在处于一个轨迹上，虽然仍有危险和问题，但最坏的情景现在已经避免了。”因此，气候问题在政治和经济优先事项中可以降级，主要是因为在我们看到潜在的灾难性气候事件之前还有很长时间，而其他事情则紧迫得多。这是一种解读，基本上是说：“嘿，我们在某种程度上成功了。”
另一种解读与 AI 有关。微软当然是 AI 竞赛中的主要参与者之一，基本上他们在说，除了 AI 竞赛，现在其他什么都不重要，因为它发展得太快，而且 stakes（赌注）太高。如果对 AI 的赌注成功了，如果我们在未来五年内创造出超级智能 AI，它没有失控并毁灭我们，而是实际上帮助了我们，那么这个 AI 将解决所有我们不知道如何解决的问题，比如气候变化。所以我们不需要担心气候变化。我们只需要解决超级智能 AI。如果它失控了，AI 摧毁了人类文明，那么我们也不需要担心气候变化，因为我们不会在这里了。
所以无论你怎么看，这是一种解读方式。唯一重要的是 AI 竞赛，因为它将在未来五到十年内要么拯救我们，要么毁灭我们。所以担心 30 年后的气候灾难，正变得无关紧要。
四、冥想：构建内心的避难所
**问：** 您还有大约 10 分钟时间，我妻子在这里。如果我不跟您谈谈冥想，我今晚在家睡不着觉。这是一个很好的切入点，因为我认为船不会沉没是因为周围的水，而是当水进入船内时才会沉没。您告诉我们并分享的所有事情，直接影响了许多人的心理健康。我们在网上花费多少时间，对于孩子、年轻人、每个人来说都是如此。我想知道您能否分享您的冥想体验。我认为有一点会触动我们所有人，那就是您为什么喜欢看足球比赛。
**答：** 好的，这是个好问题。首先，也许将其与我们刚才讨论的话题联系起来。许多这些科技巨头和亿万富翁，他们也在为末日的可能性做准备。如果一切出错，他们正在建造末日地堡，当失控的末日来临时，他们会躲进去。讨论最热门的话题之一是在哪里建造末日地堡：新西兰、阿拉斯加还是蒙大拿？哪里是最好的地方？
我认为建造地堡最好的地方是在你的心里。因为我们现在看到的威胁类型，如极化、仇恨和极端主义水平的上升，以及 AI 将产生的威胁类型，它们可以到达任何地方，新西兰、阿拉斯加。物理距离不再重要。问题是如何保护你的思想免受操纵，如何保护你的思想免受攻击，如何保护你的思想免受时刻保持在线、时刻保持活跃的要求。这也是我练习冥想的一大原因。
这是为了强化我的思想，以便应对无人知晓 AI 革命将如何演变，以及它将如何与气候变化和其他正在发生的事情相互作用。但前方将是一条非常颠簸的道路。会有很多冲击。当人们问我应该学什么、应该研究什么，以便在五年或十年后拥有必要的技能时，没有人真的知道。但我知道，人们需要一个强大而平衡的思想来应对这些动荡。
关于强化你的思想，这是你不能委托给别人的事情。你不能找一个助手来为你强化思想。你不能向问题扔钱。你需要时间。而且你投入得越多，你就会看到越多的结果。
对我来说，至关重要的事情，冥想的基础问题是：什么是现实？什么是真实的？如何区分现实与虚构和幻想？我们现在被算法和机器人创造的巨大幻想和虚构浪潮所淹没，而且只会变得更糟。我们自己的思想就像一座制造幻想和虚构的工厂。我们很难看到现实，不仅是世界的现实，还有我们的关系、我们自己的生活的现实，因为在我和现实之间，有我们不断在脑海中产生的故事。
冥想的本质在于放下所有的故事、所有的虚构、所有的幻想，并发展出看到当下真正发生什么的能力。而且不急于评判，不急于说它是好的、坏的，我喜欢、我不喜欢。首先，只是理解正在发生什么。你知道，冥想的第一项练习，至少当我开始时，是关于仅仅观察感觉呼吸进出鼻孔。就像我 25 年前参加第一个冥想课程时。给我的第一个指示是：坐下，闭上眼睛，将所有注意力集中在感觉呼吸进出你的鼻孔上。我以为这很容易。但在几秒钟内，我意识到这是世界上最难的事情之一。我试图专注于呼吸进出，但我的思想不断逃跑到某个幻想、某个故事、某个记忆中。
如果你找一个随机的人，告诉他们，如果你能坐着不动身体一小时，我给你一百万美元。即使这个人没有瑜伽或冥想的经验，他们也可以强迫自己坐住。他们可以强迫眼睛闭上，腿不动。一百万美元，那是很多钱。但如果你找同一个人，告诉他们，如果你的思想坐住不动，不是一个小时，忘掉一个小时，十分钟，一分钟，我给你一百万美元。不可能。
每个人，即使从未冥想过，可能也从经验中知道这一点。比如你晚上睡觉，也许明天有重要的考试或重要的演讲，你告诉自己，我需要睡个好觉。我需要睡。突然，所有这些想法和担忧出现在脑海中，你试图告诉思想走开，我需要睡觉。但你做不到，因为我们对思想的控制太少了。这就是我在第一次冥想体验中发现的，这个看似简单的指示，只是感觉呼吸进出你的鼻子。这是现实。还有什么比感觉你的呼吸更真实的？如果你不呼吸，你就会死。然而却如此困难。
现在，如果连观察呼吸进出鼻孔的现实我都做不到，我怎么能希望理解巴以冲突的现实、全球经济体系的现实、AI 革命的现实呢？所以对我来说，冥想是一种日常练习，教导思想坐住不动，只是观察现实，而不逃跑到某个幻想、某个虚构、某个记忆中。
五、足球哲学：过程重于结果
**问：** 还有足球。
**答：** 哦，是的，足球。
**问：** 以足球结束。这是一个很好的结束点。
**答：** 你知道，随着世界加速得越来越快，我认为衡量心理健康的一个指标是足球，观看足球，当然也包括踢足球，但主要是观看足球。因为关于足球的事情是，你知道，你看一场比赛 90 分钟，大部分时间什么都没有发生。大部分发生的事情是在中间。如果你像计算机科学工程师一样，从事这种优化 AI 的工作，你可能会想：“嘿，我可以优化观看足球的体验。我可以只取精彩片段。比如，如果你有一场 90 分钟的比赛，有两个进球，我只取这两个进球，我只看 30 秒。”但如果你那样做，你就错过了整个事情。
真正的体验是观看完整的 90 分钟。即使它以 0:0 结束，仍然值得。保持这种长形式的能力，停留在足球的现实中，而不仅仅是奔向进球。我认为这是关于人类心理健康非常深刻的东西。我们可以停留在过程中。我们不仅仅痴迷于目标。
**问：** 谢谢。