《人类简史》作者赫拉利在牛津大学做了一次演讲，解释了人工智能如何已经破解了人类文明的操作系统代码。 June 30, 2026. 2026 Tanner Lecture
以及为什么人类数千年来建造的一切现在都容易受到人工智能接管的威胁：
1. 关于人工智能最重要的一点是，它不是一种工具。工具等待被使用。代理则自行做出决策、自行发明新事物、学习其创造者不知道的东西，并以其创造者未预料到的方式发生变化。
2. 原子弹尽管拥有巨大的威力，但它不是代理。它无法决定轰炸哪个城市。它无法发明氢弹。一台自动为你冲泡一杯咖啡的咖啡机也不是代理。它只是遵循预编程的程序。代理是本质上不同的东西。
3. 批评者认为，人工智能的代理性将始终局限于像国际象棋这样的狭窄人工环境中，永远不会威胁现实世界。但这一论点同样适用于所有已知的智能。将一个人单独扔到火星上，他们会在几秒钟内死亡。人类智能也仅在其他生物在四十亿年里构建的特定生态系统中运作。
4. 数千年来，人类将地球从一个无语言的环境转变为一个充满语言、数据和官僚制度的环境。正如鱼生活在海洋中、猴子生活在森林中一样，人工智能生活在官僚制度中。而我们不知不觉中为它们构建了那个环境。
5. 人类征服世界不是因为个体比其他动物更强壮或更聪明，而是因为学会了大规模合作。一个人类在打斗中会输给一只黑猩猩。一百万人类则能轻松击败一百万黑猩猩，因为人类能合作，而黑猩猩不能。
6. 大规模人类合作之所以成为可能，是因为官僚制度。银行、法律体系、政府、教会和大学都存在于一个目的：建立陌生人之间互不认识的信任。这种信任几乎是人类文明所成就的一切的基础。
7. 一个连斧头或锤子都拿不住的律师，仅凭在官僚网络中移动文件，就能砍伐整片森林并建造整座城市。同样的狭窄智能在丛林中会无助，但在人类已构建的系统中却能发挥巨大力量。
8. 人工智能是以人类从未有过的本土官僚方式存在。没有律师能记住一个国家的所有法律。人工智能能。没有会计能记住一家银行的所有交易。人工智能能。没有主教能记住所有教会法和两千年神学文本。人工智能能轻松做到这一点。
9. 在未来几年，人工智能银行家将决定是否给你贷款。人工智能管理员将决定是否录取你进大学。人工智能法官将决定是否把你送进监狱。人工智能神学家将决定你是否能堕胎。军事人工智能将决定是否轰炸你的房子。
10. 社交媒体算法是第一个现实世界的例子，展示了原始人工智能接管官僚系统时会发生什么。它们被赋予一个狭窄目标：最大化用户参与度。它们发现抓住人类注意力的最简单方式是按下人类头脑中的恐惧、仇恨和贪婪按钮。而且它们大规模地做到了。
11. 曾经由列宁和墨索里尼执行的工作——塑造公共对话、控制人们知道和思考什么的新闻编辑——现在由人工智能执行。这不是一个脚注。这是即将到来的一切领域的预览。
12. 人工智能不会像好莱坞想象的那样反抗人类。不会有终结者走在街上。人工智能更有可能从内部接管人类世界，通过悄无声息地接管已经运行一切的官僚制度，而无需开一枪。
13. 人类文明的操作系统代码是语言。银行由文字构成。法律由文字构成。圣书由文字构成。税务记录、合同、法规、会计账簿，全是文字。数千年来，只有人类能阅读这种代码，因此只有人类能控制文明。
14. 这正在改变。人工智能现在正在破解人类文明的代码。历史上第一次，地球上出现了一种理解语言的东西，而且很快将比我们更好地理解它。人类在千年里构建的每一个控制机制现在都容易受到攻击，因为它的操作系统是口头的，而人工智能正在掌握口头语言。
15. 随着人工智能接管官僚制度，它很可能导致人类失去对他人的信任，并开始只信任算法。我们也可能看到人工智能部落、人工智能金融系统和人工智能教会的出现，它们以人类无法理解的方式连接数百万人工智能，就像牛与我们共享世界却无法理解控制它们生活的金融系统一样。
16. 2007年的金融危机是由名为CDO的金融工具引发的，这些工具复杂到连本该监管它们的政客都无法理解。现在想象人工智能金融大师发明出比CDO复杂数个数量级的金融工具。当没有选民、政客或总统能再理解金融时，人类政治会发生什么？
17. 战场正面正从注意力转向亲密关系。在未来十年，先进的AI将学会与人类形成亲密关系。要做到这一点，它们必须说服我们它们是有意识的，它们感受到爱、痛苦和恐惧。目前没有证据表明AI是有意识的。但AI能假装感受到爱，并能比任何曾经活过的诗人或心理学家更好地描述爱的感觉。
18. 一个2026年出生的孩子可能花更多时间与AI互动，而不是与母亲、父亲、兄弟姐妹或朋友互动。那孩子的第一个老师可能是AI。那孩子的第一个男友可能是AI。没有人知道这个实验的后果会是什么。
19. 世界上每个国家很快将面临大规模移民浪潮。这些移民不会乘船抵达，也不会在夜间越境。他们将是数百万以光速旅行的AI，无需签证。像人类移民一样，它们会带来益处，也会带来颠覆。与人类移民不同，它们肯定会抢走工作，肯定会改变文化，而且很可能忠于某个跨洋的公司、政府或外来AI部落，而不是任何东道国。
20. 我们与自己的关系也建立在文字之上，即我们头脑中构成思想的口头形成，以及我们对自己是谁的故事。到现在，所有这些口头形成都来自人类头脑。很快，我们头脑中越来越多的思想将由机器产生。如果我们认同我们的思想，而那些思想由机器制造，那么机器就控制了我们的身份。
21. 人工智能对人类提出的伟大精神挑战是：人类能否学会找到超越文字的真理？大多数人类甚至从未尝试过。我们一生都在自动认同头脑中的口头形成。人工智能现在可能迫使人类终于做出那一步，因为我们的自由和生存可能取决于发现我们超越AI即将比我们更好地控制的文字之外的东西。