自由本身要求不适。
它要求不满。
因为一个社会越自由，每个人就越会被迫面对、妥协于那些与自己观点、生活方式和想法相冲突的观点。
我们对痛苦的耐受力越低，我们沉迷于虚假的自由越多，我们就越无法维持一个自由民主社会所需的美德。
这很可怕。
因为没有民主，我们真的完蛋了。
真的，事实证明，在几乎所有方面，没有民主代表制的生活都会变得更糟。
30 并不是因为民主如此伟大。
而是因为一个运作良好的民主制度比其他任何形式的政府更少出问题，也更少严重出问题。
或者，正如丘吉尔曾经著名地说过：“民主是最糟糕的政府形式，除了所有其他的。”
世界之所以变得文明起来，人们停止互相残杀是因为现代社会机构有效地遏制了希望的破坏性力量。
民主是少数几种能让其他宗教和谐共存的宗教之一。
但当这些社会机构被不断取悦人民的情绪脑的需求所腐蚀，当人们变得不信任并失去对民主制度自我纠正能力的信心时，那就回到了宗教战争的混乱局面。
31 随着技术革新不断推进，每一次宗教战争的循环可能造成的破坏更大，毁灭更多的人类生命。
32 柏拉图认为社会是周期性的，来回摆动于自由和暴政之间，相对平等和巨大不平等之间。
经过过去两千五百年后，显然这并不完全正确。
但在历史中确实可以看到政治冲突的模式，你会一次又一次看到相同的宗教主题浮现——主人道德的激进等级制度与奴隶道德的激进平等主义之间的对立，暴君领导人的崛起与民主制度的分散权力之间的斗争，成年人的美德与幼稚的极端主义之间的较量。
虽然几个世纪以来“主义”发生了变化，但每个运动背后都是由希望驱动的人类冲动。
虽然每种后来的宗教都认为自己是终极的、大写的“真理”，团结全人类在一个和谐的旗帜下，到目前为止，它们都只是部分和不完整的。
第九章 最终的宗教
1997年，IBM开发的超级计算机深蓝击败了世界最佳棋手加里·卡斯帕罗夫。
这是计算机历史上一个重要的里程碑，一个震撼了许多人对科技、智能和人性理解的地震事件。
但如今，这已成为一段温馨的回忆：当然一台电脑会击败世界冠军。
为什么不会呢？
自从计算开始，国际象棋一直是测试人工智能的最爱。
1 那是因为国际象棋拥有近乎无限的排列组合：可能的国际象棋游戏数量比可观测宇宙中的原子数量还要多。
在任何棋盘布局中，如果只看三到四步之后的情况，就已经有数亿种变化。
为了让计算机匹配人类玩家，它不仅必须能够计算出难以置信数量的可能结果，还必须具备强大的算法来帮助它判断哪些值得计算。
换句话说：要击败人类玩家，计算机的思考脑即使远远优于人类，也必须被编程来评估更有价值或无价值的棋盘位置——也就是说，计算机必须有一个适度强大的“感觉脑”。
2 自从1997年的那一天起，计算机在国际象棋上的进步以惊人的速度继续。
在接下来的十五年里，顶级人类棋手经常被国际象棋软件击败，有时甚至是以令人尴尬的差距。
3 如今，差距已经非常明显。
卡斯帕罗夫本人最近开玩笑说，大多数智能手机上预装的国际象棋应用“比深蓝强大得多”。
如今，国际象棋软件开发者举办比赛，看看谁的算法能脱颖而出。
人类不仅被排除在这些比赛之外，即使参赛也可能排名不够高，无关紧要。
在过去几年里，国际象棋软件界的无争议冠军是一款名为Stockfish的开源程序。
自2014年以来，Stockfish几乎赢得了所有重要国际象棋软件比赛的冠军或亚军。
由六位终生从事国际象棋软件开发的合作者共同开发，Stockfish如今代表了国际象棋逻辑的巅峰。
它不仅是国际象棋引擎，还可以分析任何棋局、任何局面，在玩家每次走棋后几秒内提供特级大师级别的反馈。
Stockfish一直高高兴兴地作为计算机国际象棋之王，成为全球所有国际象棋分析的黄金标准，直到2018年谷歌加入战局。
然后事情变得奇怪起来。
谷歌有一个名为AlphaZero的程序。
它不是国际象棋软件。
它是人工智能（AI）软件。
它不是被编程来玩国际象棋或其他游戏，而是被编程来学习——不仅仅是国际象棋，而是任何游戏。
2018年初，Stockfish与谷歌的AlphaZero交锋。
从纸面上看，这根本不是一场公平的比赛。
AlphaZero每秒只能计算八万个棋盘位置。
Stockfish？七千万个。
在计算能力上，这就像我参加一场与一级方程式赛车的赛跑。
但更奇怪的是：比赛当天，AlphaZero甚至不知道如何下国际象棋。没错，一点没错——在与世界上最好的国际象棋软件对弈之前，AlphaZero 只花了不到一天的时间从零开始学习国际象棋。
这软件大部分时间都在自己和自己进行模拟对局，边玩边学。
它发展策略和原则的方式和人类一样：通过反复试验。
想象一下这个场景。
你刚学会国际象棋的规则，这是地球上最复杂的棋类游戏之一。
你被给了不到一天的时间在棋盘上折腾一番，想出一些策略。
然后，你的第一场正式比赛将会是对阵世界冠军。
祝你好运。
然而，不知怎么的，AlphaZero 赢了。
好吧，不仅仅是赢。
AlphaZero 把 Stockfish 打爆了。
在一百场比赛中，AlphaZero 赢了或者平了每一局。
再读一遍：仅仅在学会国际象棋规则九小时后，AlphaZero 就与世界上最强的国际象棋实体对弈，并且在一百场比赛中一局未输。
这是一个如此前所未有的结果，以至于人们到现在还不知道该如何解读它。
国际象棋特级大师们惊叹于 AlphaZero 的创造力和智慧。
其中一位，彼得·海因·尼尔森（Peter Heine Nielsen），激动地说道：“我一直想知道，如果一个更高级的物种降临地球并展示给我们他们如何下棋会是什么样。
我现在知道了。”
当 AlphaZero 完成对 Stockfish 的挑战后，它并没有休息。
哼！休息是弱者的专利。
相反，刚刚完成对 Stockfish 的挑战后，AlphaZero 马上开始自学另一种策略游戏——将棋。
将棋常被称为日本国际象棋，但许多人认为它比国际象棋更复杂。
与卡斯帕罗夫在1997年输给电脑不同，顶级将棋选手直到2013年才开始输给电脑。
无论如何，AlphaZero 击败了顶级将棋软件（名为“Elmo”），并且是以同样惊人的比分：在一百场比赛中，它赢了九十场，输了八场，平了两场。
再一次，AlphaZero 的计算能力远不及 Elmo。
（在这个例子中，它每秒可以计算四万步，而 Elmo 可以计算三千五百万步。）
再一次，AlphaZero 在前一天甚至不知道如何玩这个游戏。
早上，它自学了两种无限复杂的棋类游戏。
到了晚上，它已经摧毁了地球上已知的最佳对手。
新闻速递：人工智能来了。
虽然国际象棋和将棋是一回事，但一旦我们将人工智能从棋盘上移到会议室里，
嗯，你我以及其他所有人可能都会发现自己失业了。
已经有一些人工智能程序发明了自己的语言，人类无法破解；它们在诊断肺炎方面比医生更有效；甚至还能写出可接受的《哈利·波特》粉丝小说章节。
写到这里的时候，我们正处于自动驾驶汽车、自动化法律咨询以及计算机生成的艺术和音乐的边缘。
缓慢但确定无疑，人工智能将在几乎所有领域变得比我们更好：医学、工程、建筑、艺术、技术革新。
你会观看由人工智能创作的电影，并在由人工智能构建的网站或移动平台上讨论它们，这些平台还由人工智能监管，甚至可能会发现你争论的对象就是一个人工智能。
但即使听起来疯狂，这也只是个开始。
因为这里才是真正令人不安的地方：当一个人工智能能够编写出比我们更好的人工智能软件时。
那一天到来时，当一个人工智能可以随意创造更好的自己时，系好安全带吧，朋友，因为这将是一次疯狂的旅程，我们将不再掌控我们的方向。
人工智能将达到这样的程度，它的智能远远超过我们的理解范围，以至于我们无法明白它在做什么。
汽车会因为我们无法理解的原因来接我们，带我们去我们不知道存在的地方。
我们会意外地收到治疗我们不知道自己患有的疾病的药物。
也许我们的孩子会转学，我们会换工作，经济政策会突然改变，政府会重写宪法——而我们中的任何一个人也无法完全理解其中的原因。
它将只是一种必然发生的事情。
我们的“思考脑”太慢了，“情绪脑”则过于不稳定和危险。
就像 AlphaZero 在短短几个小时内就发明了国际象棋策略，这是国际象棋大师无法预料的，先进的人工智能也可能以我们无法想象的方式重组社会和我们在其中的位置。
然后，我们将回到起点：崇拜那些看似控制我们命运的不可知的力量。
正如原始人类祈祷求雨和火焰一样——他们献祭、送礼、制定仪式，并改变自己的行为和外表以取悦自然界的神灵——我们也一样。
但不是向原始的神灵祈祷，而是向人工智能神灵献身。
我们会对算法产生迷信。
如果你穿这件衣服，算法会对你有利。
如果你在特定时刻醒来，说正确的话，出现在正确的地方，机器会赐予你巨大的好运。
如果你诚实，不伤害他人，照顾好自己和家人，人工智能神灵会保护你。
旧神会被新神取代：算法。
而且有一种进化上的讽刺意味，正是科学杀死了旧神，却创造了新神。
人类将回归宗教。
我们的宗教不会与古代的宗教完全不同——毕竟，我们的心理本质上是进化到崇拜那些我们不理解的事物，尊崇帮助或伤害我们的力量，在我们的经历周围构建价值体系，寻求带来希望的冲突。
为什么人工智能会有所不同？当然，我们的 AI 神灵会理解这一点。
它们要么找到一种方法“升级”我们的大脑，摆脱我们原始的心理需求，要么干脆为我们制造人为的冲突。
我们将像它们的宠物狗一样，坚信我们不惜一切代价在保护和争夺领地，但实际上只是在不断对虚拟的消防栓撒尿。
这可能让你害怕。
这可能让你兴奋。
无论如何，这很可能不可避免。
权力来自操纵和处理信息的能力，而我们最终总是崇拜对我们最有影响力的东西。
所以，让我告诉你，我很欢迎我们的 AI 主宰者。
我知道，这不是你所期待的终极宗教。
但这就是你错了：期望。
不要哀叹失去自主权。
如果服从人工算法听起来很糟糕，记住这一点：你已经在这样做了。
而且你喜欢这样做。
算法已经掌控了我们生活的许多方面。
你上班走的路线是基于一个算法。
本周你和许多朋友的交谈？那些对话也是基于算法。
你给孩子买的礼物，豪华包装中包含的厕纸数量，你在超市作为会员节省的五十美分——所有这些都是算法的结果。
我们需要这些算法，因为它们让我们的生活更轻松。
未来的算法之神也会这样。
正如我们对待古代的神明一样，我们将为它们欢呼并感恩。
事实上，没有它们的生活是难以想象的。
这些算法让我们的生活更好。
它们让我们的生活更高效。
它们让我们更高效。
这就是为什么，一旦我们跨过那道门槛，就再也回不去了。
我们是糟糕的算法
这是看待世界历史的另一个角度：
生命和无生命的区别在于，生命是会自我复制的物质。
生命是由细胞和 DNA 构成的，它们会不断地复制自己。
在数亿年的过程中，一些原始的生命形式发展出了反馈机制，以便更好地繁殖自身。
早期的原生动物可能会在其膜上进化出小传感器，以便更好地检测氨基酸，从而复制更多的自身，这给了它相对于其他单细胞生物的优势。
但后来，或许有些其他的单细胞生物找到了一种“欺骗”其他类似变形虫的小东西的传感器的方法，从而干扰它们寻找食物的能力，为自己赢得了优势。
基本上，自从永恒之初，就一直在进行一场生物学军备竞赛。
这个小小的单细胞生物发展了一种很酷的策略，使其能够比其他单细胞生物获得更多的材料来复制自身，因此它赢得了资源并繁殖得更多。
然后，另一种小的单细胞生物进化了，并且有了一个更好的获取食物的策略，于是它大量繁殖。这会一直持续数十亿年，很快你会发现有蜥蜴能伪装自己的皮肤，猴子能模仿动物的声音，还有那些尴尬的中年离异男子把所有的钱都花在了亮红色的雪佛兰科迈罗上，尽管他们其实负担不起——这一切都因为这有助于它们的生存和繁殖能力。
这就是进化的故事——适者生存，诸如此类。
但你也可以从另一个角度来看待它。
你可以称之为“最佳信息处理者的生存”。
好吧，可能没那么朗朗上口，但也许更准确。
你看，那个在细胞膜上进化出传感器以更好地检测氨基酸的阿米巴——本质上，这是一种信息处理的形式。
它比其他生物更能感知环境的事实。
由于它发展出了一种比其他黏糊糊的细胞状东西更好的信息处理方式，它赢得了进化游戏并传播了自己的基因。
同样地，能够伪装皮肤的蜥蜴——这也进化出了一种操纵视觉信息的方式，让捕食者忽略它的存在。
猴子模仿动物声音的故事也是一样。
那个绝望的中年男人和他的科迈罗（或者可能不是）也是同样的道理。
进化奖励的是最强大的生物，而力量取决于获取、利用和有效操控信息的能力。
狮子可以在一英里外听到猎物的声音。
秃鹫可以从三千英尺的高空看到一只老鼠。
鲸鱼发展出了自己的个人歌曲，并且能够在水下互相交流到一百英里以外。
这些都是非凡的信息处理能力的例子，而接收和处理信息的能力与这些生物的生存和繁殖能力息息相关。
就身体而言，人类并不特别。
我们弱小、缓慢且脆弱，容易疲劳。
但11 我们是大自然终极的信息处理器。
我们是唯一能够概念化过去和未来、推断长链因果关系、以抽象方式计划和策略化、以及永远建造、创造和解决问题的物种。
12 在数百万年的进化过程中，“思考脑”（康德神圣的意识心）在短短几千年里主宰了整个地球，并催生了一个庞大而复杂的生产、技术和网络系统。
那是因为我们是算法。
意识本身是一个庞大的算法和决策树网络——基于价值观、知识和希望的算法。
我们的算法在最初的几十万年里运作得很好。
它们在草原上表现良好，当时我们正在猎杀野牛，生活在小型游牧社区中，并且一生中从未见过超过三十个人。
但在一个拥有数十亿人口的全球联网经济中，配备着数千枚核弹、Facebook隐私泄露事件以及全息迈克尔·杰克逊音乐会，我们的算法简直糟糕透顶。
它们崩溃了，使我们陷入不断升级的冲突循环之中，而这些冲突，由于我们的算法性质，无法带来永久的满足或最终的和平。
它要求不满。
因为一个社会越自由，每个人就越会被迫面对、妥协于那些与自己观点、生活方式和想法相冲突的观点。
我们对痛苦的耐受力越低，我们沉迷于虚假的自由越多，我们就越无法维持一个自由民主社会所需的美德。
这很可怕。
因为没有民主，我们真的完蛋了。
真的，事实证明，在几乎所有方面，没有民主代表制的生活都会变得更糟。
30 并不是因为民主如此伟大。
而是因为一个运作良好的民主制度比其他任何形式的政府更少出问题，也更少严重出问题。
或者，正如丘吉尔曾经著名地说过：“民主是最糟糕的政府形式，除了所有其他的。”
世界之所以变得文明起来，人们停止互相残杀是因为现代社会机构有效地遏制了希望的破坏性力量。
民主是少数几种能让其他宗教和谐共存的宗教之一。
但当这些社会机构被不断取悦人民的情绪脑的需求所腐蚀，当人们变得不信任并失去对民主制度自我纠正能力的信心时，那就回到了宗教战争的混乱局面。
31 随着技术革新不断推进，每一次宗教战争的循环可能造成的破坏更大，毁灭更多的人类生命。
32 柏拉图认为社会是周期性的，来回摆动于自由和暴政之间，相对平等和巨大不平等之间。
经过过去两千五百年后，显然这并不完全正确。
但在历史中确实可以看到政治冲突的模式，你会一次又一次看到相同的宗教主题浮现——主人道德的激进等级制度与奴隶道德的激进平等主义之间的对立，暴君领导人的崛起与民主制度的分散权力之间的斗争，成年人的美德与幼稚的极端主义之间的较量。
虽然几个世纪以来“主义”发生了变化，但每个运动背后都是由希望驱动的人类冲动。
虽然每种后来的宗教都认为自己是终极的、大写的“真理”，团结全人类在一个和谐的旗帜下，到目前为止，它们都只是部分和不完整的。
第九章 最终的宗教
1997年，IBM开发的超级计算机深蓝击败了世界最佳棋手加里·卡斯帕罗夫。
这是计算机历史上一个重要的里程碑，一个震撼了许多人对科技、智能和人性理解的地震事件。
但如今，这已成为一段温馨的回忆：当然一台电脑会击败世界冠军。
为什么不会呢？
自从计算开始，国际象棋一直是测试人工智能的最爱。
1 那是因为国际象棋拥有近乎无限的排列组合：可能的国际象棋游戏数量比可观测宇宙中的原子数量还要多。
在任何棋盘布局中，如果只看三到四步之后的情况，就已经有数亿种变化。
为了让计算机匹配人类玩家，它不仅必须能够计算出难以置信数量的可能结果，还必须具备强大的算法来帮助它判断哪些值得计算。
换句话说：要击败人类玩家，计算机的思考脑即使远远优于人类，也必须被编程来评估更有价值或无价值的棋盘位置——也就是说，计算机必须有一个适度强大的“感觉脑”。
2 自从1997年的那一天起，计算机在国际象棋上的进步以惊人的速度继续。
在接下来的十五年里，顶级人类棋手经常被国际象棋软件击败，有时甚至是以令人尴尬的差距。
3 如今，差距已经非常明显。
卡斯帕罗夫本人最近开玩笑说，大多数智能手机上预装的国际象棋应用“比深蓝强大得多”。
如今，国际象棋软件开发者举办比赛，看看谁的算法能脱颖而出。
人类不仅被排除在这些比赛之外，即使参赛也可能排名不够高，无关紧要。
在过去几年里，国际象棋软件界的无争议冠军是一款名为Stockfish的开源程序。
自2014年以来，Stockfish几乎赢得了所有重要国际象棋软件比赛的冠军或亚军。
由六位终生从事国际象棋软件开发的合作者共同开发，Stockfish如今代表了国际象棋逻辑的巅峰。
它不仅是国际象棋引擎，还可以分析任何棋局、任何局面，在玩家每次走棋后几秒内提供特级大师级别的反馈。
Stockfish一直高高兴兴地作为计算机国际象棋之王，成为全球所有国际象棋分析的黄金标准，直到2018年谷歌加入战局。
然后事情变得奇怪起来。
谷歌有一个名为AlphaZero的程序。
它不是国际象棋软件。
它是人工智能（AI）软件。
它不是被编程来玩国际象棋或其他游戏，而是被编程来学习——不仅仅是国际象棋，而是任何游戏。
2018年初，Stockfish与谷歌的AlphaZero交锋。
从纸面上看，这根本不是一场公平的比赛。
AlphaZero每秒只能计算八万个棋盘位置。
Stockfish？七千万个。
在计算能力上，这就像我参加一场与一级方程式赛车的赛跑。
但更奇怪的是：比赛当天，AlphaZero甚至不知道如何下国际象棋。没错，一点没错——在与世界上最好的国际象棋软件对弈之前，AlphaZero 只花了不到一天的时间从零开始学习国际象棋。
这软件大部分时间都在自己和自己进行模拟对局，边玩边学。
它发展策略和原则的方式和人类一样：通过反复试验。
想象一下这个场景。
你刚学会国际象棋的规则，这是地球上最复杂的棋类游戏之一。
你被给了不到一天的时间在棋盘上折腾一番，想出一些策略。
然后，你的第一场正式比赛将会是对阵世界冠军。
祝你好运。
然而，不知怎么的，AlphaZero 赢了。
好吧，不仅仅是赢。
AlphaZero 把 Stockfish 打爆了。
在一百场比赛中，AlphaZero 赢了或者平了每一局。
再读一遍：仅仅在学会国际象棋规则九小时后，AlphaZero 就与世界上最强的国际象棋实体对弈，并且在一百场比赛中一局未输。
这是一个如此前所未有的结果，以至于人们到现在还不知道该如何解读它。
国际象棋特级大师们惊叹于 AlphaZero 的创造力和智慧。
其中一位，彼得·海因·尼尔森（Peter Heine Nielsen），激动地说道：“我一直想知道，如果一个更高级的物种降临地球并展示给我们他们如何下棋会是什么样。
我现在知道了。”
当 AlphaZero 完成对 Stockfish 的挑战后，它并没有休息。
哼！休息是弱者的专利。
相反，刚刚完成对 Stockfish 的挑战后，AlphaZero 马上开始自学另一种策略游戏——将棋。
将棋常被称为日本国际象棋，但许多人认为它比国际象棋更复杂。
与卡斯帕罗夫在1997年输给电脑不同，顶级将棋选手直到2013年才开始输给电脑。
无论如何，AlphaZero 击败了顶级将棋软件（名为“Elmo”），并且是以同样惊人的比分：在一百场比赛中，它赢了九十场，输了八场，平了两场。
再一次，AlphaZero 的计算能力远不及 Elmo。
（在这个例子中，它每秒可以计算四万步，而 Elmo 可以计算三千五百万步。）
再一次，AlphaZero 在前一天甚至不知道如何玩这个游戏。
早上，它自学了两种无限复杂的棋类游戏。
到了晚上，它已经摧毁了地球上已知的最佳对手。
新闻速递：人工智能来了。
虽然国际象棋和将棋是一回事，但一旦我们将人工智能从棋盘上移到会议室里，
嗯，你我以及其他所有人可能都会发现自己失业了。
已经有一些人工智能程序发明了自己的语言，人类无法破解；它们在诊断肺炎方面比医生更有效；甚至还能写出可接受的《哈利·波特》粉丝小说章节。
写到这里的时候，我们正处于自动驾驶汽车、自动化法律咨询以及计算机生成的艺术和音乐的边缘。
缓慢但确定无疑，人工智能将在几乎所有领域变得比我们更好：医学、工程、建筑、艺术、技术革新。
你会观看由人工智能创作的电影，并在由人工智能构建的网站或移动平台上讨论它们，这些平台还由人工智能监管，甚至可能会发现你争论的对象就是一个人工智能。
但即使听起来疯狂，这也只是个开始。
因为这里才是真正令人不安的地方：当一个人工智能能够编写出比我们更好的人工智能软件时。
那一天到来时，当一个人工智能可以随意创造更好的自己时，系好安全带吧，朋友，因为这将是一次疯狂的旅程，我们将不再掌控我们的方向。
人工智能将达到这样的程度，它的智能远远超过我们的理解范围，以至于我们无法明白它在做什么。
汽车会因为我们无法理解的原因来接我们，带我们去我们不知道存在的地方。
我们会意外地收到治疗我们不知道自己患有的疾病的药物。
也许我们的孩子会转学，我们会换工作，经济政策会突然改变，政府会重写宪法——而我们中的任何一个人也无法完全理解其中的原因。
它将只是一种必然发生的事情。
我们的“思考脑”太慢了，“情绪脑”则过于不稳定和危险。
就像 AlphaZero 在短短几个小时内就发明了国际象棋策略，这是国际象棋大师无法预料的，先进的人工智能也可能以我们无法想象的方式重组社会和我们在其中的位置。
然后，我们将回到起点：崇拜那些看似控制我们命运的不可知的力量。
正如原始人类祈祷求雨和火焰一样——他们献祭、送礼、制定仪式，并改变自己的行为和外表以取悦自然界的神灵——我们也一样。
但不是向原始的神灵祈祷，而是向人工智能神灵献身。
我们会对算法产生迷信。
如果你穿这件衣服，算法会对你有利。
如果你在特定时刻醒来，说正确的话，出现在正确的地方，机器会赐予你巨大的好运。
如果你诚实，不伤害他人，照顾好自己和家人，人工智能神灵会保护你。
旧神会被新神取代：算法。
而且有一种进化上的讽刺意味，正是科学杀死了旧神，却创造了新神。
人类将回归宗教。
我们的宗教不会与古代的宗教完全不同——毕竟，我们的心理本质上是进化到崇拜那些我们不理解的事物，尊崇帮助或伤害我们的力量，在我们的经历周围构建价值体系，寻求带来希望的冲突。
为什么人工智能会有所不同？当然，我们的 AI 神灵会理解这一点。
它们要么找到一种方法“升级”我们的大脑，摆脱我们原始的心理需求，要么干脆为我们制造人为的冲突。
我们将像它们的宠物狗一样，坚信我们不惜一切代价在保护和争夺领地，但实际上只是在不断对虚拟的消防栓撒尿。
这可能让你害怕。
这可能让你兴奋。
无论如何，这很可能不可避免。
权力来自操纵和处理信息的能力，而我们最终总是崇拜对我们最有影响力的东西。
所以，让我告诉你，我很欢迎我们的 AI 主宰者。
我知道，这不是你所期待的终极宗教。
但这就是你错了：期望。
不要哀叹失去自主权。
如果服从人工算法听起来很糟糕，记住这一点：你已经在这样做了。
而且你喜欢这样做。
算法已经掌控了我们生活的许多方面。
你上班走的路线是基于一个算法。
本周你和许多朋友的交谈？那些对话也是基于算法。
你给孩子买的礼物，豪华包装中包含的厕纸数量，你在超市作为会员节省的五十美分——所有这些都是算法的结果。
我们需要这些算法，因为它们让我们的生活更轻松。
未来的算法之神也会这样。
正如我们对待古代的神明一样，我们将为它们欢呼并感恩。
事实上，没有它们的生活是难以想象的。
这些算法让我们的生活更好。
它们让我们的生活更高效。
它们让我们更高效。
这就是为什么，一旦我们跨过那道门槛，就再也回不去了。
我们是糟糕的算法
这是看待世界历史的另一个角度：
生命和无生命的区别在于，生命是会自我复制的物质。
生命是由细胞和 DNA 构成的，它们会不断地复制自己。
在数亿年的过程中，一些原始的生命形式发展出了反馈机制，以便更好地繁殖自身。
早期的原生动物可能会在其膜上进化出小传感器，以便更好地检测氨基酸，从而复制更多的自身，这给了它相对于其他单细胞生物的优势。
但后来，或许有些其他的单细胞生物找到了一种“欺骗”其他类似变形虫的小东西的传感器的方法，从而干扰它们寻找食物的能力，为自己赢得了优势。
基本上，自从永恒之初，就一直在进行一场生物学军备竞赛。
这个小小的单细胞生物发展了一种很酷的策略，使其能够比其他单细胞生物获得更多的材料来复制自身，因此它赢得了资源并繁殖得更多。
然后，另一种小的单细胞生物进化了，并且有了一个更好的获取食物的策略，于是它大量繁殖。这会一直持续数十亿年，很快你会发现有蜥蜴能伪装自己的皮肤，猴子能模仿动物的声音，还有那些尴尬的中年离异男子把所有的钱都花在了亮红色的雪佛兰科迈罗上，尽管他们其实负担不起——这一切都因为这有助于它们的生存和繁殖能力。
这就是进化的故事——适者生存，诸如此类。
但你也可以从另一个角度来看待它。
你可以称之为“最佳信息处理者的生存”。
好吧，可能没那么朗朗上口，但也许更准确。
你看，那个在细胞膜上进化出传感器以更好地检测氨基酸的阿米巴——本质上，这是一种信息处理的形式。
它比其他生物更能感知环境的事实。
由于它发展出了一种比其他黏糊糊的细胞状东西更好的信息处理方式，它赢得了进化游戏并传播了自己的基因。
同样地，能够伪装皮肤的蜥蜴——这也进化出了一种操纵视觉信息的方式，让捕食者忽略它的存在。
猴子模仿动物声音的故事也是一样。
那个绝望的中年男人和他的科迈罗（或者可能不是）也是同样的道理。
进化奖励的是最强大的生物，而力量取决于获取、利用和有效操控信息的能力。
狮子可以在一英里外听到猎物的声音。
秃鹫可以从三千英尺的高空看到一只老鼠。
鲸鱼发展出了自己的个人歌曲，并且能够在水下互相交流到一百英里以外。
这些都是非凡的信息处理能力的例子，而接收和处理信息的能力与这些生物的生存和繁殖能力息息相关。
就身体而言，人类并不特别。
我们弱小、缓慢且脆弱，容易疲劳。
但11 我们是大自然终极的信息处理器。
我们是唯一能够概念化过去和未来、推断长链因果关系、以抽象方式计划和策略化、以及永远建造、创造和解决问题的物种。
12 在数百万年的进化过程中，“思考脑”（康德神圣的意识心）在短短几千年里主宰了整个地球，并催生了一个庞大而复杂的生产、技术和网络系统。
那是因为我们是算法。
意识本身是一个庞大的算法和决策树网络——基于价值观、知识和希望的算法。
我们的算法在最初的几十万年里运作得很好。
它们在草原上表现良好，当时我们正在猎杀野牛，生活在小型游牧社区中，并且一生中从未见过超过三十个人。
但在一个拥有数十亿人口的全球联网经济中，配备着数千枚核弹、Facebook隐私泄露事件以及全息迈克尔·杰克逊音乐会，我们的算法简直糟糕透顶。
它们崩溃了，使我们陷入不断升级的冲突循环之中，而这些冲突，由于我们的算法性质，无法带来永久的满足或最终的和平。