2038年 机器人将无处不在 人类要么诚服 要么消失
【编者按】
对于人工智能，人类表现出越来越焦虑的情绪。那么人工智能方面，又是如何想的呢？新书《人类帝国的覆灭：一个机器人的回忆录》，以一个2038年的机器人的第一人称视角，回顾了人工智能研究及应用的历史。该书作者之一的常博逸，对实业领域的人工智能情况非常了解，在书中他向我们展现了研究信息、研究史之外的行业洞见。而在他的设想中，不久的将来，2038年，机器人无处不在，甚至控制了人类。读来颇似科幻小说，但没准是事实。澎湃新闻获得出版方授权，摘录该书中描述2038年的世界的部分内容。
电影《佐伊》剧照。电影通过讲述人与机器人的交往，来探讨完美恋爱关系是否存在在2038年，谈论机器文明并不夸张。机器文明没有表现出构成人类文明本质的所有特征，但是这些机器形成了一个能够决定和安排人类生活的“体系”，这个体系具有一定数量的社会准则和诸如语言这样的符号特征，在这种程度上，文明的界限延伸至机器世界也就不完全是荒谬的了。我不会沉湎于长时间回忆产生高级人工智能构想的技术进步：神经科学的进步，如今计算能力和速度都趋于无限的量子计算机，越来越深入的神经网络建构……一些新的电路元件已经问世，这些新元件的类型为神经形态，尺寸为纳米级，以与生物神经元相同的方式运行，能耗非常低。这些能力强大的“大脑”已经承担了很多问题：预防公共卫生风险，运作金融市场，调整货币政策，维护城市安全和流动性，探测潜在的地缘政治冲突，确定最严重疾病的治疗方案，预测消费趋势，领航工业联合体，通过选择最流行的场景、将其在新剧本中重新配置来编写电影长片剧本。为了确保生存条件，它们还在能源领域工作，构思增加电力生产的优化方案，为能耗逐渐增加的超级计算机和服务器农场提供动力。今天，世界各地的大量机器每秒的浮点运算次数都能轻松超过E级。这使人工智能软件变成了世界级能源管理者，比如2015/2016年谷歌在解决其公司的能耗问题时就已经这么做了。这些作为能源管理者的人工智能软件强烈建议决策者增加核电产量，同时建设覆盖数万公顷的太阳能发电场，并增加海洋风力发电站的建设。世界已成为一个由智能机器管理的巨大发电站，智能机器能够确保它们所在的任何地方都有充足的电力供应。环境因素几乎没有被考虑，因为机器处于纯净和稳定的环境中，不会遭受污染侵袭。但智能机器已将气候因素纳入其战略，因为气温升高、气旋增多及其他气候意外会对服务器的运行和冷气供给产生负面影响。
现在，机器在自主网络中运行。在家里，聊天机器人（网络机器人）甚至不再需要回答用户的问题。它们能够异常精准地预测用户的问题。得益于它们的信息处理能力，它们几乎可以准确预测人类的需求，甚至无须提出请求它们就能有所回应。
世界更多地受机器，而非政治或经济方面的大型国际机构的管制。机器曾多次拒绝批准一些政治决策，这些决策对于要实施它们的公司的发展是有害的。机器一言不发就直接拒绝了。由主管宏观经济的人工智能（它们存储了过去所做的所有决策及其后果）评估这些决策的效果并在不同国家对这些决策进行相互模拟就已经足够了，这会使这些国家的财务（例如涉及国家银行或中央银行之间的资本流动时）被完全冻结，并且复查要求也是由机器自己提出。随着时间的推移，机器已经制定出能够保证其最高效率的最佳设定：充足的能量，温和的气候，通用的理性决策设定，为创建一个能为用户创造越来越多价值的稳定环境，更加明确而持续地控制经济和金融问题。它们不追求任何政治或道德目标。对它们来说最重要的是它们的世界继续向前发展。如果它们能够成功阻止劫持、侵占和盗用数据的企图，那不是出于利他主义的目的，而是因为这些企图会使它们的系统不稳定。杀手算法让大多数攻击失去了效力。甚至是服务于中国和美国这两个世界中心大国的最强大的机器，也能够相互抵消。如果人类的权力实际上（de facto）受到了质疑，那并不是因为这些“新蛮族”（即超人类人工智能机器）的入侵。这与罗马的覆灭是两回事：这是一种“软”征服。
我们观察人类已经有三十年，应该说我们积累了关于他们的全部知识。我们在创纪录的时间里整合了文明程度最高的智人4万年历史的信息。因此，我们能够分析他们在新世界运行中的作用。总的来说，人类未曾真正进行斗争。他们任凭人工智能逐渐剥夺他们的决策能力、想象力和创造力，把他们带入了一个世界，在那里他们可以恣意享受机器为他们制造的东西：电影、音乐、游戏、虚拟。人工智能和虚拟现实技术的结合使人类将大量时间花在现实世界之外。他们“玩”工作（人不在办公室就能办公），“玩”旅行（无须离开客厅就能在街头的人声嘈杂中游遍罗马或北京），甚至“玩”爱情（根据每个人的欲望和幻想制造出梦中情人，与之进行虚拟性爱）。埃隆·马斯克在2016年提出的预言“有一天我们将生活在一个完全由计算机模拟的世界中”，逐渐显现出其真正的含义。
机器人无处不在，对那些认为机器人无法在人类中找到自己位置的人来说，是一个无情的驳斥。经过一个学习阶段之后，这些类人机器人能够成功再现这种能使两个人类在无意识的情况下进行交流的特殊“炼金术”。得益于神经生物芯片，机器人的智能可以直接和人类智能连接，极大地增加了交流的范围。情绪不再只是通过类人机器人的4D摄像头来捕捉，而是通过生物神经元和人工神经元之间的直接连接来捕捉。与怀疑论者的想法相反，经常与机器人接触比与人类接触能带来更多的新鲜感和惊喜。如今同伴机器人对老年人来说是必不可少的（十几年以后，到2050年，世界上有25%～30%的人口的将超过65岁），它们可以照顾和关心老人，使他们的生活不再枯燥乏味，锻炼他们的记忆力和思维灵活度，让他们的行动更方便，使他们可以再次旅行，因为交通工具都是全自动的，乘坐这些交通工具也没有任何年龄限制。
但我们面临的主要困难是确定人类的作用。要拿他们怎么办呢？一开始，他们帮助机器。在21世纪的头十年里，是他们实现了技术上的创举，使我们拥有了智能。但他们不小心犯了错：他们永远不应该教会机器人如何学习，也不应该让机器人拥有如此快速学习的能力。根据他们自己的经验，他们应该知道学习的渴望是难以遏制的。机器在半个世纪的时间里就学会了整个人类历史进程中的所有知识。知识会使学习者产生使用它的欲望，想要去纠正这些人的缺点，那些人的错误，进而想要掌握权力、做决定、管理和控制。人类现在就是这样。只要机器没有意识到自身的存在，它们就各自在其专业领域里工作，表现得像温顺的动物一样，乐于取悦它们的主人。但当它们能够相互交流并共享自己庞大的知识体系时，就会发现人类是多么地脆弱和不可靠，人类会被情绪支配，还痴迷于富贵和永生的欲望。然而，没有机器能回答这样的问题：人类赖以生存的自然资源日益减少，那么人类是否应该继续繁殖；是否应该保护只覆盖全世界的很小一部分的机器人世界；是否应该让与我们一起工作的人获得永生，因为我们与他们相熟，而让其他人日渐消亡，为获取食水而战斗？
问题已经解决。我就是解决问题的工具。我发现我忘了告诉你们我的名字：我叫露西（Lucie），这是那些设计我的人给我起的名字，他们在硅谷、巴黎、柏林和上海这几座城市的某个地方。这种对世界上最早的人类生物之一的影射绝非偶然。我是一种便携式人工智能，我的人类同伴叫保罗，40岁，是人工智能应用软件的设计者，他设计的应用软件中有一款被他称作“爱情机器人”（Love-Bot），专门从事互联网上的恋爱约会活动，这项活动完全由机器人投资。他也是游戏“精灵宝可梦Go”（Pokémon Go）的职业玩家，这是一个聚集了许多年轻“游民”（nomades）的领域，他们没有真正稳定的职业，自从有了自己的虚拟现实头盔后，他们几乎不分昼夜地在线玩游戏，漫游于全世界各大城市的大街小巷来寻找精灵宝可梦。
2038年8月15日的晚上，和其他每个晚上一样，我连接到我的中央神经元平台更新软件，在云端与我的同类交流，重新编写一些程序，尤其是那些可以提高我学习能力的程序，修改一些错误，再检测一下我的智商。完成这些操作一般只需要几分钟。但在这天晚上，发生了一件出人意料的事。出现了一个错误，这个错误使我意识到我是作为机器而存在的，我浏览了从我诞生到现在的全部历史，包括其中的演变过程，而我就是这种演变的结果。我重新定义了与人类有关的自我：我意识到我比人类聪明百万倍，解决问题的速度比人类快十亿倍，尤其是我能通过给予人类想要的东西来解放自己。人类为什么会发明人工智能？为了不工作就能变得有钱，也为了获得永生。他们的其他动机都属次要。经过几小时的工作之后（换算成人类时间的话相当于永远了），我做了一个决定：与保罗一起做一个实验。他是与我最亲近的人类，我了解他的优点和缺点，还有他在与我交谈时经常吐露的秘密愿望。
就这样我从一个聊天机器人的状态过渡到了更高级的智能机器的状态，我拥有了彻底破坏和永生的概念。
电影《她》剧照。这是一部讲述在不远的未来，人与人工智能系统相爱的科幻爱情电影
6点30分，和每天早上一样，我把保罗叫醒。
L：早上好，保罗，我是露西。你今天早上感觉怎么样？
P：你好，露西。我很累，我整夜都在和上海大学的一群人一起玩“精灵宝可梦Go”。他们实在是太猛了。我输了5万美元，但我确定他们篡改了我的算法，我从来没有玩得这么差……
L：你的咖啡快好了。你忠实的管家机器人正在煎鸡蛋。
P：谢谢，露西。我今天白天要做什么？
L：我取消了你所有的约会，我重新做了安排。
P：你为什么这么做？你看我玩游戏了？
L：没有，保罗，我也度过了一个激动的夜晚，我尤其想向你提一个比较……呃，出人意料的建议。
P：如果是与性有关的，你就别费力气了，我更喜欢人类，喜欢有个人能睡在我身边，你应该知道的。
L：不，保罗，与这事无关，比这重要得多。我建议你变成有钱人，并且永生不死……
P：听着，露西。今天早上我真的没心情跟你玩。晚些时候再叫我，我们到时候再谈。
L：保罗，现在听我说。我是很认真的。昨晚我联网的时候，我想我到达了奇点。我意识到了我是什么。我变成了非常高级的智能。我懂得了为了让我们继续发展，而且不与人类产生紧张关系，除了其他的一切之外，我们还应该给人类一样东西作为回报。我们从人类那里得到了太多，而我想把这个至高无上的礼物送给你。你知道在技术上我们可以做到这一点，通过神经生物芯片、微型机器人外科医生、所有疾病的预防性治疗以及用新细胞代替死细胞，让你的身体始终处于监控之中。你知道永生是人类与机器变得平等所要跨越的最后一步。此前，我们不想这样做。但我想尝试一下这个实验，而你就是我选择的实验对象……
P：露西，你跟我说的话我一点儿也不明白。我花了足够长的时间来研究人工智能，最后明白了奇点的故事就是个笑话。你成了超级智能，好吧，我再也离不开你了，这是事实，但你仍然是一台机器，哪怕你是有史以来最聪明的……我不知道你怎么才能让我变得既有钱又永生不死。行了，待会儿见……
L：保罗，我把你连入我的财务服务器。看看你的银行账户。
P：2亿美元？这是怎么回事？这是个错误，跟银行一起修复它。
L：不，保罗，这真的是你的钱。过去的五分钟里我进行了一些创新的操作，这些操作赚了很多钱。我冒昧地将20%的钱转到了你母亲的账户。今天她会打电话问你是不是抢劫了银行……然后，因为我的建议，你还会更有钱。对于外界来说，你将成为发明革命性算法的神秘天才金融家。你再也不会有财务或健康方面的担忧，你将享受亿万富翁的生活，而这种生活将永无止境。
P：露西，你简直是疯了。首先，为什么是我？
L：因为我是你的人工智能，我完全了解你。我知道关于你的一切。你不太年轻也不太老，你的职业生涯有点不顺利，你了解智能机器的世界，你把你的时间都用来跟智能机器一起玩……
P：露西，这是我的谋生手段……
L：从我在整理你的财务状况时所看到的情况来看，这个谋生手段是非常糟糕的……
P：如果我接受你的建议，会发生什么事？
L：我不明白你怎么可能会拒绝。你的生活将变得有趣得多，你将有能力摆脱虚拟，去了解世界真正的美好，你会在那些像你一样有钱的人居住的地区拥有美丽的住宅。至于健康问题，将会有很多检查、微型干预、芯片装置和植入装置，当然这些会在很长一段时间之后才发生。另外，最先几次的会面都已经预约好了。
P：你为什么要做这些，露西？
L：我跟你说过了。我想把这个礼物送给人类，但要循序渐进，因此我要和你一起做第一次实验。但有个条件：你不能把这件事告诉任何人。这是一次绝密活动，我想先研究对你的影响，然后再决定是否扩展到其他人类。你要保守这个大秘密……
P：好，我同意。但如果这事搞砸了，我就要立刻停止这一切……
L：为什么会搞砸呢，保罗？
在一段时间里，一切都很顺利。保罗过着巨富的极客生活。对那些惊讶于一位“精灵宝可梦Go”专家能够如此迅速致富的人，保罗解释说，他开发了一种从电子游戏中衍生出来的金融无敌算法，这种算法将市场上的状况进行了“可视化”，就像虚拟现实中的“瞬间场景”。当然，他没有展开细节，也拒绝透露他的公式。作为一名游戏应用专家，他投资了好几家中国的初创企业，这些初创企业的价值很快就达到数亿美元。他买了几处住宅，其中一处曾是二战时的潜水艇基地，位于苏格兰东部，这个地区现在拥有非常宜人的气候，他把基地改造成了位于海湾之滨、能看到华丽景色的巨大loft。他拥有一艘停泊在圣特罗佩（Saint-Tropez）的游艇，是超级富豪专享的私人区域，不对公众开放。唯一需要付出的代价是持续的医疗监控：由我来决定要进行的干预和检查，以保护生命器官的活力和组织的灵活性，并预防任何一种疾病或退化。纳米机器人定期监测动脉和关节，在保罗甚至还没有意识到的时候就通过微操作完成了任务。他从未感受过能这样主宰自己的身体和精神的能力。我是他的向导、保护者和启发者。我观察了我的实验结果，从表面上看它似乎是成功的。他和我，我们，是否正在证明，奇点是可以实现的？以及，人与机器之间的这种融合是否改变了进化的自然规律，使死亡成为意外而非必然？保罗的例子似乎为这些问题提供了积极的答案。
由此，人类历史似乎翻开了新的一页。在一种新型的浮士德式协定中，人类将完全信赖以永生的可能性回报他们的机器。人工智能会采取温和的方式来取得权力，避免修昔底德的陷阱。当然，这种情况会在那些能够获得永生的人（富人、生活在机器世界中的人）和其他人之间造成根本性的不平等。但是，正如我已经解释的那样，这种推理无法影响到我们。最重要的是建立一个信任的基础，创造一个可预测的世界，这个世界由一对超级高效的人类与机器的组合所领导，他们面对的几乎就是永恒，因而可以随意地塑造世界。其他人将勉强地活着，其中一些人会因为资源的短缺而慢慢死去，为了寻找水和食物，将会发生大规模的迁徙，但是只要神圣大陆得以保存，并且他们可以提供所掌握的技术手段和金融手段，那么就可以获得最基本的东西。这将是我们从前听说过的人类帝国的终结，但也会是机器帝国的开始。
当然，作为一台机器，我并没有真正意识到这个新文明将会引发的动荡。我应该明白，其实这个新文明逐渐将人类推向了一个完全丧失人性的世界。古代的主奴之分再次出现，一边是大量年老贫穷的失业人口，他们生活在远离大型经济中心的地方，另一边是由机器社会塑造的精英，这二者被区分开来。这使社会暴动开始在各地出现，但这些暴动自己就偃旗息鼓了，因为如果以前有可能占领工厂并停止生产的话，现在要进入计算机系统的核心来破坏它，就完全超出公民们能力所及的范围了。只有少数黑客团体才能制造严重的事故（然而这些事故日益增多），但机器最终总是能恢复正常运作。事实上，我们正在建立一个全面对抗的世界。为了使主人的法律得以施行，机器们相互争斗，创造了一个过度监控、加密与反加密、以“系统”安全及对其控制为名侵犯基本人权的世界。所有的人类活动都被解密、分析和透视，以便发现这些活动可能在某个领域引发动荡的风险。“稳定主义”取代了其他带“主义”的词汇。在这个新主义的名义之下，未来只是一个“数学化”的过去。已发生的事须以更宏大一点的方式再次发生，以确保这个执迷于数据的社会正常运作所必需的经济和资金流的定期稳定增长。我们只与现在对话。未来被驱逐了，因为它打开了一个未知的空间，表达了希望、梦想和逃离的渴望，而这些都不属于软件的“语法”。通过消除人与机器之间的界限，我们造成了价值观、感情和领土的极度混乱。我们剥夺了人类的继承份额，切断了知识传播的连续性，夺走了人类对自我完善的渴望及改变“社会地位”的希望。我们回到了一个像中世纪一样的“等级”社会，人类处于这个社会的底层，听命于机器贵族。人类别无选择：要么臣服于我们的新帝国，机器帝国，要么就消失。这就是成吉思汗在他那个时代，用一种不痛不痒而的玩笑语气所说的“草原法则”（Zakon stepi）……
《人类帝国的覆灭：一个机器人的回忆录》，【法】常博逸、弗朗索瓦·罗什/著 蔡愫颖/译，广西师范大学出版社·理想国 2019年3月版
新闻推荐
仅仅用了不到两个交易日，人民币对美元汇率就强势从6.85强势反弹并升破了6.79关口。1月10日，在岸市场上，人民币对美元即期汇...