徐贲：对人工智能不能有奴隶主的心态
近日，美国加州圣玛丽学院英文系教授、复旦大学社会科学高等研究院兼职教授徐贲的新作《人文的互联网：数码时代的读写与知识》，由北京大学出版社出版。在徐贲看来，互联网文化是文艺复兴和启蒙运动之后又一次可能具有巨大积极意义的文化转型。人们如何在对信息进行有效处理的同时保有对自由价值的选择，成为我们认识互联网的关键问题。《人文的互联网》以此为关注点，通过“阅读·知识·学问”“真实·自由·认知平等”上下两篇内容，探索由于互联网的兴起展现出来的现象和行为所涉及的人文问题，强调数码时代的读写与知识必须以人为本，对互联网的未来展望必须包含关于自由人类的普遍价值，拒绝把人作为工具，拒绝非人化。为此，需要用启蒙的人文教育来提升人们的读写和知识能力，重申人文教育的自由意识和自主性理念。
本书涉及的主题宏大且与当下的现实生活密切相关，澎湃新闻特约记者张弘专访了徐贲教授，与他就某些问题展开深入探讨。访谈篇幅较长，分上下发布，本文为下篇。互联网会削弱阅读思考能力吗
澎湃新闻：《人文的互联网》几处提及，人们现在对互联网信息过多过滥的忧虑，与15世纪印刷术在欧洲普及后人们对知识过多的担忧如出一辙。你在书中强调，当下仍然需要严肃认真的阅读（图书），因此需要个人有很强的意志和自制力。就实际情况来说，确实有一些人习惯了网上浏览之后，很难回到严肃认真的图书阅读。一定程度上，相当一部分人的浅阅读和信息浏览已经成为了事实——例如，玄幻小说在中国大行其道，阅读这类作品，除了强烈的代入感满足自己在现实中不能实现的目标之外几乎一无所得（据说美国也有人喜欢当代中国网络玄幻小说）。那么，这是否可以看做人们享受互联网好处时不得不接受的后果和副作用？
徐贲：在阅读问题上和在人性需要问题上一样，我持二元论而不是一元论的立场，我不认为谁喜欢在网上消遣阅读，就一定不能深入、精细地阅读严肃书籍。我在书里甚至认为，网上阅读有助于引发对书籍阅读的兴趣。并不是进行一种阅读就需要废除另一种阅读，所以，享受互联网的好处，不一定就会对阅读书籍有可怕的后果和副作用。
同样，我对人性需要也是持二元论的看法。人有两种不同的需要，第一种是把生活的价值理解为自然状态的满足，即，倾向于舒适和安逸，如温暖、美食、健康、性满足，交朋友等等。第二种人性需要把第一种人性需要看作是催眠和麻痹，是动物性的，用尼采笔下的查拉斯图拉的话说，是“贫乏、污秽、低劣的满足”。你躺在沙发上刷手机，消遣浏览不同的网站，满足的是你安逸、舒适的需要。我们不必把这个视为一种低等满足，或者脑残的表现。我自己也经常享受这样的轻松阅读。这并不影响我进行严肃阅读的意愿或者削弱我阅读思考的能力。我觉得自己在不同的时候有不同的阅读需要，不必为一个牺牲掉另一个。
《人文的互联网：数码时代的读写与知识》，北京大学出版社，2019年7月
澎湃新闻：《人文的互联网》一书认为，人在认知上有“负面取向，对负面事物的关注超过正面事物，负面信息更让人感兴趣，对人的影响更显著”。我相信，很多人都会产生管制互联网，杜绝负面信息传播的想法，同时也有相反的观点。那么，你怎么看待这一难题？你身处美国，美国在这方面是怎么做的？
徐贲：网络信息管理的问题与书籍或其他公共传媒的管理问题是同样性质的，不同的不过是技术手段和复杂程度而已。对互联网的控制并不全是新鲜事，15世纪，随着印刷术的推广，严格的文字压制和审查制度也同样随着产生。
1478年西班牙宗教裁判所(Spanish Inquisition)成立，立即建立了严格的文字审查制度，对西班牙所有的书面作品加以限制，使整个国家的自由知识进步在后来四百年间陷于停顿。1479年3月，教皇西克斯图斯四世(Sixtus IV)诏令，凡有印刷、购买以及阅读异端书籍者将予以严厉处罚，还规定书商在开始发行新作之前，必须先获得当地教会机构的许可。六年后，美因兹大主教指责庸俗的书商们“不恰当”地使用印刷机，指责将拉丁文的教规和弥撒等祈祷书翻译为本国语言，指责翻译希腊文和拉丁文的古典作品。1500年左右，上千卷犹太和阿拉伯书籍在西班牙宗教裁判所的火堆中灰飞烟灭。西班牙王室为争取主动，于1502年颁布法令，规定未经皇家或皇家指派的专人授权，不得擅自印刷书籍一一此举旨在实现比裁判所控制更高的审核权，使书籍审核成为皇家特权。这一做法在欧洲历史上是前所未有的。在1515年第五届拉特兰会议(Lateran Council)上，教皇利奥十世(Leo X)下令，在基督教世界里任何地区印刷出版书籍必须得到批准——在罗马范围内必须由教皇批准；在罗马以外，则必须由当地的主教或教法官批准。
16世纪，连英文《圣经》都是禁书，本杰明·富兰克林的新教徒祖先当时家中藏有一本英文版(圣经》，就是禁书。那本书被“用带子绑在一只折叠的凳面底下”。当家里人开始祷告时，富兰克林的高曾祖父“将折凳翻过来搁在自己的膝上，向全家人诵读经文。这时，家里的一个孩子守在门口，只要看到教会法庭的官吏走来，便跑回家报告，于是，折凳被翻转了放正，《圣经》也就像之前那样藏在凳面底下了”。
1644年，弥尔顿写下了脍炙人口的《论出版自由》，也成为现代信息自由的宣言。他提出了两个至今被美国人称颂的原则，一个是“观念自由市场”，另一个是“观点自我修正”。
弥尔顿的观点是，上帝赋予每个人理性，自由意志和良知，每个人都能为自己作出必须的思想判断。要读什么书，不读什么书，应该让每个人自己来决定，而不是由颁发许可证的人来决定。这就像在自由的市场上买东西，每个人都能决定要买什么，不买什么。这就是著名的“观念自由市场”原则。
弥尔顿强调，与其他的事情一样，读书要允许犯错，犯错是一个人学习的过程。《圣经》里的例子就是亚当，因为犯错，亚当才知道有善恶，才有机会从恶里知道有善。弥尔顿慷慨陈词道，如果“没有对于恶的知识，我们又有什么智慧可作选择，又有什么节制的规矩可以规范自己呢？……如果一种善是隐秘而不能见人的；没有活动，也没有气息，从不敢大胆地站出来和对手见面，而只是在一场赛跑中偷偷地溜掉；这种善我是不敢恭维的”。这就是弥尔顿提出的“观点自我修正”原则。
弥尔顿在美国的声望是崇高的。在纽约公共图书馆的主阅览室的入口处有这样一句醒目的话：“好书是伟大心灵的富贵血脉，蕴含着超越生命的生命。”这句话就是来自弥尔顿的《论出版自由》。美国最高法院在解释美国宪法第一修正案时,就提到了《论出版自由》，最高法院案例中，直接提到《论出版自由》的就有四个，每个都是引用弥尔顿的观点来为广泛的言论自由和结社自由进行辩护。
《论出版自由》，商务印书馆
澎湃新闻：《人文的互联网》涉及的一个关键问题，就是技术对于人类公共生活和个人生活两方面的改变。互联网的核心精神是自由、开放和共享，但如你所说，网络人群的集群化，以及散播仇恨意识，又在危及现实社会。如果此类现象过于严重，你所构想的互联网起到文艺复兴和启蒙运动的作用就会落空。你在书中提出的对策，大都偏向于自律。那么，是否可以实行更多的他律？
徐贲：我认为制度非常重要，但从人文主义的角度，我相信人的自律。这两者是不矛盾的。我在这本书和其他一些书里一直在倡导，需要有旨在人的自我完善的人文教育和启蒙教育。这样的教育有助于提高人的自我认知、自我反思、自律自控能力。例如，网上确实有许多虚假不实、专为欺骗制造出来的信息，大量受雇的水军在误导舆论，还有的在散播仇恨、暴力、歧视、污秽下流、恫吓威胁的言论。虽然网站管理可以对这类言论采取一些控制的措施，但是，道高一尺魔高一丈，除非关闭互联网，再严厉的控制也不可能消除互联网上的这些问题，更何况这类言论有时候还受到鼓励和纵容。所以，例如像美国那样从小、中学就开始进行批判性思维教育、互联网读写和知识教育，以及公民教育，也就特别重要。
我们无法阻止别人说谎欺骗，但我们可以让自己变得比较诚实，也比较不轻信和易骗。这就需要我们从认识自己，不欺骗自己开始做起。这就是学习自律，并通过这种学习增强对不自律他人的防备和抵抗能力。我们学习批判性思维，它的人文教育意义也在于此。我们可以从学习逻辑论证、理性推导入手。我们也可以从心智启蒙开始，把重点放在人心和人性的因素上，如欺人与自欺的心理特征、人与生俱来的情绪和情感影响、本能欲望和认知的先天缺陷等等。
我在书里谈到的“人文”在不同的历史时期有不同的含义，人文的理念始于文艺复兴，当时是要确定人在宇宙中的位置，它是向后看的，要重新然起对古希腊和罗马思想的热情。它注重“尊严”（dignitas）的观念，注重于人与上帝的关系。它“把人当人来研究”，不是满足于污秽现状的人，而是向往高尚和崇高的人，也就是有美好灵魂的人。人类在“存在之梯”（又称“上帝之梯”）上没有固定的梯阶，在宇宙中没有确定不变的位子，可以向下堕落成野兽，也可以向上攀升，获得“神性的更高本质”，成为伟大的奇迹。启蒙运动的人文主义把人放在自然之中，而不是上帝与人的关系中来看待，是向前看的人文主义。它申明人的理性是至高无上的，后来受到了浪漫主义的猛烈抨击，后者强调，人类的情感是至高无上的。今天，文艺复兴、启蒙运动和浪漫主义的人文理念已经混合起来，人性中有善良天使，也有恶魔，人必须自我塑造也能够自我优化。人既需要有理智的启蒙，也需要有心智和情感的启蒙。我在互联网一书里，讨论知识、读写、学问、大学教育、真实和真相，注重的是理智；讨论人工智能、机器与人、人性善恶、道德意识，偏重的则是心智和人性。我认为，互联网、数码技术、人工智能的发展可以为我们思考这些问题带来了新的机遇。
人工智能应该有自主意识吗？
澎湃新闻：有人认为，不能让人工智能有反思能力，否则就很危险。但《人文的互联网》中，你支持技术进步，认为即便机器人有了自主意识，有了反思能力也没有那么危险。因为即便有坏的机器人，但会有更多好的机器人。而且，人工智能对于人类可能的危害，远远没有一些邪恶的统治者对于人类的危害更大。那么，你对人工智能是否过于乐观？
徐贲：那种说法指的大概是“意识”或“自主意识”吧？有了意识，就会有各种“恶念”，如仇恨、贪婪、自私、妒嫉、权力欲、控制欲，受恶念的驱使，又没有节制，人就会有暴力、残害、杀戮等等造成人间灾难的行为。有“反思能力”应该是一件好事，我们今天提倡的批判性思维就是一种可贵的反思能力。反思是对自己行为对错的自觉审视和思考，是有利于遏制恶行的。
古希腊哲学家色诺芬（Xenophon）在《居鲁士的教育》里说，人是最难统治的动物，其他的动物都比较好对付。色诺芬说：“我们看到，牲口都比人更愿意服从统治，更愿意服从看管者。牲口会按看管者的指引到任何地方去，看管者把它们赶到哪里，它们就在哪里吃草；看管者不带它们到哪里去，它们就不到那里去。至于从它们身上得到的好处和利益，牲口总让看管者想怎么处置就怎么处置。我们从来没有见过牲口联合起来反对看管者，牲口不会不服从，或者不让看管者随意支配从它们那里得来的利益。牲口还特别亲近那些统治它们，从它们身上得益的看管者，而对陌生人则抱以敌意。与牲口不同，人类一察觉有人想要统治他们，就会团结起来，进行反抗。”牲口避弃陌生人，喜欢自己的主人，只要主人管它们的食宿之需就行，它们不会阴谋串联为害主人。人类与牲口不同，他们有自主意识，察觉到有人要统治自己的时候，就会联合起来对抗，破坏这种企图。人还知道，当统治者比当被统治者舒服，所以都巴不得想当统治者。
古希腊哲学家色诺芬
统治者都害怕这样的老百姓，怕他们有了自我利益或反抗的意识，成为对自己的威胁。不是有“民可以使由之，不可使知之”这句话吗？孔子这句话有不同的解释，我取一般的解释，那就是，可以让老百姓按照我们指引的道路走，没必要让他们知道为什么。让老百姓有种田和做工的能力，对我们有用，但千万不要让他们对自己的利益有自主思考的能力，这样才能保证像对奴隶一样，要怎么使唤就怎么使唤。一旦让他们有了自主意识，就一定会有麻烦和危险。
人类现在以主人对奴隶的态度对待机器人，就像我在书里说的，机器人在人类心目中其实是机器奴。许多人认为，机器人有了自主意识，自己能够开动脑筋，对自己的利益和地位，甚至对自己的情感和欲望需要也有了自主意识，这时候，机器人就会成为人类的“噩梦”“危险”或“敌人”。所以，人类现在就必须想办法，绝对不能让机器人拥有自主意识。你能说这样的人类没有奴隶主的心态或逻辑吗？
我认为，人不需要害怕，也没有道德理由去害怕机器人拥有自主意识，如果这一天真的会来到的话，也就是我们所说的“奇点”，那时候，机器人的自主意识可以是善良的，也可以是邪恶的。今天，我们凭什么就知道机器人一定会发展出跟人类一样邪恶的“恶念”来呢？会不会是邪恶的人类在以己度人呢？难道机器人就绝对没有可能发展出一些人类十分稀缺的“善念”来吗？为什么人类对机器人的善的想象如此贫瘠，而对它的恶的想象却如此丰富？
苦难的人生丰富了人们对于地狱的想象，但限制了他们对天堂的想象。正如法国历史学家达尼埃尔·亚历山大·比东在《中世纪有关死亡的生活》（山东画报出版社）一书里所描绘的，人对地狱里的每一个折磨人的细节，甚至对各种气味、噪音和魔鬼的厨房都清清楚楚，但对天堂却没有什么可说的，只不过是，“在天堂里无须工作，无须消费，也无须下厨。天堂里的活动并不多。对于一般人而言，它更加令人难以理解，艺术家笔下的那些天堂人物，不但安静而且有时更是一动也不动的”。对天堂的想象其实也是对未来的想象，智能机器属于未来，不属于当下。由于受到天堂-地狱想象的限制，人类追求未来幸福和逃避未来灾祸的努力大部分是盲目的。对智能机器自主意识的恐惧会不会也是这样呢？
人害怕的是机器人的“恶念”。“恶念”里令人恐惧的是恶。一直到今天，人类对恶仍然没有透彻的理解，也许永远也不会有。但恶却是人类必须面对的问题，在人工智能的时代，恶的问题变得更尖锐、更严重了。不能让机器人拥有自主意识的主张，这个主意并不是基于对恶的理性认识，而是一种情绪性的排斥。它其实是在把由人工智能加剧的人性恶的问题推出门外，错失一次历史性的思考机会。我在书里再三强调，说到底，机器时代对我们提出的不是机器的问题，而是我们人类的问题。我们现在要担心的不是将来的机器人会如何失控，而是如何把当下的人类变得比较可控。
正因为如此，我的《人文的互联网》是以人，而不是机器，作为思考数码时代所有问题的核心。一切与互联网、数码技术、人工智能有关的问题都不单纯是技术问题，而都是关于人自己的问题：人是什么、人为什么存在、人怎么看待自己和反思自己。作为工具的互联网（乃至广义的AI技术）对人类的影响远远超过印刷机的发明，它在改变人类自由认知的同时，也正在被钳制自由的力量所利用。善和恶的较量、宰制与解放的对立、文明与反文明的冲突，都将是一场持久的对抗，结果难以预料。构建人文的互联网，推动互联网向人文的善的方向发展，或可成为决定胜负的因素之一。
恶不是自然发生的，发生恶的关键条件不是人这个物种或未来智能机器的“自觉意识”，而是特定的制度环境，当然，这样的制度构建由离不开人性中的善或恶。在今天的世界里，虽然我们说的是普遍的人性善和人性恶，但善恶的分布却并不均衡，某些地方的人类由于制度原因，比其他地方人类表现出更多，更严重的人性恶，因此成为人类中格外有恶念和恶行，格外危险的部分。在纳粹德国和一些法西斯主义或军国主义国家中里，就曾经大量产生这种受恶念和恶行支配的人类，但他们并不代表全人类。可以设想，要是人工智能掌握在他们手里，那对世界将会造成多么可怕的灾难。这部分人类虽然在人数上可能是少数，但其能量却远远超过热爱和平、珍视自由、享有民主法治的那部分人类。人类事实上从来没有构成过一个和谐、一致的整体，而总是分裂成利益和价值观不同的群体。世界未来善恶走向的胜负只会在一些人类与另一些人类，而不是在人类与机器人之间决出。
新闻推荐
《市场准入负面清单(2019年版)》22日公布。这是我国全面实施市场准入负面清单制度以来首次年度修订,意味着市场准入...
山东新闻，弘扬社会正气。除了新闻，我们还传播幸福和美好！因为热爱所以付出，光阴流水，不变的是山东这个家。