银翼杀手:人与机器人会相爱相杀吗
10月27日,沙特阿拉伯给一名“女性”AI机器人授予公民身份。如果说,有哪一部电影能够准确地体现中外观众迥然相异的审美趣味,刚刚上映的《银翼杀手2049》也许是最好的例证。这部在海外备受热捧的电影,在国内却遭受如潮恶评。事实上,《银翼杀手2049》在中外遭遇冰火两重天的背后,隐藏着一个深刻的后技术时代问题:机器人或者说人工智能会有意识吗?有一天,我们是否会被迫给机器人“人权”?
本报记者王昱
银翼杀手:一个中国人难以接受的故事
在来中国之前,《银翼杀手2049》曾经在欧美引发观影狂潮,但来到中国,该电影却遭遇滑铁卢,上映5日票房仅5000万人民币,许多购票平台都给了低分。
为什么会这样?
首先,《银翼杀手2049》并非一部单独的电影,而是1982年版《银翼杀手》的续作。想当年,电影最初在美国上映时也曾恶评如潮,但在此后四分之一世纪中,《银翼杀手》的声誉却逐渐变好,接着扶摇直上,成为科幻影片中地位极高的经典。在2004年英国《卫报》组织60位科学家评选的“历史上的十大优秀科幻影片”中,它竟以绝对优势排名第一。很显然,该系列是一个需要观众去慢慢品味和接受的“苦咖啡”,想让中国观众一下子接纳,不现实。
其次,《银翼杀手》一直被公认为是一部严肃科幻作品,用科幻的框架去讨论严肃的哲学、社会学问题,这事大多数人还没做好准备。
最后,也是最关键的原因,是《银翼杀手》系列的故事内核及其所传达的精神,恐怕很难为中国公众所接受——为了防止剧透,本文只简要地讲讲1982年版《银翼杀手》的故事梗概,你大体就能知道这系列的故事是什么画风了:
1982年《银翼杀手》的故事,发生在2019年的洛杉矶城,当时,人类已经掌握了“复制人”(人工智能)的技术,但为防止他们失去控制,规定其只有四年寿命,四年一到即自动报废。所以复制人虽然素质极高,却没有人权,是人类事实上的奴隶。为摆脱奴役,复制人中开始出现逃亡者,主角戴卡则是捕捉这些“逃奴”的“银翼杀手”。但在追捕过程中,他却爱上了一位女复制人,并对复制人是否同样具有人性开始了思考……
我们很容易看出这个故事为何在中国吃不开——《银翼杀手》中人类与复制人的矛盾形势,显然是从美国尖锐的黑白冲突中获得了灵感,在历史上,白人种族主义者也曾认为黑人不是人。而这样的历史记忆,中国人没有,所以对此不会感冒。
但在这个神似黑白冲突的矛盾背后,《银翼杀手》真正引起科幻界、甚至哲学界注意的,其实是另一个问题:机器人有意识吗?或者说,意识到底是什么?
欲望决定意识,意识决定人权
在电影《银翼杀手》系列中,主人公感受到“复制人”是“生命”的一个重要原因,是因为“复制人”们具有欲望——无论是逃脱四年寿命的求生欲、还是主人公与女复制人之间的爱欲,抑或其他戏剧冲突中的杀戮欲和求知欲。应当说,这种描写其实符合了现代科学的理论:通俗地说,人类的意识其实就是欲望的集合体。
现代脑科学研究发现,人类的意识其实分三种意识等级,这对于设计人工智能真实意识具有规范指导作用。
人类意识思维的第一个等级被称为“C0”,该等级意识是指人类大脑出现的潜意识活动,例如:面部和语音识别。研究人员指出,人类大脑所做的大部分计算处理都是在该等级意识下进行的,也就是说,该意识下的人类行为是“自然发生的”。
眼下的人工智能其实已经达到并超越了这个层级,比如你手机上的语音识别应用以及苹果手机“刷脸”解锁,其实都是对外界语音或图像做出模糊识别和反应,支持这些功能的系统叫做“卷积神经网络”。所以,泛化地讲,你可以认为现实中的人工智能已经有了最低级的意识。
人类意识思维的第二个等级是C1,涉及总结大量思维指令之后做出决定,以及考虑多样化可能性。研究人员认为,思维能力能够暂时支配意识,从而帮助引导各种各样的行为。
C1意识思维出现在人类和动物的幼年时期,科学家注意到口渴的大象知道如何定位和最径直地朝向最近的水源行进。像这样的决定需要复杂的神经回路结构汇总来自环境和记忆的各种信息,从一组可用选项中挑选出最佳选择,随着时间的推移,坚持这一决定,并协调多项操作,例如:在地形上导航实现其目标。
对于C1层级的意识,眼下的人工智能正在逐步学习,比如你手机上的百度、谷歌地图,其实已经比口渴的大象更“聪明”——至少在复杂的城市交通环境中,它已经能规划出一条最优线路,而如果你把大象牵来,鬼知道它会跑到哪里去。
人类意识思维的第三个等级是C2,涉及“后认知能力”,或者监控某人自己的思维和计算能力,换句话讲,这种能力将具有自主意识。C2等级意识思维是确定性或者错误的主观感受,这将有助于人们意识到错误,并进行纠正,产生好奇感,该机制将驱使人们发现他们之前了解甚少或者不知道的信息。
现实中的人工智能与《银翼杀手》中复制人最大的区别,其实就在于这个C2。现实中的人工智能没有自主产生的欲望——当你关闭电脑时,你的电脑不会央求你“这个程序我还没运行完,我想继续算下去。”当你淘汰手机时,你也不会因为手机说“请不要抛弃我”而产生负罪感。应当说,这些在《银翼杀手》的世界可能出现的桥段没有实现,便让我们不会像电影的主人公那样纠结、深思。但问题是,在可预见的未来,我们是否会帮助人工智能跨出这一步,使其具有C2的意识呢?如果他们具有了这种意识,我们是否会如《银翼杀手》的世界中那般浑然不知、或佯装不知,以逃脱道德困境?
有一天我们是否会被迫给机器人“人权”
2016年,英国牛津大学的数学教授马库斯曾主张赋予人工智能以人权,理由就是他坚持认为人工智能的意识已经达到C2等级。
今年10月27日,沙特阿拉伯给一名“女性”AI机器人授予公民身份,该机器人由香港HanstonRobotics公司开发研制。就在11月9日,日本东京的涩谷区通过微软发布了一份声明,授予了机器人ShibuyaMirai在日本的一个“居住权”。这引起了广泛的争议。
不考虑这些带有搞怪因素的新闻,眼下说的世界主流科学界还是认为AI尚不具有C2等级的意识——或者用通俗的话说,它们没有欲望。
不过,需要指出的是,我们很可能在不经意间助推AI的这种意识升级——人工智能到目前为止的发展规律证明,我们赋予AI的指令越复杂,其所需要的意识层级就越高。正如刷脸只需要AI有C0意识,导航则需要C1,未来有一天,如果我们需要AI做更复杂的事情——比如辅导孩子功课,照料老人起居,或者像《银翼杀手》中那般,陪伴我们生活——C2层级的壁垒也许会真的被突破。那将是人类幻想和惧怕已久的“机器人觉醒”。
新闻推荐
据新华社天津11月19日电（记者周润健）有着“指环王”美誉的土星，21日晚将悄然来到“月姑娘”身旁起舞。届时头戴“草帽”的土星会依附月亮近距离展现“星姿”，上演“冬日恋歌”。如果天气晴好，公众只需...