谁为机器人的行为负责？
谁为机器人的行为负责？作者：【意】乌戈·帕加罗译者：张卉林王黎黎出版社：上海人民出版社出版日期：2018年9月
■郑渝川
“当无人驾驶汽车、残疾人服务机器人、扫地类清洁机器人等越来越多走入寻常人家，伴随而来的法律问题也值得人深思。在这本《谁为机器人的行为负责？》中，作者就机器人违法犯罪及侵权行为的法律责任确定，以及机器人对现代法学体系中的若干重要内容带来的挑战，进行了深入探讨。”
机器人交易员的行为应该由谁来承担？传统的法律将机器人仅仅作为人类互动的工具或方式，很显然，所有者、使用者要对机器（人）的行为负责。但事情远远没有这么简单。
1990年圣达菲学院机器人锦标赛开赛以来，科学家以复制人类对话、讨价还价为目的，为机器人编程，建立起一个完全由机器人构成的市场。有趣的是，这样一个机器人市场，越来越接近于人类市场，接近于经济学家所说的竞争性均衡。2008年金融危机以前，宾夕法尼亚大学和雷曼兄弟就曾资助过机器人编程的自动化交易项目。最近十年来的技术进展，已经让机器人应用和自动化人工智能体经过多次迭代，越来越多地被应用在包括金融投资在内的工作和生活场景之中。未来，在智能机器辅助设备的基础上，真正意义上的机器人交易员将因为具备深度学习能力，可以脱离初始算法而进行灵活反应，从而替代人类交易员。
但目前，法律体系还没有为此做好准备。如果我们始终将机器人界定为工具，也会出现责任分摊难题。比如机器人交易员因为计算错误等原因，执行了错误的指令而造成了客户资产损失，很可能面临无人负责的窘境。
类似的责任难题，还出现在无人载具技术应用上。无人驾驶汽车和智能汽车共享近年来发展很快。世界上每年都有大量的道路交通事故发生，会造成相当数量的人员伤亡，并因事故引发拥堵，加大能源消耗、影响经济运转效率。因此，这些厂商和投资机构为游说无人驾驶汽车、智能汽车共享获得立法许可，通常会致力于宣扬其安全性，认为这将大大减少事故的发生。可问题是，无人驾驶汽车和智能汽车共享仍然无法彻底消除事故，并且在机器人的完全控制下发生事故，责任仍将难以界定。究竟是无人驾驶汽车的设计者、技术专利拥有者、制造商负责，还是必须由肇事汽车的所有者、操作者承担？
除了责任归属，还有责任大小的界定。包括无人驾驶汽车和智能汽车共享在内，智能机器、机器人如果造成侵权伤害，无论是裁定其所有者或是设计、开发者承担责任，赔偿额过低，显然不合理，还可能使得开发者和使用者不去关注侵权伤害的风险问题；但要是赔偿额很高，每一单要赔偿天文数字，机器人领域的技术开发、商业应用、项目投资恐怕将马上停止。没有人能够担负得起无止境的安全赔偿责任。
上海人民出版社近日引进出版了长期致力于人工智能与法律、网络理论、机器人学与信息技术法研究的意大利都市大学法学院教授乌戈·帕加罗所著的《谁为机器人的行为负责？》一书。这本书基于各国刑法、合同法和侵权法的框架，提出了27种假设情况，就机器人违法犯罪及侵权行为的法律责任确定，以及机器人对现代法学体系中的若干重要内容带来的挑战，进行了深入探讨。
全书开篇首先讨论了管理机器人技术的设计、制造、供应和使用方面的原则、概念、法律推理方法。机器人科技、风险与伦理，很大程度上来源于科幻文学和影视作品，一些作品就成功揭示过机器人的潜在威胁以及因此带来的伦理困境。科幻作家阿西莫夫在其作品中提供了简单化的机器人三定律，后来又补充了零定律。正因此，一些法学家在还没有出现有意识、具备深度学习能力的机器人之前，就致力于将阿西莫夫的法则与现有法律规定结合起来，分别就机器人法律豁免、过失、法律严格责任进行探讨。而近年来，随着自动化设备、智能辅助设备等“准机器人”被越来越多地应用于医疗等领域，已经开始出现机器、机器人责任界定和分摊的争议。
目前而言，机器人承担责任的三个法律领域，分别是刑法、合同法和侵权法。先来看刑法领域。如果机器人涉及犯罪，即在其自由意志驱动下实施了针对人的暴力行为，这当然应当从涉事机器人的设计机制、程序操作以及犯罪行为获利方，去分摊责任。也就是说，如果一款机器人被设计出来就是用来实施暴力行为的，比如抢劫，设计者显然需要承担责任。而设计、制造时没有灌输犯罪意图，但在制造或使用机器人时存在过失，最终导致犯罪行为的产生，就应该按照过失的产生来倒推责任。假定机器人出现技术、使用等方面的失控，造成了严重后果，经过追溯分析，认为其失控存在不可预测性，与设计者、所有者、操作者的主观操作无法建立起因果关系，相关各方当然能够在刑法层面获得责任豁免。
工业、服务机器人而今应用越来越广泛，许多居民家庭也购置了陪伴孩子学习的机器人，用于娱乐的玩具机器人，辅助残疾人的服务机器人，还有各种扫地清洁机器人。这些机器人的共同特点是使用者需要接受厂商设置的自愿协议。协议根据机器人行为的风险和可预测程度，设定厂商和用户及可能的第三人责任，很大程度上避免厂商因用户使用不当导致问题、伤害而需承担的责任。这种责任设定是否公平，有很大争议，但厂商和投资人通常认为避免承担无限赔偿责任，才能保护创新发展。但在协议机器人的基础上，将机器人作为代理人，比如本文开篇所提到的机器人交易员，以及在社会生活中起到媒介作用的机器人，都已经是作出自行判断、高度智能化层次的机器人，其应用场景不同于普通的协议机器人。《谁为机器人的行为负责？》这本书建议，应通过立法更为清楚地界定协议机器人、高度智能化机器人在合同法范畴内的责任范围。
书中还就侵权法范畴的机器人责任进行了探讨。作者认为，消费者、用户如果要举证证明，因为机器人产品的研发、制造存在缺陷，或者厂商赋予机器人与用户的互动能力存在不足、缺陷，都十分困难。不仅如此，如果新一代机器人真的具备了自主意志，故意实施侵权行为，就必须在侵权法领域及时完善法条，以确保其合同外责任有明确的责任方承担。对于过失侵权责任，必须是机器人因互动性、适应性、自主性问题造成了人员伤亡，则可参照自然人的类似过失责任进行分摊，并通过相应的保险政策来降低过失侵权赔偿而可能带给厂商的较重负担。
新闻推荐
签约现场微博@香港文匯網图新华社香港10月22日消息，香港特区署理行政长官陈茂波和亚洲基础设施投资银行（亚投行）行长金立群2...