人工智能时代智能机器人刑事责任主体研究                                 文/权兆希

摘要：随着人工智能时代的到来，智能机器人给人类的生活带来便利与效率的同时也伴随着危险的发生，世界各地因智能机器人给人类造成危险的事件也屡屡发生。在弱人工智能时代的今天，现有刑事责任完全足以规制此类刑事案件，但当强人工智能时代的到来，现有刑法体系已经不足以归责，对于强人工智能机器人能否成为刑事责任主体，在理论界有着不同的争议。在确定强人工智能机器人拥有辨认能力与控制能力的同时，应当确定其刑事责任主体地位。

关键词：强人工智能机器人；刑事责任；刑罚

1 问题的提出

对于一个问题的解决首先要从他的基本概念入手，实务的基本概念与定义往往体现着实务的基本内涵与外延。因此，无论是讨论智能机器人本身在刑法中的定位，还是研究智能机器人与其他刑法主体之间的关系，我们都应该首先了解智能机器人的概念以及其本身的发展过程。我们知道“人工智能”一词是在1956年达特茅斯人工智能会议上首次提出的，但数十年来，对于人工智能可谓众说纷纭，并无权威定义。人工智能大体可以分为三个阶段：第一阶段，弱人工智能。该阶段智能机器人的特征是智能程度低，不具备自主意识，基本上完全处于编制程序内进行工作，而且往往只能胜任单一领域的技术或者操作。例如，比如战胜李世石、柯洁这类围棋世界冠军的AlphaGo，除了下围棋外，对其他领域一无所知，现阶段的自动驾驶汽车也是如此；第二阶段，强人工智能。该阶段的智能机器人基本上已具备人的特征，能够自主地学习、思考，且能独立解决问题；第三阶段，超人工智能，该阶段的智能机器人在各个方面将得到很大的提升，其处理、解决问题的能力在某种程度上远远超越人类，是一种全智能化的机器，基本上可以运用到生活的各个方面，但其主要擅长逻辑推理、数据计算等。目前，人工智能的发展水平应当说处于由弱人工智能到强人工智能的过渡时期。

人工智能技术的发展可谓风驰电掣，在短短几十年时间内已经达在某些领域达到了超越人类智慧的程度例如：AlphaGO战胜了世界围棋冠军；智能医生的诊断速度和准确率也超过了人类医生；智能法律机器人在辩论赛中的得分也远超人类律师等等。随着技术的发展，我们不禁担忧，智能机器人能否中终有一天在各个方面超越人类，到那时以人作为刑事责任主体的刑罚体系是否将收到根本性冲击，即使在当前时期，也已经出现无人驾驶汽车在自动驾驶模式下造成交通事故、智能机器人在失控下“失手杀人”等一系列问题，因此，这也让我们对于智能机器人是否具有刑事责任主体地位进行重新的思考。事实上，制造出人类机器人并不需要对人类大脑功能完全掌握和了解，因为研制类人人工智能也并不需要等待脑科学认知原理的突破，只要获得生物神经网络的介观图谱和神经元及神经突触功能特性，就能制造出生物大脑工作模式和性能相当的智能机器人，甚至涌现出自我意识。要在技术上达到这一点，显然较之对人类大脑功能的完全掌握和了解要容易的多。因此，制造像人类一样的人工智能应当不会太遥远。

但作为弱人工智能机器人例如自动驾驶车辆为例，虽也有不少对人类造成了危害，但是我们认为对于弱人工智能机器人，刑法学界对其的主张是“犯罪工具论”和“犯罪对象论，对弱人工智能犯罪的归责主体智能是“人”（包括自然人和法人）而不能是弱人工智能机器人本身，对于此在刑法学界是没有争议的，有所争议的是，对于强人工智能机器人的犯罪，我们应如何界定，其能否作为刑事责任主体被追究刑事责任，在理论界有着很大的争议，至今也无法明确。

2 确立机器人刑事责任主体地位的价值和意义

时下，有学者认为，当前刑法学界探讨强智能机器人是否具有刑事责任主体地位并无实际意义。其主要理由是：其一，，鉴于当前的人工智能技术发展水平，智能机器人只能在人类设计和编制程序范围内实施行为，也就是弱人工智能机器人，人工智能技术的“奇点”的来临遥遥无期，强人工智能机器人的到来在近几个世纪可能都无法到来。在此技术背景下探讨具有自主意识和意志能力的强智能机器人的主体地位问题，与缺乏科学依据的科幻小说无异。其二，智能机器人具有工具属性，像人类制造的其他工具是一样的其存在的目的只是为了在一定程度上解放人类的双手和大脑，代替人类从事特定活动，初次之外智能机器人并无其他独立价值，更不可能在人类的设计和编制程序范围外实施行为。“机器人的工具价值决定其具有天然利他特性，在人为编程和算法的影响下，其本身很难产生利己主义的指令和行为”。在以上论述的基础上，很多学者否定智能机器人能够产生自主意识和意志的可能性，并以此作为否定探讨强智能机器人能否具有刑事责任主体地位的理由。

但笔者认为，这些观点有着明显的缺陷和误区。首先，强智能机器人的出现不会遥不可及。人类从农业社会进入工业社会经历了上千年的时间，从工业社会到信息社会经历了上百年的时间，但从信息社会到智能社会只经历了短短几十年时间，在这六十多年间，人工智能技术也逐渐改变着我们的生活方式和工作方式。可见科技的发展是呈爆炸式的，人工智能技术的发展也必将是日新月异的。其次，在当今的弱人工智能时代，人工智能系统在某些方面已经具备了超出人类的能力，并且可以在某些情况下实施超出设计者想想的行动。我们没有办法而且不可能保证人工智能技术的发展轨迹完全符合人类的设计和想象。因此，强人工智能机器人的出现不一定（甚至一定不会）遥遥无期，我们对强智能机器人主体地位的探讨实际上并非建立在想象之上的“科幻小说”。“人工智能系统的自动化程度远超大多数人的认知水平，他们可以从自己的经验中学习，并采取其设计者都想不到的行动。”

事实上，在民法学界乃至国际私法学界也较多地讨论了智能机器人民事主体地位的问题，例如2017年7月8日，我国国务院发布的《新一代人工智能发展规划》，提出“建立（人工智能应用）追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等”，民法学者提出了应赋予人工智能系统“电子人”法律主体地位，或者确认其有限的法律人格。甚至宪法学、行政法学和理论法学界也都讨论了智能机器人的法律主体地位问题，如此众多法学论题的提出已经表明，强人工智能犯罪问题并不是一个“伪命题”，其具有重要的学术价值。

3 刑事责任主体的基本内涵

在讨论智能机器人能否成为刑事责任主体之前，我们首先应了解何为刑事责任主体的基本内涵，在此基础上才能更好的讨论智能机器人的刑事责任主体地位。

在目前的刑法体系下，刑事责任主体包括具备刑事责任能力的自然人或法人。自然人的刑事责任能力受年龄和精神状态的限制。而对单位犯罪的规定为“公司、企业、事业单位、机关、团体实施的危害社会的行为，法律规定为单位犯罪的，应当负刑事责任。”

首先，刑事责任能力的内容是具有辨认能力和控制能力，根据我国刑法的规定，影响和决定人的刑事责任能力有两个因素，一是年龄，二是精神状况。刑事责任能力是行为人能够认识自己行为的性质、意义、作用和后果，并能对自己的行为进行解释、控制以及对自己行为承担刑事责任的能力。具有辨认能力和控制能力才具有行动自由的能力，知道一个行为可以做还是不能做。

其次，刑事责任主体的核心内容是具有刑事责任能力。刑事责任能力作为一个抽象的概念，可以被认为是连接“辨认能力、控制能力”和“刑事责任主体”之间的桥梁。对于自然人刑事责任主体来说，其刑事责任能力的有无，受自然人的年龄和精神状况等多种因素的影响和制约，只有当达到一定的年龄、具备正常的精神状态，才能认定为具备刑事责任能力可以成为刑事责任主体。对于单位来说，其刑事责任能力是通过单位意志表达出来的。而单位意志在本质上是单位内部成员个人意志的集合，单位意志虽来源于个人意志但高于个人意志，一旦个人意志转化为单位意志，便成为超越个人意志的集体意志，单位的集体意志来源于个人，而个人意志中又包含辨认能力和控制能力，所以单位具备刑事责任能力。由此可见，具备刑事责任能力是成为刑事责任主体的充分必要条件，而刑事责任能力的本质内容和具体表现就是辨认能力和控制能力。

4 智能机器人成为刑事责任主体的可能性

我们认为弱人工智能机器人是在设计和编制的程序范围内执行人类的指令，是人类智能的延伸，并不存在承担刑事责任的可能。因此本文并不与讨论，对于强人工智能机器人则存在既可以在设计和编制程序范围内实施危害的行为也可以超出编制和程序范围自主判断并作出决策，实施危害行为，应当予以分别讨论。

对于强人工智能机器人在设计和编制程序范围内实施危害行为，笔者认为应当追究智能机器人背后的设计者或者使用者。理由如下：首先，由于智能机器人是在设计和编制程序范围内实施行为，而设计和编制程序实质上是其背后设计者的意志，实施的行为完全受制于人、为了实现人的意图和目的，此时机器人的性质类似于工具，此时虽然可能实施了刑法上的危害行为，满足刑法构成要件，但是其背后的实际控制着是设计人或者使用人，因此不能对其追加刑事责任。其次，尽管该阶段的智能机器人具备承担刑事责任的能力，但是由于其只是在编制和设计程序范围内进行工作，此时他的地位更类似于“精神病人”或“未成年人”，其无法控制自身的行为，不能对自己的行为负责，其所做出的的行为反应的都是背后设计者和使用者的意图和目的，因此，刑事责任最终的承担者应当是设计者或使用者。理论界通说也都赞同此观点。

重点对于强人工智能机器人在设计和编制程序范围外实施危害行为，对此理论界有不同的观点。

4.1 否定说：强人工智能机器人不能成为刑事责任主体

否定说主张，人工智能犯罪包括弱人工智能犯罪、强人工智能犯罪乃至超强人工智能犯罪在内，在生成机理和内在逻辑上智能是人工智能“算法安全犯罪”其犯罪主体和可归责主体只能是作为算法社会关系主体的“自然人、法人”二元主体。魏东教授认为，“人”才是人工智能算法真正的主人，人工智能算法自主性仅具有相对性并且在根本上是由“人”创设和控制的，因而人工智能算法相对于“人”而言具有相对自主性与绝对客体性。如果说“算法”是智能机器人的内核，其根本因素仍然是“人”的弱智能到强智能，而不是人工智能本身的弱智能到强智能。从刑事责任以及刑罚目的角度看，智能机器人与人的认识和意志机制不同，难以理解行为的实质意义，且智能机器人无法理解并遵从法律规范，无法感知违反规范带来的消极后果，智能机器人的行为属于技术问题而非伦理问题，即使对其进行刑事归责也难以起到一般的预防作用。从刑罚的具体内容来看，智能机器人无法适用人身刑，另一反面，智能机器人与单位不同也无法适用罚金刑。因此对于无法感知刑罚带来痛苦的智能机器人，现行刑罚种类都无法适用于智能机器人身上。

4.2 肯定说：强人工智能机器人可以成为刑事责任主体

肯定说认为，作为强人工智能机器人，当设计、编制程序无法控制智能机器人时，此时智能机器人已经完全是基于自己的意志进行犯罪行为，在这种情况下，其完全能够成为独立的主体，并且能与相关人员成立共同犯罪。此时智能机器人应当承担相应的刑事责任。首先，强人工智能机器人具有自己的辨认能力和控制能力。正如有学者所言，人类对于情感的理解能力，以及对事物作出的反应能力，这些将被未来的智能机器人理解并掌握。与单位相比，能够在设计和编制程序外实施行为的智能机器人其辨认能力和控制能力更接近于“人”，单位的意志来源于个人意志是个人意志的集合，但其辨认能力和控制能力需要通过个人来体现，因为法律只能将单位拟制为“人”，进而让其成为刑事责任主体。作为强人工智能机器人，当其在编制程序外实施行为时拥有自己的辨认能力和控制能力，似乎比单位更加具有刑事责任主体资格。与单位相比，智能机器人不需要借助其他主体的意志，其行为能够表达自己的意志，更加能够作为刑事责任的主体。对于刑罚方式，有学者认为可以对人工智能适用类似于“死刑”的刑罚，例如将人工智能系统永久关闭，也可以对智能机器人实施监禁或者公益服务。也有学者认为可以通过改造现有的刑罚体系，使新的刑罚体系能够适应人工智能时代的“智能机器人犯罪”。具体的刑罚可以有删除数据、修改程序、永久销毁等。

对于强人工智能机器人在编制、设计程序外实施危害行为时能否成为刑事责任主体承担刑事责任，笔者对此持开放的态度，更加赞同肯定说。首先，以现行刑法体系中的刑罚无法适用于智能机器人作为否定智能机器人刑事责任主体地位的理由，显然属于因果倒置，陷入了依果推因的逻辑怪圈，众所周知，“具备刑事责任能力——具有刑事责任主体地位——实施刑法禁止的严重危害社会的行为——承担刑事责任——接受刑罚处罚”无疑是正确的逻辑链条设置， 换言之，对于智能机器人能否成为刑事责任主体问题的论证，我们应该首先考虑智能机器人是否具备辨认和控制自己行为的刑事责任能力，从而确定其能否成为刑事责任主体地位，然后再条件齐备是考虑应否对其进行刑罚处罚以及应用合众刑罚方式对其进行处罚。因缺乏合适的刑罚种类而否定智能机器人的刑事责任主体地位颠倒了正常的逻辑顺序，对证明待证明题没有任何意义。其次，强人工智能机器人能来说虽由人类的设计和编制程序组成，但是也因为编制的程序使其在学习进化的过程形成自己的自主意识，与自然人相比，其除了没有“血、肉”，内在的自主意识、意志与人类无异。在此情况下，我们承认其具有独立的辨认能力和控制能力，应当给予其刑事责任主体地位。

5 结语

人工智能时代已经到来，在弱人工智能时代的今天，现有的刑法理论体系足以满足当今人工智能机器人的归责问题。在没有确定强人工智能机器人的刑事责任主体地位时，我们更重要的是防范强人工智能机器人危害行为的产生，对强人工智能机器人的设计者与使用者进行刑法规制，从源头上防范风险。历史的发展已经证明，科技发展的速度已经超越了人类的想象，笔者认为在未来将在设计和编制程序范围外实施危害行为的智能机器人纳入刑事责任主体范围内也是社会发展的应有之意。做好事前的风险防控与事后的刑事归责才能在人工智能的时代更好的规范人工智能机器人的刑事问题。

参考文献

[1] 舒登维.人工智能时代：谁为智能机器人的犯罪行为买单？[J].佛山科学技术学院学报,2019(07).

[2] 皮勇.人工智能刑事法治的基本问题[J].比较法研究,2018(05).

[3] 李庆城,董振华,田源译.奇点临近[J].山东人民出版社,2011.

[4] 刘宪权.人工智能时代的“内忧”与“外患”[J].东方法学,2018(01).

[5] 魏东.人工智能犯罪的可归责主体探究[J].理论探索,2019(05).

[6] 刘宪权.刑法学（第四版）[M].上海人民出版社,2016.

[7] 刘宪权,林雨佳.人工智能时代刑事责任主体的重新解构[N].人民检察,2018(03).

[8] 彭文华.人工智能的刑法规制[J].现代法学,2019(09).

（作者单位：山东科技大学）