综述 | 孔忠愿：人工智能刑事责任主体文献综述

近年来，人工智能技术对人类的生活和生产产生了较大的影响，人工智能的话题引发了人们的密切关注，同时也在国家层面受到高度重视。2014年欧盟发布了《欧盟机器人研发计划》，2016年美国发布了《国家人工智能研究与发展策略规划》，2017年法国发布了《人工智能战略》。2017年7月国务院发布《新一代人工智能发展规划》，将人工智能的发展上升为我国的国家战略。时代的需要孕育着可能，大数据、深度学习和神经网络技术等如雨后春笋般发展起来。在学科分布上，众多学科在原来研究的基础上新增人工智能的元素。

刑法学的研究也是如此。近两年来，人工智能刑事责任主体的探讨火热发展。在法律的框架下研究人工智能的问题时，人工智能往往被分为弱人工智能与强人工智能两种类型。对于弱人工智能，学界观点一致认为弱人工智能产品不具有辨认能力和控制能力，仅能在设计和编制的程序范围内实施行为，实现人类设计和编制程序的目的。弱人工智能产品的工具属性决定了其不可能作为犯罪主体而承担刑事责任，故不是本文探讨的对象。强人工智能与弱人工智能的本质区别在于是否具有独立意志，以及是否能够在设计和编制的程序范围外自主决策并实施相应行为。强人工智能具有自主意识，具备辨认和控制能力。对于强人工智能能否成为刑事责任的主体则存在激烈的争论，对此存在肯定说、否定说和折衷说等不同的观点，但主要是肯定说与否定说之争。国内外学者对其研究众多，但是相关的系统性梳理却较少。为了充实该方面研究的素材，及更加客观全面地对人工智能刑事责任问题进行深入研究，本文围绕强人工智能刑事责任主体设立的必要性、承担刑事责任的可能性、刑罚处罚设置的可行性与科学性等方面系统地梳理了关于强人工智能刑事责任主体的研究成果，并从以上角度进行了分类整理与评价，最后依据现有的研究成果对未来研究方向进行了展望，指出人工智能时代刑法应秉持的立场定位，具有较强的现实意义。

通过梳理国内外有关强人工智能刑事责任主体的研究，发现刑法学者们大多从强人工智能刑事责任主体设立的必要性、承担刑事责任的可能性、刑罚处罚设置的可行性与科学性等方面展开说理和探究。

强人工智能刑事责任主体的设立是否必要，是展开强人工智能刑事责任主体研究的逻辑起点，是肯定论者与否定论者的第一次正面交锋，也是两派学者对于该问题的不同世界观的最初体现。

刘宪权教授在对强人工智能时代刑事责任的规制具有必要性的论述时提出了两点理由：其一，作为法学研究者应该相信霍金等科学家的论断，认为人工智能会毁灭人类，而不是相信李彦宏等经营者的说法，认为人工智能不可能威胁到人类的安全。应秉持宁可信其有，不可信其无的立场。其二，面对强人工智能的出现可能会给人类带来威胁，我们需要未雨绸缪，防患于未然。[1]

陈叙言在论及承认人工智能刑事责任主体地位之必要性时指出，承认人工智能刑事责任主体地位是基于功利主义的考量，是以保护人类自身利益为目的的。刑法学者应该对强人工智能的到来抱有忧患意识，理论研究和立法都应具有一定的前瞻性。[2]

王耀彬认为现行刑法主体概念对于人工智能法律主体规制的缺位，无形中增加了人们对于智能风险的恐惧。当下，各部门法在人工智能领域的探索已显雏形，刑事法的规制却略显保守。类人型人工智能实体与自然人的相似程度比动物、单位更高，包含法律设定主体的本质要素——理性，并具备侵犯法益的可能性，从而增强了赋予其刑事责任主体地位的必要性。[3]

黄云波认为，不论是库茨维尔的奇点理论，还是霍金关于人工智能发展完全将是人类末日的警告，都还只是一种假想与猜测。对人工智能未来情境的预见， 专家较之常人并没有太大优势，大家都只能是盲人摸象或信口开河。[4]

周铭川认为，强人工智能犯罪的刑事责任问题是一种假设性命题，现阶段来探讨它能否被证明为真没有多大意义，正如无法通过逻辑推理去证明任何一个宗教命题的真伪一样。[5]

对于未来性的命题，在未经科学研究充分证实的情况下，刑法学者对于该可能出现的新事物的探讨皆只是基于自身的世界观。无论是对强人工智能刑事责任主体设立的必要性持肯定的态度还是否定的态度，两派所提出的理由都不能完全使对方信服。因而，对于强人工智能刑事责任主体的论证，肯定论者与否定论者把更多的争论重心放在强人工智能承担刑事责任的可能性上。

Gabriel Hallevy认为，“只要符合刑法的所有相关要求，一种新型的主体可以被添加到现有的刑法大家庭中，除了人类个体和法人之外”。[6]此处“符合刑法所有的相关要求”指的是“符合犯罪的构成要件”，通说认为强人工智能可以实施符合构成要件该当性的行为，在没有违法阻却事由的前提下，能够凭借其自身的刑事责任能力承担刑事责任。承担刑事责任的基础是责任主体的意志自由，具体表现为责任主体具有辨认能力和控制能力，而辨认能力和控制能力的基础是思维能力。[7]

刘宪权教授指出，自然人的辨认能力和控制能力来源于生命，受到年龄等因素的影响，而强人工智能产品的辨认能力和控制能力则来源于程序和算法。[8]科技的发展是呈爆炸式的，随着深度学习技术、神经网络技术、类脑智能技术等的发展，出现能够在自主意识和意志的支配下独立作出决策并实施行为的强智能机器人并非天方夜谭。强智能机器人比单位更接近自然人，域外相关的立法例对我们承认强智能机器人的刑事责任主体资格具有一定的借鉴意义。[9]

陈叙言认为，不应过多关注自然人与人工智能的不同点，将自然人人的属性与人工智能机器的属性相比较时，应重视两者之间的共同点。人工智能能够理解自身行为的意义，做出适法的行为。[10]

孙占利认为，从当前的法律来看，自主意识是智能机器人取得法律人格的主观条件，能够进行独立的意思表示并进而形成社会关系是客观条件。是否属于社会关系则由人来作概念上的设定，意思表示能力对现在的智能机器人而言已无技术障碍。完全用人类的自主意识作为强人工智能意识判断标准的科学性和合理性是值得商榷的。[11]

卢勤忠认为，尽管人的智能以意识、思维、感觉和知觉等为基础条件，但智能机器人实现分析判断、推理等能力并不一定需要具有和人一样的主客观条件，其意识以及意志自由的表现形式也可能与人类有所差异。应当明确强人工智能机器人在刑事责任与刑罚根据上与人存在差异，需要对刑法理论做出符合强人工智能机器人特征的重新解读。[12]

王耀彬在论及类人型人工智能实体成为刑事主体的可能性时提出如下理由：认识上的理性能力与在实践中的自主行为能力是法律主体的必备要素，而类人型人工智能实体依靠编程与系统具备这两项能力，也为其刑事责任主体的塑造提供了必要条件。类人型人工智能实体具备刑法上的认知与意志控制能力。[13]

叶良芳指出，尽管具有自主决定能力的人工智能，在某种程度上具有与人类相似的辨认和控制自身引发的客观状态的能力，但是这并不是刑法将人工智能拟制为犯罪主体的充分条件。人工智能不具备独立于人类的权利和价值，在善恶观和伦理观上不具备与人类相当的认知水平，将人工智能拟制为犯罪主体的设想不具有合理性。[14]

时方认为，意志自由是认定刑事主体地位的关键要素，包括认识要素与意志要素，强人工智能与法人虽然都不具有人类肉体与意识的生理构造，但法人特殊的运作机理符合刑事主体地位认定的实质要求，强人工智能并不具备。强人工智能运行机理与人的意志自由进行形式匹配过于机械，强人工智能不具有理解并遵从法规范的能力，其行为属性判断无客观标准。[15]

储陈城指出，强人工智能独立承担刑事责任不具有理论自洽性，理由是：要承认AI 的“行为”满足刑法上的行为的要素，就必须要在AI 自身当中找到和人类意思完全相当的意思；AI 不具备与人类等同评价的自由意思；对AI 施加刑罚不具备可行性。[16]

王志祥认为，虽然强人工智能机器人拥有独立的意志以及辨认能力、控制能力，但同样也不能成为犯罪主体，不承担刑事责任。将强人工智能机器人作为犯罪主体的观点忽视了自然人与智能机器人的区别，缺乏相应的刑罚措施且无法实现刑罚的机能。[17]

周铭川指出，由于电子机械运动与人的生理运动之间存在不可逾越的鸿沟，从金属和塑料和指示电极开与关的程序组合中无法产生人的意识。在对人类意识的本质及生成机制缺乏透彻理解的情况下，无论是符号主义还是联结主义，都不可能模拟出人的意识。即使假设强人工智能已经到来，考虑对其增设刑罚种类也意义不大。[18]

在承认强人工智能刑事责任主体设立具有必要性和承担刑事责任的可能性的前提下，再来探究对强人工智能犯罪如何施加刑罚处罚的问题。

刘宪权教授认为，如果强智能机器人在自主意识和意志的支配下独立作出决策并实施了严重危害社会的行为，应将其作为刑事责任主体，对于无法通过现行刑法中的刑罚种类对其进行处罚的问题的解决路径则应该是重构我国的刑罚体系，增设能够适用于强智能机器人的刑罚处罚方式，比如删除数据、修改程序和永久销毁。[19]

黄云波认为，我们研究人工智能的刑事责任主体地位，目的在于保护人类免受人工智能的侵害，即为了社会防卫。鉴于此，我们应当借鉴刑事近代学派所主张的社会防卫论，创立以人工智能等科技风险为对象的“科技社会防卫论”与“科技责任论”，将人工智能作为独立的责任主体，对具有实施危害社会行为的人工智能施以技术危险消除。[20]

卢勤忠认为，在强人工智能机器人承受刑罚的基础上，预防主义刑罚目的论成为主流观点。在强人工智能时代的刑罚功能上，对强人工智能机器人适用刑罚能够实现刑罚的威慑功能和教育改造功能。删除数据、修改程序和永久销毁契合强人工智能机器人的特征，能够实现刑罚的功能与目的。[21]

王耀彬认为，类人型人工智能实体的刑罚体系设计困难并不意味着设计上的否定，没有任何事物是一成不变的，我们的刑罚体系也应如此。智能时代背景下对于刑罚体系的改造不可或缺，也是预防类人型人工智能实体犯罪的必行举措。当然，针对刑罚体系的改造应当遵循罪刑法定、罪刑相适应、以刑罚目的为导向等原则。[22]

周铭川认为，如果假设智能机器人不再是主人的财产，而是与人类完全平等的新人类，则必然要同时假设其在本能、直觉、技能、情感、欲望等方面完全与人类相同，则对其适用与人类完全相同的生命刑、自由刑、财产刑甚至剥夺政治权利刑，就完全合乎逻辑，因此也没有必要提出所谓删除数据、修改程序、永久销毁等所谓新的刑罚种类。进而，如果假设人工智能已经发展到所谓超人工智能阶段，则由于超人工智能具有远远超过人类的能力，到时将存在由超人工智能统治人类并为人类立法甚至消灭人类的问题，提出为超人工智能增设新的刑罚种类也意义不大。[23]

皮勇认为，如果未来人工智能系统不受人类控制、自主进化，极可能不具备成立犯罪的主观条件，不能适用刑法规定的刑事责任和刑罚相关规定；不受人类控制的未来人工智能系统不可能接受刑法的规制，也就无从适用刑罚处罚，其制造的危机需要以其他直接、有效的技术手段应对。[24]

时方认为，从刑罚惩治与安抚功能、刑罚预防功能、刑罚矫正功能来看，肯定论者所提出的设想难以实现以上功能。一是，刑罚的威慑力是实现预防犯罪目的的重要基础，但机器人缺乏感知喜怒哀乐的能力，因而刑罚对于缺乏趋利避害本性的机器人不能发挥威慑效应。二是，刑罚只能施加于具有意志自由的主体，因为不通过主观恶性判断其社会危险性及再犯可能性，教育改造目标将无从谈起。[25]

赵秉志认为，即使承认智能机器人能够独立承担刑事责任，但是对于智能机器人适用刑罚的合理性与必要性问题仍需进一步探讨。肯定论者将智能机器人等同于活生生的自然人，但是，在确定其刑事责任的实现形式时，却又承认了其作为机器的本质属性，因此相当于又否定了其作为人的资格。[26]

近年来，刑法学者们对人工智能的研究大多从强人工智能刑事责任主体设立的必要性、承担刑事责任的可能性、刑罚处罚设置的可行性与科学性等角度展开。通过总结学者们的研究观点，得出以下结论：

肯定论者与否定论者在阐释强人工智能刑事责任主体设立是否必要时，往往是从自身对于该问题的价值判断出发而作出的价值选择。对于该问题的阐释更多的是停留在“立场选择”而不是方法与过程的论证。肯定论者通过假设结果的发生来说明强人工智能刑事责任主体设立的必要性，进而在该一假定的前提下探究主体设立的可能性与刑罚重构的可行性，体现的是一种“由果索因”的逻辑思路。相反，否定论者更多的体现“由因导果”的推理思路，从根本上否定产生结果的原因，不接受没有被证明的“原因”，认为现阶段研究强人工智能刑事责任主体的设立没有合理的依据也无必要性。

强人工智能承担刑事责任的前提是能够成为刑事责任的主体，根据人类现有的刑法理论知识与刑事立法例，自主意识、自由意志则顺理成章地成为强人工智能必备的要素。肯定论者在论述强人工智能自主意识的产生时，做出了与人类意识产生方式不同的解释，在意志的机能上又做出同人脑具有类似机能的解释。否定论者立足于既存人类知识，指出强人工智能无法像人类一样产生出意识，也不具备人脑如此复杂的思维机能。前者实质上是从矛盾的特殊性与普遍性的角度分析问题，既认为强人工智能与人类存在不同之处，也强调两者之间存在共性；后者是立足于矛盾的特殊性分析问题，看到强人工智能与人类的不同点。但肯定论者面临一个巨大的难题，即在论证强人工智能自主意识的产生时，绕不过哲学上关于唯物论与认识论的先验结论：究竟什么是思维和意识，它们从哪里来？它们都是人脑的产物，而人本身是自然界的产物，处在这一环境中，并与之一同发展。[27]“实践是人的有意识的生命活动”，“有意识的生命活动把人同动物的生命活动直接区别开来”。[28]

即便强人工智能能够成为刑事责任的主体，如果不能对其施加有效的刑罚措施，则将其纳入刑法范围内进行规制也没有任何意义。因此，对强人工智能科处刑罚的前提是受到人类社会的管控。肯定论者一边假设人类将不再有能力去规制强智能机器人的行为，人工智能可能毁灭人类，另一边又主张通过刑事立法对强人工智能的犯罪行为科处刑罚，逻辑上难以自洽。

正所谓“对症下药”，既要使患者得到好的疗效，而且该“药”的社会口碑也要良好。就如同我们现在的司法活动一样，强调法律效果和社会效果的统一。对症下药的前提是要清楚病因和症结所在，在病因不明的情况下给出的药方难言是科学的，甚至是非常危险的。对强人工智能设置刑罚处罚也是如此，在对强人工智能自身呈现出来的特征缺乏充分的了解和掌握的情况下，谈及刑罚种类的设置，仅仅是一种“为了设置而设置”。虽然肯定论者假设的情况具有一定的可能性与可行性，但是也不能完全排除否定论者所提出的情形。我们大致可以假设以下三种情形：若强人工智能与人类运作机理相同，则适用与自然人相同的刑罚种类；若强人工智能与人类运作机理不同，因强人工智能自身的特殊性则可设置相应的刑罚种类，比如肯定论所主张的删除数据、修改程序等；若强人工智能与人类运作机理既有共性也有特殊性，则应综合设置刑罚的种类。

正如埃里克·希尔根多夫所指：数字化革命尤其是人工智能的广泛应用，不仅引发了人类工作生活的巨大变革，也对法律职业以及刑法学工作产生了跨时代的影响。鲍纳塔尔案、阿沙芬堡案、自动驾驶的悖论问题和“Tay”案已经预示着人工智能并不是百分之百的安全，人类在未来遭受其损害的概率会显著提升。即便如此，法律的演进仍应谨慎、适度，尝试以现有的法律教义学方法解决人工智能所带来的新的法律问题。具有自我学习能力的系统对法律构成了特别的挑战。在民法上应扩大严格责任，在刑法上可考虑引入新的危险犯构成要件。当然前提是从实证角度对风险情势进行更强有力的解释。[29]

本文认为，不应随便突破或者否定现存的法律框架和刑法理论，“在讨论智能主体是否具备刑法中的主体资格问题时，仍需要回归到规范刑法学层面，尝试探讨智能主体的刑事责任能力等规范要素。尽管其可能不是最好的办法，但它目前是适当的权宜之计”。[30]在风险形势未经科学实证研究的前提下，我们更不应该让刑法“打头阵”。若人工智能的研究“完全指向技术的促进，刑法则不加干涉；单纯强调风险防范，则刑法将严密法网”。[31]

同时，“我们不应将立法条件和研究条件混为一谈。即使立法条件不成熟，只要存在现实问题或预见到问题的现实发生可能性，就应当积极投入研究”。[32]在刑法上进行理论上的前瞻性探讨和研究无可厚非，也是必要的。但是法律的本质、内容和发展方向是由特定的社会物质生活条件和生产方式决定的。在现阶段讨论强人工智能刑事立法既缺乏实践基础，也与当下中国刑事立法的趋势不相符合。

刑法学者对于人工智能刑事责任主体相关研究的论证过度集中于刑法理论方面，跨学科、跨领域的研究成果亦较少，这受制于刑法学者的个人的知识结构、认识能力和认识水平。而人工智能是一门极富挑战性的科学，从事这项工作的人必须懂得计算机知识，心理学和哲学。就学科范畴而言，人工智能是一门边沿学科，属于自然科学、社会科学、技术科学三向交叉的学科。“智能主体的首要特征是技术问题，其次是与之高度关联的智能程度问题。在考察智能主体的法律资格及其行为能力时，也需要立足于智能技术这一首要因素，围绕智能程度这一关键问题，展开相应的讨论，否则有可能偏离问题的实质。”[33]

笔者无意让刑法学研究者承担如此多领域与学科的研究负担，这也不现实，但是最基本的应该了解和掌握这些学科的一般性原理和结论。在对强人工智能进行刑法上的规制时，绕不过对些学科现有知识的辩证否定，乃至对传统认知的颠覆。刑法学者未来应加强跨学科视角的研究，为其立场与结论提供充分的论证。因为人类在改造客观世界的同时，也改造着自己的主观世界，提高自己判断和推理的能力，从而推动认识的不断深化。

（来源：“刑法公开课”微信公众号）

（图片来源于网络）

（此文观点和内容与本公众号无关）