人工智能时代的刑法归责问题

作者 赵江水 编辑 吴雨星

2019-04-23 辅德法评

一、人工智能的概念及展开

（一）人工智能的概念

人工智能（Artificial Intelligence）其英文缩写为AI，它早在1956届达特茂思会议上就已经提到过，目前较为认可的概念是：作为计算机科学其中分支的人工智能，它是研究、开发用于模拟、延伸和扩展人的智能理论、方法、技术及应用系统的一门新的技术科学。该领域的研究理论正在不断完善、趋于成熟，范围及应用方面也随之扩大。可以想见，能像人类一样甚至可能自我形成思考的这一人类智慧的“容器”在未来会得到迅猛发展，并且深刻的改变、影响社会生活。

（二）人工智能的发展近况

2017年7月8日印发实施的《新一代人工智能发展规划》中提及，“人工智能发展进入新阶段……特别是在移动互联网、大数据、超级计算、传感网、脑科学等新理论新技术以及经济社会发展强烈需求的共同驱动下，人工智能加速发展，呈现出深度学习、跨界融合、人机协同、群智开放、自主操控等新特征。”现如今，蓬勃发展的科学技术为人工智能向着更高层次的深入探索创造了极具可能的空间，对于相关方面的研究全面推动了社会认知的进程但我们对于人工智能的探索仍处于起步阶段，但是其发展速度却值得瞩目。当前，飞速发展的AI使得越来越多的人工智能产物逐渐渗透进入到诸多应用领域之中，其中工业用机器人、服务机器人的普遍推广与使用，是由于当前的智能机器人领域，主要囊括了用来进行辨别外部环境的感观要素，同样为了利于产生同外界环境的有效互动行为，还含有运动要素在其中。所以这种通过人类实施操控行为的“智慧容器”，会为社会生活带来极大的便利。

我们可以展望，在未来的人工智能领域，运用推理能力、逻辑思考等进一步处理人力难以解决或是不便于解决的复杂问题不再是难事，AI的自我学习过程中不断进行的知识积累，是一种更为细致、全面的信息收集过程，能够很好适应时代的飞速发展。但这同样会给人类社会带来一定的冲击，部分职业或面临“智能化”，同样在法律领域，越来越多智能主体的出现对于现行法律制度而言必然是一项不小的挑战。

二、人工智能犯罪责任归置分析

（一）无人驾驶汽车引发的责任承担问题

无人驾驶技术是在AI背景应用领域中相比而言当前最为成熟的，无人驾驶汽车是一种智能汽车，也可以称为轮式移动机器人，主要是依靠车内精密的激光测距仪、视频摄像头、车载雷达、传感器、人工智能系统为一体实现其自动驾驶功能。 无人驾驶汽车如果再细分，还可以划分为有驾驶者和无驾驶者两种；因现存的保险服务条约以及交通安全管理条例之类的影响，国外市场上已具备销售有驾驶者的全自动驾驶汽车的资格，并且已进行一定的改良生产，而没有司机的无人驾驶汽车出于种种限制尚未纳入进范围来。早些年关于“自动驾驶”，人们还处于一种天马行空的概念之中，就像和上世纪的人提起智能手机、高铁一样，更多是存在于美好的想象。目前国内外汽车厂商类似梅赛德斯奔驰、谷歌、长安等将这种概念推到了人们的日常生活中来，纯电动能源汽车特斯拉也对于自动驾驶进行了大胆的设计，但同样存在着缺陷。

在2016年的5月，特斯拉品牌下的ModelS汽车在其自主开发的自动无人驾驶模式启动的过程中发生了一起导致驾驶人死亡的严重车祸，于是，相关对于自动驾驶汽车的争论接踵而至。据事后调查，事故引发是因为该车辆在一条带有隔离带的双向公路上行驶，行驶过程中，驾驶员开启了ModelS自带的自动驾驶模式，而此时一辆带拖挂的大车以垂直方向朝着该特斯拉企图穿越过道路。然而，在当日强烈的光照情况下，再加上拖车的白色车身，并没有引起自动驾驶系统和驾驶者的注意，所以没有及时的做出刹车处置。

到这里我们需要进行一定的分析：首先应当考虑的问题是，该事故的责任主体究竟应该是谁？这里有以下三方涉及到思考之中：驾驶员（即死者）、相撞事故的另一拖挂卡车、特斯拉生产厂家。特斯拉方面宣称，其公司开发的无人驾驶系统还正处于不断完善的阶段，作为智能系统仍未达到可以完全避免事故发生的完美地步，需要驾驶者依旧保持驾驶状态，不应松懈。然而，我们抛开驾驶者在开启系统时正在做什么，是否双手依旧握住方向盘，首先可以确认的是他将自动驾驶系统开启了；而从特斯拉公司的角度分析，其针对自动驾驶的相关传感功能存在漏洞，而这漏洞是导致悲剧发生的直接原因。另一事故主体拖挂车司机，虽然是该事故的“实施者”，但我们应当确认，在当时的驾驶环境下，拖挂车司机是非常无辜的，他不可能也不应预见到这种状况的发生。如果将责任主体判定为特斯拉公司，那么其将为此付出巨额的赔偿，其名誉也会严重受损；同时，未来相关人工智能行业的发展会随之受到牵连。所以在事后不久，美国国家公路交通安全管理局将该事故的调查报告公布，通过降级评定、功能检测和归责于司机“三步走”，得出特斯拉公司无罪的结论，算是为特斯拉洗清罪责出具了官方态度。然而，若将事故的责任主体完全归结为死者本人的不谨慎驾驶，那么未来购买类似产品的可能性将大大降低，这同样不利于人工智能在自动驾驶领域的发展。

从根源角度来看，归置自动驾驶轿车责任的一个主要矛盾点为，其归责的本质究竟应当依照产品责任划分还是按照机动车驾驶事故来解决。于是首先亟待我们解决的是对于人工智能汽车的归类：无人驾驶汽车究竟是属于机动车的范畴还是科技产品领域呢？依照《道路交通安全法》第一百一十九条第三款中的概念解释中并没有明确的指出“人”作为驾驶的必要性，但是在第七十六条中明确了许多不同情形下的责任归置的判断，从而进一步暗示我们，既然已经涉及到对错问题，那么必然是有“人”参与其中的，不然如何进行过错推定。

近日，工信部、公安部、交通部三部门印发的《智能网联汽车道路测试管理规范（试行）》于5月1日正式实施，该《管理规范》正是以作为新兴产业蓬勃发展的智能网联汽车，将逐步在汽车市场中占据一定地位为背景制定的。其中第二十四条、二十五条就明确了测试过程中交通违法和事故处理的原则，虽然目前只是在规定的测试路段可以进行无人驾驶汽车的行驶，但可以将相关理念延伸到自动巡航状态下的轿车之中。个人认为有驾驶者但是处于自动驾驶模式状态中的轿车，与无驾驶者的完全自动化驾驶汽车应当归类于产品，发生需要进行归责的情形时，应当依照民法产品责任中的缺陷责任进行归置，即理论上由该汽车的销售者与生产者承担相应的责任，存在过错的驾驶人承担主要责任。而当汽车驾驶者出于故意或是疏忽大意，通过无人驾驶系统进行相悖于正常驾驶操作的合理范围时，应当将该驾驶员作为正常刑事责任归置的主体，从而依据相关法律法规进行相应的处置。而并非像2016年特斯拉事件的结果一样，单纯以反复实验与评定为技术开脱，一味地将责任推卸给驾驶者。

（二）弱人工智能犯罪的研究

弱人工智能是指不能制造出真正地推理和解决问题的智能机器，这些机器只不过看起来像是智能的，但是并不真正拥有智能，也不会有自主意识。众所周知，这种人工智能的产生会给我们的生活带来不少方面之处，我们的手机中涵盖着的智能系统、天气查询、导航工具等应用软件就是弱人工智能的体现。可是，如果不法分子将罪恶的爪牙伸向AI技术，那么这种与我们生活息息相关的弱人工智能也会为我们的社会带来不堪设想的后果。先前的一些社会观念以及道德伦理或被修正，“人应当承担刑事责任”、“人应当对自己的行为负责”等应当被重新考量。智能机械怎样实现“责任自负”，对于人工智能如何依法进行责任归置更是显得分外苍白。AI引发的对于原始道德观的改变，或将进一步侵蚀到刑事归责体系中。

在当前的实践生活中，人工智能系统被非法滥用、技术遭到破坏等都是由AI带来的风险行为。目前来看，大部分AI依旧是在我们人类进行编程的范围内实行一些相关操作，所展现的依旧是人类行为意志。因此拥有犯罪企图的开发人员完全可以利用开发过程中的程序修改、设计中，将自己的犯罪意图注入到人工智能之中，从而让AI产品成为自己实施犯罪的“帮凶”。此时应当认定为，不法分子利用诸如智能机器人、智能导航之类的弱人工智能，其目的是为了完成自己的犯罪计划，AI技术成为了犯罪过程中的“实施工具”。因而所有的刑事责任理所应当由该工具的开发人员进行承担，因为这样情况下的人工智能依旧展现的是人类意志。

但我们也应当明确，在我们使用这种AI技术时，本身就存在着一定的刑事风险，我们都应当经历过的就是个人信息数据的泄露，正是由于人工智能所体现出高效的数据收集能力，使得其本身就存在着隐患。而且就目前来看，尚不能使得这种隐患以刑罚体系加以规制，所以未来法律制度的发展任重而道远。

（三）高端人工智能犯罪的责任归置研究

1.高端人工智能的自我学习

人工智能是一种极具魅力但也存在风险的东西，前段时日去世的著名物理学家霍金就曾认为：“对于人类来说，一个强大的人工智能的出现可能是最美妙的事情，或者最坏的事情，我们真的不知道结局是什么。”而在更早前接受BBC采访时，也将其理念延续：“强人工智能的出现可能给人类带来灭顶之灾。”强人工智能也可以称为高端人工智能，是指能够确切进行逻辑演算、解决问题的人工智能机器，类似于这样的机器普遍被认为是有自我感知能力及自我意识的，并且它们也同样拥有自己的三观感知体系。强人工智能和生物一样的有类似于生存、安全需求等各种本能。

美国科幻作家阿西莫夫曾提出“机器人三原则”，即“机器人不得危害人类、必须服从人类的命令、在不违反第一条和第二条的情况下必须保护自己”。这样存在于文学作品中的“原则”并不能完全避免未来可能发生的不好情形，甚至在该作家自己的很多作品之中都有描写脱离控制的机器人进行自我行动的场景。所谓的人工智能的价值观同样也是通过数据计算的产物，其本身是经过人工监管和对大量数据的分析得出的“善恶观”。那么，当由于机器人自身通过深度学习，具有了自身的判断力而脱离掌控从而拥有自我意识的时候，人工智能是否需要承担相关刑事责任呢？

目前，对于“是否具有自我判断”的界定标准其实并不明确，对于善恶的标准更是难以制定，关于人工智能发展前景中的这一灰色领域是一个不小的麻烦。在当前适用的法律模式下，一般自然人和单位才是需要承担刑事责任的主体，但是人工智能机器人作为没有生命的机械体，不可否认地存在和人类一样的逻辑推理与行为能力，当然具有承担刑事责任的可能性。并且由于人工智能机器人自身存在的一些特殊性，使得其具备了两面性：从一个角度说，其实现人类意志形态的行为是在科学家们的编程、设计范围内，没有办法以自己的意志目的做出行为，理所应当的不应对该实施行为承担相应的责任。然而另一层次，我们可以思考，当AI机器人通过自我学习、逻辑推理等方式拥有了自己的行动能力，在编程范围以及设计之外实施一些行为时，由于其是以自己的意志作为行动标准，那么这种情况下的智能机器人同一般自然人、单位进行犯罪活动的行为情况别无二致。随着普及AI技术的不断发展，在未来完全可以在人类社会当中，让人工智能的地位由简单的工具逐渐上升为法律主体的高度。我们可以参考国外的解决方案，将人工智能赋予国籍，给予其法律上的“生命”，从而进一步将法律规范针对AI技术的发展做出相对应的整改。

2.研发者的责任承担

正如前文所提到的，AI机器人是完全有实施人类不可操控行为的可能性，因为它可以通过自我的深度学习产生自主的意志，那么倘若这种情况发生，对于该智能机械的使用者以及开发人员是不是也同样会构成过失类的犯罪呢？传统刑法认为，过失类犯罪是以一定的义务或是先导事件的不履行为前提条件，如果“应当预见但由于疏忽大意没有遇见”，或者是“已经预见但却轻信可以避免”，那么过失犯罪即成立。我国的刑法是将惩罚过失犯罪为例外，故意犯罪作为原则，同时有“法无规定即自由”的原则，全部的过失犯罪均以刑法已规定的为认定标准。所以在当前的刑法系统之下，对于有犯罪行为的AI的使用者以及开发人员如若要追究其刑事责任，也同样需要有相关过失犯罪的规定作为定罪依据。

个人认为，在当今不断发展的时代背景下，考虑AI使用者以及开发人员是不是对于人工智能造成的危害负有预见义务，需要同医疗领域一样，判断在使用或者是开发当时的研究水平，是否能够并且应当预见未来可能造成的不利后果。即AI技术的使用者以及研发者需要对该智械有作为义务的情况在于，使用者和开发人员利用当时的AI控制技术完全可以预见到损害结果的出现。当该损害结果最终出现时，可以明确认定相关人员的不作为与损害发生之间存在因果关系，使用者和开发者没有尽到职责，成立过失类犯罪。我们应当明确，AI的开发过程是非常繁琐困难的，往往要经过许多种不同方面的实验和测试才能够形成一件符合标准的产品。那么，倘若在不断的监测实施中，其开发人员“已经预见”到该产品在未来的运作时会使得某种损害结果的发生，但由于相关实验数据表明其发生的概率较低或其他原因，开发人员认为这种情况完全不会发生可以被避免，那当然该开发人员会构成“过于自信的过失”。如果是在勘验时，开发人员完全有可能发现该AI存在一定的缺陷，但由于没有全面试验、检测从而没有发现，那么开发人员同样会成立“疏忽大意的过失”。

注释：

沈长月，周志忠.无人驾驶汽车侵权责任研究[J].法制与社会.2016（27）：62.

特斯拉洗清罪责[J].汽车观察.2017（2）：11.

《道路交通安全法》第一百一十九条第三款：机动车是指“动力装置驱动或者牵引，上道路行驶的供人员乘用或用于运送物品以及进行工程专项作业的轮式车辆。”

《道路交通安全法》第七十六条：第七十六条　机动车发生交通事故造成人身伤亡、财产损失的，由保险公司在机动车第三者责任强制保险责任限额范围内予以赔偿；不足的部分，按照下列规定承担赔偿责任：（一）机动车之间发生交通事故的，由有过错的一方承担赔偿责任；双方都有过错的，按照各自过错的比例分担责任。（二）机动车与非机动车驾驶人、行人之间发生交通事故，非机动车驾驶人、行人没有过错的，由机动车一方承担赔偿责任；有证据证明非机动车驾驶人、行人有过错的，根据过错程度适当减轻机动车一方的赔偿责任；机动车一方没有过错的，承担不超过百分之十的赔偿责任。

《智能网联汽车道路测试管理规范（试行）》第二十四条：在测试期间发生交通违法行为的，由公安机关交通管理部门按照现行道路交通安全法律法规对测试驾驶人进行处理。

第二十五条：在测试期间发生交通事故，应当按照道路交通安全法律法规认定当事人的责任，并依照有关法律法规及司法解释确定损害赔偿责任。构成犯罪的，依法追究刑事责任。

艾萨克·阿西莫夫.我，机器人(叶李华译)[M].江苏：江苏文艺出版社，2013：59.