人工智能的刑事风险与刑事责任研究

作者：广西大学 张婷

来源：《南方论刊》 2020年第7期

张婷

（广西大学 广西南宁 530004）

【摘要】人工智能可分为一般人工智能和类人型人工智能，人工智能在给人类社会带来便利的同时，也可能对社会秩序产生威胁。现阶段的一般人工智能并未拥有自主意识，尚不能取得刑事主体资格，其危害结果的承担者应归咎于存在故意或过失犯罪心态的生产者、所有者、使用者。但随着科技发展，能思考且具备刑法意义上的辨认和控制能力的类人型人工智能将成为现实，赋予其刑事主体地位并由其承担相应刑事责任是符合罪责自负原则的，在立法上设计前沿的强人工智能产品刑罚体系也是必要的。

【关键词】一般人工智能；类人型人工智能；刑事风险；刑事责任

“互联网+人工智能”是一个全新的时代，世间万物都具有两面性，人工智能既能让人们的生活变得更加便利、更加美好，同样也能给人类社会带来未知风险。风险社会理论的一个重要意义是让人们重视人为制造的风险，人类利用人工智能或故意或过失的造成的人为风险在这一全新的时代必将被重视，研究人工智能的刑事风险与刑事责任问题势在必行。

一、一般人工智能的刑事风险与刑事责任

（一）一般人工智能的刑事风险

一般人工智能也即非类人的人工智能，其具有感觉、识别、推理和判断的能力，但是它不能像人一样进行思考，没有自主意识，不能因外在环境的变化而自动更改程序，在日常生活中，一般人工智能以人类的工具而存在。一般人工智能的发展为经济社会发展、人们的生活带来便利，为解决疑难问题提供新的方法，例如电商平台利用大数据分析为客户精准推送商品和服务，既促进了经济的发展，又节省了顾客挑选商品和服务的事件；无人驾驶汽车技术降低了驾驶人疲劳驾驶、酒后驾驶引发交通事故的概率；智能机器人能够代替人类从事高危、重复的劳动，物尽其用，极大地提高了生产效率。但是一般人工智能像互联网一样，亦是一把“双刃剑”，它在为社会经济发展和人类生活带来福音的同时，也给社会公众秩序、国家公共安全和个人隐私带来风险。2018年3月在美国亚利桑那州，一辆无人驾驶汽车在路试时与一名骑自行车者相撞，导致该人死亡，这是全球首例无人驾驶汽车致人死亡的交通事故，该事故发生时工程师并未在驾驶席上，所以无法及时按下停止键。一般人工智能没有自己的思维，无法控制和辨认自己的行为，所以当无人驾驶汽车在遇到自行车车主时智能按照原先设定的程序自动行驶，无法自动停止下来，如果将该项技术运用到无人坦克或无人汽车等军事领域，将会给国家乃至整个世界安全带来巨大不稳定因素。再例如2018年俄罗斯世界杯期间，一个酒店经过的特别许可后，向游客提供“机器人妓女”服务，该事件将促使不法分子企图通过法律尚未明确规定的新事物而进行非法盈利，扰乱社会经济秩序。

（二）一般人工智能的刑事责任

即使在人工智能技术发展迅速的今天，一般人工智能仍未具有的思维，其行为只能在人们对其设定的编程程序下进行，由于一般人工智能没有的认识和辨认能力，所以不具有刑事法上的主体资格，自然不能承担刑事责任。一般人工智能是人类研发出代替人类从事

高危、重复、繁复工作或者给人们带来便利的工具，一旦人工智能被犯罪分子非法利用，将会严重损害社会秩序、危及人类的生存，所以对人工智能的监管非常重要。

刑法中犯罪的主观态度包括故意、过失和意外事件。一般智能机器人的研发者或者使用者在研发或者使用的过程中，故意利用一般人工智能机器人实施犯罪，人工智能不具有的思维方式，不能辨认和控制自己的行为，此时的智能机器人完全可以视为研究者或者使用者的犯罪工具，只追究智能机器人研究者或使用者的责任，如果使用者或研究者事先有利用智能机器人实施犯罪的共谋，则可认定该二人为共同故意犯罪。“过失犯是没有犯罪意思的犯重罪行为，是只有法律有特别规定的场合才被处罚的犯罪……所谓过失意味着不注意，在过失的结果犯中，由于违反注意义务引起结果而被处罚。”倘若一般人工智能实施犯罪时，其使用者或研发者只有在违反了法律法规规定的注意义务，此时使用者或研发者对一般人工智能实施犯罪行为的主观态度系过失；“根据刑法基本理论，对于一般过失犯罪而言，无结果即无犯罪”，使用者或研发者主观态度系过失且一般人工智能的行为造成了实际的危害结果时才应当承担刑事责任。如果研发者或使用者在研发或使用智能机器人时，由于当时技术或难以预见的原因，导致一般人工智能造成损害的结果，该损害属于意外事件，故研发者和使用者自然不应当承担刑事责任。

二、类人型人工智能的刑事风险与刑事责任

（一）类人型人工智能的刑事风险

类人型人工智能也就是高级人工智能，它与一般人工智能相同之处是二者都具有感觉、识别、推理和判断的能力，但是它比一般人工智能更高级的地方在于，类人型人工智能有的思维方式，不仅仅只能依靠遵循设计者对其设定的编程来行动，它能够随着外在环境的变化而自动更改程序，能够辨认和控制自己的行为。有的学者认为刑法中的侵害必须具有现实紧迫性，而“智能机器人因为深度学习而产生意识思维并在自主意志支配下实施不在人类设计和编程范围内的犯罪行为，这种风险不具有现实性”，因而不能认为类人型人工智能具有社会意义上的刑事风险；有的学者则认为“强人工智能时代虽未到来，但其刑事风险依然可期”。笔者认为，任何违法犯罪都是先有犯罪再有刑罚规制的，不能因为当前尚未存在有意识的类人型人工智能机器人就忽视了在不久的将来类人型人工智能可能带来的刑事风险，著名物理学家霍金曾对人工智能技术发展表示担忧，他认为AI继续若持续发展，可能会通过核战争或生物战争摧毁人类。英国知名人工智能思想家尼克·博斯特罗姆认为类人性人工智能比最具有智慧的人类还要聪明，随着2017年10月25日女性机器人索菲娅被授予沙特公民身份，欧盟议会法律事务委员会拟议“拟制电子人”的模式认定高级人工智能的法律主体地位，类人型人工智能时代似乎正在逐渐到来。现阶段的一般人工智能技术已经被人类掌握，一般人工智能通过学习和运算，使得自己能力不断提高，进而发展成为有自己的意志、能够控制自己行为、有自己独特性格的类人型人工智能是非常现实的，而传统学者认为不可能成为现实的类人型人工智能刑事风险成为现实并不是无稽之谈。

（二）类人型人工智能的刑事责任

“达到强人工智能标准的智能机器人具有类似于人类的思维和情感，拥有相对的自我意识并能据此做出相关行为”，并且强人工智能比单位更接近于自然人，那么该种类人型人工智能在人类社会中就理应获得法律主体资格而不是以客体的形式存在，故当类人型人工智能主动实施犯罪时也应当承担相应的刑事责任。在自然人犯罪中，既有个人犯罪也有共同犯罪，那么在类人型人工智能体犯罪的情形下，自然也存在共同犯罪。倘若自然人将类人型人工智能体作为犯罪的工具，而类人型人工智能又无自己意识的毫无保留的实施了这个犯罪，那么该自然人应当以间接正犯进行处理，由于该类人型人工智能并未主动修改程序实施该犯罪，只是被使用者或设计者当作犯罪的工具，根据罪责自负原则，该类人型人工智能不应当承担刑事责任。

如果自然人教唆类人型人工智能在编程范围外，通过学习和总结经验而获得属于自己的修改程序的原则，从而控制自己产生犯罪的故意以实施犯罪或者在类人型人工智在编程范围外产生犯罪故意后又对其进行帮助从而共同实施犯罪的，应当成立共同犯罪，此时该自然人在共同犯罪中的地位应当与自然人共同犯罪无异，即教唆犯或帮助犯，当然如果类人性人工智能被同属于高级人工智能的同类或者使用者、设计者教唆或者帮助实施犯罪的也成立共同犯罪，需要共同承担有关刑事责任。

我国目前法律尚未对人工智能的法律主体和法律责任进行规定，但日本、韩国已经起草了《机器人伦理宪章》等规范性文件，笔者认为应当借鉴世界各国先行者的立法前沿活动，设计针对类人型人工智能的具体的刑罚体系。类人型人工智能与自然人极其相似，既然自然人的刑事责任以年龄为依据，那么类人型人工智能产业也可以设计一套评判智能体的年龄标准，在刑事责任年龄之下的属于类人型人工智能中的绝对安全一类，在完全刑事责任年龄之上的则在其所犯罪行及所起作用的范围内承担相应的刑事责任。当然机器人又与自然人有很大的区别，例如自然人的记忆不能随意删除，但机器人可以，所以立法上可以对轻微犯罪的类人型机器人及刑事责任年龄以下的普通强人工智能进行“删除数据”的处罚，将其实施犯罪所需要的数据删除使其无法再次犯罪；如果类人型人工智能所犯罪行在死刑之外的，可以对其施以“修改程序”的处罚，其学习能力以剥夺其认识和控制能力；如果类人型人工智能实施的系处以死刑的犯罪的，则可以对其“删除程序”，也即剥夺其“生命”。

三、结论

现阶段的一般人工智能虽然具有感觉、识别、推理和判断能力，也能够根据外界环境的变化按照人们预先设定的编程原则来改变自身程序以确保自己完成设计者或使用者要求的任务；在不久的将来必将走向现实的类人型人工智能更高级之处在于可以通过自主学习、总结经验来获得新的编程原则，不需要按照人们预先设定的编程原则就可调整自身的程序，类人型人工智能具有的意志，能够按照自己的编程原则行为，所以类人型人工智能更像动物、人类。现阶段的一般人工智能不具备辨认和控制能力，它们以工具的形式存在于人类社会生活，并不具备的刑事主体资格，即使触犯刑法也不具有刑法上的可追责性。根据罪刑法定原则和罪责刑相适应原则，利用一般人工智能进行犯罪的设计者、所有者或使用者则应当根据犯罪的主观目的对危害结果承担故意、过失的刑事责任或因意外事件而免责。虽然现阶段类人型人工智能并未问世，但随着科学技术的迅猛发展，具有思考意志，能够自行修改编程来改变自己行为方式的高级人工智能并将成为现实，一旦类人型人工智能成为现实，习得恶意编程的人工智能带来的风险对人类而言将是致命的，赋予类人型人工智能法律主体资格、根据现有刑法理论对其定罪、要求其承担相应刑事责任，并在立法上逐渐设计出与其特征相适应的刑罚体系是我国法律与社会发展相适应的必然要求，也是对未来人工智能发展的新思考。

参考文献：

[1]张明楷:风险社会“若干刑法理论问题反思[J].法商研究,2011(05).

[2][日]山中敬一:刑法总论[M].成文堂,1999.

[3]刘宪权:刑法学名师讲演录[M].上海：上海人民出版社,2016.

[4]高铭暄:当代刑法前沿问题研究[M].北京：人民出版社,2019.

[5]刘宪权:人工智能时代的刑事责任演变：昨天、今天、明天[J].法学,2019(01).

[6]贺栩溪:人工智能的法律主体资格研究[J].电子政务,2019(02)

[7]马治国,田小楚:论人工智能体刑法适用之可能性[J].华中科技大学学报（社会科学版）,2018（02）.

[8]王燕玲:人工智能时代的刑法问题与应对思路[J].政治与法律,2019(01).

作者简介：张婷（1995-），女，山东广饶人，广西大学法学院，研究方向：刑法学。

责任编辑/陆一霖