摘要:高新科技的进步必将会带来相应风险的产生,当人工智能初露风险,我国刑法学界已经开始对其刑事主体地位、行为能力和所处刑罚进行了讨论。文章将对人工智能产品在性能和刑事主体方面进行界分,并在此基础上对人工智能产品触及刑法风险时的管理与防控进行论述,以期对我国人工智能的规范研发和正确使用带来一些启发和思考。
人工智能(ArtificialIntelligence)最早在1956年美国的达特茅斯大学举办的研讨会上由麦卡锡提出,标志着人工智能的诞生。人工智能问世以来,利用人工智能技术研发出的一系列产品相继投入到医学、军事、教育、司法、卫生等多个领域,给人类带来便捷、高效、节约劳动力、降低成本等多种益处。随着人工智能技术的不断完善,人工智能产品逐渐变得更加机器智能化、思维独立化、行为自控化,这无疑会给我们的生产生活带来质的飞跃和前所未有的变化,但我们应警惕人工智能产品将会给我们带来的风险甚至是刑法层面上的潜在犯罪。由人工智能所组成的人造世界是否会具有很强的适应性、创造性替代自然世界?人工智能产品是否会被诸如恐怖活动、危害公共安全犯罪的不法分子加以利用而成为他们手中违法犯罪的“利器”?甚至人类是否会过度依赖人工智能产品而惰性越来越强,最终落入被动局面?
一、人工智能产品的界分
(一)性能界分
根据人工智能产品性能和智能化程度分为弱人工智能产品、强人工智能产品和超强人工智能产品。[1]弱人工智能产品,是指不具有独立思辨意识和控制能力,只是单纯的对指令进行操作,不具有深度学习和神经网络功能。[2]如击败了当时世界排名第一的国际象棋大师加里·卡斯帕罗夫的“深蓝”机器人,依靠其蛮力“强记”,根据“固定”程序逻辑决策,穷极各种可能性进行筛选,选择其中最佳的策略,若卡斯帕罗夫可以预判10步,则“深蓝”可以预判12步。这些方法就目前来看虽然略显落后,但对于1997年的制造者许雄峰来说可谓是穷尽心血。
强人工智能产品,可以在程序范围内独立思考独立学习,根据程序的编码和计算独立的对事物具有辨别性、选择性,如战胜了韩国围棋大师李世石的AlphaGo机器人。[3]围棋与象棋不同,变数更多难度更大,每一步的可能性都无法穷极的列举,一回合有250种可能,而一盘棋可以长达150回合,甚至有很多围棋问题与现实生活中存在的问题都是紧密相通,中国文化甚至将围棋的对弈过程看作领悟人生的过程,要想在围棋对战中取胜,靠单纯地大数据分析然后筛选最优策略是行不通的,它对机器人提出了更高等级的要求,不仅要具有超强的记忆能力、逻辑思维能力,更重要的是要具有创造性和灵活多变性。在AlphaGo和李世石的对战过程中,聂卫平甚至表示在某些步数都想对AlphaGo的创世之举脱帽致敬,因为其“用不可思议的下法辟立了围棋常识之外的新天地”,这就充分证明AlphaGo的下棋模式需要深思熟虑,而不是单纯地靠数据复制或者生搬硬套,这也是人工智能在深度学习和神经网络方向迈进的跨越性一步。
超强人工智能产品已经超出设计和编制的程序,能够自主决策所实施的行为,最大程度地达到“人智模式”。[4]如果有一天超强人工智能与人类进行某种对弈或者活动的话,那么它完全有可能故意输给人类,这样的结果不禁会让人“毛骨悚然”。
(二)刑法主体界分
把人工智能产品作为像自然人或法人这种单独个体来讨论其刑事主体地位和刑事责任能力不是没有道理的。首先,它具有像人一样实行行为的能力。人工智能如果与人一样在具有思维意识和辨识能力的基础上实行行为,其与人最大的区别也只是人工智能不具有生命体征而已,但这并不影响其行为在法律中的定性,人工智能的出现不仅仅在生活工作领域给我们带来巨大变革,甚至很有可能让我们对它的认识上升一个层面。其次,就主观罪过的表现形式,可以分为故意与过失。故意是指明知自己的行为会发生危害社会的结果,而依然希望或者放任这种结果的发生;过失是指行为人在实行行为时应当预见自己的行为可能会发生危害社会的结果,由于其盲目自信或疏忽大意而致使这种结果的发生。人工智能产品因其独有的辨识能力和控制能力很可能会使其具有故意或过失的可能,所以人工智能的刑事主体地位和刑事责任能力的探讨并不是空穴来风,一味的将人工智能犯罪归结为意外事件欠缺妥当。我们不仅把人工智能当作一种工具来看待,还要逐渐认识到它在发展开发过程中的变化,认清其地位,甚至很有可能不断突破我们对现有事物的认知,就像“行为”有时不仅仅是人的专属动作,意识和思维也很有可能跨越人与动物的分界,因人工智能而对其产生新的定义,让我们产生新层面的认识。
人工智能产品根据其性能和所实施的行为是否具有自主性可以将其分为具有刑事主体地位和不具有刑事主体地位。[5]人工智能产品的刑事主体地位大多都与其智能化程度紧密联系,在弱人工智能和强人工智能产品中,由于其设计编制的相对弱智能化决定了其只能在指令和编制程序范围内从事相关活动与任务,虽然强人工智能产品相对于弱人工智能产品来说更加智能化,能够进行独立的深度学习和思考,但依旧是在程序范围内进行,就像AlphaGo机器人,自主学习能力再强,单位计算量再大,也只能在围棋领域天下无敌,随便换个领域,比如扑克牌、象棋、麻将,它就只是一堆废铁。弱人工智能产品和强人工智能产品只能是通过被研发者可以输入特定的程序让其从事非法活动或使用者更改其程序而达到自己违法的目的,所以这时的人工智能产品就不具有刑事主体地位,而应由其研发者或使用者承担相应责任,此时的人工智能产品更像是人类用来达到自己犯罪目的的工具与手段。
超强人工智能产品的超强智能化和在编制程序之外的独立意识让它具有更高的智商和多方位多角度的思辨能力,此时若人工智能产品具有了自主意识,不在应有的领域正常工作而滋生出其他违法犯罪目的,则由其本身承担相应的刑事责任,它就相应的具有独立的刑事主体地位。
二、对人工智能产品触及刑法风险的“管”
汽车等交通工具的产生,相应地道路交通法规应运而生;飞机的发明,相应地航空管理规定逐渐完善。人工智能产品的不断普及,需要相应的管理方法来对其加以约束和规制,使其在为人类服务、提供便利的道路上越走越远,尽量避免像霍金的科学预言那样给人类带来前所未有的困扰和灾难。这就需要对人工智能产品的管理上逐渐重视,建立相应的管理机制甚至是法律体系来对人工智能产品的研发者和使用者甚至是人工智能产品本身进行指导、教育和约束,并且要随着人工智能的发展与进步不断完善和健全管理方法和法律体系,即使人工智能时代,也要安全有序,在可控范围内不断良性发展。
弱人工智能产品和强人工智能产品由于其不具有刑法主体地位,不承担相应的法律责任,其智能化程度和独立思维程度也使其在进行某些行为和执行任务时具有一定的局限性。[3]归根到底还是研发者和使用者的问题,就像现代化武器再怎么先进再怎么自动,最终控制它的依旧是人。在这些领域中需要我们分清哪些是犯罪主体,哪些是行为手段,武器再先进也是由人来操控,最终也是给人定罪而不可能给杀人武器定一个罪名,必要时还可以在刑法分则中增加相应的罪名,来应对这种新型的犯罪方式或犯罪状态。
超强人工智能产品,其独立的思考能力和程序设计以外的思辨水平造就了其可能独立承担刑事责任,具有独立的刑事主体地位,这时的超强人工智能很有可能脱离人类对其的控制和束缚,学会独立深度学习,具有更发达的神经网络,这对超强人工智能产品的研发者和使用者提出了更高的法律要求和道德要求。在对它的研发初期就需要把现行的一些法律法规编制进其内部系统,使其能做到有法可依,而不是活在自己的世界里为所欲为,而且还要根据法律制度的不断完善相应的不断更新其系统,使人工智能产品与现代社会保持一致发展,落后或者脱轨都有可能使超强人工智能产品存在潜在的风险。对超强人工智能本身,随着科技进步应出台相应的法律法规来规定对其的定罪量刑。现在普遍存在的刑罚观点是删除数据、修改程序和永久销毁,我个人认为既然超强人工智能具有独立思辨能力,那么是否也应该像对人类一样科处刑罚来对其和其他人工智能产品产生预防、改正、教育作用,充分发挥它的独立思考能力,使其知道有所为,有所不为,达到惩罚为辅,教育为主的目的。人工智能产品其漫长的研发过程和昂贵的研发经费使其具有相对较高的价值功用,如果处以刑罚可以使其改正并达到很好的警示教育结果,那么依旧可以使其正常发挥作用,为人类造福,使我们的生活更加便捷、高效、智能。这就相当于我们肯定了超强人工智能的刑事主体地位,并把它当作人来看待,给予相应的惩戒和科处相应的刑罚,甚至在不远的未来,当超强人工智能问世并得到一定推广的时候,专门用来惩戒教育触犯刑法的超强人工智能产品的看守所或者监狱也会应运而生,通过专门针对超强人工智能的弱点进行处罚,使其能够“改邪归正”,重新步入正轨。
三、对人工智能产品触及刑法风险的“防”
在超强人工智能还没有真正给我们造成很大威胁的今天,我们提前准备、未雨绸缪,将届时可能发生的危险系数降到最低,是非常有前瞻性也是非常有必要的。如果将人工智能产品用于犯罪,那么会在危害国家安全、危害公共安全、扰乱社会秩序和危害他人人身安全等方面成为犯罪分子非常“得力”的帮凶。如果使用人工智能实施恐怖活动犯罪,无疑会给恐怖分子本身减少危险性,增加隐蔽性和秘密操纵性;若使用人工智能产品危害他人人身安全,则犯罪分子可以随意坐在地下车库、餐厅大堂甚至大学自习室里通过远程终端的控制达到其犯罪目的,凡此种种都是非常可怕而且会造成非常严重后果和恶劣影响的犯罪,更重要的是还会给侦查工作带来极大的难度,使犯罪分子很有可能在很长一段时间内逍遥法外甚至继续作案,危害社会。“君子以思患而豫防之”,与其等待结果的发生再去想办法解决,不如提早预防将其扼杀在萌芽里。在管理上对其规范,使其形成规则意识,约束自己的行为,在此基础上如果再从源头开始防控,将可能发生的犯罪形态扼杀在萌芽里,也许会起到事半功倍、锦上添花的效果。对于不具有刑事主体地位的弱人工智能产品和强人工智能产品,要相应的加强对研发者和使用者的管理力度,健全规范其行为的法律体系。人工智能产品本是无罪的,是为人类服务和带来便利的,不能让其成为某些不法分子违法犯罪的工具,因其高智能性而给侦查人员的侦查工作带来前所未有的困扰。让人工智能产品在合法有序的环境下研发、使用,不能带着“罪恶的使命”出生,如果将人工智能产品当作危害国家安全或危害公共安全的实行工具,那么其相比于人类实行的危害行为会给人类和社会带来更大的灾难,再加上其程序的提前编制和远程遥控,更加增强了真正的“幕后黑手”的隐蔽性,使现场取证、调查犯罪嫌疑人变得更加困难和复杂。
超强人工智能产品对于防范需要在原有的司法体系的基础上建立相应的规范管理人工智能产品的法律体系,对于具有独立刑事主体地位的超强人工智能产品,在研发初期就需要研发者和设计者在编制程序中加入现行法律法规,使其即使独立思辨独立选择,也能有法律意识,而且加以遵守,否则当超强人工智能产品犯罪时研发者和设计者可能承担过失责任。超强人工智能产品一旦具有独立学习独立思考甚至具有人类的智慧和灵性的时候,从某些角度来说是非常可怕的,它在单位时间内比人的计算量更大,拥有比人更强的力量和韧性,造成的危害比人类更巨大,对其严加防控,定期更新检查,如果前期发现其有违法犯罪趋势,可以提前更改程序或者修正数据,使其走上正轨,发挥其真正价值和作用。
四、思考与展望
人工智能是把双刃剑。人工智能产品自从问世以来为人类带来了诸多便利,时代在不断进步,人类文明也在不断发展。人工智能产品从面世到现在只有几十年的时间,对于一个领域来说只是处在前期的萌芽阶段,谁也不敢否定它会引起智能革命的爆发。前些年的无人机、无人驾驶汽车、机器人餐厅服务员的相继面世,到近些年智能冰箱、智能衣柜的出现,人工智能产品不仅所涉领域越来越广,而且与人们的生活越来越贴近,相信有一天它会像汽车、摩托车一样走进千家万户,发挥着不同的作用。在人工智能技术尚处于起步阶段时做好准备,谋划应对措施,若管控及时、使用得当,它将是我们人类的好帮手,甚至是人类文明发展进步的助推器;若不加防范,过度开发,人工智能可能是人类发展甚至生存的“拦路虎”。人工智能已经被开发利用多年并且其水平和智能化程度越来越高,它为人类所造之福是不可磨灭也是不可逆转的,既然已经存在,即使有潜在风险,我们应及时预防,从立法、司法、管理的多维角度来对其进行规制,使其按照人类的发展规律一直为人类所用。只要我们前期预防及时得当,使用过程中严加管理控制,完善现有司法体系,健全与人工智能产品相关的定罪量刑制度,使人工智能产品在良好有序的秩序下发展,就能避免很多不必要的麻烦和风险,打开人类司法文明和科技文明的新纪元。
参考文献:
[1]孟昊博.强人工智能时代什么时候到来?如何到来?[J].互联网周刊,2015(9).
[2]刘宪权.人工智能时代的“内忧”“外患”与刑事责任[J].东方法学,2018(1).
[3][6]刘宪权.人工智能时代的刑事风险与刑法应对[J].紫光阁,2018(5).
[4]吴允锋.人工智能时代侵财犯罪刑法适用的困境与出路[J].法学,2018(5).
[5]刘宪权,胡荷佳.论人工智能时代智能机器人的刑事责任能力[J].法学,2018(1).
赵阳,王册.人工智能产品触及刑法风险的“管”与“防”[J].山西省政法管理干部学院学报,2021,34(01):73-75.
基金:中国刑事警察学院“研究生创新能力提升”课题(项目编号:NO.2018YCYB14)的阶段性成果
分享:
近年来,医务人员遭受侮辱、威胁、暴力伤害的报道经常出现在公众视野中,也一度引发了医患之间的严重对立。大量的暴力伤医事件会消耗珍贵的医疗资源,严重挫伤医务人员的执业积极性,也会导致诸如防御性医疗、医疗费用增涨、临床技术发展停滞等连锁反应,损害普通公众利益,进而引发公众不满,引起更严重的医患矛盾。
2021-09-13作为刑罚执行权配置的一种模式,刑罚执行主体一元化向来有被过度期待的倾向。基于对美、英、德、法四国刑罚执行体制的考证,刑罚执行主体一元化并非普适范式。立足本土考量,刑罚执行主体一元化面临行政统管合理性、机构合并可靠性、职能纯化必要性层面的责难,其优越性亦无法有效证成。为保证刑罚执行体制改革平滑性,刑罚执行权优化配置应在对刑罚执行主体多元化模式的沿袭中实现。在检察监督和审判裁决意志有效延伸的动态中心化机制下,刑罚执行实施权配置应更多关注外部关联性和协调性,并充分考虑社会化行刑的趋势,引入共治机制以匹配业务内涵
2021-08-31针对罪错未成年人,2020年颁布的《刑法修正案(十一)》和《预防未成年人犯罪法》在惯常坚持的轻罪刑事政策下确立了从严的法律规范。在立法修改前的十年间,对罪错未成年人处罚的立法刚性不足、司法中"重裁前而轻处遇"使得该问题日趋严重。社会复归模式以预防刑为理论基础,在专门教育融入比例原则、兼顾社会内处遇与设施内处遇相协调等方式,综合社会力量系统性强化处遇效果。循证矫正模式以循证实践技术为核心,遵循最佳证据原则,结合实践者个体矫正经验以及矫治方法,使得处遇更具针对性、规范性、科学性。以社会复归
2021-08-28审计证据是国家审计人员在发表审计意见、得出审计结论时必备的支撑依据,但在经济犯罪案件中,审计人员往往无法利用单个的审计证据来直接揭露或表明经济活动的真相。证据链构建理论要求审计证据链的证据以逻辑递进的方式联结,以实现审计证据与法律证据之间的有效衔接,为经济犯罪案件提供量刑依据。
2021-07-29自2012年电子数据被确定为法定证据种类以来,最高人民法院、最高人民检察院、公安部等以规范性文件的方式,对电子数据的收集提取和审查判断等进行全面规定,初步构建了我国刑事电子数据的规制体系。作为证明案件事实的材料,在涉互联网非法集资刑事案件中,电子数据在案件证明体系中发挥着极为重要的作用。
2021-07-17随着死刑限制论刑事政策的提出和不断发展,坚持"少杀、慎杀",严格限制与削减死刑的适用,确保社会和谐稳定,已成为我国理论界和实务界的共识。除出台各种程序性保障举措外,我国刑法修正案还将"死刑只适用于罪大恶极的犯罪分子"的规定进一步修改为"死刑只适用罪行极其严重的犯罪分子",以此来契合死刑限制论的刑法政策。
2021-06-18当今社会,信息化高速发展,互联网成为人们生活中不可或缺的重要部分,在社会、经济、政治、文化等诸多方面均存在着深远的影响。然而,在人们享用着网络带来的便利的同时,信息的交互流通也在一定程度上为人们带来了无法避免的安全隐患。网络犯罪事件频发,对人民的信息安全,财产安全乃至生命安全都构成了极大威胁。
2021-06-15随着生物技术发展,基因编辑技术成为法学关注的热点问题。发展与风险同在,这是现代社会的特点,生态、金融、恐怖分子、生化、基因编辑等方面的各种风险,在当今时代里以一种压倒性的方式存在着。因此,如何在促进发展的同时,有效控制与预防风险,就成为国家管理的时代重任,预防性国家缘此产生,并对传统刑法带来挑战。
2021-03-10对“三阶层”犯罪结构模式的中国语境批判,并非是作者一时的心血来潮故作反潮流之为以博他人眼球,而是笔者经过二十多年的跟踪观察、深入研究思考后所作出的认真回应。爱之(三阶层模式)则欲捧杀,恨之(四要件模式)则欲棒杀,从而让中国刑法学形成了过多的理论泡沫,背上了沉重的理论包袱。
2021-03-10地球上生物欺骗的行为,是一项生存的本能。处于生物链顶端的人类更是掌握最高层次的欺骗技能。生活在印尼巴厘岛的拟态章鱼,可以随意改变身体的颜色和形状,模拟环境和其它海洋生物从而保护自己;在非洲南部荒漠上生长着一种叫做生石花的植物,看起来就像是被半埋在土里的碎石块,不仅可以骗过旅行者的眼睛,还可以躲过很多食草动物的攻击。
2021-03-08我要评论
期刊名称:刑法论丛
期刊人气:1192
主管单位:北京师范大学刑事法律科学研究院
主办单位:北京师范大学刑事法律科学研究院
出版地方:北京
专业分类:政法
创刊时间:1995年
发行周期:季刊
期刊开本:大16开
见刊时间:10-12个月
影响因子:0.000
影响因子:0.000
影响因子:0.000
影响因子:1.960
400-069-1609
您的论文已提交,我们会尽快联系您,请耐心等待!
你的密码已发送到您的邮箱,请查看!