首页 > 论文范文 > 社会科学论文 > 科技论文 > 自动化论文 > 解读医疗人工智能民事法律责任的承担方式

解读医疗人工智能民事法律责任的承担方式

2022-03-11 96 上传者：管理员

摘要：人工智能因具备医疗领域所需的精确性、灵敏性等特点，在医疗领域获得良好融合发展机遇。目前，我国医疗人工智能已然深入医疗决策过程中，构成了＂患者—医疗人工智能—医疗机构＂的医患关系。在医疗人工智能致人损害发生时，如何在三方之间分配责任，保障各方的利益，是一个较为重要的问题。应当明确各方在医疗过程中的注意标准，明晰各方承担责任的界限，结合医疗领域特殊性构建相应赔偿规则，在保障患者合法权益的同时，不损害医疗的社会公益属性，亦不阻碍医疗人工智能发展的动力。

关键词：
人工智能
侵权责任
医疗侵权
责任承担
黑箱
加入收藏

1985年，美国加州放射医学中心将VictorScheinmann研制的臂式工业机器人Puma560用于辅助神经外科脑部活检手术，尝试将人工智能理念融入医疗领域[1]。随后IntuitiveSurgical于1999年成功研制DaVinci外科手术医疗机器人，标志着人工智能在医疗领域步入成熟。后来IBM与MemorialSloan-ketteringCancerCenter(MSK）联合开发Waston系统，综合运用MSK的癌症专业知识与IBMWatson的分析速度。Waston能够持续学习肿瘤学研究成果、分析肿瘤治疗数据，为癌症治疗提供个性化的癌症治疗方案[2]。医疗人工智能由此逐渐完成“计算智能—感知智能—认知智能”的技术革命路线，进入能够对医疗信息整合学习时期，为手术提供全面、精准的评估意见，辅助医生更好的完成诊断与手术。医疗人工智能目前在医疗信息化、智能诊疗、医疗健康管理、药物研发、医学影像等领域保持高增速，全面塑造医学领域[3]。

当前，医疗人工智能已经深入参与到医疗决策过程中，微妙地改变着诊疗决策过程甚至结果，构成了“患者—医疗人工智能—医疗机构”的医患关系[4]。在此背景下，《民法典》侵权责任编所建构的责任体系出现了一定程度的失衡。如何平衡患者利益、医疗服务公益属性以及医疗人工智能产业的发展，成为了一个亟需回答的问题。

一、医疗人工智能的运行特性

现代人工智能系统逐渐成为一个“黑箱”，所有决策都存在于这个“黑箱”中。虽然学习算法可能是公开和透明的，但它产生的模型可能不是，因为机器学习模型的内部决策逻辑并不总是可以被理解的，即使对于程序员也是如此[5]。医疗人工智能同样具有“黑箱”属性，算法对输入数据进行整合、识别和判断，最终向医疗人员和患者输出结论。输入数据和输出结论是可见和可理解的，但从输入到输出的过程则缺乏透明度[6]。医生对算法的控制能力更为微弱，对其产生的诊疗决定只能采取信任态度。在当前及未来相当长时间内，其分析和决策过程不具有可解释性，结论具有不可预见性[7]。如在胰腺囊腺瘤的诊断中，浆液性囊腺瘤占比在80%以上，黏液性囊腺瘤不到20%，人工智能系统将所有的胰腺囊腺瘤患者诊断为浆液性，可以获得80%以上的准确率，这样的准确率在实际应用中毫无意义[8]。

二、传统民事责任承担的缺陷

（一）传统医疗民事责任观点

《民法典》侵权责任编构建了以过错责任为原则、无过错责任为例外的医疗损害责任体系。有学者认为人工智能取证难度过大，患者难以证明医疗机构与生产销售方存在过错，应当对医疗人工智能侵权适用无过错归责原则，将侵权责任归于生产者或销售者，此观点主要目的是便于受害患者获得赔偿[9]。另有学者类比借鉴法人责任，认为应当将医疗人工智能视为法人的财产来追究所有者和管理者的责任[10]。以上观点在保护受损患者角度来看是较为合理的，均将患者受损利益物质保护置于首位。上述单一价值向度保护论放在“患者—医疗人工智能—医疗机构”的医患关系中却有所不适。患者就诊过程中涉及的主体中，医疗机构的医疗服务和医疗人工智能行业的技术服务均具有社会公益属性，将患者受损利益径直向二者转移将会异化社会公益属性服务。

传统侵权责任体系在原有场域是不存在适用困境的，如2015年英国首例DaVinci心瓣修复手术失败案中，负责手术的主刀医生因未在术前完成操作培训课程，在手术过程中无法准确控制机械臂，导致患者当场死亡。传统侵权责任体系便可对医疗机构未尽审慎义务致人伤亡的行为进行追责。再如人工智能产品在设计制造过程中存在先天性缺陷，适用传统体系认定产品侵权责任也无不妥。但是当医疗人工智能在自己的“黑箱”中对患者数据处理后作出自主判断，提出了风险未明示的结论，引导医生执行后产生损害后果时，医疗人工智能的行为和损害结果之间由透明性产生不可解释性及不可追溯性问题。传统责任机制的适用就会出现偏差：一则责任惩罚机制作用偏离；二是责任承担方式难以对应损害。

（二）民事责任机制作用偏离

民事责任的机制功能有二，一方面弥补受害者在当下遭受的损失，具有填补损害的功能；另一方面通过责任承担惩戒相应的损害行为，发挥警醒、防范的作用，保护社会的未来利益与价值。在人工智能未获得独立的法律人格前，最终患者遭受的损失从医疗机构或者生产设计者处得到弥补是无可争议的，这是民事法律责任的功能之一。但是，医疗人工智能在医疗侵权中存在独立的原因力，抚平当前损害并不能消除此类原因力后续将风险实质化的可能。此时对于民事法律责任的讨论，便应当考量如何防范、控制医疗人工智能“黑箱”风险。

“黑箱”风险的防范不应当转移至对患者受损赔偿责任之中。医疗机构使用医疗人工智能提供的诊疗服务不只是单纯的服务商品，而具有社会公益属性。对患者一味的补偿并不能够提升医疗机构自身的专业水准，反而会让医疗机构产生使用新技术导致苛责过重，最终出现“防御性医疗行为”现象[11]。对于设计生产商而言，设计、生产医疗人工智能设备是具有社会技术创新价值，有利于推进医疗行业革新造福于患者。若加重侵权惩罚至生产设计方，并不必然产生企业防范类似事件产生的效果。更多的是将超过的惩罚进行成本转移或成本控制，前者将医疗人工智能的风险化解弃置，转移至其他方向增加风险实质化的可能。后者则是对医疗人工智能业技术研发成本进行管控，抑制其未来的发展动力，也失去了化解风险的可能性。民事责任机制的关注点主要是抚平受害患者物质损失和精神损失，在如何防范医疗人工智能等新事物的风险方面作用并不明显。医疗人工智能出现的风险并未从根本上得到重视，而是以其他形式暂时隐匿。

（三）民事责任承担方式存有局限

人工智能在我国民法体系中尚未获得独立的法律地位，因此也并无专属财产对侵权损害进行独立偿付。我国《民法典》第一百七十九条所列的数种民事责任承担方式，当前以及未来相当长时间内均是针对自然人、法人发挥惩戒、引导功能，无法针对行业风险发挥应有的指示作用。在医疗人工智能侵权案件中，将民事责任交由某一方最终承担，将会引起其余主体对医疗人工智能风险警觉性的退散。同时，民事责任的作用往往只及于赔偿终止之际，缺乏后续性。目前尚且缺乏专门引导相应主体核查、防范“黑箱”风险的行为义务设定。如何让行业意识到从某一案例中体现出的风险，又如何让这一风险在行业中得到统一正视，这是在施以民事责任时应当考量的。医疗人工智能行业的风险意识的统一提升，还必须具备一定的风险分担机制作为基础，以保障企业间的互联互通。

三、医疗人工智能民事责任承担

（一）民事责任规则价值调试

在医疗人工智能致人损害案件中，民事法律责任应当秉持多向度价值关照。一是关注医疗人工智能给受害人造成的损害，及时填补受损利益，这是民事责任制度应当具有的基本功能。二是关注医疗人工智能在个案之中暴露出的风险，以民事法律责任为手段去推进医疗人工智能伦理规则、技术安全的完善，引导其达成保护社会公共利益的目的。相较于结果而言，过程有时候对纠正技术失误的作用更大。在司法过程中，应当转变将赔偿受害者视为唯一的民事责任承担方式，避免利用定价策略转移风险或利用法律规则规避技术风险成为企业的首要选择。绝不能让人工智能以伤害人自身利益为代价来获得技术进步[12]。可以将相当数量的物质补偿用于奖励企业、机构进行技术错误诊断。法院应当关注构建技术错误检验、纠正报告的构建，在判罚过程中向有关生产设计商、医疗机构施以报告义务，针对该起案件中存在的问题进行核查检验，将报告呈现给社会公众，敦促其及时、全面完成问题改正。在传统法律责任承担规则的基础上，转变适用思维，结合医疗人工智能的特点进行有针对性的判罚，以利于构建其自身的伦理规则。

（二）联合基金与特殊保险

作为保障社会成员财产和人身的法律，侵权损害赔偿制度在相当长的历史时期内是对侵权受害人提供救济的唯一途径[13]。然而随着社会发展，基于某一侵权行为或者某类同质性侵权行为，愈发容易造成大规模受害者出现。智能机器人给社会造成的危害远大于一般产品，赔偿的范围或程度可能是一个设计者、生产者、销售者所无法承受的[14]。针对受害范围广泛、赔偿难度过高的领域，现代基金制度和保险制度是具有较好效果的。医疗人工智能致损的出现，很大程度上说明相似案例的潜伏性，而这种致损的成批出现不是设计者、生产者以及所有者能够单独负担的。要避免因侵权人的赔偿能力不足而导致受害人无法获得救济，从而将单一的企业侵权风险扩散到整个社会[15]。

欧盟在2017年2月16日通过了《就机器人民事法律规则向欧盟委员会的立法建议（2015/2013(INL））》，其中就对智能机器人的强制保险制度和赔偿金计划进行了原则性指导和规范，通过赔偿基金可以保障受害人超出保险范围的损害得到补偿，而向基金捐款和购买保险的制造商、设计者、所有者可以承担有限责任[16]。医疗人工智能通过预先进行资金留存和保险计划可以防范后续恶性事件出现而无法及时偿付的问题。同时，基金池由开发、制造与使用各方共同构成，保障研究始终关注人工智能侵权的预防。医疗人工智能产品的发展与使用具有相当的社会公益属性，通过保险制度完成对社会共同风险分担，有利于人工智能未来的长远发展。

四、结语

医疗领域是人工智能未来发展的重要板块，医疗人工智能的发展将有助于社会医疗水平的整体提升。在医疗人工智能飞速发展的过程中，及时关注其特性与风险，针对性地提出防范、化解风险的方案机制，为医疗人工智能的有序前行提供保障。面对医疗人工智能适用的普遍性，建立专项基金池和特殊保险制度，确保医疗人工智能的发展不损害患者群体、医疗机构以及医疗人工智能产业等各方的权益，使医疗人工智能有序发展。

参考文献:

[2]黄沙,何哲浩,王志田,等.人工智能时代机器人外科诊疗进展及展望[J].中国胸心血管外科临床杂志,2019(3):197-202.

[3]中国信息通信研究院,工业互联网创新中心(上海)有限公司,36氯研究院.2020年世界人工智能产业发展蓝皮书[R].2020:1-3.

[4]李润生,史彪.人工智能视野下医疗损害责任规则的适用和嬗变[J].深圳大学学报(人文社会科学版),2019(6):91-99.

[5]司晓,曹建峰,论人工智能的民事责任:以自动驾驶汽车和智能机器人为切入点[J].法律科学(西北政法大学学报),2017(5):166-173.

[6]李润生.论医疗人工智能的法律规制——从近期方案到远期设想[J].行政法学研究,2020(4):46-57.

[7]皮勇.论医疗人工智能的刑法问题[J].法律科学,2021(1):134-148.

[8]刘荣.智能医学的安全问题[J].中华腔镜外科杂志,2018(1):8.

[10]刘小璇,张小虎.论人工智能的侵权责任[J].南京社会科学,2018(9):105-110.

[11]最高人民法院民法典贯彻落实工作领导小组.民法典侵权责任编理解与适用[M].北京:人民法院出版社,2020:493-496.

[12]贺昕航,霍增辉.中医人工智能的伦理风险初探[J].中国卫生法制,2020,28(3):8-11.

[13]王利明.建立和完善多元化的受害人救济机制[J].法学家,2011(4):65-76,177-178.