第一部分：项目背景
1.人工智能技术逐步发展
随着大数据、云计算、互联网、物联网等信息技术的发展，泛在感知数据和图形处理器等计算平台推动以深度神经网络为代表的人工智能技术飞速发展，诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了从“不能用、不好用”到“可以用”的技术突破，迎来爆发式增长的新高潮。在经历了60多年的发展之后，人工智能已经开始走出实验室，进入到了产业化阶段。人工智能已经逐渐向工业、农业、交通、医疗、金融等各个领域渗透，并开始形成新的业态，成为了新一轮技术革命的制高点。
图一：人工智能的应用趋势
2.人工智能在医学领域的应用日趋广泛
近年来，人工智能技术与医疗健康领域的融合不断加深，随着人工智能领域中，语音交互、计算机视觉和认知计算等技术的逐渐成熟，人工智能技术也逐渐成为影响医疗行业发展、提升医疗服务水平的重要因素。其应用技术主要包括：
（1）影像诊断：智能医学影像是将人工智能技术应用在医学影像的诊断上。人工智能在医学影像应用主要分为图像识别和深度学习两部分。
（2）医疗机器人：目前实践中的医疗机器人主要有“智能外骨骼”和能够承担手术或医疗保健功能的机器人两种。
（3）健康管理：健康管理是将人工智能技术应用到健康管理的具体场景中。国内该领域尚未成熟，主要聚焦于风险识别、虚拟护士、在线问诊、健康干预以及基于精准医学的健康管理、慢性病病管理和母婴管理等方面。
（4）药物研发：国内新药研发仍以仿制药和改良药为主，与此相比，国内A1药物研发行业布局较为落后，但商业模式清晰，主要为AI公司与药企合作开发新药。
3.相关政策的出台为人工智能在医疗领域的发展作出更大的贡献
2021年，“十四五”规划提出的目标是确保中国的研发支出每年增加7%以上，研发重点包括AI、量子计算、集成电路、遗传和生物技术研究以及神经科学。“十四五”规划还强调了智慧医疗、医疗物联网和智能医疗设备的重要性。未来数年内，人工智能医疗将因此受到自上而下的支持。
第二部分：人工智能医疗侵权的法律规制必要性研究
1.人工智能医疗侵权责任的主体难以确定。
人工智能既有一定的自主性，同时它的本质仍然受到设定的影响，再加之解释依据的缺失，因此责任主体很难得以确定。
（1）自主性。随着人工智能技术的进一步发展，人工智能的自主学习意识已经得到认证，人工智能会根据自主学习脱离原设定，出现突发事件。引起疾病的因素复杂多样，因此治疗方案也并非唯一，人工智能通过学习后，会在一些具体的治疗和诊断中通过自主的意识得出诊断结果和治疗方案，使得一些情况难以预测。
（2）被设定性。人工智能现阶段仍为根据医疗机构或医务人员预先设定的程序进行工作状态。同时，人工智能仍为人造物，其进一步发展后也不能等同于人，其生成及活动均受到人类的预先设定。
2.人工智能医疗侵权责任的难以分配性。
（1）使用人或管理人通常没有主观过错。在普通的侵权案件中，通常是违法行为造成损害事实且行为人对违法行为具有主观过错，但是在人工智能侵权案件中，双方无法对事故原因、责任承担进行解释，如医生无法证明其尽到应尽的义务，在现有案例中，使用人或管理人通常没有主观过错。同时，由于对人工智能的研究仍不够充足，损害原因也无法查明，因此责任无法进行分配。
（2）人工智能医疗种类具有复杂性。人工智能的应用和种类不同，需要分开分析。人工智能主要分为弱人工智能和强人工智能两类。人工智能应用于医疗领域时，有自主化人工智能、人类医生控制的人工智能等种类，因此要根据每一类人工智能的不同属性进行侵权责任分析。
3.人工智能医疗侵权事实认定困难。
人工智能是人类的产物，它依据人类设定的算法、程序、逻辑进行学习、分析、推理、完成一定的行为，同时也具有一定的自主性导致人工智能行为难以进行解释，特别是具有较强自主意识的强人工智能和超人工智能。除此之外，医务人员和医疗机构的行为和预案准备和思考也难以进行证明，这给双方的举证都带来了很大的困难。
第三部分：人工智能医疗侵权的法律规制及整改路径
1.根据侵权行为本质认定人工智能医疗侵权的责任主体
（1）弱人工智能中，人工智能不具备侵权的主观意志，也不具有承担侵权责任的能力。人工智能侵权是表象，本质上仍然是有安全注意义务的人由于故意或过失而未履行相应义务，而导致人工智能侵权危险的发生。由于不具备法律主体地位，因此弱人工智能医疗侵权责任主体包括操作者、设计者、生产者。
（2）强人工智能中，强人工智能具备民事法律主体地位的一般条件，当医疗侵权损害发生时，具备与生产者、销售者、使用者同等的法律地位。当强人工智能自身引起损失或者导致损害结果，且造成损失或者损害的所有责任均不能归属于流通环节、实施环节的某个或某几个主体时，强人工智能将因其侵权行为成为责任主体。其责任主体主要有医疗机构、设计者、生产者、强人工智能自身。
2.通过构成要件、免责事由及归责原则的分析对侵权责任进行合理分配。
（1）人工智能医疗侵权责任的归责原则
当人工智能本身不存在制造缺陷且使用者遵从相应义务时，只有人工智能需要对此承担相应过失责任，应建立相应模式解决人工智能损害赔偿问题。当由人工智能以外的主体承担责任时，应当由设计者、生产者对人工智能的缺陷按照《产品质量法》的规定承担无过错责任。由于生产者的质量控制失误造成损害的，最大的过错责任主体为生产者。其次，是医生及医疗机构，他们并不介入人工智能的设计与生产，承担由管理欠缺、任务分配等导致的过错责任即可。
（2）人工智能医疗侵权责任的构成要件
①人工智能医疗侵权的侵害行为
弱人工智能中，其主要起辅助作用，此时需要经过专门学习的、合格的医生进行监督。在进行诊断时，医生因未尽到监督检查义务而导致误诊，会造成对患者的侵害行为。在人工智能辅助手术时，因机器功能阻碍或者运行错误导致医疗损害，此时生产者的生产缺陷和医生未进行合理指令和控制可能导致侵害行为的发生。产品质量和医生的监督和控制均会导致侵害行为的发生。强人工智能中，其有高度自主化、智能化，有自己的价值观并能独立作出决定。侵害行为的产生主要由于生产缺陷、管理者过失、人工智能自身做出的决定。同时，其行为的产生可能由于多种事实交织造成，认定难度大，应建立相应法律进行规范。
②人工智能医疗侵权的损害结果
人工智能在医疗领域的损害主要指医疗活动中的违法行为导致患者人身、财产或精神方面遭受不利后果。导致患者人身权利遭受不利后果，主要表现为患者的人身、精神两个方面遭受损害。人身损害主要是由于生产者、医生、强人工智能的违法或过失行为，导致患者生命丧失、健康受损的结果。精神损害是因人身损害而遭受精神方面的痛苦，并且包括因损害导致患者近亲属精神方面的痛苦。导致患者财产权利遭受不利后果，主要表现为患者财产方面的直接、间接损失。因患者的生命权、健康权遭受损害而造成财产上的损失，其中包括患者及其近亲属因损害结果所支付的财产、患者近亲属因精神损失而不能进行正常工作产生的收入损失。
③人工智能医疗侵权中侵害行为和损害结果之间的因果关系
在现行的法律中，医疗侵害行为和损害结果之间的因果关系实行举证责任倒置，采取完全推定责任说。弱人工智能中，患者因接受由人工智能辅助的医疗行为导致的损害结果，其原因主要是医生操控人工智能的过失责任或者采购人工智能医疗机构的过失违法行为。强人工智能中，患者因接受强人工智能的治疗导致损害结果，其原因是强人工智能自身的医疗违法行为，而造成其自身的医疗违法行为的原因主要来自于生产、制造缺陷以及管理的过失。
④人工智能医疗侵权中行为人的过错
在医疗侵责任中，过错主要表现为医疗过失。弱人工智能更接近于辅助工具，因此其过失主体包括医生、医疗机构。医生使用或指令以及医疗机构的管理、选择错误被认定为医疗过失，通常以医疗卫生管理法律法规、行政法规、医疗规范中对医疗机构注意义务、医务人员应尽的法定告知、保密义务的规定为标准，只要医务一方未履行或违反义务，即认定为有过失。强人工智能成为具有独立法律人格的主体时，法律应针对该法律主体对其医疗行为进行规范和约束，并以此作为认定医疗过失的客观依据。
（3）人工智能医疗侵权的免责事由适用
①设计者、生产者免责事由。适用产品责任免责事由。人工智能侵权主要适用产品责任,《产品质量法》第41条第二款：生产者能够证明下列情形之一的，不承担赔偿责任：未将产品投入流通的;产品投入流通时，引起损害的缺陷尚不存在的；将产品投入流通时的科学技术水平尚不能发现缺陷的存在的。弱人工智能作为辅助人类医生进行诊疗的工具，基本符合医疗产品的特征，在法律关系中作为权利客体参与其中，无法独立承担侵权责任，如生产者能够证明弱人工智能符合产品责任免责事由，则生产者可以免除责任。对于强人工智能，应考虑是否具备独立人格、是否正式交付后发生等情况确定。
②医疗机构免责事由。医疗损害责任，免责适用《最高人民法院关于审理人身损害赔偿案件适用法律若干问题的解释》第4条的规定，证明损害后果不是由其行为造成的，则免除其承担连带责任。但若受害人无法从其他连带责任人处完全受偿的，由免除连带责任的一方承担补充责任。主要分以下四种情况：
其一，“医务人员在抢救危急患者等紧急情况下已经尽到合理注意义务”该免责事由的实施主体应当包括强人工智能。在医务人员进行抢救时，对生命的维持应排在第一位，在此时，只要人工智能的操作人员按照预设的运行机制尽到合理的义务，即便造成不良后果，医疗机构不承担赔偿责任。
其二，“限于当时的医疗水平难以诊疗”。科学的发展推动人工智能在医学领域的应用，但是对于人工智能的发展仍受到一定的局限，因此对于一些疑难杂症仍无法治疗。在达到医学领域的普遍认知下，基于当时的医疗水平，对于医疗后果无法预料和预防是难免的，因此造成的后果不需医疗机构承担赔偿责任。
其三，不可抗力产生的后果。《民法典》第一百八十条规定：因不可抗力不能履行民事义务的，不承担民事责任。在正常的医疗活动中，损害结果由不可抗力造成，医疗机构应当不承担赔偿责任。当损害结果由不可抗力和医疗过失共同作用时，应当减轻医疗机构的责任。
其四，医疗意外。损害结果是由医务人员无法预料所造成的，通常是在医疗活动中，由于患者病情的异常或者特殊体质引起的。对于损害结果没有医疗过失，人类医生尽到了高度注意义务并且在认知范围内对人工智能故障做了准备预案。此时，医疗机构不需要承担赔偿责任。
3.通过建立强制保险及储备金和监督机构、行业标准解决事实认定难题。
（1）建立强制保险或储备金制度
①储备金制度：当人工智能不能满足传统责任时，可以考虑建立由政府主导的储备金。通过由开发者、制造商、所有者（医疗机构）等支付费用，建立一个专门用于医疗人工智能法律责任支付的独立资金池，既包括生产者、销售者、医疗机构和患者在生产、销售、使用时的附加费用分担，也接纳社会捐赠。储备金为确保储备金的公开透明，可配以相应的登记和公示制度。既使患者的权益能够得到有效保障，又使相关主体免于因承担巨大风险责任而丧失技术研发与使用的积极性。
②强制保险：当人工智能医疗机器人投入医学使用时，生产商可以为其购买保险，在医疗损害出现时，可不必纠结侵权责任的归属和认定，直接由保险公司对受害人填补损害即可。该方式有利于规避一定的风险，为救济受害人、分散医疗风险、维护社会稳定提供较为妥善的制度保障。
（2）建立专门的人工智能监管机构和行业标准
在医疗人工智能产品越来越多、技术参数越来越复杂的背景下，有必要建立专门的人工智能监管机构，通过“有形之手”监督建立安全标准和伦理规则，实现对人工智能行业的监督管理和风险预测。监督机构根据行业标准对人工智能进行规范化管理，进行注册登记，对人工智能进行不同的划分，赋予其独一无二的编号，不同的阶段由不同机构进行登记管理，以实现能够全程监管规制。能够保证人工智能的产品质量，增进患者采用医疗人工智能的信心。
