摘要：本文主要对医疗人工智能的发展历程以及其中问题与解决方案做了较为全面的综述，其中对医疗人工智能拓展出的某些具体领域发展现状及限制性做了一定的归纳总结，旨在让读者能通过本文，了解到医疗人工智能从起源到理论再到运用的历程并了解其中的坎坷和局限，对医疗人工智能有一个清晰全面的认知。
关键词：医疗人工智能，智能医学，科技哲学
引言：近年来，AI的发展给许多行业带来了改革，对医疗领域的冲击无疑也是很大的，它给医疗许多方面带来了便利。在医学领域，随着社会巨大的医疗健康需求以及丰富的医疗数据和技术积累，医学AI很快就成为热门中的热门，医学影像、诊断辅助、健康管理、疾病预测等领域对AI技术的应用不断得以发展[121]2。同时，医疗人工智能的诞生衍生出许多相关领域，本文将对医疗人工智能新基建与智慧医疗系统的建设进行介绍分析，指出相关发展状况与未来方向。同时，医疗人工智能在当今时代依然有着一定的局限性，我们需要采取相应的措施来解决，本文中则介绍了一些常见问题并探讨性地整理了一些解决方案。
1.医疗人工智能的来源
和技术的理论研究同步发展甚至是领先于理论的是人类的技术实践，继原子能技术、空间技术的突破之后，AI技术登上了历史舞台，有学者甚至认为这项技术将开启一场新的工业革命，因为之前的工业革命主要还是围绕实现人类体能技能的代替与增强，AI则开始对人类的智能加以延伸和增强，脑力劳动的自动化必将开创智能替代技术的新阶段 [112] 。
AI赋予计算机执行认知功能的能力，如解决问题、目标识别、基于知识进行推理和学习等[13]，通过模拟人类的意识和思维过程，做出与人类智能相似的反应和行为[24]。AI涵盖了机器学习和深度学习，深度学习又属于机器学习的子领域[35]。机器学习开发的系统具有使用统计模型从数据实例中学习的能力，而不需要显式编程[46]，分为监督学习和无监督学习[57]。深度学习主要使用人工神经网络[68]，如卷积神经网络、循环神经网络[79]，这些模拟神经元束的计算机系统可以通过处理训练实例进行学习[810]，并在数据中找到关联[911]。[102]
由于智能增强技术的突破，在医学领域，随着社会巨大的医疗健康需求以及丰富的医疗数据和技术积累，医学AI很快就成为热门中的热门，医学影像、诊断辅助、健康管理、疾病预测等领域对AI技术的应用不断得以发展。医学AI也成为AI发展的重要分支[121]2。
人工智能医学应用是研究、开发用于模拟、延伸和扩展医学领域的知识表示、获取及使用的理论、方法、技术及应用系统的交叉学科[13]2。
医学人工智能在辅助医生诊断，减少漏诊误诊，提高诊断效率，弥补资源供需的缺口，疾病风险预警，提供健康顾问服务，支持药物研发，提升制药效率等方面均发挥着越来越重要的作用[14]。
2.医学人工智能在各方面的发展现状
2.1人工智能新基建的发展现状
在信息基础设施领域，大数据、人工智能、云计算和区块链等是新技术基础设施；在融合基础设施领域，人工智能是支撑传统基础设施转型升级的重要工具。医学人工智能新型基础设施的建设将有效推动大数据和人工智能等技术在医学领域的应用，提高医疗服务水平。具备信息采集、存储、分析、处理、模拟等服务能力的医疗健康新基建，可有效规范并推动“互联网+健康医疗”服务，为科研机构、医院、患者提供数字转型、智能升级和融合创新等服务，并支撑传统基础设施转型升级。
医院内部数据是健康医疗大数据平台的主要数据来源，由于医院内部的信息系统较多，涉及不同厂商、不同业务范围（主要包括临床诊疗、临床支持、运营管理等方面），存在医院管理信息系统（hospital management information system,HMIS）、电子病历系统、影像归档和通信系统（picture archiving and communication system,PACS）、科研系统等，信息集成相对薄弱。例如，对院内异构系统以传统点对点接口方式进行对接，信息集成范围和集成效果不理想，存在信息孤岛和数据同步方面的问题[15]。仅有少数医院建立了集成平台和数据中心，但跨机构间共享程度依旧不足。
健康医疗大数据的价值在于高效利用数据为相关工作提供决策支持和数据服务。目前有大量的临床数据为非结构化自由录入文书，例如患者的手术记录、诊断报告等，其中蕴藏大量有价值的信息。但是自由文本信息往往具有多模态、多源的特点，再加上受汉字歧义性和原始信息结构不完整等因素影响，现有数据挖掘和知识加工技术难以满足健康医疗大数据的人工智能应用需求[16-17]，也缺乏高效算法和模式支撑以筛选和提取有价值的信息。
自然语言处理在医学领域的应用提高了医疗数据的利用效率及医疗决策的准确性。半自动标注模型可以自动完成标注字段的词义积累，实现专科专病队列的构建以及诊疗数据的深度处理。电子健康记录的分析可以帮助医生更好地了解患者的病情和治疗历史，从而做出更准确的诊断并制定个性化的治疗方案[18]。然而，在医学领域自然语言处理的应用面临一些挑战。医学相关文本通常具有特定的术语和复杂的语义关系，需要专业领域的知识才能充分理解并处理。此外，医学概念复杂导致数据标注工作周期长、成本高，标注工作复杂且耗时，也限制了模型的训练和应用。
医学影像人工智能的应用涉及放射影像、超声影像和病理图像等不同领域的研究，覆盖肺部、乳腺、心血管等多个部位，以及脑肿瘤、脑卒中等多种类型的疾病，还包括一些特定应用，如骨龄检测[19]。医学影像人工智能可以辅助诊断肺结节、乳腺癌和脑肿瘤等疾病[20-22]。然而，医学影像人工智能仍然面临挑战，如伪象识别能力相对较弱，需要优化和提升深度学习算法，以提高影像解读的准确性和稳定性；需要进行临床验证和规范评估，确保人工智能产品的安全性和有效性[23]。
2.2智能医学的发展现状
2.2.1概念介绍及起源
随着物联网、大数据、5G等技术的飞速发展和普及，智慧医疗的概念被广泛提起。智慧医疗的概念源自2009年国际商业机器公司（IBM）提出的“智慧地球”战略，智慧医疗是其中重要的组成部分 [24,25] 。不同于传统的医疗模式，智慧医疗通过数字化技术实现患者与医务人员、医疗机构、医疗设备之间的互动，逐步达到信息化、智能化，从而使其构成了一个以患者为中心，实现医疗服务的信息化和智能化平台[26] 。通过在服务成本、服务质量和服务可及性三方面取得一个良好的平衡，有效减轻医院负荷、提高医疗质量，提升民众的就医体验，建立高效、高质量和可负担的智慧医疗体系。不久的将来医疗行业将融入更多人工智能、传感技术等高科技，使医疗服务走向真正意义的智能化，推动医疗事业的繁荣发展。
2.2.2智能医疗发展方向
2.2.2.1医疗＋人工智能
医疗健康行业中人工智能技术的引入和发展应用十分重要，早期人工智能在医疗领域的探索出现在20世纪70年代，利兹大学开发的AAPHelp是记载人工智能系统在医疗领域最早的应用[27]。现在，通过人工智能算法中涉及的机器学习、深度学习等技术实现在数据、图像等领域的应用[28] 。发展智慧医疗行业，有望辅助缓解我国现阶段医疗领域存在的医疗资源不足、医生培养周期长、医疗成本高和医生误诊率偏高等痛点问题，推动我国全民医疗健康事业的发展和进步。
AI医学影像是人工智能在医疗健康领域的最广泛应用，在成像过程中，人工智能技术不仅可以加快成像速度，还可以去除噪声，实现成像质量的提升；分析影像时可以自动化地提取特征，帮助医生提高疾病的识别准确率 [29] 。也是被业内人士认为是最有可能率先实现商业化的人工智能医疗领域。尤其是近年来随着人工智能医疗技术的飞速发展，我国在AI医学影像发展方面具有诸多优势，包括：（1）医疗影像数据庞大，据IDC Digital估计，截至2020年医疗数据量将达到40万亿GB，数据量为2010年的30倍，近五年增长率为35.99%。（2）大样本、高质量、多样化医疗数据驱动算力、算法大数据快速迭代，AI医学影像等人工智能医疗诊断模型算法相对成熟；（3）国际、国家和城市政策大力支持和助力推动人工智能医疗行业发展，出台多项政策，不断加大对国产医学影像设备、第三方独立医学影像诊断中心、远程医疗等领域的支持力度；（4）资本大量入场，医疗人工智能行业相关企业逐步推进融资，总金额可超过17亿人民币，极大地推动了AI医学影像等医疗人工智能行业的发展[30]。
医疗是人工智能的重要应用领域，美国在人工智能发展处于领先地位，在基础、创新、成果等方面领先全球，但中国正在加速追赶[31] 。我国智慧医疗行业具有巨大的发展空间和潜力，随着人工智能技术发展、全民医疗健康需求提高，未来行业发展方向将主要以医疗机构间网络互通、信息共享为基础，通过完善和规范化居民健康档案、电子病历等健康医疗资源数据库，进一步引入新一代智慧医疗技术，推进智能医疗设备、智能诊断技术融合、智能化“医养结合”等健康行业发展 [32] 。
2.2.2.2医疗＋大数据
医疗大数据是指在医疗相关各行业运行过程中产生的大量数据，这些数据中集聚着各行业发展本身的多种特征，对智慧医疗的发展具有重大研究意义[26] 。在大数据技术的发展推动下，医院信息化系统产生的海量数据通过可视化分析、数据算法挖掘等方式实现数据的增值[33] ，结合医疗大数据挖掘、人工智能技术等，有望基于对这些医疗大数据的高效解析利用，辅助实现日常复杂繁琐医疗行业工作的精准化、便捷化、智能化。例如，随着大数据时代的开启，网上问诊、在线预约、远程医疗等新型诊疗技术的发展打破了医疗资源空间分布的不均匀性，实现医疗资源的优化整合和信息资源共享。利用人工智能+大数据对患者进行系统化记录、 健康管理和辅助诊断等可有效缓解临床医疗资源不足等问题 [34] 。基于生物医学制药行业中的海量数据，利用机器学习和人工智能技术，不断增加模型计算能力和大型数据集的扩散，可以有效缓解传统药物研发耗时长、成本高、风险大、回报率低等行业痛点，辅助实现药物研发的科研突破，加速药物的研发和入市，从而产生巨大的社会价值和经济价值[30] 。
2.2.2.3医疗＋信息化
随着信息科学技术的飞速发展，信息系统已在医院等医疗健康机构中广泛应用[35] 。但传统医疗信息系统大多局限于医院或机构内部管理运行[36] ，对于患者、不同医院或医疗机构间以及地区间医疗健康相关信息互动连通、重要医疗信息共享、医疗资源协同调动等方面仍有待优化。信息科学技术的大幅发展也进一步提高了数据多样性、数据存储、计算等多方面能力，同时也为医疗服务和医疗信息服务的发展提供了更多机遇和挑战。
城市、区域间各级各类医疗卫生机构网络互联互通、区域间医疗健康信息资源共享是发展和提升智慧医疗信息化建设的第一基础[32] 。规范化完善以居民健康档案、电子病历等医疗健康数据的存储和动态更新，是保证医疗信息化系统运行的重要前提[37] 。而随着信息管理的智能化、便捷化，可进一步构建形成覆盖全生命周期的医疗健康数据库，为每名患者和居民提供更全面、精准的个性化诊疗和健康服务，提升全民医疗健康水平。此外，随着信息科学技术的发展，更新和优化医疗健康信息系统技术手段，也是实现信息系统高效、高能运行和最大限度提供最优化医疗服务的保障。例如，5G信息通信技术的出现为各级医院和机构医疗信息系统的优化提供了新的机遇[38,39] 。通过引入更先进信讯技术5G网络，可大幅提升医院信息联络通讯速度，并为远程诊疗、公共卫生大数据监测管理、多学科远程会诊等现代化、智能化诊疗方式的实现提供稳定可靠的技术基础保障 [40,41] 。智慧医疗云平台技术的发展打破了传统诊疗方式下对患者医疗信息掌握的物理限制，医患双方可通过云平台技术进行信息交流采集，克服诊疗信息来源单一、医患地理位置等物理困难，可以辅助医生通过对患者信息的全面掌握做出更准确的医疗诊断，提升临床诊疗效果和服务水平[21] 。
飞速进步的信息科学技术、网络通信手段和人工智能大数据计算为医疗信息化发展提供了新的机遇，但同时也为医疗信息安全等提出了更高的挑战。在更新信息化系统的同时，我们也应在信息化数据安全性、网络通信隐私等方面建立统一行业标准准则，制定更全面的管理措施以预防潜在网络数据安全漏洞等意外[42] 。
2.2.3关键技术
智慧医疗关键技术可概括为四个方向：（1）智能识别技术：综合采用多机制识别和感知技术，实现被检测对象的准确感知，如物联网技术，指通过射频识别、传感器、红外感应、激光条码扫描、图像识别等信息感知设备和网络按约定通信协议，将所需监测物品和互联网相连接，进行信息交换和通信；（2）信息融合技术：对采集得到的复杂、大样本、多样化医疗健康相关多源数据进行相互融合和协同利用；（3）移动计算技术：通过网络、移动设备、高性能工作站等多样化移动计算平台对医疗健康大数据进行高效计算分析；（4）云计算技术：主要依赖计算机基础设施的交互应用模式，通过网络以按需、易扩展的方式获取所需资源，可以为医疗机构、政府职能部门和个人提供包括监管分析软件、平台、基础设置等多层次、多方位服务[43] 。
医学人工智能的概念起源于20世纪70年代初 [44] 。它旨在借助人工智能系统提高医疗诊断和治疗的效率。80年代以后，医学人工智能的发展大致可以分为四个阶段：（1）婴儿期（80年代）：提出“决策树”算法，人工神经网络继续发展；（2）青春期（90年代）：“专家系统”由于支持向量机的出现而不断成熟；（3）未来时代（2000年代）：提出“深度学习”的概念，机器学习成为医学人工智能的主要议题；（4）目前，我们处在“成熟期”（2010年代）：技术相对先进的时期。然而，与人沟通的能力仍有待提高。因此，我们还处于“弱”人工智能阶段 [45] 。[46]
3医学人工智能在医疗领域的应用
3.1 医用虚拟助理
医用虚拟助理是一种基于人工智能技术和医疗知识体系，将患者症状表现与诊疗标准对比，为患者提供全流程服务的专用型信息系统，使用者可以通过语言文字、图像等形式与AI系统进行互动，使其提供医疗咨询等服务。目前医用虚拟助理可用于疾病诊疗的前、中、后多个环节，如诊疗前的智能导诊机器人能对患者讲话内容进行语义分析经后台数据处理并给出分诊和导诊建议，或通过传感器获取患者生命体征信息并反馈给医生提高问诊效率。武警黑龙江省总队医院对2018年7月至2019年6月期间门诊智能导诊机器人应用效果进行评价，发现智能导诊几乎减轻分诊护士50%以上的工作量，患者满意度提高了14% [47] 。诊疗中心的全结构化智慧病历系统依靠人工智能技术提高了病历内容的录入效率和数据精准度，有效提高了临床业务效率。诊疗后的移动护理信息管理系统实现了床旁患者的身份识别、医嘱审核、条码扫描和健康宣教等功能，促进了护理服务的数字化进程[48] 。当前，公立医院绩效考核工作中对患者满意度的调查一定程度上也在采用信息化手段对患者进行回访和满意度调查等，节省了医院人力资源，提升了医生工作效率，减少了接触几率，有利于医院感染的防控。
3.2 医学影像识别
我国医学影像学人才资源供给不足，误诊、漏诊时有发生，服务水平参差不齐。AI与X射线、超声、CT和MRI等医学影像结合能提高医师诊断效率，辅助治疗与判断。AI在医学影像领域的应用主要是图像分割、分类、配准、识别和深度学习系统等，即通过分析影像获取有意义的信息，并进行大量的影像数据对比，进行算法训练，逐步掌握诊断能力 [49] 。目前，AI在医学影像领域中应用较广且表现优异的领域是肿瘤影像识别，如一种基于乳腺X线钼靶的AI早期乳腺癌自动分类技术区分肿瘤良性与恶性的准确率高达95.83% [50] ，基于高分辨率乳腺MRI的AI能够进一步提高乳腺癌检测的准确性 [51] 。另外，AI应用于肺结节、肺癌和前列腺癌等癌症的筛查与诊断中可辅助医生发现早期病变和疾病风险识别，医学影像领域已成为AI与大数据在医疗领域应用发展最快的方向之一。
3.3 病理诊断
病理诊断是医学诊断的“金标准”，于观贞等 [52] 阐述了AI应用的具体病理场景，肯定了AI辅助病理诊断的应用前景，并首次提出肿瘤细胞的标注流程和标准。AI在标注病理结构等肿瘤特征时能够识别到人眼无法观察到的细节并作定量描述，可避免医师主观性带来的差异 [53] 。AI深度学习技术在病理学领域展现出极大的应用前景，它可以帮助病理医师提高诊断效率和准确性，减轻工作负担，缓解病理医师缺乏以及不同地区医师诊断水平差距明显的难题，为患者提供更加精准、可靠的高质量医疗服务。一个成熟的AI诊断模型具有客观、标准、高效、准确等优点，具备大数据分析和经验总结能力，为疾病的诊断、治疗及预后判断等方面提供更多依据。
3.4 辅助诊疗
辅助诊疗是指将AI技术用于疾病诊疗中，让计算机从医学书籍、文献、指南和案例等深度学习医学知识并归纳，建立知识库，模拟医师的思维和诊断推理过程，对患者的病症信息等医疗大数据进行智能匹配，通过已学习的知识推理判断疾病原因与发展趋势，给出初步的诊断和治疗方案，医师参考辅助诊疗结果并结合临床经验提供更多的临床决策指导，使诊疗流程更加客观、科学、合理、高效。如AI在眼部病变或特征的自动检测、筛查与诊断时可结合已存储的数十万过往病例及眼部医学知识自动给出诊断结果与治疗方案；在用单光子发射型计算机断层成像对心肌血流灌注进行检测时利用机器学习可以提高二尖瓣定位的自动化，准确评估心肌灌注 [54] 。AI辅助诊疗能够降低医师工作强度及疾病的漏诊、误诊概率。
3.5 医疗机器人
随着临床诊疗技术的快速发展和临床对诊断及手术精准度要求的提升，医疗机器人应运而生，使医师能以更高精度执行复杂手术。手术机器人在外科手术的应用很大程度上提高了腔镜手术等技术的高速发展，全球首个获得FDA注册的微创手术机器人系统AESOP拥有7个自由度的机械臂控制内窥镜，可由语音指令控制，避免了人手抖动带来图像不稳等问题；达·芬奇机器人通过主从遥操作模式控制4条7个自由度机械臂的运动，操作空间变大，灵活性得到提升，目前已在全球完成200多例手术；国内“妙手S”腹腔镜机器人能够对直径1 mm以下的微细血管进行剥离、缝合、剪切和打结等操作。随着5G技术高速发展，遥控操作、远程手术操作成为可能，AI的快速进展将使机器人辅助手术系统的应用更加广泛，使手术操作更加精细、准确并扩大手术可及范围。目前，手术机器人仍存在体积庞大、需事前进行运动轨迹规划、当空间转换较多时实时控制性能相对较弱等问题。
3.6 智能药物研发
智能药物研发是指在应用AI技术深度学习模拟药物筛选过程，准确地挖掘和筛选出合适的化合物或生物 [55] ，预估其安全、有效性和副作用，提高成功概率并节省大量时间和研发成本。如某公司基于人工智能系统能够比传统方法节省3/4时间和成本来得到靶向药物研发中新的候选药物[56] ，在药物晶型预测时依靠人工智能技术高效、动态地配置药物晶型能有效缩短开发周期并降低成本[57] 。一个时期以来，制药行业和临床药师正积极地利用深度学习来识别和筛选药物，更准确地预测候选药物，但其可靠性与准确性仍需进一步提高才能实现广泛应用。
3.7 健康管理
健康管理是运用信息技术建立的一套完善和个性化的服务程序。它是一种前瞻性的健康服务模式，可在健康监测、疾病风险预测、睡眠监测、慢病管理、情绪调节、老年人护理、合理膳食等方面提供医疗护理和咨询指导。如基于哮喘的儿童慢病管理平台通过语音互动代替传统纸质或电话等问诊方式，并提供疑问解答、复诊提醒、预约挂号、满意度调查等服务，平台运行后人工电话减少60%，实现了医院到家庭的儿童慢病全流程管理 [58] 。AI在健康管理领域的优势有：（1）降低疾病风险，AI技术可以利用互联网与传感器等获取人类的饮食、心理、身体健康等多方面的个体化信息，对人类身体素质进行综合评估，提供更为科学的个性化健康管理方案；（2）更高效地辅助康复医疗，利用智能化穿戴设备或智能家居获取患者各方面的生理参数等健康信息，有针对性地为患者提供更加合理化的恢复方案。
3.8 医学数据平台
基于AI与互联网技术的医学数据平台可以分为两类：一是医学研究大数据平台，通过对医学文献中的海量医疗大数据进行分析，能够有效促进医学研究；二是医学评价数据平台，目前，国家医疗服务中心接入了绩效考核评价平台、大型医用设备临床应用监测与评价平台、临床合理用药监测与评价平台等，通过平台获取医疗机构内包括病案首页以及大型医用设备和临床重点药物相关的医疗活动中重要的数据点，通过大数据分析和数据模型推演，从而提高医疗机构相关工作整体管理水平。
3.9 疫情诊治与监测
AI、大数据、5G和互联网等技术全面助力新冠肺炎疫情防控。AI借助大数据技术可以通过影像识别、自动体温检测和病毒溯源等辅助新冠肺炎诊治并进行疫情监测预警，开发适宜的预警关键技术，基于人工智能的疫情监控云平台监测预警、疫情地图、确诊及密切接触人员轨迹追踪、人群流动监测等在减少人力成本、降低感染风险的同时显著提升抗疫效率，但因数据壁垒、数据标准和算法瓶颈等原因，其优势在抗击疫情中没有得到充分发挥 [59] 。早期侦测异常信号对于新发传染病、暴发疫情的探测和及时应对至关重要，能及时、有效地预测并防止疫情的进一步扩散和发展，未来需要加强AI技术与公共卫生监测系统的深度融合，提升应对突发公共卫生事件的能力[60]。
4.存在问题
4.1政策引流作用有待进一步发挥
医学人工智能产品中，以目前迭代出较为成熟可行解决方案的肺结节AI影像识别为例，其核心算法模型基于影像数据产生，来源于检测和医疗机构。但目前无论用于研发或准入审批，主要数据获取渠道多基于医院的科研合作项目，数据的完整性、获取周期甚至在真实世界的可泛化性都严重受限。医疗健康数据具有一定公共属性，在数据确权、隐私保护、伦理审查方面均存在灰色地带。相比于由企业或个体的专家、医疗机构牵头，以项目推动进行大数据的收集、治理、应用，自上而下消解政策灰色地带，形成以研发推动数据治理和高质量数据产出
的机制，在安全、规范、互惠的框架下推动企业和医疗机构间研发需求与数据治理的深度融合，对消除核心障碍、引导创新将事半功倍。企业作为科技创新发展的主体，在应用科技的创新研发上，具有得天独厚的优势和驱动力[61] 。主动作为，发挥政策的引流作用，通过平台正面对接企业和医疗机构的需求，将大大激发产业发展活力。
4.2关键环节的政策空白不利于产业可持续发展，诱导不良竞争
在准入审批方面，尽管近年来我国监管部门已投入相应力量加速审批，但是从产业形成适宜创新的可持续发展链条来看，较多环节仍有待疏通。一方面，由于缺乏医学人工智能有效的临床应用评价标准和方法，也缺少上市后应用评价和上市前准入评价的衔接，针对已经准入的产品，很难快速制定其价格、医保以及医疗机构的配置等措施，进而很难迅速得到临床广泛使用，企业也很难收回其高昂的研发成本，严重打击了企业的研发信心，从而影响医学人工智能产业的发展。另一方面，研发过程中因为缺乏医疗机构参与和指导，许多临床、技术、监管专家对医学人工智能持谨慎乐观态度，认为其真正优势尚未在实际临床环境中完全体现，甚至并没有实质性解决问题，在有些流程上增加了医生工作量，输出结果的可信度不高，出现“仅供参考”“看完机器提供的结果，没有把握，还是需要用肉眼再看一遍”的情况。
4.3医学人工智能产业发展对政策系统性、协同性提出更高要求
对于尚处在前沿探索阶段的医学人工智能这一新生事物，要坚持审慎包容的监管思路。相比于传统医疗器械，医学人工智能产品的特点是数据依赖、知识密集、迭代迅速[62] ，单一部门的资源及技术能力不足以对其产业形成及时有效的监管和治理。随着人工智能大模型和AIGC技术在各领域的迅速传播，如何在医学人工智能领域平衡好人机合作的风险与收益，放大效率提升、能力延伸的益处，规避信息混杂、数字鸿沟带来的弊端，将成为各部门在联合监管及治理过程中持续面对的问题。从全球各国管理现状看，在评估准入、早期交流、证据评估、评审建议以及最终的报销准入决策等关键环节中，以不同形式的交流平台，强化研发企业、医疗机构、不同的政府管理部门之间的有效协同，是减少信息差、整合真实世界证据、加速产业发展的必要工具 [63] 。如果政府能够发挥系统协调作用，帮助我国医学人工智能产业在规范包容的轨道上创新发展，充分发挥其中的学习效应、规模效应和技术外溢效应，将有利于迅速提升相关企业的技术能力和国际竞争力。一旦形成产业集群，其自身引力将不断加强，最终很难被外力打破。
5.解决思路探讨－建设方向
从政策干预角度考虑，医学人工智能处在产业发展的初期，但其所具备的发展潜力以及对于治理变革带来的影响深远，既要有所作为，以包容审慎的角度为产业良性发展打好基础，推进其步入可持续创新的进程；又要有所不为，避免单一部门的大爆炸式或断档式干预，影响产业发展或产生不良扭曲。因此在当前阶段建议构建医学人工智能服务监管衔接机制，发挥政府沟通协调的桥梁作用，在产业发展的过程中，指导解决关键问题。具体而言，当下主要有以下几方面的迫切需求。
5.1组织衔接
形成研发、准入、转化的有效政策衔接，形成监管闭环。统筹国家药品监督管理局、国家卫生健康委员会、国家医疗保障局、工业和信息化部等相关部门建立高效的协同机制，在医学人工智能产品分类界定、分级管理、标准规范、临床使用、支付定价、产业政策、技术攻关等问题上统一共识、整合资源、同向推进，确保医学人工智能的高质量可持续发展，确保我国在此领域的国际科技竞争力。
5.2数据衔接
形成高质量整合数据的治理及管理机制，在稳定清晰的框架下提供产业发展的源头活水。衔接上市前评价数据和上市中、上市后评估数据，建立数据闭环；作为数据提供方，机构端以满足监管数据需求为目的提供数据服务，再将结果反馈至监管方和产品研发企业；同时作为产品使用方，机构端产生应用数据和应用评估数据，将结果反馈至监管方和产品研发企业，为后续临床应用评估需求优化和产品优化提供支撑。
5.3人才衔接
创新的关键在于人才，积聚人才资源的关键在于教育与良好用人环境。当前许多高校将医学人工智能人才列入培养范畴，这为医学人工智能今后发展打下良好基础。从拓宽现有人才资源获取渠道而言，一是可以充分发挥医学人工智能企业在技术、运营、资本等方面的人才优势；二是创新公立医疗体系在用工、薪酬、激励等方面的制度机制，吸纳培养一大批具有互联网思维、大数据技能的复合型人才；三是建立相应机制鼓励产业内的人才流动，吸纳高端人才进入治理队伍，为产业发展的宏观调控整合力量。
5.4技术支撑
薛澜等[64] 认为，新兴产业发展与监管需要寻求治理模式上的突破。笔者在研究过程中发现，上述衔接不应单纯依赖于虚构的组织结构及机制建设，技术支撑及推动下带来的衔接机制的构建，才能使具备数据依赖、知识密集、迭代迅速特点的医学人工智能实现真正落地、可持续的协同监管。一是探索搭建公有的医学人工智能应用评估平台，基于研发、使用、监管等各利益相关方的实际需求，形成规范、透明的信息共享及交换平台，降低信息不对称在研发、监管过程增加的非必要沟通成本，提升协同效率；二是探索利用隐私计算技术解决当前数据多方共享中存在的壁垒难题，构建跨域可信共享协同机制，实现多方数据的智能建模、算力编排、数据流通、信息防篡改等功能[65]。
6.从伦理与法治角度看医疗人工智能
6.1医学人工智能伦理风险的困境
6.1.1患者隐私权的保护缺失
大数据和人工智能应用于医学治疗，患者的相关信息资料会被保存在系统中，包括姓名、家庭住址、联系方式、工资收入的银行卡号、社保卡号、病史、用药情况、付费情况等等。这样做一方面方便医生了解患者相关信息以做出及时诊断，另一方面则存在患者信息泄露的风险。因为患者的信息被保存在医院的系统中，但目前并没有相关法律法规规定医生和医院必须对患者信息进行保护。在我国现有法律法规中，还没有专门的隐私权保护法，仅《中华人民共和国民法典》《中华人民共和国侵权责任法》《中华人民共和国执业医师法》《中华人民共和国护士管理办法》等部分法律条文涉及隐私权保护，且这些法律条文的规定也比较笼统。如果患者的信息被医护员工或者商业公司用于商业用途，患者将遭受公民隐私权严重侵犯等不必要的风险，如患者或因某一病史而受到就业歧视，或在购买相关保险产品时受到限制。
6.1.2医者主体的模糊和人工智能主体资格认定的争论
在医学人工智能得到逐步运用的同时，学术界和医学界关于医者主体的模糊和人工智能主体资格认定的问题产生了争论，其中医学人工智能未来能否取代医生成为争论的焦点之一。一些学者认为虽然目前人工智能尚处于低级阶段，但是人工智能具有深度学习和进化的特征，因此从发展趋势看，人工智能的主体资格认定将在不久的将来成为法学的热门话题。从世界范围看，一些国家已经立法，同意人工智能机器人具备公民资格。如2017年10月25日，机器人Sophia（索菲亚）在沙特阿拉伯获得国籍，成为首位具有公民资格的机器人。从医学临床中远程医疗、机器筛查、手术机器人等的运用可以看出，人工智能具备效率较高、不会疲劳等优势。“2018年在全球首场神经影像人机竞赛中，由中国国家神经疾病AI研究中心研制的医学AI机器人，成功击败了由全球25名神经系统疾病诊断专家组成的团队。”[1]3未来人工智能机器人能否取代医生实际上涉及哲学的重要命题，即机器人未来是否会取代人类。从马克思主义的科技哲学思想看，人与机器的关系应该是辩证统一的，机器的发明和使用是为人类造福，机器是工具，人才是目的；从医学技术自身看，治理诊断患者不仅需要专业的医学知识积累，还需要长期的临床实践，医生和护士的医疗技术不仅仅是显性知识，还包括隐性知识，医学人工智能只能是医生或者护士的助手。人工智能通过对大量数据的辨识和分析计算，能够给医生提供具有一定参考性的常规医疗方案，但是医生对于患者的诊断和救治，不能完全依赖于技术，因为在实际工作中，患者的病情错综复杂，不同的病情，诊断的方法也不同，再精密的医疗技术数据分析也不能代替医生的人脑，医生需要根据具体病情做出综合判断。
6.1.3算法歧视风险
“算法是AI的核心”[66]，若算法出现差错，就会使得人工智能天生地对特定人群产生“算法歧视”。但“即便算法公开，也并不能解决算法歧视等问题”[67]。也就是说，从目前人工智能发展程度看，算法自身存在的缺陷，可能导致侵犯患者病情知情权的问题，同时“出现的算法安全和准确性问题可能损害患者的身体健康”[68]。尤其是当“算法歧视”针对特定人群或者一些疾病患者时，会造成影响社会公正的后果，从而产生特定医患人群的标签化效应，进而可能导致在社会就业和职业发展中“限制或排除他们的权利或机会”[69]。
6.1.4医学人工智能的技术依赖
医学人工智能在使用过程中，应该只是一种辅助手段，但是在实践运用中易出现医生对人工智能技术依赖的现象。多数临床场景下，人工智能系统提供的结果仅作为参考信息。“维也纳医科大学皮肤科探究了医师如何采纳人工智能系统提供的诊断建议，得到如下结论：(1)经验越少的医师越容易相信人工智能诊断结果而非医师的诊断（即使医师的诊断是正确的）；(2)专家在信心充分时不易根据人工智能结果改变自己的判断；(3)不同经验水平医师在缺乏信心时均易接受人工智能的诊断建议；(4)若医师过度依赖人工智能系统的诊断结果，可能导致随着人工智能系统的误诊而改变自己正确判断的结果。”[70]
6.1.5患者自主性的缺失
医学人工智能的使用，虽然带来便捷诊断的益处，但是也可能造成患者自主性的缺失。第一，医患关系在人工智能时代需要重新构建。例如老人护理机器人的发展和使用可能会通过限制老人的活动范围和种类而威胁和减少老人的积极自由。再例如，在传统的医患关系中，医生重视和患者面对面的沟通，但是运用人工智能之后，医生要花费更多的时间阅读患者的电子病例，可能忽视甚至压缩和患者的交流时间。借助于医学人工智能，一些诊断可能被设计出来，患者只需要按照程序就可以看病并做出诊断。从这种意义上看，患者的自主意识在缺失，患者可能缺少相应的生命关怀和自我认知。第二，患者知情同意权可能被侵害。“知情同意（Informed Consent），是指患者在获得医师提供其医疗决定所必需的足够信息的基础上，做出医疗同意的过程。”[71]借助于大数据和深度学习，一些病症可能会被医学人工智能及时检测，医生根据人工智能的检测结果进行诊治，在这个过程中患者的知情同意权可能被忽视。应将医学人工智能的使用纳入知情同意程序，在运用人工智能，尤其是使用机器人诊断及手术时，应将相关情况和可能导致的风险及时告知患者及家属。据调查，“国内患者更能接受的医疗AI应用场景是挂号、缴费、查询体检报告等医疗后勤环节，接受率达到84.53%，而对于医生使用人工智能进行诊断和治疗，接受率则仅为3.59%；在诊断、治疗环节，医疗人工智能介入的程度越高，患者的接受度越低”[72]。
6.1.6医疗责任认定的难题
在传统的医患关系中，患者具有知情权，医疗事故认定的对象主要是医护员工，是人。随着医学人工智能的使用，患者可能在手术时面对的是人工智能医生，这可能导致医疗事故责任认定的困难。即一旦发生医疗事故，责任由谁来承担？是做手术的机器人，设计人工智能的研究人员，还是使用人工智能进行辅助治疗和诊断的相关医护人员？究竟是完全责任，还是连带责任？目前看，医学人工智能运用中的医疗责任方面的立法比较薄弱，责任界定模糊，争论也比较多。在当前的医学人工智能运用中，即使人工智能实施了手术，手术的主体依旧为医生，医生仍处于主导地位。未来随着人工智能技术的不断发展，人工智能可能出现脱离设计主体设计目的的活动，那将会带来更多的法律和伦理责任难题。
通过以上分析可以看出，患者隐私权的保护缺失、医者主体的模糊和人工智能主体资格认定的争论、算法歧视风险、技术依赖是医学人工智能面临的主要伦理风险。这些风险并非人工智能在医学领域应用中面临的独有问题，而是其应用于各个领域都面临的普遍性问题。具体到医学领域，这些问题究其本质涉及的是医患关系和医疗责任的认定，属于医学伦理的经典问题，只是医学人工智能的运用，将这些问题放大和凸显。医学人工智能伦理风险必须得到高度重视并加以有效规制。
6.2解决方案
基于协同治理的理论和分析框架，提出以下人工智能医学伦理风险规制措施。
6.2.1成立专门的伦理组织进行相关伦理认定
目前，欧盟、德国、新加坡等相继成立了人工智能伦理委员会，对人工智能的伦理风险问题进行审查。“为了确保安全，设立委员会来审查资源和评估项目至关重要。”[73]可借鉴国外经验，建立全国和全省统一的伦理审查委员会。伦理审查委员会组成人员包含相关学科学者、政府部门官员、相关企业代表、相关社会组织成员。伦理审查委员会针对医学人工智能涉及的各种风险难题，如决策算法、就业、隐私侵犯、责任认定、创新原则等重大问题进行定期论证，通过加强相关社会组织、各类学科专家学者的对话与协商寻找协同治理的最佳方案。
6.2.2坚持构建人工智能医学伦理的五大原则
1942年阿西莫夫在科幻小说《我，机器人》中提出著名的“机器人三法则”。2017年电气电子工程师协会发布了《人工智能设计的伦理规则》（第2版），强调人权、福利、问责、透明的原则。2019年北京智源人工智能研究院发布的《人工智能北京共识》，提出了隐私保密、安全、透明度、问责制、公平性原则。借鉴以上学者和研究机构颁布的原则，本文提出以下五项基本原则。
一是伦理先于技术原则。人工智能的字面意义即人造的智能，其出发点是为人类服务，因此应该坚持伦理优先的原则，人工智能不得损害人类的安全和健康。以救治患者为例，医疗诊断应该依据医学人工智能系统给出的救治方案，还是以具有丰富临床经验的医生建议为标准？对于这一问题，应坚持伦理优先技术的原则，重视医生对于患者的人文关怀，摆脱其对于医疗技术的依赖。
二是以人为本的原则，人优于机器。虽然人工智能具有深度学习能力，但无论现在还是未来，人工智能医学应用都应坚持以人为本的原则，人是目的，人工智能本质上还是一种工具，使用工具的目的在于保障医疗事业的发展、患者的健康，帮助医生更好地诊断和服务患者。人工智能不得侵犯公众的合法权益，相关患者的隐私权应该得到保护，医学人工智能应该是安全的、可控的，偏离以人为本这一原则的任何医学人工智能在没有伦理审查之前都不得适用于临床。
三是公平性原则。公平性原则“包含程序向度与实质向度”[74]。患者应该拥有知情权，且不应被歧视，公平享受相关的医疗服务。因此在医学人工智能使用中，需要摆脱资本的逻辑，不能让患者承担过度检查的高昂诊断费用。
四是法治和德治的原则。一方面通过相关法律制度规范人工智能的使用，界定责任，保护患者隐私权；另一方面则需要德治，培育和健全相关医疗人员的伦理修养和法律素养，使其充分认识医学人工智能的各种风险，自觉遵守医疗道德规范。
五是渐进审慎的原则。对于人工智能的技术风险应该坚持积极审慎的态度，不可盲目乐观，认为人工智能很快会取代人脑，也不要消极悲观，认为人工智能终将毁灭人类。跟踪人工智能技术的进展，保持动态的调整的原则，相关技术成熟之后要对其进行风险伦理评估，然后才能逐步应用于医疗实践中。
6.2.3健全相关的法律制度
首先，通过立法保障患者的权益，对于侵犯患者隐私权责任的追究、医患纠纷的处理做到有法可依，有法必依。医用软件包含个人医疗信息的搜集与储存，管理不当可能引发患者隐私权的泄密。2016年颁布的《中华人民共和国网络安全法》虽然在个人信息保护方面提出了具体要求，但并未针对隐私权保护做出具体规定。《中华人民共和国侵权责任法》将隐私权的保护归结为人格权的保护。目前隐私权保护的相关法律还不健全，迫切需要制定和颁布一部统一的隐私权保护法。隐私保护法需对隐私权的相关界限做出规定，政府部门和医疗机构除了特殊需要，不得泄露患者的隐私。“建立隐私数据保护库，严格规范对隐私数据存取的行为，切实保护隐私安全。”[75]在保护公众的知情权的同时保障患者的隐私权，坚持公共数据的信息共享和严禁用于商业用途的统一；对数据储存技术不佳及管理不当、医护从业人员泄密等相关情况进行法律规制，严肃追究相关法律责任；对医疗事故的责任认定进行规定，包括人工智能设计者、生产者和使用者的责任归属问题。
其次，人工智能的法律人格问题。人工智能是否具有法律人格的问题，尚存在争议。如果人工智能具备独立人格，则其应该独立承担相应的道德和法律责任；如果人工智能不具备独立人格，则相关道德和法律责任需要由研发者、运营者，或是使用者承担。对此可以应用现有法律中民法和刑法的相关条款进行规制：“在现行法律制度下，人工智能作为权利客体并无异议，但不能被确定为权利主体，也不能赋予姓名权、肖像权等人格权。”[76]人工智能发展到高级阶段，当人工智能可以进化，具有超越甚至具有人的意识时，可以考虑动态地更新完善相关法律制度。
再次，对医学人工智能的发展全过程进行法律监管。在事前，坚持预防的原则，明确相关的主体责任。在事中，实时监测医学人工智能各个系列产品，定期测评产品的安全性、风险性、危害性等。在事后，加强监督，运用相关的法律法规加强对于厂家、医院、政府部门的监督，明确其责任，加大技术滥用的处罚力度。针对医疗行业的特殊性，国家和相关机构应实行医疗机器人强制登记制度，以便溯源，从而实现追责和有效监管。
最后，颁布相关法律，通过透明性原则消除算法歧视问题。“2017年，美国计算机学会公众政策委员会公布了知情原则、质询和申诉原则、算法责任认定原则、解释原则、数据来源披露原则和可审计原则等六项原则。”[77]人工智能医学算法属于商业秘密的问题，可以通过相关法律，强调由相关医学人工智能研发系统自我规制。这种自我规制，“通过数据保护影响评估”和“经由设计的数据保护”等方式来履行数据保护义务[78]。此外还需要通过相关法律规定研发公司的社会责任披露机制，包括定期向政府部门或者公众公布相关的系统研发进展情况、可能遇到的风险和风险应对措施方案等。
6.2.4培育医护人员的医学伦理道德
“人是唯一的道德主体，只有具有理性思维和决策能力、能独立承担责任的理性主体才具有道德主体的地位。”[79]医护人员是医学人工智能的使用者，因此培育医护人员的医学伦理道德是有效规制医学人工智能风险的重要渠道。具体做法包括：强化医护人员的伦理责任意识和法律意识，提高其科技素养和道德修养，增强其保护患者隐私权的意识；通过定期教育培训让医生了解人工智能的最新进展，认识到目前医学人工智能仅仅是医生的助手和参谋，不会完全取代医生的职业，在治疗的过程中，医生一方面可以合理借助人工智能机器人进行治疗，另一方面则可以利用节省出来的时间加强医患沟通，缓解患者心理压力；在医药类大学设置人工智能课程，较早地培养医学大学生尤其是临床医学等专业的医学大学生的医学伦理道德。
6.2.5构建人工智能的第三方风险评估机制
建立第三方风险评估机制，即组建包括医学专家、人工智能专家、哲学家、社会学家、伦理学家等的专家委员会，由其对人工智能应用中的各种风险进行风险等级评估和综合评估。具体包括：第一，借助大数据平台，对医学人工智能以及相关案例和风险进行综合分析，实现风险评估机制的智能化。第二，构建参与式风险评估模式，吸纳各类专家、公众进行风险评估，对医学人工智能可能存在的技术风险、漏洞、责任追究进行分析，定期向政府部门和生产厂家递交报告。第三，加强信息共享和国际合作。人工智能医学伦理风险属于全球治理问题，可以合理借鉴不同国家人工智能规则的相关制度、标准、法律，进行综合归纳和分析。有些信息可以实现共享，积极寻求医学人工智能的全球治理合作。第四，建立系统的风险分析框架，包括医学人工智能风险识别、评估、处理、监控、反馈等机制。明确各责任主体的不同责任。通过定期评估，不断强化医学人工智能产品的风险等级，为政府部门和相关企事业单位决策提供有效参考。第五，建立包括预警、信息搜集、预案措施、风险等级的机制，实现从单一的风险评估到风险评估、风险沟通和化解机制的多维构建[80]。
6.3数字时代医疗算法风险的防治挑战
针对人工智能算法应用到医疗场景中存在的形式多样且动态变化的风险，既有对策中仍然显示出较多不足之处。因此，需要厘清医疗人工智能算法风险防治的困囿以便能更精准施策，促进人工智能算法技术在医疗领域的良性发展。
6.3.1 传统监管缺陷困囿
自动决策技术和深度学习算法的发展冲击了传统的监管路径，不能有效实现医疗人工智能算法技术自身安全及其应用安全的全面监管。首先，传统算法规制方式比较重视保护数据而忽略了对算法技术本身的监管。我国《中华人民共和国民法典》第一百一十一条和《中华人民共和国网络安全法》第四十二条、第七十六条都对个人信息保护作出了相应规定，但均是从信息保护这一角度出发，前者没有涉及患者信息自动决策处理的规制，后者不能解决医疗算法造成损害后在最终责任认定方面存在的特殊问题。2022年3月1日正式实施的《互联网信息服务算法推荐管理规定》虽然创设了算法规制方案，但是该规定是对算法技术被具体使用时的服务提供者的行为进行规范，没有针对医疗算法技术自身安全性进行规范。其次，传统监管模式没有意识到人工智能算法与医疗场景融合后的风险特性，对医疗人工智能算法这类技术的监管聚焦于事后审查。这种结果监管路径忽略了医疗人工智能算法的偏见与黑箱属性，对收集的医疗数据缺陷也存在漠视，不足以应对由数据和医疗算法缺陷带来的安全风险。最后，当生成决策的逻辑基础是不同于人类理性的算法程式时，过去行之有效的监督和干预机制难以发挥实效 [81] 。很多场合因为医疗算法的复杂性，即使是专家也难以解释说明，并且一些医疗算法一旦被公开解释就可能面临被不法分子滥用或侵犯知识产权的现象，给医疗算法技术的监管带来阻碍。
6.3.2 主体资格界定模糊
是否赋予医疗人工智能算法主体资格是确立医疗人工智能算法权利义务和责任认定的关键。一方面，医疗算法的自主决策行为会导致权利归属问题进而引发主体资格界定困囿。在数字社会中，人类赋能给机器，机器也因此获得一定权利（力）甚至在智能程度方面超过人类从而破坏主体性框架，产生“人权例外” [82] 。并且在实践过程中，医疗人工智能算法的应用范围已经上升到自动决策层面，能够依靠独特运行逻辑自动代入相关信息，得出计算结果并自动做出决策，令人难以确切地将其界定为“产品”。另一方面，医疗算法会因其运行不透明性产生主体资格认定分歧。承担责任的前提就是行为具有可解释性，主体行为具有可解释性是人工智能法律责任的最基本要素 [83] 。而医疗人工智能算法运行过程具有不透明性，其做出的一些诊疗判断行为不能被解释。如今在医疗领域已经有人工智能算法可以不依赖医师而独立自主地做出精准诊断结果和合理的治疗方案，人的自主性因此逐渐被医疗算法弱化，甚至某些方面已经被其客体化。一旦引发责任纠纷，人们会对医疗人工智能算法是否具有主体资格产生分歧，给最终归责带来阻碍。
6.3.4 算法权力控制失衡
我国目前主要在患者权利和法律责任等方面对医疗算法进行规制，但仍然不能完全对抗日益强化的算法权力。首先，在医疗人工智能算法自动决策模式下，算法权力与患者权利形成对抗，知情同意原则已经不能完全保证患者权利不受侵害，患者个人健康信息与隐私安全面临保护困境。患者难以通过“告知-同意”的方式作出自己的理性判断，隐私保护力度被弱化。并且医疗人工智能算法收集推测到的信息即使被去除也可被专业人员修复，给不法分子提供了窃取信息途径，这会令患者的个人健康信息权益难以完全有效保障。其次，目前在我国的一些法律法规中能找到一些针对医疗人工智能算法关于技术管理和质量控制方面的规范性要求，但对医疗人工智能算法的规制仍停留在这些规范的辐射下，已经形成了算法权力难控的趋势，对主体权利形成了挑战。患者难以通过“告知-同意”的方式作出自己的理性判断，隐私保护力度被弱化。并且医疗人工智能算法收集推测到的信息即使被去除也可被专业人员修复，给不法分子提供了窃取信息途径，这会令患者的个人健康信息权益难以完全有效保障。其次，目前在我国的一些法律法规中能找到一些针对医疗人工智能算法关于技术管理和质量控制方面的规范性要求，但对医疗人工智能算法的规制仍停留在这些规范的辐射下，已经形成了算法权力难控的趋势，对主体权利形成了挑战。患者的健康信息在多元主体间流动，当医疗人员根据医疗算法系统的计算结果做出诊疗决定或提出诊疗方案导致患者权利受到损害时，责任主体也变得模糊。2021年，意大利就曾出现算法对传染风险和感染人数预判错误导致公民基本权利和人身自由受限的现象，由于使用的算法模型复杂，加上数据提供者和算法运行者不是同一主体，难以认定过错方，该纠纷至今未被解决 [84] 。另一方面，医疗人工智能算法系统虽容易复制计算程序但难以证明侵权行为。算法全面解释当前仍然不具有可行性，这将进一步增加举证难度。同时，算法逻辑的相关性本质决定了确定后果和行为之间的因果关系非常困难[85] 。医疗算法进行自动化决策时会根据信息数据间的相关性建立联系进而依靠独特运行逻辑收集推测到更多信息并得出相应的诊疗结论与推荐方案。而这种相关性联系是概率上的，并不具有法律上的因果性。无论是研发人员还是设计者都无法充分解释为何输入的某个健康信息数据或医疗算法运行中推测到的数据会与医疗决策结果相关，这会对医疗算法损害纠纷中因果关系认定造成极大考验。
6.4数字时代医疗算法风险防治的法治对策
医疗人工智能算法在独特运行逻辑下迅速发展，衍生出多种风险。既有的防治模式和法律法规已经不能完全控制数字时代医疗算法风险衍生与蔓延的趋势。面对日新月异的医疗人工智能算法技术，在明晰其存在的风险和风险防治困囿后需要运用法律手段为医疗人工智能算法风险的防治补足法治力量。
6.4.1 构筑医疗算法风险应对的全面防治体系
针对难测、隐蔽、不可控且全程存在的医疗算法风险，有必要构筑起医疗算法风险全面防治的体系，建立多元协同的医疗人工智能算法风险防治机制。首先，人工智能算法应用到医疗领域存在巨大的不确定性风险，为使风险控制的效率达到最优，要设立法律化的伦理规范。令各方主体将法律化的伦理规范贯穿落实到医疗人工智能算法应用的全程，使医疗人工智能算法研发设计者以及使用者的行为合乎法律规范与医学伦理。其次，应对算法程序设计和研发者等主体的权利义务进行规范。基于数字医疗的价值目标无论是政府规制还是自我规制，都旨在提升医疗服务质量并保障医疗服务安全[86] 。因此，在医疗算法风险治理过程中监管部门要加强对医疗算法风险预警和跟踪研判以便能及时迅速遏制风险，注意明确各方主体的权利保护，减少权益损害。再次，“算法安全可控”是防治医疗算法风险的必然要求 [87] 。在应用医疗人工智能算法时，研发设计者需要对医疗数据的规范性和医疗算法产品运行的安全性进行审查并承担信义义务，确保医疗算法的安全可靠。最后，要充分认识医疗人工智能算法的内生型和应用型风险，有针对性地设计风险防范法治规则。科学统筹安全和发展，一直以来都是数字安全法治的重要原则[88] 。在医疗人工智能算法系统运行并作出决策后应及时总结归纳并形成风险反馈机制，探寻补救措施，降低技术缺陷的负面影响，防范类似风险扩大从而保障医疗算法应用对象的合法权益。
6.4.2 坚持医疗算法权力驯化的向善向美属性
医疗人工智能算法技术虽然拥有独特的运行逻辑，但拥有使用算法自主性的仍应是人类本身。首先，我们应坚持算法工具属性在医疗人工智能底层设计逻辑和治理逻辑中的嵌入，充分尊重医疗人工智能算法应用对象的自主权。不同于人类，人工智能的自主性纯粹为技术性的[89] 。目前医疗人工智能算法大部分只在诊疗决策中起辅助参考作用，更多是作为一种工具手段而不具有法律上的主体地位。即使在部分医疗场景中人工智能算法能进行自动化决策，我们也只能将其视为一种强的工具存在。智能算法展开自动化决策时看似屏蔽了“主观人为”，但其形成决策的知识、逻辑、边界和价值基准是被预置的 [90] 。所以无论是算法的研发设计者还是使用者都需要坚持“以人为本”的理念，将医疗人工智能算法的工具属性嵌入底层设计逻辑和其治理逻辑之中，保护做出最终医疗决策人员的意思形成自由。其次，对医疗人工智能算法技术展开治理时要明确人在算法治理中处于主体地位，从法律机制上允许个体回归到“人先于一切的状态” [91] 。从权利利用角度来看，赋予人工智能主体资格并非有效的权利保护方式[92] 。医疗人工智能算法只是智能化诊疗的工具，并不具有主体资格。因此，应以“以人为本”的治理理念来规训医疗算法的逻辑，明确医疗人工智能算法的向善向美属性。在保障个体权益的同时为医疗算法技术发展预留空间，当医疗人工智能算法造成医疗损害责任纠纷时，责任主体认定为医疗人工智能算法的研发者、使用者、销售者。最后，对医疗算法进行规制时应根据其应用医疗场景的差异性灵活配置个人权利，在风险性高的医疗活动中赋予用户和使用者更多选择，令个体可以避免遭受自动化决策约束，减小主体自主性受限的可能。
6.4.3 增强医疗算法权力对抗中主体权利的质效
传统的算法权力对抗方案已经不能实现医疗人工智能算法风险治理目的，算法偏见、黑箱等问题致使新的法益纷争已经出现，完善医疗人工智能算法的相关法律法规，形成医疗人工智能算法发展的法治化秩序尤为必要。首先，应充分发挥法律的规制作用，将预防原则作为医疗人工智能算法法律规制创新的重点。以《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》等基础法律为依据，参考域外对医疗人工智能算法技术的规制方案，为医疗人工智能算法风险治理法律体系建设提供基础。将医疗人工智能算法引发的资格界定困囿、归责等难题纳入法律框架之中，并且建立适宜的问责机制，将实现医疗人工算法风险防范和救济作为关键，对具体惩戒和风险补救方案作出规定，提高医疗人工智能算法决策的可责性，使医疗人工智能算法设计者设计算法时更加审慎，用户和公众受到侵害时能通过法律赋予的权利对抗和约束医疗人工智能算法。其次，要完善患者权利保护机制，防止医疗人工智能算法产生权力异化现象。推论数据属于个人数据，不应成为数据处理的自留地，更不应成为数据保护的盲区[93] 。在赋予数据主体解释权的同时可以要求医疗人工智能算法系统在重大决策中进行再运算与再决策，最大限度地减少甚至避免对患者权益的侵害。最后，要明晰医疗算法各个主体的解释说明义务，确保医疗算法可信度。算法解释权的目的并非为建立个体对算法的绝对性控制[94] 。因此，要从法律层面对医疗人工智能算法技术公开的具体规则作出规定，使履行解释说明义务方无需担忧自身过度公开或公开不足引起知识产权、知情同意等责任纠纷，加大医疗人工智能算法公开的可行性，提高医疗人工智能算法的透明度进而增强医疗人员和患者的信赖感。
6.4.4 厘清医疗算法责任归属中归责原则的困惑
算法应用必然伴随着法律责任配置，以防范风险和实施救济[95] 。针对诊疗过失中责任主体模糊或“多因一果”导致的责任不清等情况，应确定归责原则并厘清责任权属进而完善算法问责机制，实现算法负责的目标。首先，要设立医疗人工智能算法的产品标准，提高医疗人工智能算法技术的规范性与科学性。在患者健康管理和疾病预测中，医疗算法就是发挥着产品作用。经相关标准认定属于产品缺陷后，按照产品责任的规定使用无过错责任原则。其次，要明确责任主体，厘清医疗人工智能算法技术设计者和其载体生产者的责任。可靠、安全、稳定的医疗人工智能算法设计是医疗人工智能算法平稳运行的基础，医疗人工智能算法设计者在其中起着特殊作用。因此，由设计缺陷引起的损害后果由设计者承担责任。即使医疗人工智能算法设计者无法预知算法深度学习后的损害可能，此时也应该适用严格责任原则，由设计者承担责任。医疗人工智能是算法的载体，只要存在设计缺陷，不论是算法缺陷还是人工智能的自身缺陷，其生产者都适用严格责任原则。但由于医疗人工智能算法具有黑箱性和复杂性，举证时应降低患者对过错的证明责任，从而减小因果关系认定难度[96]。
6.结语
未来已来，人工智能在医学领域的应用不可限量。我们迫切需要进行深入研究和思考，梳理学科的发展历程，总结发展需求和现状，阐明人工智能在医学领域的重大科学问题，预测未来发展趋势，对我国今后发展战略的重点方向提出建议。[13]2回望技术的进步历程，从对人类体能技能的替代，发展到今日对人工智能的增强，AI技术比以往任何技术都距离人类智慧更加接近，因此，也更加迫切需要理性思维智慧的介入与匡正，在大力发展医学AI的同时，同步关注技术方案、应用规范的伦理考量，及时开展技术风险及预期治理的哲学反思，将成为AI健康走向未来的必由之路。(作者 颜恺宏）
颜恺宏，南京医科大学天元卓越班班长，天元书院组织部干事，校CST（临床技能训练社团）成员，曾获校新生奖学金二等奖，计算机设计大赛，宁联杯，领航计划等均获校级奖项，大一过四六级，在英国访学过程中担任团长，优秀共青团员。
（责编：王文）
