生成式人工智能（Artificial Intelligence Generated Content,AIGC）是一种基于人工智能技术的新型生产范式，可以自动生成内容，如文本、图像、语音等。生成式人工智能以其强大的创造性能力和智能化特征成为科技界的一项突破性创新[1,2]。AIGC的技术主要是自然语言处理和AIGC生成算法，其中自然语言处理是实现人与计算机之间如何通过自然语言进行交互的手段。由于AIGC具有高效、快速和可扩展性等特点，并且能够生成具有自然语言和创意性的内容，其生成的内容被广泛应用于医疗、教育、科研等领域中。然而，随着生成式人工智能在医疗领域中的广泛应用，个人信息泄露、算法歧视与偏见等伦理问题逐渐凸显。因此，深入研究这些伦理问题对于AIGC在医疗领域中的应用至关重要。

一、AIGC在医疗领域中的应用现状

1. AIGC在医疗诊断中的应用。

AIGC在医疗诊断方面的应用主要体现在图像识别和处理、自然语言处理等方面。AIGC可以快速、准确地识别和分析X光片、CT扫描和MRI等，帮助医生更准确地诊断病情，提高诊断的准确性。例如，阿里巴巴达摩院运用生成式人工智能协助各类角膜病的诊断。阿里巴巴研究团队借助裂隙灯拍摄了大量角膜病图像，形成了特有的角膜病诊断方法，以此为基础研发出角膜病序列深度特征学习和识别算法。通过将智能诊断算法镶嵌到眼科检查设备中，改造现有的检查设备，让专用设备智能化。华佗GPT是由我国华为公司在2023年2月25日展示的生成式人工智能产品，将其应用在问诊中。在多轮问诊场景中，研究团队成员收集了涵盖20个科室的100个多轮对话样本进行评估。结果显示，华佗GPT在处理更加复杂的多轮问诊场景中表现优异，在某些性能方面甚至超过了GPT3.5[3]。

2. AIGC在医疗治疗中的应用。

AIGC在医疗治疗方面的应用包括药物研发、个性化治疗和智能手术等方面。其一，AIGC可以通过对大量药物化合物进行分子筛选，辅助医生寻找潜在的治疗靶点，加速新药的研发过程。其二，AIGC可以根据患者的基因组、病理生理特征等信息，为患者提供个性化的治疗方案，提高治疗效果并减少副作用。例如，夸克健康助手运用生成式人工智能技术提供医疗信息检索服务，用户可以通过描述他们的身体症状和自诊预判等特征，与夸克健康助手进行多轮交互，从而获得更详细的医疗信息和健康建议。其三，AIGC可以为医生提供常见的治疗选择，提出每种治疗措施的机制、作用、安全性及效果，并提供某种特定疾病治疗后的信息及统计数据，如治愈率、生存率、并发症风险等。其四，AIGC还可以在手术中发挥重要作用。例如，智能手术机器人可以实现精准、微创的手术操作，减少手术风险和并发症，提高手术效果。

3. AIGC在护理中的应用。

AIGC在护理方面的应用主要是通过智能设备和移动应用等手段来实现的，可以提高护理服务的效率和质量。其一，AIGC可以通过智能手环、智能床垫等设备监测患者的生命体征和睡眠质量，及时发现异常情况并通知医护人员进行处理。其二，AIGC可以通过智能设备和移动应用为患者提供个性化的健康指导和康复计划，帮助患者更快地恢复健康。其三，AIGC可以基于对患者相关诊疗数据的分析，生成对患者有效的药物或疗法的特定组合，这大大降低了发生不良反应或其他并发症的风险。其四，AIGC具有跨文化的多语言交互功能，能够消除交流障碍，提高医患之间交流的效率及准确性。2023年5月，Belong.Life公司推出了Dave——世界上第一个针对癌症患者的对话式AI。它只关注于癌症领域，致力于24小时为患者提供医患间的沟通。目前，尽管上述对话式AI仍处于公益化测试阶段，但毫无疑问，其未来的潜力是巨大的[4]。

4. AIGC在健康管理中的应用。

AIGC在健康管理方面的应用主要是通过智能设备和大数据技术来实现的，可以为个体提供全面的健康管理和预防保健服务等。其一，AIGC可以为患者提供个性化管理建议，如制定合理的饮食和运动方案、提供健康知识和建议、进行病情预警和风险评估等[5]。其二，AIGC可以为用户提供一些服务，包括定期体检、疾病筛查、预防接种等，帮助用户预防和控制疾病，保持身体健康。其三，AIGC可以为用户提供心理健康咨询服务，包括压力管理、情绪调节、心理疏导等，帮助用户缓解心理压力，提高健康水平。其四，AIGC可以为患者提供有关医疗保健领域的咨询，通过分析大量的医疗保健政策和市场数据为患者提供有关健康保险、医疗设备采购等方面的专业建议和指导，帮助患者更好地了解和使用医疗服务。

二、AIGC应用于医疗领域的伦理问题

1. 算法疑难。

一是黑箱问题。AIGC算法的黑箱问题表现为人们无法直接了解算法在决策时所依据的机制，由于生成式人工智能使用神经网络算法，使得算法的透明度更加难以实现[6]。在医疗领域中，AIGC算法的不透明性使得决策过程难以被了解、审查或者验证，会影响医生对AIGC建议的信任度，从而影响患者接受和使用AIGC的建议。二是可解释性问题。可解释性问题在AIGC中也显得尤为重要。算法的可解释性是指能够清晰、透明地解释算法作出决策或预测的过程。然而，对于AIGC而言，由于其决策过程以及模型的错误或不当行为难以解释，可能会导致医生和患者对AIGC的建议产生不信任感，从而阻碍AIGC在医疗领域中的应用和发展。三是虚假信息问题。AIGC基于训练数据进行模仿而非理解的特性，可能生成错误的、不准确的信息，即产生“幻觉”内容。这种生成“幻觉”内容的问题使得人们难以区分真实与虚假信息，导致医生对AIGC提供的诊断建议产生怀疑，甚至延误对患者的治疗。

2. 数据安全。

生成式人工智能强大的学习能力离不开海量数据汇聚形成的语料库，语料库数据的输入、运算、存储与输出均可能引起不同程度的数据安全风险[7]。在医疗领域中，数据投喂同样可以带来价值偏见、隐私泄露和数据污染等问题。其一，训练数据的固有偏见导致模型产生偏见内容。大语言模型所出现的虚假信息、歧视等问题，很大程度上是从人类社会中所“习得”的[8]。经过人工标注的大模型在应用中存在性别歧视、种族歧视等问题，这可能会进一步误导医疗决策，对某些群体造成不利的影响。其二，训练数据的泄露和污染。患者隐私泄露也是医疗领域面临的严重问题。由于医疗数据通常包含患者的敏感信息，如个人病史、诊断结果、用药情况等，因此，未经授权的人员获取和使用这些数据可能会导致严重的后果。此外，AIGC训练数据污染的问题在医疗领域中也可能导致严重的后果。

3. 责任界定。

在AIGC应用于医疗领域引起的伦理问题中，最核心的是责任界定问题。在传统医疗模式下，医疗机构和医生是医疗服务的责任主体，他们负责诊断、治疗和护理病人，并对自己的行为承担责任[9]。然而，随着AIGC的引入，医疗服务的主体逐渐发生了变化，责任界定也变得模糊不清。AIGC可以帮助医生进行诊断和治疗，提高诊断效率和准确性，但这并不意味着AIGC可以完全替代医生，医生仍然需要对诊断和治疗方案进行把关，并对患者负责。因此，当AIGC的建议导致患者受到伤害时，医生是否应该承担责任？随着AIGC在医疗领域中的应用越来越广泛，它可能会逐渐成为独立作出医疗决策的角色，但如果AIGC的操作失误导致患者受到伤害，责任应该如何界定？在这种情况下，AIGC是否应该承担法律和道德责任？

4. 社会公平。

AIGC作为高端技术工具，其应用与普及受到多种因素影响，导致不同地区在享受智能医疗服务方面存在明显差异，引发了关于社会公平的伦理问题。由于AIGC的研发和操作成本较高，因此，它的应用主要局限于经济发达和科技迅速发展的地区。这使得一些经济较为落后的地区和基层医疗卫生机构难以享受到AIGC带来的医疗服务。同时，语言数据贫乏的国家或人群在获取和利用AIGC方面处于劣势，使他们无法享受与英语等主流语种相媲美的资源和工具支持，导致他们在人工智能研究和开发方面落后于其他国家或人群。此外，数据短缺也会导致模型出现偏差、误解和误导，进而影响医疗决策的公平性和准确性。

三、AIGC应用于医疗领域伦理问题的对策建议

1. 提高技术透明度与可解释性。

随着AIGC技术的广泛应用，其透明度和可解释性逐渐受到重视。技术透明度和可解释性不仅关系到技术的可信度，还直接影响公众对技术的接受度。其一，提高技术透明度。提高技术透明度是建立技术信任的基础，为了赢得公众对AIGC技术的信任，必须确保技术的透明度。这意味着在系统的应用过程中，应当向医生、患者以及其他相关人员清晰地解释系统的能力范围、潜在风险、决策的逻辑以及技术细节，这样可以帮助公众了解技术的真实情况，避免不切实际的期望，从而增进医生、患者和其他相关人员对系统的理解和信任。此外，建立外部监督与反馈渠道，对于提高透明度至关重要。通过建立独立的监督机构，可以确保技术的合规性和安全性。同时，设立用户反馈渠道可以及时收集用户的意见和建议，为技术的持续改进提供有力支持。其二，增强可解释性研究。提高透明度为建立技术信任奠定了基础，而增强可解释性则有助于深化用户对技术的理解。为了实现这一目标，我们需要开发一种能够以人类可理解的方式解释其决策过程和结果的技术，使医生、患者及其他相关人员能够理解系统的工作原理和决策依据，探索针对不同医疗场景和风险水平的可解释性技术路线。

2. 健全数据治理体系。

在当今科技水平下，共享医疗数据与保护患者隐私安全同样重要。其一，强化数据治理。强化数据治理是确保医疗数据合法和正当使用的关键。通过建立严格的数据收集和使用政策，可以规范数据的收集、存储、处理和使用，确保数据的合法性。这不仅能防止数据的非法收集、滥用和泄露，还能提高训练数据的质量，为AIGC的发展提供坚实的数据基础。其二，加强个人信息与隐私保护。加强个人信息与隐私保护是维护患者权益的必然要求，因此，在收集和使用个人数据时必须依法合规，并取得用户的知情同意。一方面，对生成的敏感信息要进行脱敏或加密处理，这样才能有效保护用户隐私安全，增强公众对医疗AIGC的信任度；另一方面，在研发AIGC时，研发人员应积极探索使用隐私计算等技术手段来保护用户隐私，实现数据的有效利用，为AIGC的发展提供有力保障。其三，加强技术研发和人才培养。加强技术研发和人才培养是推动AIGC持续发展的关键。一方面，我们应当鼓励和支持科研机构与企业加强合作，研发高效、安全和可靠的价值对齐技术，并提升生成式人工智能的训练数据质量；另一方面，我们应当建立健全人才培养机制，培养更多的专业人才，以提高整个行业的技术水平和安全意识，为AIGC的健康发展提供源源不断的动力。

3. 明确各方主体责任。

其一，构建治理体系。一个完善且负责任的人工智能治理体系是推动医疗AIGC健康发展的关键。这一体系的核心在于确保生成式人工智能在设计、训练、优化、部署和应用的全生命周期中，各类主体都能明确自身的权利和义务，从而实现权责清晰。一方面，通过构建追溯机制，如成立人工智能伦理委员会，保证决策过程及结果的透明性和可追溯性，减少不当决策的风险；另一方面，通过监管沙盒实现敏捷型的风险治理，为AIGC的应用领域提供试错空间，平衡技术创新与风险管理[10]。其二，提供法律保障。政府和相关部门可以制定更加具体的法律法规，明确生成式人工智能各方的法律责任和义务，并加大对违法行为的惩处力度。我们还可以通过司法解释、判例等方式对AIGC的归责问题进行具体化处理，为实际操作提供更加明确的指导。其三，制定行业自律规范。除了法律保障外，行业自律也同等重要。相关医疗行业组织和机构可以制定自律规范和标准，明确各方的责任和义务，并加强对违规行为的惩处力度。此外，还可以通过行业内的技术交流和合作，推动AIGC的安全和可持续发展。其四，培养伦理意识和素养。培养伦理意识和素养是构建人工智能治理体系不可或缺的一环。AIGC的开发者和使用者应该具备伦理意识和素养，了解伦理规范和法律规定，并将其贯彻到设计和使用过程中。此外，我们应加强对公众的伦理教育和培训，提高公众对AIGC的认识和理解。

4. 加快技术普及与推广。

促进技术公平普及是AIGC发展的关键。为了实现这一目标，我们可以采取如下措施。其一，降低成本和使用门槛。AIGC的技术和应用成本较高，很多企业和个人可能无法承担。因此，我们需要采取措施，降低AIGC的成本和使用门槛，使其更加普及。例如，可以通过优化算法和模型降低对计算资源和数据的需求，从而降低技术和应用成本。此外，还可以通过建立多语言数据集、开发适用于不同语言的AIGC等方式来降低用户的使用门槛。其二，提升可得性和易用性。一方面，可以通过推广和宣传活动，提高公众对AIGC的认识和了解，增加其可得性；另一方面，可以开发更加友好、易用的用户界面和工具，降低使用难度和门槛，提高其易用性。其三，弥合数字鸿沟。要实现AIGC的普及与发展，我们还必须面对一个严峻的挑战———数字鸿沟。一方面，通过提供数字技能培训、支持数字基础设施建设等方式，提高欠发达地区和弱势群体的数字技术水平；另一方面，通过开放数据集、提供公共服务平台等方式促进数据流动和共享，推动数字经济的发展。

AIGC技术的迅猛发展正在逐步改变传统医疗模式，为提升医疗水平和保障人类健康提供了有力支持。然而，随之而来的伦理问题也不容忽视。AIGC作为前沿科技，其应用与发展必须在法律的框架内受到适当的引导和规范。制造商和医疗行业在持续推动AIGC技术进步的同时，也应深入探索其应用中的伦理问题。这样不仅有助于确保技术的健康发展，更能使AIGC成为推动医疗事业进步的强大动力，更好地满足人们对健康生活的期待，从而进一步促进医疗事业的发展和人类健康水平的提升。

参考文献:

[1]吴江,黄茜,贺超城,等.基于引爆点理论的人工智能生成内容微博网络舆情传播与演化分析[J].现代情报,2023,43(07):145-161.

[2]郭小东.生成式人工智能的风险及其包容性法律治理[J].北京理工大学学报(社会科学版),2023,25(06):93-105,117.

[3]郭潇雅.“国产医疗版Chat GPT”惊艳亮相[J].中国医院院长,2023,19(07):24-25.

[4]李东洋,刘秦民.论Chat GPT在医学领域可能带来的伦理风险与防范路径[J].中国医学伦理学,2023,36(10):1067-1073,1096.

[5]吴英华,罗家锋,林成创.迈入人工智能新时代:Chat GPT在智慧医疗应用场景研究与思考[J].数据通信,2023,(04):33-38,54.

[6]商建刚.生成式人工智能风险治理元规则研究[J].东方法学,2023,(03):4-17.

[7]钭晓东.论生成式人工智能的数据安全风险及回应型治理[J].东方法学,2023,(05):106-116.

[8]於兴中,郑戈,丁晓东.生成式人工智能与法律的六大议题:以Chat GPT为例[J].中国法律评论,2023,(02):1-20.

[9]刘伶俐,王端,王力钢.医疗人工智能应用中的伦理问题及应对[J].医学与哲学,2020,41(14):28-32.

[10]毕文轩.生成式人工智能的风险规制困境及其化解:以Chat GPT的规制为视角[J].比较法研究,2023,(03):155-172.

文章来源:梁海双,陈佳琪.生成式人工智能应用于医疗领域的伦理问题研究[J].锦州医科大学学报(社会科学版),2024,22(03):19-22.