人工智能在医药产业及药品监管中的应用与思考

根据世界卫生组织（WHO）的定义，人工智能（artificial intelligence，AI）是计算机科学、统计学和工程学的一个分支，使用算法或者模型来执行任务，并展示学习、决策和预测等行为^[1]。近年来，机器学习（machine learning，ML）、深度学习（deep learning，DL）、自然语言处理（natural language processing，NLP）、计算机视觉（computer vision，CV）等AI相关技术迅猛发展，对人类社会生活产生了深刻影响，为众多产业带来了冲击。本文概述了AI在医药产业中的应用现况及国外药品监管机构的有关实践，以期为我国相关工作的开展提供参考。

一、AI发展简史

1956年，美国达特茅斯学院举行首次人工智能研讨会，被认为是AI诞生的标志。但受制于当时计算机等技术尚不成熟以及缺乏数据积累，此后数十年间AI的发展较为缓慢。直到1997年，计算机“深蓝”战胜国际象棋冠军，AI才引起全世界的关注。2016年，人工智能系统AlphaGo战胜世界围棋冠军，进一步展示了AI的强大应用前景。此后，AI进入加速发展阶段，技术日新月异，影响不断扩大。2022年ChatGPT的推出，2024年Sora的发布，均举世瞩目。

二、AI在医药产业的应用

（一）医学界

医学诊断是AI在医药产业的核心应用场景。目前，AI已深入到包括放射、超声、病理等多个辅助诊断领域，并已有基于DL等技术建立的医学专家系统（expert system）用于辅助临床医学诊断。《人工智能医疗器械产业发展白皮书（2023年）》提出，智能辅助诊断产品在AI医疗器械中技术最成熟、应用最广泛，约占我国目前已获批产品的80%，当前已覆盖了眼、肺、骨、心血管、乳腺、脑、消化道、宫颈、肝脏等多个部位^[2]。

医疗机器人是AI在医学领域的另一重要应用。医疗机器人可分为手术机器人、康复机器人、辅助机器人和医疗服务机器人四大类，其中手术机器人应用较多、发展较快^[3]。2021年12月，工业和信息化部等十部委联合发布《“十四五”医疗装备产业发展规划》，将腔镜手术机器人、骨科手术机器人、神经外科手术机器人、口腔数字化种植机器人和眼科手术机器人等列入我国“重点医疗装备供给能力提升行动”^[4]。

医学写作是AI在医学领域的一个新兴应用场景，早期主要表现为使用智能语音识别等技术辅助病历撰写。ChatGPT发布以后，各种聊天机器人极大推进并扩展了AI在医学写作中的应用。2023年，《新英格兰医学杂志》（NEJM）发布了一份特别报告，指出撰写病历、解答试题、在线问诊是GPT-4等生成式AI在医学中的3个潜在应用场景^[5]。

此外，目前AI还广泛应用于医学教育以及临床研究。鉴于AI医学应用的不断扩展，NEJM于2023年12月出版了最新子刊NEJM AI，专门刊发与AI有关的医学研究和述评^[6]。

（二）工业界

1964年，定量构效关系建模领域的建立被视为AI应用于药物研发的标志^[7]。截至目前，AI几乎覆盖了从靶点发现、药物设计、药物筛选、临床试验、生产制造到上市后监测的全流程。

在传统的药物研发早期，寻找适宜靶点、筛选先导化合物是极其耗时耗力的环节。得益于大数据的积累与AI的学习与分析能力，越来越多的制药企业开始使用AI技术识别靶点和筛选化合物，预测人体对药物的吸收、分布、代谢和排泄，以及药物对疾病的疗效，以期缩短研发周期、提高成功率。全球首款AI设计的药物为英矽智能（Insilico Medicine）公司的INS018_055，其从靶点发现到成为候选药物用时约18个月，特发性肺纤维化适应症已完成Ⅰ期临床试验^[8]。此外，借助AI的靶点筛选，还可以对已有药物进行重新定位，探索新的治疗领域。

临床试验是药物研发中至关重要的环节，也是AI深度参与的核心步骤之一。AI在临床试验中可发挥以下6个方面作用：①基于药物结构、目标疾病和患者入排标准等多维度数据，预测临床试验的成功率，高效整合已有的临床试验和文献信息，优化临床试验设计。②基于对已完成临床试验的数据分析，评估和调整受试者入排标准；基于对现有患者数据库的分析，筛选候选受试者，从而提高患者招募效率，并可以招募到既往被排除在临床试验之外的合格受试者。③分析受试者的历史数据、参与度、健康状况以及其他相关因素，识别可能有退出风险的受试者并早期干预，降低退出率。④使用智能手机应用或可穿戴设备，远程监控受试者用药情况，提高依从性。⑤使用聊天机器人与受试者进行实时互动，提高受试者参与度及体验。⑥临床试验数据分析和管理^[9]。鉴于AI在临床试验设计和实施中的普遍使用，2020年，《临床试验研究方案报告规范指南》（Standard ProtocolItems: Recommendations for Interventional Trials，SPIRIT）工作组与《临床试验报告规范》（Consolidated Standards of Reporting Trials，CONSORT）工作组先后发布了《人工智能干预性临床试验研究方案报告规范指南》（SPIRIT-AI），以及《人工智能干预性临床试验报告规范》（CONSORT-AI），在经典的SPIRIT声明和CONSORT声明基础上扩展了AI相关条目^[10]。

药品生产制造环节AI的参与度也正日益提高。2021年，德国星德科（Syntegon）公司在自动化检查系统中引入了首套在药品生产线中通过验证的AI目检系统。该系统配备了利用DL算法的AI应用程序，能够进一步提高检测率，减少在难以检测的产品中的误剔除次数，据称在注射器检查机上可以将颗粒检测率提高70%，同时将错误检测率降低60%^[11]。可以预期，随着药品制造从间歇制造向连续制造和智能制造转变，AI在药品生产制造中将发挥越来越大的作用。

药物警戒是药品全生命周期的重要环节，除临床试验期间的安全性报告以外，在临床试验期间无法发现的安全性风险，需要在药品上市后的真实世界中识别和评估。但长期以来，上市后监测受报告数量大、报告质量欠佳的影响，安全性信号的检测效率低下。2019年，辉瑞（Pfizer）公司研究团队发表了使用AI技术与机器处理程序实现不良事件报告自动管理的试点研究，结果显示AI在不良事件数据提取和报告评估方面均具有可行性^[12]。目前，越来越多的企业和监管机构开始探索AI在临床试验期间以及上市后药物警戒中的应用^[13-14]，推动药物警戒成为药品全生命周期中AI运用成熟度较高的环节。

三、国外药品监管机构的AI实践

与医学界和工业界相比，许多国家和地区药品监管机构对AI的态度较为谨慎。本文以美国为例，主要介绍美国食品药品监督管理局（FDA）的有关实践。

美国是AI的发源地，也是AI制药的重要市场。据统计，截至2022年，全球已有700多家AI辅助药物研发企业，其中54.4%分布在美国^[15]。2024年3月15日，美国FDA现任局长Robert M. Califf博士撰文总结了自1995年以来，美国FDA已收到300多份含有AI内容的药品和生物制品申请、700多份AI设备申请，申请内容涵盖药物发现和重新利用、临床试验设计、剂量优化、临床终点及生物标志物评估以及上市后监测，美国FDA负责药品、生物制品、医疗器械及组合产品审评的中心或办公室均参与其中^[16]。

美国FDA面临的AI挑战可分为两类：一是如何在监管活动中运用AI技术；二是如何监管AI产品。

（一）美国FDA监管活动中的AI应用

美国FDA工作人员曾基于已收到的人工智能/机器学习（AI/ML）相关申请，提出AI/ML在药品审评中的可能应用场景包括：构建定量药理学模型、预测药物毒性、不良反应报告分析与信号检测、预测治疗反应以及预测研发活动^[17]。上述场景中，已发布成果的主要有以下4种。

研发活动的预测模型。2019年，美国FDA药品评价与研究中心（Center for Drug Evaluationand Research，CDER）的仿制药办公室、政策研究办公室联合发表文章，介绍使用药品、监管以及药物经济学信息，借助ML和传统的Cox比例风险回归模型预测首个新化学实体的简化新药申请（ANDA）的申请时间。结果显示，ML的预测性能优于传统Cox模型，使用ML预测模型可以预测研发活动及申请时间，为审评资源分配、相关规划指南制订和发布等工作提供决策依据^[18]。

上市后监测的可视化信息分析平台。2020年，美国CDER监测与流行病学办公室联合科研机构发表文章，介绍用于上市后监测辅助决策的可视化信息分析平台InfoViP。该平台采用NLP及ML技术，处理美国FDA收到的大量上市后个例报告，从报告的文本信息中提取与安全性评价相关的内容，识别可能的重复报告，并对报告质量进行分类，最终将上述信息以可视化的形式展现给审评人员，以辅助评价^[19]。

监管文档中的自由文本处理。2023年，美国FDA国家毒理学研究中心生物信息学和生物统计部发表文章，以药品说明书为例，介绍如何利用大型语言模型（large language model，LLM）提取监管文档中的自由文本信息并将其转化为标准格式，从而提高信息检索的效率^[20]。鉴于该项工作的重要性，美国FDA国家毒理学研究中心发起了BERTox计划，旨在使用LLM（如BERT和GPT等）处理监管文档和公共文献，以提高效率和准确性^[21]。

替代动物实验的算法模型。2023年，美国FDA国家毒理学研究中心与有关企业及科研机构联合发表文章，介绍使用生成式对抗网络（generative adversarial network）开发的模型AnimalGAN。该模型基于对传统动物实验数据的学习，可以建立实验动物中药物暴露与临床病理学指标的关系，从而模拟及替代动物实验^[22]。

（二）美国FDA对AI产品的监管考虑

对于如何监管AI产品，目前包括美国FDA在内的许多监管机构尚未达成定论。2023年底，2017~2019年期间担任美国FDA局长的Scott Gottlieb博士撰文总结了以下3点美国FDA既往对颠覆性医疗技术（disruptive medical technologies）的监管经验，为AI产品的监管提供参考^[23]。

从成熟的监管路径开始。Scott Gottlieb博士认为，美国FDA已经建立的多条成熟监管路径几乎适用于所有新技术产品。与从头建立新的监管路径相比，充分利用成熟监管路径，可以使新技术产品加快上市。企业可以从产品在真实世界的使用中获得反馈，扩大新技术的应用范围；监管机构也可以根据实践经验，从中获得调整监管策略的机会。对此，他以一款智能手表心脏监测配件的审评为例。美国FDA在认可了企业对于产品准确性和可靠性的验证工作后，将监管重点从纯粹基于产品的角度，转向了同时考虑制造商产品验证的角度，由此简化了监管流程、鼓励了产品创新。该配件于2018年首次获批时，仅获批用于健康个体的心率异常监测，2022年扩大到可以用于心脏病患者的心率监测。

采取基于风险的监管方式。Scott Gottlieb博士认为，当监管机构面对一个新的领域，首次主动采取监管措施时，要进行风险排序，将低风险活动暂时剔除在外，聚焦于对高风险干预的监管。对此，他举的例子为自体干细胞疗法。该疗法在美国发展多年，已经形成了庞大产业，曾有观点认为自体干细胞来自于人体、回输于人体，不应受美国FDA的监管。直到2017年，美国FDA认识到在此领域缺乏产品开发、验证和供应的公认标准，不但增加了患者的风险，也阻碍了产品成熟。2018年，美国FDA在综合自身资源以及已有的临床实践后，决定对在低风险人群中使用来源于脂肪组织的自体干细胞美容手术，以及在整形外科中使用自体富血小板血浆（同源使用）行使自由裁量权（即只要遵照美国FDA的有关要求，这类产品在美国的使用不需要经过美国FDA事先审批）。

充分发挥现有权威标准在新技术评估中的作用。在此方面，Scott Gottlieb博士举的例子为下一代基因测序技术（next generation sequencing，NGS）。2018年，美国FDA允许开发商将NGS产品的测试结果与美国FDA认可的公共数据库［如美国国立卫生研究院的临床基因组资源中心（ClinGen）］进行验证，从而为新产品的上市申请提供了一条具有可及性的有效途径。

Scott Gottlieb博士总结，为了安全、有效地运用新的医学技术，必须采取富有创造性的监管政策，其创新程度应与新技术给医生和患者新增的获益程度相匹配^[23]。

（三）美国FDA发布的相关工作计划

近年来，随着对AI产品监管经验的积累，美国FDA开始逐步总结并发布相关工作计划。

在医疗器械领域，2021年，美国FDA发布首份《基于人工智能/机器学习的医疗器械软件的行动计划》［Artificial Intelligence/Machine Learning (AI/ML)-Based Software as a Medical Device(SaMD) Action Plan］，阐述了对AI/ML医疗器械软件的5点监管计划，包括：①为医疗器械软件制订监管框架；②建立机器学习质量管理规范（Good Machine Learning Practices，GMLP）；③促进以患者为中心的研发，提高透明度；④开展有关算法稳健性和偏倚的监管科学研究；⑤推动真实世界性能（real-world performance）评估监测试点工作^[24]。同年，美国FDA与加拿大卫生部、英国药品和健康产品管理局（MHRA）共同发布了医疗器械研发领域GMLP的指导原则^[25]。

在药品领域，2023年，美国FDA先后发布了《药品生产中的人工智能》（Artificial Intelligencein Drug Manufacturing）以及《在药品和生物制品研发中的人工智能和机器学习》（Using Artificial Intelligence & Machine Learningin the Development of Drug &Biological Products）两份讨论文件，总结了AI/ML在药品生产和研发中的应用现况和前景，提出了可能的风险以及解决方法^[26-27]。在后一份文件中，美国FDA肯定了AI/ML可以加速药品研发、提高临床试验的安全性和效率，同时指出AI/ML可能会放大原数据集中的错误和偏倚，并且由于AI/ML的机制复杂而缺乏透明度，因此美国FDA将围绕以下3个方面考虑进一步的监管：①以人为主导，建立负责的、透明的AI/ML治理；②注重数据的质量、可信度以及代表性；③关注模型的建立、性能、监测以及验证^[27]。

截至目前，美国FDA关于AI监管考虑的最新文件为2024年3月15日发布的《人工智能与医疗产品：CBER、CDER、CDRH、OCP的协同行动》（Artificial Intelligence & MedicalProducts: How CBER, CDER,CDRH, and OCP are Working Together）^[28]。在这份报告中，美国FDA提出了医疗产品全生命周期中AI的开发和使用的4个重点关注领域：①建立合作，保护公众健康；②鼓励创新，推动监管进步；③推动标准、指南、最佳实践以及工具的建立和协调；④支持开展有关AI性能评估及监测的研究。该份报告还提及，美国FDA正在制订包括AI医疗器械软件功能的预定义变更控制计划的上市申报建议终稿、AI医疗器械软件功能的全生命周期管理考虑及上市前申报建议草案、使用AI技术支持药品及生物制品的监管决策考虑草案等相关指南。

（四）WHO及其他监管机构的实践

除美国FDA以外，WHO等国际组织以及欧洲药品管理局（EMA）、英国MHRA等监管机构均对AI给予了高度关注。2021年，WHO发布首份《卫生领域人工智能的伦理和治理指南》（Ethics and Governance of Artificial Intelligence for Health），提出AI治理的6项原则，即：保护人类自主权，促进人类福祉、安全和公共利益，确保透明度、可解释性和可理解性，培养责任感、建立问责制，确保包容性和公平，发展具有响应性和可持续性的AI^[29]。2023年7月，EMA发布题为《药品生命周期中人工智能使用情况》（Reflection Paperon the Use of Artificial Intelligencein the Lifecycle of Medicines）的思考性文件，提出合理运用AI/ML工具可有效支持药品全生命周期的数据获取、转化、分析和解读，关键在于申请人和持有人应确保其使用的所有算法、模型、数据集和数据处理流程与用途相符，并且符合GxP标准和EMA现有指南的伦理、技术、科学和监管要求，这些要求在某些方面可能比数据科学领域更为严格^[30]。2023年10月，英国MHRA宣布计划推出AI监管沙盒（AI-Airlock），为AI开发者提供一个在监管机构监控下的虚拟区域，便于其开发、测试和验证产品^[31]。同月，WHO发布《卫生领域人工智能的监管考虑》（Regulatory Considerations on Artificial Intelligence for Health），提出了6个重点考虑议题，包括：文档管理与透明度，风险管理与AI系统开发的生命周期方法，预期用途及分析和临床验证，数据质量、隐私与保护，参与和合作^[1]。

四、对在我国药品监管中使用AI的思考

我国是AI的研发大国。2017年，国务院在《新一代人工智能发展规划》中指出：“基于人工智能开展大规模基因组识别、蛋白组学、代谢组学等研究和新药研发，推进医药监管智能化”^[32]。目前，我国在医药产业和药品监管领域较为系统的AI应用纲领性文件仍有待形成。与美国FDA类似，我国的药品监管部门同样面临如何在监管活动中使用AI以及如何监管AI产品的双重挑战。对于后者，鉴于AI辅助新药研发在我国尚处于起步阶段，有待在后续工作中持续积累经验。笔者就在我国药品监管中合理使用AI技术提出以下5点思考。

（一）明确目的，系统规划

在监管活动中使用AI的根本目的是提升监管能力，使之与AI带来的技术创新和行业进展相匹配。为了实现这一根本目的，建议一方面积极与行业开展对话，深入了解行业需求；另一方面系统梳理和总结现有监管活动，对应行业需求，寻找和发现监管活动中有待提升的环节并分析问题原因。在此基础之上，形成问题清单，借鉴国际经验，明确什么样的AI技术、可以发挥何等作用、能够解决哪些问题，从而形成AI辅助智能监管的系统规划，指导今后一段时间的相关工作。

（二）搭建平台，群策群力

医药行业有其特殊发展规律，我国药品监管基于自身国情，难以简单照搬其他行业或其他国家和地区的经验。建议搭建包括信息与计算机科学、管理学、生物医药学等多学科在内，涵盖产、学、研、监管四方的协作平台，汇集多方力量，建立专家智库，切实结合国情，为在我国药品监管中合理使用AI出谋划策。

（三）数据为先，夯实基础

数据质量是WHO、美国FDA均强调的AI监管重点。无论使用何种技术，AI的基础都是数据，输入数据的质量决定了AI的产出质量。由于AI算法通常在训练数据集上进行训练，在不同的数据集上进行验证，因此，训练数据集和验证数据集的质量直接决定了AI产出的质量。对数据质量的考虑包括数据集的管理、数据的一致性、数据集的合理选择和维护、数据的可用性以及数据的完整性[1]。建议全面梳理和总结我国在药品监管中积累的各项数据（包括申请信息、审评过程信息、审评结论、指导原则等），在充分保障数据安全的前提下，建立我国药品监管活动大数据集，从中选择适宜的、有代表性的AI训练数据集和验证数据集，从而为AI的合理、安全应用奠定坚实的数据基础。

（四）循序渐进，以点带面

鉴于AI相关技术正在不断发展和迭代，建议优先考虑使用NLP等较为成熟的技术，在药物警戒等已有较多应用经验的领域开发AI辅助监管工具，以试点的形式率先运用到监管活动中，在实际工作中探索和总结经验，为后续更多应用奠定基础。

此外，我国正处于持续深化药品审评审批制度改革的进程中。随着《国务院关于改革药品医疗器械审评审批制度的意见》《关于深化审评审批制度改革鼓励药品医疗器械创新的意见》等重要文件的发布，我国药品审评审批不断提速，社会各界对加快审评审批的期望持续存在。但同时需要看到，监管部门长期存在人力不足、资源有限、超负荷运转的痛点和难点。建议借鉴美国FDA使用AI预测申报活动、处理监管文档自由文本等的经验，构建AI辅助审评工具，合理分配审评力量，减轻审评工作人员的简单重复性工作负担，从而优化审评资源配置、提升审评工作效率。

（五）防控风险，依法依规

AI是一把双刃剑，在带来重大革新的同时，也带来巨大的数字安全隐忧。2024年3月13日，欧洲议会通过并批准了全球首部针对AI的监管法案——欧盟《人工智能法案》。可以预见，随着该法案的颁布，AI监管在许多国家和地区均将步入规范化、法制化。虽然我国尚未出台专门的AI监管法律，但AI安全已经引起了党中央的高度重视。2023年4月28日召开的中共中央政治局会议指出：“要重视通用人工智能发展，营造创新生态，重视防范风险”^[33]。2023年7月24日，中共中央政治局会议再次提出要“促进人工智能安全发展”^[34]。药品监管事关人民群众的身体健康和生命安全，也事关经济发展与社会和谐稳定，在监管活动中引入AI必须全程高度重视风险防控，依法依规稳步推进有关工作。

总体而言，面对AI的飞速进步，我国药品监管部门有必要主动与各方加深、加快协作，共同探讨和建立符合我国国情的医药产业及药品监管AI应用规则，秉承合理运用与防范风险相结合的原则，最大限度地发挥AI的技术优势，防范及降低潜在的风险，以把握和迎接AI带来的机遇和挑战，促进产业升级、提升监管能力，更好地为人民群众的健康保驾护航。

参考文献：略

*本文来源 - - 中国食品药品监管杂志微信公众号，作者：熊玮仪，鲁爽，王涛＊

相关文件下载、服务及学习课程：

合规文库：人工智能医疗器械注册审查指导原则

合规培训：AAV基因治疗产品CMC开发的合规实践

委托定制：GMP合规审计（符合性检查）

联系专家，获取专家指导意见：e邀专家

*以上文章仅代表作者个人观点。本文为转载文章，版权归原作者所有，如涉侵权，请联系我们删除。