首页 > 资讯 > EMA 调研显示，业界最需要 AI 可信度的评估方法

出自识林

2026-09-02

*题图仅做示意用

人工智能（AI）正进入药物发现、临床开发、生产、药物警戒和上市后监测等药品全生命周期，但“AI生成的证据如何用于监管决策”仍缺少充分的方法学基础。欧洲药品监管网络（EMRN）数据指导组近期发布一项利益相关方调研显示，药品AI应用中最优先的监管科学问题并非新增某项法规，而是AI生成证据的准确性、可靠性和适用边界，以及相关的数据治理和偏倚防控。

该研究由EMA及EMRN相关专家参与，研究者于2025年9月至10月收集273份反馈，覆盖国家监管机构、制药行业、中小企业、患者和消费者、医疗卫生专业人员、合同研究组织（CRO）及学术界等群体。调研旨在识别AI用于药物开发、监管审评及上市后监测时的监管科学研究优先事项，并不构成正式监管要求。

调查结果显示，业界各方将模型性能、数据治理、伦理与偏倚等视为AI应用的重要基础。药监部门也可基于这些反馈开展针对性的监管科学研究，并逐步完善监管AI的方法、文件和工具，在确保合规的基础上有效促进AI的应用。读者可阅读专题文章了解全球药监对于监管AI的当前思路。

各方最为关注的是AI证据可信度

研究将AI监管科学需求归纳为7个领域、28项具体问题，并请受访者在资源有限时选出最应优先开展研究的三个领域。受访者列为优先研究方向的频次由高到低为：（1）AI工具的准确性和可靠性；（2）数据治理、保密和知情同意；（3）伦理、公平及偏倚防控；（4）监管与监督；（5）研究诚信和知识产权；（6）AI应用所需资源和支持；（7）AI对岗位和技能的影响。

其中，83%的受访者将AI工具的准确性和可靠性列入前三，其后为数据治理、保密与知情同意（51%）以及伦理、公平与偏倚防控（45%）；监管与监督以39%位居第四，主要涉及现有指南能否适应AI技术演进、获益-风险评估和药物警戒等场景的新指南、注册申报中的角色与责任，以及国际监管协调。

优先的监管科学研究课题

研究按照领域重要性加权后，形成10项优先监管科学问题，也可以理解为行业希望监管部门能够优先开展的监管科学研究课题，从而指导行业应用AI：

1.如何确保用于生成临床证据和支持监管决策的AI模型具有准确性与可靠性，并识别其应用局限；

2.如何确保药品生命周期和监管审评中使用的AI系统在数据变化、性能随时间衰退、信息不完整或输入具有误导性时仍保持稳健性与可信度；

3.监管决策在何种情况下需要AI模型具备可解释性，以及如何在不影响模型性能的前提下实现可解释性；

4.将健康数据用于超出原始收集目的的AI研究时，采用何种知情同意模式或其他法律依据最为适当；

5.如何提高AI赋能药品研发所用数据的安全性、可审计性和可追溯性；

6.何种方法能够有效识别并减少药品研发和评价所用AI模型中的偏倚；

7.需要采取何种透明性措施，以清楚说明药品生命周期中AI应用的局限性和不确定性；

8.现行指南在AI用于获益-风险评估、药物警戒和临床证据生成方面存在哪些空白；

9.如何增强AI赋能药品研发结果的透明性和可重复性；

10.应采取哪些技术和质控措施，以确保临床试验、药品生产、安全性监测和监管申报中使用的AI系统得到适当验证，并具备安全性与可靠性。

前3项均聚焦AI证据的性能、稳健性和可解释性；在“准确性与可靠性”领域，45%的受访者将第（1）项列为首位。整体看，受访者关注的重点是建立评价AI输出可信度和适用边界的方法；而在健康数据二次使用的知情同意、获益-风险评估和药物警戒等具体场景中，不同群体的优先级排序仍较为分散。

识林-青葙子

识林^®版权所有，未经许可不得转载。