FDA 器械和放射健康中心负责人 Jeffrey Shuren 表示,“如果你要做的事情看起来是正确的,我们可以支持你的计划,然后你就可以继续推进,只要你遵循计划就可以做变更,而且不需要再问 FDA。”
这份指南文件将减少目前为每个重大产品更新寻求 FDA 批准的需求。FDA 将其方法描述为“最不麻烦”的方法,可以安全地允许企业修改使用机器学习的产品。FDA 在其指南草案中表示,“机器学习的最大潜在好处之一是能够通过迭代修改来提高 ML 模型性能,包括通过从真实世界的数据中学习。”指南草案代表了 FDA 首次尝试处理现代人工智能系统提出的一个特别棘手的困境 —— 系统的核心功能会随着其适应现实世界的环境而改变。
虽然这对于旨在推荐要观看的电影或要购买的商品的 AI 产品来说可能没问题,而且是很好的,但在医学上就成了问题,在产品更新过程中引入的错误可能会导致致命的故障。人工智能现在广泛用于医疗产品,旨在检测和监测危及生命的情况,并为重病患者提供正确的治疗。人工智能产品被用于快速检测中风、标记疑似癌变,并警告败血症等病症。
华盛顿大学信息学研究所所长 Philip Payn 表示,“我认为没有人有围绕这种动态系统实施监管或认证的经验。这种动态系统没有基准。”他表示,FDA 的变更控制框架为临床 AI 工具带来了正确的工程流程,但同时他也担心文件负担是否会延迟修改流程。“我喜欢变更控制设计模式,但我担心它在监管结构中的实施速度和敏捷性。”
FDA 正在向公众征求对指南的反馈意见,其希望正式改变审查 AI 器械的方法,这一过程可能需要数年时间。指南草案明确详细地分解了寻求产品修改预先批准的过程,列出了 AI 开发人员在将产品引入医疗环境后必须采取的修改产品的步骤。
产品制造商必须清楚地解释他们的变更,指定测试更改后产品性能的计划,并说明他们将如何向用户传达更改。一旦指南最终定稿,该政策将允许开发人员在寻求 FDA 对其产品的初步批准时提前获得更改许可。