行政令重点关注一系列问题,包括隐私和跟踪医疗保健实践中 AI 使用的安全性。行政令指示美国卫生与公共服务(HHS)部建立一个安全计划,以接收与人工智能相关的危害和不安全实践的报告,并采取行动进行补救。
行政令还要求在医疗保健领域(与其它领域一样)在控制人工智能风险和鼓励可能使消费者获益的创新之间取得平衡。虽然行政令呼吁打击歧视和有害的做法,但仍指示各机构为研究提供资助和其它资金,以支持 AI 在药物发现和其它领域的使用。
美国在制定医疗保健领域使用 AI 的标准方面落后于欧洲国家,欧盟在今年夏天发布了有关 AI 在药品生命周期中使用的思考性文件。鉴于 AI 技术在医疗领域的发展,拜登政府意识到有必要采取更加紧迫的行动,尤其是现在生成式人工智能工具开始进入医疗保健场景。行政令要求任何开发对公众健康和安全构成风险的生成式模型或“基础”模型的公司在训练模型时需通知政府,并分享安全性测试结果。
行政令还给 HHS 180 天的时间来制定一项战略,以确定 AI 工具是否足以用于医疗保健。该计划将包括 AI 模型在获准商业使用之前和之后的性能评估和维护标准。
FDA 已经制定了一个框架来监管医疗保健领域的 AI 工具并监控其使用。FDA 于今年上半年相继发布了两份有关药品生产、研发中使用人工智能的讨论文件,向利益相关者征求意见。FDA 上个月就该主题举办了为期两天的研讨会。此外,FDA 还新成立了数字健康专家委员会,该委员会将于明年全面投入运营。但技术的迅速进步,加上私营部门投资的激增,使得 FDA 的监管难以跟上新兴技术的不断扩展用途和随之增长的风险。