随着AI越来越多融入我们的日常生活，它对医疗保健及医学研究的影响也必然覆盖每一个人，以或直接、或间接的方式引领我们进入AI医疗新时代。那么，我们该如何确保以负责任的方式实施AI，在实现其大部分积极收益的同时，最大限度减少潜在的负面影响？
在2024年3月召开的SXSW（西南偏南）2024大会上，美国医学会（AMA）主席Jesse Ehrenfeld医生发表了题为《AI、医疗保健与医学的奇异未来》的演讲。在AI Today播客的后续采访中，Ehrenfeld博士进一步延伸了演讲内容，并分享了更多关于AI影响医学领域的见解。
主持人：您如何看待AI对于医学的影响？美国医学会最近为什么要发布一整套AI原则？
Jesse Ehrenfeld医生：我是一名执业医生和麻醉师，实际上，前几天我还刚刚为病人进行过诊疗服务。我在威斯康星州密尔沃基的威斯康星医学院工作，已经拥有约20年的执业经历。我是美国医学会的现任主席，代表着全美规模最大、最具影响力的医生团体。医学会成立于1847年，是医学道德准则与一系列指导当今美国医生提供诊疗服务的原则的传播机构。我本人拥有麻醉学与临床信息学方面的委员会认证，也是首个被任命为医学会主席的信息学家成员。除了这个相对较新的专业身份之外，我还在海军服役了十年。总而言之，我所做的一切都是为了了解该如何为患者提供高质量的医疗服务，并通过我的亲身工作与积极实践将其推广给更多受众。
其实大家可以想见，如今的医生们仍背负着很多沉重且劣质的技术债务，这些技术不仅没有积极作用、甚至不能算是有价值的资产。我们绝不能让这样的情况重演，特别是不能在AI时代下重演。为此，美国医学会于2023年11月发布了一套AI开发、部署与使用原则，旨在回应我们从医生和公众那里收集到的担忧和疑虑。
公众对这些AI系统抱有很多疑问。这些系统是干什么用的？他们能不能信任AI？安全到底有没有保障？面对此类问题，我们需要用原则指导每一项工作，并与联邦政府、国会、各级地方政府以及行业开展合作，确保这些技术能够在护理服务系统的开发、部署和最终使用阶段发挥作用。
自2018年以来，我们就一直在研究AI政策。但在最新几轮迭代中，我们呼吁政府对AI采取全面的治理方法，包括必须确保降低患者风险并尽可能提升技术效用。这些原则希望能将主题专家、医生、信息学家和国家级专业团体汇聚起来以完成各项工作，原则的具体条款也越发丰富。
主持人：您能不能概述一下这些AI原则？
Jesse Ehrenfeld医生：最重要的一点，就是我们希望保证以道德、公平、负责任且透明的方式，完成医疗保健AI的设计、开发与部署工作。我们的愿景和立场非常明确：必须严格遵守国家提出的治理政策，以符合道德且负责任的方式开发AI方案。单凭自愿协议与自愿遵守的承诺还不够，我们必须介入监管并采取基于风险的管理方法。审查与验证监督的程度，应该与AI系统可能带来的潜在危害或后果成正比。也就是说，对于支持诊断和调度操作的两类AI方案来讲，其可能将对应不同的监管级别。
我们对全美各地的医生进行了大量调查，希望了解当今实践中发生的情况，结果也的确表明AI技术在医学领域的使用正在增加。结果令人兴奋，但我认为这也应该对开发商膛监管机构起到一点警示作用。医生普遍对AI在医疗保健领域的潜在非常看好。从全美调查样本来看，65%的受访美国医生认为AI的实践应用具备一定优势，例如帮助记录文档、翻译文档、协助诊断，以及通过预授权等自动化方式减轻行政工作负担等。
但他们也抱有一定担忧。41%的受访医生表示，他们对AI技术既兴奋又害怕。此外，人们还担心AI技术会影响患者隐私以及医患关系。归根结底，我们希望未来上市的产品都能安全可靠。这是我们从医生和消费者群体中获取信息的前提，也是我们长期坚守的原则在支持高质量、经过临床验证的AI开发中的实际体现。
主持人：那么您具体关注哪些数据和健康隐私问题呢？
Jesse Ehrenfeld医生：我发现患者和消费者对数据和AI仍抱有诸多疑问，比如医疗保健应用到底有什么用？里面的数据去哪了？他们能使用或者分享这些信息吗？遗憾的是，联邦政府并没能真正保障数据流向的透明度。举个最极端的例子，高能一家公司、一家开发商和一款应用软件。这款软件被标记为“符合HIPAA”，那么在普通人看来，这就意味着自己存放在其中的数据是安全、私密且有保障的。然而应用软件本身并不属于HIPAA涵盖的实体，而HIPAA条款只能约束公司和开发商。因此对于根本不在保障范围之内的应用软件，所谓“符合HIPAA”完全是一种误导，我们也不该允许这种情况发生。
人们对于健康数据的去向也存在很多担忧，这显然影响到患者对于AI技术的接纳度。94%的受访患者告诉我们，他们希望出台强有力的法律来管理医疗数据的使用方式。如果患者不了解数字工具的隐私设计与影响因素，他们就很可能拒绝使用数字工具。另外，虽然作为监管方的我们有很多工作要做，但AI开发者那边也可以做出一系列努力，保证即使没有法律要求、也愿意尽可能加强AI数据的可信度。
以各位最熟悉的大型科技企业为例，你愿意把自己的医疗保健数据交给他们吗？如果发生数据泄露该怎么办？您是否会将身体部位的敏感照片上传至他们的服务器，以便对方能为我们提供一些潜在的病变分析与防治建议？一旦出现数据问题，您又会怎么做？会打电话给谁？总而言之，我认为应当在数据收集和流向方面提高透明度，让普通消费者也能了解如何拒绝共享自己的数据。
但遗憾的是，HIPAA并没能解决所有这些问题。实际上，许多此类应用软件压根就不在HIPAA的管控范畴之内。我们需要采取更多措施来确保医疗数据的安全性和隐私性。
主持人：您认为AI将在哪些方面、以及将如何对医疗保健和医学产生积极影响？
Jesse Ehrenfeld医生：我们别无选择，必须使用AI等先进技术。要想解决当今医疗保健领域所面临的劳动力危机，拥抱新兴技术已经是不二之选。而且不仅限于美国，这已经成为一个全球性的问题。美国有8300万民众连最基本的医疗保健服务都得不到，就是因为这里没有充足的医生。如果我们继续以同样的方式工作并提供护理服务，就永远不可能开设足够多的医学院、培养出足够多的住院医师来满足这些需求。
而在从美国医学会的角度讨论AI时，我们实际上更喜欢使用“增强智能”的表述，而非人工智能。因为它终究要回归一项基本原则：工具的意义应该是提高我们医疗团队、医生、护士乃至每位相关人员的能力，以便其更有效也更高效地提供诊疗服务。目前最大的问题，就是缺少统一的平台。我们已经获得了不少碎片化的解决方案，但它们彼此之间没有能整合起来，但好消息是已经有企业在迅速朝着这个方向迈进。很明显，我们希望这种趋势也能出现在医疗领域。
我们正在尝试多种不同途径，以确保我们在整个设计和开发过程中拥有发言权。我们建立起医生创新网络，这是一套免费的在线平台，能够将医疗领域的企业家汇聚起来帮助推动变革与创新，并为市场带来更好的产品。医疗企业正在寻求临床投入，临床医生也积极与企业家建立联系。我们在硅谷还设立了科技孵化项目Health2047，基于医学会的见解孕育出十几家公司。
归根结底，我们需要建立起一套监管框架，确保只有经过临床验证的产品才能进入市场。我们必须确保这些工具能够真正兑现其承诺，使其成为提升效率的资产、而非“没事找事”的负担。
我认为AI技术并不会取代医生，但那些善于运用AI的医生会取代那些不懂如何使用AI的医生。AI方案有着巨大的应用潜力，有望减轻医生和论据的管理负担。最终，预计我们在病患护理中直接引入AI的方式将会取得巨大成功。其中有着大量令人兴奋的用例，但我们还需要保证借工具与技术之力，妥善解决种族偏见、危害性错误、安全、隐私以及健康信息威胁等现实挑战。所以在盲目扩大AI工具的应用范围之前，首先应保证医生了解如何管理这些风险、如何承担起肩上的这份责任。
