财经头条

DeepMind医疗数据项目被批评 合作医院被勒令整改

太平洋电脑网

英国数据安全部门已经对DeepMind 调查了一年。昨天,结果出炉:

DeepMind 和Royal Free 医院的合作项目“不符合数据保护法”;后者准许DeepMind 获取、处理其 160 万名患者的数据。

DeepMind 与 NHS 合作项目回顾

在讨论该裁定的影响之前,我们先来回顾一下DeepMind 在英国的智能医疗项目(熟悉这段历史的可跳过本节):

去年 11 月,DeepMind 与伦敦Royal Free Trust 达成五年合作协议,由后者旗下的三家医院向前者提供 160 万名患者的病例记录。

12 月,DeepMind 与帝国理工大学的五家医院签署五年合作,获取后者的 100 万患者数据;

今年 6 月,与 Taunton Somerset 医院达成协议,后者将使用其 Streams APP。

这些合作的核心,是 DeepMind 利用医疗数据开发Streams ——一个手机医疗 APP,集成每名用户的化验结果、医疗记录等健康信息,提供与医生的即时短信息服务以及健康风险警报。

这只是第一步。

接下来,DeepMind 希望借助大数据,把 Streams 打造成用户健康状况分析平台。通过分析每个人的数据监测其健康风险,达到及早发现病症、辅助诊断的功能。

这需要很多很多医疗数据,高质量的数据。

而全世界,没有比英国更适合做这件事的国家了。原因很简单:英国的 NHS 国民健康服务,是世界主要大国中覆盖率最高、社会满意度最高的公立医疗系统之一(可去掉“之一”?)。每名英国公民享受从生到死的免费医疗,一生中的所有医疗记录,都保存在 NHS。而 NHS 早就实行了病历电子化,所有患者数据都在其系统内。

对于 DeepMind 来说,与 NHS 合作,就等于拿到了每名英国人的医疗、健康数据。 而且,这些数据只需要从一个服务器传到另一个服务器而已。

但因为显而易见的原因,NHS 无法拍板与 DeepMind 直接合作。DeepMind 需要一家家与 NHS 旗下的公立医院单独谈判,颇有试点改革的意味。 上述Royal Free Trust 等医院,均是 NHS 的公立医院。

但因为涉及公民敏感信息,这些合作一开始就因为潜在的隐私、信息安全风险受到英国全社会的关注。

调查结论

此次信息委员公署(ICO)的调查,只涉及 DeepMind 与Royal Free Trust—— 首个 DeepMind 与 NHS 机构之间的数据合作。

该合作在 2015 年就已初步达成,但在去年被新的协议取代。DeepMind 和Royal Free 对该合作的解释是,这些分享的医疗数据将被用于开发Streams。但 New Scientist 认为,协议条款覆盖的范围已超过了开发一个 APP 所需要的内容。

Royal Free 医院

昨天 ICO 宣布,该协议存在“一系列的问题”。其中最关键的一点, 是患者并没有被充分告知个人数据将会被如何使用;也并没有收到询问,对于将自己的医疗数据交给 DeepMind 处理是否有异议。 Royal Free Trust 与 DeepMind 分享的信息包括药物滥用史、流产、HIV 阳性,部分患者可能十分在意。

两家机构辩称,患者对于病历信息分享其实给了“隐含的同意”,因为这些信息会被用来通过 Streams APP 向患者“直接提供医疗服务”。

对此,ICO 信息委员 Elizabeth Denham 的回应是:

"患者无法凭空推测出他们的信息会以这种方式使用。Royal Free Trust 能够、也应当在这项合作上更加透明,让患者明白状况。"

ICO 在 官方博客 表示,在创新的过程中,像 Royal Free Trust 这样的机构不应当忘记遵守法律章程。 Royal Free Trust 被要求签署一项新协议,在今后按照规章制度办事,并举行一场 2015 年 Royal Free Trust 与 DeepMind 合作内容的听证会。

DeepMind 对 ICO 深思熟虑的裁定表示了欢迎,并承认它在 2015 年最初的合作中犯了一系列的错误。它“低估了 NHS 以及患者数据法规的的复杂程度”,同时表示自己应该向患者以及公众更好地沟通,解释清楚合作内容。

影响

ICO 官方博客引用了 Elizabeth Denham 的话进行评论,表达了 ICO 对整个事件的态度:

Elizabeth Denham

“对数据的创新使用,在提升患者医护和临床服务上有巨大潜力,这是毫无疑问的。但是,创新不需要以牺牲患者最基本的隐私权为代价。

我们已经要求 Royal Free Trust 做出一系列改变,来解决这些问题。我欢迎他们(Royal Free 和 DeepMind)之间的合作。数据保护条例并不是创新的阻碍。但无论什么情况,只要人们的数据被使用,就必须要参考该条例。”

显然,该“有错”裁定并不意味着双方合作的终止。 DeepMind 甚至没有受到任何处罚。Royal Free Trust 也仅是要求整改以及举行听证。长期看来,这甚至不是什么坏事—— 在政府监督下“规范化”之后,NHS 的其他下属医疗机构会更加愿意与 DeepMind 合作,公众对于隐私权被侵犯的疑虑也将在一定程度上缓解。

当然,听证会举办后,整件调查才能尘埃落定。

番外

对于那些好奇人工智能技术以及 DeepMind 的母公司谷歌,在这项合作中扮演了什么角色的读者,你们可能要失望了。

就雷锋网所了解,机器学习和 AI 并不在这项合作框架内,虽然 DeepMind 与 NHS 医院有另外的合作项目,研究用 AI 算法提升癌症和眼科疾病的医疗水平。

至于谷歌,该项目的合作协议从一开始就清楚地规定了,DeepMind 不能把任何英国公民的私人医疗信息与谷歌分享。看来,大家对于将隐私信息交给外国企业还是很在意的。