日期: 作者: 新闻

DeepMind 进军数字医疗服务领域不断 引起人们的担忧 。2016 年,当 DeepMind 一开始跟英国国家医疗服务(NHS)达成数据共享协议,此举便在公众中间引起巨大争议。现在,一个由 DeepMind 聘请的外部审查人员小组又在关于该公司运营情况的报告中表达了最新的担忧。

DeepMind Health 独立审查人员的 2018 年报告 标记出一系列风险和担忧,在他们看来,这包括 DeepMind Health 可能“滥用过度垄断权”,这是该公司通过 Streams 应用获得 数据访问权限和数据流基础设施 的结果;而这又在合同上确定,DeepMind 能够成为结构化医疗数据和其他所有第三方服务商之间的访问权限控制中介,那些第三方未来可能想为皇家自由 NHS 信托基金会提供自己的数字援助解决方案。

虽然 DeepMind 为 Streams 应用部署的基础 FHIR(快速医疗互操作性资源)使用了一个开放的 API,但该公司和皇家自由 NHS 信托基金会之间的合同为那些通过 DeepMind 服务器进行的连接开了绿灯,却禁止了跟其他 FHIR 服务器的连接。这种商业结构似乎跟 DeepMind 联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)声称支持 的开放性和互操作性相悖。

“IT 领域有很多这样的例子,即公司把客户锁定在难以更改或替换的系统当中。这样的协议不符合公众的利益。我们不希望看到 DeepMind Health 将自己置于这样的位置,让客户(比如说医院)被迫选择 DeepMind Health 的服务,即便那在经济或临床上已经不是明智的做法;我们希望 DeepMind Health 能够在质量和价格上进行竞争,而不是通过巩固旧有的优势地位。”审查人员在报告中写道。

不过,报告也指出 DeepMind“对系统互操作性的公开承诺”以及“他们对 FHIR 开放 API 的应用”是积极的信号,写道:“这意味着很多其他中小型企业有可能参与进来,创造出一个多样化和创新的市场,惠及消费者,并助力创新和经济发展。”

“我们还注意到,DeepMind Health 打算把 Streams 的很多功能作为可轻松替换的模块进行部署,意味着他们要一直成为最好才能留在这个领域。”报告补充道。

然而,表达出来的意图和未来的潜力显然跟实际情况不是一回事。而且,就目前而言,一种在技术上具有可互操作性的应用交付基础设施正受到商业合同中禁止性条款的约束——同样起到限制作用的是,缺乏针对此类行为的监管阻力。

审查人员还对 DeepMind Health 的商业模式缺乏透明度表达了担忧,他们在报告中写道:“鉴于当前的环境以及 DeepMind 的商业模式缺乏透明度,人们可能怀疑该公司有着不为人知的利润动机或隐秘的议程。我们不认为那是事实,但我们会敦促 DeepMind Health 对自己的商业模式以及坚持自己道路不被母公司 Alphabet 左右的能力保持透明。“一旦人们在头脑中形成了公司存在隐秘议程的想法,那就很难改变他们的印象了,不管该公司是有多么为公众利益着想。”

“我们已经就 DeepMind Health 在这一领域不断演进的想法展开了详细的对话,我们也知道有一些问题还没有最终得到解决。然而,我们将敦促 DeepMind Health 公开说明他们要做的事。”审查人员补充道。

DeepMind 曾表示,他们想要打造一种 能够按照结果收费的医疗 AI。不过,Streams 并不涉及任何 AI。而且,这项服务也是 免费提供给 NHS 信托基金会 的,至少在头 5 年是这样。这引出了一个问题,这家谷歌旗下的公司打算如何收回投资呢?

毫无疑问,谷歌通过一系列免费产品进行了变现,比如安卓移动操作系统、电子邮件服务 Gmail 以及视频共享平台 YouTube,办法就是收集用户的个人数据,然后用于其广告定向平台。(此外,根据 NBC 的报道,虽然谷歌 去年 停止在 Gmail 中进行数据挖据以用于广告定向,但该公司仍会提取关键词数据来自定义用户的搜索结果以及用于其他目的,比如向其机器学习算法馈入数据。)

因此,审查人员建议 DeepMind 公开对自身商业模式的思考,以避免公众怀疑他们使用人们医疗数据的意图。

如果 DeepMind 被允许在数字医疗服务领域建立起主导性平台的地位,那么谷歌的历史作风也凸显了潜在的垄断风险——举例来说,该公司非常高效地将免费的安卓打造成在全球智能手机市场占据主导地位的移动操作系统。

因此,吉祥坊眼下 DeepMind 只跟 NHS 信托基金会就 Streams 应用和交付基础设施签订了少量合同,但审查人员对于该公司可能获得“过度垄断权”的担忧似乎并不显得过分。

此外,他们还担忧 DeepMind 与其母公司 Alphabet 之间合作方式所呈现的模糊性,以及 DeepMind 会把什么数据传输给这家广告巨头——当 DeepMind 把手伸到人们的医疗记录时,他们跟 Alphabet 这样的组合难免让人感到不安。

“DeepMind Health 能够在多大程度上独立于 Alphabet,避免在未来遵循后者的指示做出现如今承诺不会去做的事?或者,如果 DeepMind Health 当前的管理层离职,那么新到任的 CEO 能够在多大程度上更改目前已经达成的协议?”审查人员写道。

“我们赞赏 DeepMind Health 将继续受到法律和监管框架的约束,但我们的大部分注意力都集中在 DeepMind Health 为采取比法律要求更合乎道德的立场而采取的措施;这一切会结束吗?我们鼓励 DeepMind Health 以更强硬的方式加强跟 Alphabet 和 DeepMind 的分离,从而保证能够更长久地对自身做出的承诺负责。”

DeepMind 在 网站 发布了对这份报告的回应文章,其中写道该公司“正在制定我们的长期商业模式和路线图”。

“我们的首要任务是证明我们的技术可以帮助改善患者护理并降低成本,而不是拿早期阶段的工作成果来赚钱。我们认为,我们的商业模式应该产生自我们创造的积极影响,而且要继续探索基于结果的要素,以便成本至少部分跟我们带来的好处有关。”

因此,除了摆出一些公关说辞之外,该公司说不出什么话来缓解人们对于 DeepMind 利用医疗数据变现的担忧。

至于跟 Alphabet 的关系,DeepMind 也没什么好说的,只是写道:“我们将探索更多的方法,来确保统领我们所有 NHS 合作关系的、具有约束力的法律框架是清晰明确的。”

“NHS 信托基金会将始终保持对数据的完全控制。”DeepMind 补充道,“按照法律和合同的要求,我们只能在合作伙伴的指示下使用患者数据。我们将继续公开跟信托基金会的法律协议,以便让这一重要问题接受审查。”

“如果我们的合作伙伴寻求跟另外一家数据处理服务提供商合作,我们跟合作伙伴签订的法律协议中没有任何一项条款阻止他们那样做。”DeepMind 也回应了我们提出的其他问题。

“我们希望 Streams 可以帮助解锁 NHS 的下一波创新浪潮。驱动 Streams 的基础设施建立在最先进的开放式互操作标准之上,即 FHIR。FHIR 标准在英国得到了 NHS Digital、NHS England 以及 INTEROPen 集团的支持。这应该可以让我们的合作信托更容易地跟其他开发商合作,帮助他们把更多的新创新成果带到临床一线。”该公司在提供给 TechCrunch 的额外评论中补充道。

“根据我们跟相关合作信托的合同协议,我们承诺在协议的 5 年期限内建立 FHIR API 基础设施。”

去年 ,DeepMind 宣布将建立一个技术审计基础设施,用于验证对医疗健康数据的访问请求。在被问及这方面的进展时,该公司重申了博客文章中的措辞,称:“我们将对设定尽可能高的信息治理标准保持警觉。今年年初,我们任命了一位全职信息治理经理,来监督我们在所有工作领域对于数据的使用。我们还在继续开发‘Verifiable Data Audit’(可验证的数据审计)和其他工具,以清楚地展示我们是如何使用数据的。”

因此,这方面的进展正如 我们预期 的一样缓慢。

这家谷歌旗下的英国 AI 公司是在 2015 年开始进军数字医疗服务领域的,当时该公司跟伦敦的一个 NHS 信托基金会悄悄签署了一项信息共享协议:DeepMind 将能访问大约 160 万人的医疗记录,以此来开发一款针对“急性肾脏损伤”的警报应用。

此外,DeepMind 还跟该基金会签署了一份谅解备忘录,在其中表露了 把 AI 应用于 NHS 数据集 的雄心壮志。(他们甚至为一个 AI 项目争取到了伦理认证,但也一直声称皇家自由 NHS 信托基金会的数据没有被提供给任何 AI 系统。)

然而, 在 2016 年 5 月 ,这个数据共享合作项目遇到了麻烦,当时皇家自由 NHS 信托基金会跟 DeepMind 共享的患者数据的规模被公之于众(公布者是调查性新闻,而不是信托基金会或 DeepMind 主动披露)。

在没有被告知或征得同意的情况下,大约 160 万人的非匿名医疗记录被转交给了 DeepMind,人们对这项数据共享协议的法律依据提出了质疑。

去年夏天 ,英国的隐私监管机构对这个合作项目展开了调查,结果发现皇家自由 NHS 信托基金会在 DeepMind 的应用开发期间违反了数据保护条例。

然而,吉祥坊这个数据共享项目的合法性在道德上和监管上都存在问题,但 Streams 项目还是如火如荼地进行着。皇家自由 NHS 信托基金会之后把应用提供给医院的临床医生使用,与此同时,DeepMind 也签署了几份额外的合同,将 Streams 部署到其它 NHS 信托基金会。

最近,作为跟英国信息专员公署(ICO)和解协议的一部分,皇家自由 NHS 信托基金会 委托法律事务所 Linklaters 对 Streams 项目进行了一次审计 。不过,这次审计仅仅检查了 Streams 当前的运行情况(对于人们的医疗记录在项目开发和测试阶段被共享出去,Linklaters 并未对其合法性进行历史审计)。

Linklaters 倒是建议皇家自由 NHS 信托基金会终止跟 DeepMind 之间更广泛的谅解备忘录,而该基金会也向 TechCrunch 证实,他们将遵循 Linklaters 的建议行事。

“审计建议我们终止在 2016 年 1 月跟 DeepMind 签署的谅解备忘录。该备忘录跟这项合作已经不再相关,我们正处在终止它的过程中。”皇家自由 NHS 信托基金会的发言人告诉 TechCrunch。

因此,作为世界上可能最有名的 AI 公司,DeepMind 正处在一个奇怪的位置,向英国医院提供压根不涉及 AI 的数字医疗服务(吉祥坊该公司跟 NHS 信托基金会之间确有 一些正在进行当中的 AI 研究项目)。

2016 年年中,就在皇家自由 NHS 基金会跟 DeepMind 的数据丑闻正处在高潮之时,DeepMind 聘请的外部审查人员小组举行了第一次会议。DeepMind 表示,他们是在 2016 年 2 月成立这个小组的,但当时没有对外公布,而小组的首次会议直到 6 月 14 日 才召开。该小组的 第一份报告 发表于 2017 年 7 月,现在他们又公布了第二份报告,对 DeepMind Health 的运行情况进行了考察。

可以说,在这个小组成立之后(他们的报告进一步破坏了公众对于技术平台和算法承诺的信任), 科技行业发生了很多事 ,其中包括英国信息专员公署发现皇家自由 NHS 信托基金会跟 DeepMind 最初的数据共享协议违背了英国的隐私保护法律。

撰写 2018 年报告的 8 位小组成员分别是:马丁·布罗米利(Martin Bromiley OBE)、伊丽莎白·布金斯(Elisabeth Buggins CBE)、艾琳·伯比奇(Eileen Burbidge MBE)、理查德·霍顿(Richard Horton)、朱利安·胡珀特(Julian Huppert)、唐纳德·奥多诺霍(Donal O’Donoghue)、马修·泰勒(Matthew Taylor)以及约翰·托克(Sir John Tooke)。

这些外部审查人员在最新的报告中警告说,公众对于科技巨头的看法跟一年之前相比发生了“大幅转变”,并声称“数字时代的隐私问题是人们更加关注的事情”。

与此同时,政界人士也在对科技巨头的工作以及社会影响 给予更多的关注

不过,英国政府同样热衷于把自己定位为 AI 的支持者,为该行业提供了 财政资金支持 ,并在 “工业战略”白皮书 中将 AI 和数据确定为所谓的“四大挑战”之一(他们认为,完成这些挑战英国将能“在未来几年引领世界”),而 DeepMind 正是 政府喜欢公开提及的名字 ,把它当成少数几家领先的、引以为傲的本土 AI 公司之一。

吉祥坊如此,关于 如何管理和监管公共部门数据以及 AI 部署的问题 ——尤其是在医疗保健这种高度敏感的领域——仍然需要政府明确地加以解决。

与此同时,数字技术(即便它们不涉及任何 AI)向医疗保健领域的渗透已经构成了重大挑战,因为它们向现有的信息治理规则和架构施加了压力,并增加了垄断的风险。

当被问及他们是否会在提供给临床医生的数字援助方面向 NHS 信托基金会给予指导(具体来讲包括,他们是否要求多种选项由不同的服务商提供),NHS 的数据服务提供商 NHS Digital 把我们的问题踢给了英国卫生部,称那是卫生政策的问题。

卫生部反过来又把问题踢给了 NHS England,后者是一个非政府部门公共机构,负责委托合同以及为英格兰的卫生服务确定优先事项以及前进方向。

截止本文发稿时,我们尚未收到 NHS England 的回应。

归根结底,看起来英国将依靠卫生服务部门来为 AI 和数字决策服务建立一个清晰和稳健的架构,通过规定 NHS 信托基金会在采购应用和服务时需要支持多种独立选项,从而促进竞争。

如果没有这种重要的审查和平衡,那就会滋生这样一种风险,即主导性的平台将很快占领并控制新兴的数字医疗服务领域,就像科技巨头统治消费技术领域一样。

但是,公共医疗决策和 数据集 不应该被简单地交给那些单一的市场主导性实体,因为他们有意愿而且有能力耗费大部分资源来占领这个领域。

而且,当一个重要的数字创新领域处在被科技巨头垄断的危险中时,当那些科技巨头在其他人有机会展示自己的想法之前甚或在市场有机会形成之前就自命为守门人时,面对这样的风险政府绝不应该袖手旁观,无所作为。

翻译:王灿均(@何无鱼

UK report warns DeepMind Health could gain ‘excessive monopoly power’

查看相关文章吉祥坊wellbet,访问手机版android和IOS吉祥坊APP吉祥坊(www.winjxf.com)

Comments are closed.