0
| 本文作者： 奕欣 | 2017-03-21 20:37 |
從 AlphaGo 開始步入人們視線，人工智能公司 DeepMind 的一舉一動總是飽受關注，而在去年，DeepMind 與英國國家醫療服務體系 NHS 旗下基金會 Royal Free London 簽訂了為期五年的合同，NHS 旗下的三家倫敦醫院將向 DeepMind 分享 172 萬患者的醫療數據，雷鋒網此前也做過相關報道。
這自然引發了對隱私問題的討論和擔憂，DeepMind 一直聲稱隱私與信任是它們首要考慮的問題，所有數據會被加密且不會與母公司谷歌分享，但依然有不少學者質疑 DeepMind 此言的真實性。
其中劍橋大學學者 Julia Powles 當屬反對聲音最激烈的一個，在與 Hal Hodson 合寫的一篇名為《Google DeepMind and healthcare in an age of algorithms》中，她質疑 DeepMind 在數據及隱私保護上的意愿。
在提及這一爭端之前，我們先和 AI 科技評論回顧一下 DeepMind 與 NHS 合作的大致過程。
在 2015 年 7 月，Royal Free London 旗下公立醫院的醫生與谷歌 DeepMind 公司開始有了初步接觸。值得一提的是，DeepMind 此前并沒有任何提供健康服務的經歷或經驗。
而在 2015 年 11 月，Royal Free 的一些敏感醫療數據就已經開始傳輸到 DeepMind 的所持有的第三方服務器上。而 NHS 作為獲得 Royal Free 大量基金支持的英國國家醫療服務體系，自然也掌控著英國國民健康信息的大量數據。
隨后在 2016 年 1 月，DeepMind 公開宣布與 Royal Free 合作，將利用后者所提供的數據開發一款名為 Streams 的應用以輔助急性腎損傷 (AKI)。
2016 年 9 月，DeepMind 三大創始人之一 Mustafa Suleyman 與 Royal Free 的 Subir Mondal 簽署了一份八頁的信息共享協議（ISA），這份時效五年的協議顯示，Royal Free 是數據的實際控制方，而 DeepMind 只是一個數據處理方。
而在 2016 年 10 月，DeepMind 聲明公司將保護 Royal Free 患者的敏感數據，比如 AKI 的管理數據與直接護理內容，它們表示，這些數據的范圍比起協議中所約束的內容范圍只會更窄，不會更寬。谷歌也強調 DeepMind 只是在為控制腎臟疾病開發相關應用。
但這樣的聲明并不能讓 Julia Powles 滿意，她在報告中指出了 DeepMind 可能存在的三個問題：
首先是 DeepMind 是否可以被視為一個數據處理方，并直接對病人護理產生影響的問題。根據 DeepMind 的官方資料顯示，Royal Free 至少有 26 名醫生及護士在使用 Streams，平均每天會向 11 個置身 AKI 風險的患者發出健康警報。
Powles 在報告中提到，「為何這樣一家由數據挖掘兼廣告巨頭谷歌全資擁有的 AI 公司，能夠構建一個以數據集成用戶為基礎的 App？不論是 DeepMind 還是 Royal Free London，都沒有對這個問題進行正面回答。」
其次，數據如何在法律保護下進行使用？目前所收集到的聲明都只是兩個合作機構的一面之詞，她并沒有了解到任何關于數據使用的監督文件或是具有法律約束力的客觀文件。Powles 表示，公眾并沒有了解數據去向的渠道或權利，因此也無法得知他們所說的是否屬實。
第三點是，相關的設備及算法是否已經按照法規在監管機構取得授權/許可？根據 DeepMind 及 Royal Free 的聲明，它們采用的是一個為 AKI 服務的「國有算法」（national algorithm），它能夠對血液水平進行測試，并結合 Royal Free 的數據（已經在 DeepMind 存儲、利用及傳輸），決定是否需要向醫生的移動設備發送相關的健康警報。根據 Powles 的了解，DeepMind 并沒有獲得研究批準機構（HRA）或是保密咨詢機構（CAG）的授權和許可。
作為回應，DeepMind 與 Royal Free 聯合發表了一項聲明，指出 Julia Powles 的這篇報告「完全歪曲了 NHS 如何利用技術處理數據的事實。」
「這篇文章犯了一系列重大的事實和分析錯誤，而且臆想我們并沒有簽署類似的數據協議。……事實上，該國的每一個信托機構都會根據同樣的法律與監管制度，使用 IT 系統幫助臨床醫生獲取患者的以往及當前的信息。"
看熱鬧不嫌事大的 BBC 記者 Jane Wakefield 還邀請雙方在一個公開場合進行回應，并表示，「自然，我們非常關心谷歌與 DeepMind 進軍醫療領域，畢竟它此前并沒有涉足過，此外，這些公司并不屬于傳統專業的衛生信息技術與基礎設施提供商，這些舉動如果不加以澄清和說明，無疑會傷害公眾的感情。」
不可否認的是，NHS 的確曾與一些第三方企業簽署了一系列信息共享協議，DeepMind 此前曾經推測協議的款項達到 1500 項，但 NHS 只是表示并不準確，但沒有給出更詳細的數據。
根據雷鋒網了解，目前該應用主要是由英國信息辦公室（ICO，Information Commissioner's Office）進行調查，而國立數據監管機構（NDG）也對數據進行監控。ICO 最近則表示，他們的調查已經接近尾聲，并聲稱會和 NDG 繼續保持合作，與 Royal Free 及 DeepMind 進行定期聯絡，要求獲得 Stream 的開發信息。
DeepMind 在 2 月份也已經表示，坦承希望與患者建立更友好的聯系，并愿意設立相關的討論社區。它在一項關于患者參與 Streams 項目的戰略文件中也提及，「如果患者與醫生能夠協商做出決策，效果會變得更好。」雷鋒網也將持續關注 DeepMind 的后續動態。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
