3
谷歌DeepMind的AlphaGo與世界冠軍李世石的圍棋比賽的直播，AlphaGo 最終獲勝
當谷歌旗下位于倫敦的公司DeepMind將可以獲取皇家慈濟NHS信托基金運營的三家醫院（Barnet、Chase Farm 和 the Royal Free）的160萬病人的NHS（英國國家醫療服務體系）記錄的消息被公布出來時，警鐘敲響了。
這不只是因為英國人激烈地守衛他們私密的醫療記錄；也不只是因為把觸角伸進我們生活的各個角落的巨型章魚公司谷歌想要“組織全世界的信息”；更不只是因為病人不太可能同意谷歌獲得這些信息。
對許多人而言，問題在于這些擔憂和人工智能（AI）的概念交織在了一起。DeepMind并不是普通公司，它是一家專注于人工智能的公司，開發著能夠表現出智能推理能力的技術。
去年該公司的工程師們發布了一篇論文說該公司開發出了一個能夠復制“專業人類視頻游戲測試者”的程序。今年三月份，谷歌DeepMind開發出了一個掌握了有3000年歷史的中國棋盤游戲圍棋，從而創造了歷史；在此之前，因為圍棋可能的走子步數的龐大數量，人們認為目前還不具備能掌握圍棋的技術。在被視為計算的里程碑的比賽中，該公司的AlphaGo以4-1的成績擊敗了世界圍棋冠軍。
現在，這樣一家公司擁有了包含所有這些人的詳細、私密、盡管匿名的醫療記錄的數據庫，其中包括HIV感染狀況、過去的吸毒過量和墮胎信息。DeepMind說其需要這些數據為試圖防止急性腎損傷的醫院產生醫療報警信號。
一些人擔憂的是，DeepMind的數據庫可能會被允許用于原本規定之外的目的。公眾對NHS病人的隱私沒有得到保障的事實已經不陌生了——2014年，因為對醫療機密可能處于風險之中的擔憂，政府被迫暫停然后縮減其打造一個單個英文醫療數據庫的提案。
DeepMind沒有隱藏它與NHS的工作，該公司在二月份宣布其正與該醫療服務合作開發一款被稱為Streams的應用，以幫助醫生和護士監測腎病患者。它沒有公布的是其對包括病人歷史病歷在內的數據的取用程度。DeepMind得到的不只是幾千個患有腎損傷的病人的數據，而是所有這些醫院的病人病歷。那是數以百萬計的機密文件。
該公司表示其需要整個病人數據庫才能使Streams有效。這樣的數據庫的支持者聲稱有了這樣的數據，就能更快地開發出用于診斷疾病的強大軟件包。
New Scientist雜志獲得了DeepMind和NHS之間的數據共享協議，該協議披露了哪些信息會被提供給DeepMind。這家谷歌公司的技能是在大量數據中識別復雜模式——而NHS是這樣的“深度學習”的一座金礦。
這個數據寶庫中充滿了醫院每日的活動日志，例如病人的位置和狀態記錄——以及誰于何時探望了他們。DeepMind也將獲得病人的病理和放射檢查記錄。
除了實時數據之外，DeepMind還有權使用重癥監護和事故與急診部門的歷史記錄。理論上，鼓搗這些信息讓DeepMind可以基于這些超過任何個人消化和分析能力的數據開發出預測應用。
通過比對患者數據，DeepMind可能能夠預測某人處在某種疾病的還沒有明顯癥狀的早期階段。這是醫療領域的圣杯：不是當人們生病時治療病人，而是在他們生病前就治好他們。
烏托邦？也許吧。這些技術的愿景背后還有我們所生活的這個時代的困境的癥結。谷歌、Facebook等公司的生存靠的是這一事實：我們用自己的隱私權換取使用我們的數據開發的新技術。
和蘋果一樣，谷歌正在打造在醫療應用領域的聲譽。而事實上，學術界將機器學習用在醫療上已不是什么新聞了。但是，這些數據的使用權被交給了世界上最大最強的公司之一。這帶來了一個問題，即該公司是不是很快就可能在NHS健康分析上變成最大的公司，造成事實上的壟斷。
人工智能代表著一些新事物，一個程序能夠改進自身并很快超越人類智力的希望。這就是所謂的“智能爆炸”——一個人類迎來自身毀滅的節點。我們離到這一步還有一段距離。即使有這樣的目標代價，也還沒人開發出尊重社會和道德規范的機器。對人類而言，做到這一點是很困難的。
有些人可能會說這樣的推斷是荒謬的。畢竟微軟的Twitter聊天機器人Tay在變成一個種族主義者和種族滅絕吶喊者之前堅持了幾個小時，然后她被關閉了。但正如最初投資過DeepMind的發明者伊隆·馬斯克所說，正是對“終結者”技術的擔憂驅使他警告其危險。
為了也許聽起來商業的原因，DeepMind在人們的注視下進行運作。但這通常帶來的問題比給出的答案還多。谷歌在2014年以4億英鎊收購DeepMind時設立的人工智能倫理委員會仍然是技術上最大的謎團之一，這兩家公司都拒絕透露誰管理著這一委員會。
人工智能需要數據進行學習，因此谷歌DeepMind要吸取所有這些病歷記錄。所以為什么要保密？如果病人已被告知了事情的來龍去脈和原因，他們可以做出明智的選擇。如果他們認為谷歌在NHS新的關鍵技術上壟斷地位的潛在風險趕不上其所帶來的好處，那就讓我們辯論吧。但如果該公司不做任何解釋，只是秘密進行，公眾就肯定不會贊同這樣的計劃。
via theguardian
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
