0
北京的夏天還沒來，429先來了。
今年還是熟悉的配方，甚至進門后阿里云展臺的位置都沒變（不是打廣告）。第六屆 429 有什么新鮮議題可以分享？雷鋒網編輯聽了一波。
AI時代無隱私。
去年2月，Facebook 被曝泄露5000萬用戶信息，這些信息被劍橋分析（Cambridge Analytica）拿去加以分析，創建數據庫，以此在2016年美國總統大選期間投其所好、作有針對性的定向宣傳。
幾個月后，其又被曝出將用戶位置、設備信息、所連接Wi-Fi網絡的情況、觀看的視頻記錄等數據提供給廣告主進行忠誠度預測。這項基于AI的服務，通過預測用戶的未來行為，作為廣告投放的依據。
今年2月，國內某人臉識別公司發生大規模數據泄露事件。超過250萬人的數據可被獲取，680萬條記錄泄露，其中包括身份證信息，人臉識別圖像及捕捉地點等。
不久前結束的315晚會上也曝光了從APP安裝（隱私截取）、探針盒子（隱私下載）、大數據分析（隱私數據整理）和AI語音電話騷擾（隱私變現）等一連串產業鏈成熟的黑產鏈。
不良商家正是利用人工智能和高科技，織就了一張無形的大網圍獵我們的隱私。
“AI的底線是什么？是可信，不可信的AI沒人會用，沒有任何的價值。”百度高級法律顧問張朝說道。
從PC到移動、再到IoT時代，智能設備滲入生活中方方面面，積累的數據也越來越多。AI的三大基礎是算法、算力和數據，算法和算力的突破是AI發展的基礎和關鍵，但都受到瓶頸限制，而數據是決定AI競爭力的一個核心要素。
全世界目前有40億人口使用手機，會在各種場景下通過數據進行AI學習訓練，進而給人們創造智能和便利。 過去人們主要關注個人信息到企業的數據接收系統過程中的安全性，而AI是通過個人信息去復制系統，系統反過來作用到個人，此時人們開始關注系統通過處理信息以后對個人的反作用。
也就是說，AI時代要解決的個人信息問題，既包括用戶對企業數據收集和使用的知情權及選擇權，也包括系統反作用于個人過程中的準確和公正性的問題。
怎樣做到AI的可信？
張朝舉了幾個產品場景。
比如在搜索引擎中，用戶可能會搜索一些私密問題，在這種場景下如果選擇隱私模式，引擎就不會記錄這時候的搜索詞。
或者在使用個性化推薦的過程中，用戶認為推薦的不夠準確，這個時候用戶可以進行反饋，并且重新收集其他的信息優化算法對自己的理解，比如在地圖場景下，用戶可以讓記錄搜索軌跡，完善路徑推薦，當然也可以一鍵刪除整個軌跡。
“這就需要我們在不同的場景下考慮用戶期待的隱私權是什么，期待我們怎樣保護他的主權，同時把這種期待集合到產品功能中。”
百度從四個方面去保護用戶信息，包括制度、流程、技術的儲備以及文化的宣傳。
在制度方面百度成立了一個數據隱私保護委員會組織，負責制定法律保護策略，包括技術儲備，各個產品要以怎樣的流程進行數據的收集使用和流轉。在流程方面，開發了很多隱私檢測的工具，利用這些工具測試產品是否有告知用戶收集數據。
最后，AI的產品需要AI的文化，隱私保護文化是整個AI文化中非常重要的一個組成部分，所以要通過技術或事宣傳教育及考核逐步灌輸給員工隱私保護的意識和能力。
據說不少安全公司會挖坑給自己人跳，時不時發個釣魚軟件測試你有沒有警惕心，也是很會玩了。
白帽子or黑產大佬
今天看到一則有意思的新聞，加拿大某個不明身份的黑客入侵了一個陌生人的麥當勞應用程序，在4月12日至4月18日期間訂購了近100頓飯，麥當勞這波被坑了幾千美元，雖然不是很多，但氣啊！
不少網友猜測干壞事的就是這家麥當勞附近公司的某個程序員。
這不禁讓編輯想起之前的消息，某技術人員利用軟件修改共享單車APP用戶信息，將用戶共享單車賬戶內的余額押金退到自己掌握的賬戶上，短短的兩天時間盜取了34個用戶賬戶的資金共計兩萬余元人民幣。
凝視深淵過久，深淵將回以凝視。技術似乎是一把雙刃劍，掌握它的勇士一方面要與惡斗爭，一方面也要與自我斗爭。這時候，法律約束的重要性油然而生。
360信息安全中心總經理高雪峰談到，招聘安全技術人才最關鍵的就是看人品。因為他們手里掌握著很強的技術，一旦這些技術沒有法律和道德的約束，將變成潘多拉魔盒。
此前也有媒體報道過，某些企業內部的員工將企業核心數據竊取出來進行販賣，另外，從事黑灰產的不法人員也可能主動找到某個技術人員利誘，有人在高額收入的誘惑下從事起了黑產工作。但在法律的約束下，安全從業人員更加清楚的了解到法律邊界以及違法帶來的懲罰，進行了自我約束，將手中技術之劍發揮正向作用。
同樣的，法律也會推動內部業務安全發展。對不少互聯網公司來說，問題不及時整改和修復可能會導致種種后果，而借助相應法律是對內部做安全整改和推進的有力幫手。
所有公司都是業務為王，安全與業務會存在一些沖突，出于安全考慮采取的措施可能對業務有阻礙。但由于法律對安全的重視，公司也會相應的重視起來，從安全角度可以借助網絡安全法推動相關業務。
另外，法律也會在治理公司業務時提供便利，尤其是互聯網公司的業務模型都來自不同業務部門，數據管理是非常重要的。在2016年網絡安全法頒布后，由公安部牽頭做了很多檢查工作。這些檢查其實對我們也有幫助。拿數據來說，因為這些數據來自不同部門，重要性也不一樣，在和業務部分合作進行安全部署時候，對方可能對于數據支持比較為難。
但有了法律文件或相應檢查后，各個業務部門就會配合，在信息安全部門做業務整改時候會很容易梳理清楚數據類型，數據如何打通，怎么防護，怎樣幫助公司業務更好地將數據融會貫通。
總體來說，自2016年網絡安全法頒布后，網絡安全環境是都逐漸走向健康。一方面對安全方面的執業人員來說更能了解哪些可以做，哪些不可以做，帶來了行為規范。另一方面對于企業內部來說，業務也更好推廣，互聯網公司也更重視安全及對用戶隱私的維護。
如果你認為只有黑客暗戳戳搞事情才會泄露你的隱私就錯了，來看幾個例子：
2018年3月，網上傳出范冰冰和李晨購買豪宅的新聞，文章中有精準的房屋產權編號、產權價值、產權人姓名等。經過青島市房管局官調查發現，是該市不動產登記中心一名工作人員擅自查詢了范冰冰的購房信息并發送到微信群，導致隱私被泄露。
上圖中幾個案例是金融行業違規查詢公民征信被判刑，可以看出查詢人都是有相關業務權限的，只是他們做了與工作無關的征信查詢，多數目的是商業利益，最終導致個人征信敏感數據泄露。
某公積金查詢APP并不直接與各地公積金中心合作，而是依靠用戶提供的賬號和密碼，通過技術手段，快速獲取該用戶的公積金繳納明細，相當于受用戶委托的第三方。這里有幾個問題：依靠技術手段爬取公用數據的行為并未得到監管或者公積金中心的認可，是否違法？該APP使用這些數據是否得到用戶的充分授權？利用綁架用戶獲得的授權是否有效？
這一系列案例又名泄露信息的一百種奇葩操作。在這些事件中可能并沒有任何黑客攻擊，也并非IT運維人員的內部數據盜取，僅是一個正常的與工作無關的業務查詢操作，就導致了個人隱私泄露。
來自美創科技北京分公司總經理的沈武林認為出現上述事件的原因主要有三個方面：
缺乏對業務人員的數據訪問進行檢測審計
現有的技術手段都在防范來自互聯網的黑客攻擊、勒索病毒以及來自內部信息化人員的安全運維，但針對業務端的數據訪問缺乏有效檢測手段。無法避免業務人員通過看似正常的業務訪問帶來的隱私泄露。
沒有實現隱私數據最小化原則
現有的業務系統都只考慮用戶使用業務系統的便利性，傳統安全只考慮業務系統如何避免黑客攻擊，都未考慮如何通過業務系統展示的隱私數據的脫敏和遮蓋，實現業務用戶可視隱私數據最小化，從而保護隱私數據。
非授權的數據截圖
帶有一些附加功能的APP，比如社保查詢APP,免費提供給用戶使用，來截取數據；另外有開發或將收費的SDK逆向修改成免費的SDK，吸引一些APP開發廠商嵌入到自己APP的里面，通過用戶的使用，再從中截留數據。還有一些數據公司，幫助一些有數據的部門提供對外的數據服務，然后截留數據。
如何防護上述信息泄露事件？
沈武林提出三個解決方案，分別是異常數據訪問檢測、業務動態脫敏以及網絡防爬蟲。
異常數據訪問檢測其中包括異常登錄賬號訪問數據（可利用用戶畫像有效識別異常登錄的用戶帳號，并針對這些帳號的數據訪問進行檢測和告警）、業務賬號高頻訪問敏感數據（可利用機器學習有效識別某些業務帳號頻繁的訪問敏感數據，并針對這些高頻的訪問進行檢測和告警）、來自于應用程序的數據訪問（APP利用用戶信任，獲得用戶的用戶名和帳號來自動訪問數據后臺，并將訪問獲得的數據展示給用戶的同時保留一份到本地，從而形成大量未經授權的數據）、自定義高危數據訪問（針對業務需要的真實情況，定義出一些高危的數據訪問，嚴格限制這類數據訪問的執行）、業務帳號的數據訪問全審計（所有業務帳號訪問業務數據的行為應該都被詳細的記錄下來，做到事后可追溯審計）幾個方面。
而業務動態脫敏是實現敏感數據最小化的最有效手段，在用戶訪問業務系統時，業務系統頁面上有一些不需要對全部用戶展示的隱私信息，需要針對不同的用戶或用戶組，在訪問業務系統頁面時進行脫敏和遮蓋，從而減少隱私信息泄露的風險。當不同的應用程序通過接口訪問數據平臺抽取數據時，也要求根據不同的應用程序設置不同的脫敏策略，讓應用程序獲得最小化的隱私數據。
雷鋒網注：第六屆“4.29首都網絡安全日”由北京市人民政府指導，北京市委網信辦、北京市公安局主辦，中國電子國際展覽廣告有限責任公司承辦，于4月28日-30日在北京展覽館舉行。
雷鋒網
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
