0
雷鋒網 AI 研習社按：人工智能的發展不僅是給社會帶來了巨大的變化與進步，同樣也給我們每一個莘莘學子的人生帶來了重大的機遇與挑戰。本文的分享嘉賓就是一位緊跟隨時代浪潮，投身 AI 革命的踐行者。
在近期雷鋒網 AI 研習社舉辦的線上公開課上，來自新加坡國立大學電子及計算機工程系的霍華德博士分享了他的在 NLP 學術研究上的一些體驗與心得。他本人的求學經歷非常傳奇，在本科，碩士，博士階段分別讀了三個不同的專業，現在騰訊就職。
霍華德，新加坡國立大學電子及計算機工程博士，現為騰訊自然語言處理 算法工程師。學過材料，打過鐵，下過車間，燒過爐子，后轉行人工智能，有著豐富的轉行經驗。
以下是嘉賓的分享內容：
自然語言處理（NLP）都有哪些用處？
簡單來說，NLP 結合大數據、機器學習、深度學習進行詞法分析，句法分析，語義分析等功能，主要用于搜索引擎和推薦系統，像包括用戶畫像，計算智能推薦廣告都會用到。現在計算機視覺技術也在和 NLP 有著更多的結合，比如最近很火的自動駕駛。另外語音識別本身就有很多的 NLP 問題，不僅僅是簡單的識別，還包括單詞的邊界界定，詞義的消歧，句法的模糊性等問題。
對于 NLP 技術，目前市場需求非常穩固，而且會隨著 AI 的進展不斷增張。目前 NLP 技術發展面臨的挑戰之一是語言的歧義性，比如下面這張圖片上的例子。
接下來給大家分享一些 NLP 中比較有意思的問題。也可以說是 AI 領域的比較有趣的問題。
高中數學有一個著名的概率問題，「一枚硬幣連續投了五次都是正面，那么第六次投還是正面的概率是多少？」機智的高中生會想，這騙得了我？這是獨立重復實驗，概率還是 0.5！
可如果一枚硬幣連續投了一百次都是正面呢？一億次都是正面呢？是否還要堅信出現正面的概率是 0.5？這個硬幣會不會被人動了手腳，就只有正面呢？
當大量的事實擺在我們面前，隨著數據越來越多，人應該越來越相信這個硬幣有問題，越來越不相信硬幣的概率是 0.5，這才是最自然而然的感覺，這才是動態的看待問題，而不是機械僵化的看待問題，而這背后就是貝葉斯思想。
高中老師告訴我們概率就是頻率；而貝葉斯告訴我們，概率其實有點像人對事物的信心。隨著證據越來越多，我們對事物的信心越來越強，也可以稱作概率。
直觀理解貝葉斯公式
好多同學都說不理解貝葉斯公式，接下來舉個例子幫助大家直觀的理解貝葉斯公式。
先來一個問題：一機器在良好狀態生產合格產品幾率是 90%，在故障狀態生產合格產品幾率是 30%，機器良好的概率是 75%，若一日第一件產品是合格品，那么此日機器良好的概率是多少？
這里需要用到貝葉斯公式，貝葉斯公式一點也不神秘，首先我們要是覺得兩個東西之間有關聯，那么他們就有聯合概率 ，聯合概率可以用鏈式法則表示
，這個是大家都學過的條件概率，Ａ和Ｂ同時發生的概率是Ｂ發生的概率乘以Ｂ發生下Ａ的條件概率，反過來一樣成立，所以有：
兩邊同時除以 ,得：
這就是貝葉斯公式。貝葉斯公式的范圍非常廣泛，只要兩個東西有關聯，能寫出聯合概率，就可以用貝葉斯公式。
機器有良好和故障兩種狀態，用Ａ表示。產品有合格和不合格兩種狀態，用Ｂ表示。直接套用公式算：
的概率等于：
所以：
從投硬幣到高斯分布（正態分布）
我們都知道人的身高是遵從高斯分布的。假設有 340 個因素影響你的身高，每個因素都有 0.5 的概率讓你長高１cm，如：
你打不打籃球
媽媽的身高
爸爸的身高
愛不愛吃肉
喝不喝牛奶
這些因素里有的對身高產生不產生影響，就如投硬幣投到了０，有的讓你身高長高１cm，如投硬幣投到了正面。而你最終的身高就是這 340 投硬幣累加的結果。如果你做１０萬次這樣的實驗，你會得到下面這樣圖，是不是發現身高分布變成了正態分布。有些人運氣好，多投了幾次正面，就多長了幾厘米，長到了 180cm；有的人運氣差些，少投了幾次正面，就只有 160。但大多數人，運氣都差不多所以都在 170 左右～這也是投硬幣實驗的期望 (170=340*0.5)。同時，因為投硬幣概率的影響，運氣超級好和運氣超級差的都不多，所以高于 200cm 和低于 140cm 的男生都不多。
這背后是中心極限定律：「大量相互獨立隨機變量的均值都講收斂于正態分布」，其中有三要素：獨立，隨機，相加。
幸運的是，人生不都是獨立重復實驗，有些因素是我們可以控制的，可以努力的，如多喝牛奶，多打籃球，多蹦多跳，這樣就相當于提高了某幾次投硬幣得到正面的概率，讓自己多長高一些。
從投硬幣到泊松分布
日常生活中，大量事件是有固定頻率的，如：某個醫院平均每小時出生４個小嬰兒；某個王者榮耀服務器平均每秒鐘接到 500 次訪問請求；某個汽車站臺的候客人數等等... 想象你在婦產科工作，你的職責就是記錄嬰兒的出生情況，你知道平均每小時你會有４個嬰兒出生
。
泊松分布的產生
每十分鐘記錄一次
把一小時分為６段，每十分鐘記錄一次，這10分鐘里有嬰兒出生，就記錄１，沒有就記錄０。這樣每個10分鐘里有嬰兒出生的概率就是P=4/6 ,你每小時會記錄６次，有 k 個嬰兒出生的概率可以寫成：
如圖所示：
每一分鐘記錄一次
每一秒鐘記錄一次
從上面三張圖可以看出，每次的記錄都差不多。之后可以每毫秒記錄一次，每微秒記錄一次，每納秒記錄一次，但是這個概率分布的形狀都不會怎么變了，這時候就得到了泊松分布。
用貝葉斯方法挑西瓜
公式左邊是西瓜「是好瓜」的邏輯發生比，又稱作 logit，邏輯發生比大于 0 就說明是好瓜的概率較大。
最后發現等式右邊變成了各個特征的求和。特征值越大，說明這個特征對西瓜「是好瓜」的影響越大，相應的說明這個特征是一個顯著特征。而值比較小的特征說明影響較小，不是一個很有效的特征，剔除掉也不會有很大的影響。
樸素貝葉斯分類
以上就是本次分享的全部內容，視頻回放鏈接：http://www.mooc.ai/open/course/447
雷鋒網溫馨提示：關注公眾號「AI 研習社」，每周都有免費公開課直播。
雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。
