0
雷鋒網 AI 研習社按:去年,由創新工場、搜狗、頭條聯合主辦的 AI Challenger(簡稱 AIC)全球 AI 挑戰賽吸引了來自 65 個國家 8892 支團隊參賽,經過激烈的角逐,最終勝出的團隊共同瓜分了大賽提供的百萬獎金。
2018,AIC 全新賽季開啟預熱。3 月 22 日起,零樣本學習(zero-shot learning)競賽正式在線開啟比賽。
這次的零樣本學習競賽同樣發布大規模圖像屬性數據集,包含 78017 張圖片、230 個類別、359 種屬性。與目前主流的用于 zero-shot learning 的數據集相比,圖片量更大、屬性更豐富、類別與 ImageNet 重合度更低。
零樣本學習(zero-shot learning)
什么是零樣本學習?簡單來說就是識別從未見過的數據類別,即訓練的分類器不僅僅能夠識別出訓練集中已有的數據類別,還可以對于來自未見過的類別的數據進行區分。例如識別一張貓的圖片,但在訓練時沒有訓練到貓的圖片和對應貓的標簽。那么就可以通過比較這張貓的圖片和訓練過程中的哪些圖片相近,進而找到相近圖片的標簽,再通過這些相近標簽去找到貓的標簽。本質上,零樣本學習屬于遷移學習的一種。
零樣本學習的意義也顯而易見:在傳統圖像識別任務中,訓練階段和測試階段的類別是相同的,但每次為了識別新類別的樣本需要在訓練集中加入這種類別的數據。一些類別的樣本收集代價大,即使收集到足夠的訓練樣本,也需要對整個模型進行重新訓練。這都會加大識別系統的成本,零樣本學習方法便能很好的解決這個問題。
零樣本學習研究現狀
早期的零樣本學習研究可以追溯到 2008 年。那時,Larochelle 等人針對字符分類問題提出了零樣本學習(zero shot learning)方法,并且識別準確率達到了 60%。
2009 年 Lampert 等人提出了 Animals with Attributes 數據集和經典的基于屬性學習的算法,才算真正打開零樣本學習的關注度。
2013 年,發表在 NIPS 上的論文《DeViSE: A Deep Visual-Semantic Embedding Model》,解決了如何將已有的圖像分類模型應用到訓練中未涉及到的圖像分類中。
2014 年,在 ICLR 2014 上的發表的《Zero-Shot Learning by Convex Combination of Semantic Embeddings》繼承了前人研究方法中的主要思想(CNN+word2vec),但使用了更簡單的方法,從而保留了整個 CNN 結構,且不需要 linear transformation。
之后,發表在 ICCV 2015 上的《Objects2action: Classifying and localizing actions without any video example》將零樣本學習研究又向前推動了一步。
如果讀了上面提到的三篇論文,大概會對零樣本學習的研究方法有所了解。但最經典的零樣本學習方法是Lampert發表在CVPR 2009上的一篇論文《Learning To Detect Unseen Object Classes by Between-Class Attribute Transfer 》提出的直接屬性預測模型(DAP)。

模型中屬性訓練是在傳統特征提取的基礎上的進行的,首先使用顏色直方圖、局部自相似直方圖、SIFT 和 PHOG 等 6 種方法來提取樣本圖像的底層特征,這幾種特征包含了圖像的顏色、形狀和紋理等方面,所以通過這種特征提取方法得到的特征可以良好的表達圖像中的信息。這幾種圖像特征不僅適用與線性分類器,而且在非線性分類器中也能達到良好的表現。在 DAP 方法中,通過上述的特征提取方法得到樣本的圖像特征后,將特征用于屬性分類器的訓練,然后將訓練得出的模型用于屬性的預測,最后采用貝葉斯方法推算測試樣本的類別。近年來深度特征的使用大幅提高了零樣本識別的準確率。
零樣本學習潛在應用場景
零樣本學習是希望借助輔助知識(如屬性、詞向量、文本描述等)學習從未見過的新概念。因此,在一些場景下,如細粒度物體識別、任意語言之間的翻譯等,難以獲得足夠的有標注的數據來訓練識別或預測模型可以嘗試使用零樣本學習來解決。
物體識別
例如,模型在「馬」、「牛」等類別上訓練過,因此模型能夠準確地識別「馬」、「牛」的圖片。當模型遇到「象」這個新類別,由于從未見過,模型無法作出判斷。傳統解決方案是收集大量「象」的圖片,與原數據集一起重新訓練。這種解決方案的代價高、速度慢。然而,人類能夠從描述性知識中快速學習一個新概念。例如,一個兒童即使沒有見過「象」,當提供他文本描述「象是一種的大型食草類動物,有長鼻和長牙」。兒童能夠根據描述快速學會「象」這一新類別,并能在第一次見到「象」時識別出來。零樣本學習與之類似,在沒有任何訓練樣本的情況下,借助輔助知識(如屬性、詞向量、文本描述等)學習一些從未見過的新概念(類別)。
語言翻譯
比如說要進行三種語言之間的翻譯,按照傳統的方法需要分別訓練六個網絡,在日語和韓語之間沒有那么多樣本的情況下,訓練英語→特征空間→日語,韓語→特征空間→英語這兩個網絡,那么就可以自動學會韓語→特征空間→日語這個翻譯過程。
圖像合成
近年來,對抗網絡 GAN 被用于圖像合成,取得了以假亂真的效果。但傳統圖像合成僅能合成見過的類別的圖像。零樣本圖像合成希望模型能夠合成從未見過的類別的圖像。目前已有一些算法通過條件 GAN 網絡實現了零樣本圖像合成。
圖像哈希
傳統圖像哈希算法利用一些訓練樣本來學習針對某些類別的哈希算法。但這些學習到的哈希算法無法用于新類別。零樣本圖像哈希,希望在已知類別上學到哈希算法能夠運用到新的未知類別上。目前,一些基于屬性的零樣本哈希算法已經被提出。
零樣本學習競賽
最后,歡迎對零樣本學習有研究的同學們來參加此次比賽。

雷鋒網發現,目前AI Challenger 官網已開通報名參賽通道,報名截止日期在4月23日。感興趣的同學一定要計劃時間,不要錯過這次報名!

比賽所用的數據集也已開放下載。
更多關于比賽的相關信息,請關注https://challenger.ai/competitions。
附競賽獎勵標準:
以下提及金額為稅前金額,詳細規則請參考《競賽選手報名協議》
冠軍:30,000人民幣,頒發獲獎證書
亞軍:10,000人民幣,頒發獲獎證書
季軍:3,000人民幣,頒發獲獎證書
雙周冠軍:3,000人民幣
雙周亞軍:2,000人民幣
雙周季軍:1,000人民幣
數據集下載地址:https://challenger.ai/datasets
雷鋒網
雷峰網原創文章,未經授權禁止轉載。詳情見轉載須知。