Facebook 田淵棟：快速迭代的人工智能

雷鋒網按：本文作者田淵棟，Facebook人工智能實驗室研究員。

本來我們這領域步調就快，因為雜志論文的內容滯后，大家都看會議論文，一年兩三個頂會，半年一年的研究周期。

但因為是雙盲評審，就算有別人和自己做得相近，投稿時也是兩不知曉，大不了同時中稿同時發文。Arxiv的出現，允許任何人將自己的工作發表在網上，讓同行們即時看到，讓這一領域的競爭變本加厲。一個例行的功課是每周甚至每天都要刷一下Arxiv看看有沒有好文章，更重要的是看看有沒有工作和自己目前正在做的重合。每當有一個新想法新思路，必須得馬上做完，只要拖一兩個月就不再是你的了，因為別人已經捷足先登，直接放篇文章出來把你一悶棍打死，叫也叫不出來。之前的計算機圍棋已經血淋淋地展示了這一點，一切在幾個月內發生，我們讓其它做圍棋的同行們郁悶，然后AlphaGo又讓我們郁悶，昨天還是眾星捧月，今日便少人問津，雖說是世態炎涼，卻正是人之常情。

程序和框架的開源也加劇了這一過程，本來重現別人的方法不僅痛苦更是耗時，但現在都是拿來即用，各項成本為零。而想要保持領先優勢，隱藏自己的小技巧小把戲那是沒有意義的，一年發表的文章多如過江之鯽，誰不開源或者晚開源，誰就被遺忘在歷史的角落里了。去年NIPS大家都在談論ResNet，我們組在ResNet出來的24小時之內寫完了程序并且已經開始了在ImageNet上的訓練，并且很快確認了它的效果。TensorFlow剛剛開源，組里的骨干就忙到凌晨三點半完成了評測。大凡說自己的工作厲害卻不發布程序的，除非像AlphaGo那樣動用大量硬件資源的系統，不然自會有人評判，而且速度飛快。有一次有一篇Arxiv報告了CIFAR更好的結果，馬上在reddit上被人質疑，然后公開代碼，被人發現在測試集上訓練的低級錯誤，只得黯然撤稿。

接鍾而來的是開會的味道也發生了變化。開會的原意，是去領略最新進展的，現在去開會則是懷舊，滿眼都是半年一年前的老文章，有一種穿越回去的即視感和莫名喜感。大家談論的往往不是目力所及的演講或是海報，而是剛剛在Arxiv上冒出來的新作，這個“剛剛”，可能指上周，可能指昨天，也可能指幾小時之前，方才還為小小的成果而沾沾自喜，轉眼間就如一桶冰水當頭澆下，魂不守舍，夜不能寐，食不知味。相比其它方向動輒半年一年的審稿周期，迭代之快，更新之速，史無前例。我有時候在想，以后除了餓醒胖醒春夢醒，還要加個Arxiv醒，夢見自己的神思路被別人做了，或是夢見投稿前幾天遭遇當頭棒喝，大汗淋漓之下猛然醒來，而后抹一把臉謝天謝地。

在這樣的壓力下，人的思維方式也發生了改變。目前為止，我們還沒有對深度學習有深層次的本質理解，大量的研究思路都是簡單粗暴的，在計算資源極大豐富的今天，對于它們質量的主觀判斷，經常遠不及寫代碼上機實驗來得快與準。很多想法不論對錯，不論它看起來有多離譜荒謬，先試一下再說，往往蒙得比想得快，動手比動腦快。和我們每天刷手機類似，思維方式的這種轉變是好是壞，目前還無從評判。這樣的做法，完全可以歸入浮躁和急功近利之流，與傳統學術做法背道而馳——但與口舌之爭相比，這樣的方案還在不斷地出成果，推動著技術的進步，做成更好的系統。我們可以一邊抱怨谷歌機器太多調參太猛，另一邊還在準備著大量GPU雄心勃勃地上戰場。不管怎樣，可以預計的是，憑一人一紙一筆去戰勝難題，令人敬仰卻鮮有效率；而讓計算機參與推理過程和判斷，終會成為每個人生來的必修課。

從這個趨勢上來看，能快速利用各種工具達成目標的，能快速閱讀及寫出代碼的，有強大工程能力的，在就業市場上都有巨大優勢；若是再有基礎扎實，能快速讀懂文章，從中獲取新知識并舉一反三，經驗豐富，看文能抓住要點痛點下手，從紛繁想法中修剪思路，那就是老手了；再上一層，有戰略眼光，能從萬千文章中看出大勢遠景，巧妙定題，以最小代價獲取最大收益，那就是一流高手，能站在前沿火線，直接推動領域的發展。然而要做到這一步，需要在這樣的快速迭代中靜下心來積累經驗，日久方能見效。

人工智能火爆的背后，是多少天才你來我往的戰斗，在這個高維空間里攻城拔寨，刺刀見紅。雖然累點苦點，卻正是這個領域的誘人之處和希望所在。與苦與累相比更可怕的，是舒適安逸時卻因技能陳舊而被解職，徘徊天地間，無處可去。我無法想像那種絕望感，所以還是緊追時代的腳步吧，至少我們還能看見技術發展的軌跡，為它出一份力。在這個領域里，只要工具運用得當，思路巧妙，每個人都有成為超人的潛質，一個好算法好框架可服務千萬人，且24小時工作，不會出錯，不會疲勞，這在以前完全不可想像。正所謂：

靈工巧技匯涓流，奔騰到今浩無垠；

誰料硅砂一捧土，更勝周郎百萬兵。

雷鋒網按：本文由作者首發其知乎專欄：遠東軼事，轉載請聯系授權并保留完整信息，不得修改文章。

另外，今年8月，雷鋒網將在深圳舉辦一場盛況空前有全球影響力的人工智能與機器人創新大會。屆時雷鋒網(搜索“雷鋒網”公眾號關注)將發布“人工智能&機器人Top25創新企業榜”榜單。目前，我們正在拜訪人工智能、機器人領域的相關公司，從中篩選最終入選榜單的公司名單。如果你也想加入我們的榜單之中，請聯系：2020@leiphone.com。

雷峰網原創文章，未經授權禁止轉載。詳情見轉載須知。