0
雷鋒網(wǎng) AI科技評(píng)論按：DeepMind實(shí)驗(yàn)室發(fā)布名為符號(hào)-概念聯(lián)合網(wǎng)絡(luò)（Symbol-Concept Association Network，SCAN）的新型神經(jīng)網(wǎng)絡(luò)模型，可以讓計(jì)算機(jī)模仿人類視覺和詞匯獲取的方法，通過重組學(xué)到的概念，來想象新的概念。
以下為雷鋒網(wǎng) AI科技評(píng)論根據(jù)DeepMind實(shí)驗(yàn)室發(fā)布內(nèi)容編譯。
大約二千五百年前，一個(gè)美索不達(dá)米亞商人收集了一些粘土、木材和蘆葦，隨著時(shí)間的推移，通過這些材料，他們發(fā)明了算盤，能夠在商品交易過程中記錄貨物數(shù)量、理清資產(chǎn)，這帶動(dòng)了經(jīng)濟(jì)的蓬勃發(fā)展，也改變了人類社會(huì)。
那一刻的靈感也照亮了人類另一個(gè)驚人的能力：重組現(xiàn)有的概念，想象出全新的東西。不具名的的發(fā)明家思考他們想要解決的問題，建造奇妙的裝置，收集原材料來創(chuàng)造新的東西。粘土能塑造成算盤的框架，棍子能用來把算珠串起來，蘆葦可以編成算珠。算盤的每個(gè)組成部分都很常見，也各有區(qū)別，把他們用這種新的方式組合在一起，就出現(xiàn)了革命性的創(chuàng)造。
組合的思想是諸如創(chuàng)造力、想象力和語言表達(dá)等能力的核心。腦海中只要有少量熟悉的概念性模塊，我們就能創(chuàng)造出大量新東西。我們將概念從具體到一般進(jìn)行歸類，形成不同層次，然后用新的方式重組層次里的不同部分。這種方式對(duì)我們來說很自然，但要將其應(yīng)用于AI研究還是個(gè)挑戰(zhàn)。
在DeepMind的新論文中，提出了一種新的理論性方法來解決這個(gè)問題。此外，他們還展示了一種稱為符號(hào)-概念聯(lián)合網(wǎng)絡(luò)（Symbol-Concept Association Network，SCAN）的新型神經(jīng)網(wǎng)絡(luò)模型，這是首次通過模仿人類視覺和詞匯獲取的方法，學(xué)習(xí)自下而上的視覺概念層次，從而能夠通過語言指令想象出全新的概念。
他們的方法可以總結(jié)為以下幾點(diǎn)：
SCAN模型在視覺上與嬰兒在出生前幾個(gè)月看到的世界類似。這段時(shí)期，嬰兒的視線仍無法集中在半米以外的東西上，他們成天都在觀察各種映入眼簾、移動(dòng)和旋轉(zhuǎn)的物體。為了模擬這個(gè)過程，他們將SCAN模型放在DeepMind實(shí)驗(yàn)室的模擬3D世界中。在那兒，模型就像是嬰兒躺在嬰兒床上一樣，不能移動(dòng)，但可以轉(zhuǎn)動(dòng)頭部，并觀察在各種不同顏色的背景下可能呈現(xiàn)在他面前的物體，例如帽子、行李箱或冰棍。和嬰兒的視覺系統(tǒng)類似，這個(gè)模型會(huì)學(xué)習(xí)視覺世界的基本結(jié)構(gòu)以及如何用可表述的視覺特征來表示物體。例如，當(dāng)看到蘋果時(shí)，模型將會(huì)學(xué)習(xí)根據(jù)其顏色、形狀、大小、位置或明暗來表示它
圖：SCAN模型依據(jù)物體的個(gè)體區(qū)分、顏色和旋轉(zhuǎn)、墻壁顏色、地板顏色等可表述的視覺特征等來學(xué)習(xí)，去表示視覺場(chǎng)景。
一旦模型能夠根據(jù)可表述的視覺特征來解析世界，就進(jìn)入學(xué)習(xí)過程中的命名階段。這相當(dāng)于嬰兒的單詞學(xué)習(xí)，大人開始為他們看到的各種東西提供單詞符號(hào)標(biāo)簽。例如，在這個(gè)階段，父母可能指著一個(gè)蘋果對(duì)孩子說：“看，一個(gè)蘋果！”同樣的，對(duì)SCAN模型輸入基礎(chǔ)語言之后，它的經(jīng)驗(yàn)也在增強(qiáng)。一張黃色墻壁背景下紅色行李箱的圖像將伴隨著“紅色行李箱、黃色墻壁”這樣的符號(hào)輸入。SCAN模型能夠通過在前一階段學(xué)習(xí)的視覺特征來構(gòu)建抽象概念，進(jìn)而學(xué)習(xí)新的概念。例如，蘋果的概念可以根據(jù)其顏色、形狀和大小來說明，而諸如位置和明暗等其他視覺特征則會(huì)被認(rèn)定為與其無關(guān)。
命名階段可以從任何層次學(xué)習(xí)視覺概念，同樣也可用于向模型教授“和”、“忽略”和“共同”等這些概念重組操作，這種教授是通過向模型展示如何正確使用這些操作的例子來實(shí)現(xiàn)的。例如，“和”的意思可以通過向SCAN模型展示一張金冠蘋果的圖像，同時(shí)伴隨“金冠蘋果是黃色的和蘋果” 這樣的指令來訓(xùn)練。
一旦SCAN模型學(xué)習(xí)了一定數(shù)量的概念詞匯，并學(xué)會(huì)通過符號(hào)性的指令來處理它們，它就能在詞語形式的指示下，將常見的概念組合成新的概念，而不需要更多的圖像作為例子。通過這些指令，SCAN可以想象出大量新的視覺概念，如藍(lán)蘋果（“藍(lán)色的和蘋果”）或不同種類的蘋果（“澳洲青蘋是金冠蘋果，忽略黃色，和綠色”）
圖：首先，SCAN模型通過語言指令連接概念層次——從“藍(lán)色房間、紅色地板、白色行李箱”這種具體的概念，到“行李箱”這種普遍的概念，再回到“黃色房間、粉紅色地板、綠色行李箱“這種具體的概念。在每一步SCAN系統(tǒng)都會(huì)被要求想象出相應(yīng)的概念（如圖右所示）。最后，向它指示一個(gè)新的概念——“woog”。雖然從沒看到過“woog”的例子，SCAN系統(tǒng)能成功地想象出它們看起來是什么樣的（黃色房間、粉紅色地板、綠色物體）。
他們的方法不同于以往的研究，因?yàn)樗耆诟泄贁?shù)據(jù)，只需要從非常少的圖像—詞匯對(duì)中學(xué)習(xí)。當(dāng)其他的深度學(xué)習(xí)方法需要數(shù)千個(gè)圖像示例來學(xué)習(xí)一個(gè)概念時(shí)，SCAN模型通過非監(jiān)督觀測(cè)，學(xué)習(xí)視覺特征和抽取概念，只需五對(duì)圖像—標(biāo)簽對(duì)就可以學(xué)會(huì)一個(gè)概念。一旦訓(xùn)練好了，SCAN模型就可以生成與特定圖像相對(duì)應(yīng)的各種概念，并且可以想像出與特定概念相對(duì)應(yīng)的多種可視化示例，即使它以前從未見過此類概念。
圖：圖中左邊是SCAN模型設(shè)想的“白色行李箱”的圖像，右邊是SCAN模型從“粉色房間、橙色地板、青色帽子”這張圖像上產(chǎn)生的概念。
通過符號(hào)指示，來重組現(xiàn)有的概念，學(xué)習(xí)新概念，這賦予了人類驚人的能力，使其能夠解釋諸如宇宙、人文主義或美索不達(dá)米亞經(jīng)濟(jì)案例中的抽象概念。在成功實(shí)現(xiàn)這些概念性的飛躍之前，算法還有很長的路要走。他們的這項(xiàng)研究朝著算法的飛躍前進(jìn)了第一步，即讓算法在很大程度通過無監(jiān)督的方式學(xué)習(xí)，就像人類一樣思考，進(jìn)行概念抽取。
雷鋒網(wǎng) AI科技評(píng)論編譯。
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
