“數(shù)據(jù)是新的石油嗎?”

在《福布斯》雜志2012年的一篇文章中，大數(shù)據(jù)的支持者曾這樣問(wèn)道。

到了2016年，隨著深度學(xué)習(xí)的崛起——它可以說(shuō)是大數(shù)據(jù)的“表親”，有著更強(qiáng)勁的發(fā)展動(dòng)力——我們已經(jīng)變得更加確定：“數(shù)據(jù)就是新的石油。”至少《財(cái)富》雜志是這樣說(shuō)的。

亞馬遜的尼爾·勞倫斯(Neil Lawrence)提出了一個(gè)稍有不同的比喻，他說(shuō)，數(shù)據(jù)是新的煤炭。不過(guò)，他所指的并非如今的煤炭，而是18世紀(jì)初期的煤炭。那時(shí)候，托馬斯·紐科門(mén)剛剛發(fā)明了蒸汽機(jī)，目的是用它從從錫礦礦井里抽水。

勞倫斯指出，這種機(jī)器的問(wèn)題在于，它只對(duì)那些擁有大量煤炭的人更有用，對(duì)其他人則不然：機(jī)器很好，但并不值得專(zhuān)門(mén)購(gòu)買(mǎi)煤炭來(lái)維持它的運(yùn)轉(zhuǎn)。事實(shí)的確如此，***臺(tái)紐科門(mén)蒸汽機(jī)并沒(méi)有出現(xiàn)在錫礦中，而是用在了一處煤礦。

倫敦帝國(guó)學(xué)院的數(shù)據(jù)科學(xué)研究院。

那么，為什么勞倫斯把數(shù)據(jù)比喻成煤炭呢?

因?yàn)樯疃葘W(xué)習(xí)遇到的問(wèn)題是類(lèi)似的：這個(gè)領(lǐng)域當(dāng)中存在很多“紐科門(mén)”，倫敦的Magic Pony和SwiftKey等初創(chuàng)公司正在提出革命性的方法來(lái)訓(xùn)練人工智能，讓它們可以完成了不起的認(rèn)知任務(wù)，比如基于模糊的圖像重建面部數(shù)據(jù)，以及學(xué)習(xí)人類(lèi)的寫(xiě)作風(fēng)格，以便更準(zhǔn)確地預(yù)測(cè)他們接下來(lái)會(huì)輸入什么詞匯。

紐科門(mén)的草垛形鍋爐，它于18世紀(jì)30年代建造，是首批使用紐科門(mén)蒸汽機(jī)的設(shè)備之一。

然而，就像紐科門(mén)蒸汽機(jī)一樣，這些公司的創(chuàng)新成果只有對(duì)真正掌握大量原始數(shù)據(jù)的人更有用。于是，Magic Pony被Twitter收購(gòu)了，SwiftKey被微軟收歸旗下——而勞倫斯本人也是剛剛被亞馬遜從英國(guó)謝菲爾德大學(xué)挖走。

不過(guò)，蒸汽機(jī)的故事還有后話：69年后，詹姆斯·瓦特對(duì)紐科門(mén)的設(shè)計(jì)做了一處精彩的改動(dòng)，在蒸汽機(jī)上增加了冷凝器。按勞倫斯的話說(shuō)，這一改動(dòng)“讓蒸汽機(jī)的效率大幅提升，并由此引發(fā)了工業(yè)革命。”

不管數(shù)據(jù)是石油還是煤炭，這種比喻在另一個(gè)層面上也能成立：我們正在開(kāi)展大量工作，希望可以用更少的資源來(lái)做更多的事。

相比起讓人工智能戰(zhàn)勝人類(lèi)圍棋高手，這些工作可能并不那么引人注目，但如果深度學(xué)習(xí)要超越目前的境界——即“吞下”海量數(shù)據(jù)，再“吐出”盡可能準(zhǔn)確的相關(guān)性分析——那么“數(shù)據(jù)效率”就是至關(guān)重要的一步。

“如果你看看深度學(xué)習(xí)獲得成功應(yīng)用的領(lǐng)域，你就會(huì)發(fā)現(xiàn)，這些領(lǐng)域全都擁有海量的數(shù)據(jù)。”勞倫斯指出。如果你只是想教會(huì)人工智能識(shí)別貓咪圖像，現(xiàn)在的技術(shù)已經(jīng)非常不錯(cuò)，但如果你想用它來(lái)診斷疑難雜癥，它可就難了，因?yàn)闆](méi)有多少數(shù)據(jù)可供它學(xué)習(xí)。總不能為了獲得相關(guān)數(shù)據(jù)而故意讓人生病吧。

AI仍然是個(gè)蠢東西

現(xiàn)在的問(wèn)題是，盡管一些人工智能研究機(jī)構(gòu)取得了種種成績(jī)，比如谷歌旗下的DeepMind，但就真正的學(xué)習(xí)而言，計(jì)算機(jī)的表現(xiàn)仍然非常糟糕。如果我給你看一張陌生動(dòng)物的照片，比如短尾矮袋鼠，你完全可以從另一張照片中認(rèn)出它來(lái)。但是目前的技術(shù)條件，即使是經(jīng)過(guò)預(yù)先訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，你給它看***張照片，它也萬(wàn)萬(wàn)不可能生成這種動(dòng)物的識(shí)別模型。

當(dāng)然，另一方面，如果你向一個(gè)深度學(xué)習(xí)系統(tǒng)展示幾百萬(wàn)張短尾矮袋鼠的照片以及數(shù)百萬(wàn)張其他現(xiàn)存哺乳動(dòng)物的照片，你最終很有可能得到一套哺乳動(dòng)物識(shí)別系統(tǒng)。在識(shí)別這些毛茸茸的小動(dòng)物方面，它的表現(xiàn)只會(huì)遜色于少數(shù)***專(zhuān)家。

“深度學(xué)習(xí)需要海量數(shù)據(jù)來(lái)建立一幅統(tǒng)計(jì)圖。”倫敦帝國(guó)學(xué)院的穆雷·沙納漢(Murray Shanahan)說(shuō)，“它的學(xué)習(xí)速度其實(shí)非常慢，還不如幼兒園的小孩子。”

深度學(xué)習(xí)專(zhuān)家已經(jīng)提出多種方法來(lái)解決數(shù)據(jù)效率的問(wèn)題。和這個(gè)領(lǐng)域的很多研究一樣，這些方法的***思路就是模仿人類(lèi)自己的大腦。

其中有一種方法涉及“漸進(jìn)式神經(jīng)網(wǎng)絡(luò)”，它旨在解決很多深度學(xué)習(xí)模型在進(jìn)入全新領(lǐng)域時(shí)都會(huì)遇到的問(wèn)題：要么忽略已經(jīng)學(xué)到的信息，從頭開(kāi)始;要么可能“遺忘”已經(jīng)掌握的信息，被新的信息覆蓋。

我們可以設(shè)想在以下情況中該如何抉擇：當(dāng)學(xué)習(xí)識(shí)別短尾矮袋鼠時(shí)，你是打算獨(dú)立重新學(xué)習(xí)頭部、身體、四肢和毛皮的整個(gè)概念，還是試圖整合自己現(xiàn)有的知識(shí)，但也許會(huì)忘掉貓長(zhǎng)什么樣子?

一只六個(gè)月大的短尾矮袋鼠……很可愛(ài)，但如果沒(méi)有海量數(shù)據(jù)，機(jī)器很難識(shí)別它。

萊婭·哈德塞爾(Raia Hadsell)在DeepMind負(fù)責(zé)為深度學(xué)習(xí)開(kāi)發(fā)一套更好的系統(tǒng)，如果該公司想打造一種通用人工智能，這樣的系統(tǒng)將必不可少。

“沒(méi)有模型，沒(méi)有神經(jīng)網(wǎng)絡(luò)，在通用人工智能的世界里，它既可以被訓(xùn)練來(lái)識(shí)別物品，也可以玩游戲，還可以學(xué)習(xí)聆聽(tīng)音樂(lè)。”哈德塞爾說(shuō)，“我們希望做到的是，讓它學(xué)習(xí)一項(xiàng)任務(wù)，達(dá)到專(zhuān)業(yè)水平，然后接著學(xué)習(xí)第二項(xiàng)，接著還有第三項(xiàng)、第四項(xiàng)和第五項(xiàng)。”

“我們希望它可以在不忘掉固有知識(shí)的前提下，做到這一切，并具備從一項(xiàng)任務(wù)轉(zhuǎn)移到另一項(xiàng)任務(wù)的能力：如果我學(xué)會(huì)了一項(xiàng)任務(wù)，我希望學(xué)到的東西能幫助自己學(xué)習(xí)下一項(xiàng)任務(wù)。”這正是哈德塞爾的團(tuán)隊(duì)在DeepMind所從事的研究。

下方小圖是谷歌自動(dòng)駕駛汽車(chē)拍攝的視頻，大圖則是汽車(chē)對(duì)同一街景進(jìn)行的視覺(jué)化呈現(xiàn)。

顯然，DeepMind距離真正利用這項(xiàng)技術(shù)來(lái)訓(xùn)練一種通用人工智能還有幾步之遙，這同樣意味著他們離偶然間創(chuàng)造出一種超級(jí)人工智能也只有幾步之遙了。不過(guò)，哈德塞爾表示，在提升數(shù)據(jù)效率方面，漸進(jìn)式神經(jīng)網(wǎng)絡(luò)的確有一些更直接的用途。

以機(jī)器人為例。

“數(shù)據(jù)對(duì)機(jī)器人來(lái)說(shuō)是一個(gè)問(wèn)題，因?yàn)闄C(jī)器人會(huì)損壞，它們需要看管，而且成本高昂。”哈德塞爾說(shuō)。一種方法是利用蠻力來(lái)解決問(wèn)題：比如，谷歌的自動(dòng)駕駛汽車(chē)行駛了200萬(wàn)英里，就是為了學(xué)會(huì)如何駕駛。起初，這種行駛只能在高速公路上進(jìn)行，甚至需要司機(jī)時(shí)刻準(zhǔn)備接管方向盤(pán)。現(xiàn)在，它已經(jīng)可以完全拋開(kāi)方向盤(pán)上路了。

另一種方法是通過(guò)模擬來(lái)教導(dǎo)機(jī)器人。把近似于現(xiàn)實(shí)世界的數(shù)據(jù)饋入機(jī)器人的傳感器，它們很大程度上仍然可以正確學(xué)習(xí)：然后，你可以通過(guò)真實(shí)的訓(xùn)練對(duì)這種教育進(jìn)行“補(bǔ)充”。哈德塞爾表示，這么做的***方式就是使用漸進(jìn)式神經(jīng)網(wǎng)絡(luò)。

舉一個(gè)簡(jiǎn)單的例子：使用機(jī)械臂抓起一個(gè)浮球。“我們只用一天時(shí)間就通過(guò)模擬方式完成了訓(xùn)練。如果要使用真正的機(jī)器人進(jìn)行這種訓(xùn)練，需要55天時(shí)間。” 哈德塞爾說(shuō)道。

教會(huì)它們思考

或者，還有另一種方法。倫敦帝國(guó)學(xué)院的沙納漢從事人工智能研究已有相當(dāng)長(zhǎng)的時(shí)間，他依然記得人工智能***次成為媒體焦點(diǎn)時(shí)的情景。那時(shí)，人工智能領(lǐng)域流行的方法還不是深度學(xué)習(xí)。只有當(dāng)計(jì)算機(jī)的處理能力、存儲(chǔ)空間以及數(shù)據(jù)可用性都發(fā)展成熟之后，這種方法才成為可能。當(dāng)時(shí)流行的方法是“符號(hào)人工智能”：創(chuàng)建可以被推而廣之的邏輯范式，然后饋入關(guān)于現(xiàn)實(shí)世界的信息，并教導(dǎo)它更多的東西。沙納漢指出，符號(hào)人工智能中的‘符號(hào)’“有點(diǎn)像英語(yǔ)中的句子，描述了現(xiàn)實(shí)世界或某些領(lǐng)域的事實(shí)。”

可惜，這種方法無(wú)法規(guī)模化，人工智能研究也因此低迷了好些年。但沙納漢認(rèn)為，把兩種方法結(jié)合起來(lái)能帶來(lái)好處。這樣不僅有助于解決數(shù)據(jù)效率問(wèn)題，還可以在透明度問(wèn)題上有所幫助。“對(duì)于機(jī)器做出的決策，人類(lèi)很難理解其中的道理。”他說(shuō)。你沒(méi)法去問(wèn)人工智能，它為什么認(rèn)定短尾矮袋鼠就是短尾矮袋鼠。

沙納漢的想法是建立一個(gè)符號(hào)型數(shù)據(jù)庫(kù)，但并不是通過(guò)手工編碼來(lái)錄入信息，而是把它與另一種名為“深度強(qiáng)化學(xué)習(xí)”的方法結(jié)合起來(lái)。這時(shí)，人工智能就可以通過(guò)試錯(cuò)法進(jìn)行學(xué)習(xí)，而不是通過(guò)暴力檢索海量數(shù)據(jù)。DeepMind的AlphaGo在學(xué)習(xí)下圍棋時(shí)，就是以此為核心方法。

[[173632]]

世界***圍棋手李世石與AlphaGo對(duì)弈。

為了驗(yàn)證概念，沙納漢的團(tuán)隊(duì)開(kāi)發(fā)了一個(gè)可以玩簡(jiǎn)單游戲的人工智能系統(tǒng)。從本質(zhì)上說(shuō)，這個(gè)系統(tǒng)接受的訓(xùn)練并不是直接去玩游戲，而是把游戲規(guī)則以及現(xiàn)狀教給另一套系統(tǒng)，這樣它就能以更抽象的方式思考正在發(fā)生的事情。

結(jié)果，當(dāng)游戲規(guī)則略有變化之后，這套人工智能的表現(xiàn)令人眼前一亮。當(dāng)傳統(tǒng)的深度學(xué)習(xí)系統(tǒng)亂了手腳時(shí)，沙納漢那套更抽象的系統(tǒng)卻能對(duì)問(wèn)題進(jìn)行一般化的思考，琢磨出它與此前所用方法之間的相似處，并繼續(xù)玩下去。

智能地思考

在某種程度上，數(shù)據(jù)效率的問(wèn)題可能被夸大了。比如說(shuō)，相對(duì)于典型的深度學(xué)習(xí)系統(tǒng)，你的學(xué)習(xí)速度的確可以快很多。但是，你的起點(diǎn)是多年以來(lái)積累的知識(shí)——那可不是一點(diǎn)點(diǎn)的數(shù)據(jù)——而且，你還存在深度學(xué)習(xí)系統(tǒng)所沒(méi)有的弱點(diǎn)：你會(huì)遺忘，會(huì)忘掉很多很多東西。

這或許是高效思考系統(tǒng)所要付出的代價(jià)。你也許會(huì)忘了之前學(xué)會(huì)的事情，也許在檢索自己掌握的知識(shí)時(shí)，耗費(fèi)越來(lái)越多的資源。但如果要讓深度學(xué)習(xí)走出互聯(lián)網(wǎng)巨頭的研究中心，就必須付出此番代價(jià)的話，那它或許是值得的。