[[273454]]

像許多藥物一樣，專(zhuān)門(mén)用于保持頭腦清醒的藥物莫達(dá)非尼在包裝里配了一份折疊起來(lái)的小小說(shuō)明書(shū)，其中的主要內(nèi)容包括說(shuō)明與注意事項(xiàng)、藥物分子結(jié)構(gòu)等等。精神藥品基本都是這個(gè)套路。然而，在說(shuō)明書(shū)的“起效機(jī)制(Mechanism of Action)”部分卻有著一行讓人有點(diǎn)糾結(jié)的小字：“莫達(dá)非尼使人頭腦清醒效果的機(jī)制尚不明確。”

這種情況其實(shí)并不罕見(jiàn)。目前已經(jīng)有許多獲得了監(jiān)管部門(mén)批準(zhǔn)并得到廣泛使用的藥物，其起效機(jī)制一直沒(méi)能得到嚴(yán)格證明。在藥物發(fā)現(xiàn)的過(guò)程中，研究人員通常需要反復(fù)試驗(yàn)以解開(kāi)這個(gè)謎團(tuán)。例如，每一年在培養(yǎng)的細(xì)胞或動(dòng)物個(gè)體身上測(cè)試任意數(shù)量的新藥物質(zhì);而后將其中最好、最安全的配合推向人體實(shí)驗(yàn)階段。在某些情況下，藥物的成功能夠激發(fā)新的后續(xù)研究，并最終讓我們了解到其起效方式。

但在另一些情況下，難題似乎永遠(yuǎn)無(wú)法解開(kāi)。阿司匹林早在1897年就被發(fā)現(xiàn)，然而直到1995年，人們才真正找到令人信服的藥效機(jī)理解釋。醫(yī)學(xué)中的其它層面也存在著類(lèi)似的現(xiàn)象：深部腦刺激技術(shù)允許治療人員在患有特定運(yùn)動(dòng)障礙(例如帕金森病)的病人腦中植入電極，且已經(jīng)擁有超過(guò)20年的廣泛應(yīng)用背景。有些人甚至認(rèn)為這項(xiàng)技術(shù)可以用于其它目的——包括常規(guī)認(rèn)知增強(qiáng)，但卻沒(méi)人說(shuō)得清其到底如何起效。

這種先回答、后解釋的藥物發(fā)現(xiàn)方法帶來(lái)的新問(wèn)題，我將其稱(chēng)為知識(shí)債務(wù)(intellectual debt)。具體來(lái)講，我們可能會(huì)在不清楚其起效原理的情況下發(fā)現(xiàn)了藥方，而后利用洞察力對(duì)底層機(jī)制進(jìn)行假設(shè)，最后計(jì)算得出正確結(jié)論。在某些情況下，我們能夠快速償還這筆知識(shí)債務(wù)，但有時(shí)候我們可能要經(jīng)過(guò)長(zhǎng)達(dá)數(shù)十年的痛苦摸索——期間只能繼續(xù)“渾渾噩噩”地依仗這種尚未被解謎的知識(shí)成果。

過(guò)去，知識(shí)債務(wù)的解決一直局限于某些能夠反復(fù)進(jìn)行實(shí)驗(yàn)的領(lǐng)域，特別是醫(yī)學(xué)。但目前的情況正在改變，人工智能——特別是機(jī)器學(xué)習(xí)——這一新興技術(shù)的崛起，正在快速提升我們?nèi)祟?lèi)的整體知識(shí)水平。

機(jī)器學(xué)習(xí)系統(tǒng)能夠從浩如煙海的信息當(dāng)中提取數(shù)據(jù)模式，而這些模式將幫助我們?yōu)槟切┹^為模糊的開(kāi)放性問(wèn)題找到答案。如果利用有貓與無(wú)貓標(biāo)記圖片對(duì)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練，它就能區(qū)分貓和其它動(dòng)物;如果我們利用醫(yī)療記錄訓(xùn)練模型，其則可嘗試預(yù)測(cè)入院病人的死亡可能性。然而，大多數(shù)機(jī)器學(xué)習(xí)系統(tǒng)無(wú)法發(fā)現(xiàn)其中的因果機(jī)制，其更像是一套用于統(tǒng)計(jì)相關(guān)性的引擎。這些系統(tǒng)無(wú)法解釋自己為何認(rèn)為某些患者的死亡率更高，因?yàn)樗鼈儧](méi)有真正意義上的“思維”能力，而僅僅是具備回答問(wèn)題的能力。當(dāng)我們將這類(lèi)系統(tǒng)的見(jiàn)解融入日常生活時(shí)，就會(huì)發(fā)現(xiàn)自己承擔(dān)的知識(shí)債務(wù)開(kāi)始快速增長(zhǎng)。

藥物發(fā)現(xiàn)中的無(wú)理論進(jìn)展向我們證明，在某些情況下，知識(shí)債務(wù)是一種合理甚至必要的過(guò)渡產(chǎn)物。盡管我們還無(wú)法從根本上解釋起效機(jī)制，但這些成果已經(jīng)挽救了數(shù)以百萬(wàn)計(jì)人類(lèi)的生命，并讓我們的生活更加美好。很少有人會(huì)因?yàn)椴磺宄幮г矶芙^服用能夠拯救生命的藥物——甚至在吃阿司匹林的時(shí)候，大家也不會(huì)為此擔(dān)憂(yōu)。

但必須承認(rèn)，知識(shí)債務(wù)的積累也有不利因素。當(dāng)大量原理未知型藥物彼此糾纏起來(lái)，發(fā)現(xiàn)其彼此之間不良作用的測(cè)試也開(kāi)始呈指數(shù)級(jí)增長(zhǎng)。(如果了解藥物的起效原理，我們就能夠事先預(yù)測(cè)這些負(fù)面相互作用。)

因此，在實(shí)踐當(dāng)中，某些新藥物上市之后會(huì)與原有藥物發(fā)生反應(yīng)，接下來(lái)就是兩家公司陷入訴訟泥潭，并最終導(dǎo)致藥品退出市場(chǎng)。從理解角度看，我們應(yīng)該通過(guò)一個(gè)個(gè)案例累積起與新藥相關(guān)的認(rèn)知，并逐步解決知識(shí)債務(wù)問(wèn)題。然而，知識(shí)債務(wù)并非孤立存在;如果沒(méi)有跨過(guò)第一原理這道門(mén)檻，在不同領(lǐng)域發(fā)現(xiàn)及應(yīng)用的答案都可能以無(wú)法預(yù)測(cè)的方式帶來(lái)難以想象的復(fù)雜性問(wèn)題。

通過(guò)機(jī)器學(xué)習(xí)產(chǎn)生的知識(shí)債務(wù)，在風(fēng)險(xiǎn)上遠(yuǎn)遠(yuǎn)超過(guò)了以往來(lái)自舊式試驗(yàn)與錯(cuò)誤嘗試的同類(lèi)債務(wù)。這是因?yàn)榇蠖鄶?shù)機(jī)器學(xué)習(xí)模型都無(wú)法對(duì)當(dāng)前判斷給出理由性解釋?zhuān)虼巳绻粚?duì)它們提供的答案進(jìn)行獨(dú)立判斷，我們就無(wú)法得知它們?cè)谀男┯美蟹噶隋e(cuò)誤。雖然在經(jīng)過(guò)嚴(yán)格訓(xùn)練的系統(tǒng)中，這種錯(cuò)誤非常少見(jiàn);但是，我們?nèi)杂斜匾鞔_理解系統(tǒng)的判斷過(guò)程，否則惡意人士將通過(guò)種種方式故意觸發(fā)錯(cuò)誤，進(jìn)而造成嚴(yán)重的負(fù)面后果。

下面來(lái)思考圖像識(shí)別場(chǎng)景。十年之前，計(jì)算機(jī)一般很難認(rèn)出照片中的物體。如今，圖像搜索引擎就如同我們?nèi)粘Ｊ褂玫谋姸嘞到y(tǒng)一樣，同樣基于極其強(qiáng)大的機(jī)器學(xué)習(xí)模型。谷歌的圖像搜索服務(wù)就依賴(lài)于名為Inception的神經(jīng)網(wǎng)絡(luò)。2017年，麻省理工學(xué)院的LabSix(一支由本科生與研究生組成的研究小組)就成功篡改了一張小貓圖片中的像素——雖然其看起來(lái)仍然像是人類(lèi)認(rèn)知中的貓，但I(xiàn)nception以99.99%的確定性認(rèn)為這是一張牛油果照片。(根據(jù)計(jì)算，Inception認(rèn)為可能性次高的結(jié)果分別為西蘭花以及砂漿。)這又回歸了我們之前提到的問(wèn)題：當(dāng)我們無(wú)法解釋機(jī)器學(xué)習(xí)系統(tǒng)依靠哪些特征進(jìn)行圖片判斷時(shí)，一旦有人提供特制或者篡改過(guò)的數(shù)據(jù)，我們也無(wú)法輕松預(yù)測(cè)系統(tǒng)何時(shí)會(huì)犯下錯(cuò)誤。這樣的系統(tǒng)當(dāng)中可能存在著未知的準(zhǔn)確性差距，而這無(wú)疑將給聰明且堅(jiān)定的攻擊者留下可乘之機(jī)。

隨著對(duì)機(jī)器學(xué)習(xí)系統(tǒng)所產(chǎn)生知識(shí)的運(yùn)用，這種差距將產(chǎn)生愈發(fā)嚴(yán)重的影響。目前訓(xùn)練出的醫(yī)療保健AI，已經(jīng)能夠成功對(duì)皮膚病變進(jìn)行良性與惡性分類(lèi)。然而，在哈佛醫(yī)學(xué)院與麻省理工研究團(tuán)隊(duì)今年出版的一篇論文中，研究人員們發(fā)現(xiàn)此類(lèi)AI也有可能受到欺騙——基本情況與上文提到的小貓變牛油果案例類(lèi)似。(除此之外，攻擊者也可能利用這些漏洞騙取高額保險(xiǎn)賠償。)出于強(qiáng)大預(yù)測(cè)能力的誘惑，我們可能會(huì)急于將其作為人類(lèi)醫(yī)師的替代性方案;但必須承認(rèn)，AI模型極易受到劫持，而且我們沒(méi)有什么簡(jiǎn)單方法能夠驗(yàn)證其產(chǎn)生的答案。

我們能否為知識(shí)債務(wù)創(chuàng)建一份資產(chǎn)負(fù)債表，并借此跟蹤那些無(wú)理論知識(shí)被運(yùn)用在哪里以及哪些系統(tǒng)當(dāng)中?在初步統(tǒng)計(jì)之后，我們發(fā)現(xiàn)不同知識(shí)債務(wù)所引發(fā)的潛在影響也有所區(qū)別。如果是AI生成的全新批薩配方，那么管他什么潛在影響，直接嘗嘗味道就可以;但相比之下，如果我們打算采納AI提出的健康預(yù)測(cè)與治療建議，那么更充分的信息無(wú)疑非常必要。

要想建立并維護(hù)好這份覆蓋整個(gè)人類(lèi)社會(huì)的知識(shí)債務(wù)表，我們可能首先得改進(jìn)原本主要用于處理商業(yè)機(jī)密及其它知識(shí)成果的相關(guān)方法。在城市，建筑法規(guī)要求房屋業(yè)主上報(bào)他們的裝修計(jì)劃;同樣的，我們可能也得要求各科研機(jī)構(gòu)或者大學(xué)公開(kāi)他們實(shí)際使用的隱藏?cái)?shù)據(jù)集與算法。如此一來(lái)，研究人員們將能夠著手探索我們所依賴(lài)的模型及基礎(chǔ)數(shù)據(jù)，并通過(guò)建立理論搶在知識(shí)債務(wù)引發(fā)嚴(yán)重錯(cuò)誤及漏洞之前完成修復(fù)工作。

機(jī)器學(xué)習(xí)模型已經(jīng)愈發(fā)普遍，任何人都能夠創(chuàng)建起自己的機(jī)器學(xué)習(xí)模型，這也讓統(tǒng)計(jì)審查工作變得越來(lái)越困難。但這仍然非常重要，因?yàn)楣铝⑾到y(tǒng)雖然能夠產(chǎn)生有用的結(jié)果，但這些系統(tǒng)本身卻不會(huì)孤立地存在：當(dāng)AI技術(shù)收集并提取真實(shí)世界中的數(shù)據(jù)時(shí)，它們也會(huì)產(chǎn)生屬于自己的數(shù)據(jù)，而其中大部分結(jié)論都會(huì)作為其它系統(tǒng)的輸入內(nèi)容。正如原理未知的藥物之間可能發(fā)生相互影響一樣，債務(wù)負(fù)擔(dān)算法也將面對(duì)類(lèi)似的挑戰(zhàn)。

另外，即使是最簡(jiǎn)單的交互也可能引發(fā)麻煩。2011年，一位名叫Michael Eisen的生物學(xué)家從他的一名學(xué)生身上發(fā)現(xiàn)了有趣的案例：一名毫不起眼的舊書(shū)《飛翔的奧秘：動(dòng)物設(shè)計(jì)中的遺傳學(xué)(The Making of a Fly: The Genetics of Animal Design)》在亞馬遜網(wǎng)站上最低的開(kāi)價(jià)竟然高達(dá)170萬(wàn)美元——還要再加上3.99美元的運(yùn)費(fèi)。第二低的價(jià)格則迅速攀升至210萬(wàn)美元。這兩位賣(mài)家都是亞馬遜上的老店，店鋪里也都有著非常積極的評(píng)論。而當(dāng)Eisen連續(xù)幾天訪問(wèn)該書(shū)的頁(yè)面時(shí)，他發(fā)現(xiàn)價(jià)格一直在不斷增加，且似乎遵循著一定的規(guī)律。賣(mài)家甲的價(jià)格一直是賣(mài)家乙價(jià)格的99.83%;而第二天，賣(mài)家乙的價(jià)格則會(huì)上調(diào)至賣(mài)家甲前一天價(jià)格的127.059%。Eisen推斷，賣(mài)家甲肯定是真的擁有這本書(shū)，而且打算長(zhǎng)期占據(jù)亞馬遜上最低的價(jià)格。與此同時(shí)，賣(mài)家乙沒(méi)有這本書(shū)，所以把價(jià)格定得更高;這樣如果有人購(gòu)買(mǎi)，賣(mài)家乙可以當(dāng)一把“二道販子”，直接拍下賣(mài)家甲的商品。

這兩位賣(mài)家的推定策略都非常理性，但雙方采取的算法在相互作用之后產(chǎn)生了不合常理的結(jié)果。同理可知，成千上萬(wàn)套機(jī)器學(xué)習(xí)系統(tǒng)在實(shí)際運(yùn)行當(dāng)中幾乎必然會(huì)帶來(lái)更難以預(yù)測(cè)的結(jié)果。正在大規(guī)模部署前沿機(jī)器學(xué)習(xí)系統(tǒng)的金融市場(chǎng)，為這類(lèi)問(wèn)題提供了理想的溫床。2010年，在令人痛苦的36分鐘之內(nèi)，由算法交易驅(qū)動(dòng)的“閃電崩盤(pán)”事件從美國(guó)各大主要經(jīng)濟(jì)指數(shù)中蒸發(fā)掉超過(guò)1萬(wàn)億美元財(cái)富。去年秋季，J.P.摩根分析師Marko Kolanovic認(rèn)為，這種崩潰事件很可能再次發(fā)生，因?yàn)槿缃窀嘟灰组_(kāi)始以自動(dòng)化系統(tǒng)為基礎(chǔ)。知識(shí)債務(wù)可能在這些系統(tǒng)之間相互碰撞并不斷積累，甚至影響到彼此并未直接交互的系統(tǒng)。如果沒(méi)有類(lèi)似于資產(chǎn)負(fù)債表的制度存在，我們將無(wú)法預(yù)測(cè)或者追溯事件的前因后果，更無(wú)法確定我們是否值得承擔(dān)知識(shí)債務(wù)、我們又能夠承擔(dān)多少知識(shí)債務(wù)。

知識(shí)債務(wù)的增加，也有可能改變我們對(duì)基礎(chǔ)科學(xué)以及對(duì)應(yīng)用技術(shù)的思考方式。與粒子加速器這類(lèi)由政府機(jī)構(gòu)斥巨資興建、并由學(xué)術(shù)研究機(jī)構(gòu)代為運(yùn)營(yíng)的項(xiàng)目不同，機(jī)器學(xué)習(xí)工具能夠快速在私營(yíng)企業(yè)與學(xué)術(shù)組織內(nèi)傳播。實(shí)際上，谷歌與Facebook獲取預(yù)測(cè)性數(shù)據(jù)素材的能力要遠(yuǎn)超任何計(jì)算機(jī)科學(xué)或者政府統(tǒng)計(jì)部門(mén)。在生意人來(lái)看，這些知識(shí)能不能解釋好像沒(méi)什么關(guān)系，但知識(shí)債務(wù)在客觀上仍將快速累積。最終，問(wèn)題將落在企業(yè)手中，而非真正有意解決這一切的學(xué)術(shù)研究人員。

可以想象，源自機(jī)器學(xué)習(xí)的知識(shí)不斷增長(zhǎng)，也將使得贊助資金越來(lái)越多地涌向那些樂(lè)于利用AI技術(shù)(而非以人工方式慢慢推進(jìn)項(xiàng)目)的研究人員手中。去年12月，研究蛋白質(zhì)折疊的研究員Mohammed AlQuraishi撰寫(xiě)了一篇論文，探討自己在所在領(lǐng)域的最新成果：創(chuàng)建一套能夠以高于人類(lèi)研究員的準(zhǔn)確度預(yù)測(cè)蛋白質(zhì)折疊情況的機(jī)器學(xué)習(xí)模型。AlQuiraishi對(duì)自己無(wú)法探明數(shù)據(jù)理論感到遺憾，并表示自己投入大量精力但仍一無(wú)所獲。他在接受采訪時(shí)表示，“那些能夠提供新的分析洞察力概念的論文或者相關(guān)成果，實(shí)際未能得到同樣的重視。”隨著機(jī)器發(fā)現(xiàn)速度的加快，人們可能認(rèn)為這些堅(jiān)持舊有研究方式的家伙是一幫異類(lèi)——多此一舉而且無(wú)可救藥地落后于時(shí)代。相反，針對(duì)某一特定領(lǐng)域的知識(shí)發(fā)現(xiàn)類(lèi)機(jī)器學(xué)習(xí)模型則比知識(shí)本身更有價(jià)值，因?yàn)樗鼈兡軌蚋斓貫樵撝黝}提供答案。

金融債務(wù)的控制權(quán)會(huì)轉(zhuǎn)移——由貸款人到貸方，從未來(lái)到過(guò)去等。同樣的，知識(shí)債務(wù)也有可能發(fā)生控制權(quán)轉(zhuǎn)移。當(dāng)這個(gè)由未知知識(shí)構(gòu)成的世界逐步轉(zhuǎn)化為缺少明確因果關(guān)系的世界，我們卻又不得不依賴(lài)這種模糊的方式告訴自己該做什么、什么時(shí)候去做。例如，高校的招生委員會(huì)可能會(huì)把篩選工作交給機(jī)器學(xué)習(xí)技術(shù)，而后者將負(fù)責(zé)把申請(qǐng)人的努力與不確定性轉(zhuǎn)化為清晰的模式;這種模式也許將優(yōu)化大學(xué)生群體，使他們不僅更有能力在學(xué)業(yè)上取得成功，同時(shí)也建立起和諧的師生關(guān)系并樂(lè)于為學(xué)校提供慷慨的捐贈(zèng)。此外，未來(lái)我們理解世界的唯一方式，可能是利用自己的AI神經(jīng)網(wǎng)絡(luò)調(diào)整社交媒體上的個(gè)人資料，從而讓自己更輕松地融入目標(biāo)群體。

也許這一切都將成為現(xiàn)實(shí)，但其反過(guò)來(lái)又會(huì)引發(fā)新的問(wèn)題。大多數(shù)對(duì)于人工智能的批評(píng)意見(jiàn)，主要集中在它們可能犯下的錯(cuò)誤：它會(huì)創(chuàng)造或復(fù)制偏見(jiàn);它會(huì)犯錯(cuò)誤;也可能被用于實(shí)現(xiàn)邪惡的目的。但除此之外，我們還有其它值得擔(dān)心的問(wèn)題，例如：就算AI做對(duì)了，又將意味著什么?