[[211063]]

當前，深度學習扛起了人工智能的大旗，讓我們得以一窺智能機器在將來的能耐。但深度學習有個不小的問題：沒人知道它是如何運作的。

我們并不是對深度學習一無所知。作為當今神經網絡的核心，機器學習算法已經發展了幾十年，它定義完善，文獻豐富。在銀行和保險業等受到嚴格監管的行業，這些算法已經普及多年，不曾引發重大問題。

“機器學習基本就是線性數學，很好解釋，”數據公司Teradata***技術官斯蒂芬·布羅布斯特（Stephen Brobst）在Teradata合作伙伴大會的一場小組討論上說。“然而，一旦涉及到多層神經網絡，問題就成了非線性數學。不同變量之間的關系就糾纏不清了。”

神經網絡的明晰性問題植根于它的基本架構，這種架構的復雜性是與生俱來的。通過將很多隱藏層逐層堆疊起來，我們其實創造出了幾乎***量的路徑，供數據在網絡中訓練時經過。繼而，通過讓數據一遍又一遍地經過這些路徑，將每次循環中變量的權重交由機器自己決定，我們發現可以制造出更好的機器，提供比傳統機器學習方法更加優質的答案。

這是對人腦的一種粗糙演繹——這里要強調的是“粗糙”，因為我們仍未充分掌握人腦的運作原理——但我們知道人腦能起作用，也知道神經網絡能起作用，雖然我們對它們的運作原理不甚了了。從某種層面上講，神經網絡的不透明性不是什么缺陷，而是一種特色。

復雜性正是深度學習起效的秘方。

這也是一個不小的研究領域。金融服務等行業都對神經網絡垂涎三尺，但目前都被禁止使用，因為他們無法向監管機構充分解釋神經網絡的運作原理。“在將機器學習投入風險評估等領域的過程中，這是***的一個障礙，這些領域受到嚴格的監管，”布羅布斯特說。“若只是欺詐檢測和推薦引擎，你還可以僥幸過關。但監管嚴格的領域就不行了。”

這足以使DataRobot公司在這些領域的客戶回避深度學習框架，如Tensorflow等，盡管DataRobot會幫助實現其自動化使用。“有時候，這些模型會因無法驗證而被拒之門外，”DataRobot***運營官克里斯·德瓦尼（Chris Devaney）說。“你不太容易為它辯護。即便不是黑箱，它也表現得像個黑箱，因為你無法記錄神經網絡算法深處發生的一切。”

TensorFlow可以針對大規模數據集作出快速預測，但DataRobot的顧客不愿觸及。目前，DataRobot正在與Immuta合作，旨在尋找并削減機器學習中的偏差，這方面的工作終將有所成效，但任重道遠。“對于一些受到嚴格監管的客戶，如果必須在政府機構面前捍衛這種模型，他們就會放棄考慮，”他說。

研究公司ForresterResearch副總裁、***分析師麥克·格列蒂里（Mike Gualtieri）說，有些公司一邊使用深度學習，一邊還抱有某種程度的懷疑。“連使用這些模型的公司都不信任它們，”他在近期的合作伙伴會議上說。

他說，開始使用深度學習的公司有辦法對付這種不確定性，包括加入人類干預，用規則加以限定，他說。

“模型可以作出預測——這個預測始終都是一個概率——但如果預測不準呢？”他說。“你可以用規則加以限定。比如告訴它‘這是欺詐’，模型可能會說：‘這不是欺詐’。你也可以設定有利于人類的規則，比如說，‘我才不管模型怎么說——在我看來，這就是欺詐。”

在增加神經網絡的透明度方面，人們已經做了一些工作。其中之一被稱為“局部可理解的與模型無關的解釋技術”（Model-Agnostic Explanations；下簡稱LIME）框架，由華盛頓大學計算機科學教授馬可·圖里奧·里貝羅（Marco Tulio Ribeiro）和他的同事薩米爾·辛格（Sameer Singh）及卡洛斯·格斯特林（Carlos Guestrin）共同提出。

LIME框架的設計旨在提高可理解性，使各類不透明算法生成的預測更易于解釋。這包括傳統的機器學習技術，比如隨機森林與支持向量機（SVM），以及當今日益流行的神經網絡技術。

作為GitHub上的開源軟件，LIME框架有望逐層剝開神經網絡的外衣。“LIME是一種高效的工具，賦予機器學習從業人員以信任感，可以加入到他們的工具組合中，”里貝羅、辛格和格斯特林教授在2016年發表于電腦資訊網站奧萊利（O’Reilly）的文章中寫道。

然而，在得到業界的信賴之前，LIME還有很多工作要做。Teradata的布羅布斯特說。“以上提到的LIME框架，我們還沒有完成呢，”他說，“這是一個活躍的研究領域……但我稱之為‘畢業生代碼’。其用例非常有限。專門用例需要專門定制。”