人工智能的未來到底應該是什么樣的？它應該朝著什么方向發展？在發展的過程中應該注意什么？這些都是每一個關注科技發展的人在思考的問題。最近，O'Reilly Media 創始人兼 CEO Tim O'Reilly 在 Linkedin 上發表了一篇他采訪微軟 CEO Satya Nadella 的文章。在這個文章中，他們談論了人工智能的大方向與未來，并就人工智能發展過程中出現的問題，給出了自己的看法。文章由 36 氪編譯。

[[205452]]

　　我與 Satya Nadella 見面是在今年 4 月份，是為了我的新書《WTF?What’s the Future and Why It’s Up to Us》（譯者注：2017 年 10 月 10 日發售）來采訪他。但這篇文章所想討論的大部分內容，并不是關于我的書，而是關于 Satya 的回憶錄——《Hit Refresh: The Quest to Rediscover Microsoft's Soul and Imagine a Better Future for Everyone》（譯者注：2017 年 9 月 26 發售）。

　　我們都對科技的發展抱有樂觀的態度，我們堅信，人工智能帶來的挑戰是讓我們和社會定義什么是真正的人類。未來將會是一個人工智能強化和增強人類能力的世界，而不是讓人類變得更加無用。這就是我們對話的基礎。

　　Tim：你在書中提到，人工智能帶來的挑戰將是定義一個宏大的、鼓舞人心的社會目標。你寫道：“1969 年，肯尼迪總統承諾美國人要登上月球，這個目標的完成，在很大程度上要歸功于，它所帶來的巨大的技術挑戰，以及它所要求的全球協作。同樣，我們也需要為人工智能設定一個足夠大的目標，而且要超越任何可以通過改進現有技術來實現的目標。”我很喜歡這個想法，不知道你是否可以擴展一下。

　　Satya：如果你說，“哇，一個有視力障礙的人現在可以看到了……或者患有閱讀障礙的人可以閱讀了。”那將是一個真正的突破！而且，我們也能說“人工智能終于成為了一個真正帶來包容性的技術”，這將是非常有意義的，尤其是在我們談論人工智能可能會對我們世界造成巨大變革的時候。相反，我們可以引導人工智能在我們的社會中創造真正的包容，并全面參與到我們社會中來。

　　這其中有很多的想法來自我孩子的經歷。因為我有一個特殊需要的孩子，他被“鎖”住了。我總是想，“要是他能說話就好了！”因此，當有人談到“腦機連接”時，我會說，“哇，現在想想這能做什么！”

　　在一個我們要創造這種技術的世界中，我們甚至可以說：“這是終極技術”，這是通往超級智能的道路，指導我們的設計原則是每一件事情，指導我們的道德哲學也是每一件事情。在某種意義上，我們必須做出的最大的路徑依賴性決策將是“誰來設計超級智能”？

　　Tim：我自己書中的一個章節叫做“我們的天網時刻”。我的觀點是，人工智能的中一個方面我們談論得不夠多，那就是，它可能是一個集體智慧。我們正在利用搜索引擎、社交媒體和金融市場構建集體智慧機制。而且我們已經表明了我們所說的這些人工智能，是為了優化人們的利益。

　　Satya:沒錯。盡管我們有各種各樣的認知偏見，但人類還是有很大的優勢。正如 Herbert Simon 所說，我們不再優化的時候，我們就滿足了。這實際上是有幫助的。有一種滿足是由我們共同的道德基礎所驅動的。現在，當你說，“這是一個應該優化的問題”，也就是人工智能，那么我們就有問題要去解決了。

　　Tim：你也談到了增強人類的能力、經驗和智力。你說你想要專注于人類的天賦，比如創造力，同情心，情感，身體，洞察力等等，它們可以和人工智能混合在一起。

　　Satya：假設有大量的“人工智能”，那么稀缺的商品就是真正的智慧。然后你會說，“什么是真正的智慧？”

　　真正的智慧將會在最具人性的品質中找到，那就是同情和憐憫之心，而那些將是最重要的東西。在我們真正找到如何將其嵌入某些機器之前，我們必須將其與人類結合起來。

　　我們必須思考，教育應該對人類有什么樣的影響。有了人工智能，也許你真的不需要學習傅里葉變換。你也可以去做培養正念，你可能想要培養同情心。這就是我所說的一點。所有人都有一種強迫癥，每個人都需要接受教育，這是事實。但是，我們是不是過分強調了 STEM（Science，Technology，Engineering，Mathematics）？

　　Tim：在我的職業生涯中，有一個概念一直在發揮作用，Clayton Christenson（當今最具影響力的商業理論家之一）曾說過一個叫做 “高利潤守恒定律”（The Law of Conservation of Attractive Profits）的東西，即當一個原本價值很高的東西商品化之后，緊挨著它的東西突然間就會變得值價起來。我第一次聽到這個是在 2004 年左右。他和我在同一個會議上進行了交談。我在演講中談到了微軟是如何取代 IBM 的:PC 硬件成為了一種商品，軟件變得有價值。我的觀點是，開源將使軟件商品化，而其他東西將變得有價值。最終我意識到這個“其他東西”將是大數據。Clay 在談論他關于高利潤守恒定律的想法，我意識到，“我們說的是同一件事。”這項定律也完全適用于人工智能。由于人類認知的機械部分被人工智能商品化，人類獨有的部分將變得更有價值。

　　Satya：這是一個很好的說法。

　　Tim：所以在未來的經濟中，有很多基于關懷以及創造力的機會。創意經濟不只有藝術和文化。每當產品成為一種商品的時候，我們就會找到新的方法，通過將它們與人類的創造力結合起來，使它們變得有價值。

　　Satya：事實上，這基本上是我們的一種癡迷，對吧？當我在看《我的世界》這一代人時，或者你甚至可以說是 Snapchat 一代人……對我來說，這一代人最鼓舞人心的一點是，它是關于創造、故事的瘋狂的看法。在《我的世界》中，男孩和女孩都在創造一些不存在的世界，只有他們的想像力。

　　這就是我想要打造的一代。甚至在最新的 Windows 版本中。我們購買了每天有 1 億人使用的產品——Microsoft Paint，并說：“讓我們為 3D 創作做出絕對驚人的創意畫布”。因為，在一個現實增強和混合現實的世界里，這就會成為現實。

　　Tim：你也談到了對大量數據進行處理的能力，以及更快地進行模式識別。在人工智能的發展過程中，有一種創造力被表達出來。你如何看待人工智能增強創意的過程？并提出創造性的方法來解決問題。

　　Satya：傳統的寫作工具不過是在拼寫、語法和短語糾正上面提供幫助，現在我們在其中添加了人工智能，它們就成了完整的寫作輔助工具。我們正處于這樣的境地，你可以說，“我想寫得像 Faulkner（美國小說家，曾獲 1949 年諾貝爾文學獎）一樣，”它會開始說，“這是你可能想做的事情。”

　　我沒有上過寫作學校，我只上過工程學院，但我夢想成為一名偉大的作家，我需要這種人工智能來幫助我。

　　我之所以能做到這一點，是因為我看到了中國的小冰，也就是我們的對話機器人，包括人們對它的討論，以及在某一特定時段里的話題和問題的數量。更多的原因是人們需要交談。人們在表達他們最深刻的想法。我當時說，“哇，這就是人工智能能夠產生移情作用的地方。”

　　Tim：我們之前也討論過人工智能成為第三個運行時的想法。讓我們來討論一下這個問題以及它是如何發生的。

　　Satya：我們最后一次討論的時候，我是這么說的：“PC 或手機操作系統是第一個運行時，第二個是瀏覽器和網絡，第三個是使用私人助手，它了解你，了解世界，了解環境，并在幫助你。”

　　然后我們說，“好吧，如果你同時進行思考、感知，最終采取行動，那么這三個運行時就在那里。”這個助手本質上體現了你思維的擴展，你知覺的增強，語音是一個，視覺是另一個，并且可以直接采取行動。這就是終極的運行時，對吧？

　　這就是為什么在我的書中，我試著寫這三件事:

　　1）終極計算體驗是什么？最終的計算體驗是與計算結合在一起的真實世界。這是混合現實。

　　2）這將要求人工智能在感知、認知和行動方面取得突破。

　　3）然后我稍微有點離題了，說，“如果你想要創造那種計算能力，你必須打破馮諾依曼架構和經典計算的束縛。”

　　我們能聊聊量子計算機嗎？這就是我寫的第三件事。

　　Tim：我有點驚訝于量子計算在你的書中占了這么大的篇幅。

　　Satya：進步是真實的——我的意思是，我們已經深陷其中。但問題是，它會以多快的速度成為現實。我不知道。但它不再是“哇，有可能嗎？”之類的驚嘆。

　　Tim：你書里很重要的一句話是：“我們想要的不僅僅是智能機器，還有能夠理解的機器。”這是當前人們對人工智能的一大擔憂，我們不會真正理解他們是如何得出結論的。當然，這也適用于人類。因為我們傾向于只關注人類思想的理性一面，所以我們沒有意識到，我們做了多少事情對我們來說，也是完全無法理解的。所以，這可以說是理性主義者的最后一聲吶喊。

　　Satya：當然。但我有兩種方式可以規避風險。一是問責制。“當你是一名設計師，你創造了人工智能，你需要負責任的時候，會發生什么？”Tay 的整個經歷確實對我們的思考產生了很大的影響。事實上，這是一種瘋狂的做法，因為好多人都針對它，并為它提供訓練數據，這些數據可能會劫持算法。這是誰的責任？我敢說這是我們的。這是我們的責任。

　　Tim：嗯，很明顯這是 Facebook 和假新聞問題。我與安全研究人員進行了非常有趣的對話，討論如何愚弄自動駕駛汽車。你怎么能通過創造他們會在視覺領域誤解的東西來入侵他們呢？但現實社會中，將會有各種各樣的敵對干預。我們還需要設計更強大的人工智能。

　　Satya：當人們說：“哦，人類，這些 DNN（深層神經網絡）是神奇的。它們只是在做一些事情，我們甚至不知道“…我同意這句話背后的真相，但是關于層數和權重的選擇——在它們的學習過程中，人類是做出了很多決定的。我們不應該這么快就放棄這些我們創造出來的算法，我們應該對它們做出的決定負責。我想我會說，“好吧，在人工智能中，編程的道德標準是什么？”

　　注：訪談有刪減。