當今世界，誰最有可能成為「AI時代的奧本海默」？

DeepMind的創始人Hassabis與Anthropic的創始人Dario無疑是熱門人選。

近日，這兩位AI巨頭罕見地坐到了一起，在《經濟學人》的訪談中，直面AGI（通用人工智能）帶來的種種爭議與挑戰。

想象一下，幾年后，你身邊出現一個比愛因斯坦還聰明的AI，能設計出圍棋這樣精妙游戲的規則，甚至推導出全新的科學理論。

這不是科幻，而是Hassabis和Dario正在努力的方向。Dario大膽預測AGI 2026年到來，Hassabis卻謹慎表示可能還要再等等。

他們一致認同的是：AI的威力遠超以往任何技術，而我們是否準備好了迎接這場變革。

AGI時間表

Dario首先明確說明了什么是他認為的AGI。

「當我們擁有一種AI模型能夠做到人類能做的所有事情時，比如像坐在旁邊的這位諾貝爾獎得主（Hassabis）那樣，在多個領域都能做得很好，可以執行任何一個人類能遠距離完成的任務，這些任務可能需要幾分鐘、幾小時、幾天或幾個月的時間。」Dario說。

「我的猜測是在2026年或者2027年能夠實現這一點。」

隨后，Dario問Hassabis是否同意他的看法。

Hassabis則認為AGI的出現可能會更遠一點，只有50%的機會在5年內出現。他定義AGI的方式是，「一個能夠展示所有人類認知能力的系統。」

「我認為我們現在還沒有這樣的系統，能夠像愛因斯坦那樣利用當時可獲得的信息發明廣義相對論。我給出的另一個例子是，你能創造出如圍棋一樣的游戲嗎？不只是下出第37步這樣的一手妙棋或構建一個可以擊敗世界冠軍的AlphaGo，你能否真正設計出一種同樣美麗的游戲？所以我認為要達到那種能力還需要一點時間。」Hassabis說。

AI的發展與平衡

隨后，主持人問，在未來幾年很快達到AGI的同時，各國政府需要如何意識到所面臨的利害關系？

「我認為人們還沒有充分理解這一點。」Hassabis說。

Hassabis認為，雖然AI在短期內被過度炒作，但仍然低估了AI在未來中長期帶來的變革程度。他認為一旦這一點得到更多理解，那么就會有更多的基礎來推動國際間的合作。

Hassabis說，「我們不能單打獨斗，需要一些全球性的規范。我過去曾多次談到過類似CERN（歐洲核子研究組織）的AGI研究合作模式，基本上是一個國際研究合作，專注于我們在構建第一個AGI時所需邁出的最后幾步。」

Dario形容AI是「世界上突然出現了一個新國家，擁有1000萬比當今世上任何人類都要聰明的人。」

「你知道，你會問他們的意圖是什么？」他說，「特別是如果他們能夠自主行動的話。」

Hassabis表示。AI的開發與監管平衡點需要在中間位置。「我認為我們應該擁抱AI帶來的巨大機遇。我特別熱衷于科學和醫學領域。我認為它將徹底改變這些領域。」他說。

但他同時也強調需要意識到存在的風險。一個是是惡意人士將這項通用技術用于不法目的，另一個是來自AGI系統自身失控，或者沒有正確的價值觀和目標的風險。

AI界的奧本海默

接下來，主持人問了一個比較刺激的問題，「因為你們親自領導著可能處于這一領域前沿的公司。所以你們做出的個人決定將塑造這項技術。你有沒有擔心會像羅伯特·奧本海默那樣？」

對于這個問題，Hassabis表示一直都在擔心這種情景的發生，「看，我一直在擔心那樣的場景。這就是為什么我睡得不多。」

Hassabis說領導這項技術的人身上肩負著巨大的責任。他認為社會需要考慮什么樣的治理機構是必要的，理想情況下，會像聯合國一樣。

他說，有些人可能認為我們在杞人憂天，或者認為我們是在鼓吹放慢腳步之類的。「但我從沒見過有哪個領域會出現這樣的情況：就是帶頭的研究者們自己也在提出警告。我們現在面對的東西實在是顛覆性極強，威力巨大，而且是前所未有的。」

Hassabis覺得AI它并不是「又一項新技術」那么簡單。他注意到，仍然有人在談「這是非常重要的技術，但也只是又一個技術而已」。

「可我覺得它完全不同于以往任何技術。我感覺并不是所有人都真正明白這一點。」，Hassabis表示。

Dario的想法和Hassabis完全一致。他說，「我做的幾乎每一個決定都像是在刀刃上保持平衡。」

「我認為我們還是得找到一種方式來建立一個更加穩健的治理結構，不能讓這個技術只掌握在少數人手中。」Dario說。

Dario說早在2023年，他們就做了一些關于AI系統能否生成在谷歌或教科書中找不到的、可用于制造生物武器的信息的工作。

他們的結論是可以。Dario表示，AI剛剛開始能夠做到這一點。目前還不太危險，但是每個模型都比之前的更好。

Dario表示，AI模型的風險最好在實驗室觀察到，如果這種風險在現實中觀察到將是一個非常糟糕的結果。

智能體與未來

最后，主持人用了一個更積極的話題來結束。

「能不能各自舉出一件事，就是你們認為在未來一年里，我們會看到的一個跡象，顯示我們正在往你們所期望的方向前進，以及這件事將帶來什么正面的影響？」

Hassabis首先說我們會看到更多智能體的出現，這些系統可以在某種程度上自主完成任務，達成一些目標，在現實世界里行動。

他認為這會催生一整類全新的實用系統，比如助理型系統，為人節約時間，提高生產力。

Hassabis認為這些智能體系統會變得更廣泛地應用于日常生活，而不再只是局限在某些小眾領域。再往后看，他則希望看到AI系統真正具有創造發明能力，「不僅僅是去解決某個數學猜想，而是能夠自己提出一個非常有趣的新猜想，或者提出一套新的理論。」

Dario表示會關注在AI寫代碼，以及AI是否能用來做AI研究這一層面。

他說假如到了今年年底，我們能「構建更強AI系統的整體生產率提高50%，甚至翻一倍，那就證明我之前所說的2026或2027年左右實現AGI的時間表還是比較可信的。」

「要是比這個速度慢很多，那我就會傾向于相信Demis的設想更有可能——雖然他的時間表依然非常激進，但相比之下還是要稍微長一點。」