1.關于AI的潛力與風險

“我們當然希望這些AI系統能夠帶來它們所承諾的一切，比如找到新的治病方法、新的能源形式，做出很多對整個人類有巨大幫助的事。但同時也確實存在一些擔憂，比如如果最早的AI是在錯誤的價值觀引導下開發的，或者在沒有安全保障的情況下建成的，那可能會帶來很嚴重的問題。”

2.關于AGI的定義和發展節奏

“我們一直把AGI理解為一種能夠具備人類所有核心認知能力的系統。我們之所以以人類大腦為參照，是因為人類智能目前是我們唯一可以證明存在的智能形式。”

“我覺得未來五到十年內，有差不多50%的可能性，我們就能實現我們現在對AGI的定義。”

3.關于當前AI系統的局限性

“現在的系統確實還缺一些能力。用過最新大語言模型或者聊天機器人的人應該都有體會，比如推理、規劃、記憶這些方面還做得不夠。我覺得目前的系統還不能進行真正意義上的發明創造，也很難獨立提出新的科學假設。”

“還有一致性的問題。比如在某些場景下，它可以解出國際數學奧賽級別的難題，表現得非常好……但轉過頭來，又可能在中學數學題上出錯，甚至連一個詞有幾個字母都能數錯。”

4.關于AGI對現實世界的影響

“即便我們有了AGI，現實世界還是要遵循物理規律的，比如工廠、機器人這些都需要時間來部署。所以哪怕數字智能很強，它對實際世界的影響也不會是立刻發生的，可能還要十年甚至更久。”

“如果一切順利，我們應該會進入一個我喜歡稱為‘激進豐裕’（radical abundance）的階段。也就是說，AGI有潛力去解決一些我稱之為‘根節點’的問題，也就是那些長期困擾整個社會的底層難題。”

5.關于地緣政治和AI的競賽問題

“每一個被開發出來的系統，其實或多或少都會反映出它背后的設計者、開發團隊，甚至文化背景的價值取向。”

“我自己最擔心的有兩個方向。一個是，如果這些系統一開始就帶著錯誤的價值觀，或者開發過程不夠安全，那后果會非常嚴重；另一個是，一些惡意行為體——無論是個人還是國家——可能會把這類通用技術拿去做破壞性的事。”

6.關于AI的監管問題

“我一直都覺得，對這些越來越強大的系統，做出合理且專業的監管是非常有必要的。”

“從理想狀態來說，這種監管應該是全球層面的。但以目前世界的運作方式來看，這其實挺難的。問題在于，這些系統本質是數字化的，它們不會受到國界的限制，卻會影響到所有人。”

7.關于AI對工作的影響

“如果一個人對這些工具很熟悉、用得順手，他的生產力可能會提高十倍。我會建議今天的學生或者年輕人，盡早去了解這些系統，深入去接觸。”

“當然就算技術到了，我們也還有很多事情可能不希望交給機器來做。比如醫生或者護士，我經常舉這個例子——這里面有人類的情感、共情能力，以及照護的細節，這些是機器沒法完全替代的。”

8.關于長遠愿景與社會挑戰

“如果發展順利，我們會進入一個‘激進豐裕’的時代。AGI可以幫助我們攻克一些最根本的問題，比如治療疾病、延長健康壽命、開發清潔能源等等。”

“從技術層面講，AGI可以幫我們實現類似‘全球水資源普及’這樣的目標。但在那之后，我希望這也能推動整個社會的思維方式發生變化，從零和博弈，走向一個更非對抗、共贏的方向。這就需要一些杰出的哲學家和社會學者一起來參與。”

9.關于公眾對AI的反應

“當我向大家講述我為什么要做AI的時候——比如是為了推動科學和醫學的發展，舉個例子，AlphaFold就是我們團隊開發的，它對藥物發現非常有幫助，堪稱諾獎級的成果——人們聽完之后往往都會說：‘我們當然需要這樣的技術。’如果這類工具已經觸手可及，但我們卻沒有去用，那反而是一種不負責任。”

10.關于AI帶來的時代性變革

“我認為這場變革至少會和工業革命一樣深遠，甚至可能更大……當然這本身就是個巨大挑戰。但好在，它也是為數不多的那些‘能幫助我們解決其他挑戰’的挑戰之一。”

本文轉載自??????????Andy730??????????，作者：常華?