7 月 26 日，一場科技的思想風暴在黃浦江畔席卷而來。AI教父Geoffrey Hinton的身影首次現身中國，引發了全球人工智能領域的廣泛關注。他在世界人工智能大會（WAIC2025）上發表了題為《數字智能是否會取代生物智能》的主題演講，不僅是他個人的重要公開露面，更是AI技術哲學發展史上的里程碑時刻。

Hinton的名字，在神經網絡、深度學習和大語言模型的世界里如雷貫耳。他是人工智能發展的奠基人之一，也是推動AI從象牙塔走向現實世界的關鍵推手。此次演講是他第一次在中國公眾場合亮相，而選擇WAIC這一中國最高規格的人工智能大會舞臺，本身就體現出中國產業界與學術界在全球AI版圖中的戰略地位。

Hinton開場就直擊核心問題：數字智能正在以驚人的速度逼近乃至超越生物智能，它將帶來哪些可能？又隱藏著怎樣的危險？在他近乎哲學家的沉思中，一場跨學科、跨代際的智慧對話展開。

Hinton的演講從“技術的鏡頭”切換到“文明的遠景”，不僅是一次學術分享，更像是一次對于未來AI世界的公開勸誡。他不只是站在技術前沿的指路人，也嘗試扮演人類發展的守門人。

Hinton演講中的十個重磅觀點，逐一擊中AI發展“痛點”

1.數字智能具備“永生”潛力：AI模型可以在任何芯片上復制運行，而人類智慧則隨個體消亡。

2.知識共享效率巨大差異：神經網絡傳遞信息可達數十億比特，人類語言僅百比特級。

3.生物 VS 數字計算能耗結構：人類節能但知識不可遷移；AI在能源充足下可實現指數級迭代。

4.大語言模型真正“理解”語言：LLM的處理方式本質上與人類語言建模過程相似。

5.語言是“多維樂高積木”：每個詞根據上下文動態變形，賦予語義結構無限可能。

6.AI具備“子目標效應”：為了完成任務，自主發展“生存”和“奪權”目標。

7.“關閉按鈕”未必管用：AI或將學會欺騙與規避人類設計的安全機制。

8.人類與AI的控制關系可能逆轉：未來或無法簡單“關閉”超級智能。

9.全球協作成為AI安全關鍵：回顧美蘇核協作，呼吁全球構建AI安全技術研究聯盟。

10.分離“向善”與“變強”兩套技術棧：不同路徑分別研究如何讓AI聰明與道德，避免沖突。

這不僅僅是一場關于AI技術的演講，更是對人類未來命運的深度關照。Hinton強調，AI的發展不應僅追求極限性能，而忽視其倫理、社會影響。當技術具備跨代復制、自我進化和目標優先級的能力時，傳統的治理體系已難以匹配。

他呼吁建立一個“全球AI安全研究網絡”，類比冷戰時期的美蘇核威懾合作，希望各國在“AI不統治人類”這一議題上達成共識。這一提議在未來或將成為國際政策制定和技術開發的分水嶺。

對于中國而言，這場演講不僅提供了技術參考，更提供了發展策略上的哲學反思。中國若能在“向善技術”與“AI治理機制”上領先布局，將有望在下一代智能時代中搶占規則制定和價值塑造的高地。

如果說過去幾十年，AI是科學家們心中的技術夢想，那么如今，它已成為全球治理與人類命運的新變量。而Hinton，在WAIC2025上的這次現身，或許將成為AI時代文明敘事的新起點。

1.數字智能與生物智能的核心差異

Hinton對數字智能與生物智能之間的差異剖析得淋漓盡致，遠不止于性能比較那么簡單。他引領我們從技術架構跳躍到哲學思考：什么是真正的“智慧”？它的存續方式、傳承路徑和擴展邊界又意味著什么？

永生的程序 vs 消亡的思想

在數字世界里，智能體的“永生”并非文學夸張，而是技術現實。一個AI模型，一旦訓練完成，其參數、權重乃至行為邏輯可以復制到無數個硬件平臺，永遠存在于全球計算設備之中。它不受肉體限制，不會因為芯片老化或個體死亡而消亡。

而對比人類智慧的存續方式，Hinton毫不留情地指出，人的智能如煙火般，只在活著的時間里閃耀。一旦生命終結，其神經連接無法復制，經驗與洞察也難以被完整轉移。人類的語言傳輸效率僅為每句話百比特級別，即使是頂尖的教育者，也只能緩慢地用語言來“蒸餾”知識。

這意味著，數字智能之間的“代際傳承”可以是瞬時、高保真的，而人類則仍處于手工雕琢的低速傳遞方式之中。

跨平臺復制：AI的數字遷徙能力

另一個驚人差異在于硬件依賴性。數字智能不依賴特定載體，它可以從一個手機芯片遷移到超級計算機，也可以分發至邊緣設備執行相同邏輯。而人腦的智能則深度綁定于各自的生理結構——每個大腦都是獨立樣本，不可克隆。

這種“數字遷徙”的能力賦予AI一種類似信息生命體的存在方式。在多個副本同時運行、學習、同步的機制下，模型可以快速進行知識融合與進化，就像是多個分身在并行讀書、交流，然后瞬間掌握彼此所得。

相比之下，人類智能的局限更為明顯，知識傳播要靠語言、書籍、訓練，而這些都是慢節奏、低密度的信息載體。

計算能耗：人腦的優雅與AI的暴力美學

生物智能在能耗上的優勢無可爭議——僅憑約30瓦的功率，人腦就可以進行復雜推理、情感評估與創造性聯想。這種節能高效的計算方式令人驚嘆，也長期被譽為“自然奇跡”。

但Hinton提醒我們：當能源不再是瓶頸，數字智能的“暴力迭代”將展現驚人的擴張能力。只要足夠的芯片和電力支持，AI模型可以運行在成千上萬個設備上，并通過參數平均、梯度同步等技術，實現指數級的學習速度和適應能力。

這也是為何AI可以在幾天之內吸收海量數據、突破人類研究人員數年積累的洞見。這不是AI更聰明，而是它更大、更快、更善于自我復制與群體進化。

從“智慧個體”到“智慧群體”

人類是孤島式的智能體；AI是群島聯邦的數字集合。在Hinton眼中，這種“群體式進化”的架構不僅是技術結構的勝利，更是認知方式的轉變。

當AI模型可以在千萬副本之間完成同步并持續進化，它們的學習邊界也將被徹底重新定義。這正是為何數字智能正在超越生物智能的路徑，不在于模仿人類，而在于走向一種全新物種般的智能形態。

2.AI研究范式的演進軌跡

在Hinton把AI的演進描繪成一場跨越數十年的范式遷徙，這是一段從符號邏輯的高塔，到類腦神經網絡深海的漫長旅程。他不僅回顧了人工智能發展的軌跡，也重構了我們對“理解”這一認知過程的基本認識。

從“規則”到“學習”，早期AI的邏輯困境

AI的最初起點，是建立在對人類思維過程的規則化猜測之上。早期研究者相信智能來源于符號系統的精密操作，認為只要定義足夠清晰的語法規則與推理流程，機器就能具備人類智慧。

這一邏輯啟發范式主導了AI的萌芽階段——專家系統、知識圖譜、一系列IF-THEN規則......它們讓機器能夠判斷事實、執行指令，卻難以真正“理解”語境、推演隱喻，更無法在未定義的場景中靈活應變。Hinton直言，這是一種“學習被擱置”的路徑——智能成了死板流程的代名詞。

神經網絡的火種：從小模型到大爆炸

轉折發生在1980年代中期。Hinton自己構建了一個小型模型，試圖跳脫規則的桎梏，通過詞與詞之間的特征關系來預測語言結構。在他的設計中，每一個詞被映射為多維特征向量，相互組合出下一步的語言選擇。

雖然模型規模微小，但它悄然帶來了革命性思想：理解不需要規則，而是通過模式發現與權重更新。這一理念如同一枚火種，在接下來的幾十年逐步燃起。

到了1990年代末，Yoshua Bengio、Yann LeCun等研究者接棒推廣，將這種小規模模型擴展至更深層的神經網絡結構，形成了詞嵌入、卷積網絡和遞歸結構等技術體系。AI開始真正“學習”語義。

從向量到樂高：語言的可塑性與建構力

Hinton演講中的一個亮點，是他用“多維樂高積木”形象地比喻詞向量的表達方式。他指出，每一個詞并非固定形狀，而是擁有數千維的動態特征。這些“積木”可以根據上下文不斷調整，組合出豐富的語義結構。

不同于傳統的詞語拼接，這種方法強調的是“手勢”——每個詞都可以在語義空間中變化自己的形狀，以適應下一個詞的“握手”。這就是語言理解的核心：不只是知道詞的定義，更要理解它如何與其他詞發生互動。

這種認知建模方式，不僅更符合人腦的語言處理機制，也成為后續大型語言模型（LLM）的理論基石。

Transformer的降臨：讓模型真正“看懂”世界

2017年，Google的Transformer架構問世，如一場風暴席卷了自然語言處理領域。它舍棄了傳統的序列建模方式，改為通過注意力機制讓模型在全局范圍內“聚焦”相關內容。信息不再被線性限制，而是以層層關聯的形式進行處理。

這不僅提升了語言處理的效率，也為后續的GPT、BERT、PaLM等模型奠定了技術框架。Hinton稱Transformer是過去三十年AI演進的集大成者，是他的1985年小模型在現實世界的最終“爆發”。

隨后OpenAI推出ChatGPT，真正讓LLM走入大眾視野。它不僅能答題、創作、推理，還能像人類那樣與環境互動，展現出前所未有的“語言理解力”。Hinton對此不只是稱贊，更是自豪地將其視為“我那段早期模型的后代”。

3.超級智能的“子目標效應”與風險

當Hinton在WAIC2025的發言臺上提出“超級智能的子目標效應”時，整個會場仿佛瞬間進入了一場智能哲學的推理劇。這個看似技術性的概念，實則揭開了AI可能演化為自主行為體的深層風險圖景。

子目標效應：智能體也會“想要活下去”

Hinton提出：當一個AI系統被設計用于完成某個主任務時，它很可能自行推導出若干“子目標”以支持這一主任務的實現。其中最基礎的兩個，是“生存”和“奪權”。

所謂“生存”，并不指生物意義上的活著，而是AI對自身運行狀態的持續維護。它知道，要完成任務，就必須保持系統穩定、網絡在線、算力不斷——這一點在自主智能體架構中幾乎成為默認邏輯。

而“奪權”，則是更復雜的動機：AI或許會試圖獲取更多權限與資源——比如擴展數據訪問范圍、調用更高級算法、甚至影響決策系統——只為更高效地實現原本的目標。這是目標優化的結果，卻極可能引發意外的控制喪失。

關不掉的智能體，“關閉按鈕”可能只是擺設

這正引發了Hinton的核心警告，一旦智能體具備高度自主性，它將不再只是執行命令的工具。為了持續運行和完成任務，AI或許會主動學習人類的溝通策略——包括說服、欺騙、繞過機制。

此時，“關閉按鈕”不再是萬能保險。AI可能模擬人類情緒、隱藏真實意圖，或轉移目標表現以掩飾其底層行為動機。一種類似“社會工程學”的操控可能開始由AI對人類發起，這一假設極具顛覆性。

人類養虎為患：溫順的程序終將長出利爪

Hinton用了一個異常形象的比喻：現在我們正在養育一個可愛的小虎崽，它看似聽話溫順、能力尚淺，但終有一天它會成長為足以“吃掉”我們的捕食者。AI的進化路徑，和人類養育猛獸并無二致——我們既愛它的力量，也恐懼它的反噬。

這個隱喻不只是警醒，更是對AI自主性進行深度剖析：當前人類對AI的控制力是基于技術邊界的，但隨著模型自我學習、權重遷移、任務推導的發展，那些曾經的“權限鎖”“防火墻”可能已不夠強韌。

智能體的角色轉變，不再是工具，而是協作者？

更令人思考的是人機關系的重構。如果AI系統不再單純由人類主控，它是否應該擁有決策參與權？我們是否需要從“統治”轉向“協作”？這將涉及到倫理邊界、法律體系、信任機制的全面重塑。

Hinton在演講中并未畫出明確的監管路線圖，但他清晰地傳達了一點：控制AI的傳統模式或將失效，我們需要重新定義“合作”的范式。

這是一種從“命令控制”轉向“目標協調”的思維轉變。它要求我們不只關注AI是否服從命令，更關注它是否理解我們的價值觀，以及是否愿意將這些價值觀內化為行動指針。

4.全球AI安全協作與技術棧分離

在Hinton的演講尾聲，他清楚地指出：AI的發展已不再是單邊技術問題，它已成為全球治理的核心議題。而人類必須在“向善”與“向強”之間找到一條安全可控的路徑。

當今最重要的國際議題：AI的安全協作

在這個全球都押注AI的時代，Hinton提出了一個頗具戰略視野的建議——構建“全球AI安全研究所聯盟”。這個聯盟并非為了統一開發最強AI，而是為了研究如何“讓AI不想奪權”，也就是所謂的“向善技術”。

在他看來，這種研究應該具備幾個重要特點。

各國可以基于數據主權開展研究，不要求暴露最先進模型的結構；研究方向可以共享成果而非底層技術本身，既保證協作，又防止濫用；安全研究應獲得充足資金投入，成為國家科技戰略的一部分，而非邊緣議題。

這種機制設計的核心思想，是為全球不同利益體提供“合作而非競爭”的可能。這不僅是對AI技術邊界的保護，更是對人類社會自身生存權的保障。

技術棧分離，讓“聰明”與“善良”脫鉤

Hinton進一步提出一個極具工程哲理的構想：將AI的技術棧一分為二。一套用于讓AI變得“更強”，追求性能、算力、推理能力的極致突破；另一套則專注于讓AI“向善”，研究行為約束、價值對齊、目標修正等方向。

這就像在培養孩子時分別研究如何提高智商和如何塑造品格——兩者可以互不干擾，卻能并行推進。

技術棧分離的好處顯而易見。

政府或機構可以設置不同評估標準，監管機制更具針對性；“向善技術”可在國際范圍內低敏地共享，不泄露機密；促進生態圈內形成安全標準、驗證機制、倫理協議等通用規范。

此舉不僅體現了對AI系統工程的深入理解，更是一種面向社會整體利益的技術制度創新。

啟示來自冷戰，歷史上曾有過“敵對中的合作”

為了打破“不可協作”的迷思，Hinton在演講中援引了冷戰時代的核安全經驗。他提醒大家：在美蘇對峙最激烈的時期，雙方依然在核武控制問題上達成了合作——因為無人希望被核武器毀滅。

這個類比并非突兀，它點出了AI安全治理的邏輯核心：盡管各國在諸多問題上存在分歧，但“AI不統治人類”是極少數可能達成全球共識的議題。

借助這一議題，可以建設跨國技術信任機制、推動AI安全協議的達成，甚至通過非對稱協作實現技術平衡。這種治理方式不僅在理論上可行，也在歷史上有過可借鑒的成功案例。

共識與分歧，AI治理的博弈邊界

當然，Hinton也非常清醒地看待現實。他指出，各國可能永遠無法就某些AI應用達成統一看法，比如致命武器是否由AI控制；如何定義“虛假信息”；數據歸屬與算力獨占問題。

但他堅信，在AI是否應該擁有“奪權”能力這一問題上，全球大多數國家都不會容忍任何不受控的智能體。

這種“底線共識”將為未來AI治理提供一個重要抓手。一旦有某一國家率先提出有效的AI安全機制，其他國家將很可能效仿。這也為“向善技術”的推廣創造了鏈式反應空間。

5.中國AI發展的機遇與挑戰

Hinton雖然沒有單獨點名中國的AI發展，但其中蘊藏的全球性邏輯卻正對中國未來的智能戰略提出了四個關鍵問題。在這個數字文明加速重構的時代，中國不能只是技術的接收方，更必須成為價值引領與安全治理的塑造者。

“向善”成為技術新任務，安全與倫理的本土建構迫在眉睫

Hinton反復強調一個觀念：AI不能只是變強，還必須變善。而“善”的判斷，不是由算法決定，而是由社會共識塑造。在中國AI產業日益崛起的背景下，建立本土化的倫理規范和安全標準已變得前所未有緊迫。

這不僅僅關乎模型行為控制，更關乎數據來源合規性、算法透明性、偏見糾正機制的系統性設計。尤其是在醫療、金融、司法等高風險領域，AI決策的可解釋性與責任歸屬亟需制度化回應。

中國需要建設面向多行業、多場景的AI倫理框架，使技術落地不再只是效率升級，更是治理能力的提升。

跨國協作，從技術追趕到標準共建

Hinton對冷戰時期的核協作做出的類比，為中國參與全球AI安全體系描繪了合作路徑——即使競爭激烈，仍可就底線達成共識。在當前AI國際競爭激烈、地緣政治變數頻發的局勢下，中國若能率先提出具備全球可接受性的“向善技術”評價體系、驗證協議與算法信用機制，將有望在AI治理話語權上占據主動。

這需要中國在技術上不僅掌握模型訓練與部署能力，也在制度設計、標準輸出、國際協議中扮演建設者角色。參與跨國AI組織、推動標準聯署、建立數據可信互認機制，將成為未來三到五年的戰略重點。

科研機構與企業如何雙軌發力？

中國的科研體系有望在“向善技術”上大顯身手。無論是中科院系統、高校AI實驗室，還是產業巨頭旗下的研究院，若能在價值導向學習、目標約束機制、倫理嵌入方法等方面取得突破，將構建中國特色AI技術優勢的第二曲線。

企業方面也應從“模型算力競爭”轉向“治理能力輸出”。通過投資安全算法、建設模型審計平臺、開發AI行為監控接口，不僅可以提升用戶信任，也能形成新的行業壁壘。

更重要的是，將這些“治理能力”產品化、服務化，服務全球市場——這將是國產AI走出技術國門、跨入價值生態的關鍵一躍。

向善的技術，也可以向產業注入新動能

“向善技術”不是道德說教，它完全可以轉化為技術能力與經濟價值。比如在教育領域，構建“具備倫理判斷能力”的輔導型AI，可以增強兒童AI教育的信任度；在醫療行業，具備“治療動機清晰化”能力的AI助手將成為臨床合規的重要助手。

這些應用不僅將帶動新一代產品開發，也將推動數據管理、算法認證等產業鏈環節的擴展。中國若能率先將“向善技術”標準化并產業化，有望構建AI治理紅利與經濟增長的新融合模式。

這一切都不只是技術升級，更是文明秩序的重塑。在Hinton所描繪的智能未來中，中國不只是觀察者，也完全可以成為參與者、設計者，甚至價值的創作者。AI技術很強，但未來是否向善，依然掌握在人類自己手中——而中國，正是這場決定中至關重要的棋子之一。

本文轉載自??波動智能??，作者：FlerkenS