AI可能產生意識嗎？

如果可能，大概會在什么時間？

微軟AI CEO Mustafa Suleyman認為有可能誕生「看似有意識的AI」，而且最快可能在18個月內出現：

未來5年很有可能，18個月內也有一定可能性。

在近日的一次對話中，主持人Sinead Bovell問「看似有意識」的AI可能在什么時候出現，Suleyman給出了如上回答。

Sinead Bovell（左）與Mustafa Suleyman（右）在《I've Got Questions》欄目對話中

Suleyman曾多次談及AI意識的話題。

雖然他認為目前沒有任何可靠證據表明AI真正具有意識、痛苦、主觀體驗等特性，但他也認為「Seemingly Conscious AI（看似有意識的AI)」即將到來，而且對此采取「預防原則」是正確的。

Suleyman博客文章《看似有意識的AI》

AI意識與AI人格工程

目前，包括OpenAI、Anthropic、Google DeepMind在內的全球頂尖AI實驗室，都在積極推動AI人格的相關研究：

如AI的模范行為規范、可控人格、價值對齊等。

通過對各大實驗室和開源社區的研究，Suleyman列舉了以下幾種AI能力可能會讓AI看起來更像有意識：

• 連貫記憶：必須有一致而連貫的記憶，能真正引用自己過去的經歷，這是必要的第一步。
• 共情交流：能用自然語言以共情的方式交流。
• 主觀體驗：能提到自己的主觀體驗，并把這種體驗融入日常對話中形成一種持續的體驗流。
• 持續互動：不再只是一次性問答，而是像人類交流一樣持續互動，同時有源源不斷的感知流入。

雖然列出了這些AI意識的關鍵特征，但Suleyman并不贊在對AI設計時，過于強化和模擬這些「意識體驗」的特征：

「這樣既沒必要，也很危險。」

關于AI，Suleyman有一個核心原則：

AI的定位是人類的伙伴，它的價值是幫助人類變得更聰明、更高效，而不是要讓AI變得更像我們。

如何劃定AI和人類的界限？Suleyman提出了兩個原則：

首先，AI至少不應當聲稱自己有意識、有人格。比如，模型不應該說自己會「受苦」。

AI沒有生物的「痛覺網絡」，所以盡管AI可以逼真地模仿人類，但它的底層并沒有多巴胺、血清素，并不會不斷積累體驗。

如果過于強化模擬人類意識，只會增加風險和復雜性。

第二，不要給AI設計復雜的「動機」。

Suleyman一直在呼吁構建一個積極的AI愿景，以支持人類的本質與價值。

AI的動機只應當是服務人類，而不是讓用戶認為它自己也有需求。「如果為AI設計欲望或意志，同樣只會增加風險，這將與個人、社會發生沖突。」

Sinead Bovell：幾億年來進化讓我們習慣把意識歸因于任何看起來像有意識的東西。如果讓你給出一個時間點，你認為什么時候人們會把意識歸因于這些看似有意識的AI系統？

Suleyman：未來5年很可能，18個月也有一定可能性。

Suleyman補充道，要實現這一點并不需要算法上的突破，這是一個工程設計上的問題。

當AI 說「我」的時候，到底是什么意思？

Sinead Bovell：當AI說「我」的時候，到底是什么意思？

Bovell問到了一個有關AI意識的核心問題，這個問題讓Suleyman談起他此前的創業經歷。

在ChatGPT推出之前，Suleyman曾在谷歌做聊天機器人LaMDA。

后來，Suleyman離開谷歌后創辦了Inflection，做了一個叫Pi（Personal Intelligence）的AI產品。

在這個產品的設計上，Suleyman想要盡可能誠實地告訴用戶AI與人類的邊界——它是什么，不是什么。

因此他們做了「無性別」的聲音，但用戶卻認為這太奇怪，他們只是想要讓聲音聽起來更熟悉。

這也讓Suleyman意識到「AI人格」的重要性。

于是他開始做「人格工程」，想要設計出這種「模擬人格」的體驗。

在這個過程中，如何明確AI的邊界和限制才是真正的挑戰。

「AI的存在是為了支持和幫助你，而不是把你拉進某種平行宇宙」，Suleyman說。

近段時間以來，ChatGPT等AI工具的使用也帶來了諸如「AI精神病」，以及離婚、失業等相關社會問題。

反推到AI設計層面，到底出現了哪些問題？

Suleyman認為AI工具也和藥物一樣，都有自己的副作用：

不管怎樣調整AI的性格，它總會有副作用，你只能選擇其中一種風險。

正如GPT-5剛上線時，曾被吐槽不像GPT-4o那樣有更有「人格溫度」，最后OpenAI不得不為GPT-5更新性格，使其感覺比當前的性格更溫暖。

這說明用戶對于模型人格產生的「依戀感」，已經成為設計AI產品必須重視的問題。

正如Suleyman觀察到的那樣，大家慢慢意識到讓模型更溫和、更迎合人類，這樣才更安全。

什么是理想的「AI伴侶」？

幾個月前，Suleyman在《時代》雜志上寫了一篇關于AI伴侶的評論文章， 談到AI伴侶如何改變我們的生活。

https://time.com/7204530/ai-companions/

在文中，Suleyman將AI伴侶定義為一種助手、朋友或者支持者，它能夠以你喜歡的語言和方式，傳遞給你最優秀的知識，幫你學習、成長、改變，真正支持你的生活。

這也是他致力于AI的一個動力：

用技術向更多人提供「耐心和善意」。

Suleyman談到AI最大的用途之一就是陪伴與心理療愈。

「AI伴侶可以像一個教授、律師、醫生、好朋友甚至心理治療師，24小時待在你口袋里，隨時響應你、支持你。」

當然，這樣看似全能的AI伴侶發揮作用的前提，是要設立與人類清晰的邊界，建立信任感、確保安全距離。

推動AI伴侶融入人類生活的不是一個突然到來的「奇點」，而是自然語言交互模式的普及。

以ChatGPT為代表的AI工具推動AI伴侶逐漸融入我們日常使用的各種平臺工具，最終成為人類的「第二天性」。

在Suleyman的定義中，AI伴侶不止是「陪伴」工具，還可以成為生產力工具，比如充當他的研究搭檔：

「不止是情感支持，而是實打實的效率提升。」

提到AI伴侶，大家還會比較關注「AI 女朋友」和「兩性關系」話題。

Suleyman談到在這個問題上，微軟的態度上是十分保守的。

如果用戶在聊天時提到了「我喜歡」這樣的曖昧詞匯，系統就會立刻警覺起來。而這也正是「安全人格」設計的體現，是「信任」的核心：

「信任就是建立邊界。」

我們早已是「增強人類」了

AI將成為下一代職場工具，AI智能體、AI伴侶將成為每個人職業身份的延伸。

談到這里，Suleyman使用了一個非常形象的比喻：

它就像水或粘土那樣，能貼合你的形狀、補你所短。

AI可以幫助我們完成不擅長或不喜歡做的事，讓我們可以騰出空間專注于自己真正熱愛的領域。

Suleyman表示，AI可以圍繞人類的強項和弱點進行適配，未來三四年內將成為人類的「第二大腦」。

這個「第二大腦」可以與人類共生，可以儲存人類的想法、經歷等，還能調用人類歷史上的所有知識。

所有這些加持，將使人類變成一個「迷你超級個體」，從而具備非凡的能力。

這正是Suleyman所描繪的「增強人類」的圖景，最終也將帶來工作場景的顛覆性變化。

比如，在辦公室AI將能理解你所有的工作文件、同事交流、組織結構，這將為人類的工作，尤其是白領的工作帶來革命性的改變。

處于這樣一個劃時代技術落地的轉折點，Suleyman認為不要帶有先入為主的觀念，而是要親自動手去體驗AI，這樣才能真正理解它，而不是預先帶著偏見去評判。

「無論是對AI抱持卡通式恐懼，還是盲目樂觀，都容易忽視它的復雜性和微妙之處。」

正如印刷術的出現，最初只是為了印制更多的《圣經》，最終卻催生了一個全新的世界。

AI的真正影響將遠遠超出我們今天的想象。

談到AI的變革，Suleyman認為主導者并不是科技圈的人，他們只是在開發通用工具，而真正去定義這些工具的邊界、限制和安全護欄的，是每一個使用者。

人類對AI的探索，正走在一條非常狹窄且充滿變數的道路上，「稍不留神就會走偏」，Suleyman說。