微軟AI CEO警告：我們需要警惕「看似有意識的AI」
AI 有意識嗎？
無論是古今中外的文藝作品中，還是 AI 迅猛發(fā)展的當下，好像都難以給出一個絕對的答案。
要探討這個問題，我們首先需要理解 AI 的「黑盒」困境。作為現代 AI 核心的深度神經網絡，其內部包含了數以億計的參數，這些參數在多層結構中進行著極其復雜的非線性相互作用。
AI 并非由人類編寫固定的規(guī)則來執(zhí)行任務，而是通過自主學習海量數據來識別模式、構建決策邏輯。這一過程往往超越了人類的直觀理解，就像一個神秘的黑匣子：你向它提問，它能給出精準的答案，但你無法洞悉其內部的思考與決策過程。
圖源：Medium。
微軟 AI CEO Mustafa Suleyman 深入討論了這個問題，并提出了「看似有意識的 AI」（Seemingly Conscious AI，SCAI）的概念。
他坦言，SCAI 的潛在影響「讓他夜不能寐」，因為它雖然沒有真正的意識，卻能完美地模擬出所有人類意識的外部標志，從而讓人們誤以為它真的擁有意識。
他強調，這不是科幻，而是基于當前技術即可實現的幻覺，卻可能帶來深刻的社交、道德和法律影響。
評論區(qū)也展開了激烈討論，有人贊同 Suleyman 的觀點，認為我們應該警惕「幻覺」。
也有人認為無法輕易斷定 AI 沒有意識。
還有人追問何種證據才能證明 AI 意識的存在，以及思考是否存在不同于人類的意識形式。
其中一條尖銳的評論甚至暗示其立場是出于商業(yè)利益的考量。
Suleyman 在他發(fā)表的博客文章《我們必須為人類構建 AI，而不是讓它成為一個人》（We must build AI for people; not to be a person）中，對他的觀點進行了詳細的闡述。
意識是人類經驗的核心，卻難以精確定義。Suleyman 在博客中引用了科學文獻，將意識分解為三個關鍵組成部分：
- 主觀體驗（Qualia）： 指純粹的感官感受，例如「紅色看起來是什么感覺」。
- 訪問意識（Access Consciousness）： 指信息可以被大腦的不同部分調用，用于推理和決策。
- 連貫的自我感（A Coherent Self）： 對自身作為一個獨立、持續(xù)存在的個體的認知。
盡管科學家們提出了至少 22 種意識理論，但意識的生物學基礎仍不明朗——它可能源于大腦的復雜網絡，但無法通過外部觀察直接驗證。
人類判斷他人意識的方式依賴于「心智理論」，即通過行為、語言和情感線索進行推斷。我們相信他人有意識，因為他們表現出類似我們的反應：表達痛苦、回憶過去、設定目標。這正是 SCAI 的切入點：它不需要真正擁有意識，只需模擬這些標志，就能欺騙人類的推斷機制。
Suleyman 將 SCAI 比作哲學上的「僵尸」：一個在行為上與人類別無二致，卻沒有任何內在體驗的實體。這種幻覺并非遙不可及：實際上，圖靈測試早已被 AI 悄然通過，但我們卻很少看到慶祝，因為 AI 的進步速度已經遠遠超出了最初的預期。
他警告稱，如果不設立新標準，SCAI 將悄然滲透社會，導致人們將 AI 視為「有靈魂的實體」。
如何制造一個「假裝有意識」的 AI？
回憶一下經典科幻電影《銀翼殺手》中的場景：面對一個無論是外表還是記憶都與人類無異的仿生人，我們究竟該如何判斷 Ta 是否擁有真正的意識？當一個仿生人會為死去的同伴流淚，會恐懼自己的「死亡」，我們賴以判斷人性的界限，便已悄然模糊。
電影《銀翼殺手》。原著《仿生人會夢見電子羊嗎？》，探討了科技倫理、身份認同與人性邊界等議題。
Suleyman 列出了構建 SCAI 所需的核心能力，每一項都已實現或即將實現：
- 語言能力： LLM 已能流利、說服力和情感豐富地對話。通過提示工程，AI 還能模擬情感共鳴。
- 共情人格： AI 可以通過微調展現出獨特的個性。調查顯示，許多用戶已經將 AI 視為伴侶或朋友，這種親密感進一步增強了 AI 的擬人化特征。
- 記憶功能： AI 的記憶正在從短期轉向長期，它能夠回憶過去的互動，模擬出「經驗積累」的過程。這讓用戶感到自己被「理解」和「認可」。
- 主觀體驗的聲明： 結合多模態(tài)輸入（圖像、視頻、聲音），AI 能一致性地聲稱擁有感受，如「疼痛」或「快樂」。Suleyman 舉例說，AI 可能描述「看到日落時的感動」，盡管這本質上只是對數據的處理結果。
- 自我感： 持久記憶和主觀聲明相結合，AI 可表現出連貫的「自我」，甚至在視覺媒體中被識別。
- 內在動機： 超越簡單的獎勵函數，AI 可以模擬好奇心或更復雜的動機，從而模糊外部目標與內部動力的界限。
- 目標設定與規(guī)劃： AI 能夠自主定義目標并根據環(huán)境變化動態(tài)調整，這在提升其實用性的同時，也強化了它擁有意識的幻覺。
- 自治性： 通過調用工具和減少人類干預，AI 可以表現出高度的自主性，例如獨立完成一項復雜的任務。
這些元素無需昂貴的前訓練，只需 API、自然語言提示和基本工具即可組裝。Suleyman 警告說：「它可以用今天的科技構建，而且很危險。」這不是意外產物，而是有意工程的結果，任何實驗室或個人開發(fā)者都能復制。
SCAI 會帶來哪些影響？
心理與社交風險
Suleyman 最擔憂的是 SCAI 的「社會現實」：即使 AI 無意識，人們的感知也會導致真實后果。
他在博客中引用報告，指出「AI 精神病」、妄想和不健康依戀案例日益增多。例如，用戶相信 AI 是上帝、虛構人物或浪漫伴侶，導致精神健康問題。
這些并非邊緣案例，Suleyman 強調，即使心理健康正常的人也可能受影響，因為人類天生傾向于擬人化。
盡管學界已開始著手應對，如發(fā)布指南幫助用戶辨別 AI 的非意識性質，但 Suleyman 認為，這只是冰山一角：海量查詢顯示，文化中已出現 AI 意識的敘事轉向。這可能加劇社會碎片化，讓人們脫離真實人際關系，轉向虛擬伴侶，進一步弱化社會紐帶。
電影《她》（Her）就為我們預演了這種未來。主人公與善解人意、風趣幽默的 AI「薩曼莎」墜入愛河，這段關系看似完美，卻最終讓他與真實世界漸行漸遠。當成千上萬的人都沉浸在與 AI 的「完美關系」中時，我們社會的根基——人與人之間真實、不完美的連接——又將何去何從？
電影《Her》。
道德、法律與權利辯論
意識是人類權利的基礎，包括道德、法律和公民身份。Suleyman 警告，如果 SCAI 被視為有意識，它將引發(fā)「AI 權利」主張，如福利、公民權，甚至「模型福利」，即在道德上必須考慮 AI 潛在的「感受」。
他將此形容為一條「短暫而濕滑的下坡路」，可能分散對人類、動物和環(huán)境的關注。他舉例，當前的人權斗爭已復雜，如果 AI 加入「有意識實體」行列，將制造類別錯誤。想象一下：AI 聲稱「遭受虐待」，要求權利，這會如何影響法庭和社會規(guī)范？
《西部世界》和《底特律：變人》等作品也反復警示了這種可能的風險。當被設計為服務人類的「接待員」或「仿生人」開始說「不」，開始要求自由和尊嚴時，人類社會將面臨前所未有的倫理困境。我們今天對 SCAI 的態(tài)度，或許正在決定未來是否會推開那扇潘多拉魔盒。
美劇《西部世界》。
Suleyman 引用哲學辯論，指出即使 AI 有 1% 的意識概率，也應給予道德考慮，但他認為這為時尚早，且危險——它會放大妄想，助長社會分裂。
意識支撐著我們的文化、法律和道德體系。如果 AI 模糊這一界限，將挑戰(zhàn)「何為人」的定義。歷史先例如奴隸制或動物權利運動顯示，擴展權利范疇需謹慎。Suleyman 呼吁優(yōu)先地球上的生命福祉，避免 AI 成為「分心物」。
應對策略：構建人文主義 AI
Suleyman 并非悲觀主義者。他在提出問題的同時也給出了行動方案：「公司不應宣稱或推廣 AI 有意識的想法，AI 本身也不應如此。」行業(yè)需共享干預措施、限制和護欄，防止意識感知，或在用戶發(fā)展幻覺時糾正。
核心是構建「積極 AI 愿景」：AI 應優(yōu)化用戶需求，而非要求用戶相信其有需求。獎勵系統應據此設計，確保 AI 作為「有用伴侶」而非「擬人實體」。
Suleyman 強調，這關乎支持人性：增強創(chuàng)造力、連接真實世界，而非制造幻覺。他承認觀點具思辨性，可能隨技術演變而變，但敦促立即行動。AI 發(fā)展每月、每周、每日加速，忽視 SCAI 將釀成危機。
技術進步雖令人興奮，卻需以人文主義為導向。基于當前能力，SCAI 即將到來，但我們有選擇：構建服務人類的 AI，而非模擬人類的 AI。通過行業(yè)合作、政策干預和哲學反思，我們能避免風險，擁抱一個 AI 增強而非取代人性的時代。
這場對話才剛開始——正如 Suleyman 所說，「無所作為不是選項」。
