山姆?奧特曼開(kāi)始反思了。

2025 年到來(lái)還不到 1 周時(shí)間，在剛剛接受了彭博社專訪之后不久，這位著名卻又備受爭(zhēng)議的 CEO 又發(fā)布了一篇題為「反思」的博客文章；其中回顧了 ChatGPT 的發(fā)展歷程，并尤其強(qiáng)調(diào)了 OpenAI 創(chuàng)立以來(lái)他們面臨的各種「沖突和誤解」。

他表示，之前的解雇事件是善良的人進(jìn)行治理的一個(gè)巨大失敗（a big failure of governance by well-meaning people）。他還表示，現(xiàn)在他們已經(jīng)知道如何構(gòu)建 AGI 了。

反思

一個(gè)多月前，ChatGPT 剛剛過(guò)了 2 歲生日，而現(xiàn)在我們已經(jīng)進(jìn)入了下一個(gè)能實(shí)現(xiàn)復(fù)雜推理的模型范式。新年的到來(lái)總會(huì)讓人忍不住反思，我也想要分享一些個(gè)人的想法，涉及到迄今為止的發(fā)展情況以及我一路上學(xué)到的東西。

隨著我們離 AGI 越來(lái)越近，感覺(jué)是時(shí)候?qū)徱曇环覀児镜陌l(fā)展情況了。需要理解的東西還有很多，未知也還有很多，目前仍是早期階段。但我們現(xiàn)在知道的東西已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)一開(kāi)始的時(shí)候了。

大概九年前，我們創(chuàng)立了 OpenAI，因?yàn)槲覀兿嘈?AGI 可能實(shí)現(xiàn)，而且這會(huì)成為人類歷史上最具影響力的技術(shù)。我們想弄清楚如何構(gòu)建它并使其廣泛造福世界；我們激動(dòng)地想要在歷史上留下我們的印記。我們志向遠(yuǎn)大，我們也相信這項(xiàng)工作可能會(huì)以同樣非凡的方式造福社會(huì)。

那時(shí)候，很少有人關(guān)注我們，就算關(guān)注，也主要是因?yàn)樗麄冋J(rèn)為我們沒(méi)有機(jī)會(huì)成功。

2022 年，OpenAI 還是一個(gè)安靜的研究實(shí)驗(yàn)室，正在研究一個(gè)暫時(shí)被稱為「與 GPT-3.5 聊天」的東西。（相比于起名，我們更擅長(zhǎng)研究。）我們一直在觀察人們使用我們 API 的 playground 功能，并且知道開(kāi)發(fā)者真的很喜歡與模型交談。我們想著可以圍繞這種體驗(yàn)構(gòu)建一個(gè)演示，向人們展示一些關(guān)于未來(lái)的重要信息，并幫助我們使我們的模型變得更好、更安全。

最后，我們?yōu)槠淦鹈?ChatGPT，并在 2022 年 11 月 30 日發(fā)布了它。

一直以來(lái)我們都隱約明白，我們會(huì)在某個(gè)時(shí)候到達(dá)某個(gè)臨界點(diǎn)，AI 革命將就此開(kāi)始。但我們不知道那究竟會(huì)是何時(shí)。令我們驚訝的是，ChatGPT 就是那個(gè)臨界點(diǎn)。

ChatGPT 啟動(dòng)了一條我們前所未見(jiàn)的增長(zhǎng)曲線 —— 不管是在我們公司，還是這個(gè)行業(yè)，或者整個(gè)世界。我們終于看到了我們一直希望從 AI 獲得的巨大好處，而且我們可以看到很快將會(huì)到來(lái)的遠(yuǎn)遠(yuǎn)更多好處。

這并不容易。道路并不平坦，也沒(méi)有顯而易見(jiàn)的正確選擇。

在過(guò)去的兩年里，我們不得不圍繞這項(xiàng)新技術(shù)幾乎從頭開(kāi)始建立一家公司。我們沒(méi)有培訓(xùn)人們?yōu)榇俗龊脺?zhǔn)備的辦法，只能親自上手去做，而且這是一個(gè)全新的技術(shù)類別，根本沒(méi)有人能告訴你應(yīng)該怎么做。

培訓(xùn)如此之少，又必須以非?？斓乃俣葮?gòu)建一家公司，于是一切都變得混亂不堪。我們經(jīng)常出現(xiàn)前進(jìn)兩步又倒退一步的情況（有時(shí)候甚至前進(jìn)一步倒退兩步）。我們會(huì)在前進(jìn)路上糾正錯(cuò)誤，但對(duì)于這種沒(méi)有先例的工作，我們實(shí)際上沒(méi)有任何手冊(cè)或指南。在未知的水域快速航行是一種令人難以置信的體驗(yàn)，但對(duì)所有玩家來(lái)說(shuō)也是一種巨大的壓力。沖突和誤解如影隨形。

這些年是我迄今為止人生中度過(guò)的回報(bào)最多、最有趣、最美好、最緊張，尤其是過(guò)去兩年最不愉快的時(shí)光。我心中充滿了感激。我知道自己有一天會(huì)退休，「在我們的牧場(chǎng)看著植物生長(zhǎng)」，會(huì)有點(diǎn)無(wú)聊，也會(huì)感慨自己能做從小就夢(mèng)想的工作是多么酷。我試著在任何一個(gè)周五記住這一點(diǎn)，即使到下午 1 點(diǎn)就會(huì)有七件事變得很糟糕。

一年多前的一個(gè)周五（2023 年 11 月 18 日），最不順心的事就是我在視頻通話中被突然解雇。然后剛掛斷電話，董事會(huì)就發(fā)布了一篇關(guān)于此事的官宣文章。當(dāng)時(shí)我在拉斯維加斯的一間酒店房間里，那種感覺(jué)幾乎無(wú)法解釋，就像一場(chǎng)夢(mèng)境出錯(cuò)了。

毫無(wú)征兆地在公眾面前被解雇，這開(kāi)啟了幾個(gè)小時(shí)的瘋狂，以及此后相當(dāng)瘋狂的幾天。最奇怪的是「戰(zhàn)爭(zhēng)迷霧」（誰(shuí)主導(dǎo)了此次事件）。我們當(dāng)中沒(méi)有人能得到關(guān)于「發(fā)生了什么」或「為什么發(fā)生」的滿意答案。

在我看來(lái)，整個(gè)事件是包括我在內(nèi)的善良的人治理的巨大失敗?；厥淄?，我當(dāng)然希望自己能做些不同的事情，而且我相信自己今天比一年前是一個(gè)更好、更有思想的領(lǐng)導(dǎo)者。

我還學(xué)習(xí)到，在管理一系列復(fù)雜挑戰(zhàn)時(shí)，擁有多元化觀點(diǎn)和豐富經(jīng)驗(yàn)的董事會(huì)的重要性。良好的治理需要很大的信任和可信度。我很欣賞這么多人共同努力為 OpenAI 建立更強(qiáng)大的治理體系，這使我們能夠追求「確保 AGI 造福全人類」的使命。

我最大的收獲是：我要感謝很多人。感謝在 OpenAI 工作并花費(fèi)時(shí)間和精力追求夢(mèng)想的每一個(gè)人，感謝幫助我們度過(guò)危機(jī)時(shí)刻的朋友，感謝支持并信任我們幫助他們?nèi)〉贸晒Φ暮献骰锇楹涂蛻?，感謝我生命中向我展示他們有多關(guān)心我的人。

我們都以更加團(tuán)結(jié)和積極的方式重新投入工作，我為我們從那時(shí)起的專注感到非常自豪。我們所做的研究無(wú)疑是有史以來(lái)最好的研究。OpenAI 的周活躍用戶從大約 1 億增長(zhǎng)到 3 億多。最重要的是，我們繼續(xù)將人們真正喜歡的技術(shù)推向世界，并解決實(shí)際問(wèn)題。

九年前，我們真的不知道自己最終會(huì)變成什么樣子；即使是現(xiàn)在，我們也只是略知一二。人工智能的發(fā)展經(jīng)歷了許多轉(zhuǎn)折，我們期待未來(lái)會(huì)有更多轉(zhuǎn)折。

其中一些轉(zhuǎn)折讓人欣喜，一些轉(zhuǎn)折讓人心酸?？粗丛床粩嗟难芯科孥E出現(xiàn)，很多反對(duì)者變成了真正的信徒，這很有趣。我們也看到一些同事分道揚(yáng)鑣，成為競(jìng)爭(zhēng)對(duì)手。團(tuán)隊(duì)往往會(huì)隨著規(guī)模的擴(kuò)大而更替，而 OpenAI 的規(guī)模擴(kuò)大得非常快。我認(rèn)為這其中有些是不可避免的：初創(chuàng)公司通常會(huì)在每一個(gè)新的主要規(guī)模級(jí)別上出現(xiàn)大量人員流動(dòng)，而在 OpenAI，每隔幾個(gè)月就會(huì)有數(shù)量級(jí)的人員流動(dòng)。過(guò)去的兩年就像是普通公司的十年。當(dāng)任何一家公司發(fā)展壯大得如此之快時(shí)，利益自然會(huì)產(chǎn)生分歧。而當(dāng)任何一家公司在重要行業(yè)處于領(lǐng)先地位時(shí)，很多人都會(huì)出于各種原因攻擊它，尤其是試圖與其競(jìng)爭(zhēng)時(shí)。

我們的愿景不會(huì)改變，但我們的策略會(huì)不斷發(fā)展。例如，當(dāng)我們開(kāi)始創(chuàng)業(yè)時(shí)，我們根本不知道我們必須建立一家產(chǎn)品公司；我們以為我們只是要做偉大的研究。我們也不知道會(huì)需要如此瘋狂的資金?，F(xiàn)在，我們必須去建立一些幾年前我們還不了解的新事物，未來(lái)還會(huì)有我們現(xiàn)在幾乎無(wú)法想象的新事物。

我們?yōu)槠駷橹沟难芯亢筒渴鹩涗浉械阶院?，并致力于繼續(xù)推進(jìn)我們?cè)诎踩屠婀蚕矸矫娴乃伎肌Ｎ覀兪冀K認(rèn)為，確保人工智能系統(tǒng)安全的最佳方式是迭代式地逐步將其推向世界，讓社會(huì)有時(shí)間適應(yīng)該技術(shù)并與之共同發(fā)展，從經(jīng)驗(yàn)中吸取教訓(xùn)，不斷提高該技術(shù)的安全性。我們相信，在安全和調(diào)整研究方面成為世界領(lǐng)先企業(yè)，并通過(guò)實(shí)際應(yīng)用的反饋來(lái)指導(dǎo)研究工作，是非常重要的。

我們現(xiàn)在確信，我們已經(jīng)知道如何構(gòu)建我們傳統(tǒng)上理解的 AGI 了。我們相信，在 2025 年，我們可能會(huì)看到第一批 AI Agent「加入勞動(dòng)力大軍」，并實(shí)質(zhì)性地改變公司的產(chǎn)出。我們?nèi)匀幌嘈?，不斷地將?yōu)秀的工具交到人們手中，會(huì)帶來(lái)偉大的、影響廣泛的成果。

我們開(kāi)始把目標(biāo)轉(zhuǎn)向更遠(yuǎn)的地方，轉(zhuǎn)向真正意義上的超級(jí)智能。我們熱愛(ài)我們現(xiàn)有的產(chǎn)品，但我們?cè)谶@里是為了輝煌的未來(lái)。有了超級(jí)智能，我們可以做任何其他事情。超級(jí)智能工具可以大大加快科學(xué)發(fā)現(xiàn)和創(chuàng)新的速度，遠(yuǎn)遠(yuǎn)超出我們自己的能力，進(jìn)而大大增加財(cái)富和繁榮。

這聽(tīng)起來(lái)就像科幻小說(shuō)，甚至說(shuō)起來(lái)都有點(diǎn)瘋狂。沒(méi)關(guān)系，我們?cè)?jīng)經(jīng)歷過(guò)，也愿意再次經(jīng)歷。我們堅(jiān)信，在未來(lái)幾年里，每個(gè)人都會(huì)看到我們所看到的一切，我們必須謹(jǐn)慎行事，同時(shí)最大限度地?cái)U(kuò)大受益面和賦權(quán)，這一點(diǎn)非常重要。鑒于我們工作的可能性，OpenAI 不可能是一家普通的公司。

能夠在這項(xiàng)工作中發(fā)揮作用，我感到非常幸運(yùn)和謙卑。

在那幾天里，有很多人為幫助 OpenAI 和我個(gè)人做了大量令人難以置信的工作，但有兩個(gè)人脫穎而出。

Ron Conway（注：硅谷著名天使投資人）和 Brian Chesky（注：Airbnb 聯(lián)合創(chuàng)始人兼首席執(zhí)行官）的工作遠(yuǎn)遠(yuǎn)超出了我的職責(zé)范圍，我甚至不知道該如何形容。當(dāng)然，Ron 的能力和堅(jiān)韌不拔的精神我早有耳聞，在過(guò)去的幾年里，我花了很多時(shí)間和 Brian 在一起，獲得了大量的幫助和建議。

但是，沒(méi)有什么能比得上與人們一起在散兵坑里看看他們到底能做些什么。我有理由相信，如果沒(méi)有他們的幫助，OpenAI 早就分崩離析了。他們夜以繼日地工作了好幾天，直到事情完成。

雖然他們的工作辛苦得令人難以置信，但他們始終保持冷靜，有著清晰的戰(zhàn)略思維和很好的建議。他們阻止了我犯的幾個(gè)錯(cuò)誤，自己卻沒(méi)有犯任何錯(cuò)誤。他們利用自己廣闊的人際關(guān)系網(wǎng)為我提供一切所需的服務(wù)，并能在許多復(fù)雜的情況下游刃有余。我相信他們還做了很多我不知道的事情。

不過(guò)，我最難忘的還是他們的關(guān)懷、同情和支持。

我以為我知道支持一位創(chuàng)始人和一家公司是什么樣子，在某種意義上，我確實(shí)知道。但我以前從未見(jiàn)過(guò)，甚至從未聽(tīng)說(shuō)過(guò)這些人所做的任何事情，現(xiàn)在我更充分地理解了他們擁有傳奇地位的原因。他們與眾不同，都完全配得上自己真正獨(dú)特的聲譽(yù)，但他們?cè)谝粕教詈?、助人為?lè)方面的非凡能力，以及在需要時(shí)堅(jiān)定不移的承諾，卻又是相似的。有他們兩位在，科技行業(yè)會(huì)更好。

像他們這樣的人還有很多。這是我們這個(gè)行業(yè)的一個(gè)了不起的特殊之處，他們?yōu)檫@個(gè)行業(yè)的發(fā)展做出的貢獻(xiàn)遠(yuǎn)比人們意識(shí)到的要多得多。我期待著將這種精神發(fā)揚(yáng)光大。

就我個(gè)人而言，我要特別感謝 Ollie 在那個(gè)周末以及一直以來(lái)對(duì)我的支持。他在各方面都非常出色，沒(méi)有人可以找到比他更好的 partner。

博客鏈接：https://blog.samaltman.com/reflections