出品 | 51CTO技術棧（微信號：blog51cto）

本周巴黎人工智能行動峰會之前，許多科技界知名人士都提前亮出了他們對人工智能未來的愿景。

OpenAI 首席執行官 Sam Altman 也不例外， 今天更新了個人博客，提出了一些新概念或者新提法：比如“計算預算”（ compute budget），再比如“2035 年，任何人都應該能夠調動與 2025 年所有人的智能總和”。

“技術進步的歷史影響表明，我們關心的大多數指標（健康結果、經濟繁榮等）在平均水平和長期來看都會有所改善，但促進平等似乎并非由技術決定，要做到這一點可能需要新的想法，”Altman寫道。“特別是，資本和勞動力之間的權力平衡似乎很容易被打亂，這可能需要及早干預。”

這不是 Altman 第一次聲稱通用人工智能 (AGI) 即將問世。他將其定義為“能夠在眾多領域以人類水平解決日益復雜的問題的AI系統”。

Altman 警告說，無論采用何種形式，這種 AGI 都不會完美，因為它可能“需要大量的人類監督和指導”。奧特曼寫道：“AGI 系統不會有最偉大的新想法，它在某些方面會很出色，但在其他方面卻出奇地糟糕。”

但 Altman 斷言，AGI 的真正價值將來自于大規模運行這些系統。與 OpenAI 競爭對手 Anthropic 的首席執行官 Dario Amodei 類似，Altman 設想將有數千甚至數百萬個超能力 AI 系統處理“知識工作各個領域的任務”。

人們可能會認為實現這一愿景的成本很高。事實上，Altman 觀察到，“你可以花費任意數量的資金，并獲得持續且可預測的收益”來提高人工智能的性能。

這或許就是為什么 OpenAI 據報道正在商談在一輪融資中籌集高達 400 億美元的資金，并承諾與合作伙伴一起在一個龐大的數據網絡上投資高達 5000 億美元。

然而，Altman 還指出，使用“一定水平的人工智能”的成本每 12 個月下降約 10 倍。

換句話說，推動人工智能技術的邊界不會變得更便宜，但用戶將在此過程中獲得越來越強大的系統。

中國人工智能初創公司 DeepSeek 和其他公司推出的強大且價格低廉的人工智能模型似乎支持了這一觀點。有證據表明，訓練和開發成本也在下降，但 Altman 和 Amodei 都認為，要實現 AGI 級甚至更高級別的人工智能，需要大量投資。

至于 OpenAI 計劃如何發布 AGI 級別的系統（假設它確實可以創建這些系統），Altman 表示，該公司可能會做出“一些與 AGI 安全相關的不受歡迎的重大決定和限制”。OpenAI曾承諾，出于對安全的擔憂，它將承諾停止與任何“價值觀一致”、“安全意識強”、在它之前接近建立 AGI 的項目競爭，并開始協助這些項目。

當然，當時 OpenAI 打算保持非營利性。該公司正在將其企業結構轉變為更傳統的、以利潤為導向的組織。據報道， OpenAI 的目標是到 2029 年實現 1000 億美元的收入，相當于 Target 和雀巢目前的年銷售額。

鑒于此，Altman 補充說，OpenAI 在構建更強大的人工智能時的目標是“更加傾向于賦予個人權力”，同時防止“獨裁政府利用人工智能通過大規模監視和喪失自主權來控制其人口”。

Altman 最近表示，他認為 OpenAI 在開源技術方面站在了歷史的錯誤一邊。雖然 OpenAI 過去曾開源過技術，但該公司通常傾向于專有的閉源開發方法。

“人工智能將滲透到經濟和社會的各個領域；我們期望一切都變得智能，”Altman 說。“我們中的許多人預計需要給予人們比過去更多的技術控制權，包括更多的開源，并接受安全和個人賦權之間的平衡，這需要權衡。”

Altman 在腳注中還補充了OpenAI跟微軟的合同關系，OpenAI 實際上并不打算通過使用 AGI 一詞來在短期內結束與密切合作伙伴兼投資者微軟的關系。據報道，微軟和 OpenAI 對 AGI 有一個合同定義——可以產生 1000 億美元利潤的人工智能系統——一旦滿足這一定義，OpenAI 就可以協商更有利的投資條款。然而，Altman 表示，OpenAI“完全期待與微軟長期合作”。

以下是Altman博客全文：

我們的使命是確保人工通用智能（AGI）造福全人類。

開始指向AGI的系統已初現端倪，因此我們認為有必要理解我們所處的時刻。AGI是一個定義較為模糊的術語，但一般來說，我們將其視為能夠在多個領域以人類水平解決日益復雜問題的系統。

人類是工具制造者，天生就有理解和創造的驅動力，這使得世界變得對我們所有人都更好。每一代人都在前一代人的發現基礎上，創造出更強大的工具——電力、晶體管、計算機、互聯網，以及即將到來的AGI。

隨著時間的推移，盡管過程時斷時續，但人類創新的穩步發展帶來了前所未有的繁榮水平，并幾乎改善了人們生活的每一個方面。

從某種意義上說，AGI只是我們在共同構建的人類進步的不斷增高的腳手架中的另一種工具。從另一種意義上說，它標志著一種很難不說“這次不一樣”的事物的開始；我們面前的經濟增長看起來令人驚嘆，我們現在可以想象一個世界，在那里我們治愈所有疾病，有更多時間與家人共度，并充分實現我們的創造力。

在十年內，也許地球上的每個人都能完成比今天最具影響力的人更多的事情。

我們繼續看到人工智能開發的快速發展。以下是關于人工智能經濟學的三個觀察結果：

1.人工智能模型的智能大致等于用于訓練和運行它的資源的對數。

這些資源主要是訓練計算能力、數據和推理計算能力。似乎你可以投入任意數量的資金并獲得持續且可預測的收益；預測這一點的擴展定律在多個數量級上都是準確的。

2.使用給定水平人工智能的成本大約每12個月下降10倍，而更低的價格會導致使用量大幅增加。

你可以從2023年初的GPT-4到2024年中期的GPT-4o的代幣成本中看到這一點，在這段時間內，每個代幣的價格下降了大約150倍。摩爾定律以每18個月2倍的速度改變了世界；這簡直令人難以置信地強大。

3.線性增長的智能所帶來的社會經濟價值呈超指數級增長。

由此產生的一個結果是，我們看不到指數級增長的投資在不久的將來會停止的理由。

如果這三個觀察結果繼續成立，對社會的影響將是巨大的。

我們現在開始推出人工智能代理，這些代理最終會讓人感覺像是虛擬同事。

讓我們設想一下軟件工程代理的情況，這是一種我們預計特別重要的代理。設想這個代理最終將能夠完成大多數在頂級公司有幾年經驗的軟件工程師能夠完成的大部分任務，對于長達幾天的任務也是如此。它不會有最大的新想法，它需要大量的人類監督和指導，它會在某些事情上表現出色，但在其他事情上卻出人意料地糟糕。

然而，設想它是一個真實但相對初級的虛擬同事。現在設想有1000個這樣的代理。或者100萬個。現在設想在知識工作的每個領域都有這樣的代理。

在某些方面，人工智能可能會像晶體管在經濟上一樣——一項能夠大規模擴展并滲透到經濟幾乎每一個角落的重大科學發現。我們不太會去想晶體管，或者晶體管公司，而這些收益是非常廣泛地分布的。但我們確實期望我們的電腦、電視、汽車、玩具等能夠創造奇跡。

世界不會一下子改變；它從未如此。在短期內，生活大多會保持不變，2025年的人們大多會像2024年一樣度過時間。我們仍然會墜入愛河、組建家庭、在網上爭吵、徒步旅行等。

但未來將以一種無法忽視的方式向我們襲來，對我們社會和經濟的長期變化將是巨大的。我們會發現新的事情去做，新的方式為彼此提供幫助，以及新的競爭方式，但它們可能與今天的工作看起來非常不同。

自主性、意志力和決心可能會極其有價值。

正確決定做什么以及如何應對不斷變化的世界將具有巨大價值；韌性和適應性將是值得培養的技能。AGI將是人類意志力有史以來最大的杠桿，它將使個人能夠比以往任何時候都產生更大的影響，而不是更少。

我們預計AGI的影響將是不均衡的

。盡管一些行業可能變化不大，但科學進步可能會比今天快得多；AGI的這一影響可能會超過其他一切。

許多商品的價格最終將大幅下降（目前，智能和能源的成本限制了許多事情），而奢侈品和一些固有有限資源（如土地）的價格可能會更加戲劇性地上升。

從技術角度來看，我們面前的道路看起來相當清晰。但公眾政策和我們如何將AGI融入社會的集體意見非常重要；我們提前推出產品的一個原因就是為社會和技術提供共同進化的空間。

人工智能將滲透到經濟和社會的所有領域；我們將期望一切都能變得智能化。我們中的許多人期望需要比以往歷史上給予人們更多的對技術的控制權，包括更多地開源，并接受安全與個人賦能之間需要權衡的事實。

盡管我們永遠不想魯莽行事，而且可能會有一些與AGI安全相關的重大決策和限制措施會不受歡迎，但從方向上來說，隨著我們越來越接近實現AGI，我們相信傾向于更多地賦予個人權力是重要的；我們能看到的另一條可能的道路是，人工智能被威權政府用來通過大規模監控和失去自主性來控制其人口。

確保AGI的利益廣泛分配至關重要。技術進步的歷史影響表明，我們關心的大多數指標（健康結果、經濟繁榮等）平均而言和從長期來看都會變得更好，但促進平等似乎并不是由技術決定的，而要實現這一點可能需要新的想法。

特別是，資本和勞動之間的權力平衡很容易被破壞，這可能需要早期干預。我們對一些聽起來奇怪的想法持開放態度，比如給予每個人一些“計算預算”，以便地球上每個人都能使用大量人工智能，但我們也能看到很多方法，通過不斷將智能成本降低到盡可能低的水平，也能達到理想的效果。

到2035年，任何人都應該能夠調動相當于2025年所有人智力總和的智力能力；每個人都應該能夠獲得無限的智慧，并按照他們能想象的任何方式加以利用。目前有很多人才沒有足夠的資源來充分展現自己，如果我們改變這一點，世界由此產生的創造性產出將為我們所有人帶來巨大的好處。

特別感謝 Josh Achiam、Boaz Barak 和 Aleksander Madry 審閱本文草稿。

*我們在這里使用 AGI 一詞，旨在清晰地溝通，我們無意改變或解釋定義我們與微軟關系的定義和流程。

我們完全期待與微軟長期合作。這個腳注看起來很愚蠢，但另一方面，我們知道有些記者會試圖通過寫一些愚蠢的東西來獲得點擊量，所以我們在這里先發制人……

參考鏈接：?? https://blog.samaltman.com/three-observations??

?本文轉載自??51CTO技術棧??