許多AI大佬都給我們畫過同樣的餅——AI可以成為科學家。

不僅如此，根據他們的說法：諾獎級AI近在眼前，屆時所有的研發工作將被自動化，世界也會因為各種科學突破變得愈發繁榮和美好。

OpenAI奧特曼曾表示，AI 可能會像晶體管一樣，成為一種可廣泛擴展并滲透到經濟各個角落的重大突破。雖然他的觀點較為溫和，但他仍然認為 AI 在推動科學進步方面的影響“將超越其他一切”。

DeepMind CEO Demis Hassabis 也對 AI 在研發領域的影響持樂觀態度。他在最近的一次采訪中具體闡述了 AI 可能帶來的變革機制：AI 或可治愈所有疾病，并“解決能源問題”。他還提到 AI 可能帶來“極端的富足”（radical abundance），但除了科學研發這一渠道之外，他并未指出 AI 還能通過哪些方式實現這一目標。

最激進的莫過于Anthropic 的CEO，Dario Amodei。他在最近的一次采訪中表示，他有70~80%的信心，AI還能保持指數增長，并在四年內成功達到諾貝爾獲獎者水平。他還曾在文章《Machines of Loving Grace》中，列舉了 AI 在理想情況下如何造福人類的五種方式，其中三種涉及生物學研發、神經科學研發和經濟學研發。然而，他并未明確主張 AI 會因在整個經濟中的廣泛應用而帶來高經濟增長，相反，他更關注 AI 通過加速研發和改善經濟治理所帶來的影響。

Epoch AI的兩位研究員撰文稱，以上大佬的觀點，缺乏嚴謹的經濟學論證，但卻擁有著巨大的影響力。該文章認為，那種技術樂觀主義的論調很可能是錯誤的，比起得諾獎，AI造成大規模失業的概率大得多，簡單來說：

• AI 的真正價值將主要來自于大規模的自動化，而不僅僅依靠前沿的研發工作；
• 廣泛的自動化能夠顯著提升經濟效率和生產率，推動整個社會和行業的變革；
• 自動化有助于使我們擺脫重復性工作，從而專注于更高價值和創造性的任務；
• 行業變革將由 AI 賦能的自動化驅動；
• AI 成功的關鍵在于如何將現有的 AI 技術有效轉化為現實應用，解決實際問題。

圖片

撰寫這篇文章的Epoch AI是一家非營利性質的研究機構，致力于分析人工智能的歷史趨勢，并幫助預測其未來發展。

這篇帖子在Hacker News上的討論度非常高：

圖片

一位網友留言，認為AI的樂觀主義無法說服自己。

有沒有人覺得技術樂觀主義其實很讓人沮喪？

我想，首先是因為它用技術取代了人類，這應該是更常見的原因。但另一個原因是，你很難對一場不太可能實現的炒作感到興奮。

它感覺與對社會的實際好處脫節了。

圖片

也有人指出，技術進步本身是好的，但這波AI發展太快，我們的社會還沒有做好承接新技術的準備：

技術進步本來會很棒，如果它的好處不會主要流向社會頂層的話。

我幾乎可以肯定，在不遠的未來，我們的技術會足夠先進，讓人們可以依靠機器人在某個地方自給自足，或者讓它們幫你做所有的家務。

原則上，這聽起來很棒，但我們的社會并沒有為“大量人口不工作，而技術進步主要由少數高技能人才推動”這種情況做好準備。

我不確定未來會如何發展，但如果技術繼續以當前的速度進步，社會將需要進行一些重大變革。

圖片

原貼涉及很多經濟學知識，在此整理了文章的重點部分，感興趣閱讀全文的朋友可以移步：??https://epoch.ai/gradient-updates/most-ai-value-will-come-from-broad-automation-not-from-r-d??

1.事多錢少：諾獎級AI對AI獨角獸的吸引力并不大

文章指出了一個殘酷的現實，能勝任自主研發工作的AI對AI創企來說吃力不討好。

所謂開發諾獎級AI,很可能是AI企業們寫在PPT第一頁用來“撐門面”的“謊言”。

首先，自動研發的經濟價值并沒有人們想象的那么高。提高生產率和新技術固然是長期增長的關鍵，但研發在這一過程中所占的比重通常比人們預期的要小。

更重要的是，即便研發確實有所貢獻，其大部分成果往往是外部化的，并不會直接轉化為AI企業的利潤，這也降低了企業部署 AI 進行自主研發的激勵。因此，大多數 AI 系統實際上會被用于與研發無關的任務，并且這些任務在整體上更具經濟價值。

其次，自動化研發遠比看起來困難得多。研究員的工作不僅僅是“推理任務”，還依賴于諸如自主性（agency）、多模態處理（multimodality）和長上下文一致性（long-context coherence）等能力。如果 AI 已經發展到足以完全自動化研究員的工作，那么它也很可能已經能夠自動化經濟中大多數其他崗位，而這些崗位帶來的經濟價值很可能遠遠超過單純的研發自動化。

綜合這兩點，沒有理由認為 AI 的主要經濟價值會來自研發。更有可能的情況是，AI 價值的主要來源是其在整個經濟中的廣泛部署。盡管 AI 會因規模報酬遞增帶來生產率和人均產出的提升，但這類增長很可能并非主要來自研發，而是源于 AI 在更廣泛經濟活動中的應用。

也就是，取代大多數普通人的工作。

2.與AI共存的未來：Agent代替白領，人類進入漫長磨合期

以下是文章從商業、政策和個人角度出發，對未來AI影響所作出的一些預測：

首先，從商業角度來看，我們認為在可預見的未來，AI實驗室更有可能通過自動化普通工作任務來獲得更大的利潤，而不是專注于開發具備“諾貝爾獎級”推理能力的模型，以幫助生物學或醫學等領域的研究人員。更現實的商業目標是開發能熟練瀏覽互聯網、操作商業軟件并執行標準白領任務的計算機智能體。與此同時，我們也認為，衡量和基準測試AI在這些普通任務上的表現，可能比評估AI在研發（研究與開發）任務上的能力更為重要。

其次，從政策角度來看，我們認為公眾對AI的態度將在未來發生深刻變化，尤其是在AI開始對世界產生變革性影響——如引發爆炸性的經濟增長或大幅延長人類壽命——之前。屆時，社會可能已經經歷了多輪大規模勞動力替代的自動化浪潮，這將極大地改變公眾對AI的看法。因此，我們認為，假設公眾對AI的態度會保持不變，直到變革性AI出現前后，可能是錯誤的。

最后，從個人角度來看，我們認為應該規劃并投資于一個AI逐步取代工作的未來，這一過程可能會持續數年甚至數十年，而不是假設AI一旦掌握AI 研發，就會立即讓人類勞動力完全過時。與其設想AI會通過遞歸式的自我研發突然爆發為超級智能，我們更傾向于預見經濟會經歷更平緩的全自動化過渡。

在我們看來，AI很可能會經歷一個較長的過渡期，在此期間，它在某些任務上超越人類，但在其他互補性任務上仍然不如人類。需要明確的是，我們同意AI最終將在幾乎所有具有經濟價值的活動中超越人類，并推動經濟增長的顯著加速。但我們認為，這種轉變不會是瞬間發生的，而是會經歷多年或數十年的廣泛而具有破壞性的自動化進程，而且這一過程遠不止局限于研發領域。

那么，我們又該如何“規劃并投資于一個AI逐步取代工作的未來”呢？

本文轉載自??51CTO技術棧??