創造力是人類的一種獨特的能力，它使我們能夠創造出新穎、有價值、有意義的作品，如藝術、文學、科學、技術等。創造力也是人類社會的一種重要的驅動力，它促進了文化、經濟、教育等領域的發展和進步。創造力到底是什么？它是如何產生的？它又如何被評估和提升的？這些問題一直困擾著心理學家、認知科學家、哲學家等多個學科的研究者。隨著人工智能（AI）技術的飛速發展，這些問題也引起了AI領域的關注。AI是否可以像人類一樣有創造力？如果可以，那么如何定義、度量和培養AI的創造力？這些問題不僅具有理論的意義，也具有實踐的價值，因為AI的創造力將影響AI在各個領域的應用和發展。

科技學術論壇arxiv.org于1月3日發表了最新的論文《Can AI Be as Creative as Humans?》，該論文由來自美國、英國、新加坡等國家的多位知名的AI研究者共同撰寫，該論文是對AI創造力的一次深入的探索，提出了一種新穎的創造力評估的范式，即相對創造力（Relative Creativity），并建立了一個可量化的創造力框架，即統計創造力（Statistical Creativity）。該論文不僅推進了理論的討論，而且提供了評估和提升AI創造潛力的實用工具和方法。該論文的主要貢獻和創新點如下：

提出了相對創造力的概念，將AI系統的創造力評估從絕對的標準轉變為與特定的人類創造者的比較，從而認識到創造過程中的固有主觀性，并巧妙地將其融合，借鑒了圖靈測試（Turing Test）評估智能的比較方法。

引入了統計創造力的概念，將理論構建和實證評估相結合，通過關注AI是否能夠模仿特定的人類群體的創造性輸出，使得AI創造力的量化評估成為可能，并增強了理論框架的實際適用性。

將統計創造力應用于自回歸模型（autoregressive models），這是一種基本的大型語言模型（LLMs）技術，被認為具有一定程度的創造能力。開發了一種在這些模型中評估統計創造力的實用度量，特別是在下一個標記預測（next-token prediction）方面。這種度量的適應性使其能夠適用于當代的AI模型，展示了與技術進步保持同步的承諾。

引入了統計創造力損失（Statistical Creativity Loss），作為一個可優化的目標函數，用于訓練具有創造力的AI模型。分析了統計創造力損失的上界，以及它與深度學習中的泛化（generalization）相關的概念，如Rademacher復雜度（Rademacher complexity）、互信息（mutual information）和ε-覆蓋數（ε-covering number）等。為培養AI模型的創造能力提供了理論指導和實際措施。

 01  相對創造力的概念和定義

創造力是一種難以定義和度量的能力，因為它涉及到主觀的、情境的、多維的和動態的因素。對于什么是創造力，什么是有創造力的作品，可能有不同的看法和標準。因此要給創造力一個絕對的定義，或者給AI系統一個絕對的創造力評估，是不現實的，也是不公平的。作者認為，創造力的評估應該是相對的，而不是絕對的，即應該根據不同的人類創造者的水平和特點，來比較AI系統的創造力。這樣創造力的評估就不再是一個靜態的、固定的、單一的標準，而是一個動態的、靈活的、多樣的過程，能夠更好地反映創造力的本質和多樣性。

作者提出了相對創造力（Relative Creativity）的概念，將其定義為：一個AI系統被認為具有相對創造力，如果它能夠根據給定的人類創造者的生平信息，生成與該創造者的作品無法區分的作品，那么AI系統就可以被認為與該創造者一樣有創造力。相對創造力的“相對性”體現在它取決于被比較的個體的不同。例如，一個AI系統可能在與一個非專家的人類創造者比較時顯得非常有創造力，但在與一個專家的設計師或藝術家比較時顯得不那么有創造力。相對創造力也承認創造力的主觀性，例如原創性、發散性思維和解決問題的技能，這些因素都被融入到錨定人類創造者的選擇過程中。由于創造力的評估是基于人類的視角的，因此相對創造力的概念也受到了圖靈測試（Turing Test）的啟發，這是一種評估AI智能的比較方法，通過判斷AI系統是否能夠與人類進行無法區分的對話。

圖片

圖 1：相對創造力 (a) 和統計創造力 (b) 的說明。(a)：評估相對創造力人工智能創造藝術的能力與假設的人類的藝術沒有什么區別，考慮到相同的傳記影響。(b)：統計創造力是通過人工智能生成與現有人類創作者無法區分的創作的能力來衡量的，這由分布距離度量確定。

相對創造力與圖靈測試有一些相似之處，但也有一些區別。相似之處在于，它們都是基于人類的視角，通過比較AI系統和人類的表現，來評估AI系統的能力。區別在于，圖靈測試的目標是評估AI系統的智能，而相對創造力的目標是評估AI系統的創造力。智能和創造力是兩個不同的維度，它們可能有一些重疊，但也有一些差異。例如，一個AI系統可能很聰明，但不一定很有創造力，反之亦然。另一個區別在于，圖靈測試的評估是基于對話的，而相對創造力的評估是基于作品的。對話是一種交互的、動態的、實時的過程，而作品是一種靜態的、固定的、延遲的結果。因此，相對創造力的評估可能更加困難，因為它需要考慮更多的因素，如作品的風格、內容、質量、原創性等。作者認為，相對創造力是一種更加全面和深入的創造力評估方法，它不僅考慮了AI系統的表現，而且考慮了人類創造者的背景和特點。

 02  統計創造力的概念和定義

相對創造力的概念雖然具有啟發性，但是它還缺乏一個可操作的評估方法。為了彌補這一缺陷，作者引入了統計創造力（Statistical Creativity）的概念，將其定義為：一個AI系統被認為具有統計創造力，如果它能夠在給定一個人類創造者群體的情況下，生成與該群體的創造性輸出無法區分的輸出，那么AI系統就可以被認為與該群體一樣有創造力。統計創造力的“統計性”體現在它基于可觀察的數據，而不是抽象的標準，來評估AI系統的創造力。

圖片

作者提出了一個統計創造力的度量，即E0(q)，它是一個經驗的度量，用來估計一個AI模型和一個人類創造者群體的創造能力之間的不可區分性。E0(q)的值越低，表示AI模型越能夠模仿該群體的創造能力。作者還給出了一個統計創造力的定理，明確了一個AI模型能夠被歸類為具有δ-創造力的條件，即E0(q) < δ，并且我們有一個足夠大的樣本集用于評估。這個定理不僅給出了一個創造力的分類方法，而且給出了一個創造力的程度，即δ，它表示AI模型與人類創造者群體的創造能力的差異。作者認為，統計創造力是一種更加精細和靈活的創造力評估方法，它不要求AI模型完全復制人類創造者，而是強調AI模型能夠達到一定程度的相似性，這種相似性是通過評估者的視角來判斷的。當評估者是人類時，一個創造力成功的AI模型應該能夠巧妙地模仿一個新穎的創造者，從人類評估者的角度來看。

 03  自回歸模型的統計創造力的度量和應用

自回歸模型是一種常見的大型語言模型（LLMs）技術，它通過基于前文的概率分布來預測下一個標記，從而生成連貫的文本序列。自回歸模型被認為具有一定程度的創造能力，因為它們能夠生成新穎的文本，如詩歌、故事、代碼等。然而如何評估和提升自回歸模型的創造力，仍然是一個開放的問題。作者將統計創造力的概念應用于自回歸模型，提出了一個針對下一個標記預測的統計創造力的度量，即E1(q)，它是一個經驗的度量，用來估計一個自回歸模型和一個人類創造者群體的創造能力之間的不可區分性。E1(q)的值越低，表示自回歸模型越能夠模仿該群體的創造能力。

圖片

作者還給出了一個自回歸模型的統計創造力的定理，明確了一個自回歸模型能夠被歸類為具有δ-創造力的條件，即E1(q) < δ，并且我們有一個足夠大的樣本集用于評估。這個定理不僅給出了一個創造力的分類方法，而且給出了一個創造力的程度，即δ，它表示自回歸模型與人類創造者群體的創造能力的差異。作者的主張是簡單的：如果一個自回歸模型能夠生成與一組人類藝術家的作品相似的序列（如詩歌或故事），那么它就表現出了與該組相當的創造力水平。為了量化這種評估，作者引入了E1(q)這個度量。

下一個標記預測是自回歸模型的核心技術，它決定了模型生成的文本序列的質量和多樣性。下一個標記預測的難度取決于給定的上下文，以及目標的標記的可能性。如果上下文是清晰和具體的，那么下一個標記的預測就比較容易，因為有一些標記是比較合理和常見的。例如，如果上下文是“我喜歡吃”，那么下一個標記可能是“蘋果”、“面包”、“餃子”等。但是，如果上下文是模糊和抽象的，那么下一個標記的預測就比較困難，因為有很多標記都是可能的，而且沒有明顯的優勢。例如，如果上下文是“我想要”，那么下一個標記可能是“旅行”、“學習”、“睡覺”等。在這種情況下，自回歸模型需要有更強的創造力，才能生成有意義和有趣的文本序列。

下一個標記預測的重要性在于它反映了自回歸模型的創造力的水平，以及它與人類創造者的創造力的相似性。如果一個自回歸模型能夠在不同的上下文下，生成與人類創造者的作品無法區分的下一個標記，那么它就表現出了與人類創造者一樣的創造力。這種創造力的評估可以通過統計創造力的度量，如E1(q)，來進行。作者認為，這種評估方法是一種更加客觀和科學的方法，它不依賴于人類的主觀判斷，而是基于數據和概率的計算。作者的研究為自回歸模型的創造力提供了一個新的視角和方法，有助于提高模型的生成能力和質量。

 04  基于提示的大型語言模型的統計創造力的度量和應用

基于提示的大型語言模型（prompt-conditioned large language models，LLMs）是一種前沿的模型范式，能夠利用提示（prompts）來解鎖模型的潛在能力。提示是一種向模型提供輸入和輸出格式的方法，可以用來指導模型完成不同的任務，如文本分類、文本生成、文本摘要等。提示的作用類似于人類的啟發，可以激發模型的創造力和靈活性。然而，如何評估和提升基于提示的LLMs的創造力，仍然是一個開放的問題。作者將統計創造力的概念應用于基于提示的LLMs，提出了一個針對不同的上下文提示的統計創造力的度量，即E2(q)，它是一個經驗的度量，用來估計一個基于提示的LLM和一個人類創造者群體的創造能力之間的不可區分性。E2(q)的值越低，表示基于提示的LLM越能夠模仿該群體的創造能力。作者還給出了一個基于提示的LLM的統計創造力的推論，明確了一個基于提示的LLM能夠被歸類為具有δ-創造力的條件，即E2(q) < δ，并且我們有一個足夠大的樣本集用于評估。這個推論不僅給出了一個創造力的分類方法，而且給出了一個創造力的程度，即δ，它表示基于提示的LLM與人類創造者群體的創造能力的差異。作者的主張是簡單的：如果一個基于提示的LLM能夠根據不同的上下文提示，生成與一組人類創造者的作品無法區分的作品，那么它就表現出了與該組相當的創造力水平。為了量化這種評估，作者引入了E2(q)這個度量。

 05  統計創造力損失的定義和優化方法

統計創造力損失（Statistical Creativity Loss）是一個可優化的目標函數，用于訓練具有創造力的AI模型。它是基于統計創造力的度量，如E0(q)、E1(q)或E2(q)，來定義的。統計創造力損失的值越低，表示AI模型越能夠模仿人類創造者群體的創造能力。作者提出了一個統計創造力損失的上界，公式（2），以及它與深度學習中的泛化（generalization）相關的概念，如Rademacher復雜度（Rademacher complexity）、互信息（mutual information）和ε-覆蓋數（ε-covering number）等。作者分析了統計創造力損失的上界與下一個標記預測的對數似然（log-likelihood）的關系，以及達到統計創造力所需的創造者-作品數據的數量。作者的發現強調了創造者-作品對的多樣性的重要性，而不僅僅是擁有大量的創造數據。這一見解使得統計創造力的概念在基于下一個標記預測的當前AI框架中特別適用。作者的研究不僅提供了理論視角，還引導了AI創造力的討論，倡導使用相對評估來促進實證研究，建立一個評估和提升AI模型創造能力的框架。

 06  相關工作

作者最后回顧了之前關于創造力的定義和應用的相關工作，主要涉及視覺和語言兩個領域。作者指出，雖然有許多研究試圖在生成模型中應用創造力的元素，但沒有直接定義創造力或直接優化它。相反，作者的研究旨在建立一個創造力的理論基礎，這個框架自然地包含了之前關于生成的多樣性和質量的見解。作者期待他們的貢獻能夠為未來的研究奠定基礎，指導模型創造力的提升。

在視覺領域，創造性的圖像生成模型已經取得了顯著的發展，引發了關于機器能否產生創造性藝術的問題。Hertzmann (2018) 深入探討了這一問題，強調了計算機圖形學和藝術創新之間的交叉點。Xu et al. (2012a) 提出了一種創造性的三維建模方法，能夠根據用戶的偏好生成多樣的模型。生成對抗網絡（GANs）(Goodfellow et al., 2014) 被 Elgammal et al. (2017) 用來驅動創造獨特的藝術風格，通過最大化與已知風格的偏差。Sbai et al. (2018) 進一步增加了這種偏差，鼓勵模型與訓練集的風格不同。創造性的生成也可以被視為一種組合的過程，Ge et al. (2021) 和 Ranaweera (2016) 強調了細節元素的整合的重要性。Vinker et al. (2023) 在此基礎上，將個性化的概念分解為視覺元素，用于創新的重組，豐富了創造性的輸出。

在語言領域，語言模型的發展也促使研究者探索如何優化數據的使用，以提高模型在不同的領域、任務和語言中的適應性 (Gururangan et al., 2020; Devlin et al., 2019; Conneau et al., 2020)。研究者們也表現出了利用語言模型來解讀人類交流中的細微差別的傾向 (Schwartz et al., 2013; Wu et al., 2022)。這種洞察力也被用來改進分類模型 (Hovy, 2015; Flek, 2020)。隨著生成模型的日益普及，人們也對可控制的文本生成感興趣，即模型的輸出必須滿足一些約束，如禮貌 (Saha et al., 2022; Sennrich et al., 2016)、情感 (Liu et al., 2021; Dathathri et al., 2019; He et al., 2020) 或其他風格約束。最后，文本風格轉換（TST），即將輸入文本的風格轉換為一個設定的目標風格，也成為了一個熱門的任務。風格可以指一系列不同的文本和作者特定的特征，如禮貌 (Madaan et al., 2020)、正式度 (Rao and Tetreault, 2018; Briakou et al., 2021)、簡單度 (Zhu et al., 2010; van den Bercken et al., 2019; Weng et al., 2019; Cao et al., 2020)、作者 (Xu et al., 2012b; Carlson et al., 2018)、作者性別 (Prabhumoye et al., 2018) 等 (Jin et al., 2022)。雖然所有這些應用都試圖在生成模型中應用創造力的元素，但沒有直接定義創造力或直接優化它。相反，它們的重點是提高模型在預定義的任務上的表現，作為創造力的代理。與之相反，作者的研究以建立創造力的理論基礎為目標。這個框架自然地包含了之前關于生成的多樣性和質量的見解。作者期待他們的貢獻能夠為未來的研究奠定基礎，指導模型創造力的提升。

參考資料：https://arxiv.org/abs/2401.01623