AI Scientist爆火背后的技術詳解以及優缺點分析 精華
今天分享一篇最近比較熱門的日本創業公司Sakana AI的一篇文章，標題為《The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery》。文章提出了一種名為“AI Scientist”的框架，旨在實現端到端完全自動化的科學發現，完成從Idea構建，實驗跑取，文章撰寫的完全自動化。驗證了AI自動化探索新問題，解決新問題，甚至撰寫Paper的可行性。同時還提出了一個能與人類評委水準接近的Review Agent，能夠給出高水準的評審意見。
總體來說，其還是一個多agent系統，利用了reflection機制迭代優化效果，同時也結合Semantic Scholar等工具驗證創新性，利用Aider工具來更新代碼和Paper，來執行相關實驗。同時也要看到其只是搭了一個基礎的Baseline通道，如何提升Idea生成的深度以及多樣性，如何讓LLM能實現更復雜，更有挑戰性的Idea，如何降低Review Agent的False Positive Rate（FPR）都值得進一步探索。
本文將對其背后的技術，優缺點進行詳細的分析～
一、概述
1. Motivation
- ? 盡管前沿模型已被用作人類科學家的輔助工具，如頭腦風暴、編寫代碼或預測任務，但它們仍僅完成了科學過程的一小部分。
- ? 本文提出了第一個全面的框架，用于實現完全自動化的科學發現，使前沿大型語言模型能夠獨立進行研究并傳達其發現。
2. Method
文章介紹了“AI科學家”框架，該框架包括三個主要階段：
1.想法生成：AI科學家首先“頭腦風暴”出一系列新穎的研究方向，然后在此基礎上進行創新性迭代優化，最后篩選創新性較高的idea。
2.實驗迭代：根據想法和模板，AI科學家首先執行提出的實驗plan，然后根據實驗結果，迭代優化實驗，最后更新plot代碼，可視化其結果以供后續撰寫，代碼通過AIder工具來更新。
3.論文撰寫：AI科學家使用LaTeX撰寫完整的科學論文，描述其進展。
? 輸入：總體就兩個輸入，Baseline Code，以及論文Latex模板，加上init paper的一些信息。
? Baseline code：a starting code template that reproduces a lightweight baseline training run from a popular model or benchmark. For example, this could be code thattrains a small transformeron the works of Shakespeare (Karpathy, 2022), a classic proof-of-concept training run from natural language processing that completes within a few minutes
? Latex模版：LaTeX folder that containsstyle files and section headers, along with simple plotting code.
? 輸出：完整的Paper
1 Idea generate過程
?輸入：code template
?輸出：some ideas
?代碼：??https://github.com/SakanaAI/AI-Scientist/blob/main/ai_scientist/generate_ideas.py??
? generate_ideas：idea生成
? generate_next_idea：在seed的基礎上繼續生成新的idea
? search_for_papers：調用api search paper
? check_idea_novelty：檢查并優化創新性
1.1 Idea Generation Prompt
?優點：對diversity做了優化和限制，引入了COT機制。
?缺點：idea全靠LLM內部信息想出來，思考的知識有限，更新也不及時，不太能及時follow最新知識，不過內部知識能做到什么粒度其實還不太確定，另外內部知識其實是缺乏新知識的，這對科學研究非常致命。
1.2 Idea Novelty Prompt
?特點：用于搜索num_rounds相關的paper來檢查優化創新性，如果每次沒search到相關內容，還知道去更新Query重新search，最多探索num_rounds，思路看起來不錯。
? 缺點：還是創新全部源于LLM內部知識。
2 Experiments過程
? 輸入：idea + template
? 輸出：experiment result + experiment figures
? 實現方式：通過Aider更新代碼，然后執行命令行跑取模型結果。
? Aider平臺，可以通過命令更新代碼：https://github.com/paul-gauthier/aider?
2.1 Experiment Running Aider Prompt
? 特點：先也會有一個plan，然后分別實現experiments
? 缺點：沒具體講如何實現Experiment的，Aider看著是個平臺，可能可以直接用，但是改代碼很容易出錯，穩定性存疑。
2.2 Plotting Aider Prompt
? 特點：生成plot，還有description，后續用于添加到論文中。
3 Paper Writing流程
? 輸入：Latex模版 + Experiments recorded notes + plots，Latex模板圖如下，也是用Aider工具來修改?
? 輸出：paper
3.1 Paper Writing Aider Prompt
? 特點：提供每個section的建議+latex的template+plan
?缺點：Aider是個啥，感覺writing比較有用的樣子。
4 Reviewer Agent流程
? 輸入：PDF manuscript
? 輸出：Paper Review Result
? 優點：參考了neurips ReviewerGuidelines，同時引入reflection，few-shot來提升效果。
4.1 Paper Review Prompt
? 特點：引入neurips guideline和few_shot_example。
4.2 Paper Review Reflection Prompt
? 特點：經過多輪迭代 + COT思考
4.3 Paper Review Ensembling Prompt
? 特點：還有個匯總的，優點self-consistant的感覺
5 反思和迭代次數
3. Coclusion
文章搭建了一個AI Scientist，通過三個子任務驗證了其可行性：擴散模型、Transformer和Groking。并且每種想法的實現和開發成本不到15美元。表明了該框架在Research研究和顯著加速科學進步方面的潛力。
? 搭建了一個完整的科研鏈路Agent：idea -> Experiments -> Paper，還真work了。
? 附帶送了一個接近人類水平的Paper Review Agent，效果也還不錯。
4. Limitation
? 生成的Idea經常非常相似，甚至不同模型，不同run都會有很類似的idea。
? Aider實現ideas有困難，GPT-4o寫Latext常不能編譯，有些idea實現challenging比較大。
? plot的圖像也可能有問題，而且還不止是vision，可能看不出效果。
? Latext的cite和reference可能有問題。
? LLM數學能力不太好，對metric不敏感。
? 幻覺。
二、詳細內容
1 LLM Paper Review水平在ICLR2022數據集上已經接近人類水平
? 特點：精度和人類比較接近（balanced 0.65 vs 0.66），False Negative Rate（FNR）更低，False Positive Rate（FPR）偏高，說明也有打分偏高的情況。
2 Reflexion和one-shot能提升Reviewing效果
? 結論：從0.66提升到0.70，看著還不錯。Ensemble后精度沒有提升，但是variance有降低。
3 Diffusion Modeling優化效果
? **結論1:Sonnet3.5看著比GPT-4o好很多啊，而且還更便宜，完成Paper率居然接近80%**，還是很厲害。
?結論2:DeepSeek Coder是性價比之王。
?其他：DIffusion Modeling感覺都是比較老的模型了，利用LLM生成的idea可能都是訓練過的了，可能并不能代表真正的創新。
4 Language Modeling優化效果
?結論: 這次完成率只有40%了，這個差異好大，跟猜測的一樣，coding可能非常不穩定，另外DeepSeek Coder確實厲害。
5 Grokking優化效果
?結論：不同paper，不同LLM基座的Noval Ideas居然都超過90%，但是Experiments的完成率差異非常大。?
本文轉載自 ??NLP PaperWeekly??，作者： NLP PaperWeekly
