1、327個樣本打破常規，這個"OpenAI o1復制之旅"有點燃  

人工智能領域最近又掀起一陣波瀾 —— OpenAI發布了令人矚目的O1模型。然而，這個模型的具體細節卻如同蒙著面紗一般神秘。面對這種情況，一群研究者決定開啟了一場別開生面的"O1復制之旅"，試圖揭開這層面紗。    

最引人注目的是，研究團隊提出了一個創新的"journey learning（旅程學習）"范式。與傳統的"死記硬背"式學習不同，這種方法讓模型不僅要學會解決問題，還要學習整個探索過程，包括試錯、反思和回溯。這個方法的威力令人驚嘆：僅用327個訓練樣本，就在MATH數據集上超越了傳統監督學習8%以上的成績，而且沒有使用任何額外技巧！    

這個項目的與眾不同之處在于其開創性的研究方式。研究團隊選擇實時公開他們的所有探索過程，包括成功與失敗。這就像是在進行一場現場直播的科學探索，任何人都可以第一時間了解他們的發現，參與討論，共同推進研究進展。    

這場"復制之旅"不僅僅是對一個模型的簡單模仿，更是對人工智能研究方式的一次革新。研究團隊將所有技術假設、認知探索路徑、自研工具等資源都開放在GitHub上，為整個AI社區貢獻了寶貴的經驗。這種開放、透明的研究方式，或許正在開創AI研究的新范式。

論文標題：O1 Replication Journey: A Strategic Progress Report -- Part 1

論文鏈接：??https://arxiv.org/abs/2410.18982??

2、RAG系統迎來重大突破！這個方法讓大模型答案準確率提升10%  

大語言模型的RAG系統雖然強大，但總是會出現一些令人尷尬的"跑偏"現象。比如當你問"法國的首都是哪里"時，它可能會順帶給你講述其他法國城市的故事。這種"畫蛇添足"不僅影響回答的準確性，更可能導致錯誤信息的產生。    

研究者們提出了一個巧妙的解決方案：ChunkRAG。這個方法就像是給RAG系統裝上了一個"智能過濾器"。它不再是簡單地獲取整篇文檔，而是先將文檔切分成小塊，再讓大模型仔細評估每個小塊與問題的相關性，最后只保留最相關的內容來生成答案。    

這種創新方法的效果令人振奮。在PopQA數據集上的測試顯示，ChunkRAG使系統的準確率提升了驚人的10個百分點！拿之前的例子來說，當你問法國首都時，它現在會干凈利落地回答："法國的首都是巴黎"，沒有任何多余信息。

這一突破對于需要高度準確性的應用場景，比如事實核查、多跳推理等尤為重要。它讓我們離真正可靠的AI助手又近了一步，相信未來會有更多領域因此受益。

論文標題：ChunkRAG: Novel LLM-Chunk Filtering Method for RAG Systems

論文鏈接：??https://arxiv.org/abs/2410.19572??

本文轉載自 ??AI帝國??，作者： 無影寺