一、為什么需要 RAG 和 GraphRAG 技術？

1.1 大模型的局限性

大型語言模型（LLMs, Large Language Models）雖然在生成文本方面表現出色，但它們存在一些固有缺陷。比如，LLMs 容易出現“幻覺”現象，即生成不準確或虛構的內容。此外，LLMs 的上下文窗口有限，無法處理過長的文本，還存在隱私泄露的風險。為了彌補這些不足，檢索增強生成（RAG, Retrieval-Augmented Generation）技術應運而生。RAG 通過從外部數據源檢索相關信息，顯著提升了模型的準確性和魯棒性。例如，在醫療領域，RAG 可以幫助醫生快速檢索最新的醫學文獻，從而提高診斷的準確性。

1.2 結構化數據的挑戰

盡管 RAG 在文本數據上表現優異，但對于結構化數據（如知識圖譜），傳統的 RAG 方法顯得力不從心。知識圖譜（KGs, Knowledge Graphs）等圖結構數據蘊含豐富的關聯信息，而 GraphRAG 則專門用于從圖數據中檢索信息。然而，隨著研究的深入，人們發現將文本數據轉化為圖結構后，GraphRAG 在文本任務中也能發揮重要作用。例如，在社交網絡分析中，GraphRAG 可以通過分析用戶之間的關系，幫助識別潛在的社交圈層。

1.3 RAG 與 GraphRAG 的互補性

RAG 和 GraphRAG 各有優劣：RAG 擅長處理單跳問題和細節信息，而 GraphRAG 在多跳問題和推理任務中表現更佳。為了充分發揮兩者的優勢，我們需要系統地評估和比較它們在廣泛文本任務中的表現，并探索如何將它們結合起來以提升整體性能。例如，在法律領域，RAG 可以用于檢索具體的法律條文，而 GraphRAG 則可以幫助律師分析案件之間的關聯性，從而提供更全面的法律建議。

二、RAG與GraphRAG

圖片

2.1 RAG：文本檢索的利器

RAG（Retrieval-Augmented Generation，檢索增強生成）的核心思想是將文本分割成小塊（chunks），并通過語義搜索或詞法搜索從外部數據源中檢索相關信息。具體來說，RAG 會將查詢和文本塊映射到同一個特征空間，計算它們的相似度，從而找到最相關的文本塊。這種方法特別適合處理單跳問題和需要詳細信息的任務。

舉個例子，假設你正在使用一個問答系統，詢問“誰發明了電話？”RAG 會從大量的文本數據中檢索出與“電話”和“發明”相關的文本塊，然后生成一個準確的答案：“亞歷山大·格拉漢姆·貝爾”。這種檢索方式不僅提高了答案的準確性，還能有效減少大語言模型（LLMs）的“幻覺”問題，即生成不準確或虛構的信息。

RAG 的實現通常依賴于語義相似性計算。比如，使用 OpenAI 的 text-embedding-ada-002 模型將文本塊和查詢映射到同一個向量空間，然后通過計算余弦相似度來找到最相關的文本塊。

2.2 GraphRAG：圖結構的智慧

GraphRAG 則專注于從圖結構數據中檢索信息。它首先將文本轉化為知識圖譜（Knowledge Graph, KG），然后通過遍歷圖中的節點和邊來獲取相關信息。GraphRAG 有兩種主要方法：

• ?基于知識圖譜的 GraphRAG：從文本中提取三元組（實體、關系、實體），并通過多跳鄰居檢索信息。例如，如果你詢問“愛因斯坦的導師是誰？”，GraphRAG 會從知識圖譜中找到“愛因斯坦”這個節點，然后通過“導師”關系找到“赫爾曼·閔可夫斯基”這個實體。
• ?基于社區的 GraphRAG：在知識圖譜的基礎上構建層次化社區，并從社區中檢索信息。這種方法特別適合處理多跳問題和需要全局視角的任務。例如，在處理“愛因斯坦的導師的導師是誰？”這樣的多跳問題時，基于社區的 GraphRAG 能夠通過社區的層次結構，逐步檢索出“愛因斯坦”的導師的導師：“卡爾·弗里德里希·高斯”。

GraphRAG 的優勢在于它能夠捕捉到文本中的復雜關系，特別適合處理需要多步推理的任務。比如，在處理“愛因斯坦的導師的導師是誰？”這樣的問題時，RAG 可能會因為信息分散在多個文本塊中而表現不佳，而 GraphRAG 則能夠通過圖結構的關系鏈，準確地找到答案。

2.3 開源實現

• ?RAG：可以使用 LlamaIndex 等開源工具實現。LlamaIndex 是一個高效的檢索增強生成工具，支持將文本分割成塊并進行語義搜索，特別適合處理單跳問題和需要詳細信息的任務。
• ?GraphRAG：微軟的 GraphRAG 項目提供了基于社區的 GraphRAG 實現。該項目通過構建層次化社區，能夠有效地處理多跳問題和需要全局視角的任務，特別適合在復雜推理任務中應用。

通過結合 RAG 和 GraphRAG 的優勢，可以在不同的任務中實現更高效的檢索和生成。例如，在處理單跳問題時使用 RAG，而在處理多跳問題時使用 GraphRAG，從而在問答、摘要生成等任務中取得更好的效果。

三、RAG 和 GraphRAG 的應用效果評估

3.1 問答任務的表現

圖片

在問答任務中，RAG（Retrieval-Augmented Generation，檢索增強生成）和 GraphRAG（圖檢索增強生成）展現了明顯的互補性。RAG 在處理單跳問題和細節信息任務時表現優異。例如，在 Natural Questions（NQ）數據集上，RAG 的準確率顯著高于 GraphRAG。這是因為 RAG 通過語義搜索直接從文本中檢索相關信息，適合回答直接且具體的問題。

圖片

相比之下，GraphRAG 在多跳問題和推理任務中表現更佳。例如，在 HotPotQA 數據集上，基于社區的 GraphRAG（Local）的 F1 得分比 RAG 高出 5%。這是因為 GraphRAG 利用圖結構捕捉實體之間的關系，能夠更好地處理需要跨多個文檔或實體進行推理的復雜問題。

3.2 查詢摘要任務的表現

圖片

在查詢摘要任務中，RAG 和 GraphRAG 的表現因任務類型而異。RAG 在多文檔摘要任務中表現最佳，能夠捕捉到更多的細節信息。例如，在 ODSum-story 數據集上，RAG 生成的摘要更接近真實答案，因為它直接從多個文檔中提取關鍵信息。

GraphRAG 則在全局摘要任務中表現更佳，能夠生成更多樣化和多角度的摘要。例如，在 QMSum 數據集上，GraphRAG 通過分析文檔的全局結構，生成更全面的摘要，適合需要整體視角的任務。

如果你需要總結一篇關于“氣候變化”的多篇研究報告，RAG 可以提取每篇報告的具體數據，而 GraphRAG 則可以從整體上分析這些報告之間的關系，生成更宏觀的摘要。

3.3 性能提升策略

為了結合 RAG 和 GraphRAG 的優勢，提出了兩種策略：選擇策略和集成策略。

? 選擇策略（RAG vs. GraphRAG Selection）根據查詢的特性動態選擇 RAG 或 GraphRAG。例如，事實類查詢使用 RAG，推理類查詢使用 GraphRAG。

? 集成策略（ RAG and GraphRAG Integration）則同時使用 RAG 和 GraphRAG 檢索信息，并將結果合并生成最終答案。集成策略在大多數任務中表現更佳，但計算成本較高。

本文轉載自??大語言模型論文跟蹤??，作者：HuggingAGI