動手實現(xiàn)GraphRAG，檢索效果大幅提升
1 理解檢索增強生成（RAG）
檢索增強生成（RAG）技術(shù)通過融合檢索得到的文檔和用戶輸入的查詢，為語言模型注入了額外的上下文信息。這種結(jié)合不僅豐富了模型的知識庫，還提升了其回答的準確性和相關(guān)性。
例如，當(dāng)用戶提出涉及特定個人信息或商業(yè)數(shù)據(jù)的問題時，RAG能夠從預(yù)設(shè)的數(shù)據(jù)源中提取關(guān)鍵信息，輔助模型給出更加精準的答復(fù)。
簡而言之，RAG技術(shù)就像是給語言模型配備了一個智能的背景知識庫，使其在面對復(fù)雜問題時，能夠做出更加明智的回應(yīng)。
2 GraphRAG：通過圖形結(jié)構(gòu)增強上下文
GraphRAG技術(shù)在傳統(tǒng)RAG的基礎(chǔ)上更進一步，通過構(gòu)建信息的圖形網(wǎng)絡(luò)，實現(xiàn)了對數(shù)據(jù)的深度理解和應(yīng)用。這不僅僅是簡單地檢索相關(guān)文檔，更重要的是能夠洞察文檔中實體間的復(fù)雜聯(lián)系。
舉個例子，假設(shè)數(shù)據(jù)集中包含了紐約、洛杉磯和芝加哥等城市的信息。GraphRAG不僅能夠檢索到這些城市的相關(guān)資料，還能識別并利用它們之間的各種關(guān)系，比如紐約與洛杉磯之間的貿(mào)易伙伴關(guān)系，或是洛杉磯與芝加哥之間的文化交流項目。
這樣的技術(shù)使GraphRAG在處理信息時能夠展現(xiàn)出更為豐富的洞察力和更深層次的分析能力。
3 設(shè)置環(huán)境
源碼地址：
??https://github.com/aniket-work/why_graphRAG_such_game_changer??
創(chuàng)建虛擬環(huán)境：
python -m venv why_graphRAG_such_game_changer激活環(huán)境：
why_graphRAG_such_game_changer\Scripts\activate (Windows)
source why_graphRAG_such_game_changer/bin/activate (Unix/macOS安裝依賴項：
cd path/to/your/project
pip install -r requirements.txt使用Ollama拉取必要的模型：
ollama pull mistral
ollama pull nomic-embed-text安裝Ollama：
- 訪問Ollama官方網(wǎng)站：https://ollama.ai/
- 下載適合的操作系統(tǒng)的版本（Windows、macOS或Linux）。
- 按照操作系統(tǒng)提供的安裝說明進行操作。
- 安裝完成后，打開終端或命令提示符。
- 通過運行以下命令來驗證安裝：
ollama --version初始化和使用GraphRAG：
python -m graphrag.index --init --root ragtest下載數(shù)據(jù)
你可以下載任何你喜歡的數(shù)據(jù)，已經(jīng)將一個小型的、基于場景的、面向關(guān)系的故事情節(jié)檢查并放入了“input”文件夾中。
4 初始化過程
運行命令python -m graphrag.index --init --root ragtest初始化GraphRAG時，以下一系列操作將會自動進行：
創(chuàng)建配置文件：
- .env：此文件包含運行GraphRAG管道所需的環(huán)境變量。它通常包括用于OpenAI API或Azure OpenAI端點的API密鑰。例如：
GRAPHRAG_API_KEY=<API_KEY>- settings.yaml：此文件保存GraphRAG管道的設(shè)置。可以修改此文件以調(diào)整各種管道設(shè)置，例如Azure OpenAI的API基礎(chǔ)、版本和部署名稱。例如：
llm:
type: azure_openai_chat
api_base: https://<instance>.openai.azure.com
api_version: 2024-02-15-preview
deployment_name: <azure_model_deployment_name>- prompts/：此目錄包含GraphRAG使用的默認提示。這些提示指導(dǎo)大型語言模型（LLM）生成回答。可以修改這些提示或運行自動提示調(diào)整命令以生成適應(yīng)你數(shù)據(jù)的新提示。
5 目的和用途
- .env 文件：
目的：存儲環(huán)境變量，包括用于驗證對OpenAI或Azure OpenAI服務(wù)請求的API密鑰。
用途：此文件由GraphRAG系統(tǒng)引用，以訪問必要的憑據(jù)和配置設(shè)置。
- settings.yaml 文件：
- 目的：包含GraphRAG管道的詳細配置設(shè)置，如API端點、模型版本和部署名稱。
- 用途：此文件用于自定義GraphRAG管道的行為，允許用戶指定使用哪個LLM以及如何與之交互。
- prompts/ 目錄：
- 目的：保存默認的LLM提示，指導(dǎo)模型生成回答。這些提示可以根據(jù)你的數(shù)據(jù)的具體需求進行定制。
- 用途：用戶可以修改提示以提高生成回答的準確性和相關(guān)性。該目錄還支持運行自動提示調(diào)整命令以創(chuàng)建新的、特定于數(shù)據(jù)的提示。
6 修改 settings.yaml
由于我們打算在本地運行g(shù)raphRAG，需要對默認的 settings.yaml 文件進行一些更改。
encoding_model: cl100k_base
skip_workflows: []
llm:
api_key: ${GRAPHRAG_API_KEY}
type: openai_chat
model: mistral
model_supports_json: true
api_base: http://localhost:11434/v1
parallelization:
stagger: 0.3
async_mode: threaded
embeddings:
async_mode: threaded
llm:
api_key: ${GRAPHRAG_API_KEY}
type: openai_embedding
model: nomic_embed_text
api_base: http://localhost:11434/api7 修改以使用 Ollama 嵌入
GraphRAG 本身不支持 Ollama 嵌入模型，但可以通過修改 GraphRAG 庫中的特定文件來添加此支持。通過編輯 openai_embeddings_llm.py 文件，我們可以啟用使用 Ollama 嵌入模型。這涉及導(dǎo)入必要的模塊并更新代碼以調(diào)用 Ollama 的嵌入函數(shù)，允許我們在 GraphRAG 管道中利用高級嵌入。
以下是如何更新 openai_embeddings_llm.py 文件的方法：
from typing_extensions import Unpack
from graphrag.llm.base import BaseLLM
from graphrag.llm.types import EmbeddingInput, EmbeddingOutput, LLMInput
from .openai_configuration import OpenAIConfiguration
from .types import OpenAIClientTypes
import ollama
class OpenAIEmbeddingsLLM(BaseLLM[EmbeddingInput, EmbeddingOutput]):
"""
使用 Ollama 進行嵌入的自定義 LLM（大型語言模型）實現(xiàn)。
"""
def __init__(self, client: OpenAIClientTypes, configuration: OpenAIConfiguration):
"""
初始化 OpenAIEmbeddingsLLM 實例。
參數(shù)：
client (OpenAIClientTypes): 與AI服務(wù)交互的客戶端。
configuration (OpenAIConfiguration): AI服務(wù)的配置設(shè)置。
"""
self._client = client
self._configuration = configuration
async def _execute_llm(
self, input: EmbeddingInput, **kwargs: Unpack[LLMInput]
) -> EmbeddingOutput | None:
"""
使用 Ollama 嵌入執(zhí)行大型語言模型。
參數(shù)：
input (EmbeddingInput): 嵌入模型的輸入數(shù)據(jù)。
**kwargs (Unpack[LLMInput]): 模型參數(shù)的附加關(guān)鍵字參數(shù)。
返回：
EmbeddingOutput | None: 模型的輸出嵌入或如果沒有輸出則為 None。
"""
args = {
"model": self._configuration.model,
**(kwargs.get("model_parameters") or {}),
}
embedding_list = []
for inp in input:
embedding = ollama.embeddings(model="nomic-embed-text", prompt=inp)
embedding_list.append(embedding["embedding"])
return embedding_list8 使用 GraphRAG 運行查詢
使用以下命令索引數(shù)據(jù)：
python -m graphrag.index --root .\ragtest輸出
圖片
運行查詢以測試設(shè)置：
python -m graphrag.query --root .\ragtest --method global "How was the impact of Lily's action on villagers"輸出
圖片
9 結(jié)語
未來，人工智能在商業(yè)領(lǐng)域的影響力將日益增強。那些能夠?qū)⑷斯ぶ悄芗夹g(shù)有效融入其業(yè)務(wù)運營的公司，將具備更快的創(chuàng)新速度、更優(yōu)質(zhì)的客戶服務(wù)體驗，以及更高效的流程優(yōu)化能力。GraphRAG技術(shù)的出現(xiàn)，僅是人工智能潛力的冰山一角。
隨著時間推移，人工智能將變得更加精密復(fù)雜。它將不僅能夠理解問題，還能生成貼近人類思維的回答。預(yù)計不久的將來，企業(yè)將見證一種新型人工智能系統(tǒng)的誕生——這些系統(tǒng)不僅能夠回答問題，還能基于海量數(shù)據(jù)分析提供戰(zhàn)略性的見解和建議。因此，對于任何希望在競爭中保持領(lǐng)先地位的企業(yè)而言，積極擁抱人工智能并持續(xù)關(guān)注其最新發(fā)展，顯得尤為關(guān)鍵。這不僅是一個選擇，更是一個必然的趨勢。
本文轉(zhuǎn)載自 ??AI科技論談??，作者： AI科技論談
