引言

大型語(yǔ)言模型（LLMs）徹底革新了自然語(yǔ)言處理領(lǐng)域，但其對(duì)靜態(tài)內(nèi)部知識(shí)的依賴，在事實(shí)準(zhǔn)確性和時(shí)效性方面暴露出根本性局限。檢索增強(qiáng)生成（RAG）作為一種強(qiáng)大的范式應(yīng)運(yùn)而生，它構(gòu)建了一種混合架構(gòu)，將模型輸出動(dòng)態(tài)錨定于外部可驗(yàn)證信息。本文將深入探討RAG框架的核心機(jī)制——從檢索器與生成器組件到參數(shù)化記憶與非參數(shù)化記憶的關(guān)鍵區(qū)別，揭示其在知識(shí)密集型應(yīng)用中實(shí)現(xiàn)前沿性能的奧秘。

一、深入解析檢索增強(qiáng)生成（RAG）

RAG范式：參數(shù)化記憶與非參數(shù)化記憶的融合

大型語(yǔ)言模型（LLMs）在自然語(yǔ)言理解與生成領(lǐng)域?qū)崿F(xiàn)了重大突破，但其單純依賴內(nèi)部知識(shí)的模式存在根本缺陷，尤其在對(duì)事實(shí)準(zhǔn)確性和時(shí)效性要求極高的任務(wù)中更為明顯。檢索增強(qiáng)生成（RAG）范式通過(guò)創(chuàng)建一種融合內(nèi)部與外部知識(shí)源的混合架構(gòu)，直擊這些痛點(diǎn)。

標(biāo)準(zhǔn)語(yǔ)言模型的局限性

標(biāo)準(zhǔn)LLMs將其世界知識(shí)完全封裝在網(wǎng)絡(luò)參數(shù)中，這種知識(shí)存儲(chǔ)形式被稱為參數(shù)化記憶，形成于預(yù)訓(xùn)練階段。可以將其視為模型訓(xùn)練數(shù)據(jù)的高度壓縮隱式摘要。盡管強(qiáng)大，這種模式存在固有缺陷：

• 知識(shí)靜態(tài)化：模型知識(shí)在訓(xùn)練結(jié)束時(shí)便已固化，無(wú)法獲取訓(xùn)練后新增的信息或事件，導(dǎo)致回答過(guò)時(shí)。例如，向2022年訓(xùn)練的模型詢問(wèn)2024年超級(jí)碗冠軍，只能得到猜測(cè)或無(wú)法回答。
• 更新成本高：修改或更新模型的事實(shí)性知識(shí)堪稱艱巨任務(wù)，需要對(duì)新的綜合數(shù)據(jù)集進(jìn)行成本高昂、資源密集的重新訓(xùn)練或微調(diào)。對(duì)單一事實(shí)進(jìn)行小范圍定向更新幾乎不可能，且會(huì)影響模型的整體知識(shí)基礎(chǔ)。
• 事實(shí)性偏差（幻覺(jué)）：由于參數(shù)化記憶是訓(xùn)練數(shù)據(jù)的有損壓縮，模型無(wú)法實(shí)現(xiàn)完美記憶。當(dāng)面對(duì)缺乏精確信息的查詢時(shí)，LLM可能生成聽起來(lái)合理但事實(shí)錯(cuò)誤的陳述，這種現(xiàn)象被稱為“幻覺(jué)”，嚴(yán)重影響模型在法律研究、醫(yī)療總結(jié)等知識(shí)密集型場(chǎng)景中的可靠性。

核心思路：通過(guò)外部知識(shí)增強(qiáng)生成能力

檢索增強(qiáng)生成（RAG）引入了一種更動(dòng)態(tài)、更可靠的方法。RAG系統(tǒng)不再單純依賴內(nèi)部的參數(shù)化記憶，而是在生成回答前，先從外部知識(shí)源檢索相關(guān)信息。這一核心思路徹底改變了生成過(guò)程。通過(guò)將輸出建立在及時(shí)、真實(shí)的文檔基礎(chǔ)上，RAG模型能夠產(chǎn)出更具體、準(zhǔn)確且可驗(yàn)證的回答。這種增強(qiáng)使系統(tǒng)能夠有效訪問(wèn)和利用訓(xùn)練參數(shù)之外的知識(shí)，緩解了傳統(tǒng)LLMs的靜態(tài)性缺陷。

對(duì)比示例：

• 查詢：“Django Web框架最新版本引入了哪些關(guān)鍵安全特性？”

a.標(biāo)準(zhǔn)LLM回答：可能列出通用的網(wǎng)絡(luò)安全特性（如CSRF保護(hù)、XSS預(yù)防），因其知識(shí)具有通用性，可能未包含最新發(fā)布說(shuō)明。

b.RAG系統(tǒng)回答：

1)檢索：掃描Django官方文檔和近期發(fā)布博客的語(yǔ)料庫(kù)。

2)生成：將檢索到的信息綜合成精準(zhǔn)回答，例如：“最新Django版本在密碼哈希器中加強(qiáng)了對(duì)潛在時(shí)序攻擊的防護(hù)，并增加了對(duì)……的支持。”該回答直接基于源文檔。

參數(shù)化記憶 vs. 非參數(shù)化記憶的定義

理解RAG需要區(qū)分其采用的兩種記憶類型，這一區(qū)別是其強(qiáng)大靈活性的核心。

• 參數(shù)化記憶：這是編碼在神經(jīng)網(wǎng)絡(luò)權(quán)重（參數(shù)）中的隱式知識(shí)，通過(guò)預(yù)訓(xùn)練從海量文本數(shù)據(jù)中學(xué)習(xí)而來(lái)。這種記憶為模型提供核心能力：通用語(yǔ)言理解、語(yǔ)法規(guī)則、推理技巧以及廣泛但靜態(tài)的世界知識(shí)基礎(chǔ)，是模型流暢性和智能的源泉。
• 非參數(shù)化記憶：這是一種顯式的外部知識(shí)源，如文檔集合、數(shù)據(jù)庫(kù)或知識(shí)圖譜。這種記憶不存儲(chǔ)在模型權(quán)重中，可輕松即時(shí)更新，其主要優(yōu)勢(shì)包括：

a.時(shí)效性：無(wú)需重新訓(xùn)練LLM，即可通過(guò)實(shí)時(shí)信息保持更新。

b.可驗(yàn)證性：系統(tǒng)可引用來(lái)源，使用戶能夠驗(yàn)證信息并建立信任。

c.可控性：開發(fā)人員可直接控制模型允許訪問(wèn)的信息，降低使用不良或無(wú)關(guān)數(shù)據(jù)的風(fēng)險(xiǎn)。

RAG系統(tǒng)巧妙地將參數(shù)化記憶的生成流暢性與非參數(shù)化記憶的事實(shí)準(zhǔn)確性和時(shí)效性結(jié)合在一起。

實(shí)用類比：開卷考試

理解RAG的一個(gè)有效方式是將其類比為開卷考試：

• 標(biāo)準(zhǔn)LLM類似參加閉卷考試的優(yōu)秀學(xué)生，只能依賴已記憶的知識(shí)（參數(shù)化記憶），雖可能對(duì)學(xué)科有深刻理解，但可能遺忘細(xì)節(jié)或不知新發(fā)現(xiàn)。
• RAG系統(tǒng)則如同同一學(xué)生參加開卷考試，既利用自身智力與理解（參數(shù)化記憶）構(gòu)建答案，又可查閱指定教材或筆記（非參數(shù)化記憶）獲取具體事實(shí)、數(shù)據(jù)和引語(yǔ)，最終產(chǎn)出更準(zhǔn)確、詳細(xì)且可信的回答。

二、高層架構(gòu)：檢索器與生成器的雙重奏

RAG架構(gòu)從根本上由兩個(gè)核心組件按順序協(xié)同工作構(gòu)成：檢索器（Retriever）和生成器（Generator）。

1. 檢索器：信息搜索引擎

給定輸入提示，檢索器的任務(wù)是搜索外部知識(shí)語(yǔ)料庫(kù)并獲取最相關(guān)的信息。這一過(guò)程并非簡(jiǎn)單的關(guān)鍵詞搜索，而是旨在理解查詢背后語(yǔ)義的語(yǔ)義搜索。

工作原理：

• 索引構(gòu)建：外部知識(shí)語(yǔ)料庫(kù)（如PDF、文本文件、數(shù)據(jù)庫(kù)記錄）經(jīng)過(guò)預(yù)處理，被分割為可管理的塊，每個(gè)塊通過(guò)專門的嵌入模型轉(zhuǎn)換為數(shù)值向量（“嵌入”）。這些向量存儲(chǔ)在高效的可搜索索引中，即向量數(shù)據(jù)庫(kù)（如Pinecone、Chroma、FAISS）。
• 檢索過(guò)程：用戶提交查詢時(shí)，使用同一嵌入模型將其轉(zhuǎn)換為向量。檢索器通過(guò)相似度搜索（如余弦相似度）查找索引中與查詢向量最接近的文檔向量。
• 輸出傳遞：檢索器將原始提示和匹配度最高的文檔塊文本傳遞給生成器。

檢索器的質(zhì)量至關(guān)重要：若獲取的文檔無(wú)關(guān)，生成器將產(chǎn)出低質(zhì)量、不相關(guān)的回答。

2. 生成器：綜合語(yǔ)言大師

生成器是預(yù)訓(xùn)練的LLM（如GPT-4、Llama 3或T5），擅長(zhǎng)理解上下文并生成類人文本。它接收原始輸入提示和檢索器獲取的豐富事實(shí)性上下文。

工作原理：

檢索到的上下文經(jīng)過(guò)格式化后，被添加到原始查詢之前，形成增強(qiáng)提示。

# 生成提示的概念結(jié)構(gòu)
retrieved_context = """Document 1: RAG檢索器通過(guò)將文檔和查詢轉(zhuǎn)換為嵌入向量工作...
Document 2: 像Pinecone這樣的向量數(shù)據(jù)庫(kù)使用近似最近鄰算法..."""
user_query = "RAG系統(tǒng)中的檢索器如何工作？"
final_prompt = f"""使用以下上下文回答問(wèn)題。若答案不在上下文中，請(qǐng)說(shuō)明未知。
上下文: {retrieved_context}
問(wèn)題: {user_query}"""

生成器利用此增強(qiáng)提示，綜合出最終連貫且基于知識(shí)的回答。其輸出不僅以用戶查詢?yōu)闂l件，還以檢索器提供的事實(shí)信息為基礎(chǔ)，顯著降低幻覺(jué)風(fēng)險(xiǎn)，確保回答基于可靠來(lái)源。

本部分核心要點(diǎn)

• LLM局限性：標(biāo)準(zhǔn)LLMs因依賴固定的內(nèi)部參數(shù)化記憶，存在知識(shí)靜態(tài)化、更新困難和易產(chǎn)生幻覺(jué)等問(wèn)題。
• RAG目標(biāo)：通過(guò)在生成回答前為L(zhǎng)LM提供外部最新知識(shí)源（非參數(shù)化記憶），解決上述局限性。
• 參數(shù)化與非參數(shù)化對(duì)比：參數(shù)化記憶是模型權(quán)重中的隱式知識(shí)，提供通用智能；非參數(shù)化記憶是顯式、外部且易更新的數(shù)據(jù)源，提供事實(shí)依據(jù)。
• 核心組件：RAG系統(tǒng)由檢索器（通過(guò)向量數(shù)據(jù)庫(kù)中的語(yǔ)義搜索查找相關(guān)信息）和生成器（基于原始查詢和檢索上下文綜合回答的LLM）組成。

三、底層技術(shù)：RAG模型架構(gòu)與訓(xùn)練

RAG的高層架構(gòu)融合了檢索器和生成器，但構(gòu)建穩(wěn)健的系統(tǒng)需關(guān)注這些組件的具體模型及其訓(xùn)練方法。RAG框架采用復(fù)雜方法確保組件協(xié)同優(yōu)化，將標(biāo)準(zhǔn)語(yǔ)言模型轉(zhuǎn)化為動(dòng)態(tài)知識(shí)注入系統(tǒng)。

檢索器：密集段落檢索（DPR）與FAISS快速搜索

檢索器的目標(biāo)是從海量知識(shí)語(yǔ)料庫(kù)中篩選出最可能包含查詢答案的文檔。RAG通過(guò)高效的雙編碼器架構(gòu)——密集段落檢索（DPR）實(shí)現(xiàn)這一目標(biāo)。

雙編碼器架構(gòu)

DPR使用兩個(gè)獨(dú)立的基于Transformer的編碼器（通常源自BERT），為文本創(chuàng)建有意義的向量表示：

1. 查詢編碼器（Query Encoder）：為輸入查詢x計(jì)算單個(gè)密集向量嵌入。“密集”指其為連續(xù)多維向量，每個(gè)維度代表文本的學(xué)習(xí)特征。
2. 段落編碼器（Passage Encoder）：為知識(shí)語(yǔ)料庫(kù)中的每個(gè)文檔d執(zhí)行相同操作。關(guān)鍵在于，這些文檔嵌入預(yù)先計(jì)算并存儲(chǔ)在索引中，使推理時(shí)的檢索過(guò)程極快。

核心思想是訓(xùn)練編碼器，將語(yǔ)義相關(guān)的查詢和文檔映射到共享向量空間中的鄰近點(diǎn)。訓(xùn)練目標(biāo)是最大化查詢嵌入與相關(guān)段落嵌入的點(diǎn)積相似度，同時(shí)最小化與所有無(wú)關(guān)段落的相似度，確保查詢向量與包含答案的文檔向量“最接近”。

使用FAISS實(shí)現(xiàn)高效搜索

面對(duì)數(shù)百萬(wàn)文檔向量，暴力搜索最高點(diǎn)積相似度在計(jì)算上不可行。RAG集成向量搜索庫(kù)（如FAISS，F(xiàn)acebook AI相似性搜索）解決此問(wèn)題。FAISS根據(jù)預(yù)計(jì)算的文檔向量構(gòu)建專用數(shù)據(jù)結(jié)構(gòu)（索引），利用量化和分區(qū)等技術(shù)實(shí)現(xiàn)最大內(nèi)積搜索（MIPS），其速度遠(yuǎn)快于窮舉搜索，使即使用海量語(yǔ)料庫(kù)，檢索器也能在亞線性時(shí)間內(nèi)找到前k個(gè)最相似文檔向量，實(shí)現(xiàn)實(shí)時(shí)檢索。

# 使用DPR和FAISS構(gòu)建檢索器的核心邏輯示例
import torch
from transformers import DprContextEncoder, DprContextEncoderTokenizer
from transformers import DprQuestionEncoder, DprQuestionEncoderTokenizer
import faiss

# 1. 加載預(yù)訓(xùn)練DPR模型和分詞器
ctx_tokenizer = DprContextEncoderTokenizer.from_pretrained("facebook/dpr-ctx_encoder-single-nq-base")
ctx_encoder = DprContextEncoder.from_pretrained("facebook/dpr-ctx_encoder-single-nq-base")
question_tokenizer = DprQuestionEncoderTokenizer.from_pretrained("facebook/dpr-question_encoder-single-nq-base")
question_encoder = DprQuestionEncoder.from_pretrained("facebook/dpr-question_encoder-single-nq-base")

# 2. 創(chuàng)建虛擬知識(shí)語(yǔ)料庫(kù)
knowledge_corpus = [
    "埃菲爾鐵塔是巴黎戰(zhàn)神廣場(chǎng)上的鍛鐵格子塔。",
    "中國(guó)長(zhǎng)城是一系列由石頭、磚塊和其他材料建造的防御工事。",
    "光合作用是植物用來(lái)將光能轉(zhuǎn)化為化學(xué)能的過(guò)程。"
]

# 3. 預(yù)計(jì)算文檔嵌入（實(shí)際應(yīng)用中僅需計(jì)算一次并存儲(chǔ)）
with torch.no_grad():
    ctx_inputs = ctx_tokenizer(knowledge_corpus, return_tensors="pt", padding=True, truncatinotallow=True)
    passage_embeddings = ctx_encoder(**ctx_inputs).pooler_output
print(f"文檔嵌入形狀: {passage_embeddings.shape}")  # (文檔數(shù)量, 嵌入維度)

# 4. 構(gòu)建FAISS索引
embedding_dim = passage_embeddings.shape[1]
index = faiss.IndexFlatIP(embedding_dim)  # 精確最大內(nèi)積搜索索引
index.add(passage_embeddings.numpy())  # 向索引添加文檔向量

# 5. 執(zhí)行搜索
query = "什么是埃菲爾鐵塔？"
with torch.no_grad():
    question_inputs = question_tokenizer(query, return_tensors="pt")
    question_embedding = question_encoder(**question_inputs).pooler_output
D, I = index.search(question_embedding.numpy(), k=2)  # 搜索前2個(gè)最相似段落

print("檢索結(jié)果:")
for i in range(len(I[0])):
    print(f"排名 {i+1}: 文檔 '{knowledge_corpus[I[0][i]]}'，得分 {D[0][i]}")

生成器：使用BART綜合信息

檢索器獲取前k個(gè)相關(guān)文檔后，生成器的任務(wù)是將其綜合為單一連貫回答。RAG通常采用預(yù)訓(xùn)練的序列到序列（seq2seq）模型，BART是常用且有效的選擇。BART的架構(gòu)（雙向編碼器+自回歸解碼器）非常適合此任務(wù)，其在去噪任務(wù)上的預(yù)訓(xùn)練使其擅長(zhǎng)從復(fù)雜輸入（如查詢與多個(gè)檢索文檔的拼接）中重建信息。生成器的輸入通過(guò)將原始查詢x添加到每個(gè)檢索文檔的內(nèi)容前構(gòu)建，組合后的文本被饋入BART模型：

[CLS] 查詢 [SEP] 文檔1標(biāo)題 [SEP] 文檔1文本 [SEP] 文檔2標(biāo)題 [SEP] 文檔2文本 ...

BART解碼器逐 token 生成最終答案，每一步均關(guān)注完整輸入序列，使其既能從原始查詢中提取上下文，又能將回答錨定在檢索文檔的事實(shí)信息上。這種對(duì)外部知識(shí)的直接依賴，使RAG輸出比標(biāo)準(zhǔn)LLMs更具事實(shí)性，顯著降低幻覺(jué)率。

# 使用Hugging Face RAG分詞器準(zhǔn)備生成器輸入的示例
from transformers import RagTokenizer, RagRetriever, RagSequenceForGeneration

tokenizer = RagTokenizer.from_pretrained("facebook/rag-sequence-nq")
query = "什么是埃菲爾鐵塔？"
retrieved_docs = [
    {"title": "Eiffel Tower", "text": "The Eiffel Tower is a wrought-iron lattice tower on the Champ de Mars in Paris."},
    {"title": "Champ de Mars", "text": "The Champ de Mars is a large public greenspace in Paris, France, located in the seventh arrondissement."}
]
retrieved_doc_texts = [doc['text'] for doc in retrieved_docs]
retrieved_doc_titles = [doc['title'] for doc in retrieved_docs]

# 分詞器處理查詢與文檔拼接
prepared_inputs = tokenizer.prepare_seq2seq_batch(
    src_texts=[query] * len(retrieved_doc_texts),  # 每個(gè)文檔均關(guān)聯(lián)同一查詢
    doc_texts=retrieved_doc_texts,
    return_tensors="pt"
)

# 查看解碼后的輸入格式
for i in range(len(retrieved_doc_texts)):
    print(f"\n--- 生成器輸入（文檔 {i+1}） ---")
    print(tokenizer.decode(prepared_inputs['input_ids'][i], skip_special_tokens=False))

模型變體：RAG-Sequence vs. RAG-Token

RAG框架有兩種主要變體，區(qū)別在于生成過(guò)程中利用檢索文檔的方式：

1. RAG-Sequence：每個(gè)查詢僅檢索一次，獲取前k個(gè)文檔后，使用同一組文檔生成整個(gè)輸出序列，最終回答基于所有檢索段落的聯(lián)合上下文。

• 適用場(chǎng)景：?jiǎn)柎鸬榷谈袷缴桑瑔我痪劢沟淖C據(jù)集已足夠。
• 優(yōu)勢(shì)：計(jì)算高效，實(shí)現(xiàn)簡(jiǎn)單。

2. RAG-Token：采用更動(dòng)態(tài)的“逐token”檢索方式，生成每個(gè)token時(shí)均可重新檢索一組新的前k個(gè)文檔，使上下文隨答案構(gòu)建而動(dòng)態(tài)變化，適用于主題可能演變的長(zhǎng)復(fù)雜回答生成。

• 適用場(chǎng)景：撰寫段落或總結(jié)等長(zhǎng)格式生成，答案不同部分可能需要不同證據(jù)。
• 優(yōu)勢(shì)：復(fù)雜任務(wù)中可能更準(zhǔn)確、細(xì)致。
• 缺點(diǎn)：因重復(fù)檢索，計(jì)算成本顯著更高。

兩種變體的選擇是性能與計(jì)算資源間的典型權(quán)衡。

幕后揭秘：RAG模型架構(gòu)與訓(xùn)練

RAG的高層架構(gòu)融合了檢索器和生成器，但要構(gòu)建一個(gè)強(qiáng)大的系統(tǒng)，這些組件的具體模型及其訓(xùn)練方法至關(guān)重要。RAG框架采用了一種復(fù)雜的方法，以確保這兩個(gè)組件經(jīng)過(guò)優(yōu)化后協(xié)同工作，將標(biāo)準(zhǔn)語(yǔ)言模型轉(zhuǎn)變?yōu)橐粋€(gè)動(dòng)態(tài)的、注入知識(shí)的系統(tǒng)。

檢索器：用于快速搜索的密集段落檢索（DPR）和FAISS

檢索器的目標(biāo)是在龐大的知識(shí)語(yǔ)料庫(kù)中篩選，找出最有可能包含給定查詢答案的文檔。檢索增強(qiáng)生成（RAG）通過(guò)一種稱為密集段落檢索（DPR）的高效雙編碼器架構(gòu)來(lái)實(shí)現(xiàn)這一目標(biāo)。

雙編碼器架構(gòu)

DPR使用兩個(gè)獨(dú)立的、基于Transformer的編碼器（通常源自BERT）來(lái)創(chuàng)建有意義的文本向量表示：

1. 查詢編碼器（Query Encoder）：為輸入查詢x計(jì)算一個(gè)單一的、稠密向量嵌入。“稠密”是指它是一個(gè)連續(xù)的多維向量，其中每個(gè)維度都代表文本的一個(gè)學(xué)習(xí)特征。
2. 段落編碼器（Passage Encoder）：對(duì)知識(shí)語(yǔ)料庫(kù)中的每個(gè)文檔d執(zhí)行相同的操作。至關(guān)重要的是，這些文檔嵌入是預(yù)先計(jì)算并存儲(chǔ)在索引中的，這使得推理時(shí)的檢索過(guò)程極其快速。

其核心思想是訓(xùn)練這些編碼器，將語(yǔ)義相關(guān)的查詢和文檔映射到共享向量空間中相近的點(diǎn)。訓(xùn)練目標(biāo)是最大化查詢嵌入與其相關(guān)段落嵌入之間的點(diǎn)積相似度，同時(shí)最小化其與所有其他不相關(guān)段落的相似度。這確保了查詢向量將與包含其答案的文檔向量“最接近”。

使用FAISS進(jìn)行高效搜索

由于文檔向量可能多達(dá)數(shù)百萬(wàn)個(gè)，通過(guò)暴力搜索來(lái)尋找點(diǎn)積相似度最高的向量在計(jì)算上是不可行的。檢索增強(qiáng)生成（RAG）集成了諸如FAISS（Facebook AI相似度搜索）之類的向量搜索庫(kù)來(lái)解決這個(gè)問(wèn)題。FAISS會(huì)根據(jù)預(yù)先計(jì)算好的文檔向量構(gòu)建一種專門的數(shù)據(jù)結(jié)構(gòu)——索引。該索引采用量化和分區(qū)等技術(shù)，實(shí)現(xiàn)最大內(nèi)積搜索（MIPS），其速度比窮舉搜索快得多。它使檢索器能夠在亞線性時(shí)間內(nèi)找到前k個(gè)最相似的文檔向量，即便處理大規(guī)模語(yǔ)料庫(kù)，也能實(shí)現(xiàn)實(shí)時(shí)檢索。

# 此示例演示了使用FAISS設(shè)置基于DPR的檢索器的核心邏輯  
# 注意：需要安裝`transformers`、`datasets`和`faiss-cpu`  
import torch  
from transformers import DprContextEncoder, DprContextEncoderTokenizer  
from transformers import DprQuestionEncoder, DprQuestionEncoderTokenizer  
import faiss  

# 1. 加載預(yù)訓(xùn)練DPR模型和分詞器  
# 段落編碼器用于處理文檔/段落  
ctx_tokenizer = DprContextEncoderTokenizer.from_pretrained("facebook/dpr-ctx_encoder-single-nq-base")  
ctx_encoder = DprContextEncoder.from_pretrained("facebook/dpr-ctx_encoder-single-nq-base")  
# 問(wèn)題編碼器用于處理用戶查詢  
question_tokenizer = DprQuestionEncoderTokenizer.from_pretrained("facebook/dpr-question_encoder-single-nq-base")  
question_encoder = DprQuestionEncoder.from_pretrained("facebook/dpr-question_encoder-single-nq-base")  

# 2. 創(chuàng)建虛擬知識(shí)語(yǔ)料庫(kù)  
knowledge_corpus = [  
    "The Eiffel Tower is a wrought-iron lattice tower on the Champ de Mars in Paris.",  
    "The Great Wall of China is a series of fortifications made of stone, brick, and other materials.",  
    "Photosynthesis is a process used by plants to convert light energy into chemical energy."
]  

# 3. 預(yù)計(jì)算文檔嵌入（實(shí)際應(yīng)用中只需計(jì)算一次并存儲(chǔ)）  
with torch.no_grad():  
    ctx_inputs = ctx_tokenizer(knowledge_corpus, return_tensors="pt", padding=True, truncatinotallow=True)  
    passage_embeddings = ctx_encoder(**ctx_inputs).pooler_output  
print(f"文檔嵌入形狀: {passage_embeddings.shape}")  # (文檔數(shù)量, 嵌入維度)  

# 4. 構(gòu)建FAISS索引（用于高效搜索）  
embedding_dim = passage_embeddings.shape[1]  
# 使用IndexFlatIP進(jìn)行精確的最大內(nèi)積搜索  
index = faiss.IndexFlatIP(embedding_dim)  
index.add(passage_embeddings.numpy())  # 向索引中添加文檔向量  

# 5. 執(zhí)行搜索  
query = "What is the Eiffel Tower?"
with torch.no_grad():  
    question_inputs = question_tokenizer(query, return_tensors="pt")  
    question_embedding = question_encoder(**question_inputs).pooler_output  
# 搜索FAISS索引，獲取前k個(gè)最相似的段落（此處k=2）  
D, I = index.search(question_embedding.numpy(), k=2)  # D: 距離（點(diǎn)積值）, I: 索引  

print("檢索結(jié)果:")  
for i in range(len(I[0])):  
    print(f"排名 {i+1}: 文檔 '{knowledge_corpus[I[0][i]]}'，得分 {D[0][i]}")

生成器：使用BART合成信息

一旦檢索器獲取到前k個(gè)相關(guān)文檔，生成器的任務(wù)就是將它們整合為一個(gè)連貫的答案。檢索增強(qiáng)生成（RAG）為此采用了預(yù)訓(xùn)練的序列到序列（seq2seq）模型，BART是一種常用且有效的選擇。BART的架構(gòu)具有雙向編碼器和自回歸解碼器，非常適合這項(xiàng)任務(wù)。它在去噪任務(wù)上的預(yù)訓(xùn)練使其在從損壞或復(fù)雜的輸入（如與多個(gè)檢索到的文檔連接的查詢）中重建信息方面表現(xiàn)出色。

生成器的輸入是通過(guò)將原始查詢x前置到每個(gè)檢索到的文檔d_i的內(nèi)容中創(chuàng)建的。然后，將這個(gè)組合文本輸入到BART模型中：

[CLS] 查詢 [SEP] 文檔1標(biāo)題 [SEP] 文檔1文本 [SEP] 文檔2標(biāo)題 [SEP] 文檔2文本 ...

BART解碼器逐個(gè)生成最終答案的標(biāo)記。在每一步中，它會(huì)關(guān)注完整的輸入序列，使其能夠從原始查詢中獲取上下文，同時(shí)將其回答基于檢索到的文檔所提供的事實(shí)信息。這種對(duì)外部知識(shí)的直接依賴，使得RAG的輸出更具事實(shí)性，與標(biāo)準(zhǔn)大語(yǔ)言模型相比，顯著降低了幻覺(jué)率。

# 此示例展示了如何使用Hugging Face RAG分詞器準(zhǔn)備生成器的輸入  
from transformers import RagTokenizer, RagRetriever, RagSequenceForGeneration  

# 實(shí)際應(yīng)用中，需初始化包含所有組件的完整RAG模型  
# 此處僅使用分詞器演示輸入準(zhǔn)備步驟  
tokenizer = RagTokenizer.from_pretrained("facebook/rag-sequence-nq")  
query = "What is the Eiffel Tower?"

# 假設(shè)這些是從之前步驟的FAISS索引中檢索到的文檔  
retrieved_docs = [  
    {"title": "Eiffel Tower", "text": "The Eiffel Tower is a wrought-iron lattice tower on the Champ de Mars in Paris."},  
    {"title": "Champ de Mars", "text": "The Champ de Mars is a large public greenspace in Paris, France, located in the seventh arrondissement."}  
]  
retrieved_doc_texts = [doc['text'] for doc in retrieved_docs]  
retrieved_doc_titles = [doc['title'] for doc in retrieved_docs]  

# RagTokenizer處理查詢+文檔的復(fù)雜格式，為每個(gè)檢索到的文檔準(zhǔn)備一個(gè)輸入序列  
prepared_inputs = tokenizer.prepare_seq2seq_batch(  
    src_texts=[query] * len(retrieved_doc_texts),  # 每個(gè)文檔均關(guān)聯(lián)同一查詢  
    doc_texts=retrieved_doc_texts,  
    return_tensors="pt"
)  

# 查看解碼后的輸入格式（模型將處理這些輸入以生成答案）  
for i in range(len(retrieved_doc_texts)):  
    print(f"\n--- 生成器輸入（文檔 {i+1}） ---")  
    print(tokenizer.decode(prepared_inputs['input_ids'][i], skip_special_tokens=False))

模型變體：RAG-Sequence vs. RAG-Token模型

RAG框架主要有兩種變體，它們的區(qū)別在于在生成過(guò)程中如何利用檢索到的文檔。

1. RAG-Sequence

• 機(jī)制：每次查詢執(zhí)行一次檢索，獲取前k個(gè)文檔后，使用同一組文檔生成整個(gè)輸出序列，最終回答基于所有檢索段落的聯(lián)合上下文。
• 適用場(chǎng)景：?jiǎn)柎鸬榷涛谋旧扇蝿?wù)，一組單一、有針對(duì)性的證據(jù)即可滿足需求。
• 優(yōu)勢(shì)：計(jì)算效率高，實(shí)現(xiàn)簡(jiǎn)單。

2. RAG-Token

• 機(jī)制：采用更動(dòng)態(tài)的“逐token”檢索方式，生成每個(gè)token時(shí)均可重新檢索一組新的前k個(gè)文檔，使上下文隨答案構(gòu)建而動(dòng)態(tài)變化。
• 適用場(chǎng)景：撰寫段落或總結(jié)等長(zhǎng)格式生成任務(wù)，答案不同部分可能需要不同證據(jù)。
• 優(yōu)勢(shì)：復(fù)雜任務(wù)中可能更準(zhǔn)確、細(xì)致。
• 缺點(diǎn)：因重復(fù)檢索，計(jì)算成本顯著更高。

兩種變體的選擇是性能與計(jì)算資源間的典型權(quán)衡。

端到端訓(xùn)練：聯(lián)合優(yōu)化檢索器和生成器

RAG最強(qiáng)大的功能之一是它能夠進(jìn)行端到端的訓(xùn)練。這意味著檢索器和生成器并非孤立訓(xùn)練，而是在下游任務(wù)上一起進(jìn)行微調(diào)。這是通過(guò)將檢索到的文檔z視為一個(gè)潛在變量來(lái)實(shí)現(xiàn)的。

由于檢索步驟（從索引中選擇最佳文檔）是離散且不可微的，我們無(wú)法將最終損失直接反向傳播到檢索器。RAG論文提出了一個(gè)巧妙的解決方案：模型不再選擇一個(gè)‘最佳’文檔，而是對(duì)前k個(gè)檢索到的文檔進(jìn)行邊緣化處理。

訓(xùn)練目標(biāo)是在給定輸入x的情況下，最大化真實(shí)答案y的邊際對(duì)數(shù)似然：

公式拆解

• ( P(z|x) )：檢索器概率，即給定查詢x檢索文檔z的可能性，通過(guò)DPR模型的點(diǎn)積相似度軟最大化計(jì)算，代表檢索器對(duì)文檔相關(guān)性的“置信度”。
• ：生成器概率，即給定查詢x和特定文檔z時(shí)生成答案y的標(biāo)準(zhǔn)seq2seq概率，代表生成器利用給定證據(jù)產(chǎn)出正確答案的“能力”。

反向傳播機(jī)制

通過(guò)優(yōu)化此求和式，最終輸出的損失會(huì)通過(guò)以下兩個(gè)部分進(jìn)行反向傳播：

1. 生成器更新：梯度更新生成器參數(shù)，使其更擅長(zhǎng)利用提供的上下文（( P(y|x, z) )）。
2. 檢索器更新：梯度還更新查詢編碼器的參數(shù)（( E_Q )），訓(xùn)練檢索器獲取生成器可用于產(chǎn)出更好答案的文檔，即學(xué)習(xí)檢索使( P(y|x, z) )最大化的段落z。

實(shí)際訓(xùn)練注意事項(xiàng)

在典型的微調(diào)設(shè)置中，段落編碼器（( E_P )）和文檔索引保持凍結(jié)狀態(tài)。這是因?yàn)樵诿總€(gè)訓(xùn)練步驟中重新計(jì)算整個(gè)語(yǔ)料庫(kù)的嵌入向量并重建索引的成本過(guò)高。因此，訓(xùn)練信號(hào)僅用于微調(diào)查詢編碼器和生成器，創(chuàng)建一個(gè)高度協(xié)同的系統(tǒng)——檢索器精準(zhǔn)學(xué)習(xí)生成器所需的信息類型。

關(guān)鍵技術(shù)要點(diǎn)

• 檢索器：使用雙編碼器（DPR）將查詢和文檔高效映射到共享向量空間，由FAISS提供亞線性時(shí)間相似性搜索。
• 生成器：采用像BART這樣的序列到序列模型，以原始查詢和檢索到的文檔的連接輸入為條件，生成基于事實(shí)的答案。
• 模型變體：RAG-Sequence每次查詢檢索一次（速度快），而RAG-Token為每個(gè)生成的標(biāo)記進(jìn)行檢索（更具動(dòng)態(tài)性，但成本高）。
• 端到端訓(xùn)練：RAG的關(guān)鍵創(chuàng)新在于將檢索到的文檔視為潛在變量，通過(guò)對(duì)前k個(gè)檢索文檔的概率邊緣化實(shí)現(xiàn)聯(lián)合優(yōu)化，使梯度能反向傳播到生成器和檢索器的查詢編碼器。

RAG實(shí)戰(zhàn)：性能與應(yīng)用

在確立了檢索增強(qiáng)生成（RAG）的核心架構(gòu)后，我們現(xiàn)在來(lái)探討它的實(shí)際性能和應(yīng)用。一個(gè)模型只有在實(shí)際任務(wù)中能轉(zhuǎn)化為卓越的成果，其理論上的精妙之處才有價(jià)值。檢索增強(qiáng)生成（RAG）在多個(gè)知識(shí)密集型領(lǐng)域展示了其能力，凸顯出它的混合存儲(chǔ)系統(tǒng)如何帶來(lái)切實(shí)的、最先進(jìn)的優(yōu)勢(shì)。

知識(shí)密集型任務(wù)中的頂尖性能

RAG在多個(gè)開放域問(wèn)答（ODQA）基準(zhǔn)測(cè)試中取得了新的最先進(jìn)成果，包括自然問(wèn)題（Natural Questions）、網(wǎng)絡(luò)問(wèn)題（WebQuestions）和瑣事問(wèn)答（TriviaQA）。與必須從其固定參數(shù)記憶中回答問(wèn)題的標(biāo)準(zhǔn)大語(yǔ)言模型不同，RAG系統(tǒng)可以在推理時(shí)查閱龐大的最新知識(shí)語(yǔ)料庫(kù)。這種將回答基于檢索到的、可驗(yàn)證證據(jù)的能力是其成功的主要推動(dòng)力。

在開放域問(wèn)答（ODQA）中，目標(biāo)是從大量文檔中找到問(wèn)題的準(zhǔn)確答案。RAG在這方面表現(xiàn)出色，因?yàn)槠鋬呻A段過(guò)程與該任務(wù)完美契合：

1. 檢索器：密集段落檢索器（DPR）首先將搜索空間從數(shù)百萬(wàn)個(gè)文檔縮小到少數(shù)幾個(gè)高度相關(guān)的段落。這一步對(duì)于效率和準(zhǔn)確性至關(guān)重要。
2. 生成器：基于BART的生成器隨后會(huì)仔細(xì)閱讀問(wèn)題及提供的段落，以合成準(zhǔn)確的自然語(yǔ)言答案。

這種方法始終優(yōu)于僅依賴參數(shù)化記憶的模型，后者更容易出現(xiàn)事實(shí)性不準(zhǔn)確問(wèn)題，并且如果不進(jìn)行完全重新訓(xùn)練，就無(wú)法適應(yīng)新信息。使用檢索增強(qiáng)生成（RAG），更新知識(shí)庫(kù)就像更新文檔索引一樣簡(jiǎn)單，這是一個(gè)高效得多的過(guò)程。

減輕幻覺(jué)并增強(qiáng)事實(shí)一致性

標(biāo)準(zhǔn)大語(yǔ)言模型的一個(gè)關(guān)鍵故障模式是“幻覺(jué)”，即生成看似合理但事實(shí)上不正確的信息。檢索增強(qiáng)生成（RAG）通過(guò)使生成器基于外部可驗(yàn)證的知識(shí)來(lái)直接緩解這一問(wèn)題。這使其成為事實(shí)準(zhǔn)確性至關(guān)重要的應(yīng)用場(chǎng)景中的強(qiáng)大工具。

1. 事實(shí)核查（Fact Verification）

在這項(xiàng)任務(wù)中，模型必須根據(jù)證據(jù)來(lái)源判斷某一陳述的真實(shí)性。檢索增強(qiáng)生成（RAG）的架構(gòu)天生適合此項(xiàng)任務(wù)，其過(guò)程如下：

• 將輸入的陳述作為查詢內(nèi)容，檢索相關(guān)文檔。
• 生成器根據(jù)證據(jù)是否證實(shí)該陳述，合成一個(gè)判定結(jié)果（例如，“支持”或“反駁”）。在諸如FEVER（事實(shí)提取與核查）這樣的基準(zhǔn)測(cè)試中，這種基于事實(shí)依據(jù)的機(jī)制顯著提高了可靠性。

2. 抽象生成與摘要（Abstractive Generation & Summarization）

對(duì)于諸如總結(jié)復(fù)雜文檔之類的長(zhǎng)篇生成任務(wù)而言，保持事實(shí)一致性頗具挑戰(zhàn)。RAG-Token模型變體在這方面尤為有效。通過(guò)為其生成的每個(gè)標(biāo)記重新檢索文檔，該模型能夠動(dòng)態(tài)轉(zhuǎn)移其關(guān)注點(diǎn)。示例：設(shè)想創(chuàng)作一篇傳記：

• 在撰寫有關(guān)研究對(duì)象早年生活的內(nèi)容時(shí)，RAG-Token會(huì)檢索有關(guān)其童年和教育的文檔。
• 當(dāng)內(nèi)容過(guò)渡到其職業(yè)生涯時(shí)，它會(huì)重新檢索，收集有關(guān)職業(yè)成就的文章。這使其能夠構(gòu)建一個(gè)全面且基于事實(shí)的敘述，反映源材料的細(xì)微差別，而在這項(xiàng)任務(wù)上，標(biāo)準(zhǔn)的大語(yǔ)言模型可能會(huì)偏離主題或編造細(xì)節(jié)。

檢索器的關(guān)鍵作用：協(xié)同合作關(guān)系

檢索增強(qiáng)生成（RAG）系統(tǒng)的性能在很大程度上取決于其檢索器的質(zhì)量。如果檢索器未能找到相關(guān)文檔，生成器就只能使用質(zhì)量不佳或不相關(guān)的上下文，從而導(dǎo)致答案錯(cuò)誤或籠統(tǒng)。整個(gè)系統(tǒng)的有效性取決于檢索器在正確的時(shí)間提供正確知識(shí)的能力。

RAG解決這一問(wèn)題的關(guān)鍵創(chuàng)新在于其端到端訓(xùn)練方法。該系統(tǒng)不僅訓(xùn)練檢索器尋找語(yǔ)義相似的文檔，還訓(xùn)練檢索器尋找對(duì)生成器解決下游任務(wù)最有用的文檔。這是通過(guò)將檢索到的文檔 ( z ) 視為一個(gè)潛在變量來(lái)實(shí)現(xiàn)的。在訓(xùn)練過(guò)程中，最終損失是對(duì)前k個(gè)檢索到的文檔進(jìn)行邊緣化處理得到的，其訓(xùn)練目標(biāo)為：

• ( x ) 是輸入查詢，( y ) 是目標(biāo)輸出（如正確答案），( z ) 是檢索到的文檔。
• ( P(z|x) ) 是檢索器為查詢 ( x ) 選擇文檔 ( z ) 的概率，( P(y|x, z) ) 是生成器在給定查詢 ( x ) 和文檔 ( z ) 時(shí)生成正確輸出 ( y ) 的概率。

該公式允許梯度不僅流向生成器，還流向檢索器的查詢編碼器。實(shí)際效果是強(qiáng)大的：查詢編碼器經(jīng)過(guò)微調(diào)，生成能夠檢索幫助生成器產(chǎn)生正確最終答案概率最高的文檔的嵌入。簡(jiǎn)而言之，檢索器學(xué)會(huì)了預(yù)測(cè)生成器的需求，創(chuàng)建了一個(gè)高度協(xié)同的系統(tǒng)。

實(shí)現(xiàn)權(quán)衡：速度、準(zhǔn)確性和解碼

實(shí)現(xiàn)RAG需要進(jìn)行實(shí)際的權(quán)衡，主要是在速度和準(zhǔn)確性之間。這些選擇體現(xiàn)在模型架構(gòu)和解碼策略中。

1. 架構(gòu)變體

2. 解碼策略

生成最終文本序列的方法也對(duì)性能有重大影響：

• 貪心解碼（快速）：在每一步，模型選擇單個(gè)最可能的標(biāo)記。這是最快的方法，但可能導(dǎo)致次優(yōu)或重復(fù)的輸出，因?yàn)樗豢紤]整體序列質(zhì)量。
• 波束搜索（全面）：波束搜索不只是選擇一個(gè)標(biāo)記，而是維護(hù)一組 ( k )（“波束寬度”）個(gè)最可能的部分序列。它探索更廣泛的搜索空間，通常會(huì)產(chǎn)生更連貫和高質(zhì)量的輸出。然而，其計(jì)算成本隨著波束寬度的增加而增加。
• RAG特定解碼：在RAG中，生成概率以檢索到的文檔 ( z ) 為條件。一些高級(jí)實(shí)現(xiàn)使用“全面”解碼方法，其中使用不同的檢索文檔生成不同的波束假設(shè)，最終輸出是整體得分最高的那個(gè)。這在計(jì)算上很昂貴，但可以最大限度地利用檢索到的知識(shí)。

總結(jié)

• 性能優(yōu)勢(shì)：RAG通過(guò)將生成器基于外部檢索證據(jù)，在自然問(wèn)題等知識(shí)密集型基準(zhǔn)測(cè)試中取得了最先進(jìn)的結(jié)果，使其知識(shí)庫(kù)可更新，答案可驗(yàn)證。
• 應(yīng)用多樣：其架構(gòu)對(duì)開放域問(wèn)答、事實(shí)核查（通過(guò)根據(jù)證據(jù)檢查陳述）和復(fù)雜摘要非常有效，其中RAG-Token變體可防止事實(shí)偏差。
• 檢索器的重要性：檢索器的性能至關(guān)重要。RAG的端到端訓(xùn)練將文檔視為潛在變量，創(chuàng)造了一種獨(dú)特的協(xié)同作用，使檢索器學(xué)會(huì)查找對(duì)生成器任務(wù)最有用的文檔。
• 實(shí)際權(quán)衡：實(shí)現(xiàn)需要平衡速度和質(zhì)量。關(guān)鍵決策包括在快速的RAG-Sequence和全面的RAG-Token變體之間進(jìn)行選擇，以及選擇解碼策略，如快速貪心搜索或更健壯但較慢的波束搜索。

結(jié)論

總之，檢索增強(qiáng)生成（RAG）代表了從單一、靜態(tài)的語(yǔ)言模型向動(dòng)態(tài)、知識(shí)基礎(chǔ)系統(tǒng)的關(guān)鍵轉(zhuǎn)變。通過(guò)將參數(shù)化記憶的生成流暢性與外部非參數(shù)化知識(shí)源的事實(shí)可靠性相結(jié)合，RAG直接解決了大語(yǔ)言模型的關(guān)鍵局限性，如信息過(guò)時(shí)和幻覺(jué)。其優(yōu)雅的檢索器-生成器架構(gòu)不僅提供了最先進(jìn)的性能，還為構(gòu)建更可信、準(zhǔn)確和可驗(yàn)證的AI應(yīng)用提供了實(shí)用框架。隨著數(shù)字信息格局的不斷擴(kuò)展，RAG范式將成為有效和負(fù)責(zé)任地利用知識(shí)的不可或缺的工具。