“ 大模型的應用開發，是一門實踐性很強的東西，理論很簡單，做好很困難。”

關于大模型的應用已經寫過很多文章了，在剛開始對大模型應用理解不深入的情況下，那時總以為大模型的應用很簡單，只需要把東西丟給大模型，然后讓大模型給出一個輸出結果即可。

但等到隨著對大模型應用理解的加深，才發現事情遠遠沒有那么簡單；用大模型做一個demo和用大模型做一個企業級應用，那差距不是一般的大；做出來和做好完全是兩個概念。

怎么做好一個大模型應用？

做好一個大模型應用需要解決哪些問題？

以目前作者主要從事的應用方向，RAG和智能體為例，怎么做好一個RAG系統，又怎么做好一個智能體？

RAG技術從理論上來說特別簡單，一句話總結就是：通過相似度召回的方式，把需要的文檔內容丟給大模型，然后讓大模型根據文檔內容進行輸出。

但這里就有一個問題？

怎么快速和準確的召回數據，面對復雜的文檔格式，復雜的文檔內容，怎么處理數據才能保證快速召回與問題相關的問題，以及召回數據的準確性問題；畢竟如果召回的數據有問題，那還不如不要召回為好。

因此，對召回數據的評判標準有兩個，一個是召回的廣度，另一個是召回的精準度；但在具體的實踐過程中，這兩個標準往往又是相悖的。

而隨著數據量的增多，要想達到這兩個標準會變得越來越困難，也就是說隨著數據的量變，會導致其產生質變；而且這還會帶來新的問題——速度，畢竟對產品來說，響應時間太長是不可接受的。

其次，再說到更復雜的智能體系統；智能體的核心是讓大模型來取代人類的決策過程，讓大模型去主導一個系統的整個生命周期；這個首先需要大模型具備一定的邏輯推理和分析能力，當然這個可以根據不同的任務選擇不同的模型。

智能體看著做起來很復雜，實際操作起來確實也很復雜；但其核心其實就兩點——模型的推理能力和工具調用的能力。只要模型擁有強大的問題分析和邏輯推理能力，再給它配備大量的工具，那么理論上來說這個智能體將無所不能。

但，做智能體的難點在哪里？

首先，怎么激發智能體的邏輯思維能力，以及其自身的糾錯能力；我們首先要明白一件事情，一個大模型在被訓練完成之后，除了重新訓練或微調，否則這個模型的能力范圍就已經定型了，因此我們需要做的是激發這個模型的潛力。

這玩意就像一個人，他上完大學之后懂的很多東西，但這些東西他不一定能做的好，而這就需要在大量的實踐中去學習解決問題的方法。

因此，目前關于智能體的應用業內就提出了一個方法論——ReAct模式；也就是一個會自我反思的智能體；其原理就是，讓大模型一邊去推理，一邊行動；也就是我們常說的邊干邊學，而且為了驗證模型的推理效果，還給其引入了一個Observation(觀察者)模式，也就是去判斷推理和行動的結果是否符合要求，如果不符合則重新來過，直到符合為止。

大模型應用是一個入門非常簡單，但要想做好卻需要大量技術，架構，工程化才行。

本文轉載自??AI探索時代?? 作者：DFires