人工智能（AI）是繼互聯網之后最偉大的技術變革。然而，許多創業者在試圖擁抱這一變革時，卻常常陷入各種專業術語和流行詞匯的泥沼中。今天，我們就來聊聊創業者需要了解的30個最重要的AI術語，幫你輕松避開這些“坑”。

一、基礎概念

1. 大語言模型（LLM）

大語言模型是當今大多數AI創新和應用背后的技術。像ChatGPT、Claude、Gemini這些工具，都是基于LLM構建的。簡單來說，LLM可以通過自然語言執行各種任務，比如寫文章、回答問題、生成代碼等。它們就像是一個超級智能的“助手”，只要你用自然語言告訴它需求，它就能盡力完成。

2. 提示（Prompt）

提示是傳遞給LLM的請求。與傳統軟件不同，LLM的提示非常靈活，你可以用無數種方式讓模型完成同一個任務。比如，你想讓LLM幫你總結一篇報告，你可以直接說“總結一下這篇報告”，也可以更詳細地說“提取這篇報告的關鍵觀點，用簡潔的語言寫出來”，甚至可以問“這篇報告的核心內容是什么？”不同的提示方式可能會得到不同的結果。

3. 提示工程（Prompt Engineering）

提示工程就是精心設計你的提示，以優化任務的執行效果。雖然LLM本身就很強大，但通過一些技巧，可以讓輸出結果更適合特定任務。比如，給出詳細指令、提供背景信息、使用結構化文本、讓LLM幫助優化提示，或者直接給出例子。這些方法都能讓LLM更好地理解你的需求，從而給出更精準的結果。

4. 少樣本提示（Few-shot Prompting）

這是提示工程中的一種技巧，即在提示中包含任務的例子。比如，你想讓LLM幫你總結論文，你可以先給它幾個總結好的論文例子，這樣它就能更好地理解你的需求，生成更符合你期望的結果。這種方法特別適合那些難以用詳細指令描述的任務。

5. 上下文窗口（Context Window）

上下文窗口是LLM能夠處理的最大文本量。雖然更多的指令和上下文通常能讓LLM表現得更好，但它的處理能力是有限的。對于現代LLM來說，這個上限大約是10萬字（相當于一本普通書的長度）。不過，像Gemini 1.5 Pro這樣的模型可以處理100萬字以上。

6. 令牌（Token）

令牌是LLM理解的文本單位。我們看到的是單詞和字符，但LLM看到的是所謂的令牌，即作為單個實體處理的字符序列。不同的模型對文本的分割方式可能不同，你可以通過一些工具來探索不同模型是如何處理文本的。

7. 推理（Inference）

推理就是使用LLM生成文本的過程。LLM生成長文本時，是一次生成一個令牌，就像你手機上的自動補全功能一樣。不過，LLM會不斷選擇下一個最合適的令牌，直到生成完整的回答。從成本角度看，這意味著每次生成回答時，LLM都需要運行多次，每次生成一個令牌，這可能會導致成本很高。

8. 參數（Parameter）

參數是決定LLM根據輸入生成什么輸出的數字。LLM的輸入和輸出之間的關系由這些參數定義。小的LLM可能有大約10億個參數，而大的LLM可能有超過1000億個參數。一般來說，參數越多，模型越“聰明”，但同時成本也越高，因為每個參數都對應計算機需要執行的操作。

9. 溫度（Temperature）

溫度是控制LLM回答隨機性的參數。LLM在生成回答時，會預測所有可能的下一個令牌的概率（通常有5萬到20萬個可能的令牌）。通過調整溫度參數，我們可以改變這些概率，讓輸出更隨機（降低高概率令牌的概率，增加低概率令牌的概率）。

二、風險與防護

10. 提示注入（Prompt Injection）

提示注入是指有人通過惡意提示讓LLM違反規則。LLM的靈活性是一把雙刃劍，惡意用戶可能會發送奇怪的提示，導致LLM的行為不可預測甚至產生不良后果。比如，可能會泄露敏感數據、生成有害或冒犯性的輸出，或者通過API執行未經授權的操作。

11. 護欄（Guardrails）

護欄是應用于LLM輸入和輸出的規則，用來降低提示注入的風險。你可以通過簡單的基于規則的過濾器來阻止惡意提示，或者使用專門的LLM來評估最終回答，確保它符合要求。

12. 幻覺（Hallucination）

幻覺是指LLM編造事實和引用的行為。雖然在創意寫作中這可能很有用，但在許多商業場景中卻會帶來風險。我們可以通過良好的提示（比如要求它不要編造內容）和護欄（比如驗證回答的真實性）來減少幻覺。最有效的方法之一是給模型提供完成特定任務所需的事實，這就是檢索增強生成（RAG）的作用。

13. 檢索增強生成（Retrieval-Augmented Generation，RAG）

RAG是一種重要的AI工程技術，它可以幫助LLM根據現實情況生成回答，并為它們提供一個專門且易于更新的知識庫。在RAG的工作流程中，首先會根據用戶的輸入，從知識庫中檢索相關的上下文，然后LLM結合這些上下文生成回答。

14. 語義搜索（Semantic Search）

語義搜索是基于查詢的含義而不是關鍵詞進行搜索。在RAG工作流程中，確定與用戶輸入相關的上下文非常重要，但用戶的請求通常并不是為關鍵詞搜索優化的。因此，開發者通常會使用語義搜索，將用戶的輸入和知識庫中的每個項目轉換為數值表示（即向量），然后通過數學計算來確定它們之間的相似性。

15. 嵌入（Embedding）

嵌入是用于語義搜索的向量，它是一組數字，用來表示文本的含義。我們可以將它們視為定義文本在概念空間中的位置的坐標，相似的概念會聚集在一起，而不同的概念則會相隔較遠。這些數字是由嵌入模型生成的，嵌入模型以文本為輸入，輸出嵌入向量。

16. 文本塊（Chunk）

文本塊是文本的一個片段。雖然嵌入對于分析文本非常強大，但它們也有局限性。首先，許多嵌入模型的上下文窗口較小（例如512到8192個令牌）。其次，它們表示整個文本輸入的含義，對于長序列來說可能會變得模糊。因此，通常會將源文檔分解為文本塊，并在這些文本塊上進行檢索。

17. 向量數據庫（Vector DB）

向量數據庫是文本塊及其對應嵌入的集合。為了提高檢索效率，每個文本塊的嵌入會提前計算并存儲在向量數據庫中。在生產環境中，只有用戶的查詢需要轉換為向量。如今，有許多向量數據庫解決方案，如LlamaIndex、Cohere、Qdrant、Supabase等，這些解決方案通常會處理搜索功能，因此你不需要從頭開始構建。

三、智能系統與工具

18. AI代理（AI Agent）

2025年被認為是AI代理的元年。雖然人們對“代理”的定義存在爭議，但所有現代定義都有兩個共同點：首先，AI代理通常是指基于LLM的系統；其次，該系統被賦予了可以執行操作的工具。這種能力非常重要，因為它允許LLM系統不僅為我們處理信息，還可以為我們解決現實世界的問題。

19. 主動智能（Agentic AI）

為了避免“AI代理”的爭論，大多數開發者更傾向于討論主動智能系統。也就是說，不要把智能看作是非黑即白的事情（有或沒有），而是看作是一個連續的譜系。換句話說，LLM系統可以擁有從無（即基于規則的系統）到人類水平的智能。

20. 函數調用（Function Calling）

由于LLM只能處理令牌，它們通過函數調用來與外部世界交互。通過函數調用可以執行一些操作，比如從天氣API獲取數據、搜索谷歌、發送電子郵件和運行Python代碼。如今，大多數流行的模型都可以直接調用函數。例如，如果你使用OpenAI的Responses API，你可以將自定義工具的詳細信息傳遞給模型，它會在需要使用該工具時返回函數參數。

21. 模型上下文協議（Model Context Protocol，MCP）

MCP是一種將工具和上下文連接到LLM的通用方法。LLM的價值越來越依賴于它們獲取正確的上下文和使用正確的工具的能力。然而，為LLM應用添加更多的集成會使系統更難構建和維護。MCP通過為所有開發者創建一個開放標準來減輕這種負擔。例如，你不需要為知識庫代理實現一套Google Drive功能，而是可以使用預先構建的并將其連接到你的LLM應用。

22. 微調（Fine-tuning）

微調是通過額外的訓練將模型適應特定用例的過程。到目前為止，我們討論的構建LLM系統的方法是在LLM周圍編寫軟件，而不改變其內部機制。雖然這涵蓋了大多數AI工程，但有時還需要額外的定制。微調的關鍵好處是，經過微調的小型模型通常可以勝過大型模型。

23. 蒸餾（Distillation）

蒸餾是一種特殊的微調方法。這種方法是GPT-4o-mini和Gemini 2.5 Flash等模型背后的技術。它通過從較大的教師模型（例如GPT-4o）生成數據，并對較小的學生模型（例如GPT-4o-mini）進行微調來實現。

24. 強化學習（Reinforcement Learning，RL）

強化學習是模型通過試錯學習的能力。在微調模型時，你通常會使用人類或LLM（或兩者）創建的任務示例來訓練LLM。然而，這并不是計算機學習的唯一方式。另一種方法是讓模型生成輸出，并對好的輸出給予獎勵（對壞的輸出則不給予獎勵）。

25. 基于人類反饋的強化學習（Reinforcement Learning from Human Feedback，RLHF）

RLHF是一種通過強化學習將LLM的響應與人類偏好對齊的方法。一個著名的應用是創建InstructGPT，這是ChatGPT的前身。在這個過程中，如果模型生成的響應符合人類偏好，就會得到獎勵。這使得模型成為一個“有幫助且無害”的助手，能夠回答用戶的各種問題。

26. 推理模型（Reasoning Models）

推理模型是一種在響應之前可以“思考”的LLM。另一種強化學習的應用是創建第一個推理模型，如OpenAI的o1和DeepSeek R1。對于這些模型，與其獎勵人類標注者偏好的生成響應，不如獎勵模型正確回答數學或編程問題。推理模型（也稱為思考模型）的一個關鍵特點是它們會生成特殊的令牌，這些令牌定義了一個內部獨白，允許模型在回答之前“思考”問題。

27. 測試時計算（Test-time Compute）

測試時計算是指使用LLM的成本。推理模型中的“思考”過程之所以有效，是因為所謂的測試時計算擴展，簡單來說就是LLM處理的令牌越多，其響應越好。這一發現是主動AI的關鍵驅動力之一，主動AI系統可以通過閱讀和生成更多令牌來執行極其復雜的任務。

28. 訓練時計算（Train-time Compute）

訓練時計算是指訓練LLM的成本。除了增加令牌外，我們還可以通過使LLM更大來提高其性能。這涉及到增加三個關鍵要素：模型大小、訓練數據和計算能力。就像烹飪一樣，這些要素必須成比例才能獲得更好的結果。你不能只增加面粉來烤更多的面包，同樣，你也不能只增加其中一個關鍵要素來獲得更好的LLM。

29. 預訓練（Pre-training）

預訓練是從頭開始訓練模型的第一步。鑒于現代LLM所需的海量數據（約10T令牌，相當于約2000萬本教科書），模型是在互聯網上幾乎所有有用的數據上進行訓練的。這產生了一個所謂的基礎模型，它是互聯網的壓縮版本，我們可以對其進行微調以使其有用。

30. 后訓練（Post-training）

后訓練是指預訓練之后的任何訓練。與我們通常使用的LLM不同，基礎模型對大多數應用來說并不實用。然而，它們包含了廣泛且深入的世界知識，我們只需要高效地訪問這些知識。最流行的方法是通過指令調優，這是一種微調方法，我們教基礎模型如何遵循指令。這為人類友好地訪問基礎模型中存儲的大量知識提供了一個界面。

結語

大語言模型（LLM）為我們提供了一種全新的通過軟件解決問題的方式。我們通常通過提示工程、RAG和護欄在預訓練模型的基礎上構建應用，有時我們還可以通過微調模型來滿足特定應用的需求。今天，我們介紹了30個最常見的AI熱詞，希望能幫助你更好地理解這些概念。雖然還有很多內容沒有涵蓋，但希望這篇文章能為你提供一些關鍵的思路。

本文轉載自??Halo咯咯??    作者：基咯咯