為 AI 提供正確的上下文可以提高準(zhǔn)確性并減少幻覺。

在所有關(guān)于人工智能如何徹底改變工作（使日常任務(wù)更高效、更可重復(fù)，并增加個(gè)人努力）的對(duì)話中，人們很容易得意忘形：人工智能不能做什么？

盡管它的名字叫生成式人工智能，但能夠創(chuàng)建圖像、代碼、文本、音樂等的人工智能，不能從無到有。AI 模型根據(jù)它們提供的信息進(jìn)行訓(xùn)練，對(duì)于大型語言模型 （LLM），這通常意味著大量文本。如果人工智能在準(zhǔn)確、最新和組織良好的信息上接受訓(xùn)練，它將傾向于以準(zhǔn)確、最新和相關(guān)的答案做出回應(yīng)。麻省理工學(xué)院的研究表明，將知識(shí)庫(kù)整合到 LLM 中往往會(huì)提高輸出并減少幻覺。這意味著人工智能和機(jī)器學(xué)習(xí)的進(jìn)步，遠(yuǎn)非取代對(duì)知識(shí)管理的需求，實(shí)際上使它變得更加重要。

品質(zhì)進(jìn)，品質(zhì)出

在陳舊、不完整的信息上訓(xùn)練的 LLM 容易產(chǎn)生“幻覺”，即不正確的結(jié)果，從稍微偏離基礎(chǔ)到完全不連貫。幻覺包括對(duì)問題的錯(cuò)誤回答以及有關(guān)人物和事件的虛假信息。

“垃圾輸入，垃圾輸出”的經(jīng)典計(jì)算規(guī)則也適用于生成式人工智能。您的 AI 模型依賴于您提供的訓(xùn)練數(shù)據(jù)。如果這些數(shù)據(jù)已經(jīng)過時(shí)、結(jié)構(gòu)不良或漏洞百出，人工智能將開始發(fā)明誤導(dǎo)用戶的答案，并給您的組織帶來麻煩甚至混亂。

避免幻覺需要一套知識(shí)體系，即：

• 準(zhǔn)確可信，信息質(zhì)量經(jīng)過知識(shí)淵博的用戶驗(yàn)證
• 隨著新數(shù)據(jù)/邊緣案例的出現(xiàn)，保持最新且易于刷新
• 上下文，這意味著它捕獲了尋求和提供解決方案的上下文
• 持續(xù)改進(jìn)和自我維持

支持討論和協(xié)作的知識(shí)管理 （KM） 方法可以提高知識(shí)庫(kù)的質(zhì)量，因?yàn)樗试S您與同事合作審查 AI 的響應(yīng)并改進(jìn)提示結(jié)構(gòu)以提高答案質(zhì)量。這種交互是人工智能中強(qiáng)化學(xué)習(xí)的一種形式：人類將他們的判斷應(yīng)用于人工智能生成的輸出的質(zhì)量和準(zhǔn)確性，并幫助人工智能（和人類）改進(jìn)。

提出正確的問題

使用 LLM 時(shí)，查詢的結(jié)構(gòu)會(huì)影響結(jié)果的質(zhì)量。這就是為什么提示工程（了解如何構(gòu)建查詢以從 AI 中獲得最佳結(jié)果）正在成為一項(xiàng)關(guān)鍵技能，也是生成式 AI 可以幫助對(duì)話雙方的領(lǐng)域：提示和響應(yīng)。

根據(jù) Gartner 報(bào)告《知識(shí)管理的解決方案路徑》（2023 年 6 月），“提示工程，即為 AI 制定指令或問題的行為，本身正迅速成為一項(xiàng)關(guān)鍵技能。以迭代、對(duì)話的方式與智能助手交互，將提高知識(shí)工作者指導(dǎo)人工智能完成知識(shí)管理任務(wù)的能力，并與人類同事分享所獲得的知識(shí)。

利用 AI 集中知識(shí)共享

獲取和分享知識(shí)對(duì)于知識(shí)管理實(shí)踐的蓬勃發(fā)展至關(guān)重要。AI 驅(qū)動(dòng)的知識(shí)捕獲、內(nèi)容豐富和 AI 助手可以幫助您向整個(gè)組織介紹學(xué)習(xí)和知識(shí)共享實(shí)踐，并將其嵌入到日常工作流程中。

根據(jù) Gartner的知識(shí)管理解決方案路徑，“像 Stack Overflow for Teams 這樣的產(chǎn)品可以與 Microsoft Teams 或 Slack 集成，以提供具有持久知識(shí)存儲(chǔ)的問答論壇。用戶可以直接向社區(qū)發(fā)布問題。答案被投贊成票或反對(duì)票，最佳答案被固定為最高答案。所有已回答的問題都是可搜索的，并且可以像任何其他知識(shí)源一樣進(jìn)行策劃。這種方法還有一個(gè)額外的優(yōu)勢(shì)，即使知識(shí)共享成為工作流程的核心。

Gartner 的另一份報(bào)告《評(píng)估生成式 AI如何改善開發(fā)人員體驗(yàn)》（2023 年 6 月）建議組織“通過形成生成式 AI 增強(qiáng)開發(fā)的實(shí)踐社區(qū)，收集和傳播使用生成式 AI 工具的成熟實(shí)踐（例如快速工程技巧和代碼驗(yàn)證方法）。該報(bào)告進(jìn)一步建議組織“通過學(xué)習(xí)和應(yīng)用組織批準(zhǔn)的工具、用例和流程，確保您擁有成功使用生成式人工智能所需的技能和知識(shí)。

注意復(fù)雜性懸崖

生成式 AI 工具非常適合新開發(fā)人員和希望學(xué)習(xí)新技能或擴(kuò)展現(xiàn)有技能的經(jīng)驗(yàn)豐富的開發(fā)人員。但有一個(gè)復(fù)雜性懸崖：在某個(gè)點(diǎn)之后，人工智能處理問題及其解決方案的細(xì)微差別、相互依賴性和完整上下文的能力就會(huì)下降。

“LLM 非常擅長(zhǎng)增強(qiáng)開發(fā)人員的能力，讓他們能夠做得更多、行動(dòng)更快，”Google Cloud Duet 的產(chǎn)品經(jīng)理 Marcos Grappeggia 在最近一集的 Stack Overflow 播客中說。這包括測(cè)試和試驗(yàn)超出舒適區(qū)的語言和技術(shù)。但Grappeggia警告說，LLM“并不是日常開發(fā)人員的一個(gè)很好的替代品......如果你不理解你的代碼，那仍然是失敗的關(guān)鍵。

這個(gè)復(fù)雜的懸崖是你需要人類的地方，他們具有原創(chuàng)思維的能力和行使經(jīng)驗(yàn)判斷的能力。您的目標(biāo)是制定知識(shí)管理戰(zhàn)略，通過在人造知識(shí)上提煉和驗(yàn)證人工智能，利用人工智能的巨大力量。