生成式人工智能(GenAI)的迅速崛起使得企業爭相尋找新的創新方法來利用這項技術在商業應用中的力量。許多企業認為，大型語言模型(LLM)已經重塑了人工智能驅動的商業應用程序的構建方式，所需要的只是將數據輸入到大型企業的LLM模型中，它就會完成工作。然而，事情并沒有那么容易。

研究和咨詢公司Forrester發布了一份新的報告，強調GenAI商業應用需要的不僅僅是一個通用的LLM。即使是最精心調整和提示訓練出來的LLM也可能不足以構建和安全運行基于GenAI的應用程序。這種簡單的方法不允許組織使用他們所有的專有知識來工作。它還存在其他一些風險，包括伸縮性、安全性和成本問題。

Forrester的報告是通過調查15家最大的服務提供商如何使用GenAI幫助全球2000多家公司來編寫GenAI驅動的業務應用程序。該報告的調查結果表明，企業需要組裝一個“層、門和管道”架構，以安全有效地運行基于GenAI的應用程序。

“層、門和管道”架構利用來自許多智能層的資源，將內部和外部功能結合在一起。它還需要輸入和輸出控制門來保護人員、公司和模型本身。此外，它還需要應用程序管道來提示、嵌入和編排智能層，以便將請求轉換為輸出。最后，需要測試和學習循環來測試和監視結果并做出相應的調整。

在深入挖掘“層、門和管道”架構的元素時，報告指出，智能層包括廣泛的功能，包括通用的、嵌入式的和專門的GenAI模型。

組織應該自己創建和管理的智能資源包括軟件應用程序、AI/ML模型、私有GenAI模型、結構化和非結構化數據，以及人們的提示和行為。組織應該從供應商處獲取的情報來源應該包括特定于領域的GenAI模型、公共GenAI工具、綁定的GenAI模型，比如SaaS應用程序。

使用輸入門有助于拒絕錯誤的請求、虛假的提示和危險的搜索。它還可以把模糊的請求變成可回答的提示。輸出門根據遵從性需求、安全性等幫助驗證問題的輸出。

應用程序管道用于通過API優先工作流將所有這些連接在一起。它們幫助從智能層縫合資源，使它們能夠順利地端到端流動。架構的最后一個元素是通過用于測試的反饋循環進行測試。它們有助于在應用程序中建立信任、信心和有效性。

Forrester的報告還補充說，企業現在可以從各個部分組裝應用程序，因為他們可以在未來幾年內構建一個完整的體系結構來支持GenAI應用程序。只有通過適當的關注，企業才能充分受益于GenAI業務應用程序的強大功能。