不到兩年時間，自從ChatGPT發布以來，各大企業對在其運營和產品中使用GenAI表現出濃厚興趣。由Dataiku和Cognizant進行的一項新調查對全球200名企業公司高級分析和IT領導者進行了民意調查，結果顯示，大多數企業正在花費大量資金來探索GenAI的使用案例，或者已經將其投入生產。

然而，全面采用和提高生產力的道路并非沒有障礙，這些挑戰為提供GenAI服務的公司提供了機會。

GenAI的重大投資

在VB Transform大會上公布的調查結果突顯了對GenAI項目的大量財務投入，近四分之三(73%)的受訪者計劃在未來12個月內在GenAI上花費超過50萬美元，近一半(46%)的受訪者分配超過100萬美元。

然而，只有三分之一的受訪企業有專門用于GenAI項目的預算，超過一半的企業從其他來源(包括IT、數據科學或分析預算)為GenAI項目提供資金。

目前尚不清楚向GenAI投入的資金如何影響原本可以從預算中受益的部門，這些支出的投資回報率(ROI)也尚不明確，但人們樂觀地認為，隨著大型語言模型(LLM)和其他生成模型的不斷進步，附加值最終將證明這些成本是合理的。

“隨著更多LLM使用案例和應用程序在企業中出現，IT團隊需要一種簡便的方法來監控性能和成本，以最大限度地發揮投資的價值，并在出現重大影響之前識別出問題的使用模式。”研究的一部分內容寫道。

Dataiku之前的調查顯示，各大企業正在探索各種應用，從提升客戶體驗到改善內部運營，如軟件開發和數據分析。

實施GenAI的持續挑戰

盡管對GenAI充滿熱情，整合并非易事。調查中的大多數受訪者報告稱，在按照他們希望的方式使用LLM時遇到了基礎設施障礙，此外，他們還面臨其他挑戰，包括遵守區域立法(如歐盟AI法案)和內部政策的挑戰。

生成模型的運營成本仍然是一個障礙。Microsoft Azure ML、Amazon Bedrock和OpenAI API等托管的LLM服務在企業內部探索和生產GenAI時仍然是受歡迎的選擇，這些服務易于使用，并且避免了設置GPU集群和推理引擎的技術困難，然而，其基于令牌的定價模型也使得CIO難以在規模上管理GenAI項目的成本。

另外，企業可以使用自托管的開源LLM，這些模型可以滿足企業應用的需求，并顯著降低推理成本，但它們需要前期投入和許多企業沒有的內部技術人才。

技術堆棧的復雜性進一步阻礙了GenAI的采用。令人震驚的是，60%的受訪者報告稱，他們在分析和AI生命周期的每個步驟(從數據攝取到MLOps和LLMOps)中使用了超過五種工具或軟件。

數據挑戰

GenAI的出現并沒有消除機器學習項目中現有的數據挑戰。事實上，數據質量和可用性仍然是IT領導者面臨的最大數據基礎設施挑戰，45%的受訪者將其列為主要關切，其次是數據訪問問題，有27%的受訪者提到這一點。

大多數企業都擁有豐富的數據資源，但他們的數據基礎設施是在GenAI時代之前創建的，并沒有考慮到機器學習的需求。數據通常存在于不同的孤島中，并以不兼容的格式存儲。在用于機器學習之前，需要對數據進行預處理、清理、匿名化和整合。數據工程和數據所有權管理仍然是大多數機器學習和AI項目的重要挑戰。

“即使擁有今天可用的所有工具，人們仍未能掌握數據質量(以及可用性，即數據是否適合其目的并符合用戶需求)，”研究報告中寫道，“諷刺的是，現代數據堆棧面臨的最大挑戰實際上并不是那么現代化。”

挑戰中的機遇

“現實是，GenAI將繼續轉變和演進，不同的技術和提供商會來來去去。IT領導者如何在參與游戲的同時保持對未來的敏捷性?”Dataiku的現場CDO Conor Jensen說，“所有人都在關注這個挑戰——加上不斷攀升的成本和其他風險——是否會超越GenAI的價值產出。”

隨著GenAI從探索性項目逐步轉向可擴展運營的底層技術，提供GenAI服務的公司可以通過更好的工具和平臺支持企業和開發人員。

隨著技術的成熟，將有很多機會簡化GenAI項目的技術和數據堆棧，減少集成的復雜性，幫助開發人員專注于解決問題和提供價值。

企業即使尚未探索GenAI技術，也可以為GenAI技術的浪潮做好準備。通過運行小型試點項目和試驗新技術，企業可以發現其數據基礎設施和政策中的痛點，并開始為未來做準備，同時，他們可以開始培養內部技能，以確保擁有更多選擇，并更好地利用技術的全部潛力，在各自行業中推動創新。