2024年大數據行業預測（三）
深度學習
深度偽造危險：2024年將出現一系列消費者應警惕的深度偽造危險，尤其是在虛擬客戶服務環境中。身份和驗證(ID&V)是大多數行業的標準做法，在這些行業中建立了客戶身份和交易權。然而，如果客戶生成虛假圖像，暗示某企業的產品被用來犯罪，深度偽造就有可能克服生物識別驗證和身份驗證方法，從而使身份盜竊變得更加容易。而這僅僅是個開始。深度偽造技術還處于起步階段，只會變得更好、更狡猾。幸運的是，更多的預測信號可以用來檢測潛在的欺詐行為，因為身份被盜可能意味著不良行為者可以通過身份和信息來獲取欺詐信息。技術正在不斷發展以解決這些問題，毫無疑問，今年我們將會看到重大的技術創新。–Brett Weigl，Genesys副總裁兼總經理
生成式人工智能
生成式人工智能將轉向現代數據管理。從歷史上看，數據管理有點像黑匣子，需要高技術技能才能有效地制定策略和管理數據。在LLM的幫助下，現代數據管理將改變其框架，允許用戶以完全受控和合規的方式參與整個數據堆棧。–Vasu Sattenapalli，RightData首席執行官
人工智能將達到“生產力平臺”：2023年，隨著ChatGPT的發布，我們目睹了過高的期望和數十億美元涌入人工智能初創企業。到2024年，我們將開始看到更多的生成式人工智能法案2.0.，企業不僅要構建一個基礎模型，還要構建一個整體的產品解決方案，重新構想工作流程。我們將看到市場從“每個人都可以做任何事”的喧囂轉變為少數獲得GenAI的企業提供真正的價值。–Tim Shi，Cresta聯合創始人兼首席技術官
從基于基礎設施的新一代人工智能到本地新一代人工智能將會迅速轉變，因為目前這還不太可能。一般的初創企業沒有數千美元可以投入到云提供商身上，而且事實證明幾乎不可能自己運營，但隨著圍繞本地生成人工智能的創新，這種情況正在迅速改變。通過本地化，將擁有一個完整的RAG堆棧，并由訪問控制控制。如此，便不會以任何方式暴露專有數據。當我們從集中式、基于API的LLM轉向本地LLM時，這將會很快發生。那些行之有效的方案，也將會快速被采用。切記留意去中心化的LLM的缺點，因為其引入了循環中不良行為者的概念。–Patrick McFadin，DataStax副總裁
大型語言模型將于2024年商品化：當今的企業正在展開一場激烈的競賽，以構建自己獨特的大型語言模型(LLM)，例如OpenAI的GPT-4或Meta的LLaMA。然而，我預測這些模型將在2024年商品化。差異將取決于LLM中輸入的數據，及其目的是什么。這與有線電視和流媒體領域發生的情況類似，每月的有線電視賬單變成了許多不同的流媒體訂閱。我們看到了類似的人工智能模型“拆分”，許多新企業成立，每個企業都有自己的差異化模型。未來，這些人工智能模型可能會聚合成一種單一的技術，而數據則是唯一的區別。–Spencer Thompson，Prelude Security聯合創始人兼首席執行官
到2024年，生成式人工智能將產生的一個重要影響是，讓人們能夠在沒有恐懼或尷尬的情況下討論其財務擔憂或困難。對于某些人來說，在尋求有關財務問題的建議時，與聊天機器人交談比與真人交談更容易。通過提供保密和非評判性的方式來獲取財務建議和支持，人工智能將創造一個更具財務包容性的未來，每個人都可以獲得所需的財務建議和支持，無論其背景或情況如何。–David Dowhan，SavvyMoney首席運營官
隨著生成式人工智能變得更加主流，潛在的生產力提升將使這些組織受益匪淺。我們將看到技術領導者在培訓、創新中心設立和采用新的開發平臺方面投入更多資金，以最大限度地提高技術團隊交付的價值。技術領導者需要采取雙管齊下的方法，為數據實驗提供創意游樂場，同時應用人工智能服務來加速取得成果。所有這些都需要管理創新創造，并減輕與公共人工智能模型相關的風險。–Miguel Lopes，OutSystems副總裁
ChatGPT引發的人工智能革命已經過去一年了，我們是否會很快被GenAI的戲劇性成功故事所包圍，還是會看到迄今為止技術以最快的速度陷入幻滅的低谷?兩者都有!精通人工智能的企業已經在增強其最有價值的員工，并偶爾將其自動化。隨著清晰、可重復的GenAI用例的成熟，以及對MLOps和LLMOps的投資取得成果，這一趨勢將獲得動力。與此同時，大多數PoC都被民主化、外包GenAI的海市蜃樓所迷惑，一頭扎進了生產級GenAI應用運營的現實，導致了普遍的幻滅。事實證明，關于AI的人類智能是GenAI成功的最重要因素，而“通用預訓練Transformer模型”在專門針對特定用例和垂直領域時更有價值。–Kjell Carlsson博士，Domino Data Lab人工智能戰略主管
LLM將幫助生成式人工智能進行更多推理，減少幻覺：AI正在超越ChatGPT的大型語言模型(LLM)文本世界，以及大型多模態模型(LMM)的中途景觀，這些系統可以跨領域進行推理不同的媒體類型。這開辟了新類型的應用和可能性，例如基于圖像的庫存或小型企業的虛擬產品支持助理，并可能有助于將未來的人工智能系統建立在更真實的示例上，從而減輕幻覺的可能性。我們預計未來12個月會有更多應用，隨著生成式人工智能通過聲音、視覺和其他感官進行學習，不久的將來可能會帶來能夠區分現實和虛構的人工智能系統。–Ashok Srivastava，Intuit高級副總裁兼首席數據官
分析的商品化：自然語言處理(NLP)在提高用戶對分析的采用方面發揮了重要作用。現在，NLP和大型語言模型(LLM)的正確組合，將有助于進一步實現分析的商品化。LLM有助于幫助用戶在分析軟件中執行復雜的計算。分析供應商將把這些功能整合到分析軟件中，而不依賴LLM來填補空白，并減輕LLM帶來的隱私問題。–Rakesh Jayaprakash，ManageEngine運營經理
2024年，重點將放在轉型模式上，并提高針對特定市場需求的專業化程度。像ChatGPT這樣的大型語言模型將演變成新一代，變得更加專門針對特定用例。人工智能內容在視覺應用中的使用將大幅增加，例如廣告和新聞文章，這些內容由改進的生成式人工智能模型生成。此外，目前人工智能領域的種族偏見可能會減少。現在，如果向AI模型搜索一張男性照片，顯示的照片中90%都是白人。人工智能模型必須更加反映世界才能繼續跟上。–Steve Harris，Mindtech首席執行官
到2025年，ChatGPT將不再成為企業的主流技術：與大多數技術先行者一樣，隨著時間的推移，ChatGPT將變得越來越不重要。像Llama2這樣的本地LLM將成為企業人工智能的引擎。造成這種情況的原因有很多，但數據安全性和通過用行業特定內容增強本地LLM來影響結果的能力，可能是推動這一變化的兩個因素。–Jeff Catlin，InMoment副總裁
新一代人工智能將改變銷售代表的角色：隨著B2B公司專注于增加每位銷售代表的收入，其將尋求通過人工智能為每位銷售代表配備虛擬助手。為了高效增長，其需要在銷售和上市技術堆棧中嚴重依賴GenAI功能。根據Forrester Research的數據，通過自動化圍繞潛在客戶研究、客戶研究和參與渠道的某些任務，銷售代表平均可以多花50%的時間來創造性地解決問題和采取富有成效的行動。–Henry Schuck，ZoomInfo首席執行官
人工智能冷水浴：根據CCS Insight的最新數據，2024年將是生成式人工智能面臨“冷水浴”警鐘的一年。企業被人工智能的過度炒作所吸引，制定了生產率和轉型方面充滿希望的長期目標。由于這些盲目性，許多人忽視了采用和部署Gen AI所涉及的成本、風險和復雜性負擔。而且情況只會變得更糟!現在我們被告知，到2027年，人工智能所需的電力可能相當于整個國家所需的電力。人工智能的前景是巨大的，但資源是一個問題。并非每個組織或政府都能負擔得起，也不是每個人都有資源將其嵌入到現有的系統和流程中。世界仍處于制定人工智能法規的早期階段，缺乏設定的邊界和安全網可能會使許多行業面臨風險。在人工智能方面，我們已經經歷了一段分裂的時期。事實上，人工智能的發展速度超出了許多人的預期，而且該技術需要不同的資源來運行。為了防止明年陷入“冷水澡”，組織必須對如何推動未來人工智能進行戰略投資，如投資光子學和數字孿生等技術，以解決資源不平等的根本問題。利用尖端技術的力量可以幫助建立一個更加智能的世界，在這個世界中，人們和社會可以利用各種類型的可訪問、互聯和有凝聚力的信息來優化。–Tanvir Khan，NTT DATA首席數字和戰略官
數據中毒：生成式AI的最新威脅：也許沒有什么比ChatGPT更能說明機器學習和人工智能的快速主流化了。但隨著算法成為日常生活的主要內容，其也代表了新的攻擊面。這種類型的攻擊被稱為數據中毒。隨著不良行為者獲得更強大的計算能力和新工具，這種攻擊變得越來越頻繁。展望2024年，考慮到新機器學習和人工智能工具的普及和采用，企業預計會看到數據中毒攻擊的增加，其中包括可用性攻擊、后門攻擊、定向攻擊和亞群體攻擊。不幸的現實是，數據中毒很難補救。唯一的解決方案是完全重新訓練模型。但這既不簡單也不便宜。隨著組織將人工智能和機器學習用于更廣泛的用例，了解和預防此類漏洞至關重要。雖然生成式人工智能有一長串有前途的用例，但只有我們將對手拒之門外并保護模型，其全部潛力才能發揮出來。–Audra Simons，Forcepoint Global Governments全球運營高級總監
GenAI將改變程序員的工作性質以及未來程序員的學習方式。編寫源代碼將變得更容易、更快，但編程不是為了磨練代碼行，而是為了解決問題。GenAI將使程序員能夠花更多的時間來了解其需要解決的問題、管理復雜性并測試結果，從而開發出更好、更可靠、更易于使用的軟件。–Mike Loukides，O’Reilly Media副總裁
明確企業采用LLM的主要價值用例。雖然2023年是關于生成式人工智能的夢想，但2024年將是企業將其付諸實踐的一年。經過一年的猜測，企業最終將明確應用LLM來簡化其工作流程。到今年年底，將會出現一些人們能夠理解的、基于場景的有價值領域，讓我們擺脫“假設”的束縛，并揭示清晰的用例。–Quentin Clark,General Catalyst董事總經理
生成式人工智能將繼續面臨組織審查：隨著生成式人工智能工具在2023年的快速增長，組織將在新的一年加強對人工智能工具對其員工和系統影響的審查。其中一個挑戰是持續存在的錯誤信息和圍繞人工智能工具合法性的問題，包括暴露的源代碼和確定員工收到的結果合法性的能力。領導者需要建立驗證和認證信息的方法，同時定義明確的參數，以確定員工如何在組織內使用人工智能工具。-Bret Settle,ThreatX首席戰略官
將GenAI從試點轉向生產：GenAI正在影響組織的投資決策。雖然早期的GenAI試點顯示出了希望，但由于實踐經驗有限且發展迅速，大多數組織對全面生產部署仍持謹慎態度。到2023年，大多數組織都會進行小型、有針對性的試驗，以仔細評估收益和風險。隨著GenAI技術的成熟并通過預訓練模型、云計算和開源工具變得更加民主化，預算分配將在2024年更多地轉向GenAI。–Haoyuan Li，Alluxio創始人兼首席執行官
生成式AI將釋放隱藏在非結構化企業數據中的價值和風險：非結構化數據，主要是內部文檔存儲庫，將成為企業IT和數據治理團隊迫切關注的焦點。迄今為止，這些內容存儲庫幾乎沒有在操作系統和傳統預測模型中使用，因此它們已經脫離了數據和治理團隊的關注。基于GenAI的聊天機器人和經過微調的基礎模型，將解鎖該數據的許多新應用，但也將使治理變得至關重要。那些急于開發GenAI用例而沒有實施管理數據，和GenAI模型的必要流程和平臺的企業，將會發現其項目陷入PoC煉獄，甚至更糟。這些新要求將催生用于管理非結構化數據源的專用工具和技術。–Nick Elprin，Domino Data Lab聯合創始人兼首席執行官
OpenAI的戲劇性事件將在2024年繼續上演：Sam Altman解雇后又被重新聘用，這使得新聞周期充斥著各種八卦和熱門話題，我懷疑OpenAI的故事將繼續占據明年的頭條新聞。潛在的催化劑——獨特的非營利/營利性混合結構、巨大的成本、人工智能的風險和承諾，并沒有改變，隨著這個領域的發展速度，這些力量有足夠的機會在明年一次又一次地達到高潮。–Paul Barba，InMoment首席科學家
隨著“生成式人工智能時代”進入第二年，我們將開始看到企業對人工智能的使用有了更多目的和秩序：生成式人工智能的效應在第二年仍然突出，在OpenAI和Google等企業隨之而來的創新的推動下，世界各地的組織將開始研究如何利用人工智能功能來實現其目的，而不僅僅是對“可能的藝術”感到驚訝。各類企業產品中的第一代AI能力，專注于低難度、不復雜的場景，比如各類副駕駛，將不再輕易讓每個第一次看到它們的人感到驚訝和眼花繚亂。其結果將是要求人工智能驅動的能力注重使用價值，并用于解決實際問題。–Leonid Belkind，Torq聯合創始人兼首席技術官
生成式人工智能的廣泛采用將推動對干凈數據的需求。生成式人工智能的基礎是數據。也就是說，為了實現預期的功能，數據是這項新技術的基礎。然而，這些數據也需要干凈。無論從何處提取數據、無論使用的是建模還是數據倉庫，高質量的數據都至關重要。不良數據可能會導致不良推薦、不準確、偏見等。隨著越來越多的組織尋求在其組織中利用生成式人工智能的力量，擁有強大的數據治理策略將變得更加重要。確保數據管理員可以訪問和控制這些數據也很關鍵。–Rex Ahlstrom，Syniti首席技術官兼副總裁
60%的企業員工將接受及時的工程培訓。由于人工智能成為未來企業所有員工工作場所生產力的中心，團隊將需要繼續投資數據/人工智能素養計劃，以縮小學習如何設計成功提示的技能差距。不要把這項重要的培訓留給研發部門——IT需要為員工制定BYOAI指南和企業培訓計劃，以有助于其始終如一地、安全地最好地利用生成式AI。–Forrester
更多組織將加入AI操作系統潮流：未來一年，生成式AI操作系統將受到更多關注和投資。人工智能操作系統是人工智能和其他一切事物之間的接口，從利用生成式人工智能工具的工程師和設計師，到通過生成式人工智能訓練來模仿人類在物理世界中的行為和動作的機器人系統。由于廣泛采用人工智能的風險很高，隨著越來越多的企業和公共部門組織采用先進的人工智能技術，將更加強調組織構建操作系統的重要性，這些操作系統可以作為人工智能和其他一切之間的中介。–Ashok Srivastava，Intuit高級副總裁兼首席數據官
從搜索引擎到智能助手：檢索增強生成(RAG)將如何在2024年改善大型語言模型響應：隨著日歷翻到2024年，一個模糊的術語將吸引科技界的注意力。盡管迄今為止尚未得到廣泛認可，但檢索增強生成(RAG)已開始作為技術人員的變革框架引起轟動。RAG通過從外部源(例如外部知識庫)捕獲信息來增強大型語言模型(LLM)的功能，通過包含LLM的新數據來提高搜索響應的質量和準確性。可以將RAG視為根據需求個性化LLM，提供相同的LLM智能見解，但這來自數據。這就像從常規的互聯網搜索升級到擁有一個個人研究助手，其可以準確地找到需要的內容。金融決策者已經看到了生成人工智能對其組織中其他利益相關者的好處。首席投資官們渴望應用生成式人工智能來縮短“洞察時間”差距，同時過濾更多信息以產生更準確的結果。由于改進RAG的創新，確保對查詢進行適當訪問的復雜隔離已成為現實。在短期內，我相信RAG將繼續克服與LLM的知識差距，提高準確性，并作為包括投資管理在內的多個行業的知識密集型活動的解決方案。此外，RAG可以限制LLM使用哪些數據來處理，這確保響應僅來自RAG數據，而不是源自一般的LLM數據。RAG還可以提供數據來源的引用，以便用戶對響應充滿信心。為了增強安全性，可以擁有多個RAG數據源，并鎖定對某些數據源的訪問。這樣，只有這些數據源的授權用戶才能使用LLM來回答有關敏感數據的問題。展望2024年，高度監管的行業預計將推動新一代人工智能的采用，而RAG能夠為其利益相關者捕獲更好的信息。–Souvik Das，Clearwater Analytics首席技術官
專用LLM將會蓬勃發展：對數據隱私和安全性的擔憂，將促使組織在2024年投資針對其特定需求和數據集量身定制的專用LLM。這些專用LLM將進行微調，以確保更好地遵守監管標準和數據保護要求。這種向以隱私為中心的LLM的轉變將使企業能夠更好地控制其人工智能應用，培養用戶之間的信任，并為從醫療保健到金融等行業的創新和安全的人工智能解決方案打開大門。–Jans Aasman博士，Franz Inc.首席執行官
生成式AI計劃將由業務線而不是IT驅動：高管們傳統上要求組織采用新工具來實現新的且更好的業務實踐，并節省資金，即使用戶更愿意堅持使用現有工具。IT支持部署，而實施團隊則討論變更管理程序，為可能不情愿的用戶進行廣泛的培訓，并杜絕繼續使用舊工具。然而，確保合規性并快速實現預期效益并非易事。到2024年，GenAI將出現相反的情況。用戶對支持GenAI的解決方案的熱情是顯而易見的，因為許多人已經以各種形式嘗試過這些工具。GenAI的用戶友好性及其自然語言界面，有助于非技術利益相關者的無縫采用。然而，技術團隊面臨著固有的挑戰，包括幻覺、缺乏可解釋性、特定領域的知識限制和成本問題。在某些組織中，在其技術團隊跟上進度之前，禁止使用GenAI。檢測“影子”使用情況，即個人在短暫的安靜后突然變得高效，這給實施挑戰增加了額外的復雜性。明年，組織將制定一個流程來評估無數可用選項，并允許企業使用少數能夠解決企業環境中GenAI挑戰的工具。–Ryan Welsh，Kyndi創始人兼首席執行官
生成式人工智能(GenAI)的成熟：GenAI能力的廣泛民主化永遠重塑了知識工作和全球勞動力市場的動態，而這些市場已經受到疫情和復蘇時間表的影響。整個行業的廣泛共識是，雖然現天擁抱GenAI似乎是可選的，但很快就會有選擇，要么接受，要么滅絕。預計GenAI將增強業務、技術和安全決策，從而使人們更加關注人工智能治理和道德要求。這種推動的一個例子是最近發布的白宮行政命令，呼吁人工智能供應商在國家安全和公共安全的背景下確保人工智能平臺的信任、安全和保障。隨著該領域的創新重新定義我們與數字生態系統的關系，對人工智能技能的需求將繼續增長。–Igor Volovich，Qmulos副總裁
釋放GenAI的潛力需要卓越的數據：數據是釋放GenAI潛力的貨幣。如果沒有準確、可靠的數據，組織將無法交付關鍵結果。在未來的一年里，首席信息官們將需要優先考慮數據質量，以便試點和測試GenAI如何最好地服務和推動整個組織的發展。–Asana，Saket Srivastava首席信息官
AI的下一階段從Gen.AI到AGI：生成式AI及其方向發生了明顯的轉變。人們的焦點越來越集中在通用人工智能(AGI)和智能代理的興起上。對于智能代理來說，在AlOps和MLOps領域有兩個部分至關重要。一種是純粹圍繞學習控制和基礎設施管理，通過代理確保自動化配置管理和偏差保護。智能代理需要了解如何改進、執行、提供反饋并確定如何修改性能。這種做法適用于人工智能基礎設施管理，確保其由代理構建和測試以部署任務。展望不久的將來，工作場所的趨勢，尤其是大企業，將與人工智能相關，組織將需要控制代理。如果沒有適當的基礎設施，組織就無法讓人工智能變得自治。對于人工智能從生成式人工智能到通用人工智能的下一階段，首先需要建立基礎設施，而嵌入平臺工程對于加速應用的交付非常重要。無論學習系統位于何處(混合云或私有云)，組織都需要配置才能正常工作。–Kapil Tandon，Perforce運營副總裁
定制企業基礎模型(FM)的興起：隨著我們邁入2024年，圍繞開源與閉源的爭論只會變得更加激烈。像Meta的Llama這樣的開源LLM正在追趕像GPT-4這樣的閉源LLM。這兩種模式都在性能和隱私方面有所取舍。企業希望在這兩方面都取得成果。最近的更新，如OpenAI Enterprise，允許企業構建適合其解決方案的自定義模型。同樣，開源模型允許企業在考慮隱私的情況下構建輕量級自定義模型。這種趨勢將繼續下去，我們將看到定制的微型語言模型占據中心位置。–Sreekanth Menon，Genpact全球AI/ML服務負責人
“Me Too”AI供應商因生成式AI陷入幻滅的低谷而陷入困境：目前，生成式AI正處于炒作周期的頂峰。明年，當一些組織的人工智能投資無法實現其期望的徹底轉型時，將開始幻滅。客戶將對那些在人工智能競賽中遲到的供應商變得更加警惕，這些供應商提供的人工智能功能幾乎沒有商業價值或引人注目的功能。但是，權衡自己的期望并正確使用生成式人工智能的組織可以避免這種幻滅，并看到人工智能的預期價值。–Mike Finley，AnswerRocket首席技術官
2024年將是企業級開源AI采用的一年。迄今為止，在企業中有意義的、基于生產的采用LLM的例子并不多。例如，圍繞企業級彈性、安全性、正常運行時間或可預測性構建的內容并不多。在接下來的一年里，一些企業將利用開源語言模型并使其更加適合生產，從而扭轉局面。這將導致構建更多適用于企業級場景的無服務器開源語言模型，從而允許企業以更簡單的方式采用該技術。–Quentin Clark,General Catalyst董事總經理
得益于檢索增強生成(RAG)，生成式AI將變得更加真實：這項技術將允許工程師將干凈的業務數據輸入LLM模型，以減少幻覺和事實信息的地面輸出。這些干凈的業務數據將由傳統的數據管道生成，這些管道在組織范圍內處理數據提取、清理、規范化和豐富。RAG現在開始出現，隨著企業尋求確保生成式AI獲得更準確的結果，明年將得到更多采用。–Sean Knapp，Ascend.io首席執行官
邁向AGI——記憶、輸入和學習：AGI的追求將集中在三個關鍵領域：增強LLM的長期記憶、實現持續輸入和內部狀態以及推進強化學習。像Claude 2和GPT-4 Turbo中增加的上下文長度，以及旨在更好的記憶和持續學習的架構，，都是這一趨勢的例子。OpenAI Q*算法的傳言也表明了這個方向的重大進展。這些對2024年的預測不僅反映了人工智能和大數據的快速進步，還強調了行業格局的變化，效率、多模態和更深層次的人工智能能力將推動創新和競爭。–Tomer Borenstein，BlastPoint,Inc.聯合創始人兼首席技術官
GenAI可能會扼殺創新：當我們拿到第一部智能手機時，很快就會忘記人們的電話號碼。當我們開始使用Google地圖或Waze時，導航能力也會發生同樣的情況。同樣，在未來幾年，我們將看到人們失去創新技能，因為都變得更加依賴GenAI來幫助生成代碼。到2024年，我們必須開始考慮如何保護知識并鼓勵創新。-Ori Keren，LinearB聯合創始人兼首席執行官
多模式LLM和數據庫將開啟跨行業人工智能應用的新前沿：2024年最令人興奮的趨勢之一將是多模式LLM的崛起。隨著這種出現，對能夠存儲、管理和允許跨不同數據類型進行高效查詢的多模式數據庫的需求不斷增長。然而，多模態數據集的大小和復雜性對傳統數據庫提出了挑戰，傳統數據庫通常設計用于存儲和查詢單一類型的數據，例如文本或圖像。另一方面，多模式數據庫更加通用和強大。其代表了LLM發展的自然進展，以整合使用文本、圖像、音頻和視頻等多種模式處理和理解信息的不同方面。許多用例和行業將直接受益于多模式方法，包括醫療保健、機器人、電子商務、教育、零售和游戲。多模式數據庫將在2024年及以后出現顯著增長和投資，因此企業可以繼續推動人工智能驅動的應用。–Rahul Pradhan，Couchbase運營與戰略副總裁
未完，待續…
若想查看“2024年大數據行業預測”相關篇章，請點擊：
