自主系統的新時代將需要在更靠近源頭的地方進行快速數據處理，這使得一些CIO把網絡邊緣的AI加入到他們的2025年路線圖中。

根據Gartner最新的報告預測，企業AI即將到來的階段，將預示著出現只要最少人工干預的代理系統，僅今年一年就有75%的CIO增加了AI預算。隨著生成式AI被嵌入到越來越多的設備中，賦予它自主決策權就將取決于實時數據，以及避免過高的云成本，這就是邊緣計算的用武之地。

通過在更靠近源頭的地方處理數據，邊緣計算可以通過最大限度地減少數據傳輸來實現更快的決策并降低成本，成為AI一個具有吸引力的環境。前美國白宮首席信息官、網絡安全公司Fortalice Solutions創始人Theresa Payton表示：“邊緣計算正在迅速發展，從一個有前途的概念演變成許多行業的關鍵工具。到2025年，邊緣計算將變得更加普及，尤其是隨著AI和物聯網的擴大。”

例如，總部位于美國威斯康星州的電力供應公司Dairyland Power Cooperative已經轉向利用AI來改善現場基礎設施的優化和性能。“AI讓邊緣計算變得和CIO相關性更高，因為它可以幫助我們降低數據處理延遲。在我們追求實時處理的情況下，這可能是一個巨大的優勢，”該公司副總裁、首席信息官Nate Melby表示。

其他人也表示認同，隨著AI的全面推出，邊緣處理的增加將自然而然地出現。分布式云計算平臺公司Akamai的高級副總裁、首席技術官Robert Blumofe表示：“隨著AI應用在關鍵任務企業用例中的激增，一些AI應用將轉向邊緣，邊緣計算可以減少延遲、降低成本以及數據暴露的風險。”

但企業中的生成式AI被大肆炒作，實際上增值用例很少，分析師們戳破了這些泡沫，一些技術領導者也放棄了。最近人們對AI的興趣有所減弱，AVOA公司的首席信息官、戰略顧問Tim Crawford就提醒，領導者們要進行謹慎的投資。不過他認為，生成式AI以及某些邊緣應用有很多以效率為導向的機會，這些機會是值得我們探索的。

投資邊緣計算的CIO

近年來，人們對邊緣計算的興趣呈滾雪球式增長。根據IDC的估計，到2024年，全球在邊緣計算上的支出將增加14%。引起人們興趣的一大驅動力就是把AI投入實際應用，這需要低延遲和隱私性，而邊緣計算在這些方面表現出色。

Blumofe表示：“我們看到邊緣計算的使用范圍在迅速擴大，我們將邊緣計算用于我們自己的應用中，客戶也越來越多地將其用于他們的應用中。”展望2025年，有越來越多的CIO計劃在邊緣實施AI。

Melby表示：“明年，我們的組織希望利用邊緣計算來幫助增強運營決策智能，以及改善我們向智能資產邁進的軌跡。”他們所在的領域，AI和邊緣計算正在成為實現下一代高度智能的工業數字化運營的必要條件。他說，這是建立新的、網絡化的、動態的能源生態系統的基礎。

據Fortalice Solutions的Payton稱，將數據處理轉移到更接近數據創建地點，這對于那些需要立即采取行動和實時洞察的應用來說尤其有益，無論是在零售、制造還是客戶體驗領域。“那些優先考慮實時決策和數據處理的組織，應該在2025年及以后的路線圖中計劃采用邊緣計算。”

AI與邊緣計算齊頭并進

軟件公司Bizagi的首席信息官Antonio Vázquez表示，邊緣計算就是在數據收集和處理終端進行實時數據處理，因此AI自然而然就成了邊緣計算的搭檔。“AI可以通過提高數據傳輸、可擴展性、安全性和成本方面的效率，幫助解決過去阻礙邊緣技術采用的那些問題。”

運營方面的收益也值得考慮。“AI通過在網絡邊緣實現實時的、智能的數據處理，使邊緣計算與CIO之間的相關性越來越高，”計算公司Macrometa的首席執行官、聯合創始人Chetan Venkatesh這樣表示。對他來說，這種組合可以帶來提升的性能提升、增強的用戶體驗、新的應用交付方法以及更好的彈性。另一個好處是數據隱私，這是AI系統一個有爭議的話題。他說：“在本地處理敏感數據，可以解決人們對數據主權和合規性日益增長的擔憂。”

提高數據處理方式和位置，也會帶來積極的業務成果。Payton表示：“AI使邊緣計算與CIO高度相關，因為它讓企業可以在更接近數據生成地點的地方處理和分析數據。隨著AI的不斷發展，它對快速數據處理的依賴使邊緣計算不僅有益，而且對競爭優勢至關重要。”

邊緣AI的用例

AI推理可以放在設備上、本地或者云端，但邊緣在速度和隱私至關重要的眾多場景中大放異彩。Venkatesh說:“邊緣AI讓你可以在最重要的地方——靠近數據源的地方進行即時決策，實現了那些以前不可能實現的用例。”

許多面向用戶的場景，都可以從基于邊緣的AI中受益。Payton特別強調了面部識別技術、半自動駕駛汽車的實時交通更新以及聯網設備和智能手機上的數據驅動增強功能，都是潛在的領域。她說：“在零售業，AI可以通過智能設備實時提供個性化體驗；在醫療領域，可穿戴設備中基于邊緣的AI可以檢測到異常時，立即提醒醫療專業人員，從而有可能挽救生命。”

Bizagi的Vázquez表示，AI和邊緣計算在智能城市中取得了明顯的勝利。他表示，邊緣AI模型除了控制交通信號燈之外，還可以提供多種幫助例如公民安全、自動駕駛、智能電網和自我修復基礎設施。就他而言，巴林、格拉斯哥和拉斯維加斯等城市已經在試水AI了，目的是加強城市規劃、緩解交通流量和提高公共安全。

自主管理的智能基礎設施，這無疑是Dairyland的Melby的首要考慮因素，因為能源行業正在努力利用AI來實現排放目標、過渡到可再生能源、以及提高電網的彈性。他說：“我們正試圖接受更靈活的能源交換，分配能源生產，并在實時運營中融合多種資源。通過利用AI和邊緣計算，我們可以建立具有明確和可預測邊界的機器決策，從而有效地降低一些復雜的運營決策的風險。”其中一個特定領域，就是根據成本和預測選擇和平衡多種能源，例如風能、太陽能或電池存儲，以及自動優化雙向電力流。

另一個領域是制造業。Akamai的Blumofe指出，制造商可以使用邊緣AI算法來監控生產質量和工作場所安全，并對生產流程進行實時調整，還包括預測性維護和機器自我診斷等。

AVOA的Crawford表示，其他特殊情況也很重要，例如讓戰區士兵使用生成式AI。然而，總的來說，他對邊緣AI的看法更為務實一些，認為它更像是一種專業用例，而不是一種包羅萬象的技術。他說：“邊緣AI和計算仍然非常小眾”，他將其中一部分歸因于訓練模型的高成本和低回報，“必須有顯著的價值來抵消成本”。

邊緣對業務的影響

CIO們往往對邊緣AI給業務帶來的影響持積極態度，認為它可以提高可靠性、減少數據傳輸、增強個性化并降低數據泄露風險。

其中一個關鍵好處，就是將可靠性帶到了邊緣。Bizagi公司的Vázquez表示：“對于任何需要優化資源、靠近事件發生地點、遠離系統管理地點的技術來說，自我修復系統是提高其可靠性的關鍵”，可以通過使用AI驅動的組件來實現負載平衡、容錯或預測異常檢測。

除了傳統的保護措施外，邊緣自主AI將帶來前所未有的實時操作響應能力。Melby說：“改進的決策智能，持續和無縫的精簡自動化，以及實現確保未來互操作性的數字生態系統，這這些都是巨大的好處。”特別是在能源行業，邊緣自主AI可以通過從被動方法轉向預測方法來幫助改善電網維護。

除了運營效益外，其他人還希望通過邊緣AI提供更快速的、更個性化的體驗來提升客戶體驗。Macrometa公司的Venkatesh表示：“當今的用戶期望獲得即時的、智能的且富有洞察力的在線體驗。”然而，這些日益動態的交互往往需要向遠程服務器發出API請求鏈，但這會導致延遲。他說：“設計精良的、部署良好的邊緣AI集成了更多功能，并且代碼更改極少，使企業能夠提供用戶渴望的實時交互式體驗。”

雖然潛在的好處比比皆是，但期望必須基于現實，因為如果沒有業務成果，很多用例就會被拋在一邊，Crawford說。

由于AI訓練和推理的絕對功率要求很高，因此門檻也很高，這就造成了物理上的限制。他指出，愛爾蘭最近發生的一次電網故障就給AI處理等能源密集型計算任務造成了影響。

正確使用邊緣AI

在邊緣實施AI，應該是和謹慎樂觀的態度相平衡的。例如，Payton建議把AI戰略和業務成果相結合，采取“走而不跑”的方法。“我建議CIO實施試點-測試-學習的方法，確保在實施AI和邊緣計算時充分了解總體擁有成本、安全注意事項和業務彈性計劃，”她說。

CIO們還必須證明投資的合理性，優化對實物資產的使用。Melby建議組織要仔細考慮他們試圖解決的問題以及結果會是什么。他說：“我所在的行業中，我們正在努力提高效率和彈性，而AI的邊緣計算將以我們從前無法實現的方式提供幫助，這種潛力是變革性的。”他補充說，CIO們應該仔細規劃模塊化或小型數據中心在邊緣的位置，以獲得最大的價值。

Blumofe說，成功還取決于為現有的應用選擇正確的模型，因為并非每個AI應用都需要在耗電的高端GPU上運行大型語言模型等繁重工作。他說：“在很多企業用例中，針對普通CPU運行而優化的小型AI模型是一個更好的解決方案。這種在邊緣運行的優化模型可以顯著降低延遲和成本。”隨著市場中大型語言模型的數量不斷激增，簡單地分析可用的選項也是一項任務。

除了做出合理的判斷之外，在蜂窩技術中融入與平臺無關的工具和前沿技術，這對于邊緣的未來也很重要。Payton說：“優先考慮可擴展的、分散的架構，這種架構可以在處理AI工作負載的同時利用無縫集成了邊緣、云和本地系統的混合云解決方案。此外，5G等技術將在支持更快的數據傳輸方面發揮關鍵作用，使邊緣計算更加可行和有效。”

為更清潔的未來做好準備

Crawford說，來自各個方向的阻力很快就會到來，而CIO們還沒有充分意識到這些阻力。其中之一就是碳足跡，例如，歐盟《企業可持續發展報告指令》（CSRD）將在2025年初生效，該指令要求準確核算企業對環境的影響。

此類法規可能會使不少AI計劃的部署變得更加復雜。因此，在這種環境下，CIO們必須是聰明且有意識的。Crawford鼓CIO在涉足AI之前就設想好價值鏈，評估風險技術債務的前景，重點提高彈性。

Payton表示：“總體來看，實施強調安全性、可靠性、透明度、公平性和問責制的最佳實踐非常重要，這可以解決偏見、安全漏洞和道德問題等風險。”

雖然AI帶來的風險可能會讓人停下來思考，但不變革就會面臨失敗。Venkatesh表示：“對于那些希望增強基礎設施的CIO來說，采用AI進行邊緣計算不僅是一種趨勢，而且是保持競爭力的必要條件。”