現實案例展示了企業如何在多云 AI 中實現成本效益。

譯自Master Multicloud With These Simple Cost Tips for AI Workloads，作者 Advit Patel。

現代人工智能的進步依賴于數據處理、模型訓練和實時推理。通過將任務分散到不同的云提供商，多云配置可實現更大的靈活性、更好的性能以及減少對單一供應商的依賴。

然而，隨著管理計算能力、存儲和云間數據傳輸變得更加復雜，這種技術經常會增加成本。到 2024 年底，主要由人工智能驅動的全球云服務支出預計將達到 6788 億美元，Gartner 預測。因此，成本控制成為運營和戰略需求。

通過確定主要的成本驅動因素并實施定制的優化技術，企業可以最大限度地提高其多云投資，同時保持支持 AI 創新所需的可擴展性和效率。本指南探討了在多云生態系統中實現 AI 工作負載成本效益的成熟成本優化策略。

在多個云服務提供商之間分配人工智能工作負載被稱為 AI 的多云架構。這種方法利用每個提供商的優勢，例如區域數據中心或特定的 AI 工具，來提高性能、靈活性和可靠性。

此外，它還降低了服務中斷和供應商鎖定的風險，保證了不間斷的運營并遵守各種法律規定。

由于多項實質性優勢，多云架構在 AI 應用的實施中正變得越來越普遍。

1. 適應性和防止供應商鎖定

組織可以使用各種云提供商來選擇最適合特定 AI 工作負載的服務，從而確保成本效益和峰值性能。這種方法可以隨著業務需求的變化平穩地切換提供商，避免依賴單一供應商。

2. 改進的可靠性和故障轉移能力

提高系統彈性涉及在多個云平臺之間分配 AI 工作負載。在出現技術難題或中斷時，可以同時將工作負載轉移到另一個提供商，從而確保不間斷的運營并減少服務中斷。

3. 頂級服務的可用性

不同的云提供商擅長不同的領域。通過利用每個提供商的獨特優勢，例如先進的機器學習工具、專用硬件加速器或區域特定服務，企業可以通過多云策略最大限度地提高 AI 應用的性能。

4. 遵守數據主權

選擇在特定地點設有數據中心并跨多個云運行的提供商，可以幫助企業遵守各種監管標準，同時仍然遵守本地數據主權標準。

采用多云方法有助于公司提高其 AI 能力，增強系統彈性，并保持適應快速變化的技術場景所需的靈活性。

AI 工作負載中的關鍵成本驅動因素

圖片

了解影響成本的主要因素對于 AI 工作負載中的成本管理至關重要。每個成本因素對于確定總體成本都至關重要，尤其是在多云配置中。以下是主要貢獻因素：

• 計算資源

AI 任務需要高性能 GPU、TPU 或 CPU，特別是對于模型訓練和推理。這些處理需求可能非常昂貴，特別是對于大規模訓練會話或實時應用。如果沒有得到充分管理，預留和按需實例會迅速累積成本。

• 數據存儲

AI 系統使用龐大的數據集進行部署和訓練。類型（例如，SSD 與 HDD）、訪問頻率和層級（例如，標準與存檔）都會影響存儲成本。過度配置或無效的數據管理可能會加劇存儲費用。

• 數據傳輸

在多云配置中，云或區域之間的數據傳輸會增加額外成本。云公司會對平臺外的數據遷移收取出口費用，有時會導致意外的成本飆升。頻繁地在平臺之間移動數據會增加這些費用。

• 網絡

服務間通信、負載均衡和帶寬使用是網絡費用的主要原因。使用流數據管道或分布式系統的人工智能工作負載可能會導致高昂的網絡成本。

• 運營和維護成本

持續監控、微調和再訓練對于維護AI模型是必要的，這些過程需要人力和資源成本。運營的額外費用包括專有AI技術的許可和底層基礎設施的升級。

通過了解這些成本因素，公司可以制定有針對性的優化計劃，以減少浪費性支出并提高多云AI環境中的生產力。

多云AI工作負載的成本優化策略

使用云原生技術和實施有效程序對于降低多云AI安裝中的費用至關重要。以下是降低成本而不犧牲性能的關鍵策略：

• 解釋您的云賬單

成本優化始于了解云計費。云賬單通常包含復雜而詳細的成本。使用計費儀表板或第三方解決方案來評估支出，查找出口費用等隱藏成本，并發現計算或存儲成本峰值。

• 構建一個組合的多云視角

對多云利用率的集成視角有助于改進成本控制。CloudHealth 或 Spot.io 通過將云服務組合到單個儀表板中，簡化了監控并對比了提供商定價和資源利用率。

• 減少閑置資源的浪費

閑置的計算和存儲資源在不提供價值的情況下會耗盡預算。利用 Google Cloud 的 Recommender 或 AWS Trusted Advisor 等資源來查找和消除不必要的實例、卷或服務。

• 獲得并保持合適的規模

您可以通過修改實例類型、大小和區域以符合使用模式來確保資源滿足工作負載需求。定期審核和自動擴展技術有助于保持理想的成本性能比。

• 隨著時間的推移積累節省

承諾儲蓄或預留計劃，以獲得可預測工作負載的降低費率。例如，Google 承諾使用折扣和 Amazon EC2 預留實例可以大幅降低長期計算費用。

• 在風險和成本削減之間取得平衡

在削減費用時，不要犧牲可靠性或性能。在提供商之間策略性地分配工作負載以節省成本，而不會面臨中斷或服務惡化的風險。

• 建立問責制和一致性

促進 DevOps、IT 和財務部門之間的跨職能合作。使用成本分配工具將成本分配給特定組或項目，以鼓勵對堅持預算的問責制。

• 基于數據做出決策

使用分析和人工智能跟蹤消費模式、預測未來成本并發現低效率。數據驅動的洞察力有助于改進資源分配和擴展決策。

• 無服務器計算

由于無服務器系統根據需要動態分配資源，因此它們消除了對專用基礎設施的需求。AWS Lambda 或 Google Cloud Functions 等無服務器系統可以使推理服務等 AI 應用程序受益匪淺。這種按需付費策略可根據工作負載需求無縫擴展，并降低與閑置時間相關的成本。

通過實施這些策略，公司可以優化利用多云系統進行 AI 工作負載，同時平衡性能和成本。通過監控和改進這些策略，組織可以隨著時間的推移節省資金。

特定于 AI 的成本管理工具和實踐

在多云系統中有效管理特定于 AI 的云費用需要結合強大的技術和最佳實踐。以下是監控、預測和控制這些成本的主要策略和工具：

• 使用云提供商成本管理工具

AWS Cost Explorer：提供對 AWS 消耗和費用的深入洞察，使客戶能夠評估支出趨勢并發現改進領域。

Google Cloud 的成本管理工具：提供詳細的計費報告、預算提醒和成本優化技巧，以幫助您更有效地管理支出。

Azure 成本管理和計費：用戶可以跟蹤云費用、創建預算并接收警告以避免超額支付。

• 實施第三方成本優化平臺

VMware CloudHealth：提供多云成本管理和可操作數據，用于優化和洞察跨多個平臺的支出。

Spot.io：自動并智能地分配資源，以降低成本，同時支持眾多云提供商。

• 實施成本管理最佳實踐

資源標記：使用一致的標記方法，按項目、部門或環境對資源進行分類，以便進行詳細的成本跟蹤和問責。

定期審計：定期評估云資源，以發現和刪除未充分利用或閑置的資產，從而降低浪費成本。

預算和警報：創建預算并設置警報以監控支出水平，從而能夠主動控制成本超支。

利用預留實例和節省計劃：承諾使用云提供商的預留實例或節省計劃，以從預期工作負載的折扣費率中獲益。

結合這些工具和方法，公司將能夠了解其與 AI 相關的云支出，做出明智的決策，并在多個云設置中應用成功的成本削減措施。

可視化 AI 工作負載中的關鍵成本驅動因素

計算資源、數據存儲、傳輸、網絡、許可和人力資源都是重要的成本驅動因素。每個因素都有重大影響，其中計算資源通常占最大份額，因為 AI 模型訓練和推理需要高處理能力。

數據存儲和傳輸費用會迅速累積，特別是對于經常訪問或跨云提供商移動的大型數據集。

網絡成本也可能上升，尤其是在多云環境中，服務之間的通信會產生額外費用。AI 技術的許可費用以及開發和維護所需的人力資源增加了總體成本。

圖片

• 計算資源: 40%
• 數據存儲: 20%
• 數據傳輸: 15%
• 網絡: 10%
• 許可和軟件: 10%
• 人力資源: 5%

自動擴縮優化策略工作流：

圖片

多云成本優化中的常見錯誤及如何避免

在多云設置中優化支出存在不同的問題。組織經常會遇到可能導致不必要支出的典型問題。了解這些錯誤并制定避免這些錯誤的措施對于有效的成本管理至關重要。

• 過度配置資源

錯誤：投資于超出滿足最大所需輸出所需的容量，導致浪費和額外的實施成本。

解決方案：對資源實施自動擴縮，以便它們根據需求動態調節。定期分析使用趨勢并調整資源以滿足實際需求。

• 忽略閑置資源

錯誤：未能識別和終止不需要或閑置的資源，這會導致持續收費而沒有提供價值。

解決方案：執行定期審計以識別和消除閑置實例、存儲和服務。使用云提供商技術自動識別未充分利用的資源。

• 缺乏統一的成本可見性

錯誤：使用單一支出視角管理不同的云平臺，使跟蹤和控制成本更易于管理。

解決方案：使用具有用于跟蹤和評估所有平臺支出的統一儀表板的多云成本管理技術。這種方法促進了透明度和明智的決策。

• 忽略數據傳輸成本

錯誤：忽略跨云提供商傳輸數據所涉及的成本，這些成本會迅速增加。

解決方案：創建具有最少云間數據交換的架構。如有必要，請在非高峰時段安排傳輸以利用較低的費用。

• 低估許可和支持費用

錯誤：未能考慮軟件許可和支持服務的費用，導致預算超支。

解決方案：徹底審查所有許可協議和支持合同。為了節省資金，請考慮使用開源軟件或協商商業協議。

• 培訓和治理不足

錯誤：缺乏足夠的培訓和治理法規可能會導致云使用效率低下和支出增加。

解決方案：投資于培訓計劃，以教育團隊最佳云使用實踐。制定治理結構以執行成本優化策略，同時提供監督。

解決和糾正這些常見問題可以使公司應對其多云管理挑戰，從而在云環境中實現更好的優化和成本控制。

多云 AI 工作負載成本優化的案例研究

在多云系統中實施針對 AI 工作負載的成本優化解決方案，已使一些企業在提高性能的同時節省了資金。以下是一些展示這些成功的真實案例研究：

案例研究 1：Arabesque AI：利用搶占式實例進行經濟高效的 AI 模型訓練

Arabesque AI，一家金融資產管理機構，應用人工智能來創建適應性強的投資策略。該機構在努力擴展 AI 模型訓練的計算資源的同時還要保持在預算之內。Arabesque AI 使用 Google Kubernetes Engine (GKE) 中的 Google Cloud 搶占式節點池動態擴展資源，從而使服務器費用減少了 75%，數據處理能力提高了十倍。

案例研究 2：Finder：通過云提供商轉換實現成本節約

Finder，一家澳大利亞比價網站，通過從 Amazon Web Services (AWS) 切換到 Google Cloud Platform (GCP)，大幅降低了其云計算支出。盡管轉移成本很高，Finder 預計成本降低 12%，但實際實現了超過 50% 的下降。與 Google 和 Search 的合作促成了這一轉變，這表明了審查和切換云提供商以提高成本效率的潛在好處。

AI 和多云成本優化的未來趨勢

隨著越來越多的企業為 AI 工作負載實施多云解決方案，許多新趨勢正在影響成本優化的格局：

• AI 驅動的成本優化工具

將人工智能融入成本管理，改變了企業監控和控制支出的方式。先進的 AI 算法檢查消費趨勢，預測未來支出，并提供可操作的優化建議。例如，像Sedai這樣的平臺使用 AI/ML 來提供持續優化，幫助應用程序團隊最大限度地提高性能和規模化的成本效率。

• 可持續且節能的 AI 基礎設施

隨著人們對環境問題的認識不斷提高，人們正在大力創建可持續的 AI 基礎設施。公司正在投資節能數據中心并實施更低碳足跡的政策。諸如AMD 和 Fujitsu 之間的合作，旨在生產將高性能與能源效率相結合的計算機系統，從而促進可持續的 AI 研究。

• 用于復雜多云環境的成本管理工具不斷發展

多云架構的復雜性需要復雜的成本管理策略。新興工具為多個云平臺提供一致的儀表板、實時監控和自動化優化。例如，VMware 的 CloudHealth 提供完整的云成本管理，提供對跨多個云平臺的支出的可見性以及可操作的優化見解。

結論

在多云系統中，高效地管理 AI 工作負載需要徹底了解成本驅動因素和應用程序優化技術。使用 AI 驅動技術、采用可持續基礎設施實踐并與不斷變化的成本控制解決方案保持同步的組織將能夠將運營效率與財務紀律相結合。在日益復雜的環境中，主動的成本優化可確保可擴展性和可持續性，并提高 AI 系統的性能。