根據 F5 發(fā)布的《人工智能應用策略現狀報告》顯示，75% 的企業(yè)正在部署AI。與眾多現代應用一樣，AI服務主要通過 API 進行交付和使用。然而，企業(yè)在設計和擴展支持AI的應用和服務時，卻面臨著更多額外挑戰(zhàn)。例如，高效運營需要密切監(jiān)控GPU計算成本、系統(tǒng)響應速度等日益重要的指標，同時還需應對不斷涌現的合規(guī)性要求。

F5首席創(chuàng)新官Kunal Anand表示，“LLM正在為用戶打造全新的生產力水平，并提升用戶體驗，但它們同時也需要在推理階段進行監(jiān)督、深度檢查，并防御新型威脅。通過滿足這些新要求并與F5值得信賴的API流量管理解決方案集成，我們將幫助客戶在日益復雜的威脅環(huán)境中，自信且高效地部署 AI 驅動的應用?！?/p>

現實世界中的AI解決方案需要在整個數據生態(tài)系統(tǒng)中優(yōu)化請求、響應和快速交互。F5 AI網關通過觀察、優(yōu)化并保護大量用戶和自動化變量，從而降低成本、減少惡意威脅并確保合規(guī)性。

F5 AI網關旨在于客戶及其應用的 AI 發(fā)展中找到最佳契合點。該網關可部署在任何云或數據中心，并原生集成F5 NGINX及BIG-IP平臺，從而在傳統(tǒng)、多云或邊緣部署中充分利用F5領先的應用安全和交付服務。此外，該解決方案的開放可擴展性將允許企業(yè)開發(fā)和定制由F5 AI網關執(zhí)行的可編程安全和控制。這些流程可輕松更新并動態(tài)應用，以實現對安全策略和合規(guī)要求的即時響應。

IDC人工智能和自動化高級總監(jiān)Shari Lava表示，“AI驅動的應用將在未來幾年成為幾乎所有企業(yè)和組織的基石。F5在其應用堆棧服務中引入AI網關，為客戶提供了在構建 AI 應用架構方面更大的靈活性，同時實現更強的保護和模型優(yōu)化。”

F5 AI網關可為用戶帶來以下價值：

·通過自動檢測和修復提供安全和合規(guī)性策略實施，以應對OWASP發(fā)布的大語言模型應用程序十大風險；

·利用語義緩存卸載LLM中的重復任務，提升用戶體驗并降低運營成本；

·簡化集成流程，允許開發(fā)人員得以專注于構建AI驅動的應用，而不是管理復雜的基礎架構；

·優(yōu)化本地和第三方LLM的負載平衡、流量路由和速率限制，以保持服務可用性并提升性能；

·提供單一 API 接口，供開發(fā)人員用于訪問他們選擇的AI模型。

WorldTech IT首席技術官Austin Geraci表示，“F5 的AI網關是我們AI戰(zhàn)略中不可或缺的一部分。借助該項技術，我們的客戶能夠開發(fā)內部和外部的AI應用，這些應用能夠處理大量查詢，而不降低站點和應用性能。F5 提供的領先應用安全和交付能力，可加速大規(guī)模AI體驗。通過采用F5 AI網關，僅語義緩存和智能流量路由即可顯著降低成本，同時F5服務的統(tǒng)一性也為客戶節(jié)省了數百小時的集成工作。”