譯者 | 布加迪

審校 | 重樓

盡管云自動化領域取得了諸多進步，但大多數工程團隊仍然通過工單、儀表板或隱藏的文檔與其基礎架構進行交互。想要檢查生產環境的AWS S3存儲桶是否可公開訪問？準備好打開云控制臺，點開一系列錯綜復雜的選項卡。想要知道最近的Terraform提交是否導致了策略漂移？是時候開始深入鉆研日志和電子表格了。

生成式AI的興起為云原生運維提供了一種更自然的界面（重要的是，該界面能夠理解工程師的語言，并與他們已經在使用的系統進行交互）。這時候智能Slackbot應運而生：它是一款對話式助手，能夠理解你團隊的云，與你的文檔和API集成，并能實時響應有關基礎架構狀態、合規和自動化的問題。

下面詳細介紹如何構建你自己的基于AI的Slackbot：它能夠接入你的云環境，并使用開源工具和內部知識庫，借助自然語言提供答案、寶貴知識和補救措施。

為什么要為你的云構建AI Slackbot？

如今，團隊擁有豐富的工具——基礎架構即代碼（IaC）、策略引擎、可觀測性平臺和云治理工具。但這些知識大多各自孤立，或需要專門的知識才能訪問或獲取。開發者仍依賴平臺工程師來獲取答案，這些答案本來可以自助獲取，也應該自助獲取。

通過創建一個與你平臺團隊的文檔和云API集成的對話式界面，你可以發掘一種更易于訪問、對開發者友好的方式來查詢云基礎架構并采取相應操作。可以將其視為治理時代的 ChatOps：詢問資產配置、觸發工作流程或檢測漂移，這一切無需了解要查看哪個代碼庫或儀表板。

第1步：構建知識庫

第一步是讓你的Slackbot能夠了解貴組織的云環境。這意味著將平臺團隊的文檔（比如運行手冊、架構說明、策略定義和IaC 模塊）提取成可以用自然語言查詢的格式。

這可以使用向量數據庫和文檔加載器來實現。LangChain、LlamaIndex或Haystack等工具可讓你將文檔分塊并嵌入到語義搜索索引中。這些工具可以處理從解析Markdown、Confluence頁面或谷歌文檔，到通過基于大語言模型（LLM）的提示讓數據可以查詢的所有任務。

這個階段的關鍵考慮因素：

• 分塊大小和重疊影響你響應的精確度。
• 你需要定期重新索引文檔以體現變更。
• 標記或命名空間文檔可以針對多云或多團隊環境提高相關性。

第2步：實施對話式引擎

知識庫搭建完成后，就可以構建Slackbot界面了。這意味著將Slack的消息API與開源框架連接起來，該框架允許你將問題傳送到語言模型，使用上下文知識豐富查詢，并在對話流中處理響應。

LangChain和Semantic Kernel之類的框架提供了預構建的智能體，可以結合多個數據源，包括你的向量存儲區、內部API和靜態工具。你將設置一個Slack應用程序，訂閱消息事件，并將用戶查詢傳輸到你的對話智能體。

幾個最佳實踐：

• 利用提示模板引導助手使用針對特定基礎架構的語言，并避免幻覺。
• 記錄查詢和響應，以微調性能并捕捉極端情況。
• 添加用戶身份驗證，確保只有授權的工程師才能訪問敏感信息。

第3步：集成云API

你的Slackbot已經能夠理解文檔并做出響應，接下來是時候通過使用API將其連接到實時云基礎架構，使其具有動態性。

像Firefly這樣的API提供了跨云資產、IaC定義和策略合規的統一可見性，允許你以編程方式查詢從安全組到資源所有權的一切內容。如果將這些端點集成到Slackbot的工具包中，可以搞清楚以下問題：

• “哪些EC2實例包含未標記的卷？”
• “開發環境是否違反了我們的成本中心策略？”
• “顯示已部署基礎架構與IaC基準架構之間的偏差。”

關鍵在于將自然語言提示映射到API調用，然后將響應重新格式化為對話式回復。比如說，可以將“試運行（staging）階段是否存在漂移？”路由傳送到Firefly漂移檢測API，并返回受影響資源列表。

你無需專門使用Firefly。AWS Config、Open Policy Agent或內部元數據API等工具可以起到同樣的作用。但關鍵在于在你的機器人與云API之間創建一個抽象層，以便你可以根據需要交換或擴展集成，而Firefly在這方面做得很好。

第4步：添加自動化和自助服務操作

在只讀查詢正常運行后，下一步是賦予工程師受控制的寫入操作。這可能包括觸發預先批準的修復腳本、更新標簽或啟動基礎架構工作流。

為了安全地執行此操作，你的Slackbot應該：

• 驗證請求（比如僅允許對非生產帳戶進行修復）。
• 向用戶確認（比如“你是否要為XYZ漂移運用修復程序？”）。
• 將所有操作和響應記錄到審計跟蹤中。

你可以將這些操作連接到CI/CD管道、GitOps流程或者Rundeck或Temporal之類的自動化平臺。其魔力在于將意圖（“修復S3策略”）轉化成精心編排的后端操作，并將已執行的操作反饋給用戶。

信任與治理方面的考量

智能云機器人只有在可信任的情況下才有用。這意味著要加強護欄機制和透明度：

• 顯示所有基于文檔的響應的源鏈接。
• 為所有觸發的操作添加審計日志。
• 使用基于角色的訪問控制（RBAC）來限制敏感查詢。
• 允許管理員覆蓋或更正虛假答案。

建立信任還意味著明確設定期望：你的Slackbot并非取代平臺團隊，而是通過將文檔和工作流程轉化成更易于發現、易于操作且用戶友好的內容來助力平臺團隊。

智能Slackbot=提高運維能力

你會如何使用強大的平臺運維界面？通過將基于AI的上下文與實時云可見性和自動化組件相結合，你的Slackbot不僅僅是一個聊天工具，還會成為你云環境的大門。

隨著生成式AI日趨成熟，預計這種模式會重演：界面變得更加簡潔，智能嵌入到工具中，自動化由人類意圖而非復雜腳本驅動。如果你一直在等待將AI引入到平臺工程堆棧的方法，這是一個實用且高效的起點。

你的云知道大量信息。是時候讓你的團隊能向云提各種問題、并從中汲取信息了。

原文標題：Build an Intelligent Slackbot That Knows Your Cloud: 4 Steps，作者：Eran Bibi