[[377893]]

【51CTO.com快譯】通過數據的可用性和可訪問性以及開源的機器學習框架，數據科學家和開發人員在構建基于人工智能的解決方案時將會獲得更加輕松的體驗。但是，當他們需要考慮部署模型并選擇最佳策略以擴展到生產級系統時，這個過程將變得更加復雜。

以下將介紹機器學習模型部署的常見挑戰，并對如何解決其中的一些挑戰進行探討：

為什么成功的模型部署對于人工智能驅動的組織至關重要?

機器學習模型部署是將機器學習算法轉換為Web服務的過程。而這種轉換過程可以稱之為可操作性：可操作性的機器學習模型意味著將其轉換為可消費服務，并將其嵌入現有生產環境中。

部署模型是機器學習模型工作流程的基本步驟。通過部署機器學習模型，組織可以開始充分利用自己構建的預測和智能模型，根據模型結果開發業務實踐，從而將自身轉變為由人工智能驅動的實際業務。

在考慮采用人工智能時，組織需要將注意力集中在機器學習工作流程的關鍵組件上，例如數據源和攝取、數據管道、機器學習模型訓練和測試、如何設計新功能，以及使用哪些變量使模型更精確。所有這些步驟都很重要。但是，考慮如何隨著時間的推移使用這些模型和數據也是每個機器學習管道中的關鍵一步。當已經部署模型并投入運營時，才能從模型的預測中獲取實際價值和業務收益。

成功部署模型對于人工智能驅動的組織至關重要，主要原因如下：

• 通過部署機器學習模型，組織的團隊可以使用它們，向它們發送數據并獲取預測，然后將其輸入到機器學習系統中以提高訓練數據的質量和數量。
• 一旦啟動這一過程，組織將開始在生產過程中構建和部署更多數量的機器學習模型。他們可以掌握將模型從開發環境遷移到業務運營系統的可靠且可重復的方法。

為什么有些組織在模型部署上舉步維艱?

許多組織將采用人工智能視為一種技術實踐。但是，它更多是由組織內部發起的業務驅動的計劃。為了成為人工智能驅動的組織，重要的是，組織的當前運營和了解業務的人員必須開始與負責機器學習部署工作流的團隊緊密合作。

機器學習部署工作流程的每個步驟都是基于有關需要使用不同工具和服務的特定決策，以實現成功部署(從模型訓練和注冊到模型部署和監視)：

在開始人工智能應用程序開發流程時，機器學習團隊應與業務對應方進行互動。必須保持不斷的交互作用，以了解與模型部署和使用步驟并行的模型實驗過程。大多數組織都在努力挖掘機器學習的潛力，以優化其運營流程，并使數據科學家、分析師和業務團隊使用相同的語言。

此外，機器學習模型必須基于歷史數據進行訓練。需要創建預測數據管道，這是個需要多個任務的活動，包括數據處理、特性工程和優化。每項任務(從數據庫的版本更新到丟失值的處理)都必須從開發環境精確地復制到生產環境。有時，開發和生產中使用的技術的差異會導致部署機器學習模型中遇到困難。

組織可以使用機器學習管道來創建和管理將機器學習階段結合在一起的工作流。例如，機器學習管道可能包括數據準備、模型訓練、模型部署以及推理/評分階段。每個階段可以包含多個步驟，而每個步驟都可以在無人參與的各種計算目標中運行。其管道步驟是可重用的，并且如果該步驟的輸出未更改，則可以在不再運行后續步驟的情況下運行它們。機器學習管道還允許數據科學家在機器學習工作流的各個區域工作時進行協作。

如何選擇合適的工具來成功部署模型?

對于正在尋求通過人工智能轉變運營方式的組織來說，構建、培訓、測試以及最終部署機器學習模型通常是一個繁瑣乏味的過程。而且，即使經過數月的開發，它可以提供基于單一算法的機器學習模型，管理團隊通常并不知道他們的數據科學家是否創造了一個偉大的模型，或者如何對其進行擴展和操作。

以下分享一些有關組織如何選擇合適的工具成功進行部署模型的準則。將使用Azure機器學習服務來說明此工作流，但它也可以與組織選擇的機器學習產品一起使用。

模型部署工作流應基于以下三個簡單步驟：

1.注冊模型

已經注冊的模型是構成模型的一個或多個文件的邏輯容器。例如，如果組織擁有存儲在多個文件中的模型，則可以在工作空間中將它們注冊為一個模型。在注冊之后，可以下載或部署已注冊的模型，并接收所有已注冊的文件。

創建Azure機器學習工作區時可以注冊機器學習模型。該模型可以來自Azure機器學習，也可以來自其他地方。

2.準備部署(指定資產、用途、計算目標)。

要將模型部署為Web服務，必須創建一個推理配置和一個部署配置。推理或模型評分是將部署的模型用于預測的階段，通常用于生產數據。在推理配置中，組織指定服務模型所需的腳本和依賴項。在部署配置中，指定有關如何在計算目標上提供模型的詳細信息。

輸入腳本接收提交到已部署的Web服務的數據，并將其傳遞給模型。然后可以獲取模型返回的響應，并將其返回給客戶端。該腳本特定于組織的模型，它必須了解模型期望并返回的數據。

該腳本包含兩個用于加載和運行模型的函數：

• init()：通常情況下，這一函數將模型加載到全局對象中。這一函數僅在Web服務的Docker容器啟動時運行一次。
• run(input_data)：這一函數使用模型基于輸入數據預測值。要運行的輸入和輸出通常使用JSON進行序列化和反序列化。組織也可以使用原始的二進制數據，可以在將數據發送到模型之前或在將其返回給客戶端之前轉換數據。

在注冊模型時，需要在注冊表中提供用于管理模型的模型名稱。組織將此名稱用于模型。 get_model_path()檢索本地文件系統上模型文件的路徑。如果注冊文件夾或文件集合，則這一API會將路徑返回到包含這些文件的目錄。

3.將模型部署到計算目標

最后，在部署之前，組織必須定義部署配置。部署配置特定于將托管Web服務的計算目標。例如在本地部署時，必須指定服務接受請求的端口。

結論

以上介紹了機器學習模型部署的一些常見挑戰，還討論了成功部署模型對于釋放人工智能的潛力至關重要，組織在部署模型方面遇到的困難，以及選擇正確的工具成功部署模型。

原文標題：How to Tackle Challenges Deploying ML Models，作者：Rajasekhar Reddy Polu

【51CTO譯稿，合作站點轉載請注明原文譯者和出處為51CTO.com】