為什么用Go編寫機器學習的基礎架構，而不是Python？
Python是機器學習項目中流行的語言，這點是毋庸置疑的。
雖然像R語言、C++和Julia這樣的程序語言有其特有的使用群體與用例，使它們經久不衰，但Python仍是使用廣泛的語言，并用于每個主要的機器學習框架中。
然而，你能想象?在Cortex(將機器學習模型部署為API的開放源代碼平臺之一)代碼庫中，87.5%的代碼都是使用GO編寫。
圖源： Cortex GitHub
Python引以為豪的機器學習算法只是生產環境機器學習系統的一個組成部分。如要實際大規模運行生產環境中的機器學習API，您的基礎結構需要實現以下功能：
- 自動縮放，確保流量波動不會破壞API
- 實行API管理，以處理API同步部署
- 滾動更新，確保更新模型不會中斷用戶服務
Cortex旨在自動實現所有上述基礎架構，以及其他一些問題，例如日志記錄和成本優化。
出于以下考慮，Go是構建滿足上述需求軟件的理想之選：
1. Go生態系統非常適合基礎設施項目
來源：zcool
開源的好處之一就是您可以從自己欣賞的項目中不斷學習。例如，Cortex存在于Kubernetes(本身用Go編寫)生態系統中。很幸運，我們能夠在該生態系統中參考許多出色的開源項目，其中包括：
- kubectl: Kubernetes CLI
- minikube: 一種在本地運行Kubernetes的工具
- helm: Kubernetes軟件包管理工具
- kops: 管理生產Kubernetes的工具
- eksctl: 亞馬遜EKS的官方CLI
以上所有工具不僅僅是Kubernetes項目，并且都是用Go語言編寫。無論是查看CockroachDB還是Hashicorp的基礎設施項目(包括Vault, Nomad, Terraform, Consul和 Packer)，您將發現它們均是使用Go語言編寫。
Go在基礎架構領域的流行還有另一個影響，那就是大多數對基礎架構感興趣的工程師都熟悉Go語言。所以，很容易通過GO吸引這些工程師。實際上，Cortex Labs最優秀的工程師之一就是通過在AngelList上搜索Go職位找到我們的。他找到了我們，我們感到非常幸運。
2. 并發對于機器學習的基礎架構至關重要
用戶可以將許多不同的模型部署為不同的API，并把所有模型都在同一個Cortex集群中以便管理。而Cortex Operator也需要通過一些API來管理這些不同的部署。舉例：
- Cortex調用Kubernetes API在集群上部署模型。
- Cortex調用各種AWS API(包括EC2 Auto Scaling，S3，CloudWatch等)來管理AWS上的部署。
用戶不會直接與這些API進行交互。相反，Cortex以編程方式調用這些API來提供群集，啟動部署和監視API。
以一種高效、可靠的方式交叉調用API是一項重大挑戰。采用并發的方式使用API是最高效的方法，但也引發了問題，因為現在我們不得不擔心競態條件之類的事情。
Go提供了一個解決該問題的簡便方案：Goroutines。
Goroutines是Go以并發方式執行代碼的普通函數。我們可以另寫一篇長文深入探討Goroutines背后的工作方式，但是概括而言，Goroutines是Go運行時自動管理的輕量級線程。多個Goroutine可以放置在一個OS線程上，如果Goroutine阻塞了OS線程，則Go運行時會自動將其余Goroutine移到新的OS線程上。
Goroutines還提供了一個稱為“channel”的功能，此功能允許用戶在Goroutines之間傳遞消息，幫助用戶調度請求并預防競態條件。
當然，用戶也可使用asyncio等最新工具在Python中實現這些功能，但Go在設計時就考慮到了這些情況，使用GO可以減輕我們的工作和生活負擔。
3. 使用Go語言編程是一種享受
來源：Pexels
我們使用Go構建Cortex的最后一個理由就是：Go語言真的非常好。
相對于Python，Go的入門有點痛苦。但是，Go的包容性能為大型項目帶來舒適感。我們仍然在嚴格測試軟件，但靜態輸入和編譯(Go初學者的兩大難題)充當了我們的護欄欄，有助于我們編寫(相對而言)沒有錯誤的代碼。
您可能會說其他語言也會提供特定的優勢，但總的來說，Go最大限度地滿足了我們的技術和美學需求。
4. 使用Go構建跨平臺的CLI更容易
Cortex CLI是一個跨平臺工具，允許用戶直接從命令行部署模型并管理API。以下動圖顯示了運行中的CLI：
圖源： Cortex GitHub
最初，我們使用Python編寫CLI，但事實證明，跨平臺分發CLI太困難了。而Go可以編譯二進制文件(無需依賴管理)，為我們提供了跨平臺分發CLI的便捷易行方案，而無需進行額外的工程工作。
Go編譯的二進制代碼與解釋型語言相比，具有顯而易見的性能優勢。根據計算機基準測試結果，GO的速度遠勝Python。
許多其他的基礎設施CLI工具也是用GO編寫，這可能并非偶然。
Python適用于機器學習，而Go適用于基礎架構
我們也很喜歡Python，它在Cortex中占有一席之地，特別是在處理推理方面。
Cortex服務于TensorFlow，PyTorch，scikit-learn和其他Python模型，這意味著與模型的接口，推理之前和之后的處理均在Python中完成。但是，即使Python代碼經過打包部署到了Docker容器中，這些容器是由用Go編寫的代碼精心編排的。
來源：Pexels
如果您有興趣成為一名機器學習工程師，那么必須熟悉掌握Python。但是，如果您對使用機器學習的基礎結構感興趣，認真考慮一下Go語言，一定會收獲滿滿~
