[[194782]]

FreeWheel 創建于 2007 年，總部位于美國硅谷，是一家專門提供互聯網視頻廣告投放、監測、預測、增值等關鍵解決方案的外商獨資公司。創始人是 Douglas Knopper、Jon Heller 和 Diane Yu。

公司發展十年，目前約 80% 美國傳統電視媒體和運營商的數字視頻廣告業務使用 FreeWheel 的服務，ComScore 排名前 10 的視頻網站大部分是該公司的客戶或合作伙伴。2017 年開始，FreeWheel 將重點放在開拓歐洲市場，在已經占據約 50% 市場份額的基礎上再升級。

初識 FreeWheel

在不少人眼中，FreeWheel 這家公司的很多做法都出乎意料：公司的業務、銷售、市場皆在歐美，技術研發團隊卻以中國為主;在女性程序員如大熊貓般稀缺的IT職場中，FreeWheel 近 300 人的北京研發中心里，女性員工居然占比約四成;企業都宣傳自己求賢若渴，可像 FreeWheel 這樣為了留住心儀的工程師居然能特意為他在紐約新建一個辦公室的又有幾個?

除了 FreeWheel 這些外在的“迷之任性”吸引了眾多求職者目光之外，還有這家公司內在的IT架構與運維。

FreeWheel 成立 10 年，從剛成立時全年廣告播放量累計 100 萬次，到單日廣告投放接近 10 億，運維部門用什么來保證產品穩定的應用環境?

作為對新興技術非常敏感的高科技企業，如何選擇最適合自己的技術產品?這家為美國 90% 主流電視媒體和運營商所使用的跨國企業，如何保證歐洲、美國、中國三地協同辦公的高效?

FreeWheel 聯合創始人美女 CTO Diane Yu 和運維副總裁梁灝舜(Vito Leung)，為我們解答了上述疑問，還原出一個真實的 FreeWheel。同時，希望給那些正面臨IT運維困惑的跨國企業、高科技公司以及創新企業提供更多參考。

工程師團隊的打造和磨合

這家公司活力四射，既沒有歷史包袱，也不缺少代碼達人，他們對于產品的清晰定位，對新技術理性的判斷與嘗新，對IT規劃的預判與從容，都有非常多值得借鑒的地方。

反其道而行之的研發中心

熟悉 FreeWheel 的人都知道，這家跨國企業的研發中心從成立之初就設在北京。有些人將其原因歸結于它的 CTO Diane 是土生土長的北京人，有故鄉情節。事實上，真相并非全部如此。

Diane 在美國工作九年，接觸了很多中國程序員，她很早就發現，中國的工程師基本功很扎實，工作勤奮能力出眾，但往往吃虧在語言上。

另外一個劣勢是中國的 IT 人才分布在不同企業不同部門，沒有成型的團隊，無法做到相互扶持相互幫助，從而難以共同提高。

當時她就在思索，為什么不能招募中國最出色的工程師組成研發團隊呢?后來，她遇到 FreeWheel 另外兩位創始人，提出了要在北京建立研發中心的想法，并很快被他們接受。

立足中國，國內人才比肩硅谷

FreeWheel 研發中心招募的大多是清華、北大、中科院、哈工大等***高校的高材生。在團隊組建之初，除了語言上的劣勢比較明顯之外，中外思維方式的不同也著實磨合了一段時間，很多微小的細節，Diane 之前都沒有想到過這也能造成誤會。

例如研發團隊發郵件，關于溝通時間的書寫往往按照中文習慣“年-月-日”標注，而美國對于時間的標注習慣是“月-日-年”，所以往往中國這邊郵件發過去，美國的團隊看得雨里霧里搞不清楚會議的時間。

但是很快，經過痛苦的“磨合期”之后，中國的研發團隊爆發了驚人的研發實力，一方面團隊非常有想法，研發能力很強，可以快速響應美國產品部門的需求;

另外一方面 FreeWheel 研發團隊三分之一的人力都有去美國或歐洲“坐班”輪崗的經歷，近距離接觸產品應用、客戶服務，更清楚研發的重點和方向。

當然，另外一個無需多言的好處就是快速的提升英語溝通能力。事實證明，她的決策是對的，現如今她的合作伙伴在各種場合都跟客戶或者投資人表示，FreeWheel 之所以能夠走到今天，與 Diane 把研發中心設立在北京這個決策分不開。“曾經也有過非常忐忑的階段，但我很高興事實證明我是對的。”

運維團隊遇到的挑戰和解決方案

以最小的代價試錯

管理運維團隊是運維副總裁 Vito 的重要職責之一。FreeWheel 將 60 余人的運維團隊分為好幾個小團隊，有負責網絡的，有負責基礎運維的，還有專注產品應用運維的等等不一而足。

整個運維團隊主要承擔 3 件事：

學習和借鑒外部的新興技術;

與公司的產品研發保持同步，隨時支持;

與不同部門溝通協調，滿足他們的需求。

這 3 件事說來容易，真正實踐起來并不輕松。就拿***件事來說，Vito 需要解決 FreeWheel 在 IT 發展過程中遇到的各種挑戰，其中就需要他以最小的試錯代價找到***效的解決方案。他舉了兩個例子：

數據庫的選型之路

在互聯網廣告行業中，基于用戶的信息和歷史興趣行為進行精準廣告投放已經成為一個基本需求。為了滿足這一需求，需要構建一套支持高并發、低延遲、可擴展、高可用的用戶數據庫系統，這是很多實時廣告系統面臨的一個非常大的技術挑戰。

FreeWheel 的用戶數據經歷了從最初的上萬條、幾十 GB 到目前多達 6 億條、上 TB 的規模，每天更新的數據就高達 1 億條，要求達到毫秒(ms)量級的跨數據中心數據存取性能，以保證數字廣告投放的實時性。為此，FreeWheel 在用戶數據庫的產品選型、編程接口、軟件設計、運營維護等方面做了很多嘗試、探索和改進。

在最初的階段，數據量較小，基于訪問性能的考慮，FreeWheel 首先嘗試了業內非常流行的開源軟件產品 Memcached，實現全內存存取，取得了很好的效果。

隨著數據量的不斷增加，全內存存儲無法滿足需求，接下來研發和運維的同事開始評估 Leveldb，并根據 FreeWheel 的業務需求做了一些特殊的定制化，從而實現了數據在磁盤的持久化存儲，擺脫了內存容量的限制。

但是隨后的問題和挑戰也接踵而來，從運維的角度來看，很多問題無法得到很好的解決，例如難以實現高可用、增加節點的成本高、跨數據中心延遲大等等。

這時，FreeWheel 開始更加積極地尋求、嘗試更多的軟件產品和解決方案，最終選擇了 Aerospike 這樣一款產品。

它在 API 實現、數據存取性能、命名空間定義、低延遲數據同步、SSD 硬盤訪問優化、高可用實現、運維友好性等方面具有突出的優勢，使得 FreeWheel 的廣告投放系統不僅在響應速度上有了巨大的提升，并且跨數據中心同步平均延遲控制在毫秒級(ms)。

產品小貼士：

Memcached：是一個高性能的分布式內存對象緩存系統，用于動態 Web 應用以減輕數據庫負載。

Leveldb:是一個 Google 實現的非常高效的 kv 數據庫，能夠支持 billion 級別的數據量。

Aerospike：是一個鍵-值存儲的高性能實時 NoSQL(靈活模式)數據庫。

網絡文件系統的演進

在 FreeWheel，運維團隊使用 NFS(Network FileSystem 網絡文件系統)解決方案來實現多個系統、服務器之間的數據共享。

NFS 是一種 Linux/Unix 操作系統下被廣泛使用的、非常成熟的共享文件系統，可以在計算機之間通過 TCP/IP 協議共享資源。在運維團隊的推動下，NFS 的應用在 FreeWheel 經歷了幾個階段。

在最初的業務階段，他們只使用了一臺 NFS 服務器給前/后端產品提供所有的數據共享服務，數據包括廣告創意文件、用戶數據報告、廣告日志等等。

隨著 FreeWheel 產品的不斷升級和業務模式的擴展，數據量和讀寫的吞吐量也越來越大，單臺 NFS 服務器無法滿足需求了。

于是新的解決方案是按照業務邏輯拆分現有數據資源，并分散到多臺 NFS 服務器上，并且從業務邏輯的角度進行數據資源的隔離。同時這也需要推動產品和開發部門的同事一起調整應用設計來適應這種改進。

在基本解決了容量和性能的問題之后，運維團隊進一步對多臺 NFS 服務器的高可用和可擴展性進行了改進。

經過研究對比之后，最終選擇了 Redhat Cluster Suite 作為解決方案，實現了從 2 節點互備到 4 節點多對多互備，直到目前的 7 節點多對多互備架構，從而在共享資源的讀寫性能、服務可用級別、系統冗余性、橫向擴展能力等多方面對系統提供了強大的支撐能力。

美國、歐洲、中國三地同步協作

作為一個需要全球多地協同工作的的運維團隊，最頭疼的，并不是產品業務方面的問題，而是讓不同地區的運維團隊如何能有一致的目標以及優先級。

FreeWheel 在美國、歐洲、中國三地的多處辦公室有各自不同的主要職能，有的辦事處偏向于與用戶溝通，如何更快更好地處理客戶需求是重點關注的問題;有的辦事處偏向工程，如何更好地服務于工程師團隊是優先考慮的問題。因此不同辦事處的運維團隊面臨并且需要解決的問題就不同。

作為一個整體的全球運維團隊，如何把各個地區的需求放到一起來決定優先級，并且作為一個整體，共享一個 backlog (工作列表)就成為 FreeWheel 運維工作的一大挑戰。

***解決這一難題的方法就是建立“Global Operation Project Management”流程，簡單來說，各地的運維團隊領導和公司的IT架構師，需要定期交流溝通所有項目，并列出優先級，確保大家保持一致。

在協作方面，隨著公司的成長，為了提高客戶服務質量的標準，FreeWheel 的 SLA (服務等級協議)也越來越嚴格，流程也更加成熟，臨時的需求越來越少。取而代之的是 SOP (標準流程standardoperating procedure)、硬件需求申請流程，使得團隊之間的溝通和合作越來越順暢。

FreeWheel 運維的未來，擁抱 Devops

隨著業務需求的變化，FreeWheel 從只有兩個機架服務器的簡單系統(ui↔adserver↔db)，發展到了跨多個機房的上千臺服務器，并且覆蓋 cache、reporting、forecasting、nosql 等多層的復雜系統架構。

在過去的幾年里，FreeWheel 采用的是私有云的解決方案，最近 FreeWheel 開始研究混合云的方向，同時使用公有云和私有云。

接下來 FreeWheel 的發展重點將放在 Devops。美國和中國的運維在這個方面有很大的差異。

在美國，絕大部分運維工程師既要有運維(系統+網絡)的能力，也要有開發的能力。

而在中國，傳統的運維工程師還是更多的只專注于運維。“隨著中國技術行業的進步，運維領域也開始要求運維工程師除了運維的思想，也要有更多的開發思維。”

如何支持越來越快速的版本迭代?這不僅是快速的問題，更重要的是能保持生產環境系統的高質量和穩定性。這將牽涉到技術本身以及產品架構完善兩方面的研究和投入。

采訪后記

采訪完 FreeWheel，記者有很多專業之外的感受。這家公司成功的背后，有很多的必然性：嚴謹的市場調研、理性的技術判斷、精準的市場定位、高效的三地協同、還有對產品應用與開發的足夠重視……他們很多做法看似與常規做法背道而馳，但細細想來卻又在“情理之中”。

在國內企業走出去的大潮流下，記者也建議其他企業可以參考 FreeWheel 這種理性思考，不選最知名的，只選最適合自己的發展之路。

周雪

51CTO 網絡、安全頻道主編

【51CTO原創稿件，合作站點轉載請注明原文作者和出處為51CTO.com】