將PB級字節(jié)的數(shù)據(jù)移動到云端是一項艱巨的任務。人們可能知道，在云端中訪問時，其應用程序的行為會有所不同，成本結構會有所不同，并且需要一些時間來移動所有數(shù)據(jù)。

當企業(yè)用戶認為網(wǎng)絡速度是一個令人頭疼的問題時，希望能夠得到幫助。但在幫助企業(yè)克服這一問題的過程中，專業(yè)人員發(fā)現(xiàn)許多其他因素被忽略，可能會影響企業(yè)的云遷移。

[[227000]]

收集、組織、格式化和驗證數(shù)據(jù)會給企業(yè)帶來比遷移更大的挑戰(zhàn)。以下是云遷移規(guī)劃階段需要考慮的一些常見因素，以便避免出現(xiàn)一些耗時而昂貴的問題。

云遷移瓶頸#1：數(shù)據(jù)存儲

人們在云遷移中看到的最常見的錯誤是將數(shù)據(jù)遷移到云存儲中而未考慮如何使用這些數(shù)據(jù)。人們典型的思考過程是，“我想把文檔和數(shù)據(jù)庫放在云中，是因為對象存儲成本很低。”但是文件、對象和數(shù)據(jù)庫的行為非常不同，將其數(shù)據(jù)放到錯誤的位置會削弱企業(yè)的云計劃。

文件由路徑層次結構組成，即目錄樹。每個文件都可以快速訪問，延遲最短，并且快速(數(shù)據(jù)開始流動時的每秒位數(shù))。單個文件可以很容易地移動、重命名并更改。企業(yè)可能有許多小文件，少量大文件或任意大小和數(shù)據(jù)類型的組合。傳統(tǒng)的應用程序可以像在本地一樣訪問云中的文件，而不需要特別的云感知。

所有這些特點使基于文件的存儲成為最為昂貴的選擇，但將文件存儲在云中還有其他一些缺點。為了實現(xiàn)更高的性能，大多數(shù)基于云計算的文件系統(tǒng)(如Amazon EBS)一次只能由一個基于云計算的虛擬機訪問，這意味著所有需要該數(shù)據(jù)的應用程序必須運行在單個云虛擬機上。要為多個虛擬機(如Azure文件)提供服務，需要使用像SMB這樣的NAS(網(wǎng)絡連接存儲)協(xié)議來存儲，這會嚴重限制性能。文件系統(tǒng)是快速、靈活和兼容的，但是它們很昂貴，僅適用于運行在云中的應用程序，并且不能很好地擴展。

對象不是文件。請記住，因為它很容易遺忘。對象位于一個平面的命名空間中，就像一個巨大的目錄。其延遲時間很長，有時甚至達到數(shù)百或數(shù)千毫秒，吞吐量也很低，除非使用了巧妙的技巧，否則通常每秒鐘可以達到150兆比特左右。關于訪問對象的大部分內容涉及到多部分上傳、字節(jié)范圍訪問和密鑰名稱優(yōu)化等巧妙技巧。對象可以同時從云計算內外進行讀取，但傳統(tǒng)應用程序需要性能低下的解決方法。大多數(shù)用于訪問對象存儲的接口使對象看起來像文件：鍵名稱按前綴過濾，以看起來像文件夾，自定義元數(shù)據(jù)附加到對象，以顯示為文件元數(shù)據(jù)。以及某些系統(tǒng)(如虛擬機文件系統(tǒng)上的FUSE緩存對象)，以允許訪問通過傳統(tǒng)應用。但是這樣的解決方法很脆弱并且表現(xiàn)不佳。云存儲價格低廉，可擴展，云原生化，但速度慢，并且難以訪問。

數(shù)據(jù)庫具有自己的復雜結構，并且可以通過查詢語言(如SQL)訪問它們。傳統(tǒng)數(shù)據(jù)庫可能由文件存儲來支持，但它們需要實時數(shù)據(jù)庫進程來提供查詢。通過將數(shù)據(jù)庫文件和應用程序復制到虛擬機上，或者通過將數(shù)據(jù)遷移到云托管的數(shù)據(jù)庫服務中，可以將其提升到云端。但將數(shù)據(jù)庫文件復制到對象存儲中僅作為脫機備份，這很有用。數(shù)據(jù)庫可以作為云托管服務的一部分進行擴展，但確保依賴于數(shù)據(jù)庫的應用程序和進程完全兼容，并且基于云原生非常重要。數(shù)據(jù)庫存儲是高度專業(yè)化和專用的。

對象存儲的明顯成本節(jié)省與文件和數(shù)據(jù)庫功能的平衡需要仔細考慮需要哪些功能。例如，如果要存儲和分發(fā)成千上萬的小文件，請將它們存儲為ZIP文件，并將其作為單個對象存儲，而不是將每個單獨的文件存儲為單獨的對象。錯誤的存儲選擇可能會導致復雜的依賴關系，這些依賴關系在以后更改很困難，并且代價較高。

云遷移瓶頸#2：數(shù)據(jù)準備

將數(shù)據(jù)移動到云端，并不像將數(shù)據(jù)復制到指定的存儲類型那樣簡單。企業(yè)在復制任何內容之前需要做大量的準備工作，并且需要仔細規(guī)劃預算。概念驗證項目經(jīng)常忽略這一步驟，這可能會導致以后出現(xiàn)代價高昂的超支。

過濾掉不必要的數(shù)據(jù)可以節(jié)省大量時間和存儲成本。例如，數(shù)據(jù)集可能包含不需要成為云計算工作流程一部分的備份文件、早期版本或臨時文件。也許過濾最重要的部分是優(yōu)先考慮哪些數(shù)據(jù)需要先移動。正在積極使用的數(shù)據(jù)不會容忍在完成整個遷移過程所需的幾周、幾個月或幾年內不同步。這里的關鍵是想出一個自動化的方式來選擇要發(fā)送哪些數(shù)據(jù)以及何時發(fā)送，然后仔細記錄所有未完成的事情。

不同的云計算工作流可能要求數(shù)據(jù)的格式或組織與本地應用程序不同。例如，一個工作流可能需要編譯成千上萬的小型Word或PDF文檔并將其打包成ZIP文件，媒體工作流可能涉及代碼轉換和元數(shù)據(jù)打包，而生物信息學工作流可能需要挑選和分段TB級數(shù)量的基因組數(shù)據(jù)。這種重新格式化可能是一個非常費時和費力的過程。它可能需要大量的實驗，大量的臨時存儲以及大量的異常處理。有時很容易推遲重新格式化到云環(huán)境，但請記住，這不能解決問題，它只是將其轉移到企業(yè)使用的每種資源的環(huán)境中。

存儲和格式問題的一部分可能涉及壓縮和存檔的決定。例如，在將數(shù)百萬個小文本文件發(fā)送到云端之前將其壓縮是有意義的，而不是幾千兆字節(jié)的多媒體文件。歸檔和壓縮數(shù)據(jù)可以更輕松地傳輸和存儲數(shù)據(jù)，但考慮在打包和解壓縮這些歸檔所需的時間和存儲空間。

云遷移瓶頸#3：信息驗證

完整性檢查是一個最重要的步驟，也是最容易出錯的步驟。通常假設數(shù)據(jù)傳輸期間會發(fā)生損壞，無論是通過物理介質還是網(wǎng)絡傳輸，并且可以通過在前后執(zhí)行校驗和來捕獲。校驗和是這個過程的重要組成部分，但它實際上是準備和導入最可能遭受損失或損壞的數(shù)據(jù)。

當數(shù)據(jù)轉換格式和應用程序時，即使字節(jié)相同，意義和功能也會丟失。軟件版本之間的簡單不兼容可能導致PB級的“正確”數(shù)據(jù)無用。使用可擴展的流程來驗證企業(yè)的數(shù)據(jù)是否正確可用，這可能是一項艱巨的任務。在最糟糕的情況下，它可能會轉變?yōu)閯趧用芗秃筒痪_的“看起來沒問題”的人工處理過程。但即使這樣做，也比沒有驗證要好。最重要的是確保企業(yè)能夠在遺留系統(tǒng)退役之前識別問題!

云遷移瓶頸#4：轉移封送

將單個系統(tǒng)提升到云端時，將準備好的數(shù)據(jù)復制到物理介質或將其推送到全球互聯(lián)網(wǎng)上相對比較容易。但是這個過程可能難以擴展，特別是對于物理媒體來說。在概念證明中，看起來“簡單”的東西可能會在許多不同的系統(tǒng)發(fā)揮作用時變成“噩夢”。

媒體設備(例如AWS Snowball)必須連接到每臺機器。這可能意味著要在一個或多個數(shù)據(jù)中心周圍移動設備，進行連接，并更新驅動程序和安裝軟件。而通過本地網(wǎng)絡進行連接可以省去物理移動措施，但軟件設置仍然具有挑戰(zhàn)性，復制速度可能會降至遠低于直接通過全球互聯(lián)網(wǎng)上傳可實現(xiàn)的速度。通過互聯(lián)網(wǎng)直接從每臺計算機傳輸數(shù)據(jù)可節(jié)省很多步驟，特別是在數(shù)據(jù)準備就緒的情況下。

如果數(shù)據(jù)準備涉及復制、導出、重新格式化或存檔，本地存儲可能成為瓶頸。可能需要設置專用存儲來分階段準備好的數(shù)據(jù)。這具有允許許多系統(tǒng)并行地進行準備的優(yōu)點，并且減少了用于可運送媒體和數(shù)據(jù)傳輸軟件的聯(lián)系點到只有一個系統(tǒng)。

云遷移瓶頸#5：數(shù)據(jù)傳輸

將網(wǎng)絡傳輸與媒質傳輸進行比較時，很容易只關注發(fā)送時間。例如，通過快遞可能會發(fā)送80TB的AWS Snowball設備，從而實現(xiàn)很快的表觀數(shù)據(jù)速率。但是這忽略了獲取設備、配置和加載設備，準備返回設備，以及允許云計算供應商在后端復制數(shù)據(jù)所需的時間。而這樣做的客戶定期報告說，這樣的周轉時間(從設備訂購到云中可用的數(shù)據(jù))是常見的。這將設備運輸?shù)膶嶋H數(shù)據(jù)傳輸速率降低到每秒300兆比特，如果設備沒有完全填充，則會大大降低。

網(wǎng)絡傳輸速度同樣取決于許多因素，最重要的是本地上行鏈路。盡管做好充分的數(shù)據(jù)準備可以減少企業(yè)需要發(fā)送的數(shù)據(jù)量，但無法以比物理比特率更快的速度發(fā)送數(shù)據(jù)。傳統(tǒng)協(xié)議(包括云計算供應商默認用于對象存儲的那些協(xié)議)在長距離全球互聯(lián)網(wǎng)路徑上的速度和可靠性方面存在困難，這可能導致實現(xiàn)該比特率變得困難。而用戶如果采用CloudDat等加速軟件的千兆互聯(lián)網(wǎng)連接，可達到每秒產(chǎn)生900兆比特的速率，是AWS Snowball的凈吞吐量的三倍。

物理運輸和網(wǎng)絡傳輸之間的最大區(qū)別也是概念驗證期間最常被忽視的問題之一。通過物理裝運，加載到設備上的第一個字節(jié)必須等到最后一個字節(jié)全部復制之后才能發(fā)貨。這意味著如果加載設備需要幾周的時間，那么一些數(shù)據(jù)在到達云端時會過時幾周。即使數(shù)據(jù)集達到總體實際傳輸速度可能更快的PB級別，在遷移過程中保持優(yōu)先數(shù)據(jù)流動的能力仍然可能有利于關鍵資產(chǎn)的網(wǎng)絡傳輸。在數(shù)據(jù)準備的過濾和優(yōu)化階段進行仔細的計劃是必不可少的，并且可能允許采用混合方法。

將數(shù)據(jù)導入云計算提供商可能不是數(shù)據(jù)傳輸步驟的結束。如果它需要復制到多個區(qū)域或提供商，請仔細規(guī)劃如何到達那里。通過互聯(lián)網(wǎng)上傳是免費的，而AWS例如對于區(qū)域間數(shù)據(jù)傳輸?shù)氖召M高達每千兆字節(jié)2美分，對于其他云計算供應商而言，每千兆字節(jié)需要收取9美分。這兩種方法都將面臨帶寬限制，這可能會受益于傳輸加速軟件，如CloudDat.

云遷移瓶頸#6：云擴展

一旦數(shù)據(jù)到達云端的目的地，其遷移過程只完成一半。首先檢查校驗和，這將確保到達的字節(jié)與發(fā)送的字節(jié)匹配。這可能比人們可能意識到的更復雜。文件存儲使用可以隱藏剛剛上傳的數(shù)據(jù)損壞的緩存層。這種損壞非常罕見，但在清除所有緩存并重新讀取文件之前，人們無法確定任何校驗和。重新啟動實例或卸載存儲確實可以容忍清除緩存。

驗證對象存儲校驗和需要將每個對象讀出到一個實例中進行計算。與流行的觀點相反，對象“電子標簽”作為校驗和是無用的。使用多部分技術上傳的對象只能通過讀取它們來驗證。

一旦傳輸?shù)臄?shù)據(jù)得到驗證，在企業(yè)的基于云計算的應用程序和服務可以使用它之前，可能需要進一步提取和重新格式化和分發(fā)。這與在場所發(fā)生的準備和發(fā)送幾乎是相反的。

擴展數(shù)據(jù)的最后一步是驗證它是正確和有用的。這是上面討論的信息驗證計劃的另一方面，也是了解是否真正完成的唯一方法。

云遷移更多的是關于流程而不是數(shù)據(jù)。即使看似簡單的文件分發(fā)任務也需要復雜的遷移步驟，以確保生成的云計算基礎架構與所需的工作流程相匹配。而圍繞云計算技術的大量宣傳，從成本節(jié)約到可擴展性都是有道理的。但仔細規(guī)劃和預測困難對于確定實現(xiàn)這些回報所需的工具和方法至關重要。