Sean Hull是Heavyweight Internet Group的創(chuàng)始人兼高級(jí)顧問(wèn)，擁有20年以上技術(shù)顧問(wèn)相關(guān)經(jīng)驗(yàn)，曾為多家知名機(jī)構(gòu)提供咨詢(xún)，其中包括The Hollywood Reporter、Billboard、NBC Universal、Zagats、Rent the Runway及ideeli，這些高速增長(zhǎng)的公司每個(gè)月處理接近1億的獨(dú)立訪(fǎng)客。Hull在Amazon EC2部署和Linux及MySQL性能上有著豐富的經(jīng)驗(yàn)。巨大流量的處理需涉及多個(gè)方面，其中包括網(wǎng)站擴(kuò)展性、業(yè)務(wù)連續(xù)性、安全及架構(gòu)挑戰(zhàn)等。近日，Hull分享了高性能Web應(yīng)用打造的經(jīng)驗(yàn)，剖析了擴(kuò)展之路上20個(gè)最大的絆腳石。以下為譯文：

1. 二階段提交

通常情況下，當(dāng)數(shù)據(jù)庫(kù)中的數(shù)據(jù)發(fā)生改變時(shí)，它需要同時(shí)被寫(xiě)入內(nèi)存和硬盤(pán)。當(dāng)一個(gè)提交發(fā)生時(shí)，傳統(tǒng)數(shù)據(jù)庫(kù)需要負(fù)責(zé)數(shù)據(jù)在真實(shí)存儲(chǔ)媒質(zhì)上的持久化。牢記，內(nèi)存的數(shù)據(jù)在崩潰或者重啟后都會(huì)消失。即使數(shù)據(jù)已經(jīng)在數(shù)據(jù)庫(kù)中緩存，數(shù)據(jù)庫(kù)仍然需要將其持久化到磁盤(pán)上，MySQL的二進(jìn)制日志及Oracle的redo日志都符合這個(gè)要求。

通過(guò)MySQL集群或者類(lèi)似DRBD(Distributed Replicated Block Device)或者Amazon Multi-AZ(Multi-Availability Zone)的分布式文件系統(tǒng)，提交并不僅僅是在本地發(fā)生，同時(shí)也在遠(yuǎn)端。二階段提交意味著需要從遠(yuǎn)端得到反饋，鑒于網(wǎng)絡(luò)及一些其它的延時(shí)，提交速度可能會(huì)被毫秒級(jí)的降低，仿佛高速公路上的所有汽車(chē)都因重載變慢。如有考慮使用Multi-AZ或者讀備份，不妨查看Amazon RDS(Relational Database Service)與MySQL的比較。

同步復(fù)制同樣會(huì)出現(xiàn)這些問(wèn)題，因此MySQL解決方案是半同步的，這也可以看做是在二階段提交上的一些讓步。

2. 緩存不足

在所有層中緩存的作用都至關(guān)重要，那么什么地方最需要使用緩存：瀏覽器、頁(yè)面、對(duì)象還是數(shù)據(jù)庫(kù)存?下面不妨統(tǒng)統(tǒng)試一下。

瀏覽器緩存似乎遙不可及，除非你清楚瀏覽器是從Web Server中取出指令及其渲染的頁(yè)面。因此，如果包含的對(duì)象有一個(gè)比較長(zhǎng)的生命周期，瀏覽器將會(huì)緩存他們，不需要再次進(jìn)行讀取。這不僅會(huì)加快用戶(hù)的瀏覽速度，同樣會(huì)有益于Server對(duì)網(wǎng)站的托管，因?yàn)闀?huì)切實(shí)的減少用戶(hù)的二次讀取。

猛戳這里查看更多瀏覽器緩存相關(guān)，確保設(shè)置了期滿(mǎn)頭文件及緩存控制。

頁(yè)面緩存需要使用類(lèi)似Varnish的技術(shù)，可以將它看成一個(gè)迷你的高速、低開(kāi)銷(xiāo)Web Server。它不可以支撐類(lèi)似Apache可以的復(fù)雜頁(yè)面，但是它可以讓非常簡(jiǎn)單的頁(yè)面更快。因此位于Apache之前，用于減少負(fù)載，讓Apache可以處理更加復(fù)雜的頁(yè)面。就像交通警察，在專(zhuān)注更復(fù)雜的機(jī)動(dòng)車(chē)前，先給自行車(chē)放行。

對(duì)象緩存由類(lèi)似memcache的組件完成，可以把它當(dāng)做是應(yīng)用程序的便利貼。做數(shù)據(jù)庫(kù)查詢(xún)時(shí)會(huì)先訪(fǎng)問(wèn)緩存尋求數(shù)據(jù)，如果發(fā)現(xiàn)了所需的數(shù)據(jù)，那么結(jié)果返回的時(shí)間將比訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)快10-100倍，這樣就可以快速的構(gòu)建頁(yè)面，從而在眨眼間為用戶(hù)呈現(xiàn)。如果它沒(méi)有發(fā)現(xiàn)所需的數(shù)據(jù)，或者只發(fā)現(xiàn)了一部分，那么將會(huì)建立數(shù)據(jù)庫(kù)請(qǐng)求并將返回的數(shù)據(jù)放于緩存中，讓更多的后來(lái)者受益。

3. 緩慢的磁盤(pán)I/O、RAID 5、多租戶(hù)存儲(chǔ)

數(shù)據(jù)庫(kù)中的一切都受到存儲(chǔ)的限制，這里既包含了空間問(wèn)題，也受設(shè)備讀寫(xiě)的速度掣肘。

如果你使用實(shí)體服務(wù)器，那么一定要當(dāng)心RAID 5，獨(dú)立磁盤(pán)冗余陣列的一種，數(shù)據(jù)保護(hù)和奇偶性將嚴(yán)重的影響寫(xiě)操作。同時(shí)，如果其中一個(gè)磁盤(pán)損壞，那么這個(gè)陣列在磁盤(pán)重建時(shí)將變得非常緩慢。

這個(gè)方案一般使用RAID 10，它將為你提供獨(dú)立的鏡像集。這導(dǎo)致沒(méi)有奇偶校驗(yàn)計(jì)算，從而不會(huì)影響重建時(shí)的速度。

云環(huán)境可能會(huì)涉及到類(lèi)似于Amazon EBS(Elastic Block Store，一個(gè)類(lèi)似于SAN的虛擬化磁盤(pán))的技術(shù)。鑒于其基于網(wǎng)絡(luò)，你必須與其它租戶(hù)競(jìng)爭(zhēng)存儲(chǔ)的讀寫(xiě)。因?yàn)槊總€(gè)存儲(chǔ)能支撐的讀寫(xiě)速度是固定的，所以你的鄰居可能會(huì)影響到你網(wǎng)站及應(yīng)用程序的讀寫(xiě)速度。

最近，Amazon又公布了一個(gè)重量級(jí)產(chǎn)品Provisioned IOPS(每秒I/O操作)。對(duì)于技術(shù)專(zhuān)家來(lái)說(shuō)看起來(lái)非常不錯(cuò)，但是對(duì)于其它人來(lái)說(shuō)毫無(wú)價(jià)值。盡管如此，其依然重要，這意味著你可以鎖定你數(shù)據(jù)庫(kù)所需的磁盤(pán)性能。如果你想在Amazon上托管數(shù)據(jù)庫(kù)，那么不妨多關(guān)注一下這個(gè)。

4. 串行處理

在超市結(jié)賬時(shí)，如果有10個(gè)收銀臺(tái)開(kāi)放，那么從事的是并行處理。如果每個(gè)收銀臺(tái)都在休息，只有一個(gè)登記處開(kāi)放，那么從事的是串行操作。那么結(jié)賬的隊(duì)伍將變得非常長(zhǎng)，不僅是結(jié)賬人的心情受到影響，購(gòu)物者也同樣如此。這點(diǎn)經(jīng)常發(fā)生在線(xiàn)路不夠的大橋收費(fèi)站以及許多人一起離場(chǎng)的體育場(chǎng)所。

網(wǎng)絡(luò)應(yīng)用需要嚴(yán)格的避免串行，因等待API調(diào)用而產(chǎn)生的阻塞，所有的后端節(jié)點(diǎn)都在等待一個(gè)搜索服務(wù)器，只要你應(yīng)用程序的某處形成一個(gè)線(xiàn)就代表了串行化的發(fā)生，那么必須不惜一切代價(jià)去清除它。

5. 缺少Feature Flag

在給業(yè)務(wù)部門(mén)建立應(yīng)用時(shí)，開(kāi)發(fā)者一般從特性和功能入手。Feature Flag將至關(guān)重要，它讓人們可以通過(guò)后端配置文件或管理員UI頁(yè)面關(guān)閉或者打開(kāi)特性。

為什么他們?nèi)绱酥匾?如果你有早上4點(diǎn)的救火經(jīng)驗(yàn)，那么你將明白啟動(dòng)應(yīng)急計(jì)劃的必要性。你需要可以關(guān)閉評(píng)級(jí)、評(píng)論以及應(yīng)用程序其它的一些特性，這將不會(huì)導(dǎo)致整個(gè)系統(tǒng)崩潰。更重要的是，在新特性發(fā)布時(shí)，有些時(shí)候問(wèn)題并不明顯，直到一群互聯(lián)網(wǎng)用戶(hù)同時(shí)涌入。Feature Flag讓你可以選擇性的關(guān)閉一些功能，而不是關(guān)掉整個(gè)網(wǎng)站。

6. 單一的數(shù)據(jù)庫(kù)副本

你必須使用一個(gè)以上的讀副本或者M(jìn)ySQL從節(jié)點(diǎn)，這允許在主節(jié)點(diǎn)出問(wèn)題時(shí)的快速故障轉(zhuǎn)移。

擁有數(shù)據(jù)庫(kù)的多個(gè)副本意味著橫向擴(kuò)展。如果你有兩個(gè)，你就會(huì)看到3-4個(gè)會(huì)對(duì)你基礎(chǔ)設(shè)施的提升。

7. 使用數(shù)據(jù)庫(kù)進(jìn)行排隊(duì)

MySQL數(shù)據(jù)庫(kù)非常適合儲(chǔ)存表格、數(shù)據(jù)以及他們之間的關(guān)系，不幸的是，它并不適合處理應(yīng)用程序的隊(duì)列。盡管如此，許多開(kāi)發(fā)者都習(xí)慣使用一個(gè)表格來(lái)達(dá)到這個(gè)目的。比如，讓你的應(yīng)用程序包含一些作業(yè)表格，或者一個(gè)狀態(tài)列，擁有一些類(lèi)似“in-process”、“in-queue” 及“finished”的值。

因?yàn)殒i競(jìng)爭(zhēng)、scan及 poll進(jìn)程將造成更多的工作，這些解決方案會(huì)帶來(lái)一些擴(kuò)展性問(wèn)題，它們將會(huì)顯著的降低數(shù)據(jù)庫(kù)速度。幸運(yùn)的是這里存在很多有效的開(kāi)源解決方案，比如RabbitMQ及Amazon的SQS。

8. 使用一個(gè)做全文查詢(xún)的數(shù)據(jù)庫(kù)

頁(yè)面搜索是掣肘應(yīng)用程序的另一個(gè)方面，盡管MySQL一段時(shí)間也支撐了full-text索引。但是它們只對(duì)MyISAM表格有效，其它類(lèi)型表格都不買(mǎi)賬，一直困擾著開(kāi)發(fā)者。

一個(gè)解決方案是使用類(lèi)似Solr的專(zhuān)業(yè)搜索引擎，這些技術(shù)擁有許多很好的庫(kù)去支撐你的編程語(yǔ)言，同時(shí)會(huì)提供一個(gè)更快的搜索速度。這些方案同樣易于擴(kuò)展，并且不會(huì)讓你的數(shù)據(jù)庫(kù)成為累贅。

替代方案是Sphinx SE，一個(gè)MySQL存儲(chǔ)引擎，將Sphinx服務(wù)器整合進(jìn)數(shù)據(jù)庫(kù)。此外，MySQL 5.6版本中還使用了InnoDB做全文搜索的默認(rèn)搜索引擎。

9. 對(duì)象關(guān)系模型

ORM，就像毒藥一樣，一旦進(jìn)行使用，就很難擺脫。有利的一面是ORM有益于快速原型，并且允許非專(zhuān)家級(jí)MySQL開(kāi)發(fā)者使用對(duì)象或者內(nèi)存模式進(jìn)行讀寫(xiě)訪(fǎng)問(wèn)。如果你不進(jìn)行擴(kuò)展，那么他們的速度將非常快，并讓功能的快速交付得到保障。

然后DBA(數(shù)據(jù)庫(kù)管理員)會(huì)因?yàn)榫徛页舐牟樵?xún)來(lái)到開(kāi)發(fā)團(tuán)隊(duì)并且說(shuō)：“這個(gè)查詢(xún)?cè)趹?yīng)用程序什么地方，我們需要進(jìn)行修復(fù)，它需要被重寫(xiě)。”開(kāi)發(fā)團(tuán)隊(duì)則會(huì)說(shuō)：“我們也不知道!”從而會(huì)收到來(lái)自運(yùn)營(yíng)組一些質(zhì)疑的眼神。

有能力對(duì)bad sql進(jìn)行跟蹤并將其指出是非常重要的。DBA團(tuán)隊(duì)需要一定的指引找到bad sql的源頭。如果查詢(xún)是來(lái)自O(shè)RM，他們并不具備這些指引。這樣你的團(tuán)隊(duì)將面對(duì)一個(gè)巨大的技術(shù)負(fù)債，同樣也是個(gè)非常難以解決的挑戰(zhàn)。

10. 缺少I(mǎi)nstrumentation

Instrumentation(儀表盤(pán))為應(yīng)用程序提供了碼表和油表，這是汽車(chē)不可缺少的兩個(gè)部分。他們提供了應(yīng)用程序的內(nèi)部工作信息：他們記錄了時(shí)間信息，并且提供了應(yīng)用程序耗時(shí)最多的環(huán)節(jié)。

一個(gè)非常人氣的網(wǎng)絡(luò)解決方案就是New Relic，它提供了一個(gè)非常全面的可視化界面，針對(duì)各個(gè)領(lǐng)域工作者——項(xiàng)目經(jīng)理、開(kāi)發(fā)者、運(yùn)營(yíng)團(tuán)隊(duì)，甚至是業(yè)務(wù)部門(mén)都可以從圖中發(fā)現(xiàn)問(wèn)題所在。當(dāng)然，現(xiàn)在已經(jīng)有很多的開(kāi)源Instrumentation。

11. 缺少代碼倉(cāng)庫(kù)及版本管理

盡管現(xiàn)在這個(gè)問(wèn)題已非常少見(jiàn)，但是還有有些互聯(lián)網(wǎng)公司在沒(méi)有版本控制下去建立應(yīng)用程序。當(dāng)然那些使用了的人，很清楚它將給團(tuán)隊(duì)帶來(lái)的日常優(yōu)勢(shì)和組織控制。

如果你沒(méi)有使用，隨著應(yīng)用程序變得更加復(fù)雜，你將被卷入技術(shù)負(fù)債的漩渦，為應(yīng)用不同部分添加員工將變得異常困難。

一旦你使用版本控制，確保囊括了所有的組件，包含配置文件以及其它要素。而丟失部署時(shí)需要用到的部分，將帶來(lái)額外的風(fēng)險(xiǎn)。

12. 單點(diǎn)故障

如果你的數(shù)據(jù)只存在一個(gè)主數(shù)據(jù)庫(kù)上，這就是一個(gè)單點(diǎn)故障。如果你的服務(wù)器位于一個(gè)單獨(dú)的磁盤(pán)上，這也是個(gè)單點(diǎn)故障。單點(diǎn)故障可以比作“阿基里斯之踵”技術(shù)用語(yǔ)。

不惜任何代價(jià)，單點(diǎn)故障都要在應(yīng)用程序中移除。麻煩的是如何去認(rèn)識(shí)單點(diǎn)故障，即使是選擇單一的云供應(yīng)商都可以稱(chēng)為單點(diǎn)故障，如果擁有多個(gè)供應(yīng)商，或者使用Amazon不同的部分，那么AirBNB的服務(wù)將幸免Amazon 2012年10月的部分宕機(jī)。

13. 缺乏只瀏覽模式

如果你深夜在Yelp、Facebook或者是Tumblr上發(fā)布評(píng)論，你可能就會(huì)收到這樣的信息：“該特性不可用，請(qǐng)稍后再試”。稍后可能是50或者60分鐘，也許可能還需多試幾次。對(duì)于非技術(shù)用戶(hù)，他們?nèi)匀桓杏X(jué)網(wǎng)站在正常運(yùn)行，只是奇怪了一點(diǎn)而已。

實(shí)際情況是，應(yīng)用程序只允許你去瀏覽網(wǎng)站，但是不可以做任何改變。可能是主數(shù)據(jù)庫(kù)或者是一些存儲(chǔ)組件不可用了。

只瀏覽模式可以通過(guò)保留主數(shù)據(jù)庫(kù)的多個(gè)讀備份來(lái)實(shí)現(xiàn)，使用MySQL副本或者是Amazon讀副本類(lèi)似途徑。這樣就可以在沒(méi)有主數(shù)據(jù)庫(kù)情況下，保留網(wǎng)站全部瀏覽功能正常，這一點(diǎn)非常重要。

14. 脆弱的溝通

在擴(kuò)展上談溝通可能非常奇怪，但是應(yīng)用程序技術(shù)層不可能因?yàn)閳F(tuán)隊(duì)間社交和文化上的差異分離。

強(qiáng)大的通信線(xiàn)路是必要的，隊(duì)員必須要知道在錯(cuò)誤發(fā)生時(shí)將找誰(shuí)。好的交流需要自信及知識(shí)淵博的領(lǐng)導(dǎo)，廣泛的聽(tīng)取意見(jiàn)并加以改善。

15. 缺少文檔

當(dāng)Web應(yīng)用程序包含許多層時(shí)，文檔至關(guān)重要。開(kāi)發(fā)者需要給程序、功能、頁(yè)面做文檔，讓后來(lái)者看代碼時(shí)可以清晰的發(fā)現(xiàn)所需的提示及見(jiàn)解。當(dāng)有程序發(fā)生故障時(shí)，運(yùn)營(yíng)程序需要在配置文件上添加評(píng)論去表明更改歷史。業(yè)務(wù)流程及關(guān)系同樣應(yīng)該出現(xiàn)在公司的wiki里，讓人們發(fā)現(xiàn)自己?jiǎn)栴}的解決方案。

文檔可以在各個(gè)層次起到幫助作用，每個(gè)人都應(yīng)該擁抱這個(gè)愛(ài)好。

16 .缺少應(yīng)急演習(xí)

應(yīng)急通常情況下總會(huì)被忽視，團(tuán)隊(duì)可能會(huì)有“我們覆蓋的地方都有備份”這類(lèi)的說(shuō)辭。不錯(cuò)備份、恢復(fù)的途徑很通吃，關(guān)鍵是確保備份的文件萬(wàn)無(wú)一失。一旦在故障轉(zhuǎn)移時(shí)發(fā)現(xiàn)備份有缺失，那么你不愿意發(fā)生的事情必然發(fā)生。

應(yīng)急演習(xí)讓事情發(fā)生之前有了相應(yīng)的經(jīng)驗(yàn)，公司應(yīng)該將此作為運(yùn)營(yíng)團(tuán)隊(duì)工作的一部分，每年都需要進(jìn)行幾次。在云時(shí)代，應(yīng)急演習(xí)已經(jīng)變得比以前輕松許多。為保證所有組件都被備份而啟動(dòng)服務(wù)器是非常值得的，在這個(gè)過(guò)程中你將學(xué)到這項(xiàng)操作該持續(xù)多長(zhǎng)時(shí)間，以及困難所在的地方，更知道需要小心些什么。

17. 缺少監(jiān)視和指標(biāo)

監(jiān)視有著與版本控制同樣的重要性：非常基本，缺少它工作將無(wú)法進(jìn)行;然而確實(shí)有一些網(wǎng)站沒(méi)有監(jiān)視，或者是監(jiān)視力度不夠——有些服務(wù)器或者是核心組件并未被監(jiān)視。

不間斷的收集系統(tǒng)及服務(wù)器數(shù)據(jù)，同時(shí)，應(yīng)用程序和業(yè)務(wù)級(jí)別的可用性也同等重要。如果你不想親自動(dòng)手，不妨考慮一個(gè)Web服務(wù)方案。

18. 莽撞的運(yùn)營(yíng)

你騎著馬在街道上飛奔，明著帶槍進(jìn)入酒吧，你認(rèn)為這是在交朋友?肯定不是，你在暴力的脅迫別人遵循，所有人都不會(huì)有歸屬感。強(qiáng)大的信心是好的，但是團(tuán)隊(duì)的合作是不可缺少的，團(tuán)隊(duì)的智慧高于任何個(gè)人。

團(tuán)隊(duì)需要不斷的對(duì)改變做交流，用管理的角度進(jìn)行，準(zhǔn)備好應(yīng)對(duì)失敗等等。采取小心及規(guī)避風(fēng)險(xiǎn)的態(tài)度，永遠(yuǎn)都有備用計(jì)劃，你應(yīng)該有能力撤銷(xiāo)所有改變，并且認(rèn)真對(duì)待破壞性的改變，以及那些不可恢復(fù)的地方。

19. 日益增長(zhǎng)的技術(shù)負(fù)債

隨著應(yīng)用不斷的增長(zhǎng)，隊(duì)伍需要花越來(lái)越多的時(shí)間在老代碼的維護(hù)和支持上，消除漏洞及缺陷。因此，花在新特性上的時(shí)間將越來(lái)越少。必須謹(jǐn)慎的維護(hù)好新特性與技術(shù)負(fù)債上投入時(shí)間的平衡。如果你發(fā)現(xiàn)你的技術(shù)負(fù)債增加，可能就是橫下決心重寫(xiě)的時(shí)候了。重寫(xiě)可能會(huì)影響到短期新特性及客戶(hù)特性的開(kāi)發(fā)，但是從長(zhǎng)遠(yuǎn)的角度上看是非常好的。

技術(shù)負(fù)債并不總是能被輕易的認(rèn)知，在你建立特性或者是修復(fù)bug時(shí)，你更習(xí)慣于聚焦局部的細(xì)節(jié)，非常容易失去全局觀，這也是為什么全面人才更益于Web擴(kuò)展的原因。

20. 不足的日志

日志直接影響到度量及監(jiān)視。你在尋找故障和排錯(cuò)時(shí)肯定希望得到更多的日志，但是在一個(gè)不間斷運(yùn)行的情況下，你同樣會(huì)需要一些關(guān)鍵服務(wù)的日志。服務(wù)器系統(tǒng)日志、Apache及MySQL日志、緩存日志等，這些都需要被保存。而在日志太多時(shí)，你總是會(huì)減少一些地方的日志，或者裁剪及循環(huán)日志文件，從而丟棄舊的。