[[416462]]

最近，很多小伙伴都在說，我沒做過性能優(yōu)化的工作，在公司只是做些CRUD的工作，接觸不到性能優(yōu)化相關(guān)的工作。現(xiàn)在出去找工作面試的時(shí)候，面試官總是問些很刁鉆的問題來為難我，很多我都不會啊!那怎么辦呢?那我就專門寫一些與高并發(fā)系統(tǒng)相關(guān)的面試容易問到的問題吧。今天，我們就來說說在高并發(fā)場景下做性能優(yōu)化有哪些衡量標(biāo)準(zhǔn)，以及做優(yōu)化時(shí)需要注意哪些問題。

面試場景

面試官：平時(shí)工作中有沒有做過一些性能優(yōu)化相關(guān)的工作呢?

首先，我們來分析下面試官的這個(gè)問題。其實(shí)，以我本人招聘面試的經(jīng)驗(yàn)來說，如果面試官問出了這樣的一個(gè)問題。本質(zhì)上不只是想讓面試者簡單的回答：做過或者沒做過。而是想通過這個(gè)簡單的問題來考察下面試者的思考能力和對于問題的理解能力。面試官本質(zhì)上是想讓面試者通過這個(gè)問題，講述一下自己做性能優(yōu)化相關(guān)工作的經(jīng)驗(yàn)、以及對于性能優(yōu)化工作的一些理論的理解，比如就包括：性能優(yōu)化的衡量指標(biāo)，期間需要注意的問題等等。

如果面試者在面試過程中，不能充分理解面試官的意圖，回答問題時(shí)，像擠牙膏一樣，擠點(diǎn)出點(diǎn)，那么，大多數(shù)情況下，面試官就會認(rèn)為這個(gè)人沒啥性能優(yōu)化的經(jīng)驗(yàn)。此時(shí)，面試者就會在面試官心理的印象大打折扣，面試結(jié)果就有非常大的概率涼涼了。

衡量指標(biāo)

對于性能優(yōu)化來說，衡量的指標(biāo)有很多，大體上可以分為：性能指標(biāo)、響應(yīng)時(shí)間、并發(fā)量、秒開率和正確性等。我們可以使用下圖來表示這些衡量指標(biāo)。

接下來，我們就分別說明下這些衡量指標(biāo)。

性能指標(biāo)

性能指標(biāo)又可以包含：吞吐量和響應(yīng)速度。我們平時(shí)所說的QPS、TPS和HPS等，就可以歸結(jié)為吞吐量。有很多小伙伴可能對于QPS、TPS和HPS等不太了解，我們先來說下這幾個(gè)字母的含義。

• QPS代表的是每秒的查詢數(shù)量。
• TPS代表的是每秒事務(wù)的數(shù)量。
• HPS代表的是每秒的HTTP請求數(shù)量。

這些都是與吞吐量相關(guān)的衡量指標(biāo)。

平時(shí)我們在做優(yōu)化工作的時(shí)候，首先要明確需要優(yōu)化的事項(xiàng)。比如：我們做的優(yōu)化工作是要提高系統(tǒng)的吞吐量?還是要提升系統(tǒng)的響應(yīng)速度呢?舉一個(gè)具體點(diǎn)的例子：比如我們的程序中存在一些數(shù)據(jù)庫或者緩存的批量操作，雖然在數(shù)據(jù)的讀取上，響應(yīng)速度下降了，但是我們優(yōu)化的目標(biāo)就是吞吐量，只要我們優(yōu)化后系統(tǒng)的整體吞吐量明顯上升了，那這也是提升了程序的性能。

所以說，優(yōu)化性能不只是提升系統(tǒng)的響應(yīng)速度。

這里，優(yōu)化性能也并不是一味的優(yōu)化吞吐量和優(yōu)化響應(yīng)速度，而是在吞吐量和響應(yīng)速度之間找到一個(gè)平衡點(diǎn)，使用有限的服務(wù)器資源來更好的提升用戶體驗(yàn)。

響應(yīng)時(shí)間

對于響應(yīng)時(shí)間來說，有兩個(gè)非常重要的衡量指標(biāo)。那就是：平均響應(yīng)時(shí)間和百分位數(shù)。

(1)平均響應(yīng)時(shí)間

通常，平均響應(yīng)時(shí)間體現(xiàn)的是服務(wù)接口的平均處理能力。計(jì)算方式就是把所有的請求所耗費(fèi)的時(shí)間加起來，然后除以請求的次數(shù)。舉個(gè)簡單的例子：比如：我們向一個(gè)網(wǎng)站發(fā)送了5次請求，每次請求所耗費(fèi)的時(shí)間分別為：1ms，2ms，1ms，3ms，2ms，那么，平均響應(yīng)時(shí)間就是(1+2+1+3+2)/ 5 = 1.8ms，所以，平均響應(yīng)時(shí)間就是1.8ms。

平均響應(yīng)時(shí)間這個(gè)指標(biāo)存在一個(gè)問題：如果在短時(shí)間內(nèi)請求變得很慢，但很快過去了，此時(shí)使用平均響應(yīng)時(shí)間就無法很好的體現(xiàn)出性能的波動問題。

(2)百分位數(shù)

百分位數(shù)就是我們在優(yōu)化的時(shí)候，圈定一個(gè)時(shí)間范圍，把每次請求的耗時(shí)加入一個(gè)列表中，然后按照從小到大的順序?qū)⑦@些時(shí)間進(jìn)行排序。這樣，我們?nèi)〕鎏囟ò俜治坏暮臅r(shí)，這個(gè)數(shù)字就是 TP 值。

TP值表示的含義就是：超過 N% 的請求都在 X 時(shí)間內(nèi)返回。比如 TP90 = 50ms，意思是超過 90th 的請求，都在 50ms 內(nèi)返回。

百分位數(shù)這個(gè)指標(biāo)也是很重要的，它反映的是應(yīng)用接口的整體響應(yīng)情況。

我們一般會將百分位數(shù)分為 TP50、TP90、TP95、TP99、TP99.9 等多個(gè)段，對高百分位的值要求越高，對系統(tǒng)響應(yīng)能力的穩(wěn)定性要求越高。

并發(fā)量

并發(fā)量指的是系統(tǒng)能夠同時(shí)處理的請求數(shù)量，反映的是系統(tǒng)的負(fù)載能力。

我們在對高并發(fā)系統(tǒng)進(jìn)行優(yōu)化的時(shí)候，往往也會在并發(fā)量上進(jìn)行調(diào)優(yōu)，調(diào)優(yōu)方式也是多種多樣的，目的就是提高系統(tǒng)同時(shí)處理請求的能力。

總體來說，并發(fā)量這個(gè)指標(biāo)理解起來還是比較簡單的，我就不做過多的描述了。

秒開率

秒開率主要針對的是前端網(wǎng)頁或者移動端APP來說的，如果一個(gè)前端網(wǎng)頁或者APP能夠在1秒內(nèi)很平滑的打開，尤其是首頁的加載。此時(shí)，用戶就會感到前端網(wǎng)頁或者APP使用起來很順暢，如果超過3秒甚至更長的時(shí)間，用戶就有可能會直接退出前端網(wǎng)頁或者APP不再使用。

所以，在高并發(fā)場景下優(yōu)化程序，不只要對后端程序進(jìn)行優(yōu)化，對于前端和APP也是要進(jìn)行優(yōu)化的。

正確性

正確性說的是無論我們以何種方式，何種手段對應(yīng)用進(jìn)行優(yōu)化，優(yōu)化后的交互數(shù)據(jù)結(jié)果必須是正確的。不能出現(xiàn)優(yōu)化前性能比較低，數(shù)據(jù)正確，而優(yōu)化后性能比較高，反而數(shù)據(jù)不正確的現(xiàn)象。

優(yōu)化需要注意的問題

• 除非必要,一開始不要優(yōu)化(尤其是開發(fā)階段)
• 有些優(yōu)化準(zhǔn)則已經(jīng)過時(shí),需要考慮當(dāng)下的軟硬件環(huán)境(不要墨守成規(guī))
• 不要過分強(qiáng)調(diào)某些系統(tǒng)級指標(biāo),如cache 命中率,而應(yīng)該聚焦性能瓶頸點(diǎn)
• 不盲從，測試、找到系統(tǒng)的性能瓶頸，再確定優(yōu)化手段
• 注意權(quán)衡優(yōu)化的成本和收益(有些優(yōu)化可能需要現(xiàn)有架構(gòu)做出調(diào)整、增加開發(fā)/運(yùn)維成本)
• 優(yōu)化的目標(biāo)是用戶體驗(yàn)、降低硬件成本(降低集群規(guī)模、不依賴單機(jī)高性能)
• 測試環(huán)境的優(yōu)化手段未必對生產(chǎn)環(huán)境有效(優(yōu)化需要針對真實(shí)情況)

好了，今天就到這兒吧，我是冰河，我們下期見~~

本文轉(zhuǎn)載自微信公眾號「冰河技術(shù)」，可以通過以下二維碼關(guān)注。轉(zhuǎn)載本文請聯(lián)系冰河技術(shù)公眾號。