瞬態(tài)響應(yīng)的高性能體系結(jié)構(gòu)：網(wǎng)站

　　什么是高性能網(wǎng)站

　　深國(guó)商網(wǎng)站構(gòu)建了兩個(gè)網(wǎng)站性能架構(gòu)設(shè)計(jì)方案：方案a和方案B。在方案a中，當(dāng)并發(fā)用戶(hù)少于100個(gè)時(shí)，每個(gè)請(qǐng)求的響應(yīng)時(shí)間為1秒。當(dāng)并發(fā)請(qǐng)求達(dá)到200個(gè)時(shí)，請(qǐng)求的響應(yīng)時(shí)間將急劇增加到10秒。無(wú)論是100個(gè)并發(fā)用戶(hù)還是200個(gè)并發(fā)用戶(hù)，方案B中每個(gè)請(qǐng)求的響應(yīng)時(shí)間幾乎都是1.5秒。哪種方案性能更好 如果老板說(shuō)ldquo；我們需要改進(jìn)網(wǎng)站；，他什么意思

　　同一類(lèi)型的兩個(gè)網(wǎng)站，X網(wǎng)站服務(wù)器請(qǐng)求的平均處理時(shí)間是500毫秒，Y網(wǎng)站服務(wù)器的平均處理時(shí)間是1000毫秒，為什么用戶(hù)反映Y網(wǎng)站很快

　　網(wǎng)站性能是一個(gè)客觀(guān)指標(biāo)，可以體現(xiàn)在響應(yīng)時(shí)間吞吐量等技術(shù)指標(biāo)上。同時(shí)，它也是一種主觀(guān)感受，是一種與特定參與者相關(guān)的微妙事物。用戶(hù)的感受與工程師不同，不同的用戶(hù)感受也不同。

　　4.1網(wǎng)站性能試驗(yàn)

　　性能測(cè)試不僅是性能優(yōu)化的前提和基礎(chǔ)，也是性能優(yōu)化結(jié)果的檢驗(yàn)和測(cè)量標(biāo)準(zhǔn)。從不同的角度來(lái)看，網(wǎng)站的性能有不同的標(biāo)準(zhǔn)和優(yōu)化方法。

　　4.1.1網(wǎng)站不同角度的績(jī)效

　　當(dāng)軟件工程師談?wù)摼W(wǎng)站性能時(shí)，通常與用戶(hù)所說(shuō)的不同。

　　1用戶(hù)視角網(wǎng)站性能

　　從用戶(hù)的角度來(lái)看，網(wǎng)站的性能是用戶(hù)對(duì)網(wǎng)站響應(yīng)速度或慢的直觀(guān)感知。用戶(hù)感知的時(shí)間包括用戶(hù)計(jì)算機(jī)與網(wǎng)站服務(wù)器的通信時(shí)間、網(wǎng)站服務(wù)器的處理時(shí)間，以及用戶(hù)計(jì)算機(jī)瀏覽器構(gòu)造請(qǐng)求解析響應(yīng)數(shù)據(jù)的時(shí)間，如圖4.1所示。

　　不同計(jì)算機(jī)的性能差異，不同瀏覽器之間HTML解析的速度差異，不同網(wǎng)絡(luò)運(yùn)營(yíng)商提供的互聯(lián)網(wǎng)寬帶服務(wù)的差異，這些差異**終會(huì)導(dǎo)致響應(yīng)延遲，用戶(hù)認(rèn)為響應(yīng)延遲可能比服務(wù)器處理請(qǐng)求所需的時(shí)間網(wǎng)站長(zhǎng)得多。

　　它還可以從用戶(hù)的角度大大提高網(wǎng)站的性能。

　　2從開(kāi)發(fā)者角度網(wǎng)站性能開(kāi)發(fā)者主要關(guān)注應(yīng)用本身及其相關(guān)子系統(tǒng)的性能，包括響應(yīng)延遲、系統(tǒng)吞吐量、并發(fā)處理能力、系統(tǒng)穩(wěn)定性等技術(shù)指標(biāo)。主要的優(yōu)化方法包括使用cache加速數(shù)據(jù)讀取、使用集群提高吞吐量、使用異步消息加速請(qǐng)求響應(yīng)和調(diào)峰、使用代碼優(yōu)化提高程序性能。

　　3運(yùn)維人員績(jī)效網(wǎng)站運(yùn)維人員更關(guān)注基礎(chǔ)設(shè)施性能和資源利用率，如網(wǎng)絡(luò)運(yùn)營(yíng)商帶寬能力、服務(wù)器硬件配置、數(shù)據(jù)中心網(wǎng)絡(luò)架構(gòu)等，服務(wù)器資源利用率和網(wǎng)絡(luò)帶寬等主要優(yōu)化方法包括構(gòu)建優(yōu)化的骨干網(wǎng)、采用經(jīng)濟(jì)**的定制服務(wù)器、利用虛擬化技術(shù)優(yōu)化資源利用率等。

　　4.1.2性能試驗(yàn)指標(biāo)

　　從開(kāi)發(fā)人員和測(cè)試人員的角度來(lái)看，網(wǎng)站性能測(cè)試的主要指標(biāo)是響應(yīng)時(shí)間、并發(fā)性吞吐量、性能計(jì)數(shù)器等。

　　1響應(yīng)時(shí)間是指應(yīng)用程序執(zhí)行操作所需的時(shí)間，包括從發(fā)送請(qǐng)求到接收**終響應(yīng)數(shù)據(jù)的時(shí)間。響應(yīng)時(shí)間是系統(tǒng)**重要的性能指標(biāo)，它直接反映了系統(tǒng)的ldquo性能；快或慢；。表4.1列出了一些常見(jiàn)系統(tǒng)操作所需的響應(yīng)時(shí)間。

　　通過(guò)模擬應(yīng)用程序，測(cè)試程序記錄接收響應(yīng)和發(fā)送請(qǐng)求之間的時(shí)間差來(lái)計(jì)算系統(tǒng)響應(yīng)時(shí)間。然而，記錄和獲取系統(tǒng)時(shí)間的操作也需要一定的時(shí)間。如果測(cè)試目標(biāo)操作本身花費(fèi)很少的時(shí)間，比如幾微秒，那么測(cè)試程序就不能測(cè)試系統(tǒng)的響應(yīng)時(shí)間。

　　實(shí)際上，通常的方法是重復(fù)請(qǐng)求。例如，一個(gè)請(qǐng)求操作重復(fù)10000次，測(cè)試10000次所需的總響應(yīng)時(shí)間，然后除以10000得到單個(gè)請(qǐng)求的響應(yīng)時(shí)間。

　　2并發(fā)數(shù)是指系統(tǒng)可以同時(shí)處理的請(qǐng)求數(shù)，它也反映了系統(tǒng)的負(fù)載特性。對(duì)于網(wǎng)站，并發(fā)用戶(hù)數(shù)網(wǎng)站是指同時(shí)提交請(qǐng)求的用戶(hù)數(shù)0。與網(wǎng)站并發(fā)用戶(hù)數(shù)相對(duì)應(yīng)的是網(wǎng)站在線(xiàn)用戶(hù)數(shù)（當(dāng)前登錄的用戶(hù)總數(shù)網(wǎng)站）和網(wǎng)站系統(tǒng)用戶(hù)數(shù)（可以訪(fǎng)問(wèn)系統(tǒng)的用戶(hù)總數(shù)，即大多數(shù)用戶(hù)的注冊(cè)用戶(hù)數(shù)網(wǎng)站）。數(shù)字比較關(guān)系為：網(wǎng)站系統(tǒng)用戶(hù)數(shù)網(wǎng)站在線(xiàn)用戶(hù)數(shù)網(wǎng)站并發(fā)用戶(hù)數(shù)。在網(wǎng)站產(chǎn)品設(shè)計(jì)的早期階段，產(chǎn)品經(jīng)理和運(yùn)營(yíng)商需要規(guī)劃不同開(kāi)發(fā)階段的網(wǎng)站系統(tǒng)用戶(hù)數(shù)，并在此基礎(chǔ)上根據(jù)產(chǎn)品特點(diǎn)和運(yùn)營(yíng)手段計(jì)算在線(xiàn)用戶(hù)數(shù)和并發(fā)用戶(hù)數(shù)。這些指標(biāo)將成為系統(tǒng)不起作用的重要依據(jù)設(shè)計(jì)。

　　現(xiàn)實(shí)中，我們經(jīng)常會(huì)看到一些網(wǎng)站，尤其是電子商務(wù)網(wǎng)站，營(yíng)銷(xiāo)人員熱情地打廣告打折，用戶(hù)爭(zhēng)相購(gòu)買(mǎi)。結(jié)果，在活動(dòng)開(kāi)始時(shí)，由于并發(fā)用戶(hù)數(shù)超過(guò)**大負(fù)載網(wǎng)站，響應(yīng)緩慢，不耐煩的用戶(hù)不斷刷新瀏覽器，導(dǎo)致系統(tǒng)并發(fā)用戶(hù)數(shù)增加，**后服務(wù)器系統(tǒng)崩潰，用戶(hù)瀏覽器顯示ldquo；服務(wù)太忙；就這樣結(jié)束了。造成這種情況的原因可能是網(wǎng)站技術(shù)準(zhǔn)備不足，或者運(yùn)營(yíng)商對(duì)并發(fā)用戶(hù)數(shù)量的錯(cuò)誤評(píng)估。

　　測(cè)試程序通過(guò)多線(xiàn)程模擬并發(fā)用戶(hù)來(lái)測(cè)試系統(tǒng)的并發(fā)處理能力。為了真實(shí)地模擬用戶(hù)行為，測(cè)試程序不啟動(dòng)多線(xiàn)程并連續(xù)發(fā)送請(qǐng)求，而是在兩個(gè)請(qǐng)求之間添加一個(gè)隨機(jī)的等待時(shí)間，稱(chēng)為思考時(shí)間。

　　3.吞吐量

　　它是指單位時(shí)間內(nèi)系統(tǒng)處理的請(qǐng)求數(shù)，反映了系統(tǒng)的整體處理能力。對(duì)于網(wǎng)站，可以使用ldquo；請(qǐng)求/秒?！埃换騦dquo；頁(yè)數(shù)/秒?！?；為了達(dá)到**大的平衡，還可以使用ldquo；參觀(guān)人數(shù)/天；或ldquo；處理的服務(wù)數(shù)量/hourrdquo；以此類(lèi)推（TPS（每秒事務(wù)數(shù)）是吞吐量的常用量化指標(biāo)，此外還有HPS（每秒事務(wù)數(shù)）HTTP請(qǐng)求數(shù)）、QPS（每秒查詢(xún)數(shù)）等。

　　在系統(tǒng)并發(fā)從小到大的過(guò)程中（這個(gè)過(guò)程也伴隨著服務(wù)器系統(tǒng)資源消耗的增加）

　　系統(tǒng)吞吐量開(kāi)始逐漸增加，當(dāng)達(dá)到極限時(shí)，隨著并發(fā)度的增加而減少。當(dāng)它到達(dá)系統(tǒng)崩潰點(diǎn)時(shí)，系統(tǒng)資源耗盡，吞吐量為零。

　　在這個(gè)過(guò)程中，響應(yīng)時(shí)間先保持一個(gè)小的上升，達(dá)到吞吐量極限，然后迅速上升。到達(dá)系統(tǒng)崩潰點(diǎn)后，系統(tǒng)失去響應(yīng)。系統(tǒng)吞吐量、系統(tǒng)并發(fā)性和響應(yīng)時(shí)間之間的關(guān)系將在本章后面介紹。

　　系統(tǒng)吞吐量與系統(tǒng)并發(fā)數(shù)的關(guān)系，以及響應(yīng)時(shí)間，可以直觀(guān)地理解為高速公路的交通狀況：吞吐量是每天通過(guò)收費(fèi)站的車(chē)輛數(shù)（可以換算成收費(fèi)站收取的高速費(fèi)），并發(fā)數(shù)是高速公路上行駛的車(chē)輛數(shù)，響應(yīng)時(shí)間是速度。車(chē)輛少的時(shí)候，速度很快，但是高速費(fèi)也比較少；隨著高速公路上車(chē)輛數(shù)量的增加，車(chē)速受影響不大，但收取的高速費(fèi)卻迅速增加；隨著車(chē)輛的不斷增加，車(chē)速越來(lái)越慢，高速公路越來(lái)越堵，通行費(fèi)不增反減；如果交通量持續(xù)增加，超過(guò)一定限度，任何意外因素都會(huì)導(dǎo)致高速癱瘓，車(chē)走不動(dòng)了，收費(fèi)當(dāng)然收不到了，高速公路成了停車(chē)場(chǎng)（資源枯竭）。

　　網(wǎng)站性能優(yōu)化的目的不僅是為了提高用戶(hù)體驗(yàn)的響應(yīng)時(shí)間，而且也是為了盡可能地改進(jìn)系統(tǒng)吞吐量，**大限度地利用服務(wù)器資源。

　　4性能計(jì)數(shù)器是描述服務(wù)器或操作系統(tǒng)性能的數(shù)據(jù)索引。包括System Load、對(duì)象和線(xiàn)程數(shù)、內(nèi)存使用率、CPU使用率、磁盤(pán)和網(wǎng)絡(luò)I/O等指標(biāo)。這些指標(biāo)也是系統(tǒng)監(jiān)控的重要參數(shù)。為這些指標(biāo)設(shè)置表?yè)P(yáng)門(mén)檻。當(dāng)監(jiān)控系統(tǒng)發(fā)現(xiàn)性能計(jì)數(shù)器超過(guò)閾值時(shí)，會(huì)向運(yùn)維人員報(bào)告冗余情況，及時(shí)發(fā)現(xiàn)并處理系統(tǒng)異常。

　　System Load是系統(tǒng)負(fù)載，它是指當(dāng)前由CPU執(zhí)行并且等待由CPU執(zhí)行的進(jìn)程的數(shù)目的總和。它是系統(tǒng)繁忙和空閑程度的一個(gè)重要指標(biāo)（在多核CPU的情況下，**理想的情況是所有CPU都在使用中，沒(méi)有進(jìn)程等待處理，因此Load的理想值是CPU的數(shù)目。當(dāng)Load的值小于CPU的值時(shí)，表示CPU空閑，資源浪費(fèi)；當(dāng)Load的值大于CPU的數(shù)字時(shí)，表示進(jìn)程正在隊(duì)列中等待CPU調(diào)度，表示系統(tǒng)資源不足，影響應(yīng)用程序的執(zhí)行性能。在Linux系統(tǒng)中，使用top命令查看。該值是三個(gè)浮點(diǎn)數(shù)，表示**近1分鐘、10分鐘和15分鐘內(nèi)正在運(yùn)行的隊(duì)列中的平均進(jìn)程數(shù)。

http://m.tinmen.com.cn/jianzhanzhishi/772.html 什么是高性能網(wǎng)站