瞬態(tài)響應的高性能體系結構：網(wǎng)站

　　什么是高性能網(wǎng)站

　　深國商網(wǎng)站構建了兩個網(wǎng)站性能架構設計方案：方案a和方案B。在方案a中，當并發(fā)用戶少于100個時，每個請求的響應時間為1秒。當并發(fā)請求達到200個時，請求的響應時間將急劇增加到10秒。無論是100個并發(fā)用戶還是200個并發(fā)用戶，方案B中每個請求的響應時間幾乎都是1.5秒。哪種方案性能更好 如果老板說ldquo；我們需要改進網(wǎng)站；，他什么意思

　　同一類型的兩個網(wǎng)站，X網(wǎng)站服務器請求的平均處理時間是500毫秒，Y網(wǎng)站服務器的平均處理時間是1000毫秒，為什么用戶反映Y網(wǎng)站很快

　　網(wǎng)站性能是一個客觀指標，可以體現(xiàn)在響應時間吞吐量等技術指標上。同時，它也是一種主觀感受，是一種與特定參與者相關的微妙事物。用戶的感受與工程師不同，不同的用戶感受也不同。

　　4.1網(wǎng)站性能試驗

　　性能測試不僅是性能優(yōu)化的前提和基礎，也是性能優(yōu)化結果的檢驗和測量標準。從不同的角度來看，網(wǎng)站的性能有不同的標準和優(yōu)化方法。

　　4.1.1網(wǎng)站不同角度的績效

　　當軟件工程師談論網(wǎng)站性能時，通常與用戶所說的不同。

　　1用戶視角網(wǎng)站性能

　　從用戶的角度來看，網(wǎng)站的性能是用戶對網(wǎng)站響應速度或慢的直觀感知。用戶感知的時間包括用戶計算機與網(wǎng)站服務器的通信時間、網(wǎng)站服務器的處理時間，以及用戶計算機瀏覽器構造請求解析響應數(shù)據(jù)的時間，如圖4.1所示。

　　不同計算機的性能差異，不同瀏覽器之間HTML解析的速度差異，不同網(wǎng)絡運營商提供的互聯(lián)網(wǎng)寬帶服務的差異，這些差異**終會導致響應延遲，用戶認為響應延遲可能比服務器處理請求所需的時間網(wǎng)站長得多。

　　它還可以從用戶的角度大大提高網(wǎng)站的性能。

　　2從開發(fā)者角度網(wǎng)站性能開發(fā)者主要關注應用本身及其相關子系統(tǒng)的性能，包括響應延遲、系統(tǒng)吞吐量、并發(fā)處理能力、系統(tǒng)穩(wěn)定性等技術指標。主要的優(yōu)化方法包括使用cache加速數(shù)據(jù)讀取、使用集群提高吞吐量、使用異步消息加速請求響應和調峰、使用代碼優(yōu)化提高程序性能。

　　3運維人員績效網(wǎng)站運維人員更關注基礎設施性能和資源利用率，如網(wǎng)絡運營商帶寬能力、服務器硬件配置、數(shù)據(jù)中心網(wǎng)絡架構等，服務器資源利用率和網(wǎng)絡帶寬等主要優(yōu)化方法包括構建優(yōu)化的骨干網(wǎng)、采用經(jīng)濟**的定制服務器、利用虛擬化技術優(yōu)化資源利用率等。

　　4.1.2性能試驗指標

　　從開發(fā)人員和測試人員的角度來看，網(wǎng)站性能測試的主要指標是響應時間、并發(fā)性吞吐量、性能計數(shù)器等。

　　1響應時間是指應用程序執(zhí)行操作所需的時間，包括從發(fā)送請求到接收**終響應數(shù)據(jù)的時間。響應時間是系統(tǒng)**重要的性能指標，它直接反映了系統(tǒng)的ldquo性能；快或慢；。表4.1列出了一些常見系統(tǒng)操作所需的響應時間。

　　通過模擬應用程序，測試程序記錄接收響應和發(fā)送請求之間的時間差來計算系統(tǒng)響應時間。然而，記錄和獲取系統(tǒng)時間的操作也需要一定的時間。如果測試目標操作本身花費很少的時間，比如幾微秒，那么測試程序就不能測試系統(tǒng)的響應時間。

　　實際上，通常的方法是重復請求。例如，一個請求操作重復10000次，測試10000次所需的總響應時間，然后除以10000得到單個請求的響應時間。

　　2并發(fā)數(shù)是指系統(tǒng)可以同時處理的請求數(shù)，它也反映了系統(tǒng)的負載特性。對于網(wǎng)站，并發(fā)用戶數(shù)網(wǎng)站是指同時提交請求的用戶數(shù)0。與網(wǎng)站并發(fā)用戶數(shù)相對應的是網(wǎng)站在線用戶數(shù)（當前登錄的用戶總數(shù)網(wǎng)站）和網(wǎng)站系統(tǒng)用戶數(shù)（可以訪問系統(tǒng)的用戶總數(shù)，即大多數(shù)用戶的注冊用戶數(shù)網(wǎng)站）。數(shù)字比較關系為：網(wǎng)站系統(tǒng)用戶數(shù)網(wǎng)站在線用戶數(shù)網(wǎng)站并發(fā)用戶數(shù)。在網(wǎng)站產(chǎn)品設計的早期階段，產(chǎn)品經(jīng)理和運營商需要規(guī)劃不同開發(fā)階段的網(wǎng)站系統(tǒng)用戶數(shù)，并在此基礎上根據(jù)產(chǎn)品特點和運營手段計算在線用戶數(shù)和并發(fā)用戶數(shù)。這些指標將成為系統(tǒng)不起作用的重要依據(jù)設計。

　　現(xiàn)實中，我們經(jīng)常會看到一些網(wǎng)站，尤其是電子商務網(wǎng)站，營銷人員熱情地打廣告打折，用戶爭相購買。結果，在活動開始時，由于并發(fā)用戶數(shù)超過**大負載網(wǎng)站，響應緩慢，不耐煩的用戶不斷刷新瀏覽器，導致系統(tǒng)并發(fā)用戶數(shù)增加，**后服務器系統(tǒng)崩潰，用戶瀏覽器顯示ldquo；服務太忙；就這樣結束了。造成這種情況的原因可能是網(wǎng)站技術準備不足，或者運營商對并發(fā)用戶數(shù)量的錯誤評估。

　　測試程序通過多線程模擬并發(fā)用戶來測試系統(tǒng)的并發(fā)處理能力。為了真實地模擬用戶行為，測試程序不啟動多線程并連續(xù)發(fā)送請求，而是在兩個請求之間添加一個隨機的等待時間，稱為思考時間。

　　3.吞吐量

　　它是指單位時間內系統(tǒng)處理的請求數(shù)，反映了系統(tǒng)的整體處理能力。對于網(wǎng)站，可以使用ldquo；請求/秒?！埃换騦dquo；頁數(shù)/秒?！?；為了達到**大的平衡，還可以使用ldquo；參觀人數(shù)/天；或ldquo；處理的服務數(shù)量/hourrdquo；以此類推（TPS（每秒事務數(shù)）是吞吐量的常用量化指標，此外還有HPS（每秒事務數(shù)）HTTP請求數(shù)）、QPS（每秒查詢數(shù)）等。

　　在系統(tǒng)并發(fā)從小到大的過程中（這個過程也伴隨著服務器系統(tǒng)資源消耗的增加）

　　系統(tǒng)吞吐量開始逐漸增加，當達到極限時，隨著并發(fā)度的增加而減少。當它到達系統(tǒng)崩潰點時，系統(tǒng)資源耗盡，吞吐量為零。

　　在這個過程中，響應時間先保持一個小的上升，達到吞吐量極限，然后迅速上升。到達系統(tǒng)崩潰點后，系統(tǒng)失去響應。系統(tǒng)吞吐量、系統(tǒng)并發(fā)性和響應時間之間的關系將在本章后面介紹。

　　系統(tǒng)吞吐量與系統(tǒng)并發(fā)數(shù)的關系，以及響應時間，可以直觀地理解為高速公路的交通狀況：吞吐量是每天通過收費站的車輛數(shù)（可以換算成收費站收取的高速費），并發(fā)數(shù)是高速公路上行駛的車輛數(shù)，響應時間是速度。車輛少的時候，速度很快，但是高速費也比較少；隨著高速公路上車輛數(shù)量的增加，車速受影響不大，但收取的高速費卻迅速增加；隨著車輛的不斷增加，車速越來越慢，高速公路越來越堵，通行費不增反減；如果交通量持續(xù)增加，超過一定限度，任何意外因素都會導致高速癱瘓，車走不動了，收費當然收不到了，高速公路成了停車場（資源枯竭）。

　　網(wǎng)站性能優(yōu)化的目的不僅是為了提高用戶體驗的響應時間，而且也是為了盡可能地改進系統(tǒng)吞吐量，**大限度地利用服務器資源。

　　4性能計數(shù)器是描述服務器或操作系統(tǒng)性能的數(shù)據(jù)索引。包括System Load、對象和線程數(shù)、內存使用率、CPU使用率、磁盤和網(wǎng)絡I/O等指標。這些指標也是系統(tǒng)監(jiān)控的重要參數(shù)。為這些指標設置表揚門檻。當監(jiān)控系統(tǒng)發(fā)現(xiàn)性能計數(shù)器超過閾值時，會向運維人員報告冗余情況，及時發(fā)現(xiàn)并處理系統(tǒng)異常。

　　System Load是系統(tǒng)負載，它是指當前由CPU執(zhí)行并且等待由CPU執(zhí)行的進程的數(shù)目的總和。它是系統(tǒng)繁忙和空閑程度的一個重要指標（在多核CPU的情況下，**理想的情況是所有CPU都在使用中，沒有進程等待處理，因此Load的理想值是CPU的數(shù)目。當Load的值小于CPU的值時，表示CPU空閑，資源浪費；當Load的值大于CPU的數(shù)字時，表示進程正在隊列中等待CPU調度，表示系統(tǒng)資源不足，影響應用程序的執(zhí)行性能。在Linux系統(tǒng)中，使用top命令查看。該值是三個浮點數(shù)，表示**近1分鐘、10分鐘和15分鐘內正在運行的隊列中的平均進程數(shù)。

http://m.tinmen.com.cn/jianzhanzhishi/772.html 什么是高性能網(wǎng)站