Back-of-the-envelope 封底計算 – 系統設計 04

前言

Back-of-the-envelope 又稱為封底計算，是用簡單估算來計算複雜問題的近似值的方法。這邊也複習一下，分散式系統由透過網路連接的運算節點組成。這些節點可以是各種類型的伺服器，例如網頁伺服器、應用程式伺服器和儲存伺服器。

在設計分散式系統時，了解每個節點可以處理的請求數量非常重要。同時我們也可以確定所需的節點數量以及流量，因此我們會使用 Back-of-the-envelope 來去計算我們的粗估值，最終來設計我們所需的系統。

Back-of-the-envelope

在現實中，分散式系統由透過網路連接的運算節點組成，市面上的軟體系統，也存在各式各樣的運算節點，並且用許多不同的方式連接。Back-of-the-envelope 可以幫助我們忽略系統的細節，專注於更重要的方面，如同前一篇文章提到的抽象概念。

以下是 Back-of-the-envelope 的範例：

• 伺服器可以接受 TCP 連接同時連結的數量。
• 網頁、資料庫或快取伺服器每秒可以處理的請求數量 (RPS)。
• 服務的儲存需求。

在上述這些情況中，如果計算出不合理的數字，可能會導致軟體設計缺陷。因此在設計系統時，我們必須要使用 Back-of-the-envelope 去做粗估，再去優化以及擴展我們的系統。

資料中心伺服器類型

資料中心並非只擁有一種類型的伺服器，企業解決方案使用商用硬體來降低成本，並且找出解法，來開發可擴展的系統，以下是資料中心內常用於處理不同工作負載（Workload）的伺服器類型：

網頁伺服器（Web Server）

為了可擴展性，網頁伺服器會與應用程式伺服器分開。網頁伺服器是負載平衡器（Work Balancer）之後的第一個節點。網頁伺服器也是處理用戶端（Client Side）的 API 呼叫的伺服器，通常內存以及儲存資源根據需求會有不同。當然，通常內存、儲存容量越大，伺服器就會有更良好的資源去做處理。例如：Meta 使用了 32GB RAM 以及 500GB 容量的伺服器，來滿足大量的計算。

應用程式伺服器（Application Server）

應用程式伺服器用來處理，應用程式以及商業邏輯。不過網頁伺服器以及應用程式伺服器通常不好區別，以下是他們兩者之間的差異。應用程式伺服器提供動態的內容，網頁伺服器則主要向用戶端瀏覽器提供靜態的內容。

儲存伺服器（Storage Server）

隨著網路越來越發達，任何網路服務也會因為流量與規模，需要儲存的資料量也有爆炸式的增長，因此我們需要儲存伺服器（可以理解成專門的資料庫伺服器），來處理龐大的資料量。我們也需要根據不同的資料類型來去選擇適當的資料庫，例如：  Youtube 使用以下的資料庫：

• 使用 Blob storage 來儲存經過編譯處理的影片資料。
• 使用 Bigtable 來專門儲存大量的影片縮圖。
• 使用 RDBMS 來儲存使用者以及影片的資料，例如：評論、點讚資料。
• 使用 SQL & NoSQL 來儲存各種類型資料，用來做資料分析。

常見標準

系統服務的設計、規劃、實作需要投入大量金錢、時間、人力。如果我們不清楚機器可以處理的工作負載類型，就很難進行更近一步的設計。延遲是一個非常重要的東西，來讓我們可以判斷哪些機器適合哪些工作負載，以下是從 Github 找到的資源，並且做成表格提供讀者做參考。

延遲