什么是緩存?

緩存是嵌入在應用程序或設備內(nèi)存中的硬件或軟件組件，可自動臨時存儲用戶使用的數(shù)據(jù)，以減少下次訪問應用程序或設備時的數(shù)據(jù)檢索時間和工作量。

緩存是用于在計算機系統(tǒng)中臨時存儲信息(通常是數(shù)據(jù))的軟件或硬件。它是一種適度形式的快速、昂貴的內(nèi)存，用于增強頻繁或經(jīng)常訪問的數(shù)據(jù)的性能。緩存數(shù)據(jù)暫時保存在緩存用戶專屬的存儲介質(zhì)上，與主存儲分開。中央處理器 (CPU)、應用程序、網(wǎng)絡瀏覽器和操作系統(tǒng)都使用緩存。

使用緩存是因為大容量或主存儲無法滿足用戶的需求。緩存可最大限度地減少數(shù)據(jù)訪問時間、降低延遲并增強輸入/輸出 (I/O)。緩存方法增強了應用程序性能，因為實際上所有應用程序工作負載都依賴于 I/O 操作。

緩存存在于硬件和軟件中。

處理來自臺式機、筆記本電腦、智能手機或平板電腦上軟件的數(shù)據(jù)的 CPU 也有自己的緩存。這個 CPU 緩存是一個緊湊的內(nèi)存塊，旨在幫助 CPU 檢索經(jīng)常訪問的數(shù)據(jù)。它保存了設備的主內(nèi)存用來更快地運行指令的信息，而不是只在需要時才加載每條數(shù)據(jù)的情況。

每個在線瀏覽器都保留自己的緩存，包括 Microsoft Edge、Google Chrome、Firefox 和 Safari。瀏覽器緩存保存顯示瀏覽器訪問的網(wǎng)頁所需的文件。這包括定義網(wǎng)站的 HTML 文檔、層疊樣式表 (CSS)指南、Javascript、cookie 和圖形。

例如，當您瀏覽亞馬遜時，它會檢索與您看到的產(chǎn)品頁面相關的所有照片——HTML、創(chuàng)建網(wǎng)站所需的腳本文件，以及您的登錄憑據(jù)和購物車內(nèi)容等自定義數(shù)據(jù)。如果您刪除瀏覽器的緩存，零售網(wǎng)站會要求您重新登錄并重新配置您的首選項。

通常，應用程序還會保留自己的緩存。應用程序，如瀏覽器，存儲他們認為必不可少的文檔和信息，允許他們在必要時快速重新加載數(shù)據(jù)。照片、媒體預覽、瀏覽歷史以及其他用戶偏好可能是各種應用程序緩存的數(shù)據(jù)類型。

緩存如何工作?

高速緩存中的數(shù)據(jù)通常存儲在可立即訪問的硬件中，例如 RAM(隨機存取存儲器)，并且可以與軟件組件結合使用。緩存的基本目標是通過消除與它后面較慢的存儲層聯(lián)系的需要來提高數(shù)據(jù)檢索速度。

緩存通常臨時存儲一小部分數(shù)據(jù)以換取容量，這與數(shù)據(jù)存檔相反，后者的數(shù)據(jù)通常是全面且持久的。

當緩存客戶端嘗試檢索數(shù)據(jù)時，它首先檢查緩存。如果數(shù)據(jù)位于緩存中，則稱為緩存命中。提供緩存命中的嘗試比例稱為緩存命中率或比率。

不在緩存中的數(shù)據(jù)從主存中取出并放入緩存中。這稱為高速緩存未命中。這是如何實現(xiàn)的，以及從緩存中刪除哪些信息為新數(shù)據(jù)創(chuàng)建空間，由緩存算法、緩存機制和系統(tǒng)規(guī)則決定。

各種緩存策略控制緩存的操作。Write-around 規(guī)則繞過緩存以支持存儲的寫入操作。這可以防止高速緩存在大量寫入 I/O 期間被淹沒。這種技術的缺點是數(shù)據(jù)在從存儲中讀取之前不會被緩存。因此，由于尚未緩存數(shù)據(jù)，此讀取操作速度較慢。

直寫緩存策略將信息存儲在緩存和存儲中。直寫式緩存的好處是新記錄的數(shù)據(jù)總是被緩存，允許快速讀取。然而，直到信息被同時寫入高速緩存和主體存儲，寫操作才算完成。這可能會導致寫入操作延遲。

回寫緩存類似于直寫緩存，因為所有寫入都被路由到緩存。相反，回寫式緩存認為寫入過程在信息被緩存后完成。然后數(shù)據(jù)從緩存?zhèn)鬏數(shù)酱鎯ο到y(tǒng)。

現(xiàn)在，讓我們了解硬件緩存的工作原理。

硬件像內(nèi)存塊一樣執(zhí)行緩存，用于臨時存儲可能再次需要的數(shù)據(jù)。CPU、SSD 和 HDD通常具有基于硬件的緩存，而瀏覽器和 Web 服務器通常依賴于基于軟件的緩存。

緩存由條目集合組成。每個條目都包含相關信息，這些信息是備份存儲中存儲的確切數(shù)據(jù)的副本。每個條目還包括一個標簽，用于標識備份存儲中的材料，它是該材料的副本。標記使并發(fā)的面向緩存的算法能夠在多個層上運行而不會受到差分中繼干擾。

每當緩存客戶端(CPU、瀏覽器或操作系統(tǒng))想要訪問預期駐留在底層存儲中的數(shù)據(jù)時，它都會首先檢查緩存。如果可以找到帶有適合必要數(shù)據(jù)的標簽的條目，則改用該條目的數(shù)據(jù)。這稱為緩存命中。

例如，網(wǎng)絡瀏覽器可能會檢查其在光盤上的本地緩存，以查看其是否具有作為特定 URL 的網(wǎng)站資料的本地備份文件。在這種情況下，URL 地址就是標簽，而網(wǎng)頁的內(nèi)容就是數(shù)據(jù)。緩存訪問導致緩存命中的比例稱為緩存的命中率或命中率。

緩存未命中是另一種情況，當檢查緩存但未找到具有必要標記的項目時會發(fā)生這種情況。這需要從備份存儲進行更昂貴的數(shù)據(jù)訪問。下載所需數(shù)據(jù)后，通常將其存儲在緩存中以備將來使用。

在高速緩存未命中時，擦除當前高速緩存記錄以為新獲得的數(shù)據(jù)創(chuàng)建空間。替換策略是指用于確定替換哪個條目的試探法。一種常見的替換策略，“最近最少使用 (LRU)”，將最早的條目替換為最近最少訪問的條目。

高效的緩存算法根據(jù)緩存材料的數(shù)量以及緩存和備份存儲的延遲和資源利用率來計算使用命中率。

緩存的重要性

許多軟件工程師認為緩存是使事情變得更快的唯一方法。簡單的說，當你想取回代價高昂的數(shù)據(jù)時，只要把它緩存起來，這樣下次你查找它的時候，它就不會那么昂貴了。讓我們理解為什么。

1. 更好的性能

緩存的主要優(yōu)點是它提高了系統(tǒng)的性能。通過保存網(wǎng)站文件數(shù)據(jù)的緩存版本，您的瀏覽器只需下載一次內(nèi)容，并可以在以后訪問時重新加載文件。

2.離線訪問

為了提高速度，應用程序緩存以前和經(jīng)常使用的數(shù)據(jù)。如前所述，這不僅使事情運行得更快，而且在某些情況下，它還使應用程序能夠“離線”運行。例如，如果您沒有互聯(lián)網(wǎng)連接，應用程序可能會使用緩存數(shù)據(jù)繼續(xù)運行。

3. 應用效率

下載一次文件非常高效。文件的緩存版本可防止應用程序因兩次訪問而浪費時間、電池壽命以及其他資產(chǎn)。相反，應用程序只需要下載更新的或新添加的文件。

4.網(wǎng)絡效率

緩存通過減少請求和傳遞信息所需的“行程”次數(shù)來促進更有效地使用網(wǎng)絡帶寬。這種影響可能會顯著減少對基礎設施重復部署的需求，從而為整個互聯(lián)網(wǎng)生態(tài)系統(tǒng)帶來可觀的成本節(jié)約和經(jīng)濟優(yōu)勢。此外，商業(yè)緩存提供商可能會大規(guī)模運營，大量使用由多個客戶共享的節(jié)能IT 基礎設施。

5. 更好的服務質(zhì)量 (QoS)

緩存服務的可用性降低了開發(fā)內(nèi)容提供商(尤其是推出新服務的 SMB)的準入門檻，并使這些企業(yè)能夠創(chuàng)建新穎的消費者服務。緩存使新興和新的內(nèi)容提供商能夠在產(chǎn)品/服務發(fā)布時提供具有高質(zhì)量服務 (QoS) 的積極用戶體驗，而無需進行昂貴的基礎設施投資，從而使這些公司能夠與老牌玩家競爭。