什么是緩存?

緩存是嵌入在應(yīng)用程序或設(shè)備內(nèi)存中的硬件或軟件組件，可自動臨時(shí)存儲用戶使用的數(shù)據(jù)，以減少下次訪問應(yīng)用程序或設(shè)備時(shí)的數(shù)據(jù)檢索時(shí)間和工作量。

緩存是用于在計(jì)算機(jī)系統(tǒng)中臨時(shí)存儲信息(通常是數(shù)據(jù))的軟件或硬件。它是一種適度形式的快速、昂貴的內(nèi)存，用于增強(qiáng)頻繁或經(jīng)常訪問的數(shù)據(jù)的性能。緩存數(shù)據(jù)暫時(shí)保存在緩存用戶專屬的存儲介質(zhì)上，與主存儲分開。中央處理器 (CPU)、應(yīng)用程序、網(wǎng)絡(luò)瀏覽器和操作系統(tǒng)都使用緩存。

使用緩存是因?yàn)榇笕萘炕蛑鞔鎯o法滿足用戶的需求。緩存可最大限度地減少數(shù)據(jù)訪問時(shí)間、降低延遲并增強(qiáng)輸入/輸出 (I/O)。緩存方法增強(qiáng)了應(yīng)用程序性能，因?yàn)閷?shí)際上所有應(yīng)用程序工作負(fù)載都依賴于 I/O 操作。

緩存存在于硬件和軟件中。

處理來自臺式機(jī)、筆記本電腦、智能手機(jī)或平板電腦上軟件的數(shù)據(jù)的 CPU 也有自己的緩存。這個(gè) CPU 緩存是一個(gè)緊湊的內(nèi)存塊，旨在幫助 CPU 檢索經(jīng)常訪問的數(shù)據(jù)。它保存了設(shè)備的主內(nèi)存用來更快地運(yùn)行指令的信息，而不是只在需要時(shí)才加載每條數(shù)據(jù)的情況。

每個(gè)在線瀏覽器都保留自己的緩存，包括 Microsoft Edge、Google Chrome、Firefox 和 Safari。瀏覽器緩存保存顯示瀏覽器訪問的網(wǎng)頁所需的文件。這包括定義網(wǎng)站的 HTML 文檔、層疊樣式表 (CSS)指南、Javascript、cookie 和圖形。

例如，當(dāng)您瀏覽亞馬遜時(shí)，它會檢索與您看到的產(chǎn)品頁面相關(guān)的所有照片——HTML、創(chuàng)建網(wǎng)站所需的腳本文件，以及您的登錄憑據(jù)和購物車內(nèi)容等自定義數(shù)據(jù)。如果您刪除瀏覽器的緩存，零售網(wǎng)站會要求您重新登錄并重新配置您的首選項(xiàng)。

通常，應(yīng)用程序還會保留自己的緩存。應(yīng)用程序，如瀏覽器，存儲他們認(rèn)為必不可少的文檔和信息，允許他們在必要時(shí)快速重新加載數(shù)據(jù)。照片、媒體預(yù)覽、瀏覽歷史以及其他用戶偏好可能是各種應(yīng)用程序緩存的數(shù)據(jù)類型。

緩存如何工作?

高速緩存中的數(shù)據(jù)通常存儲在可立即訪問的硬件中，例如 RAM(隨機(jī)存取存儲器)，并且可以與軟件組件結(jié)合使用。緩存的基本目標(biāo)是通過消除與它后面較慢的存儲層聯(lián)系的需要來提高數(shù)據(jù)檢索速度。

緩存通常臨時(shí)存儲一小部分?jǐn)?shù)據(jù)以換取容量，這與數(shù)據(jù)存檔相反，后者的數(shù)據(jù)通常是全面且持久的。

當(dāng)緩存客戶端嘗試檢索數(shù)據(jù)時(shí)，它首先檢查緩存。如果數(shù)據(jù)位于緩存中，則稱為緩存命中。提供緩存命中的嘗試比例稱為緩存命中率或比率。

不在緩存中的數(shù)據(jù)從主存中取出并放入緩存中。這稱為高速緩存未命中。這是如何實(shí)現(xiàn)的，以及從緩存中刪除哪些信息為新數(shù)據(jù)創(chuàng)建空間，由緩存算法、緩存機(jī)制和系統(tǒng)規(guī)則決定。

各種緩存策略控制緩存的操作。Write-around 規(guī)則繞過緩存以支持存儲的寫入操作。這可以防止高速緩存在大量寫入 I/O 期間被淹沒。這種技術(shù)的缺點(diǎn)是數(shù)據(jù)在從存儲中讀取之前不會被緩存。因此，由于尚未緩存數(shù)據(jù)，此讀取操作速度較慢。

直寫緩存策略將信息存儲在緩存和存儲中。直寫式緩存的好處是新記錄的數(shù)據(jù)總是被緩存，允許快速讀取。然而，直到信息被同時(shí)寫入高速緩存和主體存儲，寫操作才算完成。這可能會導(dǎo)致寫入操作延遲。

回寫緩存類似于直寫緩存，因?yàn)樗袑懭攵急宦酚傻骄彺妗Ｏ喾矗貙懯骄彺嬲J(rèn)為寫入過程在信息被緩存后完成。然后數(shù)據(jù)從緩存?zhèn)鬏數(shù)酱鎯ο到y(tǒng)。

現(xiàn)在，讓我們了解硬件緩存的工作原理。

硬件像內(nèi)存塊一樣執(zhí)行緩存，用于臨時(shí)存儲可能再次需要的數(shù)據(jù)。CPU、SSD 和 HDD通常具有基于硬件的緩存，而瀏覽器和 Web 服務(wù)器通常依賴于基于軟件的緩存。

緩存由條目集合組成。每個(gè)條目都包含相關(guān)信息，這些信息是備份存儲中存儲的確切數(shù)據(jù)的副本。每個(gè)條目還包括一個(gè)標(biāo)簽，用于標(biāo)識備份存儲中的材料，它是該材料的副本。標(biāo)記使并發(fā)的面向緩存的算法能夠在多個(gè)層上運(yùn)行而不會受到差分中繼干擾。

每當(dāng)緩存客戶端(CPU、瀏覽器或操作系統(tǒng))想要訪問預(yù)期駐留在底層存儲中的數(shù)據(jù)時(shí)，它都會首先檢查緩存。如果可以找到帶有適合必要數(shù)據(jù)的標(biāo)簽的條目，則改用該條目的數(shù)據(jù)。這稱為緩存命中。

例如，網(wǎng)絡(luò)瀏覽器可能會檢查其在光盤上的本地緩存，以查看其是否具有作為特定 URL 的網(wǎng)站資料的本地備份文件。在這種情況下，URL 地址就是標(biāo)簽，而網(wǎng)頁的內(nèi)容就是數(shù)據(jù)。緩存訪問導(dǎo)致緩存命中的比例稱為緩存的命中率或命中率。

緩存未命中是另一種情況，當(dāng)檢查緩存但未找到具有必要標(biāo)記的項(xiàng)目時(shí)會發(fā)生這種情況。這需要從備份存儲進(jìn)行更昂貴的數(shù)據(jù)訪問。下載所需數(shù)據(jù)后，通常將其存儲在緩存中以備將來使用。

在高速緩存未命中時(shí)，擦除當(dāng)前高速緩存記錄以為新獲得的數(shù)據(jù)創(chuàng)建空間。替換策略是指用于確定替換哪個(gè)條目的試探法。一種常見的替換策略，“最近最少使用 (LRU)”，將最早的條目替換為最近最少訪問的條目。

高效的緩存算法根據(jù)緩存材料的數(shù)量以及緩存和備份存儲的延遲和資源利用率來計(jì)算使用命中率。