緩存的工作原理

A. 緩存是什麼意思

緩存是指可以進行高速數據交換的存儲器，它先於內存與CPU交換數據，因此速率很快。

緩存的工作原理是當CPU要讀取一個數據時，首先從CPU緩存中查找，找到就立即讀取並送給CPU處理；沒有找到，就從速率相對較慢的內存中讀取並送給CPU處理，同時把這個數據所在的數據塊調入緩存中，可以使得以後對整塊數據的讀取都從緩存中進行，不必再調用內存。

正是這樣的讀取機制使CPU讀取緩存的命中率非常高（大多數CPU可達90%左右），也就是說CPU下一次要讀取的數據90%都在CPU緩存中，只有大約10%需要從內存讀取。這大大節省了CPU直接讀取內存的時間，也使CPU讀取數據時基本無需等待。

(1)緩存的工作原理擴展閱讀

緩存的狀態數據只是主數據的快照，由於數據源可能被修改，所以狀態數據就有會陳舊的特性。合理利用此特性和將數據陳舊的負面影響最小化是緩存狀態數據的一個重要任務。

緩存介質從技術上劃分，可以分成內存、硬碟文件、資料庫三種。將緩存存儲於內存中是最快的選擇，無需額外的I/O開銷，但是內存的缺點是沒有持久化落地物理磁碟，一旦應用異常，重新啟動數據很難或者無法復原。

緩存中可以存放的最大元素的數量，一旦緩存中元素數量超過這個值（或者緩存數據所佔空間超過其最大支持空間），那麼將會觸發緩存啟動清空策略根據不同的場景合理的設置最大元素值往往可以一定程度上提高緩存的命中率，從而更有效的時候緩存。