當前位置:首頁 » 操作系統 » redis資料庫同步

redis資料庫同步

發布時間: 2023-01-25 01:30:55

1. redis是什麼資料庫

redis是一個key-value存儲系統。和Memcached類似,它支持存儲的value類型相對更多,包括string(字元串)、list(鏈表)、set(集合)、zset(sorted set --有序集合)和hash(哈希類型)。這些數據類型都支持push/pop、add/remove及取交集並集和差集及更豐富的操作,而且這些操作都是原子性的。在此基礎上,redis支持各種不同方式的排序。與memcached一樣,為了保證效率,數據都是緩存在內存中。區別的是redis會周期性的把更新的數據寫入磁碟或者把修改操作寫入追加的記錄文件,並且在此基礎上實現了master-slave(主從)同步。
Redis 是一個高性能的key-value資料庫。 redis的出現,很大程度補償了memcached這類key/value存儲的不足,在部 分場合可以對關系資料庫起到很好的補充作用。它提供了java,C/C++,C#,PHP,JavaScript,Perl,Object-C,Python,Ruby,Erlang等客戶端,使用很方便。[1]
Redis支持主從同步。數據可以從主伺服器向任意數量的從伺服器上同步,從伺服器可以是關聯其他從伺服器的主伺服器。這使得Redis可執行單層樹復制。存檔可以有意無意的對數據進行寫操作。由於完全實現了發布/訂閱機制,使得從資料庫在任何地方同步樹時,可訂閱一個頻道並接收主伺服器完整的消息發布記錄。同步對讀取操作的可擴展性和數據冗餘很有幫助。
redis的官網地址,非常好記,是redis.io。(域名後綴io屬於國家域名,是british Indian Ocean territory,即英屬印度洋領地),Vmware在資助著redis項目的開發和維護。

2. redis數據如何同步到資料庫

同步到資料庫,這應該是直接進行授權證,應該就可以進行通話,而且應該同步上的,應該比較樸素,應該能告知這些同步的。

3. 當資料庫里的數據修改以後怎麼和redis緩存進行同步

當資料庫里的數據修改以後怎麼和redis緩存進行同步?
在一台機器上啟動3個redis,一個做master,兩個做slave。 Master 埠:6380 Slave1 埠:6381 Slave2埠:6382

4. Redis 如何保持和 Mysql 數據一致

redis在啟動之後,從資料庫載入數據。

讀請求:

不要求強一致性的讀請求,走redis,要求強一致性的直接從mysql讀取

寫請求:

數據首先都寫到資料庫,之後更新redis(先寫redis再寫mysql,如果寫入失敗事務回滾會造成redis中存在臟數據)

在並發不高的情況下,讀操作優先讀取redis,不存在的話就去訪問MySQL,並把讀到的數據寫回Redis中;寫操作的話,直接寫MySQL,成功後再寫入Redis(可以在MySQL端定義CRUD觸發器,在觸發CRUD操作後寫數據到Redis,也可以在Redis端解析binlog,再做相應的操作)

在並發高的情況下,讀操作和上面一樣,寫操作是非同步寫,寫入Redis後直接返回,然後定期寫入MySQL

1.當更新數據時,如更新某商品的庫存,當前商品的庫存是100,現在要更新為99,先更新資料庫更改成99,然後刪除緩存,發現刪除緩存失敗了,這意味著資料庫存的是99,而緩存是100,這導致資料庫和緩存不一致。

解決方法:

這種情況應該是先刪除緩存,然後在更新資料庫,如果刪除緩存失敗,那就不要更新資料庫,如果說刪除緩存成功,而更新資料庫失敗,那查詢的時候只是從資料庫里查了舊的數據而已,這樣就能保持資料庫與緩存的一致性。

2.在高並發的情況下,如果當刪除完緩存的時候,這時去更新資料庫,但還沒有更新完,另外一個請求來查詢數據,發現緩存里沒有,就去資料庫里查,還是以上面商品庫存為例,如果資料庫中產品的庫存是100,那麼查詢到的庫存是100,然後插入緩存,插入完緩存後,原來那個更新資料庫的線程把資料庫更新為了99,導致資料庫與緩存不一致的情況

解決方法:

遇到這種情況,可以用隊列的去解決這個問,創建幾個隊列,如20個,根據商品的ID去做hash值,然後對隊列個數取摸,當有數據更新請求時,先把它丟到隊列里去,當更新完後在從隊列里去除,如果在更新的過程中,遇到以上場景,先去緩存里看下有沒有數據,如果沒有,可以先去隊列里看是否有相同商品ID在做更新,如果有也把查詢的請求發送到隊列里去,然後同步等待緩存更新完成。

這里有一個優化點,如果發現隊列里有一個查詢請求了,那麼就不要放新的查詢操作進去了,用一個while(true)循環去查詢緩存,循環個200MS左右,如果緩存里還沒有則直接取資料庫的舊數據,一般情況下是可以取到的。

1、讀請求時長阻塞

由於讀請求進行了非常輕度的非同步化,所以一定要注意讀超時的問題,每個讀請求必須在超時間內返回,該解決方案最大的風險在於可能數據更新很頻繁,導致隊列中擠壓了大量的更新操作在裡面,然後讀請求會發生大量的超時,最後導致大量的請求直接走資料庫,像遇到這種情況,一般要做好足夠的壓力測試,如果壓力過大,需要根據實際情況添加機器。

2、請求並發量過高

這里還是要做好壓力測試,多模擬真實場景,並發量在最高的時候QPS多少,扛不住就要多加機器,還有就是做好讀寫比例是多少

3、多服務實例部署的請求路由

可能這個服務部署了多個實例,那麼必須保證說,執行數據更新操作,以及執行緩存更新操作的請求,都通過nginx伺服器路由到相同的服務實例上

4、熱點商品的路由問題,導致請求的傾斜

某些商品的讀請求特別高,全部打到了相同的機器的相同丟列里了,可能造成某台伺服器壓力過大,因為只有在商品數據更新的時候才會清空緩存,然後才會導致讀寫並發,所以更新頻率不是太高的話,這個問題的影響並不是很大,但是確實有可能某些伺服器的負載會高一些。

img

搜索微信號(ID:芋道源碼),可以獲得各種 Java 源碼解析。

並且,回復【書籍】後,可以領取筆者推薦的各種 Java 從入門到架構的書籍。

5. 資料庫db與緩存redis的數據同步

總的思路就是跑一個觸發器服務,根據新增、更新選擇不同的路徑,進行同步數據操作。

6. 如何同步到redis

在Redis中,用戶可以通過執行SLAVEOF命令或者設置slaveof選項,讓一個伺服器去復制(replicate)另一個伺服器,我們稱呼被復制的伺服器為主伺服器(master),而對主伺服器進行復制的伺服器則被稱為從伺服器(slave),如圖所示。

步驟5:發送埠信息

身份驗證步驟之後,從伺服器將執行命令REPLCONF listening-port <port-number>,向主伺服器發送從伺服器的監聽埠號。

主伺服器在接收到這個命令之後,會將埠號記錄在從伺服器所對應的客戶端狀態的slave_listening_port屬性中:

typedefstructredisClient{
//...
//從伺服器的監聽埠號
intslave_listening_port;
//...

}redisClient;

slave_listening_port屬性目前唯一的作用就是在主伺服器執行INFO replication命令時列印出從伺服器的埠號。

步驟6:同步

在這一步,從伺服器將向主伺服器發送PSYNC命令,執行同步操作,並將自己的資料庫更新至主伺服器資料庫當前所處的狀態。

需要注意的是在執行同步操作前,只有從伺服器是主伺服器的客戶端。但是執行從不操作之後,主伺服器也會稱為從伺服器的客戶端:

  • 如果PSYNC命令執行的是完整同步操作,那麼主伺服器只有成為了從伺服器的客戶端才能將保存在緩沖區中的寫命令發送給從伺服器執行;

  • 如果PSYNC命令執行的是部分同步操作,那麼主伺服器只有成為了從伺服器的客戶端才能將保存在復制積壓緩沖區中的寫命令發送給從伺服器執行;

  • 步驟7:命令傳播

    當完成了同步之後,主從伺服器就會進入命令傳播階段,這時主伺服器只要一直將自己執行的寫命令發送給從伺服器,而從伺服器只要一直接收並執行主伺服器發來的寫命令,就可以保證主從伺服器一直保持一致了。

    心跳檢測

    在命令傳播階段,從伺服器默認會以每秒一次的頻率,向主伺服器發送命令:REPLCONF ACK <replication_offset>

    其中replication_offset是從伺服器當前的復制偏移量。

    發送REPLCONF ACK命令對於主從伺服器有三個作用:

  • 檢測主從伺服器的網路連接狀態;

  • 輔助實現min-slaves選項;

  • 檢測命令丟失。

  • 檢測主從伺服器的網路連接狀態

    如果主伺服器超過一秒鍾沒有收到從伺服器發來的REPLCONF ACK命令,那麼主伺服器就知道主從伺服器之間的連接出現問題了。

    通過向主伺服器發送INFO replication命令,在列出的從伺服器列表的lag一欄中,我們可以看到相應從伺服器最後一次向主伺服器發送REPLCONF ACK命令距離現在過了多少秒:

    127.0.0.1:6379>INFOreplication
    #Replication
    role:master
    connected_slaves:2
    slave0:ip=127.0.0.1,port=12345,state=online,offset=211,lag=0

    #剛剛發送過REPLCONFACK命令
    slave1:ip=127.0.0.1,port=56789,state=online,offset=197,lag=15

    #15秒之前發送過REPLCONFACK命令

    master_repl_offset:211
    repl_backlog_active:1
    repl_backlog_size:1048576
    repl_backlog_first_byte_offset:2
    repl_backlog_histlen:210

    在一般情況下,lag的值應該在0秒或者1秒之間跳動,如果超過1秒的話,那麼說明主從伺服器之間的連接出現了故障。

    輔助實現min-slaves配置選項

    Redis的min-slaves-to-write和min-slaves-max-lag兩個選項可以防止主伺服器在不安全的情況下執行寫命令。

    舉個例子,如果我們向主伺服器提供以下設置:

    min-slaves-to-write3
    min-slaves-max-lag10

    那麼在從伺服器的數量少於3個,或者三個從伺服器的延遲(lag)值都大於或等於10秒時,主伺服器將拒絕執行寫命令,這里的延遲值就是上面提到的INFO replication命令的lag值。

    檢測命令丟失

    我們從命令:REPLCONF ACK <replication_offset>就可以知道,每發送一次這個命令從伺服器都會向主伺服器報告一次自己的復制偏移量。那此時盡管主伺服器發送給從伺服器的SET key value丟失了。也無所謂,主伺服器馬上就知道了。

    7. redis怎麼與mysql同步java代碼

    redis應該算是本地緩存,而mysql的話是資料庫,你的意思應該是:怎麼用java代碼同步資料庫中的數據到redis。如果是這種情況的話:目前項目中會用一個定時任務定時去讀取資料庫中的數據,然後放到redis,或者在項目初始化讀取資料庫然後再放到redis

    8. redis 和 mysql 數據同步問題

    結構不同
    先講MySQL,MySQL中一個事務提交之後就永久寫入了,同時將事務的操作寫入日誌。然後,slave從master中請求日誌,復制這個事務的操作(注意不是sql語句)。
    而Redis的主從同步和數據快照有關,Redis定期將內存中數據作快照保存在文件中,mater只要將文件發送給slave更新就可以了。
    MySQL的slave需要請求從從某個事務(就是slave剛完成的那個)開始的所有日誌,而redis不需要,slave只要將收到的快照排隊,一個一個復制到硬碟、內存就行了。

    9. 兩個不同ip,相同地區怎麼保存到redis

    三種方法
    1.第一次同步時,從伺服器向主伺服器發送一次SYNC命令,主伺服器收到之後做一次bgsave、並同時將後續修改操作記錄到內存buffer,待完成後將RDB文件全量同步到復制節點
    2.復制節點接收完成後將RDB鏡像載入到內存中,載入完成後,再通知主節點
    3.後續的增量數據通過AOF日誌同步即可,有點類似資料庫的binlog

    拓展:Redis實現分布式鎖
    隨著互聯網技術的飛速發展,越來越多的單體架構已經轉型成了分布式架構,,分布式架構確實能帶來性能和效率上的提升,但是也會帶來數據一致性的問題。

    分布式鎖,就是解決分布式架構中數據一致性的專用武器,分布式鎖需要滿足一下三個方面方可放心使用:

    排他性:在同一時間只會有一個客戶端能獲取到鎖,其它客戶端無法同時獲取

    避免死鎖:這把鎖在一段有限的時間之後,一定會被釋放(正常釋放或異常釋放)

    高可用:獲取或釋放鎖的機制必須高可用且性能佳

    目前,我所知道的分布式鎖大概有三種主流方式實現,分別是zookpeer,redis,還有本地資料庫,

    10. redis 主從同步是雙向的嗎

    1. 在Slave啟動並連接到Master之後,它將主動發送一條SYNC命令。此後Master將啟動後台存檔進程,同時收集所有接收到的用於修改數據集的命令,在後台進程執行完畢後,Master將傳送整個資料庫文件到Slave,以完成一次完全同步。

    2. 而Slave伺服器在接收到資料庫文件數據之後將其存檔並載入到內存中。

    3. 此後,Master繼續將所有已經收集到的修改命令,和新的修改命令依次傳送給Slaves,Slave將在本次執行這些數據修改命令,從而達到最終的數據同步。

    熱點內容
    雷神g50如何設置安卓原生模式 發布:2024-05-19 16:50:04 瀏覽:120
    c語言小數四捨五入 發布:2024-05-19 16:23:28 瀏覽:525
    資料庫被注入攻擊 發布:2024-05-19 16:21:31 瀏覽:835
    微信忘記密碼從哪裡看 發布:2024-05-19 16:06:37 瀏覽:33
    寶馬x4貸款買哪個配置好 發布:2024-05-19 15:56:03 瀏覽:23
    微控pid演算法 發布:2024-05-19 15:46:31 瀏覽:136
    雲盤視頻解壓密碼 發布:2024-05-19 15:23:17 瀏覽:848
    和平精英怎麼改地區位置安卓 發布:2024-05-19 15:19:05 瀏覽:286
    酒店的路由器如何配置 發布:2024-05-19 15:10:44 瀏覽:502
    rpgmaker腳本 發布:2024-05-19 14:48:58 瀏覽:409