共計 7280 個字符,預計需要花費 19 分鐘才能閱讀完成。
丸趣 TV 小編給大家分享一下 Innodb 檢查點和 redo 寫盤時機,相信大部分人都還不怎么了解,因此分享這篇文章給大家參考一下,希望大家閱讀完這篇文章后大有收獲,下面讓我們一起去了解一下吧!
一、LSN
innodb 的 lsn 和 oracle 的 scn 一樣,是一個重要的概念。是整個數據庫數據同步的一種統一辨別標準,在很多地方都使用到了 LSN 比如
在 flush list 中正是是使用 page 的 oldest lsn 作為鏈表的條件
參考 buf_page_t 類中的 lsn_t oldest_modification; 變量
在 checkpoint 中記錄的也是 lsn
參考宏 LOG_CHECKPOINT_LSN
在物理文件中每個 page 最后的刷新 lsn
參考宏 FIL_PAGE_LSN
在寫日志落盤的時候也是以 lsn 為標準的
參考函數 log_write_up_to
實際上 lsn 就是表示的日志量的字節數,是一個累加的值,在 5.7 中表現為:
/* Type used for all log sequence number storage and arithmetics */ typedef ib_uint64_t lsn_t;
及一個 8 字節非負的整數。最大值及 2 的 64 次方。有了這種物理上概念,lsn 很容易換算為當前日志的偏移量。
二、innodb 中檢查點的理解
這里我只討論正常運行的情況下檢查點。innodb 中類似 oracle 的增量檢查點。正常運行 checkpoint 是由 master 線程觸發。我們知道臟數據通過 page clean 線程和 lru manager 線程是在不斷寫盤的,那么在進行異常重啟的的時候我們必須要知道一個恢復的起點,但是這個起點是不能記錄在內存中必要固化到磁盤,恢復的時候讀取這個點以后的 redo 進行恢復,而 checkpoint 就是完成這個事情下面是 checkpoint 的執行流程。
正常情況下 master 線程會每秒進行檢查點其作用有(參考 log_checkpoint 函數):
檢查是否有自上次檢查點以來的臟數據寫盤了。
如果有則在 redo 里面會為每個修改過的文件寫入 MLOG_FILE_NAME, 完成后寫入一個總 MLOG_CHECKPOINT(參考 fil_names_clear 函數)。
1、MLOG_FILE_NAME 主要記錄至上次檢查點以來更改過的數據文件。
2、MLOG_CHECKPOINT 主要記錄檢查點的 lsn。
這個步驟會遍歷 fil_system- named_spaces 用于查找是否有自上次檢查點以來修改過的文件鏈表。
如果有則在 redo log header 中寫入相應的檢查點信息包含(異步寫)。
實際上我們可以理解檢查點就是由 master 線程每秒醒來查看一下臟數據寫到哪里了,然后將其記錄到合適的位置,以備 carsh recovery 使用。(參考 srv_master_thread 函數)
三、show engine innodb 中的檢查點信息
下面是一個沒有任何更新操作的庫的信息如下:
Log sequence number 697794162
Log flushed up to 697794162
Pages flushed up to 697794162
Last checkpoint at 697794153
Log sequence number:已經寫到 log buffer 中的 lsn。
參考 mtr_t::Command::finish_write 函數。
Log flushed up to:已經寫到日志文件的 redo 的 lsn。
參考 log_write_flush_to_disk_low 函數。
Pages flushed up to:此 lsn 之前的臟數據都已經寫到了數據文件。
參考 log_buf_pool_get_oldest_modification 函數。
Last checkpoint at:最后一次檢查點記錄到了什么位置。
參考 next_checkpoint_lsn 函數。
下面是這段輸出的源碼:
fprintf(file, Log sequence number LSN_PF \n Log flushed up to LSN_PF \n Pages flushed up to LSN_PF \n Last checkpoint at LSN_PF \n ,
log_sys- lsn,
log_sys- flushed_to_disk_lsn,
log_buf_pool_get_oldest_modification(),
log_sys- last_checkpoint_lsn);
一般來講 Log sequence number Log flushed up to Pages flushed up to Last checkpoint at,但是這里注意一下。Pages flushed up to 697794162 和 Last checkpoint at 697794153,顯然這里是一個沒有任何操作的庫所以 Pages flushed up to 應該和 Last checkpoint at 相等,但是這里存在差值,差值為:
697794162-697794153 = 9
這剛好是 MLOG_CHECKPOINT 的長度源碼片段如下:
oldest_lsn = log_sys- last_checkpoint_lsn + SIZE_OF_MLOG_CHECKPOINT /** Size of a MLOG_CHECKPOINT record in bytes.
The record consists of a MLOG_CHECKPOINT byte followed by
mach_write_to_8(checkpoint_lsn). */ #define SIZE_OF_MLOG_CHECKPOINT 9
四、我所 debug 的幾種 redo 寫盤的時機
master 線程每秒調用 棧幀(可能是 idle 可能是 active 和檢測是否需要插入緩存合并有關)
#0 log_group_write_buf (group=0x33f29f8, buf=0x7fffa5b38000 \200\024 , len=512, pad_len=0, start_lsn=697764864, new_data_offset=166) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1145 #1 0x0000000001a50f95 in log_write_up_to (lsn=697765068, flush_to_disk=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1493 #2 0x0000000001a51163 in log_buffer_sync_in_background (flush=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1553 #3 0x0000000001b84bd1 in srv_sync_log_buffer_in_background () at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/srv/srv0srv.cc:2312 #4 0x0000000001b85666 in srv_master_do_idle_tasks () at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/srv/srv0srv.cc:2586 #5 0x0000000001b85b6b in srv_master_thread (arg=0x0) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/srv/srv0srv.cc:2744
master 線程每秒 checkpoint 調用 (可能是 idle 可能是 active 和檢測是否需要插入緩存合并有關)
#0 log_group_write_buf (group=0x33f29f8, buf=0x7fffa5a38000 \200\024\002 , len=1024, pad_len=0, start_lsn=697789952, new_data_offset=139) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1145 #1 0x0000000001a50f95 in log_write_up_to (lsn=697790725, flush_to_disk=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1493 #2 0x0000000001a52247 in log_checkpoint (sync=true, write_always=false) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1934 #3 0x0000000001b856f2 in srv_master_do_idle_tasks () at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/srv/srv0srv.cc:2596 #4 0x0000000001b85b6b in srv_master_thread (arg=0x0) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/srv/srv0srv.cc:2744
page clean 線程調用 棧幀
#0 log_group_write_buf (group=0x33f29f8, buf=0x7fffa5a38000 \200\024\002 , len=13312, pad_len=1024, start_lsn=697778176, new_data_offset=468) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1145 #1 0x0000000001a50f95 in log_write_up_to (lsn=697790015, flush_to_disk=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1493 #2 0x0000000001c704c7 in buf_flush_write_block_low (bpage=0x7fffc0cae940, flush_type=BUF_FLUSH_LIST, sync=false) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/buf/buf0flu.cc:1035 #3 0x0000000001c70cea in buf_flush_page (buf_pool=0x33247d8, bpage=0x7fffc0cae940, flush_type=BUF_FLUSH_LIST, sync=false) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/buf/buf0flu.cc:1237 #4 0x0000000001c717f4 in buf_flush_try_neighbors (page_id=..., flush_type=BUF_FLUSH_LIST, n_flushed=0, n_to_flush=25) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/buf/buf0flu.cc:1466
當前線程 commit 調用棧幀如下:
#0 log_group_write_buf (group=0x33f29f8, buf=0x7fffa5a38000 \200\024\002 , len=2560, pad_len=0, start_lsn=697762816, new_data_offset=230) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1145 #1 0x0000000001a50f95 in log_write_up_to (lsn=697765030, flush_to_disk=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1493 #2 0x0000000001a51087 in log_buffer_flush_to_disk (sync=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/log/log0log.cc:1524 #3 0x00000000019a9157 in innobase_flush_logs (hton=0x2e9fdd0, binlog_group_flush=true) at /root/mysql5.7.14/percona-server-5.7.14-7/storage/innobase/handler/ha_innodb.cc:4407 #4 0x0000000000f65893 in flush_handlerton (thd=0x0, plugin=0x7ffff03588e8, arg=0x7ffff0358944) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/handler.cc:2606 #5 0x00000000015d7716 in plugin_foreach_with_mask (thd=0x0, func=0xf65835 flush_handlerton(THD*, plugin_ref, void*) , type=1, state_mask=4294967287, arg=0x7ffff0358944) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/sql_plugin.cc:2318 #6 0x0000000000f658ef in ha_flush_logs (db_type=0x0, binlog_group_flush=true) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/handler.cc:2617 #7 0x000000000185733d in MYSQL_BIN_LOG::process_flush_stage_queue (this=0x2e02c80, total_bytes_var=0x7ffff0358a88, rotate_var=0x7ffff0358a87, out_queue_var=0x7ffff0358a78) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/binlog.cc:8541 #8 0x000000000185899f in MYSQL_BIN_LOG::ordered_commit (this=0x2e02c80, thd=0x7fff2c000b70, all=false, skip_commit=false) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/binlog.cc:9189 #9 0x000000000185700c in MYSQL_BIN_LOG::commit (this=0x2e02c80, thd=0x7fff2c000b70, all=false) at /root/mysql5.7.14/percona-server-5.7.14-7/sql/binlog.cc:8440 #10 0x0000000000f63df8 in ha_commit_trans (thd=0x7fff2c000b70, all=false, ignore_global_read_lock=false)
innodb shutdown(未 debug)
redo buffer 不足(未 debug)
以上是“Innodb 檢查點和 redo 寫盤時機”這篇文章的所有內容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內容對大家有所幫助,如果還想學習更多知識,歡迎關注丸趣 TV 行業資訊頻道!