共計 5781 個字符,預計需要花費 15 分鐘才能閱讀完成。
本篇文章為大家展示了如何從運維角度來分析 MySQL 數據庫優化的關鍵點,內容簡明扼要并且容易理解,絕對能使你眼前一亮,通過這篇文章的詳細介紹希望你能有所收獲。
概述
一個成熟的數據庫架構并不是一開始設計就具備高可用、高伸縮等特性的,它是隨著用戶量的增加,基礎架構才逐漸完善。
1、數據庫表設計
項目立項后,開發部根據產品部需求開發項目,開發工程師工作其中一部分就是對表結構設計。對于數據庫來說,這點很重要,如果設計不當,會直接影響訪問速度和用戶體驗。影響的因素很多,比如慢查詢、低效的查詢語句、沒有適當建立索引、數據庫堵塞 (死鎖) 等。當然,有測試工程師的團隊,會做壓力測試,找 bug。對于沒有測試工程師的團隊來說,大多數開發工程師初期不會太多考慮數據庫設計是否合理,而是盡快完成功能實現和交付,等項目有一定訪問量后,隱藏的問題就會暴露,這時再去修改就不是這么容易的事了。
2、數據庫部署
該運維工程師出場了,項目初期訪問量不會很大,所以單臺部署足以應對在 1500 左右的 QPS(每秒查詢率)。考慮到高可用性,可采用 MySQL 主從復制 +Keepalived 做雙擊熱備,常見集群軟件有 Keepalived、Heartbeat。
3、數據庫性能優化
如果將 MySQL 部署到普通的 X86 服務器上,在不經過任何優化情況下,MySQL 理論值正常可以處理 2000 左右 QPS,經過優化后,有可能會提升到 2500 左右 QPS,否則,訪問量當達到 1500 左右并發連接時,數據庫處理性能就會變慢,而且硬件資源還很富裕,這時就該考慮軟件問題了。那么怎樣讓數據庫 *** 化發揮性能呢?
一方面可以單臺運行多個 MySQL 實例讓服務器性能發揮到 *** 化,
另一方面是對數據庫進行優化,往往操作系統和數據庫默認配置都比較保守,會對數據庫發揮有一定限制,可對這些配置進行適當的調整,盡可能的處理更多連接數。
具體優化有以下三個層面:
3.1 數據庫配置優化
MySQL 常用有兩種存儲引擎,一個是 MyISAM,不支持事務處理,讀性能處理快,表級別鎖。另一個是 InnoDB,支持事務處理(ACID),設計目標是為處理大容量數據發揮 *** 化性能,行級別鎖。
表鎖:開銷小,鎖定粒度大,發生死鎖概率高,相對并發也低。
行鎖:開銷大,鎖定粒度小,發生死鎖概率低,相對并發也高。
為什么會出現表鎖和行鎖呢? 主要是為了保證數據的完整性,舉個例子,一個用戶在操作一張表,其他用戶也想操作這張表,那么就要等 *** 個用戶操作完,其他用戶才能操作,表鎖和行鎖就是這個作用。否則多個用戶同時操作一張表,肯定會數據產生沖突或者異常。
根據以上看來,使用 InnoDB 存儲引擎是 *** 的選擇,也是 MySQL5.5 以后版本中默認存儲引擎。每個存儲引擎相關聯參數比較多,以下列出主要影響數據庫性能的參數(篇幅有限,這里只拿 innodb 分析)。
InnoDB 參數默認值:
innodb_buffer_pool_size = 128M #索引和數據緩沖區大小,一般設置物理內存的 60%-70% innodb_buffer_pool_instances = 1 #緩沖池實例個數,推薦設置 4 個或 8 個 innodb_flush_log_at_trx_commit = 1 #關鍵參數,0 代表大約每秒寫入到日志并同步到磁盤,數據庫故障會丟失 1 秒左右事務數據。1 為每執行一條 SQL 后寫入到日志并同步到磁盤,I/ O 開銷大,執行完 SQL 要等待日志讀寫,效率低。2 代表只把日志寫入到系統緩存區,再每秒同步到磁盤,效率很高,如果服務器故障,才會丟失事務數據。對數據安全性要求不是很高的推薦設置 2,性能高,修改后效果明顯。 innodb_file_per_table = OFF #默認是共享表空間,共享表空間 idbdata 文件不斷增大,影響一定的 I / O 性能。推薦開啟獨立表空間模式,每個表的索引和數據都存在自己獨立的表空間中,可以實現單表在不同數據庫中移動。 innodb_log_buffer_size = 8M # 日志緩沖區大小,由于日志最長每秒鐘刷新一次,所以一般不用超過 16M
3.2 系統內核優化
大多數 MySQL 都部署在 linux 系統上,所以操作系統的一些參數也會影響到 MySQL 性能,以下對 linux 內核進行適當優化。
net.ipv4.tcp_fin_timeout = 30 #TIME_WAIT 超時時間,默認是 60s net.ipv4.tcp_tw_reuse = 1 #1 表示開啟復用,允許 TIME_WAIT socket 重新用于新的 TCP 連接,0 表示關閉 net.ipv4.tcp_tw_recycle = 1 #1 表示開啟 TIME_WAIT socket 快速回收,0 表示關閉 net.ipv4.tcp_max_tw_buckets = 4096 #系統保持 TIME_WAIT socket*** 數量,如果超出這個數,系統將隨機清除一些 TIME_WAIT 并打印警告信息 net.ipv4.tcp_max_syn_backlog = 4096 # 進入 SYN 隊列 *** 長度,加大隊列長度可容納更多的等待連接
在 linux 系統中,如果進程打開的文件句柄數量超過系統默認值 1024,就會提示“too many files open”信息,所以要調整打開文件句柄限制。
* soft nofile 65535 * hard nofile 65535
# ulimit -SHn 65535 #立刻生效
3.3 硬件配置
加大物理內存,提高文件系統性能。linux 內核會從內存中分配出緩存區 (系統緩存和數據緩存) 來存放熱數據,通過文件系統延遲寫入機制,等滿足條件時 (如緩存區大小到達一定百分比或者執行 sync 命令) 才會同步到磁盤。也就是說物理內存越大,分配緩存區越大,緩存數據越多。當然,服務器故障會丟失一定的緩存數據。
SSD 硬盤代替 SAS 硬盤,將 RAID 級別調整為 RAID1+0,相對于 RAID1 和 RAID5 有更好的讀寫性能(IOPS),畢竟數據庫的壓力主要來自磁盤 I / O 方面。
4、數據庫架構擴展
這里主要思想是分解單臺數據庫負載,突破磁盤 I / O 性能,熱數據存放緩存中,降低磁盤 I / O 訪問頻率。
4.1 主從復制與讀寫分離
因為生產環境中,數據庫大多都是讀操作,所以部署一主多從架構,主數據庫負責寫操作,并做雙擊熱備,多臺從數據庫做負載均衡,負責讀操作,主流的負載均衡器有 LVS、HAProxy、Nginx。
怎么來實現讀寫分離呢? 大多數企業是在代碼層面實現讀寫分離,效率比較高。另一個種方式通過代理程序實現讀寫分離,企業中應用較少,常見代理程序有 MySQL Proxy、Amoeba。在這樣數據庫集群架構中,大大增加數據庫高并發能力,解決單臺性能瓶頸問題。如果從數據庫一臺從庫能處理 2000 QPS,那么 5 臺就能處理 1w QPS(理論上),數據庫橫向擴展性也很容易。
有時,面對大量寫操作的應用時,單臺寫性能達不到業務需求。如果做雙主,就會遇到數據庫數據不一致現象,產生這個原因是在應用程序不同的用戶會有可能操作兩臺數據庫,同時的更新操作造成兩臺數據庫數據庫數據發生沖突或者不一致。在單庫時 MySQL 利用存儲引擎機制表鎖和行鎖來保證數據完整性,怎樣在多臺主庫時解決這個問題呢? 有一套基于 perl 語言開發的主從復制管理工具,叫 MySQL-MMM(Master-Master replication managerfor Mysql,Mysql 主主復制管理器),這個工具 *** 的優點是在同一時間只提供一臺數據庫寫操作,有效保證數據一致性。
4.2 增加緩存
給數據庫增加緩存系統,把熱數據緩存到內存中,如果緩存中有要請求的數據就不再去數據庫中返回結果,提高讀性能。緩存實現有本地緩存和分布式緩存,本地緩存是將數據緩存到本地服務器內存中或者文件中。分布式緩存可以緩存海量數據,擴展性好,主流的分布式緩存系統有 memcached、redis,memcached 性能穩定,數據緩存在內存中,速度很快,QPS 可達 8w 左右。如果想數據持久化就選擇用 redis,性能不低于 memcached。
工作過程:
4.3 分庫
分庫是根據業務不同把相關的表切分到不同的數據庫中,比如 web、bbs、blog 等庫。如果業務量很大,還可將切分后的庫做主從架構,進一步避免單個庫壓力過大。
4.4 分表
數據量的日劇增加,數據庫中某個表有幾百萬條數據,導致查詢和插入耗時太長,怎么能解決單表壓力呢? 你就該考慮是否把這個表拆分成多個小表,來減輕單個表的壓力,提高處理效率,此方式稱為分表。
分表技術比較麻煩,要修改程序代碼里的 SQL 語句,還要手動去創建其他表,也可以用 merge 存儲引擎實現分表,相對簡單許多。分表后,程序是對一個總表進行操作,這個總表不存放數據,只有一些分表的關系,以及更新數據的方式,總表會根據不同的查詢,將壓力分到不同的小表上,因此提高并發能力和磁盤 I / O 性能。
分表分為垂直拆分和水平拆分:
垂直拆分:把原來的一個很多字段的表拆分多個表,解決表的寬度問題。你可以把不常用的字段單獨放到一個表中,也可以把大字段獨立放一個表中,或者把關聯密切的字段放一個表中。
水平拆分:把原來一個表拆分成多個表,每個表的結構都一樣,解決單表數據量大的問題。
4.5 分區
分區就是把一張表的數據根據表結構中的字段 (如 range、list、hash 等) 分成多個區塊,這些區塊可以在一個磁盤上,也可以在不同的磁盤上,分區后,表面上還是一張表,但數據散列在多個位置,這樣一來,多塊硬盤同時處理不同的請求,從而提高磁盤 I / O 讀寫性能,實現比較簡單。
注:增加緩存、分庫、分表和分區主要由程序猿來實現。
5、數據庫監控
數據庫監控維護是運維工程師或者 DBA 主要工作,包括性能監控、性能分析、性能調優、數據庫備份和恢復等。
5.1 性能狀態關鍵指標
QPS,Queries Per Second:每秒查詢數,一臺數據庫每秒能夠處理的查詢次數
TPS,Transactions Per Second:每秒處理事務數
通過 show status 查看運行狀態,會有 300 多條狀態信息記錄,其中有幾個值幫可以我們計算出 QPS 和 TPS
基于 Questions 計算出 QPS:
mysql show global status like Questions mysql show global status like Uptime
基于 Com_commit 和 Com_rollback 計算出 TPS:
mysql show global status like Com_commit mysql show global status like Com_rollback mysql show global status like Uptime
5.2 開啟慢查詢日志
MySQL 開啟慢查詢日志,分析出哪條 SQL 語句比較慢,使用 set 設置變量,重啟服務失效,可以在 my.cnf 添加參數 *** 生效。
mysql set global slow-query-log=on #開啟慢查詢功能 mysql set global slow_query_log_file= /var/log/mysql/mysql-slow.log #指定慢查詢日志文件位置 mysql set global log_queries_not_using_indexes=on; #記錄沒有使用索引的查詢 mysql set global long_query_time=1; #只記錄處理時間 1s 以上的慢查詢
分析慢查詢日志,可以使用 MySQL 自帶的 mysqldumpslow 工具,分析的日志較為簡單。
# mysqldumpslow -t 3 /var/log/mysql/mysql-slow.log # 查看最慢的前三個查詢
5.3 數據庫備份
備份數據庫是最基本的工作,也是最重要的,否則后果很嚴重,你懂得! 但由于數據庫比較大,上百 G,往往備份都很耗費時間,所以就該選擇一個效率高的備份策略,對于數據量大的數據庫,一般都采用增量備份。常用的備份工具有 mysqldump、mysqlhotcopy、xtrabackup 等,mysqldump 比較適用于小的數據庫,因為是邏輯備份,所以備份和恢復耗時都比較長。mysqlhotcopy 和 xtrabackup 是物理備份,備份和恢復速度快,不影響數據庫服務情況下進行熱拷貝,建議使用 xtrabackup,支持增量備份。
5.4 數據庫修復
有時候 MySQL 服務器突然斷電、異常關閉,會導致表損壞,無法讀取表數據。這時就可以用到 MySQL 自帶的兩個工具進行修復,myisamchk 和 mysqlcheck。
myisamchk:只能修復 myisam 表,需要停止數據庫
常用參數:
-f –force 強制修復,覆蓋老的臨時文件,一般不使用
-r –recover 恢復模式
-q –quik 快速恢復
-a –analyze 分析表
-o –safe-recover 老的恢復模式,如果 - r 無法修復,可以使用此參數試試
-F –fast 只檢查沒有正常關閉的表
mysqlcheck:myisam 和 innodb 表都可以用,不需要停止數據庫,如修復單個表,可在數據庫后面添加表名,以空格分割
常用參數:
-a –all-databases 檢查所有的庫
-r –repair 修復表
-c –check 檢查表,默認選項
-a –analyze 分析表
-o –optimize 優化表
-q –quik 最快檢查或修復表
-F –fast 只檢查沒有正常關閉的表
由于關系型數據庫初衷設計限制,一些公司海量數據放到關系型數據庫中,在海量數據查詢和分析方面已經達不到更好的性能。因此 NoSQL 火起來了,非關系型數據庫,大數據量,具有高性能,同時也彌補了關系型數據庫某方面不足,漸漸大多數公司已經將部分業務數據庫存放到 NoSQL 中,如 MongoDB、HBase 等。數據存儲方面采用分布式文件系統,如 HDFS、GFS 等。海量數據計算分析采用 Hadoop、Spark、Storm 等。
上述內容就是如何從運維角度來分析 MySQL 數據庫優化的關鍵點,你們學到知識或技能了嗎?如果還想學到更多技能或者豐富自己的知識儲備,歡迎關注丸趣 TV 行業資訊頻道。