共計(jì) 5266 個(gè)字符，預(yù)計(jì)需要花費(fèi) 14 分鐘才能閱讀完成。

這篇文章主要介紹了 IP 改變引起的 Ceph monitor 異常及 OSD 盤崩潰怎么辦，具有一定借鑒價(jià)值，感興趣的朋友可以參考下，希望大家閱讀完這篇文章之后大有收獲，下面讓丸趣 TV 小編帶著大家一起了解一下。

公司搬家，所有服務(wù)器的 ip 改變。對(duì) ceph 服務(wù)器配置好 ip 后啟動(dòng)，發(fā)現(xiàn) monitor 進(jìn)程啟動(dòng)失敗，monitor 進(jìn)程總是試圖綁定到以前的 ip 地址，那當(dāng)然不可能成功了。開始以為服務(wù)器的 ip 設(shè)置有問題，在改變 hostname、ceph.conf 等方法無果后，逐步分析發(fā)現(xiàn)，是 monmap 中的 ip 地址還是以前的 ip，ceph 通過讀取 monmap 來啟動(dòng) monitor 進(jìn)程，所以需要修改 monmap。方法如下：

#Add the new monitor locations # monmaptool --create --add mon0 192.168.32.2:6789 --add osd1 192.168.32.3:6789 \ --add osd2 192.168.32.4:6789 --fsid 61a520db-317b-41f1-9752-30cedc5ffb9a \ --clobber monmap #Retrieve the monitor map # ceph mon getmap -o monmap.bin #Check new contents # monmaptool --print monmap.bin #Inject the monmap # ceph-mon -i mon0 --inject-monmap monmap.bin # ceph-mon -i osd1 --inject-monmap monmap.bin # ceph-mon -i osd2 --inject-monmap monmap.bin

再啟動(dòng) monitor，一切正常。

但出現(xiàn)了上一篇文章中描述的一塊 osd 盤掛掉的情況。查了一圈，只搜到 ceph 的官網(wǎng)上說是 ceph 的一個(gè) bug。無力修復(fù)，于是刪掉這塊 osd，再重裝：

# service ceph stop osd.4 #不必執(zhí)行 ceph osd crush remove osd.4 # ceph auth del osd.4 # ceph osd rm 4 # umount /cephmp1 # mkfs.xfs -f /dev/sdc # mount /dev/sdc /cephmp1 # 此處執(zhí)行 create 無法正常安裝 osd # ceph-deploy osd prepare osd2:/cephmp1:/dev/sdf1 # ceph-deploy osd activate osd2:/cephmp1:/dev/sdf1

完成后重啟該 osd，成功運(yùn)行。ceph 會(huì)自動(dòng)平衡數(shù)據(jù)，*** 的狀態(tài)是：

[root@osd2 ~]# ceph -s cluster 61a520db-317b-41f1-9752-30cedc5ffb9a health HEALTH_WARN 9 pgs incomplete; 9 pgs stuck inactive; 9 pgs stuck unclean; 3 requests are blocked   32 sec monmap e3: 3 mons at {mon0=192.168.32.2:6789/0,osd1=192.168.32.3:6789/0,osd2=192.168.32.4:6789/0}, election epoch 76, quorum 0,1,2 mon0,osd1,osd2 osdmap e689: 6 osds: 6 up, 6 in pgmap v189608: 704 pgs, 5 pools, 34983 MB data, 8966 objects 69349 MB used, 11104 GB / 11172 GB avail 695 active+clean 9 incomplete

出現(xiàn)了 9 個(gè) pg 的 incomplete 狀態(tài)。

[root@osd2 ~]# ceph health detail HEALTH_WARN 9 pgs incomplete; 9 pgs stuck inactive; 9 pgs stuck unclean; 3 requests are blocked   32 sec; 1 osds have slow requests pg 5.95 is stuck inactive for 838842.634721, current state incomplete, last acting [1,4] pg 5.66 is stuck inactive since forever, current state incomplete, last acting [4,0] pg 5.de is stuck inactive for 808270.105968, current state incomplete, last acting [0,4] pg 5.f5 is stuck inactive for 496137.708887, current state incomplete, last acting [0,4] pg 5.11 is stuck inactive since forever, current state incomplete, last acting [4,1] pg 5.30 is stuck inactive for 507062.828403, current state incomplete, last acting [0,4] pg 5.bc is stuck inactive since forever, current state incomplete, last acting [4,1] pg 5.a7 is stuck inactive for 499713.993372, current state incomplete, last acting [1,4] pg 5.22 is stuck inactive for 496125.831204, current state incomplete, last acting [0,4] pg 5.95 is stuck unclean for 838842.634796, current state incomplete, last acting [1,4] pg 5.66 is stuck unclean since forever, current state incomplete, last acting [4,0] pg 5.de is stuck unclean for 808270.106039, current state incomplete, last acting [0,4] pg 5.f5 is stuck unclean for 496137.708958, current state incomplete, last acting [0,4] pg 5.11 is stuck unclean since forever, current state incomplete, last acting [4,1] pg 5.30 is stuck unclean for 507062.828475, current state incomplete, last acting [0,4] pg 5.bc is stuck unclean since forever, current state incomplete, last acting [4,1] pg 5.a7 is stuck unclean for 499713.993443, current state incomplete, last acting [1,4] pg 5.22 is stuck unclean for 496125.831274, current state incomplete, last acting [0,4] pg 5.de is incomplete, acting [0,4] pg 5.bc is incomplete, acting [4,1] pg 5.a7 is incomplete, acting [1,4] pg 5.95 is incomplete, acting [1,4] pg 5.66 is incomplete, acting [4,0] pg 5.30 is incomplete, acting [0,4] pg 5.22 is incomplete, acting [0,4] pg 5.11 is incomplete, acting [4,1] pg 5.f5 is incomplete, acting [0,4] 2 ops are blocked   8388.61 sec 1 ops are blocked   4194.3 sec 2 ops are blocked   8388.61 sec on osd.0 1 ops are blocked   4194.3 sec on osd.0 1 osds have slow requests

查了一圈無果。一個(gè)有同樣遭遇的人的一段話：

I already tried  ceph pg repair 4.77 , stop/start OSDs,  ceph osd lost ,  ceph pg force_create_pg 4.77 . Most scary thing is  force_create_pg  does not work. At least it should be a way to wipe out a incomplete PG without destroying a whole pool.

以上方法嘗試了一下，都不行。暫時(shí)無法解決，感覺有點(diǎn)坑。

PS：常用 pg 操作

[root@osd2 ~]# ceph pg map 5.de osdmap e689 pg 5.de (5.de) -  up [0,4] acting [0,4] [root@osd2 ~]# ceph pg 5.de query [root@osd2 ~]# ceph pg scrub 5.de instructing pg 5.de on osd.0 to scrub [root@osd2 ~]# ceph pg 5.de mark_unfound_lost revert pg has no unfound objects #ceph pg dump_stuck stale #ceph pg dump_stuck inactive #ceph pg dump_stuck unclean [root@osd2 ~]# ceph osd lost 1 Error EPERM: are you SURE? this might mean real, permanent data loss. pass --yes-i-really-mean-it if you really do. [root@osd2 ~]# [root@osd2 ~]# ceph osd lost 4 --yes-i-really-mean-it osd.4 is not down or doesn t exist [root@osd2 ~]# service ceph stop osd.4 === osd.4 === Stopping Ceph osd.4 on osd2...kill 22287...kill 22287...done [root@osd2 ~]# ceph osd lost 4 --yes-i-really-mean-it marked osd lost in epoch 690 [root@osd1 mnt]# ceph pg repair 5.de instructing pg 5.de on osd.0 to repair [root@osd1 mnt]# ceph pg repair 5.de instructing pg 5.de on osd.0 to repair

感謝你能夠認(rèn)真閱讀完這篇文章，希望丸趣 TV 小編分享的“IP 改變引起的 Ceph monitor 異常及 OSD 盤崩潰怎么辦”這篇文章對(duì)大家有幫助，同時(shí)也希望大家多多支持丸趣 TV，關(guān)注丸趣 TV 行業(yè)資訊頻道，更多相關(guān)知識(shí)等著你來學(xué)習(xí)!