ceph分布式存儲實戰pdf
『壹』 CentOS 7部署 Ceph分布式存儲架構
隨著OpenStack日漸成為開源雲計算的標准軟體棧，Ceph也已經成為OpenStack的首選後端存儲。Ceph是一種為優秀的性能、可靠性和可擴展性而設計的統一的、分布式文件系統。
Ceph是一個開源的分布式文件系統。因為它還支持塊存儲、對象存儲，所以很自然的被用做雲計算框架openstack或cloudstack整個存儲後端。當然也可以單獨作為存儲，例如部署一套集群作為對象存儲、SAN存儲、NAS存儲等。
前三台伺服器增加一塊硬碟/dev/sdb實驗, 創建目錄並掛載到/var/local/osd{1,2,3};
規范系統主機名添加hosts文件實現集群主機名與主機名之間相互能夠解析（host 文件添加主機名不要使用fqdn方式）可用 hostnamectl set-hostname [name] 設置分別打開各節點的 /etc/hosts 文件，加入這四個節點ip與名稱的對應關系:
在管理節點使用ssh-keygen 生成ssh keys 發布到各節點
第一步：增加 yum配置文件(各個節點都需要增加yum源) vim /etc/yum.repos.d/ceph.repo
或阿里的ceph源
復制配置文件到其它節點和客戶端
在ceph1更新軟體源並安裝ceph-deploy 管理工具
配置文件的默認副本數從3改成2，這樣只有兩個osd也能達到 active+clean 狀態，添加行 osd_pool_default_size = 2
(如果網路源安裝失敗，手工安裝epel-release 然後安裝yum –yinstall cep-release再yum –y install ceph ceph-radosgw)
錯誤參考： https://blog.csdn.net/yenai2008/article/details/72457463
添加osd節點 (所有osd節點執行)
我們實驗准備時已經創建目錄/var/local/osd{id}
（用ceph-deploy把配置文件和admin密鑰拷貝到所有節點，這樣每次執行Ceph命令行時就無需指定monitor地址和ceph.client.admin.keyring了）
以上基本上完成了ceph存儲集群的搭建。
其中： <pg_num> = 128 ,
關於創建存儲池
確定 pg_num 取值是強制性的，因為不能自動計算。下面是幾個常用的值：
隨著 OSD 數量的增加，正確的 pg_num 取值變得更加重要，因為它顯著地影響著集群的行為、以及出錯時的數據持久性（即災難性事件導致數據丟失的概率）。
創建好存儲池後，你就可以用 fs new 命令創建文件系統了
ceph fs new <fs_name> cephfs_metadata cephfs_data
其中： <fs_name> = cephfs 可自定義
在這里想起沒在/etc/fstab配置ceph1、ceph2、ceph3的sdb自動掛載。
ceph在開源社區還是比較熱門的，但是更多的是應用於雲計算的後端存儲。所以大多數在生產環境中使用ceph的公司都會有專門的團隊對ceph進行二次開發，ceph的運維難度也比較大。但是經過合理的優化之後，ceph的性能和穩定性都是值得期待的。
清理機器上的ceph相關配置
可以參考內容： http://blog.51cto.com/12270625/1887648
『貳』 誰有《大規模分布式存儲系統：原理解析與架構實戰-楊傳輝》電子書百度網盤資源下載
大規模分布式存儲系統：原理解析與架構實戰-楊傳輝鏈接：https://pan..com/s/1RANVCdsTdhC0FoR_aOJRlw
『叄』 《大規模分布式存儲系統原理解析與架構實戰》epub下載在線閱讀，求百度網盤雲資源
《大規模分布式存儲系統》（楊傳輝）電子書網盤下載免費在線閱讀
鏈接：https://pan..com/s/1CG8nBAVixYg53OHREZc_3g
書名：大規模分布式存儲系統
作者：楊傳輝
豆瓣評分：7.8
出版社：機械工業出版社
出版年份：2013-9-1
頁數：293
內容簡介：
《大規模分布式存儲系統：原理解析與架構實戰》是分布式系統領域的經典著作，由阿里巴巴高級技術專家「阿里日照」（OceanBase核心開發人員）撰寫，陽振坤、章文嵩、楊衛華、汪源、余鋒（褚霸）、賴春波等來自阿里、新浪、網易和網路的資深技術專家聯袂推薦。理論方面，不僅講解了大規模分布式存儲系統的核心技術和基本原理，而且對谷歌、亞馬遜、微軟和阿里巴巴等國際型大互聯網公司的大規模分布式存儲系統進行了分析；實戰方面，首先通過對阿里巴巴的分布式資料庫OceanBase的實現細節的深入剖析完整地展示了大規模分布式存儲系統的架構與設計過程，然後講解了大規模分布式存儲技術在雲計算和大數據領域的實踐與應用。
《大規模分布式存儲系統：原理解析與架構實戰》內容分為四個部分：基礎篇——分布式存儲系統的基礎知識，包含單機存儲系統的知識，如數據模型、事務與並發控制、故障恢復、存儲引擎、壓縮/解壓縮等；分布式系統的數據分布、復制、一致性、容錯、可擴展性等。范型篇——介紹谷歌、亞馬遜、微軟、阿里巴巴等著名互聯網公司的大規模分布式存儲系統架構，涉及分布式文件系統、分布式鍵值系統、分布式表格系統以及分布式資料庫技術等。實踐篇——以阿里巴巴的分布式資料庫OceanBase為例，詳細介紹分布式資料庫內部實現，以及實踐過程中的經驗。專題篇——介紹分布式系統的主要應用：雲存儲和大數據，這些是近年來的熱門領域，本書介紹了雲存儲平台、技術與安全，以及大數據的概念、流式計算、實時分析等。
作者簡介：
楊傳輝，阿里巴巴高級技術專家，花名日照，OceanBase核心開發人員，對分布式系統的理論和工程實踐有深刻理解。曾在網路作為核心成員參與類MapRece系統、類Bigtable系統和網路分布式消息隊列等底層基礎設施架構工作。熱衷於分布式存儲和計算系統設計，樂於分享，有技術博客NosqlNotes。
『肆』 k8s分布式存儲-Ceph
RADOS
Librados
Crush
Pool
PG
Object
Pool、PG和OSD的關系
OSD
塊存儲（ RBD )
文件存儲（ CephFS )
對象存儲（ Object )
關閉防火牆
關閉selinux
關閉 swap
根據規劃設置主機名
添加 hosts
設置文件描述符
時間同步
配置 SSH 免交互認證
1、創建rbd使用的pool
2、指定存儲池使用存儲類型
3、創建一個塊設備
3、查看塊設備
1、禁用當前系統內核不支持的feature
2、映射（任意節點操作）
3、格式化塊設備
4、mount到本地
5、取消塊設備和內核映射
6、刪除RBD塊設備
1、拷貝配置文件和秘鑰
2、安裝 Ceph 客戶端
3、剩餘操作就與本地掛載操作一樣了
1、創建快照
2、列出創建的快照
3、還原快照
4、重新映射並掛載驗證
5、刪除快照
1、創建一個塊設備
2、創建快照
3、設置快照處於被保護狀態
4、通過快照克隆一個新塊設備
5、將克隆的快照獨立於父設備
掛載本地目錄
fuse方式掛載
**全部統一命名空間到 ceph-csi **
k8s節點安裝 Ceph 客戶端
csi-config-map.yaml
storageclass
secret
啟動驗證
rbd-pod-test.yaml
測試
**全部統一命名空間到 ceph-csi **
k8s節點安裝 Ceph 客戶端
csi-config-map
storageclass
secret
啟動驗證
ceph-cephfs-test
測試
『伍』 如何基於Ceph構建高性能塊存儲服務
Ceph是一個分布式存儲系統，支持對象文件快介面，設計目標是:
• 所有組件橫向擴展
• 沒有單點故障
• 可以在普通廠商硬體使用
• 所有機制都能自我管理
• 開源
分布式存儲的應用場景相對於其存儲介面，現在流行分為三種:
1.對象存儲: 也就是通常意義的鍵值存儲，其介面就是簡單的GET,PUT，DEL和其他擴展，如七牛、又拍，Swift，S3等。
2.塊存儲: 這種介面通常以QEMUDriver或者KernelMole的方式存在，這種介面需要實現Linux的Block Device的介面或者QEMU提供的Block Driver介面，如Sheepdog，AWS的EBS，青雲的雲硬碟和阿里雲的盤古系統，還有Ceph的RDB(RDB是Ceph面向塊存儲的介面)。
3、文件存儲: 通常意義是支持POSIX介面，它跟傳統的文件系統如Ext4是一個類型的，但區別在於分布式存儲提供了並行化的能力，如Ceph的CephFS(CephFS是Ceph面向文件存儲的介面)，但是有時候又會把GFS，HDFS這種非POSIX介面的類文件存儲介面歸入此類。
提到存儲的種類就不得不提到另外一個話題：存儲不能做統一化嗎？因為必須要有多個不同的軟體棧去管理不同的存儲設備：SSD，SATA等。
Ceph就此提出了不同觀點，RADOS提供了基礎的存儲設備的管理、數據控制流訪問的管理，提供的是一個可靠持久的數據存儲平台，基於其上，我們可以實現多個不同的介面戶來實現面向不同需求的對接，比如對象存儲我們有一個單獨的庫實現去滿足不同的存儲需要，比如我們塊存儲是通過RDP來實現。
統一存儲並不意味著所有存儲都的同一個介面，同一個實現，同一個軟體棧，它其實只是使用了同一個設備管理的生命周期和數據訪問的有效控制，它提供了一個相對合理，非常適合運維的，利於成本，利於軟體可靠性控制的的機制去保證我們的存儲的可靠。
舉一個例子，大部分存儲廠商甚至網路廠商都有一個自己的核心軟體棧，如文件系內核。基於其上演化出各種不同的產品線。如果廠商要追求各個產品線的極致是不是就應該每個產品完全獨立來追求極致，但事實上一個核心的底層技術棧需要高質量的代碼、完備的測試和長期的使用。在Ceph這里，一個分布式系統的並發IO、分布式恢復、數據端到端校驗等等關鍵實現是唯一實現，成熟的系統系統在這些實現上需要經過一定量級和時間的考驗，這才是Ceph所謂的統一存儲，而不是其他的介面堆疊式開發。
【Ceph和其他開源分布式存儲、其他商用存儲的區別之處在哪？】
眾所周知，很多傳統廠商如日立、富士通等存儲大廠也採用了Ceph作為它們存儲硬體的載體，Ceph能提供企業級的存儲服務一定有它的優勢，才能讓傳統的存儲廠商棄而採用開源的存儲方案。
1、中心化系統我們認為它在數據控制系統方面做的較好，在遷移運維方面提供較好的實現，但卻有元數據的瓶頸。在訪問數據時需要經過元數據伺服器的查詢再去尋找相應的數據伺服器會在大規模擴展時遇到性能瓶頸問題。
2、全分布式系統雖然提供較好的數據訪問能力，能高效處理客戶端的LO請求，但是卻沒有提供一個非常好的數據控制的實現，比如故障處理能力不足，數據恢復的困難，如果跳出中心化的元數據存儲系統它沒辦法做到強一致性的數據恢復。
彈性的數據分布策略和物理拓撲輸入實現了高可用性和高持久性，Ceph的高性能重構還體現在利用CRush演算法對數進行約束，避免數據分布到所有的集群的一個節點上，利用Ceph設計並提供的一個由CRush演算法來支持一個高自由化的存儲集群的設計，實現高可靠性，高持久性，高性能。
『陸』 求 分布式對象存儲 原理 架構及Go語言實現 pdf
分布式存儲架構由三個部分組成：客戶端、元數據伺服器和數據伺服器。客戶端負責發送讀寫請求，緩存文件元數據和文件數據。元數據伺服器負責管理元數據和處理客戶端的請求，是整個系統的核心組件。數據伺服器負責存放文件數據，保證數據的可用性和完整性。該架構的好處是性能和容量能夠同時拓展，系統規模具有很強的伸縮性。
對象存儲最常用的方案，就是多台伺服器內置大容量硬碟，再裝上對象存儲軟體，然後再額外搞幾台服務作為管理節點，安裝上對象存儲管理軟體。管理節點可以管理其他伺服器對外提供讀寫訪問功能。
之所以出現了對象存儲這種東西，是為了克服塊存儲與文件存儲各自的缺點，發揚它倆各自的優點。簡單來說塊存儲讀寫快，不利於共享，文件存儲讀寫慢，利於共享。能否弄一個讀寫快，利 於共享的出來呢。於是就有了對象存儲。