閔行區(qū)數(shù)據(jù)存儲(chǔ)服務(wù)方案

來(lái)源: 發(fā)布時(shí)間:2021-12-04

分布式存儲(chǔ)要點(diǎn):部署方式:分布式存儲(chǔ)當(dāng)前對(duì)硬件CPU處理能力要求不是很高,但是對(duì)硬盤和網(wǎng)絡(luò)的能力要求相對(duì)較高,其關(guān)鍵本質(zhì)是提升IO讀寫能力而非計(jì)算能力。分布式存儲(chǔ)在部署上,主要面臨如下重要問題:硬件選型、組網(wǎng)架構(gòu)和解耦。硬件選型:分布式存儲(chǔ)主要基于通用服務(wù)器部署,對(duì)于CPU而言沒有太大特殊性能要求,但是對(duì)于硬盤則由較高要求。一般地,按照硬盤本身特性,SAS和SATA的機(jī)械類硬盤,更多滿足大容量的場(chǎng)景;而SSD硬盤則便于滿足高性能的場(chǎng)景。此外考慮容量和性能的均衡性,采用HDD+SSD的混合配置。容錯(cuò)是分布式存儲(chǔ)系統(tǒng)涉及的重要目標(biāo),只有實(shí)現(xiàn)了自動(dòng)化容錯(cuò),才能減少人工運(yùn)維成本。閔行區(qū)數(shù)據(jù)存儲(chǔ)服務(wù)方案

分布式存儲(chǔ)系統(tǒng)結(jié)構(gòu)中包含一個(gè)機(jī)頭,這個(gè)是存儲(chǔ)系統(tǒng)中較為關(guān)鍵的部件。通常在機(jī)頭中有包含兩個(gè)控制器,互為備用,避免硬件故障導(dǎo)致整個(gè)存儲(chǔ)系統(tǒng)的不可用。機(jī)頭中通常包含前端端口和后端端口,前端端口用戶為服務(wù)器提供存儲(chǔ)服務(wù),而后端端口用于擴(kuò)充存儲(chǔ)系統(tǒng)的容量。通過后端端口機(jī)頭可以連接更多的存儲(chǔ)設(shè)備,從而形成一個(gè)非常大的存儲(chǔ)資源池。在整個(gè)結(jié)構(gòu)中,機(jī)頭中是整個(gè)存儲(chǔ)系統(tǒng)的關(guān)鍵部件,整個(gè)存儲(chǔ)系統(tǒng)的高級(jí)功能都在其中實(shí)現(xiàn)。控制器中的軟件實(shí)現(xiàn)對(duì)磁盤的管理,將磁盤抽象化為存儲(chǔ)資源池,然后劃分為L(zhǎng)UN提供給服務(wù)器使用。這里的LUN其實(shí)就是在服務(wù)器上看到的磁盤。當(dāng)然,一些集中式存儲(chǔ)本身也是文件服務(wù)器,可以提供共享文件服務(wù)。閔行區(qū)數(shù)據(jù)存儲(chǔ)服務(wù)方案分布式存儲(chǔ)有著豐富的個(gè)人存儲(chǔ)資源、用戶內(nèi)容貢獻(xiàn)價(jià)值和市場(chǎng)交換上擁有巨大的潛力。

分布式存儲(chǔ)系統(tǒng)是將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)單獨(dú)的設(shè)備上,并且能夠橫向擴(kuò)展,利用多臺(tái)存儲(chǔ)設(shè)備分擔(dān)存儲(chǔ)負(fù)荷,利用元數(shù)據(jù)服務(wù)器定位存儲(chǔ)信息,它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展。同時(shí),可以將這些分散的存儲(chǔ)設(shè)備構(gòu)建成一個(gè)虛擬的大存儲(chǔ)池,供上層應(yīng)用來(lái)使用。市場(chǎng)上諸多集群存儲(chǔ)、并行存儲(chǔ),云存儲(chǔ)等,其實(shí)都是基于分布式的架構(gòu),只是廠商不同叫法不同。較近幾年,這種分布式架構(gòu)的存儲(chǔ)系統(tǒng)正在逐步替代傳統(tǒng)的存儲(chǔ)架構(gòu),尤其是在非結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)領(lǐng)域發(fā)展非常迅猛。

分布式存儲(chǔ)又稱去中心化存儲(chǔ),要理解它,首先我們需要了解中心化存儲(chǔ)。中心化存儲(chǔ),從概念上可以看出來(lái)是具有集中性的,也就是整個(gè)存儲(chǔ)是集中在一個(gè)系統(tǒng)中的,但集中式存儲(chǔ)并不是一個(gè)單獨(dú)的設(shè)備,是集中在一套系統(tǒng)當(dāng)中的多個(gè)設(shè)備。這個(gè)存儲(chǔ)設(shè)備雖然可以縱向擴(kuò)展,但還是共享同一個(gè)機(jī)頭,設(shè)備本身會(huì)成為系統(tǒng)性能的瓶頸,同時(shí)也是系統(tǒng)可靠性和安全性的焦點(diǎn),無(wú)法滿足大規(guī)模存儲(chǔ)應(yīng)用的需要。在這個(gè)存儲(chǔ)系統(tǒng)中包含很多組件,除了關(guān)鍵的機(jī)頭(控制器)、磁盤陣列(JBOD)和交換機(jī)等設(shè)備外,還有管理設(shè)備等輔助設(shè)備。存儲(chǔ)層級(jí)內(nèi)的優(yōu)化技術(shù):構(gòu)建存儲(chǔ)系統(tǒng)時(shí),需要基于成本和性能來(lái)考慮。

分布式存儲(chǔ)系統(tǒng)的特點(diǎn):(1)大容量,系統(tǒng)的節(jié)點(diǎn)可采用通用的X86架構(gòu)存儲(chǔ)服務(wù)器作為構(gòu)建單元,可根據(jù)用戶需要橫向無(wú)限擴(kuò)展存儲(chǔ)節(jié)點(diǎn),并且形成一個(gè)統(tǒng)一的共享存儲(chǔ)池;(2)高性能,相比傳統(tǒng)存儲(chǔ)而言提供高出數(shù)倍的聚合IOPS和吞吐量,另外可以隨著存儲(chǔ)節(jié)點(diǎn)的擴(kuò)容而線性的增長(zhǎng),專門的元數(shù)據(jù)模塊可以提供非??焖贉?zhǔn)確的數(shù)據(jù)檢索和定位,滿足前端業(yè)務(wù)快速響應(yīng)的需求;(3)高可靠,整個(gè)系統(tǒng)無(wú)任何的單點(diǎn)故障,數(shù)據(jù)安全和業(yè)務(wù)連續(xù)性得到保障。每個(gè)節(jié)點(diǎn)可看成是一塊硬盤,節(jié)點(diǎn)設(shè)備之間有專門的數(shù)據(jù)保護(hù)策略,可實(shí)現(xiàn)系統(tǒng)的設(shè)備級(jí)冗余,并且可在線更換損壞的硬盤或者節(jié)點(diǎn)設(shè)備。傳統(tǒng)數(shù)據(jù)存儲(chǔ)模型需要支持盡可能多的應(yīng)用,因此需要具備較好的通用性。福建搭建存儲(chǔ)服務(wù)軟件

構(gòu)建高效合理的存儲(chǔ)層次結(jié)構(gòu),可以在保證系統(tǒng)性能的前提下,降低系統(tǒng)能耗和構(gòu)建成本。閔行區(qū)數(shù)據(jù)存儲(chǔ)服務(wù)方案

分布式存儲(chǔ)系統(tǒng)彈性擴(kuò)展技術(shù):在大數(shù)據(jù)環(huán)境下,數(shù)據(jù)規(guī)模和復(fù)雜度的增加往往非常迅速,對(duì)系統(tǒng)的擴(kuò)展性能要求較高。實(shí)現(xiàn)存儲(chǔ)系統(tǒng)的高可擴(kuò)展性首先要解決兩個(gè)方面的重要問題,包含元數(shù)據(jù)的分配和數(shù)據(jù)的透明遷移。元數(shù)據(jù)的分配主要通過靜態(tài)子樹劃分技術(shù)實(shí)現(xiàn),后者則側(cè)重?cái)?shù)據(jù)遷移算法的優(yōu)化。此外,大數(shù)據(jù)存儲(chǔ)體系規(guī)模龐大.結(jié)點(diǎn)失效率高,因此還需要完成一定的自適應(yīng)管理功能。系統(tǒng)必須能夠根據(jù)數(shù)據(jù)量和計(jì)算的工作量估算所需要的結(jié)點(diǎn)個(gè)數(shù),并動(dòng)態(tài)地將數(shù)據(jù)在結(jié)點(diǎn)間遷移。以實(shí)現(xiàn)負(fù)載均衡;同時(shí).結(jié)點(diǎn)失效時(shí),數(shù)據(jù)必須可以通過副本等機(jī)制進(jìn)行恢復(fù),不能對(duì)上層應(yīng)用產(chǎn)生影響。閔行區(qū)數(shù)據(jù)存儲(chǔ)服務(wù)方案

上海環(huán)秀技術(shù)服務(wù)中心致力于數(shù)碼、電腦,是一家貿(mào)易型的公司。公司自成立以來(lái),以質(zhì)量為發(fā)展,讓匠心彌散在每個(gè)細(xì)節(jié),公司旗下網(wǎng)絡(luò)科技,電子科技,信息科技領(lǐng)域內(nèi)的技術(shù)開發(fā),計(jì)算機(jī)軟件開發(fā)深受客戶的喜愛。公司從事數(shù)碼、電腦多年,有著創(chuàng)新的設(shè)計(jì)、強(qiáng)大的技術(shù),還有一批**的專業(yè)化的隊(duì)伍,確保為客戶提供良好的產(chǎn)品及服務(wù)。環(huán)秀立足于全國(guó)市場(chǎng),依托強(qiáng)大的研發(fā)實(shí)力,融合前沿的技術(shù)理念,飛快響應(yīng)客戶的變化需求。