分布式存儲(chǔ)系統(tǒng)一般是由多個(gè)服務(wù)器、網(wǎng)絡(luò)設(shè)備和很多存儲(chǔ)介質(zhì)組成。即使在手動(dòng)部署測(cè)試環(huán)境的時(shí)候,所涉及的系統(tǒng)架構(gòu)也會(huì)是比較復(fù)雜的,包括:硬件多樣性。在測(cè)試前,需要根據(jù)不同的測(cè)試類型采用不同的硬件設(shè)備。譬如硬盤(pán)的規(guī)格(SATA盤(pán)還是SSD盤(pán)),內(nèi)存規(guī)格,以及不同的網(wǎng)絡(luò)類型(TCP/IP,F(xiàn)C,RDMA)等;網(wǎng)絡(luò)要求。分布式系統(tǒng)的特點(diǎn)決定了測(cè)試環(huán)境可能運(yùn)行在多個(gè)服務(wù)器、多個(gè)機(jī)架,甚至是多個(gè)數(shù)據(jù)中心上。在測(cè)試前,需要模擬構(gòu)建出所需要的網(wǎng)絡(luò)帶寬和時(shí)延要求;配置復(fù)雜性。由于設(shè)計(jì)的軟硬件平臺(tái)非常多,整個(gè)系統(tǒng)的可配置參數(shù)就非常多,整個(gè)配置過(guò)程耗時(shí)長(zhǎng)且容易出錯(cuò)。分布式存儲(chǔ)系統(tǒng),是將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)單獨(dú)的設(shè)備上。塔城存儲(chǔ)服務(wù)優(yōu)缺點(diǎn)
分布式存儲(chǔ)系統(tǒng)結(jié)構(gòu)中包含一個(gè)機(jī)頭,這個(gè)是存儲(chǔ)系統(tǒng)中較為關(guān)鍵的部件。通常在機(jī)頭中有包含兩個(gè)控制器,互為備用,避免硬件故障導(dǎo)致整個(gè)存儲(chǔ)系統(tǒng)的不可用。機(jī)頭中通常包含前端端口和后端端口,前端端口用戶為服務(wù)器提供存儲(chǔ)服務(wù),而后端端口用于擴(kuò)充存儲(chǔ)系統(tǒng)的容量。通過(guò)后端端口機(jī)頭可以連接更多的存儲(chǔ)設(shè)備,從而形成一個(gè)非常大的存儲(chǔ)資源池。在整個(gè)結(jié)構(gòu)中,機(jī)頭中是整個(gè)存儲(chǔ)系統(tǒng)的關(guān)鍵部件,整個(gè)存儲(chǔ)系統(tǒng)的高級(jí)功能都在其中實(shí)現(xiàn)。控制器中的軟件實(shí)現(xiàn)對(duì)磁盤(pán)的管理,將磁盤(pán)抽象化為存儲(chǔ)資源池,然后劃分為L(zhǎng)UN提供給服務(wù)器使用。這里的LUN其實(shí)就是在服務(wù)器上看到的磁盤(pán)。當(dāng)然,一些集中式存儲(chǔ)本身也是文件服務(wù)器,可以提供共享文件服務(wù)。塔城存儲(chǔ)服務(wù)優(yōu)缺點(diǎn)容錯(cuò)是分布式存儲(chǔ)系統(tǒng)涉及的重要目標(biāo),只有實(shí)現(xiàn)了自動(dòng)化容錯(cuò),才能減少人工運(yùn)維成本。
分布式存儲(chǔ)系統(tǒng)彈性擴(kuò)展技術(shù):在大數(shù)據(jù)環(huán)境下,數(shù)據(jù)規(guī)模和復(fù)雜度的增加往往非常迅速,對(duì)系統(tǒng)的擴(kuò)展性能要求較高。實(shí)現(xiàn)存儲(chǔ)系統(tǒng)的高可擴(kuò)展性首先要解決兩個(gè)方面的重要問(wèn)題,包含元數(shù)據(jù)的分配和數(shù)據(jù)的透明遷移。元數(shù)據(jù)的分配主要通過(guò)靜態(tài)子樹(shù)劃分技術(shù)實(shí)現(xiàn),后者則側(cè)重?cái)?shù)據(jù)遷移算法的優(yōu)化。此外,大數(shù)據(jù)存儲(chǔ)體系規(guī)模龐大.結(jié)點(diǎn)失效率高,因此還需要完成一定的自適應(yīng)管理功能。系統(tǒng)必須能夠根據(jù)數(shù)據(jù)量和計(jì)算的工作量估算所需要的結(jié)點(diǎn)個(gè)數(shù),并動(dòng)態(tài)地將數(shù)據(jù)在結(jié)點(diǎn)間遷移。以實(shí)現(xiàn)負(fù)載均衡;同時(shí).結(jié)點(diǎn)失效時(shí),數(shù)據(jù)必須可以通過(guò)副本等機(jī)制進(jìn)行恢復(fù),不能對(duì)上層應(yīng)用產(chǎn)生影響。
分布式存儲(chǔ)系統(tǒng)是將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)單獨(dú)的設(shè)備上,并且能夠橫向擴(kuò)展,利用多臺(tái)存儲(chǔ)設(shè)備分擔(dān)存儲(chǔ)負(fù)荷,利用元數(shù)據(jù)服務(wù)器定位存儲(chǔ)信息,它不但提高了系統(tǒng)的可靠性、可用性和存取效率,還易于擴(kuò)展。同時(shí),可以將這些分散的存儲(chǔ)設(shè)備構(gòu)建成一個(gè)虛擬的大存儲(chǔ)池,供上層應(yīng)用來(lái)使用。市場(chǎng)上諸多集群存儲(chǔ)、并行存儲(chǔ),云存儲(chǔ)等,其實(shí)都是基于分布式的架構(gòu),只是廠商不同叫法不同。較近幾年,這種分布式架構(gòu)的存儲(chǔ)系統(tǒng)正在逐步替代傳統(tǒng)的存儲(chǔ)架構(gòu),尤其是在非結(jié)構(gòu)化數(shù)據(jù)的存儲(chǔ)領(lǐng)域發(fā)展非常迅猛。分布式網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)采用可擴(kuò)展的系統(tǒng)結(jié)構(gòu),利用多臺(tái)存儲(chǔ)服務(wù)器分擔(dān)存儲(chǔ)負(fù)荷。
“大數(shù)據(jù)”通常指的是那些數(shù)量巨大、難于收集、處理、分析的數(shù)據(jù)集,亦指那些在傳統(tǒng)基礎(chǔ)設(shè)施中長(zhǎng)期保存的數(shù)據(jù)。大數(shù)據(jù)存儲(chǔ)是將這些數(shù)據(jù)集持久化到計(jì)算機(jī)中。大數(shù)據(jù)存儲(chǔ)和傳統(tǒng)的數(shù)據(jù)存儲(chǔ)的不同:大數(shù)據(jù)應(yīng)用的一個(gè)主要特點(diǎn)是實(shí)時(shí)性或者近實(shí)時(shí)性。類似的,一個(gè)金融類的應(yīng)用,能為業(yè)務(wù)員從數(shù)量巨大種類繁多的數(shù)據(jù)里快速挖掘出相關(guān)信息,能幫助他們先于競(jìng)爭(zhēng)對(duì)手做出交易的決定。數(shù)據(jù)通常以每年增長(zhǎng)50%的速度快速激增,尤其是非結(jié)構(gòu)化數(shù)據(jù)。隨著科技的進(jìn)步,有越來(lái)越多的傳感器采集數(shù)據(jù)、移動(dòng)設(shè)備、社交多媒體等等,所以數(shù)據(jù)只可能繼續(xù)增長(zhǎng)??偠灾?,大數(shù)據(jù)需要非常高性能、高吞吐率、大容量的基礎(chǔ)設(shè)備。大部分系統(tǒng)為單層結(jié)構(gòu),在系統(tǒng)中對(duì)每個(gè)數(shù)據(jù)分票維護(hù)多個(gè)副本。塔城存儲(chǔ)服務(wù)優(yōu)缺點(diǎn)
分布式存儲(chǔ)文件系統(tǒng)能促進(jìn)更多互聯(lián)網(wǎng)應(yīng)用的誕生,是一種變革型的行為而不是互聯(lián)網(wǎng)的技術(shù)迭代。塔城存儲(chǔ)服務(wù)優(yōu)缺點(diǎn)
分布式塊存儲(chǔ):塊存儲(chǔ)在SAN和分布式存儲(chǔ)中是邏輯概念,一個(gè)共享的硬件基礎(chǔ)設(shè)施上的抽象邏輯設(shè)備,其創(chuàng)建和存在于服務(wù)器、虛擬服務(wù)器、或運(yùn)行在基于像SCSI、SATA、SAS、FCP、FCoE、或iSCSI這樣的協(xié)議的系統(tǒng)管理程序上。硬盤(pán)在進(jìn)行RAID劃分后,組成邏輯卷或卷組就可以分配給上層使用了。優(yōu)點(diǎn):1)有相關(guān)數(shù)據(jù)保護(hù)手段;2)性能較高,有多個(gè)物理盤(pán)組成一個(gè)邏輯卷,可以并行讀寫(xiě)。分布式對(duì)象存儲(chǔ):對(duì)象存儲(chǔ)作為讀寫(xiě)快、便于共享的特點(diǎn),其盡量避免塊存儲(chǔ)讀寫(xiě)快但不利于共享的問(wèn)題以及文件存儲(chǔ)利于共享但讀寫(xiě)性能不足的問(wèn)題。通過(guò)集中或分散的元數(shù)據(jù),可以實(shí)現(xiàn)對(duì)數(shù)據(jù)的并發(fā)訪問(wèn);此外,由于對(duì)外提供統(tǒng)一的訪問(wèn)API,也便于對(duì)象進(jìn)行數(shù)據(jù)共享。對(duì)象存儲(chǔ)的優(yōu)勢(shì)場(chǎng)景卻是互聯(lián)網(wǎng)或者公網(wǎng),主要解決海量數(shù)據(jù),海量并發(fā)訪問(wèn)的需求,此外,移動(dòng)互聯(lián)網(wǎng)下跨平臺(tái)隨時(shí)存取的需求,使用對(duì)象存儲(chǔ)十分方便的API就可以隨時(shí)存取。塔城存儲(chǔ)服務(wù)優(yōu)缺點(diǎn)
海南青游信息技術(shù)有限公司致力于數(shù)碼、電腦,以科技創(chuàng)新實(shí)現(xiàn)***管理的追求。公司自創(chuàng)立以來(lái),投身于計(jì)算機(jī)軟件銷售,計(jì)算機(jī)系統(tǒng)集成,影視動(dòng)漫制作,是數(shù)碼、電腦的主力軍。青游信息技術(shù)不斷開(kāi)拓創(chuàng)新,追求出色,以技術(shù)為先導(dǎo),以產(chǎn)品為平臺(tái),以應(yīng)用為重點(diǎn),以服務(wù)為保證,不斷為客戶創(chuàng)造更高價(jià)值,提供更優(yōu)服務(wù)。青游信息技術(shù)始終關(guān)注自身,在風(fēng)云變化的時(shí)代,對(duì)自身的建設(shè)毫不懈怠,高度的專注與執(zhí)著使青游信息技術(shù)在行業(yè)的從容而自信。