色哟哟视频在线观看-色哟哟视频在线-色哟哟欧美15最新在线-色哟哟免费在线观看-国产l精品国产亚洲区在线观看-国产l精品国产亚洲区久久

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

破解元數據存儲與管理難題,是浪潮軟件定義存儲馳騁海量數據時代的關鍵

浪潮存儲 ? 2018-02-05 13:46 ? 次閱讀

移動互聯網與人工智能時代,非結構化數據均呈海量增長態勢,數據存儲平臺在彈性與性能上面臨巨大挑戰。浪潮軟件定義存儲,通過提供元數據存儲與管理方案,給海量數據提供彈性空間,讓用戶自由馳騁于數據智能世界。

智能時代產生海量非結構化數據

信息技術的飛速發展,特別是移動互聯網應用、數據智能挖掘技術的快速發展,使眾多相關行業面臨業務數據量成指數級增長的趨勢。例如:智能手機的普及,使移動手機用戶可以隨心所欲拍攝高清照片、視頻以記錄自己生活的點滴,并可以方便地把影音資料存儲在云端,這類新的生活習慣必然產生大量數據。再如,中國公共安全領域的“雪亮工程”等,關系國計民生視頻監控項目的開展,使得公共安全視頻監控覆蓋范圍從原來的城市中心地帶擴展到了鄉村一級單位,這也將產生和存儲大量的數據。而在互聯網+商業領域,對客戶信息的掌握,更成為互聯網企業生存的根本,之前大量不需要存儲的用戶網絡瀏覽軌跡等中間信息,如今由于成為大數據分析的數據來源,因此也需要進行數據存儲。

【智能時代產生海量非結構化數據】

面對各種海量數據、尤其是海量非結構化數據的存儲需求,傳統數據存儲方式在成本和性能兩個維度均已無法滿足。

傳統存儲方式之一是使用本地文件系統存儲數據,而由于其架構所限制,控制器一般為一臺,即本地操作系統主機,和生產業務共用CPU及內存等系統資源,所以在實際操作中大多僅僅能擴展至幾個TB的可用容量,這和“海量”存儲的需求相差甚遠。

另外一種把計算和存儲分離的集中式存儲方案——NAS方案亦差強人意。NAS屬于外部集中式存儲方案,架構擴展性相比本地文件系統有較明顯優勢。其控制器一般為兩臺至多臺,在數據規模稍微“大”一點的業務場景,用戶往往使用NAS存儲方案。但NAS在海量數據時代到來之前已經存在,當初設計時重點考慮的并非是“海量”非結構化數據的存儲,所以在大多數生產環境中都是采用雙控設備,如果數據量增大,一般做法是再配置一套而已。這樣的處理方式使得用戶的生產環境形成大量數據孤島,且單套NAS由于其軟硬件設計架構的局限性,在實際項目中的容量擴展往往不超過100~200TB,即使雙控系統,一般對外最多也只能提供4GB/s帶寬,因此其容量與性能均無法匹配海量數據時代的存儲要求。

浪潮軟件定義存儲:EB級彈性空間

于是,在滿足互聯網、云計算、大數據應用的需求下,浪潮軟件定義存儲系統隨之產生,以滿足海量數據時代的存儲需求。

根據其基本軟硬件設計思想,浪潮軟件定義存儲AS13000基于通用x86平臺開發“控制+存儲”節點,采用以太網絡交換技術把整套系統硬件互聯起來,然后在其上部署浪潮軟件定義存儲軟件,形成對外提供統一服務接口,對內協調數據交換的存儲系統。

在組網層面,以太網絡并不是其唯一的選擇,目前業界還有InfiniBand等其他組網方式;

在服務層面,浪潮軟件定義存儲系統的對外服務類型包括NAS文件存儲、對象存儲、塊存儲,并支持RESTful接口,可以靈活滿足用戶定制化的服務需求。與此同時,浪潮軟件定義存儲節點的選擇更加靈活,可以使用利舊的x86服務器,也可以選擇專業廠商專為浪潮軟件定義存儲設計的高密度設備。

在技術實現上,目前浪潮軟件定義存儲系統Scale-out(橫向擴展)方式的存儲節點擴展能力非常強大,單系統存儲節點可擴展至數千個,可以形成EB級海量存儲空間、百億數據文件管理、千萬級IOPS和百GB帶寬,加上不斷進步的數據自動修復和自動運維機制,使之廣泛適用于海量數據存儲場景。

浪潮軟件定義存儲AS13000的容量、性能可以隨著存儲系統節點的橫向擴展呈線性增長,這一特性從根本上解決了本地文件系統和集中式外部存儲的在擴展性方面的劣勢,大大提高了IT投入的回報率,這就是浪潮軟件定義存儲今天備受青睞的原因。

優化的元數據索引服務

那么,為什么浪潮軟件定義存儲AS13000能很好地管理海量數據呢?下面我們以文件服務類型為例來進行闡述說明。

對于傳統的本地文件系統,當查找一個文件時,先由元數據區找到索引,再定位到數據區,存在深度目錄的時候,可能需要在兩種區域做多次查詢和數據定向,最后才能定位到所需要的文件。對于這種低效率的模式,很多成熟的文件系統大多使用類比數的方式來組織目錄,以避免線性方式查找目錄項來降低文件索引冗余度;此外還有多種技術(如HASH,元數據緩存,C-FFS等)在傳統架構上都可以不同程度地給文件索引性能加速,但是在海量數據存儲場景下,以上所有努力都會失靈。

究其原因其實也很明確。存儲海量數據的時候,一定會有大量的元數據需要存儲。在傳統文件系統的軟件架構(包括集中式NAS存儲)中,元數據為集中式存儲方式,處理元數據的服務(控制器)也為集中式。由于元數據被存儲在了少量固定的磁盤上面,不能隨整體容量的增加而任意擴展,使得這塊區域對外提供的讀寫性能因被固化而變得十分有限。

與此同時,數據文件在訪問IO頻繁的時候,元數據索引服務需要消耗大量CPU和內存的資源,而本地文件系統所能依靠的只是本地操作系統上的資源,即使是NAS存儲一般也僅僅可以使用兩個控制器上的資源。但我們知道,當數據量達到數PB級時,對于IO性能的需求會高出很多,讀寫帶寬基本上需要在幾十GB以上。因此,傳統的集中式元數據部署架構不管在軟件算法上如何優化,面對海量數據也于事無補。

再讓我們來看看浪潮軟件定義存儲AS13000是如何應對這一難題的

首先,浪潮軟件定義存儲AS13000系統具有良好的Scale-out擴展性能,隨著物理節點的擴展,性能、容量也隨之呈線性擴展;其次,全局融合的分布式結構設計使得擴展過程中突破了傳統NAS元數據瓶頸制約。

浪潮軟件定義存儲之所以能做到這一點,在于打破了傳統文件系統(也包括集中式NAS存儲)的元數據集中式存儲和管理這一限制,對浪潮軟件定義存儲集群系統的目錄實行分而治之,讓集群中所有服務器來一起存儲和管理元數據及數據,從而實現負荷分擔、負載均衡。目前其實現方式主要有三種,各類浪潮軟件定義存儲會根據自身交付的場景不同,選擇不同的方式:

第一種,靜態子樹分區。以目錄為單位,把各個目錄或子目錄手工分配給不同節點去存儲,并指定不同的元數據服務節點/程序去管理。當某個目錄出現訪問過熱的情況下,再由管理員手工進行遷移。這種處理方式邏輯最為簡單,也容易實現,但如果數據目錄需要頻繁擴容,就需要管理員人為頻繁干預。老一點的網絡共享文件系統一般采用的是這種方式。

第二種,HASH分區。通過計算來分配數據、元數據存儲的位置。這種方式可以把數據和元數據自動均勻地分布在各個節點上,但是突發性熱點區域的數據訪問可能造成整個系統內部某些元數據服務節點資源吃緊,從而成為整個系統的性能瓶頸。這種方式在一些分布式文件系統里得到了應用,并在IO均勻分布的業務環境中很適用,如Lustre分布式文件系統。

第三種,動態子樹分區。大體結構類似上面兩種方式,但它可以通過實時監控和分析,把熱度數據單位動態地調整到不同的元數據服務節點,從而實現數據索引的動態負載均衡。

【浪潮軟件定義存儲的動態子樹劃分圖】

一招制敵:破解元數據存儲與管理難題

當我們理解了以上幾種模式,就可以明白浪潮軟件定義存儲是如何來管理數據與元數據的了。簡單來說,元數據的處理性能是決定整個存儲系統文件服務能力(容量規模,文件數目)的重要因素。如果元數據索引效率低下,即使強制擴充存儲容量,也會造成數據訪問過慢甚至不可用的情況頻頻發生。浪潮軟件定義存儲系統架構則通過把元數據均勻分布在集群內各個節點的磁盤之上解決了這一難題,其元數據服務引擎(控制器)的數目更是突破了傳統文件系統(1個)和NAS存儲(2~16個)的限制。由于浪潮軟件定義存儲擁有更為強大的計算資源和存儲資源來快速索引文件,所以其容量規模、管理文件數目的能力要遠遠優于傳統架構存儲。

此外,多活元數據服務集群技術更是讓浪潮軟件定義存儲如虎添翼。在上文的動態子樹圖劃分圖中可以看出,一個浪潮軟件定義存儲集群中存在不止一個元數據服務,這也是浪潮軟件定義存儲的顯著優勢,多個元數據服務形成集群,共同對外提供文件索引服務,并且通過元數據副本、緩存加速、熱點目錄分片、動態子樹分區等技術,來實現負載均衡及元數據服務故障高可用等一系列功能。

行文至此,我們已經明白,從根本上破解元數據存儲與管理難題,是浪潮軟件定義存儲AS13000馳騁海量數據時代的關鍵。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 云計算
    +關注

    關注

    39

    文章

    7774

    瀏覽量

    137351
  • 互聯網
    +關注

    關注

    54

    文章

    11148

    瀏覽量

    103224
  • 數據存儲
    +關注

    關注

    5

    文章

    970

    瀏覽量

    50894
  • 元數據
    +關注

    關注

    0

    文章

    32

    瀏覽量

    9132

原文標題:| 軟件定義存儲AS13000 | 多活元數據服務集群技術,應對海量數據管理

文章出處:【微信號:inspurstorage,微信公眾號:浪潮存儲】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    軟件定義存儲

    架構,融合數據管理,包括ServerSAN等,與軟件定義存儲大同小異。  從存儲虛擬化說起  對于存儲
    發表于 01-17 08:31

    海量網絡監測數據存儲優化研究

    目前,大型網絡監測系統多采用數據管理系統(DBMS)作為數據存儲的方式。雖然DBMS 較好的解決了海量
    發表于 12-25 14:55 ?5次下載

    海量數據的非關系型存儲管理機制

    針對傳統的關系數據存儲系統性能不足、容錯性差,無法適應海量非結構化數據管理的問題,提出一種高性能、高可用非關系型存儲
    發表于 12-21 16:54 ?0次下載
    <b class='flag-5'>海量</b><b class='flag-5'>數據</b>的非關系型<b class='flag-5'>存儲</b><b class='flag-5'>管理</b>機制

    智慧驅動新數據時代,新技術、新應用刺激數據存儲演進

    同時基于Scale-out架構的浪潮海量存儲系列,可融合多類型數據。在“All in One”架構下可支持文件、塊、對象和大數據四種
    的頭像 發表于 06-29 14:35 ?4122次閱讀
    智慧驅動新<b class='flag-5'>數據</b><b class='flag-5'>時代</b>,新技術、新應用刺激<b class='flag-5'>數據</b><b class='flag-5'>存儲</b>演進

    浪潮存儲:以智慧驅動新數據時代 加速新智能應用

    聚焦智慧驅動的新數據時代,在存儲閃存化趨勢下,浪潮提供全閃和混閃兩種形態的閃存存儲,加速新智能應用。
    的頭像 發表于 07-24 15:18 ?3651次閱讀

    浪潮存儲孫斌:軟件是怎么定義存儲

    云計算走向2.0時代,開始成為企業IT基礎的核心引擎,軟件定義存儲也被賦予了新的角色,成為跨云的橋梁。任意云、任意設備、任意應用、任意數據
    發表于 12-22 09:33 ?1357次閱讀

    在新數據時代求變的浪潮存儲

    “數字化時代數據爆炸增長是過去無法想象的,預計全球數據到2025年將達到175ZB。這對存儲來說,應對數據爆炸的關鍵趨勢包括
    的頭像 發表于 04-26 13:54 ?3067次閱讀

    杉巖:破解海量小文件存儲的大難題

    導語:海量小文件的元數據管理存儲性能以及訪問效率等問題是目前學術界和工業界公認的難題。杉巖海量對象存儲
    發表于 03-17 13:50 ?775次閱讀

    杉巖:軟件定義存儲(SDS),存儲時代

    EMC發布軟件定義存儲戰略后,新聞界開始對于軟件定義存儲進行了大討論。隨著
    發表于 03-26 11:39 ?1452次閱讀

    海量非結構化數據存儲難題 ,杉巖數據對象存儲完美解決

    結構化數據呈現爆發之勢,對象存儲市場近兩年保持強勁增長,IDC預計,軟件定義存儲(SDS)市場未來五年復合增長率將達到28.8%。 傳統IT
    發表于 03-15 17:22 ?1193次閱讀

    如何破解海量數據存儲之痛

    1TB數據,每輛自動駕駛汽車每天約產生4TB數據......,數據洪流正滾滾而來。這背后,海量數據存儲
    的頭像 發表于 01-04 16:56 ?1602次閱讀

    浪潮存儲正面向新數據存儲的未來邁進

    超過十八年的發展時間,有著這樣長期積累的中國企業級存儲廠商,屈指可數。 浪潮存儲堅守在數據存儲領域,繼往開來,正面向新
    的頭像 發表于 10-28 13:53 ?1942次閱讀

    浪潮存儲:新數據時代整體面臨的三大挑戰

    2021全球閃存峰會期間,浪潮存儲產品線孫磊發表了題為《巨“浪潮”起——全閃存儲系統 加速數字轉型》的主題演講,分享過去一年浪潮在全閃存方面
    的頭像 發表于 08-23 14:23 ?3338次閱讀

    浪潮存儲高效存儲產品提升數據存儲效率

    浪潮存儲基于“云存智用 運籌新數據”的理念,不斷技術創新,將智能壓縮技術適配到存儲平臺,打造敏捷高效的存儲產品,在保障性能無損的情況下,提升
    的頭像 發表于 04-08 09:27 ?6393次閱讀
    <b class='flag-5'>浪潮</b><b class='flag-5'>存儲</b>高效<b class='flag-5'>存儲</b>產品提升<b class='flag-5'>數據</b><b class='flag-5'>存儲</b>效率

    WDS分布式存儲系統軟件助力電信工程海量數據存儲項目

    WDS分布式存儲系統軟件助力電信工程海量數據存儲項目
    的頭像 發表于 11-11 09:59 ?181次閱讀
    WDS分布式<b class='flag-5'>存儲系統軟件</b>助力電信工程<b class='flag-5'>海量</b><b class='flag-5'>數據</b><b class='flag-5'>存儲</b>項目
    主站蜘蛛池模板: 人妻体体内射精一区二区| 国产白丝精品爽爽久久久久久蜜臀| 亚洲 欧美 中文 日韩 另类| 亲胸揉胸膜下刺激视频在线观看| 久热这里在线精品| 久青草国产在线观看视频| 红番阁免费观看| 护士日本xx厕所| 极品网红液液酱粉嫩福利照子凌酱| 国产人妻系列无码专区97SS| 国产精品久久久久影院色| 国产69精品久久久久乱码| 赤兔CHINESE最新男18GUY| 成人亚洲精品| 国产 亚洲 中文字幕 久久网| 高清欧美一区二区三区| 高h肉文合集| 国产内射AV徐夜夜| 国产又黄又粗又爽又色的视频软件| 国产免费久久爱久久啪| 国产亚洲精品久久久999无毒| 国产午夜一级淫片| 精品国产乱码久久久人妻| 久久精品亚洲牛牛影视| 久热人人综合人人九九精品视频 | 一二三四在线视频社区| 一个人免费完整观看日本 | 色狠狠色狠狠综合天天| 色哟哟tv| 亚洲黄色大片| 中文在线中文资源| 99久久精品费精品国产一区二| 99视频免视看| 高H高肉强J短篇NP| 国产偷国产偷亚洲高清app| 狠狠色综合久久丁香婷婷| 久久天天婷婷五月俺也去| 欧美精品v欧洲高清| 色婷婷国产麻豆AV| 亚洲精品久久久久AV无码| 在线观看中文字幕码2021不用下载 |