在信息化建設過程中,由于各業務系統建設和實施數據管理系統的階段性、技術性以及其它經濟和人為因素等因素影響,導致企業在發展過程中積累了大量采用不同存儲方式的業務數據,包括采用的數據管理系統也大不相同,從簡單的文件數據庫到復雜的網絡數據庫,它們構成了的多源的異構數據,當企業為完成一項工作,可能需要訪問分布在網絡不同位置上的多個數據管理系統中的數據,從而對企業對未來規劃造成困擾。
整合多源異構系統數據的目標
多源異構數據整合的目標就在于實現不同結構的數據之間的數據信息資源、硬件設備資源和人力資源的合并和共享。其中關鍵的一點就是以分散的局部的數據為基礎,通過各種工具和處理邏輯建立全局的統一的數據或視圖。
傳統技術路線:
對于多源異構系統數據整合的需求是十分多樣的,比如:數據的實時無縫對接或批量對接、數據實時或T+1同步、單向數據傳輸等。利用傳統技術路線。
可以有以下幾種方式解決:
1.跨平臺,SOAP服務對接
SOAP是一種輕量的、簡單的、基于XML的數據交換協議,它被設計成交換結構化或相對固化的信息。
SOAP服務具有簡單、可擴展的特點,其實現與廠商、編程語言和具體廠商都沒有關系。SOAP客戶端發送一個請求,調用相應的對象,然后服務器返回結果。這些消息是XML 格式的,封裝成HTTP 協議,符合任何路由器、防火墻或代理服務器的要求。SOAP可以使用任何語言來完成,可以在任何操作系統中無需改動正常運行。因此,SOAP具有強大的網絡穿透能力,具有廣泛的適應性,比較適合當前自然資源部門應用系統繁多、技術體系不一、數據多源異構這一現實性的應用系統和數據集成要求。
2.大文件,FTP文件共享
文件傳輸協議(FTP)雖然是一種非常傳統的數據共享和交換技術,但是,在自然資源領域中,針對遙感圖像、三維地圖、CAD圖紙(Drawing)、激光點云等大數據量文件的交互,采用FTP交互方式是最合適不過的了。
只要在應用系統之間約定文件服務器地址、文件命名規則、文件內容格式等參數,通過文件服務器的文件上傳和下載,即可完成數據交互。該方案簡單實用,避免了去理解、實現復雜網絡傳輸和網絡協議等相關概念和技術。
FTP的主要缺點一是安全性較弱,一般依賴于操作系統層級的文件安全性;二是對于需要隨機存取數據文件內任意指定部分的要求,無法響應,不夠靈活。
3.關系型,數據庫數據共享
自然資源領域涉及到七大關鍵業務環節,與每個業務環節對應的多個業務應用系統之間存在大量的數據共享交換要求。對于應用系統之間的數據交換來說,可以采用共享數據庫作為數據交換介質。
在兩個應用系統間完全互信的情況下,可以直接讀取對方數據庫里的數據。通常情況下,每個應用系統對于數據的保密性、安全性都有一定的要求,不允許隨便開放給其他應用系統直接存取。在這種情況下,可以通過建立第三方公共交換庫,通過該庫實現應用系統間的數據共享交換。
相比文件傳輸方式(FTP)來說,因為使用的同一個共享數據庫,交互更加簡單。而且,數據庫管理系統可以提供相當多的數據操作,比如復雜的條件查詢、更新、回滾等,交互方式比較靈活。通過數據庫的事務機制,可以保證數據交換的可靠性。
4.異步,消息隊列通訊以及數據抽取-轉換-加載(ETL)
消息隊列是更加松耦合、靈活、可靠的應用系統集成和數據交換共享技術。通過引入消息中間件,在所有應用系統之間建立起可實現消息傳輸、路由、過濾、增強、錯誤捕獲和處理的消息傳輸機制,由消息隊列來保證數據傳輸的異步性和穩定性。消息隊列跟互聯網的連接結構類似,所有數據都可以通過消息中間件,建立起一條可靠的消息傳輸鏈路,進行應用系統間的通信。
創新技術路線:
相較于消息隊列信息通訊以及數據抽取-轉換-加載(ETL),下秒數據Nexadata自成立開始就一直堅持研發創新道路,是國內首家打造“ELT+A”智能數據管道的軟件廠商。
1.創新性的打造“ELT+A”更加擁有發展前景,以及更大程度上滿足企業的需求,幫助企業低成本快速整合異構系統數據,實現業務數據自動化流轉、互通共享。
2.通過無代碼的數據集成與數據建模技術,幫助企業將所有應用程序、數據庫、事件和文件等數據信息提取到數據倉庫中,并快速將分散的數據轉化為數據集、API、自動化流程等開箱即用的數據服務。
審核編輯 黃昊宇
-
多源異構
+關注
關注
0文章
4瀏覽量
6506 -
SOAP
+關注
關注
0文章
10瀏覽量
7676 -
數據整合
+關注
關注
0文章
6瀏覽量
6290
發布評論請先 登錄
相關推薦
評論