資料倉儲解決方案v1 0要點

2023-02-09 01:45:06 字數 4157 閱讀 9498

資料倉儲解決方案

深圳太極雲軟技術股份****

2023年1月

目錄(一) 概述 2

一. 國內資訊化的現狀 2

二. 以應用驅動,資料倉儲建設應由後向前規劃 3

三. 「想大做小」(整體設計、分布實施) 4

(二) 系統架構 5

資料倉儲架構 6

系統功能架構 7

(三) 資料倉儲建設方法 8

資料倉儲建設8大步驟 9

1.系統分析,確定主題 9

2.選擇滿足資料倉儲系統要求的軟體平台 10

3.建立資料倉儲的邏輯模型 10

4.邏輯資料模型轉化為資料倉儲資料模型 11

5.資料倉儲資料模型優化 12

6.資料清洗轉換和傳輸 13

7.開發資料倉儲的分析應用 14

8.資料倉儲的管理 15

(四) 系統功能詳細介紹 16

企業資料門戶 16

主題分析 17

即席查詢 18

多維分析工具 19

etl工具 19

報表工具 21

1. 資訊化建設的發展歷史:

在國內資訊化建設過程中,基本上是按照當時業務系統的需求進行建設,過一段時間,如果有新的業務推出,就再建設乙個新的系統,或在原系統的基礎上增加新的業務處理。這樣的結果使每個系統和系統之間缺少真正的資訊溝通和資訊交換。

2. 為何要建立資料倉儲:

根據現狀業務系統各自為政,相互獨立。當很多業務系統建立後,由於領導的要求和決策的需求,需要一些指標的分析,在相應的業務系統基礎上再增加分析和相應的報表功能,這樣每個系統就增加了報表和分析功能。但是,由於資料來源不統一導致了對同乙個指標分析的結果不相同。

為了解決該問題,為了分析和決策的需要,將相互分離的業務系統的資料來源整合在一起,可以為領導和決策層提供分析和輔助決策。

資料倉儲到底應該怎麼建設?我一貫的主張是應用驅動。什麼樣的應用呢?

應用是應考慮**管理的現狀和決策層最關心的問題入手。分利用現有資訊系統資源,進一步細化、量化權力清單,固化權力執行流程和辦理環節,達到規範業務流程、監督個體行為、記錄執法誠信、科學考核評價和提公升管理精度,最終使群眾的合法權益得到保護,實現權力有效監督和提公升**效能。通過分析經濟發展、衛生健康、教育科技、道路交通、機構團體、生活服務、文體娛樂、安全避險、資源環境、社保就業、財稅金融、法律服務等這些主題的分析是否可行,應該先進行評估。

這樣從應用主題入手,就可以知道需要什麼樣的資料,來自那些業務系統和資料來源,這些資料的全體進行一定的整合,按照分析的要求儲存就組成了乙個個資料集市(data mart)。

為了避免原有業務系統相對獨立而形成的乙個個資訊孤島,以應用驅動建設資料倉儲,往往會造成新的資訊孤島。這是因為應用往往是部門級的或者是某一方面的應用,不能完全覆蓋企業級的所有應用。當然我們這裡不提倡一次建設的應用。

如何避免這個問題,是我這裡著重要要強調的。這裡分兩種情形進行設計,系統作用

1. 整合業務資料

在各業務系統中,資料不流通,形成資訊孤島,商業智慧型解決方案建立統一資料倉儲,整合業務資料,給管理者提供統一檢視,統一決策介面。

2. 支撐決策

從資料中分析企業發展趨勢,挖掘新的機會方法,根據資料決策,提高決策的及時性及準確率。

3. 提供管理效能,量化辦事效率

基於系統分析內容,管理者能了解細化、量化權力清單,固化權力執行流程和辦理環節,達到規範業務流程、監督個體行為、記錄執法誠信、科學考核評價和提公升管理精度,最終使群眾的合法權益得到保護,實現權力有效監督和提公升**效能。

系統架構圖

在建立資料倉儲,資料倉儲按主題域儲存各業務資料。資料**主要是**管理結構的不同業務管理系統。通過資料交換平台定期採集各管理機構的業務資料,後台資料處理工具etl抽取、清洗資料,並加載入資料倉儲中。

架構於資料倉儲上的系統功能主要包括大資料門戶、專題主題分析、即係查詢、多維分析、自助報表的功能模組,通過這些功能模組為管理者獲取資料和分析資料提供簡單易用、功能強大的方法,為管理者決策及提公升管理精度,最終實現權力有效監督和提公升**效能。

資料倉儲是乙個建設過程,而不是產品。資料倉儲是通過對來自不同的資料來源進行統一的處理及管理,通過靈活的展示方法來幫助決策支援。

資料獲取層

實現如何從所有源系統中獲得原始的業務資料,並對其進行一定的資料處理,按主題進行資料重組和格式轉換,然後傳送並裝載到資料倉儲系統中。

資料倉儲系統需要從多個源資料系統中抽取和彙總各個業務資料,這些資料來源系統是資料倉儲系統的資料**。

把上述資料來源系統中的資料按照主題進行劃分和組織,然後抽取並裝載到資料倉儲系統中。

資料需要經過三個過程:資料抽取、資料轉換、資料裝載。這三個過程是在保證各個資料來源系統與資料倉儲系統能夠成功連線(包括網路協議標準的轉換、不同平台之間的介面)的前提下實現的。

保證把來自不同的源資料系統的同類資料的一致性和完整性,轉換完成的資料裝載到資料倉儲系統中。

資料管理層

把資料儲存到企業級資料倉儲系統中進行集中管理。在資料儲存層,資料是存放在兩類資料庫中:關係型資料庫和多維資料庫。

資料儲存是資料倉儲系統的中心。取自多個資料來源系統的明細資料,以及用於分析的整合彙總資料都儲存在這個中心。它在邏輯上是乙個完整的庫。

資料使用層

把資料倉儲系統中的資料和分析結果提供給終端使用者。按照使用者的分析需求、使用報表、隨即查詢、多維度分析和資料探勘進行資料展現。

資料輸出層的功能是使終端使用者通過報表、圖形和其他分析工具的方式簡便、快捷地訪問資料倉儲系統中的各種資料,得到分析結果。

提供多種資料分析方法,包括標準報表、即席查詢報表、動態分析報表、多維分析、趨勢**、假設分析和資料探勘等。

多維分析oldp多角度、立體化、靈活動態的分析業務資料。產品簡單易用,無需編寫任何的**,使用者只需要通過語義層的定義就可以輕鬆搭建自己的多維資料模型。

即席查詢統計報表、指標的快速檢索,幫助業務分析人員快速獲得所需要的資料和統計資訊。

資料門戶data portal進行統一展現,展現方式包括儀錶盤、**、報表、日曆等內容,並支援使用者個性化定製內容、指標等功能,實現真正的個性化服務。資料門戶中展現的內容是管理者及業務人員最關注的指標,通過門戶為他們獲取資料提供最簡單容易的方式。

主題分析根據資源的組織,支援資料的深入挖掘和分析應用,跟蹤、監控政策的執**況及實施效果,讓管理層了解細化、量化權力清單,固化權力執行流程和辦理環節,達到規範業務流程、監督個體行為、記錄執法誠信、科學考核評價和提公升管理精度,最終使群眾的合法權益得到保護,實現權力有效監督和提公升**效能。

報表業商業智慧型系統建設的重要組成部分,主要對企業資料倉儲中整合的各主題域業務資料,按照監督管理要求,面向各級部門,快速提供準確、全面、靈活的體現**管理效能等方面實際的資料資訊,為決策支援、業務管理提供有效的資料資訊支撐。

etl工具:etl是資料倉儲最核心的後台元件,通過對及彙總來的不同**資料的抽取、清洗、載入實現資料倉儲中資料的更新及流轉。etl工具(橋接器),實現了圖形化及自動化的方式來配置etl流程,極大的減輕了資料加工的工作量,提高了資料準確性及處理效率。

資料倉儲決策分析的業務處理流程主要分為四個階段。

1) 資料集中:各級**部門業務資料統一彙總資料中心臨時資料儲存;

2) 資料整理和轉換:彙總後的業務資料經過etl抽取、轉換、載入到資料倉儲中;

3) 資料儲存和管理:對資料倉儲資料進行集中儲存和管理、備份和維護;

4) 資料探勘和展現:使用者通過前端的展現工具對資料倉儲中資料進行挖掘、鑽取和分析,在資料門戶展現;

確定一下幾個因素:

·操作出現的頻率,即業務部門每隔多長時間做一次查詢分析。

·在系統中需要儲存多久的資料,是一年、兩年還是五年、十年。

·使用者查詢資料的主要方式,如在時間維度上是按照自然年,還是財政年。

·使用者所能接受的響應時間是多長、是幾秒鐘,還是幾小時。

選擇合適的軟體平台,包括資料庫、建模工具、分析工具等。有許多因素要考慮,如系統對資料量、響應時間、分析功能的要求等,以下是一些公認的選擇標準:

·廠商的背景和支援能力,能否提供全方位的技術支援和諮詢服務。

·資料庫對大資料量(tb級)的支援能力。

·資料庫是否支援並行操作。

·能否提供資料倉儲的建模工具,是否支援對元資料的管理。

·能否提供支援大資料量的資料載入、轉換、傳輸工具(ett)。

·能否提供完整的決策支援工具集,滿足資料倉儲中各類使用者的需要。

oracle資料倉儲解決方案

oracle資料倉儲 解決方案 oracle中國 二零零零年十二月 在資訊時代,伴隨著internet技術的蓬勃發展,全世界範圍內的各個企業都在經歷一場深刻的變革,各企業都在利用web無所不達的特性來擴充套件自己將商品和服務推向市場的能力,但同時由於internet的存在,客戶的期望也是水漲船高。客...

解決方案標準V1

目錄第一部分方案設計 3 1.1 序言 3 1.2 使用者需求 3 1.3 硬體系統技術方案設計 3 1.4 技術平台解決方案 3 1.4.1 技術平台解決方案 3 1.5 網路方案設計 4 1.5.1 設計原則 4 1.5.2 設計要點 4 1.5.3 方案設計 4 1.5.4 方案描述 4 1....

Oracle提供企業資料倉儲解決方案

5 專家服務 包括oracle consulting資料倉儲實施顧問諮詢服務。6 以客戶為中心的合作夥伴關係 包括資料倉儲技術推動計畫 系統整合商推動計畫和資料倉儲平台市場推動計畫。oracle資料倉儲包含了一整套的產品和服務,覆蓋了資料倉儲定義 設計和實施的整個過程。同時,針對金融行業資料倉儲的特...