引言:憑借先進(jìn)全面的數(shù)據(jù)平臺(tái)遷移方案,長(zhǎng)亮科技已成功中標(biāo)招商銀行和光大銀行的數(shù)據(jù)遷移項(xiàng)目。
近年,金融信息安全已成為國(guó)家發(fā)展戰(zhàn)略,金融機(jī)構(gòu)紛紛推動(dòng)信息技術(shù)安全可控落地,而數(shù)據(jù)庫作為金融信息化的基礎(chǔ),一直以來,長(zhǎng)期被國(guó)外巨頭占據(jù)。近幾年國(guó)內(nèi)移動(dòng)互聯(lián)網(wǎng)的迅猛發(fā)展,為眾多國(guó)產(chǎn)新型數(shù)據(jù)庫的應(yīng)用創(chuàng)造了全球獨(dú)一無二的場(chǎng)景,國(guó)產(chǎn)數(shù)據(jù)庫的進(jìn)步發(fā)展顯著,因此各銀行機(jī)構(gòu)在落地?cái)?shù)字化轉(zhuǎn)型的同時(shí),紛紛采用國(guó)產(chǎn)數(shù)據(jù)庫,數(shù)據(jù)庫國(guó)產(chǎn)替代已是大勢(shì)所趨。
數(shù)據(jù)庫底層平臺(tái)的替換,會(huì)帶來海量的數(shù)據(jù)搬遷以及大量的數(shù)據(jù)處理程序遷移改造工作。數(shù)據(jù)倉庫、數(shù)據(jù)集市作為企業(yè)最核心的數(shù)據(jù)整合、匯總加工存儲(chǔ)平臺(tái),在業(yè)務(wù)分析、決策支持、運(yùn)營(yíng)支持等方面發(fā)揮著不可或缺的作用,因此在銀行數(shù)據(jù)庫國(guó)產(chǎn)化過程中,這類平臺(tái)的數(shù)據(jù)及其處理程序的遷移,與模型重構(gòu)優(yōu)化是重中之重。
為助力銀行加速實(shí)現(xiàn)數(shù)據(jù)庫國(guó)產(chǎn)替代,長(zhǎng)亮科技依托于金融大數(shù)據(jù)領(lǐng)域多年的技術(shù)積累及70+數(shù)據(jù)倉庫實(shí)施案例經(jīng)驗(yàn),提煉出了一套完整全面的數(shù)據(jù)平臺(tái)遷移方案,方案從數(shù)據(jù)遷移、數(shù)據(jù)處理程序的遷移,及模型重構(gòu)優(yōu)化三大重點(diǎn)出發(fā),以實(shí)現(xiàn)數(shù)據(jù)倉庫、數(shù)據(jù)集市的全面遷移及優(yōu)化。
?數(shù)據(jù)遷移:一個(gè)企業(yè)級(jí)的數(shù)據(jù)倉庫通常會(huì)涉及上百TB甚至PB級(jí)的數(shù)據(jù),而這些數(shù)據(jù)存儲(chǔ)在數(shù)萬甚至數(shù)十萬張表中。龐大的數(shù)據(jù)量關(guān)系到數(shù)據(jù)遷移的耗時(shí)及性能,而數(shù)據(jù)表的數(shù)量以及不同表的加載策略決定了數(shù)據(jù)遷移任務(wù)的復(fù)雜程度,數(shù)據(jù)遷移還需要綜合考慮數(shù)據(jù)量、批量窗口、存儲(chǔ)空間等因素,技術(shù)上需設(shè)計(jì)不同處理方式應(yīng)對(duì),而除了對(duì)技術(shù)要求高以外,還需要充分考慮全局性;
?數(shù)據(jù)處理程序遷移:數(shù)據(jù)處理程序個(gè)數(shù)基本跟表的個(gè)數(shù)對(duì)應(yīng),即表的個(gè)數(shù)越多,程序的工作量也就越大。且ETL程序的遷移還需要考慮其在新平臺(tái)的性能,保證不下降或有提升,對(duì)技術(shù)要求十分之高;
?模型重構(gòu)優(yōu)化:針對(duì)新國(guó)產(chǎn)數(shù)據(jù)庫的特點(diǎn)、原有模型架構(gòu)及設(shè)計(jì)的缺陷,進(jìn)行合理的重新規(guī)劃,最大程度發(fā)揮國(guó)產(chǎn)數(shù)據(jù)庫的技術(shù)特性,并修補(bǔ)原有模型規(guī)劃設(shè)計(jì)的不足,適當(dāng)優(yōu)化數(shù)據(jù)處理鏈路、加強(qiáng)數(shù)據(jù)統(tǒng)一加工、降低不必要的數(shù)據(jù)冗余。
長(zhǎng)亮科技數(shù)據(jù)平臺(tái)遷移方案實(shí)現(xiàn)了從數(shù)據(jù)遷移策略到數(shù)據(jù)遷移步驟、數(shù)據(jù)遷移驗(yàn)證、數(shù)據(jù)遷移過渡等全面覆蓋:
?通過保證傳輸速率,解決數(shù)據(jù)移植時(shí)間窗口問題;
?通過分批次移植策略,解決移植期間數(shù)據(jù)變化的問題;
?通過移植程序的標(biāo)準(zhǔn)化、通用化,以及元數(shù)據(jù)自動(dòng)匹配策略,解決ETL程序移植工作量大的問題;
?通過移植任務(wù)并發(fā)以及單表干預(yù)策略,解決移植過程中各表相互影響問題;
?通過數(shù)據(jù)值域?qū)Ρ葓?bào)告的方式,解決數(shù)據(jù)遷移驗(yàn)證問題;
?通過設(shè)置原平臺(tái)與新平臺(tái)的并行策略,解決數(shù)據(jù)遷移的過渡問題。
在金融信息安全可控大趨勢(shì)下,長(zhǎng)亮科技充分運(yùn)用自身領(lǐng)先的金融科技優(yōu)勢(shì),以先進(jìn)的技術(shù)方案及豐富的數(shù)據(jù)遷移經(jīng)驗(yàn)助力銀行平穩(wěn)、安全地完成數(shù)據(jù)遷移工作,進(jìn)而加快推動(dòng)我國(guó)銀行業(yè)數(shù)據(jù)庫國(guó)產(chǎn)替代進(jìn)程。