Integrace dat. 2014 Profinit. All rights reserved.

Podobné dokumenty
Integrace dat. RNDr. Ondřej Zýka

Integrace dat. RNDr. Ondřej Zýka

Metadata Profinit. All rights reserved.

Information and Data Management Profinit. All rights reserved.

Datová kvalita Profinit. All rights reserved.

Business Intelligence - principy, efekty, předpoklady. OKsystem, 26/11/2009

Databázové patterny Profinit. All rights reserved.

Transakce Profinit. All rights reserved.

Dimenzionální modelování Profinit. All rights reserved.

- Aplikace je napsána v C#.NET, je instalována na webovém serveru - Data jsou ukládána v databázi MS-SQL 2005 a vyšší

Realtime prostředí a telco. Jakub Reschke Praha,

Integrace dat. MI-DSP 2013/14 RNDr. Ondřej Zýka,

Informačně expertní systém včasného varování a vyrozumění v důsledku stanovení rizik skalního řícení

Master Data Management. Pavel Janča Informatica Competency Principal

GLOBÁLNÍ ARCHITEKTURA ROB

Configuration Management

Architektura a design - úvod. Tomáš Krátký, Bohumír Zoubek

EXTRAKT z mezinárodní normy

Helios Orange Plugin Zadávání vlastností

Ministerstvo vnitra České republiky vyhlašuje Výzvu k předkládání žádostí o finanční podporu v rámci Integrovaného operačního programu

PŘÍLOHA D Požadavky na Dokumentaci

Informatica. Moderní integrační patterny. Petr Mikeška, Ondřej Zýka Petr Filas, Tomáš Rohr, Jan Ulrych Profinit. All rights reserved.

Jak zavést systém managementu kvality

Design databáze. MI-DSP 2013/14 RNDr. Ondřej Zýka,

Sylabus modulu: E Finance a finanční nástroje

Optimalizace Profinit. All rights reserved.

Teradata basic Profinit. All rights reserved.

Development environment Build process DevOps. Tomáš Krátký, Bohumír Zoubek

Simulátor krizových procesů na úrovni krizového štábu. Systémová dokumentace

Obchodní nabídka služeb poskytovaných společností OVANET a.s. pro Statutární město Ostrava

PRŮMYSLOVÉ DNY. Datová úložiště a zálohování

Regenerace brownfieldů v ČR

Sylabus modulu: D Útvarové a procesní řízení, plánování, IT podpora projektového řízení

Novinky Autodesk Navisworks 2012 (Manage, Simulate, Freedom)

ReDat experience Release notes ATC-ATM

Vedení projektů, Odhadování, historie. Jiří Mach

Základní škola Valašské Meziříčí, Vyhlídka 380, okres Vsetín, příspěvková organizace

IT Security a Cloud. Zbyněk Juřena Managing Director ALTRON Business Solutions, a.s. září 2014

Maintenance. Tomáš Krátký. Evropský sociální fond Praha & EU: Investujeme do vaší budoucnosti

Vizualizace TIN (trojúhelníková nepravidelná síť) v Marushka Designu

Bezkontaktní platby v českém obchodě

Sledování provedených změn v programu SAS

16. Kategorizace SW chyb, kritéria korektnosti a použitelnosti, spolehlivost SW

Odhady, nabídky, měření a historie

REZERVACE24 S.R.O. PROVOZOVATEL SYSTÉMU RISORSA PRO VĚRNOSTNÍ PROGRAMY. Případová studie. Implementace věrnostního programu s.

Sylabus modulu: B - Strategické řízení organizace

JAK SE LÉPE ORIENTOVAT VE VÝSLEDCÍCH KLINICKÝCH STUDIÍ

Koncepce Smart Administration města Mohelnice

Role metodika v procesu zavádění a ověřování standardů kvality v praxi

Case study Nové Internetové bankovnictví. František Řezáč

Harmonogram instalačních a implementačních prací

Naxos MULTIMEDIÁLNÍ ARCHIV

Provozní řád služby zálohování CIT

Příloha č. 1 Smlouvy o dílo. Fáze realizace. Část P1_1. P1_1_Fáze realizace

ONLINESKLAD.CZ. Vysvětlení pojmů: V tomto manuálu i v celém systému figurují 3 základní osoby: Popis administračního rozhraní

Strategické rámce správy a rozvoje klasifikace DRG v roce 2013

Instalace a technické informace

Software project management

PŘÍLOHA Č.1 - TECHNICKÁ SPECIFIKACE ZADÁVACÍ DOKUMENTACE VEŘEJNÉ ZAKÁZKY

Architecture and Design

Návrh zákona o evidenci tržeb připomínkové řízení

Pozn.: v číselníku je často obsaženo více možností k výběru, ale pro program Interreg V-A ČR-Polsko jsou relevantní pouze možnosti výběru zde uvedené.

Etržiště České pošty Centrum veřejných zakázek.

Specifikace pro SW aplikaci Start-up business.

Zpráva pro uživatele

4 Datový typ, proměnné, literály, konstanty, výrazy, operátory, příkazy

Software process (improvement)

Novinky Autodesk Vault 2012 (Workgroup, Collaboration, Professional)

Softwarový proces. Tomáš Krátký, Bohumír Zoubek

INFORMACE O NOVÉ VERZI POSKI REAL

Software Quality Assurance. Tomáš Krátký, Bohumír Zoubek

Možnosti připojení WMS služby do Klienta v Marushka Designu

PROVOZNÍ ŘÁD. Preambule. Článek 1. Článek 2

Sylabus modulu: B - Strategické řízení organizace

Nahrávání hovorů pro IP telefonii a kontaktní centra

SMĚRNICE č. 5 ŠKOLENÍ ZAMĚSTNANCŮ, ŽÁKŮ A DALŠÍCH OSOB O BEZPEČNOSTI A OCHRANĚ ZDRAVÍ PŘI PRÁCI (BOZP)

Informační ikony v MarushkaDesignu

VIS ČAK - Uživatelský manuál - OnLine semináře

Varování podle - použití a dopady. Adam Kučínský ředitel odbor regulace

CAR FLEET SERVICE ŘEŠENÍ PRO VÁŠ VOZOVÝ PARK. Tomáš Kabrhel

Řízení a podpora logistiky ve výrobních areálech

Přednášky Teorie řízení Tereza Sieberová, 2015 LS 2014/2015

Možnosti transformace vyšších odborných škol do terciárního vzdělávání

Requirements Engineering

Manuál pro lektory. v e r w w w. w e b c a s t t o l e a r n. c o m. Partneři

Program prevence nehod a bezpečnosti letů

4.Silniční motorová vozidla

Případy užití RSSystems

Portál veřejné správy

SEGMENT SPOTŘEBITEL. (úvěry pro FOO)

A3RIP Řízení projektů. 13. seminář

Architektura DBMS Profinit. All rights reserved.

Výběrová kritéria pro hodnocení žádostí o podporu projektů v rámci ROP NUTS II Jihozápad pro období

Zápis ze setkání koordinační skupiny Systém včasného varování před novými drogami EWS. 9. března 2012, 13:00 15:00 hod.

9:45 10:20 Úvodní slovo Mgr. Miloslav Kvapil, ředitel společnosti DYNATECH s.r.o.

[AVG-WEB] Zpř í stupně ní kořpořá tní ho wěbu Semestrální práce z předmětu A4M39NUR

Databáze 2011/2012. Logický model DB. RNDr.David Hoksza, Ph.D.

ReDat experience v Release notes

Databázové systémy I. - II. 2009/2010

RAILTRAC 1000 UNIKÁTNÍ, FLEXIBILNÍ A VÍCEÚČELOVÝ SYSTÉM PRO SVAŘOVÁNÍ A ŘEZÁNÍ

Transkript:

Integrace dat RNDr. Ondřej Zýka ndrej.zyka@prfinit.eu 2014 Prfinit. All rights reserved.

Obsah Kategrizace integračních přístupů Krky integrace a řešení prblematických stavů Master Data Management 2014 Prfinit. All rights reserved. 2

Synchrnní Asynchrnní Akceptvaný pžadavek na primárním systému je akceptván na všech systémech. Akceptvaný pžadavek se přenese na všechny systémy, tam není zaručena jeh akceptace. Všechny strany vidí najednu stejná data. Všechny strany dstanu všechny pžadavky. Technicky nerealizvatelné Výkn dpvídá nejslabšímu článku systému Průchdnst jak infrastruktura dvlí. Aby prběhla transakce, musí být celý systém funkční Dvjfázvý cmmit Výpadek cílvéh systému nevlivní schpnst zadat pžadavky. Různé typy pštvních (messaging) systémů 2014 Prfinit. All rights reserved.

Shrt-live transactin Lng-live transactin Rychlst transakcí závisí puze na výknu infrastruktury. V rámci transakce je mžná interakce uživatele Prvedení maximálně v řádu sekund Výpadek infrastruktury transakci uknčí. Pužívá se rllback Například databázvá transakce Může trvat i jedntky dnů Transakce přežije výpadek infrastruktury Pužívá se pravný kód Například transakce v BPM systémech 2014 Prfinit. All rights reserved.

Datvá integrace Materializvané úlžiště Virtuální phledy Vzniká nvé úlžiště integrvaných dat Puze metadata mdelech, vazbách a transfrmacích Umžňuje výpčetně nárčné algritmy integrace Data se získávají a transfrmace se prvádějí až při dtazu Dtazy na integrvaná data jsu rychlé, zvládají velké mnžství dtazů Není třeba udržvat integrvaná data (velikst, výpčtvá nárčnst, aktuálnst) Příklady Puze malý pčet dtazů DWH ODS Příklady Dhled a prvz 2014 Prfinit. All rights reserved.

Datvá integrace ETL, ELT Replikace Extract-Transfrm-Lad Replikace datvých prstrů Extract-Lad-Transfrm Replikace na úrvni transakcí Dávkvé zpracvání Malé mžnsti transfrmací Pdpra slžitých transfrmací Real-time integrace Full lad, přírůstkvý lad Vyžaduje vyspělejší databáze Primárně pr Datvý sklad Asynchrnní integrace 2014 Prfinit. All rights reserved.

Federatin Mediatin Systém umžňuje (vynucuje) aby pžadavky vznikaly jeh prstřednictvím a rzprstírá je d jedntlivých systémů. Příklady MDM aplikace ESB Reaguje se na změny v jedntlivých systémech a ty se předávají statním systémům Příklady Messaging Replikace 2014 Prfinit. All rights reserved.

Sender Receiver Publisher Subscriber Zdrj zná své cíle Zdrj je schpen reagvat na zprávy d cíle Cíl je schpen infrmvat zdrj Chybná zpráva Žádst pakvání Zdrj se nezajímá cíle, mnžství a typy cílů zdrj nijak nevlivňují Cíl může debírat data bez znalsti zdrje Cíl nemá zaručen, že má všechny data Žádst synchrnizaci (všechna data) Subsriber A Publisher Sender Receiver Subscriber B 2014 Prfinit. All rights reserved.

Pint-t-pint Hub and Spke Přímá kmunikace mezi systémy navzájem Každý systém kmunikuje puze s centrální systémem (Hub) Každý systém mnh partnerů Různé technlgické úrvně, materializvané i virtuální data Příklady: ESB, MDM, ODS Systém A Systém E Systém B Systém A Systém B Hub systém 2014 Prfinit. All rights reserved. Systém D Systém C

Granularita integrace Full (business) bject Data recrd Infrmace vždy celém bjektu Snadná identifikace změn Snadná inicializace Snadné řešení relačních vazeb a knzistencí Nutnst zpracvat celý bjekt ve zdrji a cíli Vyské nárky na přensvu kapacitu Jedndušší způsb získávání stavu před a p změně Veliké mnžství malých zpráv - nárky na režii přensů Vyské nárky na věření integrity na cílvé straně 2014 Prfinit. All rights reserved.

Krky integrace Identifikace změny Insert záznamu Update záznamu Delete záznamu Prblematika více systémů Integrace na základě času Integrace na základě datvé kvality Řešení nedstupnsti dat 2014 Prfinit. All rights reserved. 11

Identifikace změny Indikace změn Timestamp Frnta událstí Technlgicky (triggery) Aplikačně Indikace rzsahu změn Objekt/záznam Plžka/atribut, slupec Data Identifikace změny Nvá data Nvá i půvdní data 2014 Prfinit. All rights reserved. 12

Insert Nvý záznam Výsledek Neúplný záznam Neknzistentní záznam Duplicitní záznam Řešení Odmítnutí Dčasný zápis Validační prces 2014 Prfinit. All rights reserved. 13

Update Update záznamu Výsledek Prušení knzistence Vytvření duplicity Vytvření neúplnéh záznamu Nerzpznání měněnéh záznamu (ztráta infrmace změně) 2014 Prfinit. All rights reserved. 14

Delete Delete záznamu Výsledek Mnh typů zrušení záznamu neaktivní Vznik neknzistencí Řešení dknčený zrušený fyzický delete Lgické zrušení (více typů mapvání na stavy zdrjvých systémů) Fyzické zrušení 2014 Prfinit. All rights reserved. 15

Prblematika více systémů Nvé typy tázek Který systém má pravdu Prč má pravdu Jaké jiné hdnty jsu v některém systému zadány Jaké hdnty byly v kterém systému v minulsti Na základě jakých příčin se měnily dat v jedntlivých systémech 2014 Prfinit. All rights reserved.

Integrace na základě času Nvější údaje jsu přesnější Definice času údaje Zadání d primárníh systému Dba přenesení d cílvéh systému Jak řešit paralelní zadávání dat? Granularita identifikace času Pr celý záznam Pr jedntlivé datvé plžky 2014 Prfinit. All rights reserved. 17

Příklad pužití datvé kvality Cmplete user prfile Scheduled Scheduled time time DQ DQ Real time Real time DQ DQ Scheduled Scheduled aircraft aircraft type type DQ DQ Real aircraft Real aircraft type type DQ DQ Sep 21 Sep 2004 21 2004 9:05PM 9:05PM 8 8 Sep 21 Sep 2004 21 2004 8:59PM 8:58PM 6 9 M84 M84 7 7 M83 M83 5 5 Accunt infrmatin histry SRC Scheduled time DQ Real time DQ Scheduled aircraft type DQ Real aircraft type DQ SC Sep 21 2004 9:05PM 30 99 M83 30 99 FO Sep 21 2004 9:05PM 20 99 M83 15 99 MD Sep 21 2004 9:05PM 10 99 M84 7 99 AG Sep 21 2004 9:05PM 8 Sep 21 2004 9:00PM 20 99 M83 20 RL 99 Sep 21 2004 9:00PM 12 99 99 SI 99 Sep 21 2004 8:58PM 9 99 M83 5 MR 99 Sep 21 2004 8:59PM 6 99 M83 6 Zrušení infrmace v primárním systému 2014 Prfinit. All rights reserved.

Řešení nedstupnsti dat Definice Zdrj Kvalita dat Null hdnta Datawarehuse 70 Ne Systém 90 Ne Druhý systém 80 An Příchzí data Zdrj Jmén Výsledek Datawarehuse Systém Druhý systém Pavel Jirka Tmáš? Vyšší hdnta kvality dat má přednst 2014 Prfinit. All rights reserved. 19

Řešení nedstupnsti dat Definice Zdrj Kvalita dat Null hdnta Datawarehuse 70 Ne Systém 90 Ne Druhý systém 80 An Příchzí data Zdrj Jmén Výsledek Datawarehuse Systém Druhý systém Pavel Jirka Tmáš Jirka Vyšší hdnta kvality dat má přednst 2014 Prfinit. All rights reserved. 20

Řešení nedstupnsti dat Definice Zdrj Kvalita dat Null hdnta Datawarehuse 70 Ne Systém 90 Ne Druhý systém 80 An Příchzí data Zdrj Jmén Výsledek Datawarehuse Systém Druhý systém Pavel Tmáš Tmáš Vyšší hdnta kvality dat má přednst 2014 Prfinit. All rights reserved. 21

Pužití Null hdnt Definice Zdrj Kvalita dat Null hdnta Datawarehuse 70 Ne Systém 90 Ne Druhý systém 80 An Příchzí data Zdrj Jmén Výsledek Datawarehuse Pavel Systém Druhý systém 2014 Prfinit. All rights reserved.

Master Data Management Správa klientů PARTY Rle a vazby (Haushlding, eknmicky spjaté subjekty, externí infrmace, scring, ) Správa prduktů Ddavatelé, Obchdní prces, Design, Marketing, Nacenění, Partneři, Interní systémy, Náklady, Reprting, Knslidace prduktů Správa centrálních číselníků Histrizace, plánvání, různé verze pravdy, prpagace d systémů Master Reference Data Master Systém f Recrds Master Registry Synchrnizace 2014 Prfinit. All rights reserved. 23

Master Reference Data Zdrj A Datvá integrace Autmatické dávkvé neb real-time zpracvání. Čištění, integrace, Standardizace, Zdrj B Data Warehuse Exceptins Zdrj C Správa výjimek 2014 Prfinit. All rights reserved. 24

Master System f Recrd Zdrj A Datvá integrace Autmatické dávkvé neb real-time zpracvání. Čištění, integrace, Standardizace, Zdrj B Master Databáze Zdrj C Správa výjimek Nvé aplikace 2014 Prfinit. All rights reserved. 25

Master Registry Zdrj A Datvá integrace Autmatické dávkvé neb real-time zpracvání. Čištění, integrace, Standardizace, Zdrj B Zdrj C Registr vazeb Správa výjimek Nvé aplikace 2014 Prfinit. All rights reserved. 26

Synchrnizatin Zdrj A Datvá integrace Autmatické dávkvé neb real-time zpracvání. Čištění, integrace, Standardizace, Zdrj B Zdrj C Správa výjimek 2014 Prfinit. All rights reserved. 27

Integrace Integrací vzniká nvá kvalita. Nutn uvažvat pžadavky na dzr nutnst kmunikace se správci jedntlivých systémů údržba jedntlivých systému vytvření adekvátní rganizační struktury řízení změn je nutné na úrvni všech integrvaných systémů!!!! Zásah d libvlnéh systému se může prjevit jak závažný prblém v statních systémech. 2014 Prfinit. All rights reserved. 28

Integrace rizika prjektů Testvání Testvání je slžité a časvě nárčné Čast nutnst míchání různá testvací a prdukční prstředí Nutnst zapjení testerů (autmatů) d všech systémů Nasazení Nemžnst paralelníh běhu Prvz - nutnst přípravy na výskyt nečekávaných stavů nepředpkládané interakce smyčky v přensu vzájemné vlivňvání systémů změna chvání uživatelů 2014 Prfinit. All rights reserved. 29

Integrace rizika prjektů Bezpečnst ztráta infrmací neautrizvané mdifikace právní dpvědnst pravdivst infrmací půvd infrmací krádež služeb ztráta důvěry zákazníků příležitst pr fraud 2014 Prfinit. All rights reserved. 30

C si zapamatvat Kategrizace integračních přístupů Techniky indikace dat Rzdíl mezi synchrnní a asynchrnní integrací Jaké techniky se pužívají při indikaci dat, které je nutn přenášet v rámci integrace Jaké jsu hlavní prblémy při zrušení záznamu v integračním systému Jak se pužívá datvá kvalita při integraci dat z více systémů C t je Master Data Management (MDM) Jaká jsu hlavní rizika integračních prjektů 2014 Prfinit. All rights reserved. 31

2014 Prfinit. All rights reserved. Diskuse