Migrace CIDUG. Ing. Pavel Krutina

Podobné dokumenty
prostředí IDS 11.5 na Martin Mikuškovic, ICZ a. s

O Apache Derby detailněji. Hynek Mlnařík

UNIVERZITA PALACKÉHO V OLOMOUCI

Servery Incad, stav k

FRED & PostgreSQL. CZ.NIC, z.s.p.o. Jaromír Talíř <jaromir.talir@nic.cz>

Obsah. Kapitola 1. Kapitola 2. Kapitola 3. Kapitola 4. Úvod 11. Stručný úvod do relačních databází 13. Platforma 10g 23

B Organizace databáze na fyzické úrovni u serveru Oracle

Databázové systémy Cvičení 5.2

MARIE PACS S PACSem hezky od podlahy když se data sypou!

Diplomová práce. On-line databáze provozních dat pro laboratorní odparku. Jan Polnický VŠCHT FCHI, ASŘ 2001/2002

Obsah přednášky. Představení webu ASP.NET frameworky Relační databáze Objektově-relační mapování Entity framework

Nové vlastnosti IDS Beta 3

Databáze II. 1. přednáška. Helena Palovská

8.2 Používání a tvorba databází

7. Integrita a bezpečnost dat v DBS

7. Integrita a bezpečnost dat v DBS

Databázové systémy. - SQL * definice dat * aktualizace * pohledy. Tomáš Skopal

Zálohování INFORMIXu z historie po současnost CIDUG. Petr Pomykáček Petr.Pomykacek@d-prog.cz CIDUG

Primární klíč (Primary Key - PK) Je právě jedna množina atributů patřící jednomu z kandidátů primárního klíče.

Paralelní dotazy v PostgreSQL 9.6 (a 10.0)

Databáze I. 5. přednáška. Helena Palovská

Ukládání a archivace dat

Programování a implementace Microsoft SQL Server 2014 databází

BrightStor ARCserve Backup r Michal Opatřil - Consultant - michal.opatril@ca.com

RNDr. Michal Kopecký, Ph.D. Department of Software Engineering, Faculty of Mathematics and Physics, Charles University in Prague

Zálohování pro začátečníky. Ondřej Caletka

DataDomain pod drobnohledem

Administrační systém ústředen MD-110

Přehled systému Microsoft SQL Server. Komu je kniha určena Struktura knihy Nejvhodnější výchozí bod pro čtení knihy Konvence a struktura knihy

Informační systémy 2008/2009. Radim Farana. Obsah. Základní principy XML

IW3 MS SQL SERVER 2014

Kapitola 6: Omezení integrity. Omezení domény

Instalace a konfigurace

Stěhování aplikací. Michal Tomek, Sales Manager

Příloha 1 - stav oběhu papírových dokumentů před implementací systému

Zajištění dostupnosti vybraných IT služeb

Optimalizace plnění a aktualizace velkých tabulek. Milan Rafaj, IBM

Centralizace aplikací ve VZP

Jak ušetřit místo a zároveň mít data snadno dostupná. David Turoň

Transakce a zamykání. Administrace MS SQL Serveru (NDBI039) Pavel Hryzlík

DODATEČNÉ INFORMACE K ZADÁVACÍM PODMÍNKÁM Č. 18

Relační DB struktury sloužící k optimalizaci dotazů - indexy, clustery, indexem organizované tabulky

CSPUG 2011-květen. GridSQL a pg-pool II. Vratislav Beneš benes@optisolutions.cz

Databázové systémy, MS Access. Autor: Ing. Jan Nožička SOŠ a SOU Česká Lípa VY_32_INOVACE_1130_Databázové systémy, MS Access_PWP

Databáze I. Přednáška 4

Operační systémy. Jednoduché stránkování. Virtuální paměť. Příklad: jednoduché stránkování. Virtuální paměť se stránkování. Memory Management Unit

Databáze 2011/2012 SQL DDL (CREATE/ALTER/DROP TABLE), DML (INSERT/UPDATE/DELETE) RNDr.David Hoksza, Ph.D.

Windows Server 2012 Licenční změny

01. Kdy se začala formovat koncept relačních databází (Vznik relačního modelu, první definice SQL)? a) 1950 b) 1960 c) 1970 d) 1980

Přednáška. Správa paměti II. Katedra počítačových systémů FIT, České vysoké učení technické v Praze Jan Trdlička, 2012

Fakulta elektrotechniky a informatiky Databázové systémy 2. Leden 2010 souhrn. Červené dobře (nejspíš), modré možná

KAPITOLA 1 Představení platformy Microsoft SQL Server 2008

Monitorování a audit databází v reálném čase. Ing. Jan Musil IBM Česká republika

2. blok část B Základní syntaxe příkazů SELECT, INSERT, UPDATE, DELETE

IT 3. Projekt centrálního zálohovacího systému v ČSOB Pojišťovně. Michal Mikulík. špička v každém směru

Data Protection Delivery Center, s. r. o. JEDNODUCHOST, SPOLEHLIVOST a VÝKONNOST. DPDC Protection. zálohování dat

1. Databázové systémy (MP leden 2010)

Kurz Databáze. Přechod na SQL server. Obsah. Vytvoření databáze. Lektor: Doc. Ing. Radim Farana, CSc.

Administrace Oracle. Práva a role, audit

Úvod do Entity Frameworku

SSD vs. HDD / WAL, indexy a fsync

VÝZVA K PODÁNÍ NABÍDKY NA VEŘEJNOU ZAKÁZKU MALÉHO ROZSAHU

Ukázka knihy z internetového knihkupectví

VYSOKÁ ŠKOLA BÁŇSKÁ TECHNICKÁ UNIVERZITA OSTRAVA FAKULTA STROJNÍ

Databázové systémy I

Healtcheck. databáze ORCL běžící na serveru db.tomas-solar.com pro

Aktuální otázky provozu datových skladů PAVEL HNÍK

TSM for Virtual Environments Data Protection for VMware v6.3. Ondřej Bláha CEE+R Tivoli Storage Team Leader. TSM architektura IBM Corporation

Monitoring SQL Server, Resource Governor, Tracing SQL Server

Databáze I. 1. přednáška. Helena Palovská

Kurz Databáze. Obsah. Dotazy. Zpracování dat. Doc. Ing. Radim Farana, CSc.

Databázové systémy. Cvičení 6: SQL

Přechod na virtuální infrastrukturu

Databázové systémy. Datová integrita + základy relační algebry. 4.přednáška

Příloha č.2 - Technická specifikace předmětu veřejné zakázky

Operační systémy. Přednáška 7: Správa paměti I

PRŮBĚHOVÝ TEST Z PŘEDNÁŠEK

Oracle XML DB. Tomáš Nykodým

Konverze systému MIBCON na S/4HANA. Jiří Suchánek Michaela Guthová

Operační systémy. Správa paměti (SP) Požadavky na SP. Spojování a zavedení programu. Spojování programu (linking) Zavádění programu (loading)

SQL v14. 4D Developer konference. 4D Developer conference 2015 Prague, CZ Celebrating 30 years

Architektura počítačů

Informační systémy 2008/2009. Radim Farana. Obsah. Jazyk SQL

aniel Dvořák, Martin Mičan Liberec Windows Server 2012/R2 Migrační scénáře

Přednáška. Správa paměti I. Katedra počítačových systémů FIT, České vysoké učení technické v Praze Jan Trdlička, 2012

Informix Dynamic Server Multi-instance Active Cluster pro vysokou dostupnost. Jan Musil IT Specialist SWG IBM. IBM Informix Dynamic Server

Nové vlastnosti Informix v Petr Pomykáček

Lekce 03 Prostředí programu SCRATCH

Operační systémy. Přednáška 8: Správa paměti II

SQL - trigger, Databázové modelování

17. července :51 z moravec@yahoo.com

Jan Tkáč AutoCont Privátní cloud

4IT218 Databáze. 4IT218 Databáze

Realizace datového centra kraje Vysočina Regionální SAN kraje Vysočina


Transakce a zamykání Jiří Tomeš

Modul. Univerzální tabulkový export

Vytváření uživatelských datových typů a funkcí v Javě

Programování v jazyku C# II. 5.kapitola

VirtualizaceKlatovské nemocnice a.s.

Transkript:

d-prog s.r.o. Migrace Ing. Pavel Krutina 11.9.2008

Osnova Migrace Typy migrace Postupy migrace Problémy migrace Paralelizace Co lze paralelizovat Postup paralelizace Rizika paralelizace 2

Co je migrace? Přesun instance databázového serveru 3

Typy migrace Na novou verzi na stejném hardware na nový hardware Na nový hardware na stejnou verzi na novou verzi Nová inicializace unavený server 4

Způsob migrace Online Binární data Nová verze sama konvertuje interní struktury onmode b Přesun dat Textový tvar přes filesystém Binární tvar přímým přesunem dat 5

Online migrace Záloha na výchozí instanci Obnova na cílové instanci Ontape, onbar, externí záloha Přesun dat Velký soubor z ontape stdio + pipe 6

Online migrace Výhody Rychlost Nepotřebuje místo ve filesystému Test obnovy Nevýhody Nelze nic měnit Konverze vnitřních struktur 7

Online migrace - binární Binární data onunload onload 8

Online migrace - binární Výhoda Rychlost Nevýhody Stejné verze Informixu Omezené možnosti změn Jen některé datové typy 9

Přesun dat Unload dat ze staré instance Load dat do nové instance Kritický je objem přesouvaných dat!!! 10

Obecný postup 1 - dbexport Export dat dbexport Přesun dat ftp, rcp, scp, rsh Import dat dbimport 11

Obecný postup 1 - dbexport Výhody Je to jednoduché Data jsou konzistentní Problémy Je nutné dostatečné místo na disku Je nutné čekat na dokončení operace Je to pomalé!!! 12

Obecný postup 1 - HPL Výhody Unload a load se zrychlí Problémy Místo na disku Vytváření indexů, constraintů 13

Typická migrace Přechod na nový HW starý hw - 4Gb RAM, 4cpu, 400Gb disků nový hw - 64Gb RAM, 16cpu, 4Tb disků Změna verze na 11.50 původní verze 7.31uc6ax7 14

Managerská omezení V noci z 31.12. na 1.1. od 20.00 Maximálně8 hodin odstávky... 15

Provozní realita dbexport trvá 38 hodin dbimport trvá 66 hodin export má celkem 265 GB dat ve fs je k dispozici 16GB volného místa... 16

Další požadavky Vytvořit více dbspace stará verze ma jen rootdbs, tempdbs, blobdbs Využít velké chunky stará verze má 382 chunků Vytvořit fragmentaci některé tabulky mají 16000000 stránek Použít smartblobs stará verze používá BYTE 17

A co teďs tím vším?? a co třeba něco paralelizovat? 18

Co lze paralelizovat? Nezávislé činnosti unload dat z tabulky load dat do tabulky vytvoření indexů Závislé činnosti foreign constrainty 19

Obecný postup 2 - paralelizace Příprava prostorů Alokace místa pro tabulky Přesun dat unload, přesun, load insert... select Vytvoření indexů, constraintů Zbytek view procedury, triggery 20

Příprava prostorů Alokace místa při vytvoření tabulky first extent, next extent dbimport 10:1 předpokládaný nárůst objemu tabulky Umístění tabulky v dbspace in dbspace Fragmentace tabulky fragment by... 21

Přesun dat - jednoduchý unload dbaccess unload to... select * from... přesun ftp, scp, rcp load dbaccess dbload 22

Přesun dat - jednoduchý Nevýhody Místo na disku Čekání na ukončení operace Přesun po síti trvá dlouho diskové pole 23

Přesun dat insert... select Servery musí existovat současně Přímé spojení mezi servery Jednoduché datové typy 24

Přesun dat insert... select Výhody Není potřeba místo na disku Nejsou 3 oddělené fáze Nevýhody Ne vždy funguje 25

Přesun velkých tabulek Rozdělení tabulky na části podle primárního klíče podle rowid přibližněstejněvelké části 26

Paralelizace přesunu Všechny sql operace unload load insert select 27

Vytvoření indexů Problém Více indexůnad jednou tabulkou Řešení Paralelizovat po tabulkách 28

Vytvoření constraintů Navazují na indexy Primary, unique Používají 1 tabulku Foreign Používají 2 tabulky 29

Foreign constraints Nelze snadno paralelizovat Tabulky jsou zamykány po dvojicích Nelze odhadnout čas provádění 2 fáze Paralelněpo tabulkách Sekvenčněvšechno Známé chyby -577, -625 30

Zbytek Procedury View Triggery Grant Jen sekvenční činnost 31

Podpůrné programy Vytvoření migračních skriptů Generace sql schémat Paralelní zpracovaní sql Korekce sql schematů 32

Vytvoření migračních skriptů 33

Generace sql schémat Generace jednotlivých skupin sql tabulky indexy constrainty... Generace blokůsql operací --[... začátek bloku --]... konec bloku 34

Paralelní zpracování sql Paralelní provádění jednotlivých sql příkazů Jednoduchý sql skript neobsahuje definice SPL procedur Bloky sql operaci --[... zacatek --]... konec Spouští dbaccess 35

Korekce sql schemat Velikost tabulek first extent, next extent Umístění tabulek in <dbspace> 36

Rizika paralelizace Přesun všech dat Konzistence dat 37

Děkujeme za Vaši pozornost pavel.krutina@d-prog.cz