Lineární kódy, část 2 Odpřednesenou látku naleznete v kapitole 3.3 skript Diskrétní matematika. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 1/12
Dnešní přednáška 1 Analýza Hammingova (7, 4)-kódu. 2 Návrh lineárního kódu s předepsanými vlastnostmi. Další možné doplňující informace 1 J. Adámek, Foundations of coding, John Wiley & sons, 1991 2 D. J. C. MacKay, Information Theory, Inference and Learning Algorithms, Cambridge Univ. Press, 2003 Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 2/12
Připomenutí: Z 2 = {0, 1}, s operacemi sčítání a násobení danými tabulkami + 0 1 0 0 1 1 1 0 0 1 0 0 0 1 0 1 je těleso. Teorie lineárních prostorů nad obecným tělesem F byla vybudována. Pro F = Z 2 tedy umíme: 1 Určit bázi a dimensi podprostorů W lineárního prostoru (Z 2 ) n. 2 Pracovat s maticemi nad Z 2 a řešit soustavy lineárních rovnic nad Z 2. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 3/12
Definice Lineární 2-kód délky n a dimense k je lineární podprostor W prostoru (Z 2 ) n, dim(w ) = k, 0 k n. Terminologie: 1 Prvkům W říkáme kódová slova. 2 Generující matice: báze G = (g 1,..., g k ) prostoru W napsaná do řádků matice G. Platí: rank(g) = k. 3 Souřadnicím coord G (x) = (a 1,..., a k ) říkáme informační bity. Součin (a 1,..., a k ) G je příslušné kódové slovo w = k i=1 a i g i. 4 Kontrolní matice: báze H = (h 1,..., h n k ) ortogonálního doplňku prostoru W napsaná do řádků matice H. 5 Test při přijetí slova v: výpočet syndromu přijatého slova s = H v T. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 4/12
Příklad (Hammingův (7, 4)-kód) Jde o lineární 2-kód délky 7 a dimense 4 s generující maticí g 1 1 0 0 0 0 1 1 G = g 2 g 3 = 0 1 0 0 1 0 1 0 0 1 0 1 1 0 g 4 0 0 0 1 1 1 1 1 rank(g) = 4, tudíž máme k disposici 4 info bity. 2 Dimense ortogonálního doplňku 7 4 = 3. Informace bude chráněna třemi bity (redundance). 3 Posílání zpráv: info (1, 1, 0, 1) vytváří kódové slovo (1, 1, 0, 1) G = (1, 1, 0, 1, 0, 0, 1). Pozorování: G je tvaru (E B). Jde o systematický kód (více později). Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 5/12
Příklad (Hammingův (7, 4)-kód, pokrač.) Kontrolní (Hammingova) matice h 1 0 0 0 1 1 1 1 H = h 2 = 0 1 1 0 0 1 1 h 3 1 0 1 0 1 0 1 Jde o ideální kód, pokud došlo nejvýše k jedné chybě: 1 Odesláno w, přijmeme v a předpokládáme, že došlo k nejvýše jedné chybě. Tj. v = w + e (e je error pattern). Víme, že e obsahuje nejvýše jednu jedničku. 2 Spočteme syndrom s slova v: s T = Hv T = He T. Jestliže s = o, při přenosu nedošlo k chybě. Jestliže s je i-tý sloupec H, došlo k chybě na i-tém místě, opravíme. 3 Isolujeme info bity. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 6/12
Příklad (Hammingův (8, 4)-kód: úprava (7, 4)-kódu) Hammingův (7, 4)-kód není schopen detekovat dvě chyby. Například: chyba na 3. posici je nerozeznatelná od dvou chyb na 1. a 2. posici současně. Důvod: v matici 0 0 0 1 1 1 1 H = 0 1 1 0 0 1 1 1 0 1 0 1 0 1 je součet 1. a 2. sloupce roven 3. sloupci. Upravíme H na 0 0 0 1 1 1 1 0 H = 0 1 1 0 0 1 1 0 1 0 1 0 1 0 1 0 1 1 1 1 1 1 1 1 Tím se změní i generující matice. Nová matice G má ale opět hodnost 4. Zvětšili jsme délku kódu. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 7/12
Obecný vztah matic G a H Rozměry G: n sloupců, k řádků, rank(g) = k. Rozměry H: n sloupců, n k řádků, rank(h) = n k. G a H jsou ortogonální, tj. G H T = 0 k,n k (nulová matice: k řádků, n k sloupců). 1 Známe-li G, lze spočíst H: řádky H jsou prvky fundamentálního systému homogenní rovnice Gx = o. 2 Známe-li H, lze spočíst G: řádky G jsou prvky fundamentálního systému homogenní rovnice Hx = o. Důvod: 0 n k,k = 0 T k,n k = (G HT ) T = H G T. 3 Jestliže G = (E k B), kde E k je jednotková matice typu k k (tj. když jde o systematický kód), pak je možné zvolit H = ( B T E n k ). Nad Z 2 je samozřejmě B T = B T. Výhoda systematických kódů: je snadné oddělit informační a kontrolní bity. Hammingův (7, 4)-kód a 10-ISBN kód jsou příklady systematických kódů. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 8/12
Příklad (opakovací kód) Jde o systematický kód délky n = 2k, dimense k, s generující maticí G = (E k E k ) a kontrolní maticí H = (E n k E n k ) = (E k E k ). Platí totiž n k = k. Informace x vytváří kódové slovo w = (x, x). Nevýhoda: příliš mnoho kontrolních bitů. Problém návrhu lineárního kódu Jak vyvážit následující požadavky? Chceme co největší opravné schopnosti kódu a co nejmenší počet kontrolních bitů. Tyto požadavky jsou protichůdné. To plyne z analýzy hodností matic G a H. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 9/12
Definice (Hammingova váha a vzdálenost) Pro vektor w v (Z 2 ) n definujeme jeho Hammingovu váhu weight(w) jako počet nenulových položek vektoru w. dist(w 1, w 2 ) vektorů w 1 a w 2 v (Z 2 ) n je číslo weight(w 1 w 2 ). Lemma ( je metrika na (Z 2 ) n ) Platí: a 1 dist(w 1, w 2 ) 0, dist(w 1, w 2 ) = 0 právě tehdy, když w 1 = w 2. 2 dist(w 1, w 2 ) = dist(w 2, w 1 ). 3 dist(w 1, w 3 ) dist(w 1, w 2 ) + dist(w 2, w 3 ). a Vzpomeňte si na vlastnosti metriky indukované normou. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 10/12
Tvrzení (výpočet minimální distance kódu) At W je jineární kód délky n a dimense k nad Z 2, at w 0 je ve W. Potom platí rovnost: min{dist(w, w 0 ) w w 0 } = min{weight(w) w je nenulový vektor ve W } Důkaz. Plyne z dist(w, w 0 ) = dist(w w 0, o) = weight(w w 0 ). Definice (minimální distance kódu) Číslu min{weight(w) w je nenulový vektor ve W } říkáme minimální distance kódu W a značíme ji d W. Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 11/12
Definice (detekce a oprava chyb) At W je jineární kód délky n a dimense k nad Z 2. Řekneme, že 1 W detekuje t chyb, pokud pro každé w ve W a každé e takové, že weight(e) t, platí: w + e není ve W. 2 W opravuje t chyb, pokud pro každé w ve W a každé e takové, že weight(e) t, platí: dist(w, w + e) = d W. Věta Lineární kód W detekuje d W 1 chyb a opravuje t < d W 2 Příklady 1 Hammingův (7, 4)-kód: d W = 3. 2 Hammingův (8, 4)-kód: d W = 4. Více například v knize chyb. D. J. C. MacKay, Information Theory, Inference and Learning Algorithms, Cambridge Univ. Press, 2003 Jiří Velebil: A7B01LAG 22.12.2014: Lineární kódy, část 2 12/12