Odpřednesenou látku naleznete v kapitole 3.3 skript Diskrétní matematika.

Transkript

1 Lineární kódy, část 2 Odpřednesenou látku naleznete v kapitole 3.3 skript Diskrétní matematika. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 1/12

2 Dnešní přednáška 1 Analýza Hammingova (7, 4)-kódu. 2 Návrh lineárního kódu s předepsanými vlastnostmi. Další možné doplňující informace 1 J. Adámek, Foundations of coding, John Wiley & sons, D. J. C. MacKay, Information Theory, Inference and Learning Algorithms, Cambridge Univ. Press, 2003 Jiří Velebil: A7B01LAG : Lineární kódy, část 2 2/12

3 Připomenutí: Z 2 = {0, 1}, s operacemi sčítání a násobení danými tabulkami je těleso. Teorie lineárních prostorů nad obecným tělesem F byla vybudována. Pro F = Z 2 tedy umíme: 1 Určit bázi a dimensi podprostorů W lineárního prostoru (Z 2 ) n. 2 Pracovat s maticemi nad Z 2 a řešit soustavy lineárních rovnic nad Z 2. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 3/12

4 Definice Lineární 2-kód délky n a dimense k je lineární podprostor W prostoru (Z 2 ) n, dim(w ) = k, 0 k n. Terminologie: 1 Prvkům W říkáme kódová slova. 2 Generující matice: báze G = (g 1,..., g k ) prostoru W napsaná do řádků matice G. Platí: rank(g) = k. 3 Souřadnicím coord G (x) = (a 1,..., a k ) říkáme informační bity. Součin (a 1,..., a k ) G je příslušné kódové slovo w = k i=1 a i g i. 4 Kontrolní matice: báze H = (h 1,..., h n k ) ortogonálního doplňku prostoru W napsaná do řádků matice H. 5 Test při přijetí slova v: výpočet syndromu přijatého slova s = H v T. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 4/12

5 Příklad (Hammingův (7, 4)-kód) Jde o lineární 2-kód délky 7 a dimense 4 s generující maticí g G = g 2 g 3 = g rank(g) = 4, tudíž máme k disposici 4 info bity. 2 Dimense ortogonálního doplňku 7 4 = 3. Informace bude chráněna třemi bity (redundance). 3 Posílání zpráv: info (1, 1, 0, 1) vytváří kódové slovo (1, 1, 0, 1) G = (1, 1, 0, 1, 0, 0, 1). Pozorování: G je tvaru (E B). Jde o systematický kód (více později). Jiří Velebil: A7B01LAG : Lineární kódy, část 2 5/12

6 Příklad (Hammingův (7, 4)-kód, pokrač.) Kontrolní (Hammingova) matice h H = h 2 = h Jde o ideální kód, pokud došlo nejvýše k jedné chybě: 1 Odesláno w, přijmeme v a předpokládáme, že došlo k nejvýše jedné chybě. Tj. v = w + e (e je error pattern). Víme, že e obsahuje nejvýše jednu jedničku. 2 Spočteme syndrom s slova v: s T = Hv T = He T. Jestliže s = o, při přenosu nedošlo k chybě. Jestliže s je i-tý sloupec H, došlo k chybě na i-tém místě, opravíme. 3 Isolujeme info bity. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 6/12

7 Příklad (Hammingův (8, 4)-kód: úprava (7, 4)-kódu) Hammingův (7, 4)-kód není schopen detekovat dvě chyby. Například: chyba na 3. posici je nerozeznatelná od dvou chyb na 1. a 2. posici současně. Důvod: v matici H = je součet 1. a 2. sloupce roven 3. sloupci. Upravíme H na H = Tím se změní i generující matice. Nová matice G má ale opět hodnost 4. Zvětšili jsme délku kódu. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 7/12

8 Obecný vztah matic G a H Rozměry G: n sloupců, k řádků, rank(g) = k. Rozměry H: n sloupců, n k řádků, rank(h) = n k. G a H jsou ortogonální, tj. G H T = 0 k,n k (nulová matice: k řádků, n k sloupců). 1 Známe-li G, lze spočíst H: řádky H jsou prvky fundamentálního systému homogenní rovnice Gx = o. 2 Známe-li H, lze spočíst G: řádky G jsou prvky fundamentálního systému homogenní rovnice Hx = o. Důvod: 0 n k,k = 0 T k,n k = (G HT ) T = H G T. 3 Jestliže G = (E k B), kde E k je jednotková matice typu k k (tj. když jde o systematický kód), pak je možné zvolit H = ( B T E n k ). Nad Z 2 je samozřejmě B T = B T. Výhoda systematických kódů: je snadné oddělit informační a kontrolní bity. Hammingův (7, 4)-kód a 10-ISBN kód jsou příklady systematických kódů. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 8/12

9 Příklad (opakovací kód) Jde o systematický kód délky n = 2k, dimense k, s generující maticí G = (E k E k ) a kontrolní maticí H = (E n k E n k ) = (E k E k ). Platí totiž n k = k. Informace x vytváří kódové slovo w = (x, x). Nevýhoda: příliš mnoho kontrolních bitů. Problém návrhu lineárního kódu Jak vyvážit následující požadavky? Chceme co největší opravné schopnosti kódu a co nejmenší počet kontrolních bitů. Tyto požadavky jsou protichůdné. To plyne z analýzy hodností matic G a H. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 9/12

10 Definice (Hammingova váha a vzdálenost) Pro vektor w v (Z 2 ) n definujeme jeho Hammingovu váhu weight(w) jako počet nenulových položek vektoru w. dist(w 1, w 2 ) vektorů w 1 a w 2 v (Z 2 ) n je číslo weight(w 1 w 2 ). Lemma ( je metrika na (Z 2 ) n ) Platí: a 1 dist(w 1, w 2 ) 0, dist(w 1, w 2 ) = 0 právě tehdy, když w 1 = w 2. 2 dist(w 1, w 2 ) = dist(w 2, w 1 ). 3 dist(w 1, w 3 ) dist(w 1, w 2 ) + dist(w 2, w 3 ). a Vzpomeňte si na vlastnosti metriky indukované normou. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 10/12

11 Tvrzení (výpočet minimální distance kódu) At W je jineární kód délky n a dimense k nad Z 2, at w 0 je ve W. Potom platí rovnost: min{dist(w, w 0 ) w w 0 } = min{weight(w) w je nenulový vektor ve W } Důkaz. Plyne z dist(w, w 0 ) = dist(w w 0, o) = weight(w w 0 ). Definice (minimální distance kódu) Číslu min{weight(w) w je nenulový vektor ve W } říkáme minimální distance kódu W a značíme ji d W. Jiří Velebil: A7B01LAG : Lineární kódy, část 2 11/12

12 Definice (detekce a oprava chyb) At W je jineární kód délky n a dimense k nad Z 2. Řekneme, že 1 W detekuje t chyb, pokud pro každé w ve W a každé e takové, že weight(e) t, platí: w + e není ve W. 2 W opravuje t chyb, pokud pro každé w ve W a každé e takové, že weight(e) t, platí: dist(w, w + e) = d W. Věta Lineární kód W detekuje d W 1 chyb a opravuje t < d W 2 Příklady 1 Hammingův (7, 4)-kód: d W = 3. 2 Hammingův (8, 4)-kód: d W = 4. Více například v knize chyb. D. J. C. MacKay, Information Theory, Inference and Learning Algorithms, Cambridge Univ. Press, 2003 Jiří Velebil: A7B01LAG : Lineární kódy, část 2 12/12