Algoritmy komprese dat

Transkript

1 Algoritmy komprese dat Úvod do teorie informace Claude Shannon ( ) NSWI072-7

2 Teorie informace Informace Co je to informace? Můžeme informaci měřit? Existují teoretické meze pro délku zprávy nesoucí danou informaci? 2

3 Hartleyho vzorec Motivační hra: Informace obsažená ve zprávě minimální # otázek typu ANO/NE kterými lze odhalit obsah zprávy Ralph Hartley (1928) Je-li neznámá x prvkem n prvkové množiny, pak informace, kterou x nese, má hodnotu log2 n bitů. 3

4 Hartleyho vzorec H = n, (x 1,, x k ) H k Buď S k nejmenší # otázek, nutný k určení všech xi log 2 n k S k < log 2 n k +1 log 2 n S k / k log 2 n + 1/k Závěr S k / k = průměrný # otázek potřebných k určení jednoho prvku 4

5 Shannonův vzorec Buď X diskrétní náhodná veličina s oborem hodnot H a pravděpodobnostní funkcí p(x) = P(X=x) pro x H Pozorování: H = n, p(x) = 1/n pro každé x H log 2 n = log 2 1/p(x) = Σ x H p(x) log 2 1/p(x) Claude Shannon (1948): Entropie H(X) diskrétní náhodné veličiny X s oborem hodnot H je definována vztahem 5

6 Entropie Příklady motivační hra: H - množina hádaných osob kódování: H - abeceda zpráv, X - zdroj informace Zdůvodnění analogie ze statistické mechaniky (Ludwig Boltzmann, 1872) axiomatický přístup souvislost s kódováním 6

7 Základní vlastnosti Věta. H(X) 0. Lemma. Nechť. Pak a rovnost nastane právě když p i =q i pro každé 1 i k. Věta. Pro náhodnou veličinu X s konečným oborem hodnot H, H =n, platí H(X) log n, přičemž rovnost nastane právě tehdy, když p(x) = 1/n pro každé x H. 7

8 Entropie axiomatický přístup Věta. Nechť posloupnost funkcí H n (p 1, p 2,..., p n ), n=2,3,..., splňuje následující axiomy H 2 (1/2, 1/2) = 1 H 2 (p,1-p) je spojitá v oboru 0 p 1 H n+1 (p 1,...,p n-1,q 1,q 2 ) = H n (p 1,...,p n ) + p n H 2 (q 1 /p n, q 2 /p n ), kde p n =q 1 +q 2 >0, p i 0, p p n = 1. Pak pro n=2,3,... platí H n (p 1,p 2,...,p n )= nx p i log 2 p i i=1 8

9 Problémy ➀ Definujte entropii pro diskrétní náhodný vektor X ➁ Rozhodněte, zda platí: Pro n-rozměrný náhodný vektor X=(X 1,...,X n ), jehož složky jsou nezávislé náhodné veličiny se stejným rozdělením psti, platí H(X) = n H(X i ). 9

10 Teorie informace teorie kódování Kód C pro diskrétní náhodnou veličinu X s oborem hodnot H je zobrazení C: H {0,1} *. Kód C generuje kódování C * : H * {0,1} * definované C * (x 1...x k ) = C(x 1 )...C(x k ). Kód C je jednoznačně dekódovatelný, pokud u,v H *, C * (u)=c * (v) u = v. Průměrnou délku kódového slova L(C) kódu C pro diskrétní náhodnou veličinu X s pravděpodobnostní funkcí p(x) definujeme jako L(C)=Σ x H p(x) C(x). 10

11 Horní a dolní odhady Věta (Kraft-McMillan) Délky l 1,l 2, kódových slov jednoznačně dekódovatelného kódu C splňují i 2 -l i 1. Naopak, pokud přirozená čísla l 1,l 2, splňují tuto nerovnost, pak existuje prefixový kód s kódovými slovy o těchto délkách. Věta Buď C jednoznačně dekódovatelný kód pro náhodnou veličinu X. Pak H(X) L(C). 11

12 Horní a dolní odhady Věta. Pro libovolný optimální prefixový kód C pro náhodnou veličinu X platí H(X) L(C) < H(X) + 1. Důsledek. Pro průměrnou délku kódového slova L Huffmanova kódu platí H L < Η

13 Příklad znak četnost entropie Huffmanův kód E bitu 1 bit A bitu 2 bity X 3 4 bity 3 bity Y 3 4 bity 4 bity Z bitu 4 bity 13

14 Huffmanův kód nad rozšířenou abecedou A = {a 1,...,a m } A (n) = {a 1 a 1...a 1,a 1 a 1...a 2,...,a m a m...a m } n-krát{ n-krát{ n-krát{ Problém odvoďte dolní a horní odhad pro průměrnou délku kódového slova Huffmanova kódu nad abecedou rozšířenou na bloky n znaků můžete předpokládat, že znaky zpráv jsou» nezávislé» se shodným rozdělením psti» a entropií H 14

15 Analýza aritmetického kódování Buď X diskrétní náhodná veličina s oborem hodnot H = {1,2,3,...} a pravděpodobnostní funkcí p Poznámka: Obor hodnot n.v. X = množina zpráv, které budeme kódovat Položme F(x) = P(X x) = Σ y x p(y) = ½(F(x-1) + F(x)) = 0.y 1 y 2 y 3... y i {0,1} Pro x H položme C(x) = y 1 y 2...y l(x) l(x) = log 2 1/p(x) + 1 Závěr: Pak C je prefixový kód pro X splňující H(X) L(C) < Η(X)

16 Analýza pravděpodobnostního modelu Při popisu algoritmu aritmetického kódování jsme použili následující předpoklad: C je kódování pro náhodný vektor X = (X 1,...,X m ) takový, že X 1,...,X m jsou nezávislé náhodné veličiny se stejným rozdělením pravděpodobností Pro X = (X,...,X) pak platí H(X) L(C) Η(X) + 2 H(X) L(C) / m Η(X) + 2 / m 16

17 Návrh pravděpodobnostního modelu p(x 1 x 2... x m ) = p(x 1 ) p(x 2 )... p(x m ) Problém: Jak odhadnout p(x i x 1 x 2... x i-1 )? Řešení: Předpoklad p(x i x 1 x 2... x i-1 ) = p(x i x i-k x i-k+1... x i-1 ) Model s konečným kontextem řádu k 17

18 Experimentální určení entropie anglického textu Anglický text - slovo nad abecedou A = {26 písmen bez rozlišení velikosti} {mezera} C.Shannon (1951) # pokusů >5 četnost 79% 8% 3% 2% 2% 5% T.M.Cover, R.C.King (1978) Výsledek: 1.3b/symbol Pro srovnání anglický text bible (bible.txt, cca 4MB) PPMZ (C. Bloom): 1.47b/znak 18