May 26, 2016 DATA SCIENCE LABORATORY D T. Fakulta informačních technologíı. Reference. Motivace Data a jejich. Hidden Markov Model

Transkript

1 České Vysoké Učení Technické v Praze Fakulta informačních technologíı May 26, 2016 D T DATA SCIENCE LABORATORY

2 Presentation Outline

3 Proč modelovat? Hlavní myšlenka: Rozdíly v chovaní zvířat jsou znatelné v příslušných modelech chování. Sledovaní změn v chovaní Porovnání chovaní jedinců

4 Odkud data pocházejí Poziční data Akce

5 Poziční data Chybějící hodnoty Šum

6 Poziční data Chybějící hodnoty Linear interpolation f L (x) = f (x 0 ) + b 1 (x x 0 ) b 1 = f (x 1) f (x 0 ) x 1 x 0

7 Poziční data Chybějící hodnoty Linear interpolation, f L Quadratic interpolation f Q (x) = f (x 0 ) + b 1 (x x 0 ) + b 2 (x x 0 )(x x 1 ) b 2 = f (x 2 ) f (x 1 ) x 2 x 1 f (x 1 ) f (x 0 ) x 1 x 0 x 2 x 0

8 Poziční data Chybějící hodnoty Linear interpolation, f L Quadratic interpolation, f Q Cubic interpolation f C = b 0 +b 1 (x x 0 )+b 2 (x x 0 )(x x 1 )+b 3 (x x 0 )(x x 1 )(x x 2 ) b 3 = f (x 3 ) f (x 2 ) x 3 x 2 f (x 2 ) f (x 1 ) x 2 x 1 f (x 1 ) f (x 0 ) x 1 x 0 x 3 x 0

9 Poziční data Chybějící hodnoty Linear interpolation, f L Quadratic interpolation, f Q Cubic interpolation, f C Kombinace f (x) = f L(x)+f Q (x) 2

10 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace y coordinate data points linear interpolation quadratic interpolation combination of interpolations x coordinate

11 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace data points linear interpolation quadratic interpolation combination of interpolations

12 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace data points linear interpolation quadratic interpolation combination of interpolations

13 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace data points 0.0 linear interpolation quadratic interpolation combination of interpolations

14 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace Filtrace šumu

15 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace Filtrace šumu Median filter

16 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace Filtrace šumu Median filter Moving average filter

17 Poziční data Chybějící hodnoty Linear interpolation Quadratic interpolation Cubic interpolation Kombinace Filtrace šumu Median filter Moving average filter Kalman filter

18 Kalman filter Proč Kalmanův filtr?

19 Kalman filter linárního systému Skrytý markovský model se spojitými stavy Initial conditions(x 0 ) Measurement(z k ) Predict step State estimate(x k ) Update step

20 Kalman filter Co je uvnitř? measurement(z) posterior(x t - 1) new estimate(xt) (posterior) x t = ẋt + Ky prior(ẋ t ) residual(y) y= z - ẋ t

21 Kalman filter

22 Kalman filter

23 Presentation Outline

24 Related work chovaní myší v labyrintu [1] s

25 Related work chovaní skotu [2] s

26 Related work chovaní skotu [2]

27 Related work chovaní lidí [3] Fuzzy Q-state learning + Agglomerative fuzzy clustering

28 Přístupy modelování sekvencí Dynamic Bayesian network

29 Přístupy modelování sekvencí Dynamic Bayesian network s

30 Přístupy modelování sekvencí Dynamic Bayesian network s Linear chain Conditional Random fields Yt-1 Yt Yt+1 Xt-1 Xt Xt+1

31 Přístupy modelování sekvencí Dynamic Bayesian network s Conditional Random fields LSTM RNN

32 Co je (HMM)? λ = (A, B, π)

33 Co je (HMM)? λ = (A, B, π)

34 Co je (HMM)? λ = (A, B, π) Množina skrytých stavů Y = {y 1, y 2,..., y N } a pozorovanych výstupů X = {x 1, x 2,..., x M }

35 Co je (HMM)? λ = (A, B, π) Množina skrytých stavů Y = {y 1, y 2,..., y N } a pozorovanych výstupů X = {x 1, x 2,..., x M } Sekvence stavů Q = q 1 q 2 q 3...q T a sekvence výstupů O = o 1 o 2 o 3...o T

36 Co je (HMM)? λ = (A, B, π) Množina skrytých stavů Y = {y 1, y 2,..., y N } a pozorovanych výstupů X = {x 1, x 2,..., x M } Sekvence stavů Q = q 1 q 2 q 3...q T a sekvence výstupů O = o 1 o 2 o 3...o T Pravděpodobnosti přechodů (transitions) A = {a ij } a ij = P(q t = y j q t 1 = y i ), 1 i, j N

37 Co je (HMM)? λ = (A, B, π) Množina skrytých stavů Y = {y 1, y 2,..., y N } a pozorovanych výstupů X = {x 1, x 2,..., x M } Sekvence stavů Q = q 1 q 2 q 3...q T a sekvence výstupů O = o 1 o 2 o 3...o T Pravděpodobnosti přechodů (transitions) A = {a ij } a ij = P(q t = y j q t 1 = y i ), 1 i, j N Pravděpodobnosti pozorovanych symbolů (emissions) B = {b i,j } b i,j = P(o t = x j q t = y i ), 1 i N, 1 i M

38 Co je (HMM)? λ = (A, B, π) Množina skrytých stavů Y = {y 1, y 2,..., y N } a pozorovanych výstupů X = {x 1, x 2,..., x M } Sekvence stavů Q = q 1 q 2 q 3...q T a sekvence výstupů O = o 1 o 2 o 3...o T Pravděpodobnosti přechodů (transitions) A = {a ij } a ij = P(q t = y j q t 1 = y i ), 1 i, j N Pravděpodobnosti pozorovanych symbolů (emissions) B = {b i,j } b i,j = P(o t = x j q t = y i ), 1 i N, 1 i M Pravděpodobnosti počátečních stavů π = {π i } π i = P(q 1 = y i ), 1 i N

39 Jak HMM použít? P(O, Q) - Trellis diagram q 1 q 2 q 3 q T o 1 o 2 o 3 o T

40 Jak HMM použít? P(O, Q) - Trellis diagram q 1 q 2 q 3 q T o 1 o 2 o 3 o T T P(o 1,..., o T, q 1,..., q T ) = P(q 1 )P(o 1 q 1 ) P(q k q k 1 )P(o k q k ) k=2 T P(o 1,..., o T, q 1,..., q T ) = π q1 b q1,o 1 a qk 1,q k b qk,o k k=2

41 Jak HMM použít? P(O, Q) - Trellis diagram q 1 q 2 q 3 q T o 1 o 2 o 3 o T T P(o 1,..., o T, q 1,..., q T ) = P(q 1 )P(o 1 q 1 ) P(q k q k 1 )P(o k q k ) k=2 T P(o 1,..., o T, q 1,..., q T ) = π q1 b q1,o 1 a qk 1,q k b qk,o k k=2 Vybavení modelu? Viterbiho algoritmus - arg max Q P(O, Q λ)

42 Jak HMM použít? P(O, Q) - Trellis diagram q 1 q 2 q 3 q T o 1 o 2 o 3 o T T P(o 1,..., o T, q 1,..., q T ) = P(q 1 )P(o 1 q 1 ) P(q k q k 1 )P(o k q k ) k=2 T P(o 1,..., o T, q 1,..., q T ) = π q1 b q1,o 1 a qk 1,q k b qk,o k k=2 Vybavení modelu? Viterbiho algoritmus - arg max Q P(O, Q λ) Učení modelu? EM algoritmus - arg max λ P(O, Q λ)

43 Presentation Outline

44 Existující algoritmy shlukové analýzy HMM Spektrální shlukování pomocí Bhattacharya divergence[4] Spektrální shlukování pomocí Kullback-Leiblerovy divergence[5] Variational hierarchical EM [6]

45 Existující algoritmy shlukové analýzy HMM Spektrální shlukování pomocí Bhattacharya divergence[4] Spektrální shlukování pomocí Kullback-Leiblerovy divergence[5] Variational hierarchical EM [6] V čem je problém?

46 Existující algoritmy shlukové analýzy HMM Spektrální shlukování pomocí Bhattacharya divergence[4] Spektrální shlukování pomocí Kullback-Leiblerovy divergence[5] Variational hierarchical EM [6] V čem je problém? Normálně rozdělené emissions!

47 Existující algoritmy shlukové analýzy HMM Spektrální shlukování pomocí Bhattacharya divergence[4] Spektrální shlukování pomocí Kullback-Leiblerovy divergence[5] Variational hierarchical EM [6] V čem je problém? Normálně rozdělené emissions! Jak z toho ven?

48 Existující algoritmy shlukové analýzy HMM Spektrální shlukování pomocí Bhattacharya divergence[4] Spektrální shlukování pomocí Kullback-Leiblerovy divergence[5] Variational hierarchical EM [6] V čem je problém? Normálně rozdělené emissions! Jak z toho ven? definovat vzdálenost jinak.

49 Euklidovská vzdálenost Euklidovská vzdálenost[7] Euklidovská vzdálenost mezi řádky matice B d ec (λ, λ 1 ) = N M N i=1 k=1 b ik b ik 2 Minimalizovaná Euklidovská vzdálenost d mec (λ, λ 1 ) = N N i=1 min M j k=1 b ik b jk 2 Pravděpodobnostní rozdělení B je z hlediska podobnosti dvou HMM nejvýznamější [8].

50 Statistická vzdálenost I Kullback-Leiblerova divergence[7] výpočetně náročné aproximace. 1 d KL (λ, λ ) = 1 P(O λ) O G(O) log P(O λ ) P(O λ)do 2 předpoklad: Q = Q = Q opt, si jsou podobné 3 d Vit (λ, λ ) = O 1 P(Qopt,O λ) G(O) log P(Q opt,o λ ) P(O λ)do 4 předpoklad: Markovský řetězec je ergodický 5 d Vit (λ, λ ) = 1 G(O) log P(Q l,o λ) P(Q l,o λ ) P(O λ) + ɛ

51 Statistická vzdálenost II 6 d Vit (λ, λ ) ɛ = 1 G(O) 1 G(O) T 1 t=1 ( log ayt,y t+1 log a y t,y t+1 T ( log byt,x t log b y ) t,x t t=1 7 Délka sekvence O je dostatečně dlouhá 8 d Vit (λ, λ ) δ Vit = ( a ij π i log aij log a ij) + i,j ( b ik π i log bij log b ij ) i,k ) +

52 Shlukování 1 Hierarchistické shlukování Linkage ze vzdálenostní matice (single, average, complete) 2 Spektrální shlukování podle Shi a Malik (2000) podle Ng, Jordan a Weiss (2002) Vytvoříme matici vzdáleností X Reprezentace této pomocí podobnostního grafu Similarity matrix W, w ij = e X ij 2 2σ 2 Degree matrix D, D i,i = j V w ij, D i,j;i j = 0

53 Spektrální shlukování - Shi and Malik 1 Výpočet vlastních čísel (D W )y = λdy 2 Pomocí druhého nejmenšího vlastního čísla rekurzivně děĺıme graf. Normalized minimum cut Minimum cut Minimum cut

54 Presentation Outline

55 Evaluace modelu Vizuální evaluace doménovým expertem Evaluace pomocí Viterbiho sekvence Label Acc. Mean Acc. Variance S % 2.22 S % 0.69 S % 2.82 S % 4.12 S % 3.93 Přesnost 83.86% 4.76

56 distance shlukování Hierarchistické shlukování single linkage single linkage cluster id

57 distance shlukování Hierarchistické shlukování Single linkage Avereage linkage average linkage cluster id

58 distance shlukování Hierarchistické shlukování Single linkage Average linkage Complete linkage complete linkage cluster id

59 shlukování Spektrální shlukování

60 I 1 MATETIĆ, Maja; RIBARIĆ, Slobodan; IPŠIĆ, Ivo. Qualitative modelling and analysis of animal behaviour. Applied Intelligence, 2004, 21.1: Y. Guo, G. Poulton, P. Corke, G.J. Bishop-Hurley, T. Wark, D.L. Swain, Using accelerometer, high sample rate GPS and magnetometer data to develop a cattle movement and behaviour model, Ecological ling, Volume 220, Issue 17, 10 September 2009, Pages , ISSN LEE, Sang Wan; KIM, Yong Soo; BIEN, Zeungnam. A nonsupervised learning framework of human behavior patterns based on sequential actions. Knowledge and Data Engineering, IEEE Transactions on, 2010, 22.4: Tony Jebara, Yingbo Song, and Kapil Thadani. Spectral clustering and embedding with hidden Markov models. In Machine Learning: ECML 2007, pages

61 II 5 Shi Zhong and Joydeep Ghosh. A unified framework for model-based clustering. The Journal of Machine Learning Research, 4: , COVIELLO, Emanuele; CHAN, Antoni B.; LANCKRIET, Gert RG. Clustering hidden Markov models with variational HEM. The Journal of Machine Learning Research, 2014, 15.1: FALKHAUSEN, Markus; REININGER, Herbert; WOLF, Dietrich. Calculation of distance measures between hidden Markov models. In: EUROSPEECH JUANG, Biing-Hwang Fred; RABINER, Lawrence R. A probabilistic distance measure for hidden Markov models. AT&T technical journal, 1985, 64.2:

62 Děkujeme za pozornost.