Současné metody modelování mozku

Transkript

1 Současné metody modelování mozku Oldřich Vyšata : Ústav počítačové a řídící techniky VŠCHT Praha Neurologická klinika FN Hradec Králové 3. prosince 22

2 Přístupy k modelování činnosti mozku Základní přístupy k modelování činnosti mozku Přehled - je založený na přesvědčení, že nejvhodnějším aparátem pro popis mozku jsou soustavy diferenčních a diferenciálních rovnic (Van Gelder,995) 2 Neuro-výpočetní přístup hledá informační aspekty neuronové konektivity. Typickým přestavitelem je konektivistický model 3 Symbolický přístup tvrdí, že mozek obsahuje mentální reprezentaci pravidel, konceptů, obrazů a analogií, a že používá mentální operace jako je dedukce, hledání, přiřazování, rotace, ukládání a vybavování 4 Model operační architektoniky (Fingelkurts 2) spojuje všechny přístupy. Tvrdí že mozek a mentální procesy se vyvíjejí v reálném čase (dynamický př prochází různými mikrostavy (symbolický přístup) a je výsledkem komunikace mezi skupinami neuronů (neuro-výpočetní přístup)

3 Přístupy k modelování činnosti mozku Základní přístupy k modelování činnosti mozku Mikrostavy v EEG podle Fingelkurtse

4 Přístupy k modelování činnosti mozku Základní přístupy k modelování činnosti mozku Mikrostavy v EEG podle Fingelkurtse

5 Přístupy k modelování činnosti mozku Chování sítě chaotických neuronových oscilátorů Spontánní aktivita komplexní struktury vzájemně propojených chaotických neuronových oscilátorů Chaotické oscilace v síti vzájemně propojených identických chaotických neuronových oscilátorů s různými počátečními podmínkami. Sumační aktivita x(j) j

6 Úvod Dynamický pr ístup Neurovýpoc etní pr ístup Sít chaotických neuronových oscilátoru Záve r Biologický neuron Mikroskoskopický obraz neuronu a difuzní tenzorový obraz thalamokortikálních drah Eugene M. Izhikevich and Gerald M. Edelman* Large-scale model of mammalian thalamocortical systems, PNAS 27 Oldr ich Vyšata : Ústav poc ítac ové a r ídící techniky VŠCHT Praha Neurologická Souc asné metody klinika FN modelování Hradec Králové mozku

7 Biologický neuron Schéma

8 Neuron Akční potenciál Úvod

9 Akční potenciál Modelování FitzHugh-Nagumo model akčního potenciálu neuronu pro I =.4, a =.7; b =.8; p =.8. Parametry a, b, and φ jsou bezrozměrné a pozitivní. I je externí proud. V je membránový potenciál. W je otvírací napětí iontových kanálků. Není biologicky realistický. dv dt dw dt = V V 3 3 W + I = φ(v a bw ) () 2 FitHugh-Nagumo model membránového potenciálu x(t) t.5 y(t) x(t)

10 Neuronové pacemakery Hindmarsh-Rosův model Neurony nižších živočichů (např. humrů) nebo neurony v primitivních částech centrálního nervového systému(např. hypotalamického suprachiasmatického jádra) oscilují spontánně, nezávisle na zapojení v neuronové síti. Produkují aktivitu podobnou Hindmarsh-Rosovým rovnicím: dx dt = y + 3x 2 x 3 z + I dy dt = 5x 2 y dz dt = r [z 4(x )] (2)

11 Modely neuronových oscilátorů Oscilace jednoho neuronu Periodické a chaotické oscilace Hindmarsh-Rosova modelu: x(t) x(t) x(t) x(t) 2 Periodic spiking (l=3.38) Chaotic spiking (l=3.3) Chaotic bursting (l=3.3) Periodic bursting (l=3.2) t Problémy s využitím k modelování elektrické aktivity mozku: Korové neurony zbavené vnějších vstupů nevykazují spontánní oscilační aktivitu 2 Modely sítí založené na podobném typu oscilátorů zcela selhaly z hlediska reprodukce EEG grafoelementů.

12 Edelmanův model Model pálení košíčkové buňky, model krátkodobé synaptické plasticity a in vivo záznam mv ms

13 Typy negativní zpětné vazby v CNS

14 Edelmanův model Různé mody chování fenomenologického Edelmanova modelu

15 Struktura mozku z hlediska zpracování informace Neuron versus chaotický oscilátor Nejrozšířenějším představitelem neurovýpočetního modelu je statická neuronová sít s (McCullochovým-Pittsovým) formálním neuronem jako základní funkční jednotkou zpracování a ukládání informace. Alternativní představou je (Buszákiho) představa o mozku jako hierarchické struktuře slabě propojených chaotických oscilátorů v metastabilním stavu mezi periodickými a chaotickými oscilacemi.

16 Struktura mozku z hlediska zpracování informace Statické versus dynamické neuronové sítě při modelování informační funkce mozku a EEG Výhody modelu založeného na statických neuronových sítích. Nejjednodušší formální neuron jehož vnitřní potenciál je počítán jako: ξ = n w i x i θ = i= n w i x i s akt. funkcí f (ξ) = i= + e λξ (3) vysvětluje některé vlastnosti biologických neuronových sítí jakými jsou samoorganizace, samostabilizace (včetně proměnné stability), kompetitivní učení bez učitele, učení s učitelem, klasifikace a rozpoznávání, nelokalizované ukládání informací, jejich zpracování bez centrálního procesoru.

17 Struktura mozku z hlediska zpracování informace Statické versus dynamické neuronové sítě při modelování informační funkce mozku a EEG Nevýhody modelu založeného na statických neuronových sítích. Neprodukuje žádnou aktivitu bez informace na vstupu (může být i šum). Nedaří se v jeho rámci modelovat fenomény přítomné v EEG (např. největší publikovaný model Eugena Izikeviche a Geralda Edelmana se neuronů s neúplnou konektivitou). Obvyklé vysvětlení je, že takové modely jsou nedostatečně velké a komplexní. Naproti tomu podstatně menší biologické neuronové sítě produkují bez dodání šumu kontinuální oscilační aktivitu a řeší složité problémy

18 Struktura mozku z hlediska zpracování informace Statické versus dynamické neuronové sítě při modelování informační funkce mozku a EEG Výhody modelu založeného na dynamických neuronových sítích. Bez ohledu na fyzickou strukturu a komplexitu sdílí vlastnosti popsané teorií deterministického chaosu: Bez přítomnosti šumu produkuje nepravidelnou aktivitu Je schopný samoorganizace založené na synchronizaci Vysvětluje kromě identické synchronizace také parciální a generalizované synchronizace, fázové synchronizace a fázové synchronizace se zpožděním pozorované v biologických experimentech s neurony ve tkáňových kulturách, fázové synchronizace : mezi různými částmi mozku a :2 mezi EEG aktivitou a svalovým třesem u Parkinsonovy choroby

19 Struktura mozku z hlediska zpracování informace Statické versus dynamické neuronové sítě při modelování informační funkce mozku a EEG Nevýhody modelu založeného na dynamických neuronových sítích. Málo rozvinutý matematický aparát popisující chování takových struktur, z velké části se týkající interakcí slabě propojených chaotických oscilátorů Málo rozvinutá teorie učení a přenosu informace v sítích chaotických oscilátorů Obtíže při řešení soustav diferenciálních rovnic popisujících tyto struktury Časová náročnost výpočtů znesnadňující zkoumání chování komplexních struktur

20 Modely víceneuronových oscilátorů Oscilace sítě dvou a tří vzájemně propojených neuronů Dva vzájemně propojené neurony bez spontánní aktivity popsané soustavou diferenciálních rovnic vytvářejí dvoudimenzionální kontinuální tok, který podle Poincaré - Bendixsonova teorému může oscilovat periodicky nebo dosáhnout statického ekvilibria. Chaoticky oscilovat může soustava 3 neuronů alespoň s jednou negativní zpětnou vazbou.

21 Chaotický neuronový oscilátor Popsaný soustavou diferenčních a diferenciálních rovnic Kde x, y, z je stav jednotlivých neuronů a w jsou váhy mezi neurony. Hyperbolickou tangentu lze nahradit jakoukoliv jinou omezující funkcí zajišt ující limitovaný cyklus oscilátoru.

22 Problém s kontinuálním modelem. Řešení založené na dvou různých stiff MatLabovských solverech x(t) t y(t) t z(t) t Obrázek: Kontinuální model řešený solverem ode23s založeným na modifikovaném Rosenbrockově vzorci řádu 2. x(t) t y(t) t z(t) t Obrázek: Stejný model 3-neuronového chaotického oscilátoru řešený solverem ode5s

23 Problémy s kontinuálním modelem. Řešení systému diferenciálních rovnic Neexistuje obecná metoda řešení soustav nelineárních rovnic Pokud soustava rovnic má aperiodické řešení pohyb oscilátoru ve fázovém prostoru musí být získán jednou nebo větším počtem numerických metod Ruzné MatLab solvery produkují různé chaotické chování Proč různé solvery mají různá řešení? Časový krok integrace většiny MatLabovských solverů je systémovým parametrem, který se mění se tvarem funkce Chaotické řešení systému rovnic závisí na časovém kroku integrace.

24 Problém s kontinuálním modelem. Závislost řešení na integračním kroku Obrázek: Bifurkační diagram pro kontinuální systém s vahami (w,2 =.5, w 2, =.37, w,3 =.7, w 3, =., w 2,3 =.37, w 3,2 = 4) řešený solverem založeným na Eulerově metodě v rozmezí kroku integrace

25 Řešení Úvod Krok integrace je nezávislým parametrem chaotického chování modelu popsaného diferenciálními rovnicemi O takovém modelu nemůžeme říci nic... 2 Když srovnáváme diferenční a diferenciální model neuronových oscilátorů, z praktického hlediska srovnáváme dva diferenční modely s různým krokem integrace Řešení: Popis oscilátoru odpovídající soustavou diferenčních rovnic

26 x(j) Discrete model Continuous model j Reseni Diskrétní model Úvod Jednoduchý chaotický oscilátor založený na 3 formálních neuronech x j+ = tanh(w 2 y j + w 3 z j ) y j+ = tanh(w 2 x j + w 3 z j ) z j+ = tanh(w 3 x j + w 3 y j ) (4) Obrázek: Diferenciální rovnice řešené Eulerovou metodou s časovým krokem (červená) a řešení soustavy diferenčních rovnic (modrá)

27 3-neuronový chaotický oscilátor x(j) j y(j) j.5 z(j) j Obrázek: Reseni soustavy diferenčních rovnic s váhami (w,2 = w 2, =.3, w,3 =.7, w 3, = 5, w 2,3 =, w 3,2 = )

28 Kódování informace v jednotlivém chaotickém oscilátoru Vlastnosti modelu Tento model 3-neuronového oscilátoru s hyperbolickou tangenciální přenosovou funkcí prezentuje chaotické chování 2 V průběhu procesu zdvojování periody pokračující do nekonečna (chaotické oscilace) se komplexita oscilací zvyšuje 3 Kontrolním parametrem tohoto modelu je váha w,2 4 Vstupní hodnota oscilátoru je reprezentovaná váhou w,2 5 Komplexita oscilací je odhadována permutační entropií

29 Úvod Dynamický pr ístup Neurovýpoc etní pr ístup Sít chaotických neuronových oscilátoru Záve r Modelování síte neuronových chaotických oscilátoru Me r ení komplexity Amplitude w, Obrázek: Bifurkac ní diagram 3-neuronového chaotického oscilátoru. Závislost amplitudy pozitivní vlny na váze w,2 Oldr ich Vyšata : Ústav poc ítac ové a r ídící techniky VŠCHT Praha Neurologická Souc asné metody klinika FN modelování Hradec Králové mozku

30 Závislost výkonových spekter na váze propojení

31 3-neuronový chaotický oscilátor Obrázek: Aproximace atraktoru 3 neuronového chaotického oscilátoru s váhami (w,2 = w 2, =.3, w,3 =.7, w 3, = 5, w 2,3 =, w 3,2 = ).

32 Model 3-neuronového chaotického oscilátoru Periodicky řízený chaotický neuronový oscilátor Při aplikaci slabé vnější síly na chaotický oscilátor můžeme pozorovat fázovou synchronizaci. x j+ = tanh(w 2 y j + w 3 z j ) + A cos(ωj) y j+ = tanh(w 2 x j + w 3 z j ) z j+ = tanh(w 3 x j + w 3 y j ) Pro A =, rovnice (6) representuje chaotický atraktor, který sleduje vlastní rotaci. Fáze je studována v rovině x y. Frekvence chaotického oscilátoru je odhadována s využitím Poincarého map. T R = lim N N i= T i kde T, T 2,..., T N jsou vzdálenosti mezi N následných maxim. Úhlová frekvence Ω = 2π/T R. N (5) (6)

33 Modely neuronových oscilátorů Periodicky řízený chaotický neuronový oscilátor Fázová synchronizace pro narůstající hodnoty A (intenzita řídící síly). Červená přímka udává frekvenci řídící síly ω. Ω A

34 Chování sítě chaotických neuronových oscilátorů Fázová synchronizace vzájemně propojených chaotických neuronových oscilátorů Fázová synchronizace identických vzájemně propojených chaotických oscilátorů. Červená křivka sleduje frekvenci ω. Poměr frekvence řídící síly k frekvenci chaotického oscilátoru je 2:. Řídící síla také zvyšuje amplitudu odpovědi oscilátoru..5 x(j) j Poměr frekvence řídící síly k frekvenci chaotického oscilátoru je 3:2. Na rozdíl od předchozího případu dochází jen k nedokonalé fázové sychronizaci bez amplitudové odpovědi..5 x(j) -.5 Oldřich Vyšata : Ústav - počítačové a řídící techniky VŠCHT Praha Neurologická klinika FN Hradec Králové Současné metody modelování mozku

35 Chování sítě chaotických neuronových oscilátorů Sledování rytmu při fotostimulaci v EEG Fázová synchronizace okcipitálních kanálů ve zdrojovém zapojení (O-sO, O2-sO2) v průběhu fotostimulace. Poměr frekvencí fotostimulace k frekvenci EEG je 6:9 (levá polovina obrázku) a 9:9 (pravá polovina obrázku). Frekvence fotostimulace 9 Hz také zvyšuje amplitudu odpovědi.

36 White noise Start 5 Stop j Úvod Chování sítě chaotických neuronových oscilátorů Modelování reakce zástavy Bílý šum potlačuje kvaziperiodické oscilace v síti vzájemně propojených chaotických oscilátorů. x(j) Reakce na otevření očí:

37 Chaotický neuronový oscilátor řízený periodickým oscilátorem

38 Synchronizace identických chaotických oscilátorů

39 Měření synchronizace pomocí fluktuace koherencí a korelací Sousední a vzdálené elektrody

40 Buszákiho hypotéza Mozek je kritický systém v metastabilním stavu Spontánní aktivita neuronů je zdrojem našich kognitivních schopností Základní jednotkou pro uchovávání a vybavování informace není neuron ale oscilátor Jednotlivé oscilátory tvoří hierarchickou strukturu, jsou propojené slabými vazbami, v metastabilním stavu jsou schopné dočasné energeticky úsporné synchronizace

41 Modelování patofyziologických změn Modelování demence - závislost energie na konektivitě Průměrná energie vzájemně propojených neuronových chaotických oscilátorů závisí na konektivitě pro desynchronizaci a rušení fází vlevo, na věku závislý pokles energie EEG u >8 tis. zdravých řidičů (kromě snížení konektivity a tím synchronizace se na poklesu podílí i ztráta neuronů a ztluštění lebečních kostí) Energy Regression line 99% confidence interval.8 2 Energy.7.6 μv / sample Connectivity (%) Age

42 Modely neuronových oscilátorů Modelování demence - závislost vzájemné informace na konektivitě Průměrná vzájemná informace vzájemně propojených neuronových chaotických oscilátorů závisí na konektivitě p < Linear regression 95% confidence interval Mutual information 6.7 Mutual information Connectivity (%)

43 Modelování patofyziologických změn Modelování demence - závislost korelace na konektivitě Průměrná korelace vzájemně propojených neuronových chaotických oscilátorů závisí na konektivitě vlevo a na věku závislé změny koherence u více než 8 tis. zdravých řidičů p < x -3 Regression line 95% confidence interval Correlation Age related changes of coherence in delta, theta and gamma band Delta band 4.38 Correlation Coherence Theta band Connectivity (%).3 Gamma band Year

44 Synchronizace se zpožděním Lag synchronizace dvou různých chaotických oscilátorů je fenoménem, kdy signál ze systému s nižší frekvencí má zpoždění vzhledem k signálu ze systému s vyšší frekvencí. 2 Lag synchronization of two Rossler oscillators 5 5 x,x t

45 Modelování fyziologických jevů Synchronizace se zpožděním (lag synchronization) Vlevo elektrodové páry s pravděpodobností fázové synchronizace >.7, uprostřed elektrodové páry se směrovou prevalencí sychronizace >.93, vpravo elektrodové páry se směrovou prevalencí sychronizace >.9. Fp Fp2 Fp Fp2 Fp Fp2 F7 F3 Fz F4 F8 F7 F3 Fz F4 F8 F7 F3 Fz F4 F8 T3 C3 Cz C4 T4 T3 C3 Cz C4 T4 T3 C3 Cz C4 T4 T5 P3 Pz P4 T6 T5 P3 Pz P4 T6 T5 P3 Pz P4 T6 O O2 O O2 O O2

46 Chování sítě chaotických neuronových oscilátorů Samoorganizace v D v řetězci vzájemně propojených chaotických neuronových oscilátorů Stav částečné synchronizace chaosu v množině osmi chaotických neuronových oscilátorů vzájemně propojených v lineárním řetězci (identické váhy mezi oscilátory w O =.26233). Parametrické zobrazení výstupu 2. neuronu s korelačními koeficienty. Oscilační aktivita ukazuje určitý stupeň samoorganizace. Blízké oscilátory (např. 7-6) jsou korelované méně než vzdálenější páry (např. 7-4) O O2 O3 O4 O5 O6 O7 O O O O O O O O7 - - O8

47 Samoorganizace ve 2D Princip permutační entropie Odhaduje komplexitu jako entropii distribuce permutací skupiny časových vzorků 2 Hlavní výhodou permutační entropie oproti ostatním entropiím je dobrý odhad komplexity i u zašuměných signálů 3 Tato metoda byla použítá jako míra komplexity pro každý neuronových oscilátor propojený s ostatními do vzájemně propojené sítě a reprezentuje výstup sítě (typ propojení mezi sousedy )

48 Synchronizace Úvod Mechanismus zpracování signálů Struktura sítě neuronových chaotických oscilátorů Synchronizační fenomény Vzájemně propojené chaotické oscilátory s omezeným cyklem prezentují různé synchronizační fenomény: Nejpřirozenější forma synchronizace mezi identickými oscilátory je známá jako identická synchronizace Když jsou oscilátory různé je možné sledovat generalizovanou synchronizaci, která zahrnujie identickou synchronizaci jako zvláštní případ.) V případě identické synchronizace bude míra komplexity všech chaotických oscilátorů stejná. Nás bude zajímat výstup sítě mezi žádnou synchronizací (sít reprezentuje původní obraz) a identickou synchronizací.

49 Vstupně-výstupní mapování Mechanismus zpracování signálů Struktura sítě neuronových chaotických oscilátorů Sít neuronových chaotických oscilátorů pro zpracování obrazů se skládá ze 2 rozměrné mřížky vzájemně propojených sousedních oscilátorů Obrázek: Sousedící oscilátory jsou vzájemně propojené váhami w stejné hodnoty. Tyto váhy reprezentují stupeň synchronizace

50 Mechanismus zpracování signálů Struktura sítě neuronových chaotických oscilátorů Vstup a výstup sítě Každý oscilátor reprezentuje jeden bod obrazu Váze w,2 je přiřazená hodnota šedi odpovídajícího obrazového pixelu normalizovaného v rozmezí -.4 Výstupem sítě je permutační komplexita časové řady x každého oscilátoru normalizovaná na škálu šedi výstupního obrazu

51 Vstupní obraz Zašuměný obraz (SNR =.35) byl prezentovaný síti s různými hodnotami vah mezi oscilátory (w ) Obrázek: Bílý čtverec na černém podladě kontaminovaný bílým šumem (SNR =.6)

52 Závislost SNR na váze w Nejvyšší SNR bylo nalezeno pro w =.9 SNR after image processing by the set of coupled neural chaotic oscillators SNR w Obrázek: SNR výstupního obrazu sítě v rozmezí w <,.5 >

53 Závislost SNR na váze w Odšumění klastrováním oscilátorů Obrázek: Výstup sítě pro w =.9

54 Závislost SNR na váze w Vytváření vzorů Obrázek: Spontánní vytváření vzorů v obraze pro w =.56, obrysy původního obrázku jsou zachovalé

55 Závislost SNR na váze w Vytváření vzorů Obrázek: Klastrování a vytváření vzorů ve všech částech výstupního obrazu pro w =.47, obrysy původního obrazu jsou ztracené

56 Odšumování obrazů sítí chaotických neuronových oscilátorů má omezené možnosti, ale... Dvourozměrný obraz může být reprezentován váhami dynamické sítě neidentických chaotických neuronových oscilátorů V úzkém rozmezí hodnot vah mezi oscilátory se objevuje spontánní klastrování, které snižuje do určité míry šum Zvyšování hodnoty vah vede ke spontánnímu vytváření vzorů a deformaci obrazu Tento mechanismus může vysvětlit biologické fenomény v případě některých drogově indukovaných iluzí

57 Bayesovský model mozku Historie V teorii pravděpodobnosti nazýváme Bayesovou větou vztah mezi pravděpodobností P(A B) a pravděpodobností opačně podmíněného jevu. P(A B) = P(B A)P(A) (7) P(B) Tento vztah byl poprvé publikován Thomasem Bayesem v článku An Essay towards solving a Problem in the Doctrine of Chances z roku 763. V r. 983 Geoffrey Hinton z Torontské univerzity v Kanadě a Terry Sejnowski z Univerzity Johna Hopkinse v Baltimoru předpokládali, že mozek může být pokládán za stroj, který dělá rozhodnutí na základě neurčitých informací okolního světa.

58 Bayesovská teorie mozku Princip volné energie V 9 letech aplikoval Hinton princip optimalizace volné energie na neuronové sítě. Volná energie je zhruba rozdílem mezi totální energií systému a jeho "neužitečnou"energií, neboli entropií. V jazyce neuronových sítí je to chyba predikce. Friston ve stejné době považuje mozek za deduktivní stroj, který optimalizuje modely o současnosti a budoucím vývoji na základě nových informací. Pracuje tedy podle Bayesovské teorie pravděpodobnosti. V poslední dekádě se potvrzuje, že mozek odhaduje např. lokalizaci či rychlost a tyto predikce optimalizuje Bayesovským způsobem. Tento princip kalkulace podle Alexe Pougeta může vysvětlit zpracování informace od nízkoúrovňové percepce po vysokoúrovňové rozpoznávání.

59 Bayesovská teorie mozku Princip volné energie V roce 25 Friston aplikoval princip volné energie na senzorickou percepci. Např. pokud vidíme objekt na periferii zorného pole, který nerozponáváme, mozek může snížit chybu odhadu otočením hlavy a snížit chybu predikce zvýšením objemu dat o objektu. Tím se minimalizuje překvapení. V poslední době Friston tvrdí, že tento princip platí na všech úrovních činnosti mozku, od pálení neuronů až po rozhodování. Vysvětluje synaptickou plasticitu (Hebbovo učení) jako minimalizaci chyby predikce neuronu A o odpovědi neuronu B na nový stimulus. To má být základem učení a vytváření pamět ových stop.

60 Bayesovská teorie mozku Konkrétní realizace Jak konkrétně mozek realizuje tento mechanismus? Mozková kůra podle Fristona přijímá signál z nižších úrovní provádí jeho Bayesovskou predikci a koriguje chybu predikce. Tuto představu potvrzují nálezy magnetické rezonance zpracování zrakové a sluchové informace