Diskriminační analýza hodnocení rozdílů mezi 2 nebo více skupinami objektů charakterizovanými více znaky

Transkript

1 Diskriminační analýza hodnocení rozdílů mezi 2 nebo více skupinami objektů charakterizovanými více znaky Interpretují rozdíly mezi předem stanovenými třídami Cílem je klasifikace objektů do skupin Hledáme vztah mezi skupinou p nezávislých znaků (diskriminátorů) a jednou kvalitativní závisle proměnnou - výstup Identifikace, které znaky přispívají do procesu klasifikace

2 DA se vztahuje ke klasifikaci kvantitativních ukazatelů (mají normální rozložení v jednotlivých třídách) X 1 je matice n1 x m, X 2 n2 x m, n = n1 + n2

3 Apriorní pravděpodobnost: π 1 apriorní pravděpodobnost příslušnosti do 1.skupiny π 2 = 1 π 1 příslušnost do 2.skupiny Aposteriorní pravděpodobnost: Příslušnosti k j-té skupině

4 Podle typu hustoty pravděpodobnosti pro f 1 (x) a f 2 (x) LDA liší se jen střední hodnotou QDA liší se střední hodnotou i kovarianční maticí Nelineární DF směs normálních rozdělení Flexibilní DF neparametrické hustoty rozdělění znaků Naivní Bayesův přístup Obecná DA jeden ze znaků má kvalitativní charakter (faktor) Logistická regrese

5 LDA Pro každou diagnostickou skupinu hledáme koeficienty a ij, i = 0, 1,, k lineární diskriminační funkce L j (x) = a 1j x 1 + a 2j x a kj x k + a 0j Při klasifikaci vektoru x vypočteme hodnotu všech těchto LDF a ta, která má největší hodnotu, indikuje příslušnost k odpovídající diagnostické skupině. Hodnoty DISKRIMINAČNÍ SKÓRE

6 Kanonická korelace v DA Definujeme k nových závislých proměnných y 1, y k-1 umělé závislé proměnné ukazují, ze které třídy objekt pochází Potřebujeme k-1 proměnných pro k tříd Třída y1 y2 y

7 Volba znaků, diskriminátorů Na začátku celá paleta potenciálně využitelných znaků, nevíme však, které jsou účinné Kritéria pro vybírání diskriminátorů Wilksovo λ Když diskriminátor v DF poskytuje nejmenší hodnotu Wilksova kritéria λ, je tento diskriminátor zahrnut do modelu Před zavedením diskriminátoru stanovíme jeho toleranci míra lineární asociace mezi diskriminátory (1-R 2 ) λ = 1 průměr diskriminačního skóre je stejný ve všech třídách a neexistuje žádná mezitřídní proměnlivost je transformováno do χ 2 rozdělení poskytuje málo informací o efektivnosti DF

8 Hodnota F pro změnu Wilksova kritéria při přidání diskriminátoru do modelu Kde n je celkový počet objektů, g udává počet tříd a λ p značí Wilksovo lambda před přidáním diskriminátoru do modelu a λ p+1 je Wilksovo lambda po přidání

9 Raovo V MAHALANOBISOVY VZDÁLENOSTI testujeme vzdálenost těžišť tříd testujeme, zda se změní hodnota Mahalanobisových vzdáleností (DM) 2 přidáním nebo odebráním proměnné testační kritérium F při přidání a = 0,15 odebíráme-li proměnnou doporučuje se a = 0,30

10 m počet diskriminátorů n celkový počet objektů g počet skupin x i1 průměr i-tého diskriminátoru ve třidě 1 w ij prvek inverzní kovarianční matice Toto kritérium všech párů tříd se vyčísluje jako první Diskriminátor, který měl největší hodnotu (D M ) 2 pro dvě od začátku nejtěsnější třídy je zařazen do modelu

11 Testační kritérium F pro Mahalanobisovy vzdálenosti H 0 : (D p+1 ) 2 = (D p ) 2 Počet stupňů volnosti: 1 a (n 1 + n 2 p q 2) H 0 : (D p+q ) 2 = (D p ) 2 Počet stupňů volnosti: q a (n 1 + n 2 p q 2)

12 Vyhodnocení výsledků Vyhodnocení rozdílů tříd v diskriminačním Z-skóre vypočteme Z-skóre pro každý objekt porovnání těžiště tříd průměrné Z-skóre pro všechny objekty třídy H 0 : dva vektory středních hodnot tříd objektů jsou stejné

13

14 Přiřazení predikční schopnosti tříd HIT POMĚR procento správně klasifikovaných objektů - analogie s regresní analýzou (R 2 ) Určení prahového bodu Z 1,2 těžiště třídy 1, 2 Musíme uvažovat i cenu chybného zařazení objektu Minimalizujeme počet chybně klasifikovaných objektů

15 Konstrukce klasifikačních matic Náhodné rozdělení do 2 výběrů Analyzovaný výběr Klasifikovaný výběr Postup zahrnuje násobení diskriminačních koeficientů (z analyzovaného výběru) hodnotami diskriminátorů objektu z klasififikačního výběru Pak jsou diskriminační skóre Z n porovnávána s prahovým bodem C Z n < C 1. třída Z n > C 2. třída

16 t-test pro klasifikační správnost p počet správně zařazených n velikost výběru

17 Efekt Fe ferritin transferin % VK-Fe ALT AST MutaceL Průměry pro závislé proměnné dle tříd (FeVstup) Sigma-omezená parametrizace Úroveň Sloupec PCT cirhóza Celk. Efekt p=,5000 p=,5000 Průměry 1 20, , , , , , , , , , , , ,6423 0,9827 0, ,6741 1,7686 1, ,2727-0,4545-0,0909 Průměry pro závisle proměnnou dle tříd Efekt Fe ferritin transferin % VK-Fe ALT AST MutaceL Směrodatné odchylky pro nezávislé proměnné dle tříd (FeVstup) Sigma-omezená parametrizace Úroveň Sloupec PCT cirhóza Celkem Efekt N=22,00 N=22,00 N=44,00 1 6, , , , , , , , , , , , ,2511 0,7108 0, ,4811 1,4413 1, ,9847 0,9117 1,0074 Test chí-kvadrát po odstranění post. kořenů (FeVstup) Sigma-omezená parametrizace Vlastní Kan. Wilksova Chí-kv. SV Úroveň p vynech. číslo R Lambda 0 0, , , , , , χ 2 pro 7 sv = 14,07

18 Efekt Abs. člen Fe ferritin transferin % VK-Fe ALT AST MutaceL Vl. číslo Kum.pravd. Efekt Abs. člen Fe ferritin transferin % VK-Fe ALT AST MutaceL Vl. číslo Kum.pravd. Standardizované koeficienty kanonické diskriminační funkce (FeVstup) Sigma-omezená parametrizace Úroveň Sloupec Funkce Efekt 1 1 0, , , , , , , ano 8 0, , , Koeficienty kanonické diskriminační funkce (FeVstup) Sigma-omezená parametrizace Úroveň Sloupec Funkce Efekt 1 1 1, , , , , , , ano 8 0, , ,000000

19 Efekt Abs. člen Fe ferritin transferin % VK-Fe ALT AST MutaceL Vícerozměrné testy významnosti (FeVstup) Sigma-omezená parametrizace Dekompozice efektivní hypotézy Test Hodnota F Efekt Chyba p SV SV Wilksův 0, , , Wilksův 0, , , Wilksův 0, , , Wilksův 0, , , Wilksův 0, , , Wilksův 0, , , Wilksův 0, , , Wilksův 0, , , F-kritické pro 1 a 36 sv = 4,116

20 Mahalan. vzdálenosti ^2 (FeVstup) Sigma-omezená parametrizace Třída PCT cirhóza PCT cirhóza 0, , , , Třída PCT cirhóza Testy významnosti pro Mahalanobisovy vzdálenosti ^2 (FeVstup) F testy s 7 a 36, stup. volnosti Sigma-omezená parametrizace PCT F PCT p 4, , cirhóza cirhóza F p 4, , F-kritické pro 7 a 36 sv = 2,30 Efekt Abs. člen Fe ferritin transferin % VK-Fe ALT AST MutaceL Klasifikační funkce pro Diagnóza (FeVstup) Sigma-omezená parametrizace Úroveň Sloupec PCT cirhóza Efekt p=,5000 p=, , , ,6710-1, ,0143 0, ,9866 1, ,3675 1, ,4779-0, ,2891 1,5124 ano 8 0,1846-1,1799 Třída PCT cirhóza Celkem Klasifikační matice (FeVstup) Řádky: pozorované klasifikace Sloupce: předpovězené klasifikace správně PCT cirhóza p=,5000 p=, , , , , , , , , ,00000

21 Vhodnostní povrch/vrstevnice

22 Vhodnostní povrch/vrstevnice

23 Střední hodnoty : Optimální hodnoty :

24 Area Under ROC Curve = 0,91632 Area Under ROC Curve = 0,92562

25

26