Frédérc Bertrad Myram Maumy-Bertrad Master 1 018/019
Référeces «Aalyse de régresso applquée» de Y. Dodge et V. Rousso, aux édtos Duod, 004. «Régresso o léare et applcatos» de A. Atoads, J. Berruyer, R. Carmoa, édtos Ecoomca, 199. M1 018/019
Itroducto But : rechercher ue relato stochastque qu le deux ou pluseurs varables Domaes : Physque, chme, astroome Bologe, médece Géographe Ecoome M1 018/019 3
1. Relato etre deux varables Cosdéros X et Y deux varables. Exemple : la talle (X) et le pods (Y) But : savor commet Y vare e focto de X Das la pratque : Échatllo de dvdus Relevé de la talle et du pods pour l dvdu Tableau d observatos ou doées parées. M1 018/019 4
1. Relato etre deux varables Observatos Talle Pods 1 160 57,9 80 70 60 3 165 170 68,5 7,7 Pods (kg) 50 40 30 0 4 175 67,4 10 0 155 160 165 170 175 180 185 190 195 5 6 180 185 67,4 74,1 Talle (cm) 6 6 7 190 7,6 7 1 M1 018/019 5
. Relato détermste Das certas cas, la relato est exacte. Exemples : X e euros, Y e dollars X dstace ferrovare, Y prx du bllet. Y = f(x) où f est ue focto détermée. Exemples pour f : foctos léares, foctos affes... M1 018/019 6
. Relato détermste Remarque mportate : Nous utlseros le terme de focto «léare» pour désger ue focto «affe» f 0 1 ( X ) = b + b X où b 0 et b 1 sot des réels fxés. M1 018/019 7
. Relato détermste Exemple : X e Celsus, Y e Farehet Y=3 + 9/5 X. Ic ous avos e detfat : b 0 = 3 et b 1 = 9/5. Souvet ous savos que la relato etre X et Y est léare mas les coeffcets sot cous. M1 018/019 8
. Relato détermste E pratque commet fasos-ous? Échatllo de doées Vérfer que les doées sot algées. S ce cas est vérfé, alors ous avos : u modèle léare détermste. M1 018/019 9
. Relato détermste S ce cas est pas vérfé, alors ous allos chercher : la drote qu ajuste le meux l échatllo, c est-àdre ous allos chercher u modèle léare o détermste. Les observatos vot permettre de vérfer s la drote caddate est adéquate. M1 018/019 10
3. Relato stochastque La plupart des cas e sot pas des modèles léares détermstes! (la relato etre X et Y est pas exacte) Exemple : X la talle et Y le pods. A 180 cm peuvet correspodre pluseurs pods : 75 kg, 85 kg, Les doées e sot plus algées. Pour deux pods detques, ous avos deux talles dfféretes. M1 018/019 11
3. Relato stochastque Ue hypothèse rasoable : X et Y sot lés Das l exemple précédet : plus u dvdu est grad, plus l est lourd e Y 0 1 = b + b X + e : est ue varable qu représete le comportemet dvduel. M1 018/019 1
3. Relato stochastque Exemple : 70 dvdus qu sot réparts de la faço suvate : 10 dvdus/talle 7 talles (de 160 à 190 cm, pas de 5 cm). M1 018/019 13
3. Relato stochastque Observatos Talle Pods 1 3 4 5 6 7 8 9 10 11 1 13 14 15 160 160 160 160 160 160 160 160 160 160 165 165 165 165 57,9 58,9 63,3 56,8 66,8 64,5 67,1 58,0 6,9 57,7 68,5 69,8 58,5 66,3 pods 90 80 70 60 50 40 30 0 10 0 155 160 165 170 175 180 185 190 195 165 65,8 M1 018/019 14 talle
3. Relato stochastque Commetares : Pluseurs Y pour ue même valeur de X. Modèle léare détermste adéquat. Cepedat Y augmete quad X augmete. Modèle léare stochastque evsageable. M1 018/019 15
3. Relato stochastque Défto du modèle léare stochastque : µ ( x) = b + b x Y 0 1 µ Y (x) : moyee de Y mesurée sur tous les dvdus pour lesquels X vaut x. M1 018/019 16
3. Relato stochastque Remarques : Comme ε, μ Y (x) est observable, calculable. Pour calculer μ Y (x), l faudrat receser tous les dvdus de la populato. M1 018/019 17
3. Relato stochastque Das la pratque : Nous estmos la moyee théorque μ Y (x) par la moyee emprque de Y défe par : y ( x) = 1 å = 1 y ( x) M1 018/019 18
3. Relato stochastque Retour à l exemple : Talle Pods 160 61,39 90 80 165 66,16 70 170 175 68,34 69,9 Pods moye 60 50 40 30 180 71,76 0 10 185 190 71,58 77,8 0 155 160 165 170 175 180 185 190 195 Talle M1 018/019 19
3. Relato stochastque La drote que ous veos de tracer s appelle : la drote de régresso. X et Y e jouet pas u rôle detque. X explque Y X est ue varable dépedate (ou explcatve) et Y est ue varable dépedate (ou explquée). M1 018/019 0
3. Relato stochastque E aalyse de régresso léare : x est fxé y est aléatore la composate aléatore d u y est le ε correspodat. M1 018/019 1
3. Relato stochastque Pour l stat, la drote de régresso est coue. Tout le problème est d estmer β 0 et β 1 à partr d u échatllo de doées. M1 018/019
3. Relato stochastque Chox des paramètres : drote qu approche le meux les doées troducto de ˆ b et ˆb qu sot des 0 1 estmateurs de β 0 et de β 1. L estmato de la drote de régresso : ˆ( x) = ˆ b + ˆ b x y 0 1 M1 018/019 3
3. Relato stochastque Remarques : yˆ ( x) est u estmateur de μ Y (x) S le modèle est bo, y ( x) = yˆ ( x) 1 å = 1 est plus précs que y ( x) M1 018/019 4
3. Relato stochastque Lorsque x = x, alors ˆ, c est-à-dre : ˆ yˆ ( x ) = y ˆ ˆ y = b + b x 0 1 ŷ est appelée la valeur estmée par le modèle. M1 018/019 5
3. Relato stochastque Ces valeurs estmet les quattés observables : e = b 0 - b x par les quattés observables : y - 1 e = y - yˆ M1 018/019 6
3. Relato stochastque Ces quattés e = les résdus du modèle. La plupart des méthodes d estmato : estmer la drote de régresso par ue drote qu mmse ue focto de résdus. La plus coue : la méthode des modres carrés ordares. M1 018/019 7
4. Méthode des modres carrés ordares å å å = = = - - = - = x y y y e 1 1 0 1 1 ) ˆ ˆ ( ) ˆ ( b b M1 018/019 8 Méthode : Défr des estmateurs qu mmset la somme des carrés des résdus
4. Méthode des modres carrés ordares Les estmateurs sot doc les coordoées du mmum de la focto à deux varables : z ( b0, b1) = ( y -b 0 - b1x ) = 1 = f å Cette focto est appelée la focto objectf. M1 018/019 9
4. Méthode des modres carrés ordares Les estmateurs correspodet aux valeurs aulat les dérvées partelles de cette focto : z b z b 1 0 = - = - å( y - b0 - b x ) 1 å x ( y - b0 - b x 1 ) M1 018/019 30
4. Méthode des modres carrés ordares Les estmateurs sot les solutos du système : Soet : - å( y - b0 - b 1x ) = x ( y - b - b x ) - å 0 1 = ( 4.1) å y ˆ b0 + ˆ b1 å x = å y b0 x + ˆ b å ( 4.) 1 ˆ å = x x 0 0 M1 018/019 31
4. Méthode des modres carrés ordares Nous otos : x å x = et y = D après (4.1), ous avos : ˆ b = - bˆ 0 y 1x å y 3 Frédérc Bertrad et Myram Maumy- Bertrad - M1 018/019
4. Méthode des modres carrés ordares A partr de (4.), ous avos : 1 0 1 ) ( ˆ ˆ ˆ x y x y x x y x x b b b + - = - = å å å 1 ) ( ˆ x x y x y x - - = å å b Frédérc Bertrad et Myram Maumy- Bertrad - M1 018/019 33 As ous obteos :
4. Méthode des modres carrés ordares Comme ous avos : ) ( ) ( ) )( ( x x x x y x y x y y x x - = - - = - - å å å å å å - - - = 1 ) ( ) )( ( ˆ x x y y x x b Frédérc Bertrad et Myram Maumy- Bertrad - M1 018/019 34 As ous obteos :
4. Méthode des modres carrés ordares Das la pratque, ous calculos ˆ b 1 pus ˆ b 0 Nous obteos ue estmato de la drote de régresso, appelée la drote des modres carrés ordares : yˆ ( x) = ˆ b + ˆ b x 0 1 35 Frédérc Bertrad et Myram Maumy- Bertrad - M1 018/019
4. Méthode des modres carrés ordares Coeffcets de la drote de modres carrés : pete=0,44 ; ordoée à l orge=-8,01 Pods moye 90 80 70 60 50 40 30 0 10 0 155 160 165 170 175 180 185 190 195 Talle 36 Frédérc Bertrad et Myram Maumy- Bertrad - M1 018/019
5. Varato explquée et explquée But d u modèle de régresso léare : explquer ue parte de la varato de la varable explquée Y. La varato de Y vet du fat de sa dépedace à la varable explcatve X. Varato explquée par le modèle. M1 018/019 37
5. Varato explquée et explquée Das l exemple «talle-pods», ous avos remarqué que lorsque ous mesuros Y avec ue même valeur de X, ous observos ue certae varato sur Y. Varato explquée par le modèle. M1 018/019 38
5. Varato explquée et explquée Varato totale de Y = Varato explquée par le modèle + Varato explquée par le modèle M1 018/019 39
5. Varato explquée et explquée Pour mesurer la varato de Y : ous trodusos y ( y - y ) = ( yˆ - y ) + ( y - yˆ ) Dfférece explquée par le modèle Dfférece explquée par le modèle ou résdu du modèle M1 018/019 40
5. Varato explquée et explquée Pourquo la méthode des modres carrés? U proprété remarquable : elle coserve ue telle décomposto e cosdérat la somme des carrés de ces dfféreces : å å y - = - + å y) ( y y) ( y - ˆ ( yˆ ) M1 018/019 41
5. Varato explquée et explquée å y - y ) = å( yˆ - y ) + å( y - ( yˆ ) Somme des carrés totale (SC tot ) Somme des carrés due à la régresso (SC reg ) Somme des carrés des résdus (SC res ) M1 018/019 4
5. Varato explquée et explquée Mesure du pourcetage de la varato totale explquée par le modèle : Itroducto d u coeffcet de détermato R = Varato explquée Varato totale = SC SC reg tot 43 Frédérc Bertrad et Myram Maumy- Bertrad - M1 018/019
5. Varato explquée et explquée Quelques remarques : R est comprs etre 0 et 1. R =1 : cas où les doées sot parfatemet algées (comme c est le cas pour u modèle détermste). R =0 : cas où la varato de Y est pas due à la varato de X. Les doées e sot pas du tout algées. Plus R est proche de 1, plus les doées sot algées sur la drote de régresso. M1 018/019 44