0% ont trouvé ce document utile (0 vote)
0 vues50 pages

Module 1 - LM

Ce document présente les modèles linéaires, en se concentrant sur la régression ordinaire, Ridge et Lasso, ainsi que sur leur validation et diagnostic. Il souligne l'importance des hypothèses sous-jacentes pour garantir la validité des estimations et des tests, et fournit des exemples d'applications en agronomie. Des bonnes pratiques pour l'estimation des paramètres et l'interprétation des résultats sont également abordées.

Transféré par

thierry kilongo
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
0 vues50 pages

Module 1 - LM

Ce document présente les modèles linéaires, en se concentrant sur la régression ordinaire, Ridge et Lasso, ainsi que sur leur validation et diagnostic. Il souligne l'importance des hypothèses sous-jacentes pour garantir la validité des estimations et des tests, et fournit des exemples d'applications en agronomie. Des bonnes pratiques pour l'estimation des paramètres et l'interprétation des résultats sont également abordées.

Transféré par

thierry kilongo
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd

Analyse statistique avancée

Module 1 : Modèles linéaires

Mugumaarhahama Yannick, Ph.D


Université Evangélique en Afrique
Faculté des Sciences Agronomiques et Environnement

M1 PA - PV - TA - GSEA
Juillet 2025

1 / 50
Modèles linéaires

2 / 50
Plan de la sous-section

1. Modèles linéaires
1.1 Modèle linéaire (ordinaire)
1.2 Régression Ridge
1.3 Régression Lasso
1.4 Validation et diagnostic

3 / 50
Introduction générale

Les modèles linéaires sont un pilier de la statistique appliquée, notamment


en sciences agronomiques et environnementales. Ils servent à modéliser la
relation entre une variable quantitative d’intérêt (variable dépendante) et
un ensemble de variables explicatives.
Pourquoi utiliser un modèle linéaire ?
• Prédire une valeur (rendement, biomasse, etc.) à partir de facteurs
mesurés.
• Quantifier et interpréter l’effet de chaque variable.
• Aider à la décision ou à l’optimisation d’un processus agricole.

La compréhension des hypothèses et limites du modèle est indispensable


avant toute application.

4 / 50
Formulation mathématique du modèle linéaire

Un modèle linéaire ordinaire s’écrit :

yi = β0 + β1 xi1 + · · · + βp xip + ϵi

Où :
• yi : valeur observée de la variable réponse pour l’individu i
• xij : j-ième variable explicative pour l’individu i
• β0 : intercept (constante)
• βj : effet de la variable xj
• ϵi : terme d’erreur aléatoire
L’objectif est d’estimer les βj à partir des données.

5 / 50
Applications concrètes en agronomie

Exemples d’utilisation :
• Prévision du rendement en fonction de la fertilisation, de la
pluviométrie, du type de sol.
• Étude des facteurs influençant la croissance des plantes (lumière,
densité de semis, etc.).
• Analyse de l’efficacité d’un traitement phytosanitaire selon différents
niveaux d’application.
Chaque application doit vérifier l’adéquation du modèle aux données et à la
problématique.

6 / 50
Hypothèses fondamentales du modèle linéaire

Pour garantir la validité de l’estimation et des tests, plusieurs hypothèses


doivent être respectées :
• Linéarité : relation linéaire entre y et chaque xj .
• Indépendance des erreurs : les ϵi sont indépendants.
• Homoscedasticité : la variance des erreurs est constante
(Var(ϵi ) = σ 2 ).
• Normalité des erreurs : les ϵi suivent une loi normale N (0, σ 2 ).
• Absence de colinéarité parfaite entre les variables explicatives.

La violation de ces hypothèses affecte l’inférence et la qualité des


prédictions.

7 / 50
Hypothèse de linéarité : implications et exemples

Principe : l’effet de chaque variable explicative est constant, sans


interaction ou courbure.
Exemple d’application agronomique
La relation entre la dose d’azote et le rendement est linéaire si
l’augmentation du rendement est proportionnelle à chaque unité d’azote
ajoutée.

Violation fréquente : Effet plateau ou saturation (exemple : au-delà d’une


certaine dose, le rendement ne croît plus). Remédiations possibles :
transformation des variables (log, carré), ajout de termes polynômiaux,
changement de modèle.

8 / 50
Indépendance des erreurs : implications et exemples

Principe : chaque observation doit être indépendante des autres (pas de


corrélation temporelle ou spatiale). Exemple de violation :
• Plusieurs mesures sur la même parcelle (dépendance spatiale).
• Mesures successives dans le temps sur les mêmes unités.
Remédiations : modèles à effets mixtes, prise en compte des effets blocs,
modèles auto-régressifs.

9 / 50
Homoscedasticité et normalité : implications et exemples

Homoscedasticité : la variance des erreurs reste constante quelle que soit


la valeur des prédicteurs.
• Ex : la variabilité du rendement n’augmente pas avec la dose d’engrais.
Normalité des erreurs : garantit la validité des tests t et F pour petits
échantillons.
• Ex : la distribution des résidus (écarts entre valeurs observées et
prédites) suit une courbe en cloche centrée sur zéro.
Si la normalité ou l’homoscedasticité sont violées, utiliser des
transformations ou des méthodes robustes.

10 / 50
Résumé pratique : bonnes pratiques

• Toujours vérifier graphiquement (et par tests) les hypothèses après


ajustement du modèle.
• Ne pas interpréter les résultats si une hypothèse majeure est violée :
ajuster ou changer de modèle.
• Privilégier la simplicité (modèle linéaire) si le phénomène le permet,
sinon passer à un modèle généralisé ou non linéaire.

11 / 50
Estimation des paramètres par moindres carrés (OLS)

Objectif : Trouver les valeurs de β0 , . . . , βp minimisant la somme des


carrés des écarts entre valeurs observées et valeurs ajustées :
n
X p
X
S(β0 , . . . , βp ) = (yi − β0 − βj xij )2
i=1 j=1

Chaque βj mesure l’effet moyen d’une unité supplémentaire de xj , toutes


choses égales par ailleurs.

12 / 50
Formulation matricielle et solution analytique

En notation matricielle :
Y = Xβ + ϵ

• Y : vecteur des observations (n × 1)


• X : matrice des prédicteurs (incluant l’intercept, n × (p + 1))
• β : vecteur des coefficients ((p + 1) × 1)
• ϵ : vecteur des erreurs
L’estimateur des moindres carrés est :

β̂ = (X T X )−1 X T Y

Interprétation de chaque symbole immédiatement après la formule,


conformément à la consigne.

13 / 50
Propriétés statistiques des estimateurs OLS

• Non biaisé : E[β̂j ] = βj


• Variance minimale (théorème de Gauss-Markov) parmi tous les
estimateurs linéaires et non biaisés.
• Distribution normale si les erreurs sont normales :
β̂j ∼ N (βj , Var(β̂j ))
Limite : ces propriétés reposent sur le respect strict des hypothèses.

14 / 50
Interprétation des coefficients

Chaque β̂j s’interprète comme l’effet moyen d’une variation d’une unité de
xj sur y (toutes choses égales par ailleurs).
L’intercept β̂0 correspond à la valeur attendue de y lorsque toutes les
variables explicatives sont nulles (interprétation parfois peu informative).
En agronomie, bien replacer l’interprétation dans le contexte pratique (ex :
effet d’un kg d’azote sur le rendement à conditions constantes).

15 / 50
Tests d’hypothèses sur les coefficients

Pour chaque βj :
• H0 : βj = 0 (pas d’effet)
• H1 : βj ̸= 0 (effet significatif)
Statistique de test :
β̂j
tj =
b β̂j )
se(
Où se(
b β̂j ) est l’erreur standard de l’estimateur.
Une p-valeur < 0,05 indique généralement un effet significatif.

16 / 50
Implémentation en R : Ajustement d’un modèle linéaire

Code R
# Ajustement du mod^^c3^^a8le lin^^c3^^a9aire
mod <- lm(rendement ~ azote + pluie, data = donnees)
summary(mod)
Commentaires :
• lm() ajuste un modèle linéaire par moindres carrés.
• summary(mod) affiche les estimations, erreurs-types, t et p-valeurs.
• Les coefficients s’interprètent dans le contexte agronomique (ex :
impact de l’azote sur le rendement).

17 / 50
Diagnostic et validation du modèle

Pourquoi valider le modèle ?


• S’assurer du respect des hypothèses.
• Éviter les erreurs d’interprétation ou des prédictions biaisées.
• Adapter le modèle si nécessaire (ajouter interactions, transformations).
L’analyse des résidus est l’outil principal de validation.

18 / 50
Analyse graphique des résidus sous R

Code R
par(mfrow=c(2,2))
plot(mod)
Commentaires :
• Quatre graphiques produits automatiquement :
• Résidus vs valeurs ajustées : linéarité/homoscedasticité.
• QQ-plot : normalité des erreurs.
• Résidus standardisés.
• Valeurs influentes.
• Absence de motif particulier = modèle adapté.

19 / 50
Autres diagnostics et bonnes pratiques

Bonnes pratiques
• Utiliser le VIF (car::vif(mod)) pour détecter la multicolinéarité.
• Vérifier l’indépendance des erreurs pour des données
longitudinales/spatiales.
• Pour des résidus non normaux : transformation de la variable, modèle
généralisé ou méthodes robustes.

20 / 50
Exemple agronomique : rendement du blé

Problème : prédire le rendement du blé (y ) à partir de la dose d’azote


(x1 ) et de la pluviométrie (x2 ).

yi = β0 + β1 xi1 + β2 xi2 + ϵi
Étapes :
• Ajuster le modèle, valider les hypothèses.
• Interpréter β̂1 : effet moyen de l’azote.
• Vérifier la validité des prédictions dans la plage de données observées.

21 / 50
Multicolinéarité : diagnostic et conséquences

Définition : forte corrélation entre deux ou plusieurs variables explicatives.


• Rend instable l’estimation des coefficients : intervalles de confiance
élargis.
• Difficile d’interpréter l’effet individuel de chaque variable.
• Risque d’inversibilité de la matrice X T X (pas de solution analytique).
Diagnostic : matrice de corrélation, VIF (Variance Inflation Factor).
Solutions : supprimer/combiner des variables, utiliser Ridge ou ACP.

22 / 50
Plan de la sous-section

1. Modèles linéaires
1.1 Modèle linéaire (ordinaire)
1.2 Régression Ridge
1.3 Régression Lasso
1.4 Validation et diagnostic

23 / 50
Pourquoi utiliser la régression Ridge ?

En présence de multicolinéarité ou d’un grand nombre de variables, les


estimateurs OLS deviennent instables.
La régression Ridge introduit une pénalisation (L2 ) sur la taille des
coefficients pour stabiliser l’estimation et limiter le sur-ajustement.
Applications typiques :
• Données agronomiques à fort nombre de mesures climatiques,
corrélées entre elles.
• Prévision du rendement sur de vastes jeux de données d’observations.

24 / 50
Formulation mathématique de la Ridge

On cherche à minimiser la fonction suivante :


n
X p
X
2
SRidge (β) = (yi − Xi β) + λ βj2
i=1 j=1

Où :
• λ ≥ 0 : paramètre de pénalisation (à choisir)
• La première partie : ajustement aux données
• La seconde partie : pénalise la taille des coefficients (évite qu’ils ne
deviennent trop grands)
Quand λ = 0, on retrouve l’OLS classique.

25 / 50
Solution analytique et interprétation

En notation matricielle :

β̂ Ridge = (X T X + λI )−1 X T Y

Effet de la pénalisation :
• Les coefficients sont “rétrécis” vers zéro (réduction de la variance mais
introduction d’un biais contrôlé).
• Tous les prédicteurs restent dans le modèle (pas de sélection
automatique).
Le choix de λ est crucial, généralement par validation croisée.

26 / 50
Implémentation en R : Régression Ridge

Code R
library(glmnet)
x <- [Link](rendement ~ ., data = donnees)[,-1]
y <- donnees$rendement
ridge_mod <- glmnet(x, y, alpha = 0)
cv_mod <- [Link](x, y, alpha = 0)
plot(cv_mod)
coef(cv_mod, s = "[Link]")

Commentaires :
• alpha=0 pour Ridge (alpha=1 pour Lasso)
• Validation croisée pour le choix optimal de λ
• Les coefficients “shrunk” sont interprétés avec prudence

27 / 50
Exemple agronomique : Ridge

Exemple : prédire le rendement à partir de 12 variables environnementales


fortement corrélées.
Effets pratiques :
• Réduction de la variance des estimations.
• Amélioration de la stabilité des prédictions sur de nouveaux jeux de
données.
• Attention : pas de sélection automatique des variables (cf. Lasso).

28 / 50
Plan de la sous-section

1. Modèles linéaires
1.1 Modèle linéaire (ordinaire)
1.2 Régression Ridge
1.3 Régression Lasso
1.4 Validation et diagnostic

29 / 50
Pourquoi utiliser la régression Lasso ?

Quand on soupçonne que beaucoup de variables explicatives sont inutiles


ou redondantes, il est préférable de les sélectionner automatiquement.
La régression Lasso (Least Absolute Shrinkage and Selection Operator)
pénalise la somme des valeurs absolues des coefficients et permet d’annuler
certains coefficients (sélection).
Applications : études agronomiques exploratoires à très grand nombre de
variables.

30 / 50
Formulation mathématique du Lasso

n
X p
X
SLasso (β) = (yi − Xi β)2 + λ |βj |
i=1 j=1

Effet clé : pour λ assez grand, certains β̂j = 0 (sélection des variables).
On choisit λ par validation croisée (compromis biais/variance/parcimonie).

31 / 50
Différence Lasso vs Ridge

Ridge : tous les coefficients “petits”, mais rarement nuls (réduit la variance,
pas la dimension du modèle).
Lasso : certains coefficients strictement nuls (sélection automatique de
variables).
Pour des variables très corrélées, Lasso en retient une seule.

32 / 50
Implémentation en R : Régression Lasso

Code R
library(glmnet)
lasso_mod <- glmnet(x, y, alpha = 1)
cv_mod <- [Link](x, y, alpha = 1)
plot(cv_mod)
coef(cv_mod, s = "[Link]")

Commentaires :
• alpha=1 pour Lasso.
• Le vecteur de coefficients affiche les variables sélectionnées.

33 / 50
Interprétation et limites du Lasso

• Les coefficients non nuls identifient les variables vraiment informatives.


• Le Lasso peut être instable si plusieurs variables sont très corrélées :
préférer Elastic Net dans ce cas.
• Vérifier la stabilité des sélections par validation croisée.

34 / 50
Résumé : bonnes pratiques en régression linéaire et
pénalisée

À retenir
• Toujours valider les hypothèses, notamment en cas de grands jeux de
données (multicolinéarité, sur-ajustement).
• Ridge et Lasso sont des alternatives robustes à l’OLS classique dans de
nombreux contextes agronomiques modernes.
• Bien interpréter les coefficients dans le contexte : biais introduit par la
pénalisation !

35 / 50
Plan de la sous-section

1. Modèles linéaires
1.1 Modèle linéaire (ordinaire)
1.2 Régression Ridge
1.3 Régression Lasso
1.4 Validation et diagnostic

36 / 50
Validation et diagnostic d’un modèle linéaire

Pourquoi valider ?
• Vérifier le respect des hypothèses (linéarité, homoscedasticité,
indépendance, normalité).
• Détecter les points aberrants ou influents.
• S’assurer de la robustesse et de la pertinence des conclusions en
agronomie.

37 / 50
Analyse graphique des résidus

Plusieurs graphiques sont utilisés pour diagnostiquer le modèle :


• Résidus vs valeurs ajustées : pour détecter non-linéarité ou
hétéroscédasticité.
• QQ-plot des résidus : pour vérifier la normalité.
• Résidus vs variables explicatives : pour révéler des patterns ou des
variables omises.
• Résidus dans l’ordre d’observation : pour vérifier l’indépendance.
Des motifs systématiques signalent une violation des hypothèses.

38 / 50
Tests statistiques sur les résidus

En complément de l’analyse graphique, des tests permettent de formaliser


les diagnostics :
• Test de Ramsey RESET : vérifie la spécification correcte du modèle
de régression.
• Test de Shapiro-Wilk : normalité des résidus.
• Test de Breusch-Pagan : homoscédasticité.
• Test de Durbin-Watson : indépendance des erreurs, utile pour les
données temporelles.
Un résultat significatif indique une violation de l’hypothèse concernée.

39 / 50
Test de Ramsey RESET : principe

Le test de Ramsey RESET vérifie la spécification correcte du modèle de


régression. Il consiste à ajouter au modèle initial des puissances (carré,
cube. . . ) du prédicteur linéaire ou des valeurs ajustées. Si ces termes sont
significatifs, cela indique une mauvaise spécification fonctionnelle
(non-linéarité, variable omise, lien inadéquat).

40 / 50
Implémentation et interprétation

Dans la régression beta, on ajoute les puissances du prédicteur linéaire (η) :


eta <- predict(mod, type="link")
mod_reset <- betareg(y ~ x1 + x2 + I(eta^2) + I(eta^3),
data=donnees)
anova(mod, mod_reset, test="Chisq")
Une p-valeur faible indique une spécification insuffisante du modèle de
départ (il faut revoir les prédicteurs ou le lien). Une p-valeur élevée suggère
que la spécification du modèle est adéquate.

41 / 50
Test de Shapiro-Wilk

Le test de Shapiro-Wilk vérifie si une série de résidus suit une loi normale.
Il calcule une statistique W qui mesure la concordance entre la distribution
observée et une distribution normale théorique. L’hypothèse nulle H0
postule la normalité. Une p-valeur faible (<0,05) conduit à rejeter la
normalité. Ce test est indispensable pour valider l’utilisation des intervalles
de confiance et des tests dans les modèles linéaires. Il est toutefois sensible
à la taille de l’échantillon.

42 / 50
Test de Breusch-Pagan

Le test de Breusch-Pagan permet de détecter l’hétéroscédasticité,


c’est-à-dire une variance non constante des erreurs. Il consiste à
régressionner les résidus au carré sur les variables explicatives et à analyser
la significativité globale. L’hypothèse nulle H0 est l’homoscédasticité. Une
p-valeur faible indique une variance non constante des résidus. La validité
des tests du modèle linéaire repose sur cette hypothèse. Des alternatives
comme le test de White existent en cas de suspicion d’effets non linéaires.

43 / 50
Test de Durbin-Watson

Le test de Durbin-Watson évalue l’indépendance des résidus, en particulier


l’autocorrélation. Il calcule une statistique d qui mesure la corrélation entre
chaque résidu et le précédent.

d ≈ 2 ⇒ pas d’autocorrélation

d < 2 ⇒ autocorrélation positive


d > 2 ⇒ autocorrélation négative
Une p-valeur faible conduit à rejeter l’hypothèse d’indépendance des
erreurs. Ce test est particulièrement pertinent pour les séries temporelles
ou les mesures spatiales.

44 / 50
Exemples pratiques de diagnostic en agronomie

Exemple 1 : Un motif en « entonnoir » dans le graphe des résidus vs


valeurs ajustées indique une variance croissante des erreurs
(hétéroscédasticité) souvent observée pour le rendement agricole à forte
fertilisation.
Exemple 2 : Une courbure dans le nuage de points suggère une relation
non linéaire, par exemple entre la croissance d’une plante et la température.
Dans ces cas, il faut adapter le modèle ou transformer les variables.

45 / 50
Que faire en cas de violation des hypothèses ?

Lorsque l’analyse des résidus révèle une violation :


• Non-linéarité : ajouter des termes polynômiaux ou transformer les
variables.
• Hétéroscédasticité : utiliser des transformations ou des modèles
robustes.
• Non-normalité : transformation de la variable réponse, méthodes non
paramétriques.
• Dépendance : modèles à effets mixtes ou prise en compte de la
structure de corrélation.
Adapter le modèle améliore la robustesse de l’inférence et la qualité des
prédictions.

46 / 50
Observations influentes : définition et enjeux

Une observation influente est un point de données dont la présence modifie


de façon importante l’ajustement du modèle linéaire. Elle peut entraîner
une estimation biaisée des coefficients ou masquer la relation réelle entre
les variables. Toutes les valeurs aberrantes ne sont pas influentes, mais une
observation influente est souvent atypique soit dans ses valeurs explicatives,
soit dans la réponse.

47 / 50
Détection des observations influentes

Plusieurs mesures diagnostiquent l’influence d’une observation :


• Leverage : mesure la distance par rapport au centre des variables
explicatives. Un leverage élevé indique un potentiel d’influence.
• Distance de Cook : quantifie l’impact global sur tous les coefficients.
• DFBETAS, DFFITS : évaluent l’impact sur un coefficient ou une
valeur ajustée.
Des graphiques spécifiques (plot leverage vs résidus, plot Distance de
Cook) facilitent la détection.

48 / 50
Conséquences et traitement en agronomie

Les observations influentes peuvent fausser l’ajustement, altérer


l’importance des variables ou conduire à des conclusions erronées. Elles
résultent parfois d’erreurs de mesure, de conditions expérimentales
particulières ou de situations extrêmes réelles. Il convient de :
• Vérifier la validité de l’observation
• Comparer les résultats du modèle avec et sans cette donnée
• Justifier toute exclusion dans l’analyse finale

49 / 50
Bonnes pratiques, pièges à éviter

À éviter :
• Interpréter un modèle mal ajusté (résidus structurés, hétéroscédasticité
flagrante)
• Utiliser aveuglément OLS en cas de multicolinéarité ou grands p
• Oublier la validation croisée pour les modèles prédictifs

À faire :
• Toujours mettre en contexte agronomique l’interprétation des résultats
• Privilégier la parcimonie et la simplicité pour l’interprétation

50 / 50

Vous aimerez peut-être aussi