Récapitulatif ACP (Analyse en Composantes Principales)

Objectif

• Réduire la dimension d’un tableau de données (quantitative) tout en gardant

un maximum d’information (la variance).

• Permet de visualiser les données dans un espace plus simple (souvent 2D).

• Repérer des groupes d’individus, des corrélations entre variables.

Étapes de mise en place

1. Centrer et réduire les données :

o On retire la moyenne ➝ centrage.

o On divise par l’écart-type ➝ réduction.

o ➝ Cela permet de mettre toutes les variables sur la même échelle.

2. Calcul de la matrice de covariance ou de corrélation :

o Elle décrit comment les variables varient ensemble.

3. Calcul des valeurs propres (λ) et vecteurs propres (axes) :

o Les valeurs propres mesurent l’importance de chaque axe (combien

d’infos il explique).

o Les vecteurs propres donnent la direction des axes principaux.

4. Choisir les meilleurs axes :

o On trie les valeurs propres.

o On garde les 2 premiers axes (F1 et F2) s’ils expliquent assez de variance.

5. Projeter les individus et les variables :

o On crée des graphiques :

▪ Nuage des individus ➝ pour observer des groupes, des profils

proches.

▪ Cercle de corrélation ➝ pour voir quelles variables sont corrélées

et importantes.

1
Comment interpréter un graphique ACP ?

Axes F1 et F2 :

• F1 = axe horizontal ➝ explique le plus de variance.

• F2 = axe vertical ➝ explique la 2e plus grande part.

• Ex. : F1 = 40 %, F2 = 25 % ➝ total = 65 % de l'information visible dans le plan.

Flèches rouges (variables) :

• Direction ➝ où la variable augmente.

• Longueur ➝ plus la flèche est longue, mieux la variable est représentée (forte
qualité).

• Variables proches entre elles ➝ corrélées.

Points bleus (individus) :

• Position ➝ profil de l’individu selon les variables.

• Points proches ➝ profils similaires.

• Point éloigné ➝ profil atypique.

Individu et flèche proche :

• ➝ Individu a une grande valeur pour cette variable.

• Si l’individu est à l’opposé ➝ valeur faible pour cette variable.

À retenir

• ACP = résumer + visualiser.

• Les valeurs propres permettent de choisir les axes.

• Les projections aident à interpréter profils et relations.

• Très utilisé en début d’analyse exploratoire.

2
Représentation graphique :
ACP :

Le graphique montre :
- F1 (axe horizontal) a 42.43%
- F2 (vertical) a 36.19 %

F1 + F2 expliquent 78.63 % de la variance totale des données → Près de 80 % des infos

sont visibles sur le plan.

Rappel variance : « Mesure a quel point les valeurs d’un ensemble de données sont
dispersée autour de la moyenne ».

- Variance proche de 0 → valeurs proche de la moyenne donc peu de

dispersion.
- Variance grande → les valeurs sont éloignées les unes des autres donc
forte dispersion.

En ACP on cherche les directions (axes) ou la variance est maximal car → plus un
axe capture de variance, plus il contient des infos.

Que sont F1 et F2 ?
- Ce sont les 2 premiers axes principaux

3
 - Directions de plus grande variance (F1 la + grande et F2 la 2e).

Fleche rouges :
- Chaque flèche rouge est une variable dans l’ACP.
- L’orientation indique dans quelle direction la variable augmente.
- La longueur montre a quel point la variable est bien représentée dans le
plan (+ grand → mieux).
1. Ex : une flèche qui est a droite et bien allongée est fortement
corrélée avec F1.

Point bleus :
- Chaque point représente un individus
- Position dépend des valeurs projetées sur les axes F1 et F2
- Point proche les uns des autres (ex : P4 & P1) → profils similaires
- Point isolé (P5) → profils atypiques

Individus & variables

- Si un point (individus) est proche d’une flèche (variable) :
1. Cet individu a une valeur élevée sur cette variable (ex : P2 et P8)
- Si individu à l’opposé d’une flèche :
1. Il a une faible valeur sur cette variable (ex : P5 avec la variable
« Recouvrement »)

Régression Linéaire Multiple – Récapitulatif

Objectif de la RLM :

Prédire une variable quantitative Y (ex. revenu, taille...) en fonction de plusieurs

variables explicatives X₁, X₂, ..., Xₙ (ex. âge, nombre d’enfants, diplôme…).

Y → ce qu’on cherche à prédire ou estimer

• Comprendre des liens entre plusieurs variables (ex : le salaire dépend-il du

diplôme ?)
• Prédire une valeur (prédire le prix d’une maison selon sa taille)

Formule du modèle :

• Y = variable à prédire (appelée variable expliquée)

• X1,X2... = variables explicatives

• β0= constante (interception)

4
 • β1,β2... = coefficients à estimer

• ε = erreur (résidu)

SCT, SCE, SCR : comprendre la variance

On cherche à savoir dans quelle mesure les X expliquent les variations de Y.

• SCT (Somme des Carrés Totale) : toute la variance de Y

• SCE (Somme des Carrés Expliquée) : part de la variance expliquée par le

modèle

• SCR (Somme des Carrés Résiduelle) : part inexpliquée = les erreurs du modèle

Formule importante :

Coefficient de Détermination R² :

• R² indique la qualité du modèle.

• Plus R² est proche de 1, mieux le modèle explique Y.

• Exemple :

o R² = 0.90 → 90 % de la variance de Y est expliquée.

o R² = 0.30 → le modèle est faible.

Technique des moindres carrés (MCO) :

Méthode utilisée pour estimer les coefficients β du modèle.

Objectif :
Minimiser la somme des carrés des erreurs entre les valeurs observées yi et les
valeurs prédites y^i

C’est grâce à ça qu’on trace la meilleure droite qui passe au plus près des points.

5
F-Test (Test de Fisher) :

Permet de tester si l’ensemble des variables X a un effet significatif sur Y.

• Si le F est grand → le modèle est globalement significatif

• On regarde la p-value associée :

o Si p-value < 0.05 → le modèle est probablement bon

o Sinon, le modèle n’est pas meilleur qu’un modèle constant

Distance de Cook :

Outil pour repérer les valeurs aberrantes (outliers).

• Mesure l’influence d’un point sur le modèle.

• Si distance de Cook > 1, l’observation est suspecte → elle pourrait fausser le

modèle.

AIC (Akaike Information Criterion) :

Sert à comparer plusieurs modèles.

• Plus l’AIC est petit, meilleur est le modèle (meilleur compromis entre précision
et simplicité).

• Très utilisé en sélection automatique de variables.

Étapes de la Régression Linéaire Multiple :

1. Formuler le modèle de régression

2. Estimer les coefficients avec la méthode des moindres carrés (MCO)

3. Calculer SCT, SCE et SCR

4. Calculer le coefficient de détermination R²

5. Tester la significativité globale du modèle (F-Test)

6. Analyser l’influence des points (distance de Cook)

7. Comparer les modèles (critère AIC)

EXEMPLE EXO RLM :

EX : Prédire le prix d'une maison (Y) en fonction de sa surface (X).
6
Sans modèle (pas de régression)

Tu ne connais que la moyenne des prix :

• Moyenne = 200 000 €

• Tu dis : « Toutes les maisons valent 200 000 € », peu importe la surface.

• Évidemment, tu fais beaucoup d’erreurs, parce que tu ne tiens pas compte des
différences entre les maisons.

Ici, tu n’expliques rien. C’est ce qu’on appelle SCT (la variance totale).

Maintenant : tu construis un modèle de régression

Tu dis maintenant :

« Plus une maison est grande, plus elle coûte cher. »

Ton modèle dit par exemple :
Prix estimé = 100 000 + 2 000 × surface

Et là, tu obtiens :

• Une partie des prix sont bien expliqués par la surface → ça, c’est SCE
(Somme des Carrés Expliqués).

• Mais parfois, tu te trompes encore (ex : une maison de 100 m² coûte 300 000 €
alors que le modèle dit 250 000) → ça, c’est SCR (Somme des Carrés
Résiduels).

SCE (Somme des Carrés Expliqués) :

C’est la part de la variabilité de Y (prix, par exemple) que ton modèle réussit à prévoir
correctement grâce aux variables X.

7
Représentation graphique :
Régression linéaire multiple :

Ce que montre le graphique :

Ce graphique illustre visuellement comment fonctionne la régression linéaire (simple
ici pour illustrer, mais le raisonnement est le même en multiple).

Rappels de théorie

Dans une régression linéaire multiple, on cherche à prédire une variable quantitative
(appelée variable à expliquer, notée y) à partir de plusieurs variables explicatives
(appelées x1,x2,..., xp).

Le modèle est :

Mais pour illustrer avec un seul x, on utilise :

8
Interprétation du graphique :
Élément graphique Interprétation avec ta théorie
Points verts yi Ce sont les valeurs observées de la variable à expliquer (ce qu’on a
mesuré)
Carrés rouges Ce sont les valeurs prédites par le modèle (le résultat de la formule de
régression)
C’est la droite de régression : elle passe le plus près possible de tous
les points
Tirets bleus (résidus)

Lien avec les mesures vues en cours :

• Ces résidus sont utilisés dans la formule de la SCR (somme des carrés des
résidus) :

• Objectif du modèle : réduire cette SCR au maximum.

• Grâce à cette erreur, on peut calculer R² :

• → Plus R² est proche de 1, mieux le modèle explique les données.

Lecture du graphique :
• Les carrés rouges ne sont pas toujours sur les points verts, donc le modèle
commet des erreurs.
• Mais les erreurs restent raisonnables, donc le modèle explique une partie
importante de la variabilité de Y.
• Ce qu’on explique (ce que le modèle réussit à prédire) est appelé :

9
Qu’est-ce que l’ACM ?

L’ACM est une méthode statistique utilisée quand les variables sont qualitatives (ex.
oui/non, catégories, avis, etc.).
Elle permet :

• D’analyser les liens entre les modalités des variables

• De projeter individus et modalités dans un même plan

• De repérer les similarités entre profils et modalités

C’est l’équivalent de l’ACP pour des données catégoriques.

Étapes de l’ACM

1. Tableau de départ

2. Construction du Tableau Disjonctif Complet (TDC)

3. Calcul des fréquences (Pk)

4. Calcul des poids (Xik)

5. Centrage et normalisation

6. Calcul de la distance au centre

7. Calcul des axes principaux (valeurs/vecteurs propres)

8. Projection des individus et modalités

9. Analyse des graphes

Le Tableau Disjonctif Complet (TDC)

Le TDC est une matrice binaire où :

• Chaque modalité de chaque variable devient une colonne

• Chaque individu devient une ligne

• La cellule yik vaut 1 si l’individu i possède la modalité k, sinon 0

10
Exemple :

Tableau de donnée de base :

TDC :

1. Calculer lk :

Nombre de modalité dans la colonne.

2. Probabilité Pk

C’est la fréquence de la modalité k:

• lk = nombre d’individus ayant cette modalité

• n = nombre total d’individus

3. Calcul de Xik

On veut donner plus d’importance aux modalités rares.

11
 • Si la modalité est rare (petit Pk) → Xik est grand

• Donc l’individu est plus "distinctif" → plus de poids dans l’analyse

4. Poids d’une modalité :

• Pk → probabilité
• P → nbr de réponse dans la ligne de l’individus

5. Centrage sur la moyenne :

6. Distance au centre

On veut savoir si un individu est éloigné du centre du nuage, donc atypique.

• Plus la distance est grande, plus l’individu a choisi des modalités rares

• Idem pour une modalité :

Inertie et projection

L’inertie mesure la dispersion dans le plan.

→ On fait une décomposition en valeurs propres pour trouver :

• Les axes principaux (les directions où les données s’étalent le plus)

• On projette individus & modalités dessus (graphe factoriel)

12
Représentation graphique :
ACM :

Axes principaux :
• Dim 1 (axe horizontal) = 26.97 % de l’information totale.
• Dim 2 (axe vertical) = 16.22 %.
o Ensemble, ils expliquent 43.19 % de la variance (≈ 44 % de l’info
contenue dans les données).

Comprendre le graphique :
• Points bleus = Individus (C1, C2, ..., C26).

• Triangles rouges = Modalités des variables qualitatives (Réparé_Non,

Satisfait_Oui, Accueil_1, etc.).

• Chaque individu est proche des modalités qu’il possède.

• Chaque modalité est placée près des individus qui la partagent.

• Une modalité rare est souvent éloignée du centre

13
Lecture concrète avec exemples :

• Groupe Jaune (C1, C6) :

o Ils sont à droite sur Dim1.
o Modalités proches :
▪ Satisfait_Oui
▪ Réparé_Oui
▪ Accueil_4
▪ Q/Prix_Oui
▪ Reviendra_Oui
o Ces individus ont donné des avis très positifs : bon accueil, satisfait,
bonne qualité/prix, et intention de revenir.
• Groupe Bleu (C23, C25) :
o Situés à gauche du graphique.
o Modalités proches :
▪ Satisfait_Non
▪ Réparé_NSP
▪ Accueil_1 ou 2
▪ Reviendra_Non
o Ces individus sont mécontents ou indécis : insatisfaits, mauvais accueil,
ou pas réparé.

Interprétation des distances :

• Plus un individu est éloigné du centre, plus son profil est atypique (il se
distingue clairement).

• Une modalité éloignée est rare mais bien représentée.

14
Interprétation des regroupements :
• Si plusieurs modalités sont proches, elles sont souvent choisies ensemble.

• Si plusieurs individus sont proches, ils ont des profils similaires.

Analyse des variables :

• Visualisation des variables qualitative dans le nouveau repère forme par les 2
premiers axes principaux (Dim 1 & Dim 2).
• Chaque point rouge est une variable, le graph montre comment elles contribuent
à la structuration du nuage de point.

• On utilise le rapport pour mesurer l’importance d’une variable par

rapport aux axes

• Interprétation :
o Position : plus une variable est éloignée du centre, plus elle contribue à
la formation des axes (importante).
o Variable proche du centre (centre = 0.0 sur le plan) = explique pas bien
les différences entre les individus de ce plan.
o Variable loin du centre = explique bien ce qu’on voit dans le plan.
▪ Reviendra est très bien représentée (en haut à gauche).
▪ Satisfait & Q/Prix sont peu représentées ici (en bas, proche du
centre).

15
À quoi sert la régression logistique ?

Intro : contrairement à la régression linéaire (où l'on prédit une valeur continue), la
régression logistique est utilisée quand on veut prédire une catégorie binaire (0 ou 1)
(ex : était-il malade ? → Oui (1) / Non (0))
→ la variable à prédire est qualitative binaire, elle prend 2 modalités (codées souvent
0 et 1).
On peut utiliser comme variable explicative des valeurs quantitatives (âge, taille…) ou
binaires (0 et 1)

Étapes de la régression logistique

1. Préparer les données (transformer la variable cible en binaire si besoin).

2. Appliquer une fonction sigmoïde pour modéliser les probabilités entre 0 et 1.

3. Linéariser le modèle avec la fonction logit pour appliquer une régression.

4. Estimer les coefficients (α et β) via la méthode du maximum de vraisemblance.

5. Utiliser la règle de décision pour classer en 0 ou 1.

6. Évaluer le modèle avec des métriques (R² pseudo, AIC, etc.).

Formule de la régression logistique

La probabilité que Y = 1 sachant X :

C’est une fonction sigmoïde : elle renvoie toujours un résultat entre 0 et 1 → parfait pour
une proba.

Fonction sigmoïde : pourquoi ?

• Elle transforme une combinaison linéaire (ex. β₀ + β₁x) en une valeur comprise
entre 0 et 1.

• Idéale pour modéliser une proba.

• Forme en S : aplatie vers 0 et 1, pente au centre.

α (alpha) : contrôle la pente de la courbe

• grand α : transition 0 à 1 brusque (courbe très raide)

16
 • petit α : courbe plus plate

• β (Beta) contrôle la position horizontale de la courbe

o positif → la courbe est décalée vers la gauche
o négatif → la courbe est décalée vers la droite

Fonction logit : transformation inverse

La fonction logit transforme la proba (0 et 1) en une valeur réelle (entre -∞ et +∞) :

Cela permet d’appliquer une régression linéaire classique dans un espace linéaire.
On revient ensuite dans le monde des proba avec la sigmoïde.

Règle de décision

• Les valeurs seuil souvent est 0.5

• Si proba > 0.5 → prédire Y = 1

• Sinon → prédire Y = 0

• Le seuil peut être ajusté selon le contexte (ex. médical).

Odds et Odds Ratio

• Odds (cote) :

Le cote (odds) exprime les chances qu’un événement se produise par rapport à
ce qu’il ne se produise pas.

17
 • Odds ratio (OR) : comparaison des chances entre deux groupes :

• Interprétation :

o OR = 1 → X n’a pas d’effet.

o OR >> 1 → Plus X est grand, plus Y vaut 1.

o OR << 1 → Plus X est grand, plus Y vaut 0.

Résumé visuel du modèle

• Sigmoïde = courbe de proba.

• Logit = transformation pour linéariser.

• β₀, β₁, ... = coefficients qui modèlent l’effet des variables.

• Objectif : prédire une proba, décider si c’est un 1 ou un 0, et expliquer les

facteurs.

18
Représentation graphique :
Régression logistique :

Objectif :
• Modéliser une probabilité (ex : réussir = 1 ou rater = 0) en fonction d’une ou
plusieurs variables explicatives.

Étapes graphiques :
1. À gauche – Nuage des points avec P (la probabilité brute)
a. L’axe vertical = la probabilité PPP (entre 0 et 1)
b. L’axe horizontal = la variable explicative (par ex. le score d’un étudiant)
c. Problème : la relation n’est pas linéaire → on ne peut pas tracer une droite
simple.
2. Au centre – Transformation logit(P)
a. On applique la fonction logit :

b. Elle transforme la probabilité (bornée entre 0 et 1) en une valeur réelle

(entre -∞ et +∞).
c. Ce changement permet de rendre la relation linéaire : maintenant on peut
tracer une droite entre logit(P) et la variable explicative.
d. Cette droite est définie par les paramètres α (pente) et β (position).
3. À droite – Retour dans le monde des probabilités
a. On inverse la transformation logit → on obtient une courbe logistique en
S:

19
 b. Cette courbe s’aplatit à 0 et 1, donc parfaite pour modéliser une
probabilité.
c. On peut maintenant prédire la probabilité que Y = 1 en fonction de X.

À retenir graphiquement :
• Le logit rend la relation linéaire → on peut estimer les paramètres α et β.
• Une fois estimé, on re-transforme pour obtenir la vraie courbe en S.
• La courbe permet de décider à partir d’un seuil (souvent 0.5) si l’on prédit Y=1 ou
Y=0.

20