Analyse des Données Multivariées

Analyse en Composantes Principales et Analyse Factorielle des

Correspondances

Roufaida Sekiou
Département de Recherche Opérationnelle
Faculté de Mathématiques
Université des Sciences et de la Technologie Houari Boumediene

Janvier 2025

1 / 61
Table des Matières
1. Introduction à l’Analyse Multivariée
2. Introduction à l’ACP
3. Notions de base
4. Analyse du nuage des individus
5. Analyse du nuage des variables
6. Interprétation des résultats
7. Introduction à l’AFC
8. Notions Générales
9. Principe de l’AFC
10. Conclusion et Questions
2 / 61
Introduction à l’Analyse Multivariée

• Qu’est-ce que c’est? Analyse des données avec plusieurs variables.

• Pourquoi est-ce important? De nombreux ensembles de données réelles sont
multidimensionnelles, nous avons donc besoin de techniques pour:
• Simplifier des données complexes.
• Identifier les schémas et relations.
• Réduire la redondance.
• Caractéristiques clés:
• Multidimensionnelle: Analyse avec plusieurs variables simultanément.
• Descriptive: Résumer la structure des données.

3 / 61
Aperçu des Méthodes Factorielles

Quatre méthodes fondamentales de l’analyse des données:

1. Analyse en Composantes Principales (ACP): Réduit la dimension des données
tout en préservant la variance.
2. Analyse Factorielle des Correspondances (AFC) : Analyse les relations dans les
tableaux de contingence (données exprimées par la fréquence d’événements).
3. Analyse des Correspondances Multiples (ACM): Extension de l’AFC à plus de
deux variables qualitatives.
4. Classification Ascendante Hiérarchique: Méthode de regroupement
agglomérative qui crée une structure hiérarchique.
Les trois premières constituent les méthodes factorielles

4 / 61
Introduction à l’ACP

• Objectif: Réduire la dimension de données quantitatives complexes.

• Problème: Visualiser des données en dimension élevée dans un espace de dimension
réduite (2D ou 3D).
• Principe: Trouver un résumé pertinent des données en déformant le moins possible
la réalité.
• Méthode: Utilise la matrice de variances-covariances pour extraire les facteurs
importants.
• Résultat: Graphiques des individus, variables et leurs relations dans un espace réduit.
• Interprétation: Aides à la compréhension de la structure des données à travers des
indicateurs numériques et graphiques.

5 / 61
Notions de base

• Données: Matrice X (n × p)
• n individus, p variables.
• xij ∈ R (valeur du i-ème individu pour la j-ème variable).
• Nuages de Points
• Nuage des individus: Chaque individu est un point dans Rp .
• Nuage des variables: Chaque variable est un point dans Rn .
• Prétraitement des données:
• Centrage: Les variables ont une moyenne nulle (Matrice Y).
• Réduction: Les variables ont une variance égale à 1 (Matrice Z).
• Distance Euclidienne:
• Utilisée pour mesurer la proximité entre les individus.
• Les données centrées-réduites donnent le même poids à toutes les variables.

6 / 61
• Inertie:
• Mesure la dispersion du nuage des individus.
• L’inertie des données centrées-réduites est égale à p.
• Mesure de la liaison entre deux variables:
• Covariance.
• Corrélation (cosinus de l’angle entre les variables).
• Types d’ACP:
• ACP non normée (matrice des covariances, Y).
• ACP normée (matrice des corrélations, Z).
• On se place dans le cadre de l’ACP normée.

7 / 61
Exemple

8 / 61
9 / 61
10 / 61
11 / 61
12 / 61
13 / 61
14 / 61
15 / 61
16 / 61
17 / 61
18 / 61
19 / 61
20 / 61
Analyse du nuage des individus
• Objectif: Trouver le sous-espace qui fournit la meilleure représentation des données.
• Meilleure approximation des données par projection.
• Meilleure représentation de la variabilité des données.
• Projection d’un individu:
• Projection orthogonale d’un point z sur un axe de vecteur directeur v.
• Les nouvelles variables sont des combinaisons linéaires des colonnes de Z.
• Les nouvelles variables sont centrées si Z l’est.
• Choix des axes de projection:
• Maximiser l’inertie du nuage projeté.
• Les axes sont les vecteurs propres de la matrice de corrélation R.
• Les composantes principales sont non corrélées.
• La variance de chaque composante est la valeur propre correspondante.
• Matrice F: Matrice des coordonnées factorielles des individus.

21 / 61
22 / 61
23 / 61
24 / 61
25 / 61
26 / 61
Analyse du nuage des variables

• Objectif: Trouver le sous-espace qui fournit la meilleure représentation des variables.

• Projection d’une variable:
• Projection N-orthogonale d’une variable z sur un axe de vecteur directeur u.
• Les coordonnées des projections forment une matrice A.
• Choix des axes de projection:
• Maximiser la somme des cosinus carrés des angles entre variables et axes.
• Les axes sont les vecteurs propres de n1 ZZT .
• La valeur propre associée donne la qualité de la projection.
• Matrice A: Matrice des coordonnées factorielles des variables.

27 / 61
28 / 61
29 / 61
30 / 61
31 / 61
32 / 61
33 / 61
Interprétation des résultats
• Variance des composantes principales:
• Les composantes principales sont des variables synthétiques non corrélées.
• Leur variance est maximale et vaut la valeur propre associée.
• L’inertie des individus est la somme des valeurs propres retenues.
• Inertie totale:
• L’inertie totale est la somme des variances des variables initiales (p).
• On cherche à expliquer la majorité de cette inertie avec le moins de composantes
possibles.
• Qualité de la réduction de dimension:
• Proportion d’inertie expliquée par chaque composante.
• Comment choisir le nombre de composantes à retenir:
• Pourcentage d’inertie expliquée.
• Règle de Kaiser (λ > 1).
• Règle du coude.
• Critère de stabilité.
34 / 61
• Interprétation des plans factoriels des individus:
• La distance en projection est proche de la distance initiale si les individus sont bien
projetés.
• On utilise le cosinus carré de l’angle entre l’individu et l’axe.
• Les individus les plus excentrés contribuent le plus à l’inertie.
• Interprétation des cercles de corrélations des variables:
• L’angle en projection est proche de l’angle initial si les variables sont bien projetées.
• La corrélation est le cosinus de l’angle.
• La longueur de la flèche dans le cercle donne la qualité de la projection.
• Contributions des variables:
• Permettent d’interpréter les axes.

35 / 61
36 / 61
37 / 61
38 / 61
39 / 61
Introduction à l’Analyse Factorielle des
Correspondances

• Qu’est-ce que c’est? Extension de l’analyse en composantes principales (ACP),

basée sur la distance du khi-deux.
• Objectif Étudier la liaison entre deux variables qualitatives.
• Pourquoi les tableaux de contingence? Car ils contiennent des données de
fréquence exprimant des liens entre les catégories.

40 / 61
Notions Générales - Les Données

• Soient V1 et V2 deux variables qualitatives, avec p et q catégories.

• Tableau de contingence N ∗ : Matrice des effectifs observés xij .
 
x11 · · · x1q
N ∗ :=  ... .. ..  ∈ M(p × q)

. . 
xp1 · · · xpq

41 / 61
Exemple Illustratif
• Exemple ”CSP Fillières”: Croisement de l’origine sociale des étudiants avec le choix
de filières universitaires.
• V1 (CSP): 5 modalités.
• V2 (Filière): 4 modalités.
• Tableau de Contingence:
 
80 99 65 58
168 137 208 62 
N∗ = 
 
470 400 876 79 

145 133 135 54 
166 193 127 129

• Effectif total : n = 3784 individus.

42 / 61
Notions Générales - Notations Standards

Pp Pq
• Effectif total: n = i=1 j=1 xij .
Pq
• Effectifs marginaux (lignes): Xi. = j=1 xij .
• Effectifs marginaux (colonnes): X.j = pi=1 xij .
P

• Fréquences observées: fij = n1 xij .

Pq
• Fréquences marginales (lignes): fi. = j=1 fij = P(V1 = i).
• Fréquences marginales (colonnes): f.j = pi=1 fij = P(V2 =
P
j).
f
• Fréquences conditionnelles (lignes): fi/j = [Link] .
fij
• Fréquences conditionnelles (colonnes): fj/i = fi. .

43 / 61
Exemple Illustratif

• Fréquences marginaux lignes:

• f1. = 151
3784 , f2. = 575
3784 , f3. = 1825
3784 , f4. = 467
3784 , f5. = 615
3784 .
• Fréquences marginaux colonnes:
• f.1 = 1029
3784 , f.2 = 481
3784 , f.3 = 1411
3784 , f.4 = 191
3784 .

44 / 61
Notions Générales - Fréquences Théoriques et
Hypothèse

• Fréquence théorique: fˆij = fi. f.j .

• Hypothèses:
(
H0 : les variables V1 et V2 sont indépendantes
H1 : les variables V1 et V2 sont liées

45 / 61
Notions Générales - Test du χ2

• La statistique du χ2 : mesure la différence entre les effectifs observés et les effectifs

théoriques.

X (xij − effectif théorique)2 p X

q
X (fij − fi. f.j )2
χ2 = =n
effectif théorique fi. f.j
i,j i=1 j=1

• Si les variables sont indépendantes, χ2 = 0.

2 2
• Ecart à l’indépendance : ϕ2 = χn = i,j (fij −f i. f.j )
P
fi. f.j
• Exemple :Statistique du χ2 : χ2 ≈ 320.28 pour les données précédentes.

46 / 61
Principe de l’AFC - Transformation des Données

• Transformation des données: au lieu d’utiliser directement N, on utilise :

• Tableau des profils-lignes
• Tableau des profils-colonnes

47 / 61
Principe de l’AFC - Profils Lignes et Colonnes
• Matrice diagonale des profils-lignes:
 
f1. 0 ··· 0
 0 f2. ··· 0
Dr :=  . ..  ∈ M(p × p)
 
.. ..
 .. . . .
0 0 ··· fp.
• Tableau des profils-lignes: Xr = Dr−1 N.
• Matrice diagonale des profils-colonnes:
 
f.1 0 · · · 0
 0 f.2 · · · 0
Dc :=  . ..  ∈ M(q × q)
 
.. . .
 .. . . .
0 0 ··· f.q
• Tableau des profils-colonnes: Xc = Dc−1 N t .
48 / 61
Exemple Illustratif
• Matrice diagonale des profils-lignes:
 151 
3784 0 0 0 0
 0 575
3784 0 0 0 
1825
 
Dr =   ∈ M(5 × 5).
 0 0 3784 0 0 
 0 467
0 0 3784 0 
615
0 0 0 0 3784
• Matrice diagonale des profils-colonnes:
 1029 
3784 0 0 0
 0 481
3784 0 0 
 ∈ M(4 × 4).
Dc = 
 0 1411
0 3784 0 
191
0 0 0 3784

49 / 61
• Profils-lignes:
 
0.053 0.065 0.043 0.038
0.124 0.101 0.111 0.041
 
0.248
Xr =  0.211 0.231 0.021
0.038 0.035 0.036 0.014
0.044 0.051 0.033 0.033

50 / 61
Principe de l’AFC - Centres de Gravité

• Centre de gravité des profils-lignes: gr = (f.1 , . . . , f.q ).

• Centre de gravité des profils-colonnes: gc = (f1. , . . . , fp. ).
• gr = Xr D1p = N t 1p et gc = Xc D1q = N1q .

51 / 61
Exemple Illustratif

• Centre de gravité des profils lignes:

 
1029 481 1411 191
gr = , , , ∈ M(1 × 4).
3784 3784 3784 3784
• Centre de gravité des profils colonnes:
 
151 575 1825 467 615
gc = , , , , ∈ M(1 × 5).
3784 3784 3784 3784 3784

52 / 61
Principe de l’AFC - Métrique du χ2

• Distance euclidienne entre profils-lignes:

X  fij 2
2 ′ fi ′ j
d (i, i ) = −
fi. fi ′ .
j

• Distance euclidienne entre profils-colonnes:

X  fij 2
2 ′ fij ′
d (j, j ) = −
f.j f.j ′
i

• Métriques du χ2 : Pour la dispersion des profils autour du centre de gravité.

53 / 61
Principe de l’AFC - Distance du χ2
• Distance du χ2 entre profils-lignes i et i’:
q
fi ′ j 2
 
X 1 fij
dχ22 (i, i ′ ) = − = ||i − i ′ ||2Mr
f.j fi. fi ′ .
j=1

• où Mr = Dc−1 .
• Distance du χ2 entre profils-colonnes j et j’:
p
fij ′ 2
 
X 1 fij
dχ22 (j, j ′ ) = − = ||j − j ′ ||2Mc
fi. f.j f.j ′
i=1

• où Mc = Dr−1 .

54 / 61
Principe de l’AFC - Inertie Totale

Pp 2
• Inertie des profils-lignes: Inertie(Xr /gr ) = i=1 fi. dχ2 (i, gr )
• Inertie des profils-colonnes: Inertie(Xc /gc ) = qj=1 f.j dχ22 (j, gc )
P

• Lien inertie et écart à l’indépendance:

2
Inertie(Xr /gr ) = Inertie(Xc /gc ) = χn = ϕ2
• Exemple : Inertie = 8.46 × 10−2 pour les données précédentes

55 / 61
Principe de l’AFC - ACP des Deux Nuages

• L’AFC est une double ACP : une sur les profils-lignes, l’autre sur les profils-colonnes.
• Nuage des profils-lignes centré: Yr = Xr − 1p gr .
• Nuage des profils-colonnes centré: Yc = Xc − 1q gc .
• Calcul des vecteurs propres des matrices Vr Mr et Vc Mc .
• où Vr = Yr Dc Yrt et Vc = Yc Dr Yct .
• La métrique utilisée est celle du χ2 .

56 / 61
Principe de l’AFC - Lien entre ACP et AFC

• On travaille avec Ar = Xr Xrt = NDc−1 N t Dr−1 et Ac = Xc Xct = N t Dr−1 NDc−1 .

• Les deux matrices ont les mêmes valeurs propres non nulles.
• λ est une valeur propre associée au vecteur propre u de Vr Mr (resp. Vc Mc ), alors λ
est une valeur propre associée au vecteur propre v de Ar (resp. Ac ).
• v = Mr u et u = √1 Dc v
λ
• Exemple : Valeurs propres de la matrice Ar :

λ1 = 0.0824, λ2 = 0.0017, λ3 = 0.0005

57 / 61
Principe de l’AFC - Facteurs Principaux et
Composantes

• Facteur principal (profils-lignes): w = Mr u.

• Composante principale (profils-lignes): c = Yr w .
• Facteur principal (profils-colonnes): w̃ = Mc ũ.
• Composante principale (profils-colonnes): c̃ = Yc w̃ .
• Composante principale = c = Xr w pour les profils-lignes (resp. c̃ = Xc w̃ pour les
profils-colonnes)

58 / 61
Principe de l’AFC - Contributions des Profils

fi. ci2
• Contribution d’une ligne i: CTR(i) = λ .
f.j c̃ 2
• Contribution d’une colonne j: CTR(j) = λ j .

59 / 61
Conclusion

• L’ACP et l’AFC sont complémentaires pour explorer et visualiser les relations

dans les ensembles de données multidimensionnels.
• Différence clé : L’ACP se concentre sur les variables quantitatives, tandis que l’AFC
travaille avec des données qualitatives ou des tableaux de contingence.

60 / 61
Questions ?

61 / 61