 A l’issue de la phase de recueil de données, la démarche

statistique consiste à traiter analyser et interpréter les

données recueillies.

 L’analyse univariée et bivariée sont des étapes importantes en

analyse de données statistiques. Cependant, elles ne permettent
pas de capter les liaisons multiples entre variables.

 Les méthodes d’analyse de données ont largement démontré

leur efficacité dans l’étude des gros volumes de données grâce
aux développements de l’informatique.

L’analyse multivariée est un ensemble de techniques pour découvrir la structure, éventuellement

compliquée, d’un tableau à plusieurs dimensions et de traduire par une structure plus simple et qui la
résume au mieux.(Le plus souvent, une représentation graphique)

Analyse multidimensionnelle

On distingue plusieurs méthodes selon l’objectif

Les méthodes descriptives, ou exploratoires, Les méthodes explicatives sont utilisées

permettent d'organiser les données de manière visuelle, à des fins prédictives. En identifiant
sous forme de tableaux et de graphiques, pour avoir une comment des paramètres influent sur un
vision structurée et faciliter la compréhension. résultat.

 L'analyse de la variance (ANOVA).

 L'analyse en composantes principales (ACP).
 L'analyse de régression.
 L'analyse factorielle des correspondances (AFC).
 Les réseaux de neurones.
 L'analyse des correspondances multiples (ACM).
 Les arbres de décision.
 …
 …

Analyse multidimensionnelle

2
 Nous demandons aux clients qui utilisent un restaurant s'ils sont
satisfaits, à travers 3 critères sur lesquels ils doivent se
positionner sur une échelle de 1 à 5, 1 correspondant à "très
insatisfait" et 5 à "très satisfait".
Voici ces 3 critères : Qualité, Service, Prix

Qualité Service Prix

individu 1 3 3 4
individu 2 2 1 1
individu 3 4 4 3
individu 4 5 5 5
individu 5 1 1 1
individu 6 4 4 2
… … … …
Moyenne 3,16 3 2,67

Intérêt d’une analyse multidimensionnelle

L’Analyse en Composantes principales (ACP) fait partie du groupe des méthodes descriptives
multidimensionnelles appelées méthodes factorielles.

L’ACP propose, à partir d’un tableau rectangulaire de données comportant les valeurs des variables
quantitatives pour des individus, des représentations géométriques de ces individus et de ces variables.

L'ACP a deux objectifs principaux. Elle permet d'étudier :

 La variabilité entre les individus, c'est-à-dire quelles sont les différences et les ressemblances entre
individus ;
 Les liaisons entre les variables : y a-t-il des groupes de variables très corrélées entre elles, qui
peuvent être regroupées en de nouvelles variables synthétiques ?

ACP : Analyse en Composantes Principales

3
 L’ACP s’intéresse à des tableaux de données rectangulaires avec
des individus en lignes et des variables quantitatives en colonnes.

Pour la variable k, on note :

Moyenne : Ecart-type :

Les champs d'application de l'ACP sont multiples, allant de la chimie, la biologie, la recherche
économique et sociale, le traitement d'images et l'Apprentissage Automatique …etc.
L'ACP est majoritairement utilisée pour:
 Décrire et visualiser des données ;
 Les décorréler ; la nouvelle base est constituée d'axes qui ne sont pas corrélés entre eux ;
 Effectuer une réduction de dimension des données.

ACP : Quel type de données

12 variables : Les températures mensuelles moyennes (sur 30 ans)

15 individus :
Les villes de France

Le tableau peut être vu comme un ensemble de lignes ou un ensemble de colonnes

ACP : Données

4
Etude des individus : Etudier la ressemblances des Etude des variables : Etudier la ressemblance des variables
individus du point de vue de l’ensemble des variables. (Corrélation).

⇒ Construire des groupes d'individus homogènes ⇒ Recherche d’un petit nombre d’indicateurs
(A l'intérieur d'un groupe, les individus se ressemblent synthétiques pour résumer beaucoup de
et d'un groupe à l'autre ils sont différents.) variables

Lien entre les deux études : Caractérisation des

classes d’individus par les variables.

ACP : Individus x Variables

L'ACP a deux objectifs principaux. Elle permet d'étudier :

 La variabilité entre les individus, c'est-à-dire quelles sont les différences et les ressemblances entre
individus ;
 Les liaisons entre les variables : y a-t-il des groupes de variables très corrélées entre elles, qui
peuvent être regroupées en de nouvelles variables synthétiques ?

- Méthode descriptive - exploratoire : visualisation de données par graphiques simples

- Synthétiser et résumé de grands tableaux individus × variables

Projection (Réduire) à un espace de petite dimension (par exemple 2) en déformant le moins possible la
réalité. Il s’agit donc d’obtenir le résumé le plus pertinent possible des données initiales.

ACP : Objectifs

5
 Pour visualiser des points dans un espace à n
Représenter les individus
dimensions (avec n>2 ) sur un plan, la solution
par un nuage de points :
est d’effectuer une projection orthogonale.

La projection mathématique : c’est représenter

des points à p dimensions dans un espace plus
« petit », c’est-à-dire à q dimensions, avec q<p .

Si nb variables > 3

Quand on projette des points, on

Représentation graphiques
perd de l’information.
à plus de 3 dimensions ça
n’existe pas !!!

ACP : Projection

Il faut essayer de perdre le moins d’information possible.

Il y aurait donc des projections qui

seraient meilleures que d’autres ?

Vue de dessous Vue du dessus

La clé de l’ACP : rechercher la Trouver une projection pour nos données qui
projection pour laquelle l’inertie perde le moins d’information possible.
des points est maximale.

ACP : Clé

6
Objectif 1 : Etudier la ressemblance des individus. (Etudier le nuage des individus )

Notion de ressemblance : distance (au carré) entre individus i et i′ :

 L'étude du tableau de données peut être

réalisée géométriquement via l'étude des
distances entre individus.

Etudier la forme du nuage de points

Etude des individus ≡ Etude de la forme du nuage NI

ACP : Nuage des individus

Centrer les données ne modifie pas la forme du nuage

⇒ Toujours centrer

ACP : Centrage et réduction des données

7
 Exemple : On considère ces 2 échantillons, représentant tous deux les mêmes pommes :
Echantillon 1 Echantillon 2
poids (g) diamètre (mm) poids (g) diamètre (cm)
100 70 100 7
95 65 95 6,5

6,25 6,25 Variance (Inertie) 6,25 0,00625

Dans le premier cas, quand on va chercher le premier axe principal d’inertie, les variables poids et
diamètre influenceront de manière égale le calcul de l’axe (elles ont toutes deux une variance de
6,25). Mais dans le second cas, la variable poids « pèsera beaucoup plus lourd » que la
variable diamètre dans le calcul, car 6,25 est bien plus grand que 0,00625

C’est problématique, car le premier et le second

cas représentent exactement les mêmes pommes ! Réduire les données

ACP : Centrage et réduction des données

Faire en sorte que leurs moyennes soient toutes égales et que leurs variances le soient aussi.

Transformer nos variables de telle manière que leur :

moyenne soit égale à 0 et que leur variance soit égale à 1.

Le centrage La réduction

 Il faut soustraire à toutes les  Après avoir centré les données, si on les divise par leur écart-
observations leur moyenne. type, alors on obtient des valeurs dont la variance vaut 1.

xik  X k
xik 
La formule centrage-réduction : k

ACP : Centrage et réduction des données

8
 Analyser ce tableau centré-réduit.(Visualiser) Impossible de voir le nuage NI
⇒ chercher une image approchée

L’ACP vise à fournir une image simplifiée de NI la plus fidèle possible

⇐⇒ Trouver le sous-espace qui résume au mieux les données

ACP : Données centrées-Réduites

Données initiales Données centrées réduites

ACP : Données centrées-Réduites

9
 Parmi ces 3 propositions, quelle est celle qui restitue
Qualité d’une image (Projection): au mieux le nuage dans son ensemble ?
• Restitue fidèlement la forme générale du nuage
• Meilleure représentation de la diversité, de la variabilité
• Ne perturbe pas les distances entre individus

Comment quantifier la qualité d’une image ?

A l’aide de la notion de dispersion ou variabilité appelée Inertie
Inertie ≡ variance généralisée à plusieurs dimensions

ACP : Exemple 3D

Comment trouver la meilleure image approchée du nuage (La meilleure projection) ?

1. Trouver l’axe (facteur) qui déforme le moins possible le nuage

On note :
 Hi la projection d'un individu sur un axe
 O le centre de gravité du nuage
 (iHi)² est l'écart entre l'individu i dans l'espace initial et sa projection sur un axe

On veut que l'écart entre un individu et sa projection (iHi)2 soit le plus petit possible.
Donc on veut avoir les (OHi)2 les plus grands possible. « (Pythagore) » (la somme des (OHi)2
pour tous les individus)
La somme des (OHi)2 c'est bien la dispersion des individus la plus
grande possible  Le premier facteur
2. Ensuite chercher un axe orthogonal à ce premier axe et qui maximise l’inertie
3. Chercher un 3ème axe orthogonal à tous les précédents qui maximise l’inertie (Séquentiellement …)

ACP : Ajustement du nuage des individus

10
La notion d’inertie

En Analyse univariée, pour mesurer l’espacement entre les valeurs d’une variable, nous avons étudié
la variance. Cela, c’est pour une variable, c’est-à-dire pour un nuage de points à 1 dimension.

La généralisation de ce concept à un nuage de points à k dimensions nous donne

l’inertie du nuage de points NI

L’inertie du nuage de points NI est la moyenne des carrés des distances entre les 1
points Mi et leur centre de gravité G . On note la distance entre le point i et G
I
 d ( M i , G)2
comme ceci : d(Mi,G) . L'inertie totale de NI par rapport à G est donc égale à :

Plus le nuage sera dispersé (étalé), plus son inertie sera K

1
grande. D’ailleurs, l’inertie du nuage de points NI est
I
 d ( M i , G ) 2   Vark
aussi la somme des variances sur toutes les k dimensions : k 1

ACP : Inertie

Comment interpréter les axes ?

⇒ Besoin de variables pour interpréter les dimensions de variabilité.

ACP : Nuage des individus

11
Considérons les coordonnées des individus sur les axes comme des variables

ACP : Nuage des individus

Interprétation du graphe des

individus grâce aux variables

Cercle des corrélations

ACP : Nuage des individus

12
Pour l'objectif 1 (Etudier la ressemblance des individus)  la projection du nuage des
individus NI sur les 2 premiers axes d’inertie, c’est-à-dire sur le premier plan factoriel.

Objectif 2 : Etudier les liaisons entre les variables.

 La projection du nuage des variables NK sur le premier plan factoriel.
Le cercle des corrélations.

Propriétés :

1- Si les données sont centrées réduites : tous les points se

situent de la même distance du repère «1 »

2- Cos(v1Ôv2)=r(v1,v2)

ACP : Cercle des corrélations

Interprétation du cercle des corrélations.

ACP : Cercle des corrélations

13
 Attention aux pièges

Il est recommandé de n’interpréter que les flèches les plus longues (bien représentées)

ACP : Cercle des corrélations

Pour le second objectif, nous chercherons aussi les axes principaux d’inertie, non pas pour le nuage des
individus, mais pour le nuage des variables.

Un résultat remarquable :
 Nous avons ici 2 espaces totalement différents : Rk et RI . Le premier est à k dimensions et contient le
nuage d’individus NI , et l’autre est à I dimensions et contient le nuage des variables NK
 Dans chacun des 2 espaces, on a cherché les axes principaux d’inertie.
Dans Rk , nous avons vu que l’on pouvait considérer les axes principaux comme de nouvelles
variables calculables à partir des variables initiales.

 Si l'on place ces nouvelles variables dans RI , alors celles-ci coïncident exactement avec les axes
principaux d’inertie du nuage des variables NK

 Étudier les axes d’inertie des individus est équivalent à étudier les axes principaux d’inertie des
variables.
En ACP quand on analyse un échantillon, étudier les individus ou étudier les
variables, c’est étudier deux facettes d’une même chose.

ACP : Nuage des variables

14
 ACP : Nuages des individus - variables

% Pourcentage d’inertie : Pourcentage d’information (d’inertie) expliqué par chaque axe

Combien de composantes analyser ?

 Critère de Kaiser : Ne pas considérer les axes dont

l’inertie associée est inférieure à un seuil (100/K)%

 Méthode du coude :consiste à repérer l’endroit à

partir duquel le pourcentage d’inertie diminue beaucoup
plus lentement lorsque l’on parcourt le diagramme des
éboulis de gauche à droite.

Diagramme des éboulis des valeurs propres

ACP : Pourcentage d’inertie

15
Données :
Dans le but d’analyser les précipitations (en cm) , la température maximale et minimale (en °C)
pour quelques villes, les données collectées sont présentées dans le tableau suivant :

P Tmax Tmin
Ajaccio 12,04 23,7 5,9
Brest 17,18 15,5 -1,8
Dunkerque 11,83 13,1 2,8
Nancy 6,23 13,5 -2,4
Nice 16,99 21,1 7,2
Toulouse 3,87 20,3 -0,9

ACP : Exemple illustratif

Centrage et réduction des données

Déterminer matrice variance-covariance

et matrice de corrélation

Calculer les valeurs et vecteurs propres

Déterminer les axes factoriels et

composantes principales

ACP : Démarche

17
 Résultats préliminaires :

P Tmax Tmin
Ajaccio 12,04 23,7 5,9
Brest 17,18 15,5 -1,8
Dunkerque 11,83 13,1 2,8
Nancy 6,23 13,5 -2,4
Nice 16,99 21,1 7,2
Toulouse 3,87 20,3 -0,9
Moyenne 11,36 17,87 1,8
Écart-type 4,98 4,04 3,76

ACP : Exemple d’application

Données centrées réduites xik  X k

xik 
k

P Tmax Tmin P Tmax Tmin

Ajaccio 12,04 23,7 5,9 Ajaccio 0,14 1,44 1,09
Brest 17,18 15,5 -1,8 Brest 1,17 -0,59 -0,96
Dunkerque 11,83 13,1 2,8 Dunkerque 0,10 -1,18 0,27
Nancy 6,23 13,5 -2,4 Nancy -1,03 -1,08 -1,12
Nice 16,99 21,1 7,2 Nice 1,13 0,80 1,44
Toulouse 3,87 20,3 -0,9 Toulouse -1,50 0,60 -0,72
Matrice des données initiales X Matrice des données centrées réduites Xcr

P Tmax Tmin
Moyenne 11,36 17,87 1,8
Écart-type 4,98 4,04 3,76

ACP : Exemple d’application

18
 Elle donne les coefficients de corrélation linéaire des variables
Matrice de corrélation R
prises deux à deux. C’est une succession d’analyses bivariées.
La matrice de corrélation est obtenue par la formule
P Tmax Tmin suivante : 1 t
P 1 r(P, Tmax) r(P, Tmin) R X cr . X cr
I
Tmax r(Tmax,P) 1 r(Tmax,Tmin) 1 t
Selon l’exemple : R X cr . X cr
Tmin r(Tmin,P) r(Tmin, Tmax) 1 6

P Tmax Tmin
P 1 0,09 0,49
Tmax 0,09 1 0,62
Tmin 0,49 0,62 1

ACP : Exemple d’application

Valeurs propres – Vecteurs propres

λ est une valeur propre de X si et seulement si il existe un vecteur v non nul tel que : Xv= λv.
On dit alors que v est le vecteur propre de X associé à la valeur propre λ.

Exemple :

Xv= λv
(X - λI)v = 0
det(X - λI) = 0

En développant le déterminant, on obtient le polynôme

caractéristique de X dont les racines sont ses valeurs propres.

ACP : Exemple d’application

19
Valeurs propres – Vecteurs propres

Exemple d’application : Déterminer le polynôme caractéristique et calculer les valeurs et vecteurs

propres de la matrice A:

Le polynôme caractéristique 

ACP : Exemple d’application

Valeurs propres – Vecteurs propres

Les valeurs propres : det(A - λI) = 4 - 8λ + 5λ2 - λ3 Les trois racines de ce polynôme sont :
•λ=1
• λ = 2 (racine double)
Les vecteurs propres vi: Xv= λv

ACP : Exemple d’application

20
Valeurs propres – Vecteurs propres

Les vecteurs propres :

ACP : Exemple d’application

Valeurs propres – Vecteurs propres

La diagonalisation :
Pour obtenir les vecteurs propres, on diagonalise la matrice.

Une matrice carrée A est dite diagonalisable s'il existe une matrice inversible P et une matrice diagonale
D satisfaisant la relation :
A=PDP-1

Les λi sont les valeurs propres de la matrice A et aussi la diagonale

de D et les colonnes de P sont les vecteurs propres associés.

Exemple :

ACP : Exemple d’application

21
 Valeurs propres – Vecteurs propres

La diagonalisation :

A = PDP-1

ACP : Exemple d’application

Valeurs propres – Vecteurs propres P Tmax Tmin

P 1 0,09 0,49
R
Tmax 0,09 1 0,62
Tmin 0,49 0,62 1
Les valeurs propres classées en ordre décroissant
de la matrice R sont :

 λ1=1,83  0.46  0.79   0.41 

  v 0.61 v  0.56 
 λ2=0,92
Les vecteurs propres associés : v1   0.56 2   3  
 0.69 0.03 0.72
 λ3=0,25      
 R = PDP-1

1.83 0 0   0.46 0.79 0.41 

   
Avec : D   0 0.92 0  et : P   0.56 0.61 0.56 
 0 0 0.25   0.69 0.03 0.72 
  

ACP : Exemple d’application

22
 Inertie expliquée

Les valeurs propres permettent de déterminer l’inertie expliquée par chaque axe factoriel
(principal), ainsi d’évaluer la quantité d’information contenue dans cet axe.

Le tableau suivant résume l’inertie expliquée par les axes principaux :

Inertie totale  (valeurs propres)  3

Valeur propre Inertie expliquée (%) Cumulé (%)

λ1 1,83 61,17 61,17
λ2 0,92 30,51 91,68
λ3 0,25 8,32 100,00

 Le premier axe contient 61,17% de l’information

 Le deuxième axe contient 30,51% de l’information

ACP : Exemple d’application

Projection des données

ACP : Exemple d’application

23
 Plan factoriel

Le plan défini par le couple de vecteurs propres (v1,v2) est appelé plan factoriel :
- Le plus proche des points représentants les individus.
- Sur lequel ces points se déforment le moins possible
- Explique le mieux l’inertie globale

ACP : Exemple d’application

Composantes principales

Sont obtenues par la projection des individus sur les axes principaux :

0,14 1,44 1,09

1,17 -0,59 -0,96  0.46  0.79 
0,10 -1,18 0,27    
Xcr v1   0.56 v2 0.61
-1,03 -1,08 -1,12
 0.69 0.03
1,13 0,80 1,44    
-1,50 0,60 -0,72

ACP : Exemple d’application

24
 Composantes principales
 La projection sur l’axe 1 : Xcr * v1
0,14 1,44 1,09 1,63
1,17 -0,59 -0,96  0.46 -0,45
0,10 -1,18 0,27   -0,43
Xcr * v1   0.56
-1,03 -1,08 -1,12 -1,85
 0.69
1,13 0,80 1,44   1,96
-1,50 0,60 -0,72 -0,85

 La projection sur l’axe 2 : Xcr * v2

-0,81
0,14 1,44 1,09
1,31
1,17 -0,59 -0,96
 0.79  0,79
Xcr 0,10 -1,18 0,27 *  
-1,03 -1,08 -1,12 v2 0.61 -0,12

0.03 0,37
1,13 0,80 1,44   -1,54
-1,50 0,60 -0,72

ACP : Exemple d’application

Composantes principales

λ 1,83 0,92 0,25

F1 F2 F3
Ajaccio 1,63 -0,81 0,07
Brest -0,45 1,31 0,84

C Dunkerque -0,43 0,79 -0,81

Nancy -1,85 -0,12 -0,21
Nice 1,96 0,37 -0,13
Toulouse -0,85 -1,54 0,24

Propriétés :
- Les composantes principales sont centrées c à d la moyenne de chaque composante est nulle.
- La variance de chaque composante est égale à la valeur propre associée à l’axe.

ACP : Exemple d’application

25
 Nuage des individus F1 F2 F3
Ajaccio 1,63 -0,81 0,07
La projection des points sur le plan factoriel défini Brest -0,45 1,31 0,84
par (v1,v2) permet d’obtenir le nuage des individus Dunkerque -0,43 0,79 -0,81
qui capture le maximum d’information possible. Nancy -1,85 -0,12 -0,21
Nice 1,96 0,37 -0,13
Toulouse -0,85 -1,54 0,24

L’inertie expliquée par le plan factoriel : 91,68%

ACP : Exemple d’application

Nuage des individus : Interprétation

P Tmax Tmin
Ajaccio 12,04 23,7 5,9
Brest 17,18 15,5 -1,8
Dunkerque 11,83 13,1 2,8
Nancy 6,23 13,5 -2,4
Nice 16,99 21,1 7,2
Toulouse 3,87 20,3 -0,9

ACP : Exemple d’application

26
 Cercle de corrélation : Les corrélation entre les variables initiales et les composantes principales
λ 1,83 0,92 0,25
 0.46  0.79   0.41  F1 F2 F3
     
v1   0.56 v2  0.61 v3  0.56  Ajaccio 1,63 -0,81 0,07
 0.69 0.03 0.72 Brest -0,45 1,31 0,84
     
Dunkerque -0,43 0,79 -0,81
On peut utiliser la formule suivante pour Nancy -1,85 -0,12 -0,21
calculer la corrélation : Nice 1,96 0,37 -0,13
Toulouse -0,85 -1,54 0,24
r ( ki , F j )  element i du vecteur propre v j *  j

F1 F2 F3
P 0,62 0,76 0,21
r ( P, F1 )  element 1 du vecteur propre v1 * 1  0.46* 1.83  0.62
Tmax 0,76 -0,59 0,28
Tmin 0,93 -0,03 -0,36 r (Tmin , F1 )  element 3 du vecteur propre v1 * 1  0.69* 1.83  0.93

ACP : Exemple d’application

Cercle de corrélation :
F1 F2 F3
P 0,62 0,76 0,21
Tmax 0,76 -0,59 0,28
Tmin 0,93 -0,03 -0,36

ACP : Exemple d’application

27
Rappel : Étudier les axes d’inertie des individus est équivalent à étudier les axes d’inertie des variables.

En ACP quand on analyse un échantillon, étudier les individus ou étudier les

variables, c’est étudier deux facettes d’une même chose.

ACP : Exemple d’application

La qualité de représentation

La projection d’un individu sur

l’axe est bonne lorsque :
cos 2 (i )  1
L’individu M5 est bien représenté,
alors que M4 non.

cos 2 (5 )  1

ACP : Exemple d’application

28
La qualité de représentation
De même, la qualité de projection des individus sur le plan factoriel est bonne lorsque : cos 2 (i )  1

ACP : Exemple d’application

La qualité de représentation
c 2ij
Pour calculer la qualité de représentation d’un individu sur un axe, on utilise : Qualité ( M i , Fj )  Cos ( ) 
2
2
Mi

Qlté(Mi,F1) Qlté(Mi,F2) Qlté(Mi, (F2,F1))

Ajaccio 0,802 0,197 0,999
Brest 0,078 0,653 0,731
Dunkerque 0,128 0,423 0,551
Nancy 0,982 0,004 0,986
Nice 0,962 0,034 0,996
Toulouse 0,228 0,753 0,981
2
c
Q u a lité ( N a n c y , F1 )  C o s 2 ( )  41
2
2
Nancy  (1.03)2  ( 1.08) 2  (1.12) 2  3.4817
N ancy
(  1 .8 5 ) 2
Q u a l i t é ( N a n c y , F1 )   0 .9 8 2
3 .4 8 1 7

ACP : Exemple d’application

29
La contribution
Lors du calcul des composantes principales, chaque individu contribue à la construction des axes. Cependant,
certains influent plus que d’autres sur le calcul de certaines composantes.

Contr(Mi,F1) Contr(Mi,F2) Contr(Mi, (F2,F1)) La contribution d’un individu

Ajaccio 0,240 0,118 0,199 à un axe est définie par :

Brest 0,019 0,312 0,116 c 2ij

Contr ( M i , Fj )  Pi
Dunkerque 0,017 0,113 0,049 j
Nancy 0,311 0,003 0,208 Avec :
Nice 0,348 0,024 0,240 1
Pi  (Le poids de chaque individu)
Toulouse 0,065 0,430 0,187 I

1 c 215 1 1.96 2
C ontr ( N ice , F1 )   *  0.348 Nice contribue de 34,8% à la construction de l’axe 1
I 1 6 1.83

ACP : Exemple d’application

Analyse multivariée
Analyse en Composantes Principales
- ACP -
Analyse
de
données

30