ÉNS de Lyon Cours d’algèbre

M2 FEADéP 2019–2020

Compléments d’algèbre linéaire

Benoit Loisel
13 septembre 2019

Leçons concernées (2018)

(150) Exemples d’actions de groupes sur les espaces de matrices.
(151) Dimension d’un espace vectoriel (on se limitera au cas de la dimension finie). Rang. Exemples et
applications.
(152) Déterminant. Exemples et applications.
(153) Polynômes d’endomorphisme en dimension finie. Réduction d’un endomorphisme en dimension finie.
Applications.
(154) Sous-espaces stables par un endomorphisme ou une famille d’endomorphismes d’un espace vectoriel
de dimension finie. Applications.
(155) Endomorphismes diagonalisables en dimension finie.
(157) Endomorphismes trigonalisables. Endomorphismes nilpotents.
(159) Formes linéaires et dualité en dimension finie. Exemples et applications.
(162) Systèmes d’équations linéaires ; opérations élémentaires, aspects algorithmiques et conséquences
théoriques.

Ce qui est dans le programme

(a) Espaces vectoriels, applications linéaires. Produit d’espaces vectoriels. Sous-espaces, image et noyau
d’une application linéaire. Espaces quotients. Somme de sous-espaces, somme directe, supplémen-
taires. Familles libres, familles génératrices ; bases. Algèbre des endomorphismes d’un espace vecto-
riel E, groupe linéaire GL(E).
(b) Sous-espaces stables d’un endomorphisme. Valeurs propres, vecteurs propres, sous-espaces propres.
(c) Espaces vectoriels de dimension finie. Existence de bases : isomorphisme avec K n . Existence de
supplémentaires d’un sous-espace. Rang d’une application linéaire, rang d’un système de vecteurs.
Espace dual. Rang d’un système d’équations linéaires. Transposée d’une application linéaire. Base
duale. Bidualité. Orthogonalité.
(d) Applications multilinéaires. Déterminant d’un système de vecteurs, d’un endomorphisme. Groupe
spécial linéaire SL(E). Orientation d’un R-espace vectoriel.
(e) Matrices à coefficients dans un anneau commutatif. Opérations élémentaires sur les lignes et les
colonnes, déterminant, inversibilité. Matrices à coefficients dans un corps. Rang d’une matrice.
Représentations matricielles d’une application linéaire. Changement de base. Méthode du pivot
de Gauss. Notion de matrices échelonnées. Applications à la résolution de systèmes d’équations
linéaires, au calcul de déterminants, à l’inversion des matrices carrées, à la détermination du rang
d’une matrice, à la détermination d’équations définissant un sous-espace vectoriel.
(f) Sous-espaces stables d’un endomorphisme, lemme des noyaux. Polynôme caractéristique. Polynômes
d’endomorphismes. Polynômes annulateurs, polynôme minimal. Théorème de Cayley-Hamilton.
Diagonalisation, trigonalisation. Sous-espaces caractéristiques, décomposition de Dunford. Expo-
nentielle des matrices réelles ou complexes.

1
Bibliographie
• marque les livres disponibles dans la bibliothèque de l’agreg ;
∗ marque les livres à ajouter absolument dans la malle si vous comptez les utiliser.

Cours
• J.-M. Arnaudiès et J. Bertin, Groupes, algèbres et géométrie. Ellipses, 1995.
Divers résultats d’algèbre.

• M. Artin, Algebra. Pearson Prentice Hall, 2011.

Si vous aimez montrer les muscles.

• V. Beck, J. Malick et G. Peyré, Objectif Agrégation. H & K (2e édition).

Efficace pour l’agrégation.

• G. Debeaumarché, Manuel de mathématiques – Volume 4 Algèbre et géométrie – 2e année de prépas

scientifiques MP-MP*. Ellipses, 2006.
Pour les résultats élémentaires de L2.

* R. Goblot, Algèbre linéaire. Ellipses, 2005.

Algèbre linéaire sur les anneaux, K[X]-modules.

• X. Gourdon. Algèbre. Ellipse, 2009.

Un classique assez standard, niveau L2.

* J. Grifone. Algèbre linéaire. Cépaduès, 2011.

Un autre classique assez standard, niveau L3.

* R. Mansuy et R. Mneimné. Algèbre linéaire. Réduction des endomorphismes. Vuibert, 2012.

Une bonne référence de réduction.

• R. Mneimné, Réduction des endomorphismes : tableaux de Young, cône nilpotent, représentations

des algèbres de Lie semi-simples. Calvage & Mounet, 2006.
Lire les introductions de chapitre pour enrichir sa culture générale.

• R. Mneimné et F. Testard, Introduction à la théorie des groupes de Lie classiques. Hermann, 1986.
Assez spécialisé, si vous voulez inclure des résultats spécifiques sur R ou C. Attention, quelques
coquilles peuvent s’y glisser : soyez vigilants !

* A. Paugam, Agrégation de mathématiques – Questions délicates en algèbre et géométrie. Dunod,

2007.
À lire à tête reposée pour consolider sa vision des choses.

• P. Tauvel. Algèbre. Dunod, 2005.

Un standard niveau L3.

Les mines d’exercices

• S. Francinou, H. Gianella et S. Nicolas. Oraux X-Ens, algèbre 1. Cassini, 2009.
* S. Francinou, H. Gianella et S. Nicolas. Oraux X-Ens, algèbre 2. Cassini, 2009.
* B. Hauchecorne, Les contre-exemples en mathématiques. Ellipses, 2007.
• P. Tauvel, Exercices d’algèbre linéaire – 400 énoncés avec solutions détaillées. Dunod, 2004.

2
1 Codimension et dualité
1.1 Espaces quotients
Soit K un corps quelconque et E un K-espace vectoriel. Soit F un sous-espace vectoriel de E. On
définit le quotient E/F comme suit :
(1) On définit sur E une relation d’équivalence par x ∼ y ⇔ ∃z ∈ F y = x + z
Exercice 1. Vérifier que c’est bien une relation d’équivalence.

(2) On définit l’ensemble E/F comme l’ensemble des classes d’équivalences pour ∼ et une application
π : E → E/F
« quotient » qui est surjective.
x 7→ [x]
(3) On munit E/F d’une structure d’espace vectoriel par :
— 0E/F = [0E ] = π (0E ) ;
— pour tous ξ, η ∈ E/F , si x ∈ ξ et y ∈ η, on pose ξ + η = [x + y] – cela ne dépend pas du choix de x
et y ;
— pour tout ξ ∈ E/F , tout λ ∈ K, si x ∈ ξ, on pose λ · ξ = [λx] – cela ne dépend pas du choix de
x ∈ ξ (exo).
Fait 1.1. C’est l’unique structure de K-espace vectoriel sur E/F qui fasse de π une application K-
linéaire.
Remarque 1.2. Par construction, π est une application linéaire surjective de noyau F appelée projection
canonique de E sur F .

Proposition 1.3 (Propriété universelle des quotients). Soit E, V des K-espaces vectoriels et F un sous-
espace vectoriel de E. Si F est inclus dans ker u, alors il existe une application linéaire u : E/F → V ,
unique, telle que u soit la composée de la projection canonique E → E/F et de u.

E
u /V
=
π
 ∃!u
E/F

Autrement dit, si v ◦ π = w ◦ π, alors v = w.

De plus, si F = ker u, alors u est injective.
En particulier, (E/F, π) est l’unique couple, à isomorphisme près, vérifiant cette propriété.

Démonstration. Existence : On prend ξ ∈ E/F et x ∈ ξ. On pose u(ξ) = u(x). Cela ne dépend pas du
choix de x. L’application ainsi définie u est K-linéaire.
Unicité : C’est la surjectivité de π.
Injectivité de u : Si u(ξ) = 0 et si x ∈ ξ, alors u(x) = u(ξ) = 0. Ainsi x ∈ ker u, donc ξ = 0.
Unicité de (E/F, π) : On applique la propriété universelle à un autre couple (V, u) et u donne
l’isomorphisme.

Exercice 2. Soient K un corps, E un K-espace vectoriel et F un sous-K-espace vectoriel. Soit u : E → V

une application K-linéaire. On suppose que F ⊂ ker u et on note π : E → E/F la surjection canonique.
Soit u une application linéaire telle que u = u ◦ π. Justifier que :
1. u est uniquement déterminée ;
2. u est injective si, et seulement si, F = ker u ;
3. u est surjective si, et seulement si, u l’est.

Théorème 1.4. Si E est de dimension finie et si F est un sous-K-espace vectoriel de E, alors E/F est
de dimension
dim(E/F ) = dim(E) − dim(F )
Démonstration. Il n’est a priori pas évident que E/F est de dimension finie. π est une application
linéaire surjective donc l’image d’une famille génératrice finie est une famille génératrice finie de E/F .
En particulier, E/F est de dimension finie.

3
 Notons r = dim F et s = dim E/F . Soit (f1 , . . . , fr ) une base de F et (ξ1 , . . . , ξs ) une base de E/F .
On choisit e1 , . . . , es ∈ E telsPque ei ∈Pξi . Alors (e1 , . . . , es , f1 , . . . , fr ) est une base de E. En effet,
P c’est :
- une famille libre car si λi ei +P µj fj = 0, alors en appliquant π : E → E/F , on a λi ξi = 0
donc pour tout i, on a λi = 0. Ainsi µj fj = 0 donc pour tout j, on a µj = 0. P
P famille génératrice car si x ∈ E, alors ilPexiste des
- une P λi ∈ K tels que π(x) = λi ξi . Donc
x − λi ei ∈ F . Ainsi, il existe des µj tels que x − λi ei = µj fj .

1.2 Dualité
Soit K un corps et E un K-espace vectoriel.
Définition 1.5. On appelle espace dual et on note E ∗ = Hom(E, K) l’espace des formes linéaires sur
E. L’espace dual de l’espace dual, appelé bidual, est noté E ∗∗ .
Soit E un K-espace vectoriel admettant une base (ei )i∈I . Pour tout i ∈ I, on peut définir une
application linéaire e∗i uniquement déterminée par les formules :

e∗i (ej ) = 0 si j 6= i et e∗i (ei ) = 1

Fait 1.6. La famille (e∗i )i∈I est libre.

Démonstration. On raisonne sur l’ensemble des parties finies J ⊂ I. Il suffit d’évaluer toute combinaison
λj e∗j sur la famille libre des (ej )j∈J .
P
linéaire
Exemple 1.7. En dimension infinie, cette famille n’est pas génératrice. Prenons par exemple E = K[X]
l’espace vectoriel des polynômes avec pour base les monôme unitaires (X i )i∈N . Quelle est la famille duale
K[X] → K
(fi ) associée ? Pourquoi ne peut-on pas écrire comme combinaison linéaire (finie)
P 7→ P (1)
d’éléments de (fi ) ?
Théorème 1.8. Si E est de dimension finie, alors E ∗ aussi et dim(E) = dim(E ∗ ).
Démonstration. Si (e1 , . . . , en ) est une base de E, alors on a vu que (e∗1 , . . . , e∗n ) est une famille libre de
E ∗ . C’est aussi une famille génératrice car pour tout f ∈ E ∗ , on a :
n
X
f= f (ei )e∗i
i=1

Remarque 1.9 (Accouplement). Si V, W sont des K-espaces vectoriels, on appelle accouplement une
application h·, ·i : V × W → K qui est K-bilinéaire. On dit que l’accouplement est parfait lorsque
V → W∗
l’application est un isomorphisme.
v 7→ hv, ·i
On dispose naturellement d’une application h·, ·i : V × V ∗ → K définie par hx, f i = f (x) qui est un
accouplement.
ι: E → E ∗∗
Définition 1.10. On définit l’application canonique de E dans son bidual qui
x 7 → x
b
à un vecteur x ∈ E associe l’évaluation x
b = hx, ·i en x.
Proposition 1.11. (1) L’application canonique ι : E → E ∗∗ de E dans son bidual est linéaire et injective.
(2) Si E est de dimension fini, alors ι est un isomorphisme canonique entre E et E ∗∗ .
Remarque 1.12. Autrement dit, en dimension finie, l’accouplement h·, ·i est parfait.
Démonstration. (1) Il est facile de voir que ι est linéaire (exo).
Pour montrer que ι est injective, admettons l’existence de bases en toute dimension (en acceptant
par exemple l’axiome du choix) ∗ . Soit x ∈ E \ {0}. Si on complète x en une base, alors on peut définir
x∗ ∈ E ∗ telle que x∗ (x) = 1 6= 0. En particulier x
b 6= 0.
(2) Si E est de dimension finie, alors ι est une application linéaire injective entre espaces de même
dimension.
∗. Je ne connais pas d’autre preuve que celle-ci.

4
Corollaire 1.13. Si E est de dimension finie, alors on a une bijection naturelle de l’ensemble des bases
de E sur l’ensemble des bases de E ∗ :

Ψ : (e1 , . . . , en ) 7→ (e∗1 , . . . , e∗n )

Démonstration. Injectivité : si (e1 , . . . , en ) et (e01 , . . . , e0n ) ont même base duale (f1 , . . . , fn ), alors pour
tout 1 ≤ i, j ≤ n, on aurait fj (ei − e0i ) = 0. Donc ei − e0i ∈ F > = {x ∈ E , ∀f ∈ F ∗ f (x) = 0} où
F = Vect(f1 , . . . , fn ). Or F = E ∗ car (fi ) est une base (dimension finie) et (E ∗ )> = {0} par (2). D’où
ei = e0i pour tout i.
Surjectivité : Soit (f1 , . . . , fn ) une base de E ∗ et (f1∗ , . . . , fn∗ ) la base duale associée dans E ∗∗ .
On considère l’isomorphisme canonique ι : E → E ∗∗ et on pose ei = ι−1 (fi∗ ) pour tout i ∈ J1, nK.
Alors (e1 , . . . , en ) est une base de E car ι est un isomorphisme et pour tous i, j ∈ J1, nK, on a fj (ei ) =
ψ(ei )(fj ) = fi∗ (fj ) = δi,j . Ainsi, on retrouve bien la formule des fj définissant la base duale de ei .
Remarque 1.14. En particulier,
T ceci démontre l’unicité de la base antéduale qu’on peut déterminer par
∗
ei est l’unique vecteur v ∈ j6=i ker e j tel que e∗i (v) = 1. On va voir qu’il est facile de démontrer que
dim j6=i ker e∗j = 1.
T

1.3 Transposition et orthogonalité

Définition 1.15. Soit V et W deux espaces vectoriels, et f ∈ HomK (V, W ). On note f t l’élément de
HomK (W ∗ , V ∗ ) donné par f t (λ) = λ ◦ f . On l’appelle la transposée de f .
Remarque 1.16. On le note aussi parfois f ∗ .
Fait 1.17. Soit u ∈ HomK (V, W ). Si on se donne des bases eV de V et eW de W , alors la matrice de la
transposée ut dans les bases duales associées e∗W et e∗V est la transposée de la matrice de u dans les bases
eV et eW .
Démonstration. Ceci est laissé en exercice au lecteur.
Définition 1.18. Soit V , W des K-espaces vectoriels et h·, ·i : V × W → K un accouplement.
Soit X une partie de E. On appelle orthogonal de X, noté X ⊥ , l’ensemble des éléments f ∈ W telles
que pour tout x ∈ X, on a f (x) := hx, f i = 0.
Soit Y une partie de W . On appelle orthogonal de Y , noté Y > , l’ensemble des vecteurs x ∈ V tels
que pour tout f ∈ Y , on a f (x) := hx, f i = 0.
On pourra en particulier s’intéresser au cas d’un espace V et de son dual W = V ∗ .
Exemple 1.19. Soit K un corps de caractéristique car(K) 6= 2 et q une forme quadratique sur un K-espace
vectoriel V . La forme polaire ϕq définit un accouplement V × V → K qui est parfait si et seulement si q
est non dégénérée. Dans ce contexte, la symétrie de la forme polaire permet d’identifier les deux notions
d’orthogonalité X > = X ⊥ .
Les propriétés élémentaires de l’orthogonalité et ses liens avec la transpositions seront vues en exercice.
Lemme 1.20. Soit E un K-espace vectoriel et F , G deux sous-espaces vectoriels tels que E = F ⊕ G.
Soit j : F ,→ E l’inclusion. Alors sa transposée j t : E ∗ → F ∗ est surjective de noyau ker j t = F ⊥ ' G∗ .
Démonstration. Soit v ∈ F ∗ = HomK (F, K). Soit πF : E → F la projection sur F parallèlement à G. On
peut étendre v en une forme linéaire u = v ◦ πF ∈ E ∗ . Par définition, j t (u) = u ◦ j = v. En particulier,
on obtient la surjectivité de j t .
Soit u ∈ E ∗ que l’on écrit u = v + w avec v = u|F ∈ F ∗ et w = u|G ∈ G∗ . Pour que u soit dans ker j t ,
il faut, et il suffit, que 0 = j t (u) = v. Ainsi ker j t est l’espace des formes linéaires sur E qui s’annulent
sur F , c’est-à-dire F ⊥ .
Soit πG la projection sur G parallèlement à F . Alors l’application w 7→ w ◦ πG réalise un isomorphisme
entre G∗ et F ⊥ .
Théorème 1.21. Soit E un K-espace vectoriel de dimension finie, F un sous-espace vectoriel de E et
F 0 un sous-espace vectoriel de E ∗ . On a les égalités dim F + dim F ⊥ = dim E = dim F 0 + dim F 0> .
Démonstration. Par le lemme, comme j t est surjective de noyau F ⊥ , on a l’isomorphisme im j t = F ∗ '
E ∗ /F ⊥ . Donc dim F ∗ = dim E ∗ − dim F ⊥ . On conclut en utilisant dim E = dim E ∗ et dim F = dim F ∗ .
Soit (f1 , . . . , fm ) une base de F 0 que l’on complète en une base (f1 , . . . , fn ) de E ∗ . Soit (e1 , . . . , en )
la base antéduale de (f1 , . . . , fn ). Alors, on a F 0> = Vect(ep+1 , . . . , en ). D’où le résultat.

5
1.4 Interprétation : codimension et systèmes linéaires
Définition 1.22. Soit E un K-espace vectoriel et F un sous-espace vectoriel de E. La codimension de
F dans E, notée codimE (F ) est la dimension de l’espace vectoriel quotient E/F .
Fait 1.23. Si les espaces E, F sont de dimension finie, on a :

codimF (E) = dim(E/F ) = dim(E) − dim(F ) = dim(F ⊥ ).

Définition 1.24. Un hyperplan d’un espace vectoriel est un sous-espace de codimension 1.

Exercice 3. Soit E un espace vectoriel. Montrer que s’équivalent
(i) H est un hyperplan ;
(ii) H est le noyau d’une forme linéaire non nulle ;
(iii) H admet un supplémentaire de dimension 1.

Soit E un espace vectoriel de dimension finie n et F un sous-espace vectoriel de dimension m. On

a donc dim F ⊥ = n − m = r. Soit (λ1 , . . . , λs ) un système de générateurs de F ⊥ . On a nécessairement
>
s ≥ r et F = F ⊥ . Ainsi x ∈ F ⇔ λi (x) = 0 ∀i ∈ J1, rK. Les relations λi (x) = 0 constituent un système
d’équations du sous-espace F et on peut s’arranger pour en choisir exactement la codimension de F , à
savoir r = codim F = dim E − dim F = dim F ⊥ .
Réciproquement, soit (λ1 , . . . , λs ) un système de rang r d’éléments non nuls de E ∗ . Le système d’équa-
tions λi (x) = 0 caractérise le sous-espace vectoriel F = Vect(λ1 , . . . , λs )> et on a dim F = n − r. Si on
T de (λ1 , . . . , λs ) une base (µ1 , . . . , µr ) de Vect(λ1 , . . . , λs ) et si on pose Hi = ker µi , alors on obtient
extrait
F = Hi . Ainsi, un sous-espace vectoriel de codimension r est l’intersection de r hyperplans.
En particulier, l’espace des solutions d’un système linéaire est soit vide, soit un sous-espace affine de
codimension égale au rang de la famille des formes linéaires définissant le système.

2 Réduction
L’esprit de la réduction des endomorphismes est de pouvoir choisir une base dans laquelle les cal-
culs sont facilités. À ce titre, on aimerait trouver, si possible, une base dans laquelle la matrice d’un
endomorphisme est diagonale ou, à défaut, triangulaire supérieur. Ceci est toujours possible sur un corps
algébriquement clos mais ce n’est plus le cas sur un corps quelconque.
Un changement de base revient à effectuer l’opération matricielle A0 = P −1 AP où P est une matrice
de passage. On est en fait en train de regarder l’action du groupe GLn (K) sur l’espace vectoriel des
matrices carrées Mn (K) par conjugaison P · A = P −1 AP . Les orbites de cette action sont appelées
classes de similitude. Trouver une forme « plus simple » d’une matrice A à similitude près c’est choisir un
« bon » représentant de l’orbite de A. L’un des objets de la réduction est donc de choisir des représentants
et de décrire les classes de similitude pour ces éléments. On parlera alors de matrices diagonalisables et
trigonalisables.
Avant de chercher des invariants pour cette action, rappelons quelques résultats sur les polynômes
d’endomorphisme. Les démonstrations vous sont laissées en exercices, ce sont des rappels de prépa.
Dans toute la suite, K désigne un corps quelconque et E un K-espace vectoriel de dimension finie.

Définition 2.1. Si u ∈ End(E), et λ ∈ K, on note

[
Eu0 (λ) = ker(u − λ id)k
k≥0

le sous-espace caractéristique associé à λ et

Eu (λ) = ker (u − λ id)

le sous-espace propre associé à λ.

6
2.1 Polynômes d’endomorphismes
Par la propriété universelle des anneaux de polynômes, il existe un unique morphisme de K-algèbres :

K[X] → End(E)
Xn n
X
P = λk X k 7→ ak |u ◦ ·{z
· · ◦ u}
k=0 k=0 k−fois

Son image est une K-algèbre, notée K[u] et son noyau est un idéal strict de K[X]. Comme K[X] est
principal, il est engendré par un élément µu , qu’on peut supposer unitaire, appelé polynôme minimal
de u.
Fait 2.2. Tout polynôme annulant u est divisible par µu .
On note également χu = det(X id −u) le polynôme caractéristique de u.

2.2 Intermède : matrices compagnons

Pd−1
Définition 2.3. Soit P = X d + k=0 ak X k un polynôme unitaire de K[X] de degré d > 1. On appelle
matrice compagnon de P la matrice suivante :

0 . . . . . . 0 −ad−1
 
.. .. 
1 . . .

 . .  
. . . ..  .
0 . . . . ..

 . 
. . .. 
 .. .. ... 0 . 
0 ... 0 1 −a0

Exemple 2.4. Si P = X + a0 est de degré 1, alors CP = (−a0 ) ∈ M1 (K).

Proposition 2.5. Soit P un polynôme unitaire de K[X] de degré d > 1. Alors on a µP = χP = P .
Cette proposition est à traiter en exercice.

2.3 Réduction des endomorphismes

Définition 2.6. On dit que λ est une valeur propre si les conditions équivalentes suivantes sont
vérifiées :
(i) χu (λ) = 0 ;
(ii) µu (λ) = 0 ;
(iii) Eu (λ) 6= {0} ;
(iv) Eu0 (λ) 6= {0}.
Proposition 2.7 (Lemme des noyaux).
Soit Q = Q1 . . . Qr un produit de polynômes deux à deux premiers entre eux.
Mr
Alors ker Q(u) = ker Qk (u).
k=1

Théorème 2.8 (Cayley-Hamilton).

On a χu (u) = 0.
Proposition 2.9 (Critère de diagonalisabilité).
S’équivalent :
(i) u est diagonalisable, c’est-à-dire qu’il existe une base de E dans laquelle la matrice de u est diago-
nale ;
(ii) u est annulé par un polynôme scindé à racines simples ;
(iii) µu est scindé à racines simples ;
(iv) E admet une base formée de vecteurs propres pour u ;
(v) E = ⊕λ Eu (λ).

7
Proposition 2.10 (Critère de trigonalisation).
S’équivalent :
(i) u est trigonalisable, c’est-à-dire qu’il existe une base de E dans laquelle la matrice de u est trian-
gulaire supérieure ;
(ii) u est annulé par un polynôme scindé ;
(iii) µu est scindé ;
(iv) χu est scindé ;
(v) E = ⊕λ Eu0 (λ).
Théorème 2.11 (Décomposition de Dunford).
On suppose χu scindé. Alors il existe un unique couple d’endomorphismes (d, n) tels que :
— d est diagonalisable,
— n est nilpotent,
— u = d + n,
— d et n commutent.
De plus, d et n sont des polynômes en u.

3 Invariants de similitude
On a vu que la réduction consiste à choisir de bons représentants des orbites de Mn (K) sous l’action
par conjugaison de GLn (K).
On voudrait également disposer d’un algorithme qui décide si deux matrices sont semblables ou
non, autrement dit, on cherche un système d’invariants complet pour cette action. Vous connaissez des
invariants à similitude près, par exemple le rang, la trace, le déterminant, le polynôme caractéristique, le
polynôme minimal. En général, ces invariants ne suffisent pas à distinguer les classes de similitude.
Dans toute la suite E désignera un K-espace vectoriel de dimension finie n.

3.1 Invariants de similitude

Définition 3.1. Un sous-espace F de E est dit u-monogène (on dit aussi que u est F -cyclique), s’il
existe x ∈ F tel que Vect(uk (x), k ∈ N) = F .
Fait 3.2. Si F est u-monogène, alors F est u-stable et il existe une base de F dans laquelle la matrice
de v = u|F est la matrice compagnon du polynôme µv = X d + cd−1 X d−1 + · · · + c0 , à savoir

0 . . . . . . 0 −cd−1
 
.. .. 
1 . . .

 . . 

. . . .
0 . . . . .. .. .

 
. . .. 
 .. .. ... 0 . 
0 ... 0 1 −c0

Démonstration. Soit d = dim(F ). Par définition, il existe x ∈ F tel que la famille (v k (x))k∈N engendre
F . Comme χv (v)(x) = v d (x) + · · · + det(−v)x = 0, on en déduit que la famille (x, . . . , v d−1 (x)) engendre
F , donc que c’en est une base pour des raisons de cardinalité. En particulier, c’est une famille libre
donc deg µv,x = d. Comme µv,x |µv , on a deg µv et la forme souhaitée de la matrice de v dans la base
indiquée.
On dira également que u est cyclique si E est u-monogène.
Le but de cette section est de donner une démonstration n’utilisant pas le point de vue moderne des
K[X]-modules du théorème suivant :
r
M
Théorème 3.3. Il existe une décomposition E = Fk en sous-espaces Fk , qui sont u-monogènes,
k=1
telle que la suite des polynômes Pk = µu|Fk est décroissante pour l’ordre de la division des polynômes,
c’est-à-dire que Pr | . . . |P1 .
De plus, une telle suite de polynômes est uniquement déterminée par u.

8
 Q
Remarque 3.4. On remarque immédiatement que P1 = µu et i Pi = χu . En effet, pour tout i, on a
χu|Fi = µu|Fi car F est u-monogène.
De plus, les Pi sont invariants par similitude car si v = gug −1 , alors la famille des g(Fi ) est v-monogène
et fournit les mêmes polynômes.
Définition 3.5. Les polynômes Pi sont appelés facteurs invariants de u.
On notera µu,x un générateur unitaire de l’idéal {P ∈ K[X], P (u)(x) = 0}.
Pm
Lemme 3.6. Soit x1 , . . . , xm ∈ E et x = k=1 xk . Soit Fk = {P (u)(xk ), P ∈ K[X]}. Si les Fk sont en
somme directe, alors µu,x = ppcm(µu,x1 , . . . , µuxm ).
Démonstration. Soit P = ppcm(µu,x1 , . . . , µu,xm ). Comme µu (u)(xk ) = 0, on a P (u)(xk ) = 0 pour tout
k. Ainsi P (u)(x) = 0. Pm
D’autre part, en posant yk = µu,x (u)(xk ) ∈ Fk , on a µu,x (u)(x) = 0 = k=1 yk . Donc yk = 0 pour
tout k. Ainsi µu,xk |µu,x donc P |µu,x .
Proposition 3.7. Il existe x ∈ E tel que µu = µu,x .
Démonstration. On décompose µu en puissances de facteurs L irréductibles unitaires Pkak deux à deux
ak
premiers entre eux. Par le lemme des noyaux, on a E = k ker Pk (u). Pour tout k, on choisit xk ∈
ak ak −1
ker Pk (u) \ ker Pk (u). Ceci est possible car sinon le polynôme µu /Pk annulerait encore u.
On a alors Fk = {P (u)(xk ), P ∈ K[X]} ⊂ ker Pkak (u) et les Fk sont en somme directe. De plus
µu,xk = Pkak car Pk est Q irréductible et Pkak (u)(x) = 0. Par le lemme précédent, on obtient ainsi que
ak
µu,x = ppcm(µu,xk ) = Pk = µu .
On peut désormais démontrer le théorème.

Démonstration du théorème sur les facteurs invariants.

Existence : On procède par récurrence sur dim E = n. Si n ≤ 1, il n’y a rien à démontrer. Sinon, soit
x ∈ E tel que µu = µu,x et d = deg(µu ). Par définition, la famille (e1 , . . . , ed ) = (x, u(x), . . . , ud−1 (x)) est
libre. On pose F = Vect(e1 , . . . , ed ). Si F = E, on a terminé. Sinon, on va construire un supplémentaire
u-stable de F .
∗ ∗
Complétons
 (e 1 , . . . , ed ) en une base (e1 , . . . , en ) de E et considérons sa base duale (e1 , . . . , en ) dans
∗ k t ∗ >
E . Soit Γ = (u ) (ed ), k ∈ N et G = Γ l’orthogonal de Γ. Par construction G est u-stable. Montrons
que G est un supplémentaire de F dans E :
— Si par l’absurde, il existait y ∈ F ∩ G \ {0}, alors on pourrait écrire y = λ1 e1 + · · · + λs es avec s ≤ d
et λs 6= 0. Mais alors 0 = (ud−s )t (e∗d )(y) = e∗d (λ1 ed−s + · · · + λs ed ) = λs est une contradiction. Ainsi
F ∩ G = {0}.
— On a dim Vect(Γ) = d = dim F car l’application :

K[u] → Vect(Γ)
P (u) 7→ P (u)t (e∗d )

est un isomorphisme. Ainsi dim Γ> = dim E − dim F .

Considérons v = u|G et posons P1 = µu et P2 = µv . On a alors P2 |P1 et on conclut par hypothèse de
récurrence appliquée à (v, G).
Unicité : Soit E = F1 ⊕ · · · ⊕ Fr = G1 ⊕ · · · ⊕ Gs deux suites de décomposition vérifiant les hypothèses du
théorème. Notons (Pr | . . . |P1 ) et (Qs | . . . |Q1 ) leurs suites de polynômes associées.
P Supposons
Ppar l’absurde
que ces suites sont distinctes. Soit j = min {i ∈ N, Pi 6= Qi }, ce qui existe car i deg Pi = i deg Qi = n.
Comme µu = P1 = Q1 , on a j ≥ 2. De plus, on a :

Pj (u)(E) = Pj (u)(F1 ) ⊕ · · · ⊕ Pj (u)(Fj−1 ) = Pj (u)(G1 ) ⊕ · · · ⊕ Pj (u)(Gs )

Les sommes sont en effet directes car les Fi , Gi sont Pj (u) stables. Pour i < j, on a dim Pj (u)(Fi ) =
dim Pj (u)(Gi ) car u|Fi et u|Gi sont semblables à une même matrice compagnon C(Pi ) = C(Qi ). Ainsi,
pour tout i ≥ j, on a Pj (u)(Gi ) = 0. Donc Qj |Pj . Par symétrie, on a aussi Pj |Qj en échangeant les rôles
des Fi et Gi . D’où Pj = Qj , ce qui contredit la définition de j. D’où l’unicité de la suite des facteurs
invariants.

9
Exercice 4. Calculer les facteurs invariants :
— d’une homothétie ;
— d’un endomorphisme diagonalisable ayant toutes ses valeurs propres distinctes ;
— d’une transvection ;
— d’un endomorphisme nilpotent (discuter suivant son ordre) ;
— d’un projecteur (discuter suivant sa trace).

3.2 Réduction de Frobenius

Il reste à montrer que la famille des facteurs invariants constituent bien un invariant complet pour
l’action de GLn (K) sur Mn (K) par conjugaison.
Théorème 3.8 (Décomposition de Frobenius). Soit (Pr | . . . |P1 ) la suite des invariants de similitude de
u ∈ End(E). Il existe une base de E dans laquelle u a pour matrice
 
C(P1 ) 0
 .. 
 . 
0 C(Pn )

Démonstration. Soit E = F1 ⊕ · · · ⊕ Fr une décomposition associée aux facteurs invariants Pr | . . . |P1 .

Pour tout i, il existe une base de Fi dans laquelle u|Fi est semblable à C(Pi ) car Fi estu|Fi -monogène par
construction. Leur réunion donne une base convenable dans E.
Corollaire 3.9. Deux matrices sont semblables si, et seulement si, leurs facteurs invariants sont égaux.

Exercice 5. Soit L/K une extension de corps Montrer que deux matrices de Mn (K) sont semblables
sur L si, et seulement si, elles sont semblables sur K.

3.3 Jordanisation
Un corollaire élémentaire de la réduction de Frobenius est la décomposition de Jordan, qui donne
alors, pour un endomorphisme, une forme efficace pour effectuer des calculs (exponentielle par exemple),
à condition d’en être capable de calculer le changement de base. Théoriquement, l’intérêt est au moins
de pouvoir donner une esquisse locale du diagramme de phase d’une EDL par exemple.
Définition 3.10. On appelle bloc de Jordan de taille r de paramètre λ la matrice
 
λ 1 0 ... 0
.
0 . . . .. ..
. .. 

 . 
Jr (λ) =  ... . . . .. .. ∈ Mr (K)
 
 . . 0 
. .. ..
 ..

. . 1
0 ... ... 0 λ

Par exemple J1 (λ) = (λ).

Théorème 3.11 (Décomposition de Jordan). Soit u ∈ End(E) un endomorphisme trigonalisable. Alors

il existe une base de E et des paramètres (ri , λi ) ∈ N∗ × K tels que la matrice de u dans cette base est
diagonale par blocs de Jordan de paramètres (ri , λi ),
 
Jr1 (λ1 ) 0
 .. 
 . 
0 Jrs (λs )

10
Démonstration. Notons d = dim E. Traitons d’abord le cas d’un endomorphisme nilpotent n ∈ End(E).
Soit Pr | . . . |P1 ses invariants de similitude. Par nilpotence, µn = P1 divise X d donc, pour tout 1 ≤ i ≤ r,
on a C(Pi ) = Jdeg Pi (0)t . Par la décomposition de Frobenius, on peut trouver une base de E dans laquelle
la matrice de n s’écrit :
0
 
.
 1 ..
 

 0 
 .. .. 
 . . 
 

 1 0 


 . .. 

 

 0 

 .. 
 1 . 
 0 
 .. .. 
 . . 
1 0
Quitte à conjuguer par la matrice de permutation Pσ pour σ = (d . . . 2 1), on obtient une matrice
de la forme  
Jrs (0) 0
MatB (n) = 
 .. 
. 
0 Jr1 (0)
L 0
Revenons maintenant au cas général et décomposons E = Eu (λ) en somme directe de ses sous-
espaces caractéristiques, qui sont u-stables. Alors sur chaque F = Eu0 (λ), l’endomorphisme v = uF −λ idF
est nilpotent. Il existe donc une base Bλ de F dans laquelle on peut jordaniser v. Dans cette base, la
matrice de λ idF est scalaire, de paramètre λ. Donc
 
Jr1,λ (λ) 0
MatBλ (uEu0 (λ) ) = 
 .. 
. 
0 Jrsλ ,λ (λ)
F
On choisit alors la base B = λ Bλ qui convient.

3.4 Commutant
Donnons une autre application des invariants de similitudes On appelle commutant d’un endomor-
phisme u ∈ End(E), la K-algèbre Comm(u) = {v ∈ End(E), [u, v] = u ◦ v − v ◦ u = 0} des endomor-
phismes qui commutent à u. Il est clair que K[u] ⊂ Comm(u) en est une sous-K-algèbre.
Théorème 3.12. On a l’équivalence

K[u] = Comm(u) ⇐⇒ u est cyclique.

Démonstration. Supposons que K[u] = Comm(u). Par le théorème 4.11, on peut Ltrouver une décompo-
r
sition de E en sous-espaces Fk qui sont u-monogènes. Soit q la projection sur i=2 Fi parallèlement à
F1 . Alors q commute à u car les Fi sont u-stables. Donc q est un polynôme en u, disons q = Q(u) avec
Q ∈ K[X]. On a 0 = Q(u)F1 = Q(uF1 ). Donc P1 = µuF1 = µu divise Q. Or, les facteurs invariants étant
des diviseurs de P1 , on a que Pi = µuFi |Q. En particulier 0 = Q(uFi ) = qFi . On trouve alors que E = F1 ,
ce qui signifie que u est cyclique.
Réciproquement, si u est cyclique, alors il existe un x ∈ E tel que E = K[u] · x. Si v commute à
u, alors v(x) = P (u)(x). Donc, pour tout y = Q(u)(x) ∈ E = K[u] · x, on a bien v(y) = v(Q(u)(x) =
Q(u)(v(x)) = Q(u)P (u)(x) = P (u)Q(u)(x) = P (u)(y). Ce qui prouve que Comm(u) ⊂ K[u].

3.5 Interprétation théorique efficace : K[X]-modules

On fixe u ∈ End(E). On peut munir E d’une structure de K[X]-module donnée par les polynômes
d’endomorphisme en u donnée par P · x = P (u)(x). On notera Eu ce module.
Le théorème de Cayley-Hamilton nous dit que c’est un module de torsion car χu (u) = 0 et, plus
précisément, Ann(E) = (µu ). On notera également que Ann(x) = (µu,x ).

11
Fait 3.13. Les sous-K-espaces vectoriels de E stables par u s’identifient canoniquement aux sous-K[X]-
modules de Eu .
Démonstration. F est stable par l’endomorphisme u si, et seulement si, F est stabilisé par l’action de
l’élément X de l’anneau K[X].
On rappelle que si M , N sont des A-module, alors HomA (M, N ) désigne l’ensemble des homomor-
phismes de A modules M → N .
Fait 3.14. Soit E, F des K-espaces vectoriels de dimension finie et u ∈ End(E), v ∈ End(F ). Alors
HomK[X] (Eu , Fv ) = {ϕ ∈ HomK (E, F ), ϕ ◦ u = v ◦ ϕ}.
En particulier, HomK[X] (Eu , Eu ) = Comm(u).
Démonstration. C’est un jeu de réécriture via ϕ(X · x) = X · ϕ(x) ∀x ∈ E.
Corollaire 3.15. Deux endomorphismes u, v ∈ End(E) sont semblables si, et seulement si, les K[X]-
modules Eu et Ev sont isomorphes.
Lemme
Ls 3.16. Soit u ∈ End(E) et P1 | . . . |Ps les invariants de similitude de u. Alors Eu est isomorphe
à i=1 K[X]/(Pi ) en tant que K[X]-module.
Démonstration. Faisons-le dans le cas où s = 1. Le cas général est laissé en exercice. Considérons l’endo-
morphisme mX de F = K[X]/(P ) défini par mX (x) = X × x. Dans la base B 0 = (1, X, . . . , X deg(P )−1 ,
la matrice de mX est C(P ). Soit B une base de E dans laquelle la matrice de u est également C(P ).
Alors l’isomorphisme de K-espaces vectoriels qui envoie B sur B 0 est compatible avec les structures de
K[X]-modules. Ainsi Eu ' K[X]/(P ) en tant que K[X]-module
Théorème 3.17 (Théorème de structure). Il existe un unique entier 1 6 s 6 dim(E) et une unique
famille P1 | · · · |Ps de L
polynômes unitaires non constants de K[X] tels que l’on ait un isomorphisme de
s
K[X]-modules Eu = i=1 K[X]/(Pi ).
De plus, ces polynômes sont les invariants de similitude de u.
Démonstration. On verra plus tard que ce résultat est un cas particulier de la théorie des modules de
type fini sur un anneau principal.

3.6 Calcul effectif des invariants de similitude

D’un point de vue théorique l’existence et l’unicité des invariants de similitude est intéressante mais
comment peut-on calculer ces invariants en pratique ?
On va s’appuyer sur un algorithme qui donne la forme normale de Smith d’une matrice.
Cet énoncé algorithmique, également utile en arithmétique, est valable sur tout anneau principal.
Théorème 3.18 (Forme normale de Smith). Soit A un anneau euclidien (ou principal) et r, s ∈ N∗ . Soit
M ∈ Mr,s (A) et n = min(r, s). Il existe une famille d’éléments d1 | . . . |dn et deux matrices P ∈ GLr (A)
et Q ∈ GLs (A) telles que M = P diag(d1 , . . . , dn )Q.
De plus les di sont uniquement déterminés.
Démonstration. On reverra bientôt que les opérations élémentaires sur les lignes Li ↔ Lj et Li ← Li +aLj
pour a ∈ A correspondent à une multiplication à gauche par une matrice de déterminant ±1, donc dans
GLr (A). De même pour les opérations sur les colonnes par multiplication
 à droite.
a1 |0
On cherche donc à se ramener à une écriture de la forme via ces opérations élémentaires et on
0|M 0
conclura par
 récurrence.
 Notons N : A → N le stathme euclidien et pour toute matrice (ai,j ) ∈ Mr,s (A),
on pose N (ai,j )i,j = min{N (ai,j ), i, j}.
On écrit M = (mi,j ). Si M = 0, il n’y a rien à faire. Sinon, quitte à permuter des lignes et des
colonnes, on peut suppose que N (m1,1 ) = N (M ).
Supposons qu’il existe i tel que m1,1 ne divise pas mi,1 . Soit mi,1 = qm1,1 + r une division euclidienne.
Faisons l’opération Li ← Li − qL1 . Alors le nouveau coefficient m0i,1 = mi,1 − qm1,1 = r vérifie N (m0i,1 ) <
N (mi,1 ). On procède de même sur les colonnes s’il existe j tel que m1,1 ne divise pas m1,j . Ainsi, par
décroissance du stathme, ce procédé termine et on se ramène au cas où m1,1 divise tous les mi,1 et les
m1,j .
mi,1 m1,j
On effectue enfin les opérations Li ← Li − m1,1 L1 pour tout i > 2 et Cj ← Cj − m1,1 C1 ce qui nous
ramène à la forme souhaitée pour la récurrence.
L’unicité est laissée en exercice.

12
Définition 3.19. Dans l’énoncé du théorème, les éléments d1 | . . . |dn de la matrice M sont appelés
facteurs invariants de M .
Théorème 3.20 (Calcul effectif des facteurs invariants). Soit M ∈ Mn (K). Les invariants de simili-
tude P1 | . . . |Pr de M sont exactement les facteurs invariants non inversibles de la matrice M − XIn ∈
Mn (K[X]).
Démonstration. D’après la réduction de Frobenius, il suffit de traiter le cas où M = C(P ) est une
matrice compagnon avec P ∈ K[X] polynôme unitaire non constant de degré n. Dans le cas d’une
matrice compagnon, on a vu que µC(P ) = χC(P ) = P . Il s’agit donc de montrer que le seul facteur
invariant non inversible de C(P ) − XIn dans Mn (K[X]) est P via des opérations élémentaires.

−X −a0
 
0 ... 0
 .. .. 

 1 −X . . −a1 

M − XIn = 
 .. .. .. 
 0 . . 0 . 

 .. .. 
 . . 1 −X −an−2 
0 ... 0 1 −X − an−1
−X + X 0 ... 0 −a0 − a1 X − · · · − an−1 X n−1 − X n
 
| {z } | {z }

 =0 =−P


 .. ..  n
 1 −X . . −a1  X
L1 ←− L1 + X i−1 Li
 
 .. .. .. 

 0 . . 0 . 
 i=2
 .. .. 
 . . 1 −X −a n−2

0 ... 0 1 −X − an−1
0 0 ... 0 −P
 
.. ..
−X + X . −a1
 
1 . 
 | {z } 
 =0 
.. .. ..
 
. .
 
0 0 . Cj ←− Cj + XCj−1

 ..
 
.. 
.
 . 1 −X + X −an−2 

| {z }
=0
 
 
0 ... 0 1 −X − an−1 + X 
| {z }
=−an−1

0 0 ... 0 −P
 
.. ..
. −a + a
 
1 0 .
| 1{z }1

 
=0
 
..
 
 .. .. 
0 . . 0 . 
Cn ←− Cn + aj Cj
 ..
 
.. 
.
 . 1 0 −an−2 + an−2 
 | {z }
 =0 
0 ... 0 1 −an−1 + an−1 
| {z }
=0
 
1 0 ... ... 0
 ..  ..
0
 1 . 
 .
 .. .. .. .. .. L1 ←→ L2 ←→ . . . ←→ Ln

.
 . . . 
 .
.
 ..

... 1 0 
0 ... ... 0 −P
Ainsi, le seul facteur invariant de M − XIn non inversible est −P , ce qui donne le résultat.
Corollaire 3.21. Deux matrices M, M 0 ∈ Mn (K) sont semblables dans Mn (K) si et seulement si les
matrices M − XIn et M 0 − XIn sont équivalentes dans Mn (K[X]).

13
3.7 Application aux modules de type fini sur un anneau principal
Soit A un anneau principal. Si vous ne voulez pas avoir peur, pensez que A est un anneau euclidien,
ou encore que A = Z ou K[X].
Définition 3.22. Un module de type fini est un module qui admet une famille génératrice finie.
Un module libre est un module qui admet une base, c’est-à-dire une famille libre et génératrice.
Fait 3.23. Si M est un A-module libre de type fini, alors toutes les bases ont même cardinal et on appelle
alors rang de M le cardinal d’une base.
Proposition 3.24. Si M est un A-module libre de type fini de rang m et si N est un sous-A-module de
M , alors N est libre de type fini et de rang n 6 m.
Remarque 3.25. Attention, un sous-module N d’un module M de même rang ne lui est pas nécessairement
égal. Par exemple 4Z est un sous-Z-module de 2Z et tous deux sont libres de rang 1.
Démonstration. Soit e1 , . . . , em une base de M et e∗1 , . . . , e∗m la base duale associée. Soit N un sous-A-
Li
module de M et Ni = N ∩ j=1 Aei . On montre par récurrence que Ni est libre de rang r(N ) 6 i.
Si i = 1, c’est la définition d’anneau principal.
Supposons que c’est vrai pour Ni . Soit I = e∗i+1 (Ni+1 ). C’est un idéal de A donc I = (a). Si a = 0,
∗
alors Ni+1 = Ni . Sinon,P soit v ∈ Ni+1∗ tel que ei+1 (v)P= a. Alors Ni+1 = Ni ⊕ Av. En effet, si x ∈ Ni ∩ Av
qu’on écrit x = λv = µj ej , alors ei+1 (x) = λa = µj · 0 = 0. Comme A est intègre, on a λ = 0 donc
x = 0. De plus, si x ∈ Ni+1 , alors e∗i+1 (x) = λa donc x − λv ∈ Ni .

Théorème 3.26 (Base adaptée). Soit A un anneau principal. Soit M un A-module libre de rang m et
N un A-module libre de rang n. Soit u ∈ HomA (M, N ). Alors il existe des bases (f1 , . . . , fm ) de M et
(g1 , . . . gn ) de N et des éléments d1 | . . . |dm de A tels que ∀i ∈ J1, mK, u(fi ) = di gi .
Démonstration. On choisit des bases quelconques de M et N et on applique la mise sous forme normale
de la matrice de u. Les matrices P ∈ GLm (A) et Q ∈ GLn (A) donnent les changements de base.
Lr
Corollaire 3.27. Si M est un A module de type fini, alors M est isomorphe à As ⊕ i=1 A/(di ) avec
d1 | . . . |dr et di ∈ A \ (A× ∪ {0}) et r, s ∈ N. De plus, les di sont uniquement déterminés.
Démonstration. Comme M est de type fini, il existe un morphisme surjectif de A-modules π : As → M .
Soit N = ker π, c’est un sous-module libre de As , donc de type fini et on note r son rang. Ainsi, on a une
suite exacte courte
u π
1 −→ Ar −→ As −→ M −→ 1
Par le théorème de la base adaptée, il existe (f1 , . . . , fr ) base de Ar et (g1 , . . . , gs ) base de As et des
éléments d1 | . . . |dr tels que ∀i ∈ J1, rK, u(fi ) = di gi . On a alors M = As / ker(π) = As / im(u) =
As /hd1 g1 , . . . dr gr i = A/(d1 ) ⊕ · · · ⊕ A/(dr ) ⊕ As−r . Lorsque di est inversible, cela donne A/(di ) = 0 et
on peut oublier ce facteur.
Corollaire 3.28 (Structure des groupes abéliens de type fini). Si G est un groupe abélien de type fini,
il existe des entiers naturels n1 | . . . |nm et r uniquement déterminés tels que G est isomorphe à
alors Q
m
Zr × i=1 Z/ni Z.

Démonstration. Un groupe abélien de type fini est un Z-module de type fini.

On verra un résultat plus faible mais plus facile à démontrer sur la structure des groupes abéliens
finis via les caractères en théorie des représentations complexes de groupes finis.

14