3.
DÉCOMPOSITION EN IRRÉDUCTIBLES 275
Remarque 3.7. En utilisant notamment le lemme de Zorn, on pourrait montrer
que l’hypothèse dim V ă 8 est en fait inutile.
Exemple 3.8. Soient E un espace euclidien et ρ : G Ñ OpEq une représentation
de G sur E par isométries euclidiennes. Alors le RrGs-module E est semi-simple.
En effet, si W Ă E est un sous-espace G-invariant, alors son orthogonal W K est un
supplémentaire G-invariant de W .
Exemple 3.9. (Éléments semi-simples) Soient g P GLn pkq et ρ : Z Ñ GLn pkq,
m ÞÑ g m , la représentation de Z associée (Exemple 1.2 (ii)). Alors ρ est semis-simple
si, et seulement si, tout sous-espace de k n stable par g admet un supplémentaire„ stable
par g ; on dit aussi dans ce cas que g est semi-simple. Par exemple, l’élément 10 11
de GL2 pkq n’est pas semi-simple. Si k est algébriquement clos, on a g semi-simple
ðñ g diagonalisable, par la propriété pbq et la Proposition 3.2.
Théorème 3.10. (Maschke) On suppose G fini et |G| dans k ˆ . Alors tout krGs-
module de dimension finie est semi-simple.
Démonstration — Soient V un krGs-module de dimension finie. Soit W Ă V un
sous-module. Soit p P Endk pV q un projecteur arbitraire d’image W . On a V “ W ‘
ker p. Supposons d’abord que p commute à l’action de G, i.e. p˝ρV pgq “ ρV pgq˝p pour
tout g dans G. Alors ker p est stable par ρV pgq pour tout g : c’est un supplémentaire
G-stable de W . En général, on pose
1 ÿ
p1 “ ρV pgq ˝ p ˝ ρV pgq´1 .
|G| gPG
C’est un élément bien défini de Endk pV q car |G| est inversible dans k. On a Im p1 Ă
Im p “ W car W est G-stable. Pour x P W et g P G, on a ρV pgq´1 pxq P W et donc
1
p ˝ ρV pgq´1 pxq “ ρV pgq´1 pxq, et donc p1 pxq “ |G| |G|x “ x. Ainsi, p1 est un projecteur
d’image W . Enfin, p1 commute à l’action de G, car le changement de variable g ÞÑ hg
dans G montre ρV phq ˝ p ˝ ρV phq´1 “ p pour tout h P H : on est donc ramené au
cas précédent. l
Remarque 3.11. L’exemple de la représentation de permutation de Sn sur k n
avec k “ Z{pZ et p | n, montre que l’hypothèse sur |G| est nécessaire.
Remarque 3.12. (Astuce unitaire de Weyl ) Dans les cas particuliers k “ R
ou k “ C, le raisonnement suivant fournit une seconde démonstration du Théorème
de Maschke. Soit V un RrGs-module de dimension finie. Fixons x´, ´y un produit
scalaire arbitraire sur V . On construit un autre produit scalaire sur V en posant
ÿ
x.y “ xg.x|[Link], @x, y P V.
gPG
En effet, sa bilinéarité est évidente et il est défini positif par l’inégalité x.x ě xx|xy.
Enfin, on constate [Link] “ x.y pour tout h P G. Pour ce produit scalaire sur V on
a ρpGq Ă OpV q, et donc V est semi-simple par l’Exemple 3.8. Dans le cas k “ C
on procède de même en moyennant par G un produit scalaire hermitien sur V . Ces
deux remarques sont détaillées dans les Propositions 5.7 et 7.6 du Chapitre 5.
276 9. REPRÉSENTATIONS LINÉAIRES DES GROUPES FINIS
Soit V un krGs-module semisimple de dimension finie. Il existe en général plu-
sieurs décompositions distinctes V “ ‘ni“1 Vi où les Vi sont des sous-krGs-modules
irréductibles. Par exemple, si G agit trivialement sur V , toute décomposition de V
en somme directe de droites convient, et il y a plusieurs telles décompositions si
dim V ą 1. Nous allons voir qu’une forme forte d’unicité persiste toutefois. L’ingré-
dient important pour cela est le lemme de Schur. (Le (ii) ne nous servira que plus
tard).
Lemme 3.13. (Schur) Soient U et V deux krGs-modules irréductibles.
(i) Toute application krGs-linéaire U Ñ V est soit nulle, soit un isomorphisme.
(ii) Si de plus k est algébriquement clos, et si U est de dimension finie, les
applications krGs-linéaires U Ñ U sont exactement les homothéties.
Démonstration — Soit u : U Ñ V une application krGs-linéaire non nulle. Alors
ker u et Im u sont des sous-modules de U et V respectivement : donc égaux à 0 ou
au tout. Comme u est non nulle, on a ker u “ t0u et Im u “ V , puis u est bijective :
c’est un isomorphisme. Cela montre le (i).
Montrons le (ii). Les homothéties λidU , avec λ P k sont clairement krGs-linéaires.
Réciproquement, soit u P HomkrGs pU, U q. Par hypothèse sur U et k, u admet une
valeur propre λ P k. Mézalor u ´ λidU P Endk U est krGs-linéaire, et non injective,
donc nulle par le (i), puis u “ λidU . l
Proposition 3.14. Soit V un krGs-module semi-simple de dimension finie. On
suppose donnée une décomposition V “ ‘iPI Vi , et pour tout i P I, un krGs-module
irréductible de dimension finie Si , tels que :
(a) Vi Ă V est un sous-module isomorphe à Si‘ni pour un certain ni ě 1,
(b) Si et Si1 ne sont pas isomorphes si i ‰ i1 .
Alors pour tout sous-module irréductible S de V , il existe un unique i P I tel que
S » Si , et on a S Ă Vi .
On a utilisé la notation M ‘n pour la somme directe externe de n copies de M
(aussi isomorphe à M n ).
Démonstration — (de la Proposition 3.14) Pour tout i P I, écrivons Vi “ ‘nj“1 i
Vi,j ,
avec Vi,j un sous-module irréductible
ř isomorphe à S i . Tout élément v de V s’écrit
alors de manière unique v “ i,j vi,j avec vi,j P Vi,j . Notons πi,j : V Ñ Vi,j , v ÞÑ
vi,j , la projection canonique. Elle est krGs-linéaire car les Vi,j sont G-stables. Soit
S Ă V un sous-module irréductible. Alors pπi,j q|S : S Ñ Vi,j est soit nulle, soit un
isomorphisme, par le lemme de Schur (i). Soit v P S non nul. Il existe pi, jq tels que
vi,j ‰ 0 : on a donc vi,j P πi,j pSq ‰ t0u. Ainsi, pπi,j q|S est un isomorphisme, et en
particulier, on a S » Si . Mézalor πi1 ,j 1 pSq “ 0 pour i1 ‰ i, toujours par Schur, ce qui
signifie exactement S Ă Vi . l
Noter que pour tout krGs-module V semi-simple de dimension finie, il existe par
définition des Vi , des Si et des ni comme dans l’énoncé. Cette proposition montre
que Vi Ă V est canonique : c’est la somme des sous-modules de V isomorphes à Si .
On l’appelle composante isotypique de Si dans V . L’entier ni est appelé multiplicité
4. THÉORIE DES CARACTÈRES 277
de Si dans V , ou encore nombre de fois que Si intervient dans V . Il coincide avec
dim Vi
dim Si
. Un problème important restant est donc :
Problème : Peut-on classifier, à isomorphisme près, toutes les représentations
k-linéaires irréductibles d’un groupe donné ?
4. Théorie des caractères
Dans toute cette partie, G désigne un groupe fini et on s’intéresse aux représen-
tations de G qui sont C-linéaires et de dimension finie (k “ C). D’après Maschke,
elle sont toutes semi-simples. On se propose d’étudier les classes d’isomorphismes
de représentations irréductibles de G, suivant Frobenius, Burnside et Schur. Nous
allons notamment démontrer les résultats frappants suivants, dûs à Frobenius.
Théorème 4.1. (Frobenius) Soit h le nombre de classes de conjugaison du
groupe fini G.
(i) À isomorphisme près, il existe exactement h CrGs-modules irréductibles.
(ii) Leurs dimensions n1 , . . . , nh vérifient |G| “ hi“1 n2i .
ř
L’outil principal est la notion de caractère d’une représentation, inventée par
Frobenius. (Elle aurait un sens sur tout corps k.) 2
Définition 4.2. Soient V un CrGs-module de dimension finie et ρ : G Ñ GLpV q
le morphisme associé. Le caractère de V est la fonction G Ñ C, g ÞÑ tracepρpgqq.
On le note χV (ou χρ ). On a en particulier χV p1q “ dim V .
Exemple 4.3. (i) Les caractères des représentations de dimension 1 de G
sont exactement les éléments de G.
p Les éléments de G p seront dans ce chapitre
appelés caractères de degré 1 de G, pour éviter le conflit de terminologie.
(ii) Le caractère de la représentation triviale est la fonction 1 (constante égale à
1 sur G).
Une fonction f : G Ñ C est dite centrale si elle est constante sur les classes de
conjugaison de G, ou ce qui revient au même, si on a
f pghg ´1 q “ f phq @g, h P G.
Il est équivalent de demander f pghq “ f phgq pour tout g, h P G.
Proposition 4.4. Pour tout CrGs-module V de dimension finie, alors χV est
une fonction centrale sur G. De plus, si U et V sont isomorphes, on a χU “ χV .
Démonstration — Le premier point est la formule tracepABq “ tracepBAq, pour
A, B P GLpV q. Le second s’en déduit car deux CrGs-modules de dimension finie
isomorphes ont même représentation matricielle dans des bases bien choisies. l
2. En fait, la définition initiale d’un caractère chez Frobenius, en 1896, ne fait pas intervenir la
notion de représentation !
278 9. REPRÉSENTATIONS LINÉAIRES DES GROUPES FINIS
Nous verrons bientôt que la réciproque a la seconde assertion est vraie ! Avant
cela donnons deux exemples importants de calcul de caractère.
Exemple 4.5. (i) (Représentations de permutation) Supposons que G agit
sur l’ensemble fini X et soit V “ C X la représentation de permutation
associée. Soit g P G. Regardons sa matrice dans la base des ex : la formule
ρpgqex “ eg.x montre que trpρpgqq est le nombre de points fixes de G dans X.
(ii) (Représentation régulière) C’est le cas particulier X “ G, et donc V “ CG “
CrGs. On note χreg :“ χC G son caractère. On a χreg p1q “ |G| et χreg pgq “ 0
pour g ‰ 1.
Le caractère d’une somme directe est la somme des caractères :
Proposition 4.6. Soient U, V des CrGs-modules de dimension finie, et W “
U ‘ V . On a χW “ χU ` χV .
Démonstration — C’est évident ! Donnons les détails. Par définition de la somme
directe externe W de U et V , on a W “ U ‘ V comme C-espace vectoriel, et pour
g P G, u P U et v P V , ρW pgqpu ` vq “ ρU pgqpuq ` ρV pgqpvq. Ainsi, si l’on considère
une base w de W de la forme pu1 , . . . , un , v1 , . . . , vm q avec les ui une base de U et
les vj une base de V , on a
„
Matu ρU pgq 0
Matw ρW pgq “ .
0 Matv ρV pgq
On conclut en prenant la trace. l
Si U et V sont des krGs-modules, l’espace Homk pU, V q des applications k-linéaires
φ : U Ñ V est muni d’une structure naturelle de krGs-module en posant
(70) pg.φqpxq “ g.φpg ´1 .xq.
On note HompU, V q ce krGs-module. Dans le cas particulier V “ k (représentation
triviale), on pose aussi U _ “ HompU, kq et on parle de représentation duale, ou
contragrédiente, de U .
Proposition 4.7. Soient U, V des CrGs-modules de dimension finie.
(i) Pour W “ HompU, V q on a χW pgq “ χU pg ´1 qχV pgq, @g P G.
(ii) En particulier, on a χU _ pgq “ χU pg ´1 q pour tout g P G.
Démonstration — Le (ii) se déduit du (i) (cas V “ C trivial, donc χV “ 1).
Pour tous endomorphismes A de U et B de V , on dispose de l’endomorphisme
fA,B : M ÞÑ B ˝ M ˝ A de W “ HomC pU, V q. Montrons
trpfA,B q “ trpAq trpBq.
La proposition s’en déduira car par définition de la représentation W , on a pour
g P G la relation ρW pgq “ fρU pgq´1 ,ρV pgq (Formule 70). Soient ui et vj des bases de U
et V , ainsi que u˚i et vj‹ les bases duales associées. Notons Ai,i1 et Bj,j 1 les matrices
respectives de A et B dans ui et vj . On dispose d’une base wi,j de HomC pU, V q en