270 9.
REPRÉSENTATIONS LINÉAIRES DES GROUPES FINIS
1. Représentations linéaires
Dans cette partie et la suivante, G désigne un groupe et k un corps, tous deux
quelconques.
Définition 1.1. Une représentation k-linéaire de G est la donnée d’un k-espace
vectoriel V et d’un morphisme de groupes ρ : G Ñ GLpV q.
On parle aussi de représentation de G sur l’espace vectoriel V . L’inclusion SV Ă
GLpV q montre qu’il est équivalent de se donner une représentation ρ de G sur V ,
et une action de G sur V , disons pg, vq ÞÑ g.v, telle que pour tout g P G la bijection
Lg : v ÞÑ g.v est k-linéaire. Le lien entre les deux points de vue est bien sûr la
formule Lg “ ρpgq pour g P G.
On note souvent pV, ρq, ou même simplement V ou ρ, une représentation de G.
La dimension, ou le degré, de pV, ρq est la dimension du k-espace vectoriel V . Dans
ce cours on considérera surtout des représentations de dimension finie.
Exemple 1.2. Si G est un sous-groupe de GLn pkq, son action naturelle sur k n
définit une représentation k-linéaire de G. Par exemple, tout sous-groupe de SOp3q
admet une représentation R-linéaire naturelle sur R3 , et tout sous-groupe de Spp1q
possède une représentation naturelle C-linéaire sur C2 .
Si pV, ρq est une représentation k-linéaire de dimension n de G, le choix d’une
base e de V définit un morphisme de groupes
ρe : G Ñ GLn pkq, g ÞÑ Mate ρpgq.
Changer de base e revient simplement a conjuguer ρe par un élément de GLn pkq
(matrice de changement de base).
Définition 1.3. Deux représentations k-linéaires pV1 , ρ1 q et pV2 , ρ2 q de G de
même dimension finie seront dites isomorphes, ou équivalentes, s’il existe des bases
e1 et e2 de V1 et V2 , avec ρe11 “ ρe22 .
Ainsi, on s’intéresse essentiellement aux classes de conjugaison de morphismes
G Ñ GLn pkq.
Exemple 1.4. (i) Une représentation k-linéaire de G de dimension 1 est la
donnée d’un morphisme G Ñ k ˆ . Pour k “ C, c’est donc un élément de
Gp “ HompG, Cˆ q.
(ii) L’action triviale de G sur V “ k est une représentation linéaire de dimension
1 appelée représentation triviale de G.
(iii) Se donner une représentation ρ de G “ Z sur V est la même chose que se
donner l’image de ρp1q, qui est un élément arbitraire de GLpV q. Classifier à
isomorphisme près les représentations k-linéaires de Z de dimension n revient
donc à déterminer les classes de conjugaison d’éléments de GLn pkq.
En guise d’autre exemple, supposons donnée une action du groupe G sur un
ensemble X. Notons kX le k-espace vectoriel libre sur l’ensemble X, c’est-à-dire
l’espace k pXq muni
À de sa base canonique des ex avec x P X. On a donc une somme
directe kX “ xPX k ex . On dispose d’un morphisme naturel ρ : G Ñ GLpkXq
défini par ρpgqpex q “ egx pour tout g P G et tout x P X.
2. LE POINT DE VUE krGs-MODULES 271
Définition 1.5. Si G agit sur X, la représentation ci-dessus de G sur k X est
appelée représentation de permutation associée.
Ces représentations sont très particulières : dans la base tex u de kX, la matrice
de chaque ρpgq avec g P G a un unique coefficient non nul, égal à 1, sur chaque
colonne et sur chaque ligne.
Exemple 1.6. Considérons l’action naturelle de G “ Sn sur X “ t1, . . . , nu.
Elle définit une représentation de permutation de Sn sur kX “ k n “ ‘ni“1 kei vé-
rifiant σpei q “ eσpiq pour σ P Sn et i P t1, . . . , nu, soit encore σpx1 , . . . , xn q “
pxσ´1 p1q , . . . , xσ´1 pnq q pour x P k n . Dans la base des ei , c’est le morphisme Sn Ñ
GLn pkq déjà rencontré dans la démonstration du Théorème 2.1 Chap. 6.
2. Le point de vue krGs-modules
Nous verrons de nombreux autres exemples un peu plus tard. Expliquons d’abord
comment les représentations k-linéaires de G peuvent être vue alternativement, et
avec profit, comme des modules sur un anneau adéquat, appelée k-algèbre du groupe
G. Rappelons d’abord la définition d’une k-algèbre.
Définition 2.1. Une k-algèbre est un anneau A muni d’un morphisme d’anneau
k Ñ A.
Par exemple, l’anneau Mn pkq est une k-algèbre via k Ñ Mn pkq, λ ÞÑ λIn . De
même, l’anneau krXs est une k-algèbre via l’inclusion évidente ("les constantes").
Comme tout morphisme d’anneau d’un corps vers un anneau non nul est injectif,
le morphisme k Ñ A est souvent simplement vu comme une inclusion. Il permet
de voir A comme un k-espace vectoriel, ainsi que tout A-module par restriction des
scalaires.
Construction de krGs : La donnée de k et G permet de construire une
structure de k-algèbre sur le k-espace vectoriel A “: k G. En effet, on munit A
de l’unique loi de composition k-bilinéaire µ : A ˆ A Ñ A, px, yq ÞÑ xy, qui dans
la base des teg ugPG est donnée par la formule eg eh :“ egh . Elle est associative par
associativité de la loi de groupe de G (voir l’Exercice 9.33) et de neutre e1 . Elle
est distributive vis-à-vis de pA, `q, par bilinéarité. Autrement dit, pA, `, µq est un
anneau. Par construction, λ ÞÑ λe1 est un morphisme d’anneaux k Ñ A, faisant donc
de A une k-algèbre. On notera presque toujours g l’élément eg de A pour alléger les
écritures.
Définition 2.2. Soient k un corps et G un groupe. La k-algèbre d’espace sous-
jacent k G construite ci-dessus s’appelle l’algèbre du groupe G à coefficients dans k
et est notée krGs. Sa dimension comme k-espace vectoriel est |G|.
Exemple 2.3. L’anneau krGs est commutatif si, et seulement si, G l’est. Il n’est
pas difficile de montrer que l’on a krZs » krT, T ´1 s et, pour tout entier n ě 1, on a
krZ{nZs » krT s{pT n ´ 1q. La structure de CrGs pour G fini sera élucidée plus loin
dans le cours : voir la Remarque 7.7.
Qu’est-ce qu’un krGs-module ? D’abord, tout krGs-module V est a fortiori un
k-espace vectoriel, par restriction des scalaires au sous-corps k1 de krGs, que l’on
identifie à k via x ÞÑ x1. De plus, il induit une application GˆV Ñ V , pg, vq ÞÑ gv qui
272 9. REPRÉSENTATIONS LINÉAIRES DES GROUPES FINIS
est manifestement une action de G sur V . Enfin, cette action est par automorphismes
k-linéaires : on a
gpλvq “ gpλ1 vq “ pgλ1qv “ pλ1gqv “ pλ1qpgvq “ λgv
(car g et λ1 commutent par construction dans krGs). Ainsi, à tout krGs-module V
est associé une représentation k-linéaire ρV de G sur V , vérifiant ρV pgqpvq “ gv.
Réciproquement, toute action de G sur un k-espace vectoriel V par automorphismes
k-linéaires s’étend de manière unique en une structure de krGs-module sur V . En
effet, comme tgugPG est une k-base de krGs il y a un sens à considérer
ÿ ÿ
ν : krGs ˆ V Ñ V, p λg g, vq ÞÑ λg ρpgqv.
gPG gPG
C’est trivialement une structure de krGs-module sur V ! 1 On a montré :
Proposition-Définition 2.4. (Propriété universelle de l’algèbre du groupe) Il
est équivalent de se donner une représentation k-linéaire du groupe G et un krGs-
module. Plus précisément :
(i) Si V est un krGs-module, il existe une unique représentation k-linéaire de G
sur le k-espace vectoriel sous-jacent à V , notée ρV : G Ñ GLpV q, vérifiant
ρV pgqpvq “ g.v pour tout g P G et v P V . On l’appelle la représentation
associée à V .
(ii) Reciproquement, si pV, ρq est une repésentation k-linéaire de G, il existe une
unique structure de krGs-module sur V étendant celle de k-espace vectoriel,
et vérifiant g.v “ ρpgqpvq pour tout g P G et v P V . On l’appelle krGs-module
associé à pV, ρq, et on le note en général simplement V .
Ces deux constructions sont inverses l’une de l’autre.
Dans la suite, nous jonglerons souvent entre les points de vue « représentation »
et « krGs-module » sans commentaire, via la proposition ci-dessus. Ainsi, étudier les
représentations de G est la même chose qu’étudier l’algèbre krGs-linéaire ! Toutes
les notions s’appliquant aux modules s’appliquent en particulier aux représentations,
ce qui nous évite en particulier de les redéfinir (même si nous en retraduirons cer-
taines ci-dessous) : sous-modules, produits, sommes, sommes directes ... ainsi que
la notion de morphisme et d’isomorphisme. Par exemple, un morphisme entre deux
représentations k-linéaires pV1 , ρ1 q et pV2 , ρ2 q de G est par définition une application
krGs-linéaire entre les krGs-modules V1 et V2 associés.
Définition 2.5. Si V1 et V2 sont des krGs-modules, on note HomkrGs pV1 , V2 q le
k-espace vectoriel des applications krGs-linéaires de V1 vers V2 .
Une application k-linéaire u : V1 Ñ V2 est krGs-linéaire si, et seulement si, on a
u ˝ ρ1 pgq “ ρ2 pgq ˝ u, @ g P G,
(on parle aussi d’opérateur d’entrelacement). C’est un isomorphisme si, et seulement
si, elle est bijective. On retrouve bien la notion d’isomorphisme de représentations
déjà introduite plus haut :
1. En effet, ν est k-bilinéaire, donc (M1) et (M2) sont satisfaits et il suffit de vérifier (M3) pour
a, a1 P G, mais c’est la définition d’une action de G sur V .
3. DÉCOMPOSITION EN IRRÉDUCTIBLES 273
Proposition 2.6. Deux krGs-modules de dimension finie U et V sont iso-
morphes, si et seulement si, les représentations associées pU, ρU q et pV, ρV q le sont.
Démonstration — Soient e “ pe1 , . . . , en q et f “ pf1 , . . . , fn q des k-bases de U et
V respectivement, et u : U Ñ V la bijection k-linéaire définie par upei q “ fi pour
tout i. Pour g P G on a clairement Matf u ˝ ρU pgq ˝ u´1 “ Mate ρU pgq. On a donc
Mate ρU pgq “ Matf ρV pgq ðñ u ˝ ρU pgq ˝ u´1 “ ρV pgq. l
3. Décomposition en irréductibles
Soit V un krGs-module. Un sous-k-espace vectoriel W Ă V est dit G-invariant
(ou G-stable, ou une sous-représentation de V ) si on a g.w P W pour tout w P W et
tout g P G, i.e. si c’est un sous-module de V . Soient e “ pe1 , . . . , ep`q q une base de
V telle que e1 , . . . , ep est une base de W . Alors W est G-invariant si, et seulement
si, on a „
‹p ‹
Mate ρV pgq “ , @ g P G.
0 ‹q
Définition 3.1. Soit V un krGs-module, ou ce qui revient au même, une repré-
sentation k-linéaire de G. On dit que V est irréductible (ou simple), si on a V ‰ t0u
et si les seuls sous-modules de V sont t0u et V .
Une représentation de dimension 1 (comme la triviale) est irréductible.
Proposition 3.2. Supposons k algébriquement clos, G abélien et V un krGs-
module irréductible de dimension finie. Alors V est de dimension 1.
Démonstration — En effet, les ρV pgq sont trigonalisables car k est algébrique-
ment clos et V de k-dimension finie. Ils commutent entre eux car G est abélien.
Ils possèdent donc une droite G-stable commune (cotrigonalisabilité) D Ă V . Par
irréductibilité de V , on a D “ V . l
Proposition 3.3. Un krGs-module V non nul est irréductible si, et seulement
si, on a krGsv “ V pour tout v ‰ 0 dans V .
Démonstration — En effet, si V est irréductible, et v P V est non nul, alors krGsv
est un sous-module de V , nécessairement égal à V . Réciproquement, si W est un
sous-module non nul de V , et si v P W est non nul, on a V “ krGsv Ă W , et donc
W “V. l
En particulier, un krGs-module irréductible est monogène. Attention, la réci-
proque est fausse : voir l’Exercice 9.10. Développons maintenant un exemple ins-
tructif. Considérons, pour n ě 2, la représentation de permutation de Sn sur k n “
‘ni“1 kei de l’Exemple 1.6. Elle řn’est pas irréductible. En effet, la droite D engendrée
par le vecteur p1, 1, . . . , 1q “ ni“1 ei est fixée, donc G-stable, et définit donc une
représentation
ř de Sn isomorphe à k (la triviale). De plus, l’hyperplan H Ă k n défini
par i xi “ 0 est également manifestement G-stable.
274 9. REPRÉSENTATIONS LINÉAIRES DES GROUPES FINIS
Proposition 3.4. Les seuls sous-modules de la représentation de permutation
naturelle de Sn sur k n sont t0u, D, H et V . En outre, on a
V “ H ‘ D ðñ n P k ˆ .
řn
Démonstration — Il est clair que l’on a D Ă H ðñ i“1 ei P H ðñ n.1 “ 0
dans k, d’où la seconde assertion. Montrons la première. Soit W un sous krSn s-
module de k n non inclus dans la droite D. Il existe donc x P W et i ‰ j tels que
xi ‰ xj . Mais alors l’élément x ´ pi jq x est dans W , et il est égal à
pxi ´ xj qpei ´ ej q.
Quitte à diviser par xi ´ xj (non nul), on a donc ei ´ ej P W . Quitte à appliquer
encore des éléments de Sn , on a aussi ei ´ el dans W pour tout l ‰ i, puis H “
vectk pei ´ el q Ă W . Comme H est un hyperplan, on a W “ H ou W “ V . l
Définition 3.5. Un krGs-module V est dit semi-simple s’il existe une décom-
position en somme directe V “ ‘iPI Vi où les Vi sont des sous-modules irréductibles.
On trouve aussi la terminologie complètement réductible pour semi-simple. Il est
clair que irréductible (ou nul) implique semi-simple.
Proposition 3.6. (Caractérisation de la semi-simplicité) Soit V un krGs-module
de dimension finie. Il y a équivalence entre :
(a) V est semi-simple.
(b) V est somme (pas forcément directe) de sous-modules irréductibles.
(c) Pour tout sous-module W de V , il existe un sous-module S de V vérifiant
V “ W ‘ S (« existence d’un supplémentaire stable »).
(d) tout sous-module de V est semi-simple.
Démonstration — Les implication (a) ùñ (b) et (d) ùñ (a) sont triviales.
ř
Montrons (b) ùñ (c). Supposons V “ iPI Vi avec les Vi irréductibles. Soit W
un sous-module de V . Si W contient tous les Vi , on a W “ V et S “ t0u convient.
Sinon, il existe i P I avec Vi non inclus dans W . Dans ce cas, Vi X W est un sous-
module de Vi distinct de Vi . Par irréductibilité de Vi , on a Vi X W “ t0u. Ainsi,
Vi et W sont en somme directe dans V , et W 1 :“ Vi ‘ W est un sous-module de
V . Par récurrence descendante sur dim W , il existe un sous-module S 1 Ă V avec
W 1 ‘ S 1 “ V . On conclut en posant S “ S 1 ‘ Vi .
Montrons (c) ùñ (d) par récurrence sur la dimension du sous-module W Ă V
en question. Le cas W “ t0u est trivial par convention, donc on suppose W non
nul. Soit U un sous-module non nul de W de dimension minimale. Alors U est
nécessairement irréductible. Par (c), il existe un suppémentaire G-stable S de U
dans V . Tout élément de w P W s’écrit de manière unique u ` s avec u P U et
s P S, et donc s “ w ´ u P S X W . On a donc W “ U ‘ pS X W q avec S X W un
sous-module de V de dimension ă dim W , et on conclut par récurrence. l