Chapitre 3

Produit scalaire, espaces

vectoriels euclidiens

3.1 Produit scalaire, norme euclidienne

Définition 3.1 Soit E un espace vectoriel réel. Un produit scalaire sur
E est une forme bilinéaire symétrique définie positive sur E × E. Un espace
vectoriel réel de dimension finie muni d’un produit scalaire est appelé espace
euclidien.
Si (x, y) 7→ (x | y) est un produit
p scalaire sur E, la norme euclidienne
d’un élément x ∈ E est kxk = (x | x).

Un espace vectoriel réel de dimension infinie muni d’un produit scalaire

est couramment appelé espace préhilbertien réel. On notera en général (x | y)
le produit scalaire.
Exemples de produit scalaire :
1. Le produit scalaire usuel sur Rn ; si x = (x1 , . . . , xP
n ) et y = (y1 , . . . , yn )
n n
sont deux
P vecteurs de R , on pose (x | y) = i=1 xi yi On a bien
2 n 2
kxk = i=1 xi > 0 quand x 6= 0.
2. La forme bilinéaire symétrique (A, B) 7→ trace(A t B) est un produit
scalaire sur Mn (R).PEn effet, si A = (ai,j ) n’est pas la matrice nulle,
on a trace(A t A) = i,j a2i,j > 0.
3. Soit E l’espace vectoriel réel (de dimension infinie) des fonctions conti-
nues sur [0, 1] à valeurs dans R. On pose, pour f et g éléments de
E,
Z 1
(f | g) = f (t) g(t) dt .
0

15
16 CHAPITRE 3. ESPACES EUCLIDIENS

Ceci définitR bien un produit scalaire car si f n’est pas identiquement

1
nulle, on a 0 f (t)2 dt > 0.
La norme euclidienne associée à un produit scalaire vérifie
kxk = 0 ⇔ x = 0 et kλxk = |λ| kxk pour tout réel λ. Voici d’autres pro-
priétés.

Proposition 3.2 (Inégalité de Cauchy-Schwarz) Soit E un espace vec-

toriel réel muni d’un produit scalaire (· | ·), k·k la norme euclidienne associée.
Alors pour tous x et y de E on a

|(x | y)| ≤ kxk kyk .

L’égalité a lieu si et seulement si x et y sont colinéaires.

Proposition 3.3 (Inégalité triangulaire) Soit E un espace vectoriel réel

muni d’un produit scalaire (· | ·), k · k la norme euclidienne associée. Alors
pour tous x et y de E on a

kx + yk ≤ kxk + kyk .

L’égalité a lieu si et seulement si y = 0 ou s’il existe un réel t ≥ 0 tel que

x = t y.

3.2 Orthogonalité, base orthonormale

Un produit scalaire est une forme bilinéaire symétrique non dégénérée.
Dans un espace euclidien E on a donc dim F + dim F ⊥ = dim E pour tout
sous-espace E. Mais on a mieux :

Proposition 3.4 Soit E un espace euclidien, F un sous-espace de E. L’or-

thogonal F ⊥ de F pour le produit scalaire est un supplémentaire de F dans
E. On l’appelle le supplémentaire orthogonal de F dans E.

On reprend la définition de base orthogonale déjà vue pour une forme bi-
linéaire symétrique et on la complète.

Définition 3.5 Soit E un espace euclidien de dimension n. Une base

(e1 , . . . , en ) de E est dite orthogonale quand (ei | ej ) = 0 pour tous i 6= j.
Elle est dite orthonormale si en plus kei k = 1 pour i = 1, . . . , n.
3.2. ORTHOGONALITÉ, BASE ORTHONORMALE 17

La base (e1 , . . . , en ) est orthonormale si et seulement si la matrice du produit

scalaire dans cette base est la matrice identité PIn , ou encore si P
et seulement
si le produit scalairePde deux vecteurs x = ni=1 xi ei et y = ni=1 yi ei est
donné par (x | y) = ni=1 xi yi .
Un espace euclidien possède toujours une base orthogonale (c’est vrai pour
n’importe quelle forme bilinéaire symétrique, en particulier pour le produit
scalaire). Si (e1 , . . . , en ) est une base orthogonale de l’espace euclidien E, on
1
peut en faire une base orthonormale en remplaçant ei par ei . On obtient
kei k
donc :
Proposition 3.6 Tout espace euclidien admet une base orthonormale.
Grâce à cette proposition, on voit comment l’étude d’un espace euclidien de
dimension n se ramène à celle de Rn avec son produit scalaire usuel.
On a une façon utile de fabriquer une base orthogonale (ou orthonormale)
à partir d’une base quelconque d’un espace euclidien.

Proposition 3.7 (Procédé d’orthogonalisation de Gram-Schmidt)

Soit (e1 , . . . , en ) une base quelconque d’un espace euclidien E. Alors on peut
fabriquer par récurrence une base orthogonale (ε1 , . . . , εn ) de E de la forme

ε1 = e1
ε2 = e2 − λ1,2 ε1
..
.
P
εi = ei − i−1
j=1 λj,i εj
..
.
P
εn = en − n−1j=1 λj,n εj

(εj | ei )
en prenant λj,i = . On a Vect(e1 , . . . , ei ) = Vect(ε1 , . . . , εi ) pour
kεj k2
i = 1, . . . , n.

Proposition 3.8 Soit E un espace vectoriel réel muni d’un produit scalaire
(· | ·), et soit F un sous-espace de dimension finie de E. Pour tout x ∈ E, il
existe un unique pF (x) ∈ F tel que x − p(x) est orthogonal à F . L’application

pF : E −→ E
x 7−→ pF (x)

est un endomorphisme linéaire. Cet endomorphisme pF s’appelle la projec-

tion orthogonale sur F .
18 CHAPITRE 3. ESPACES EUCLIDIENS

Si (e1 , . . . , er ) est une base orthogonale de F , alors

Xr
(ei | x)
pF (x) = ei .
i=1
kei k2

3.3 Endomorphismes d’un espace euclidien

Dans toute cette section, E est un espace euclidien, (· | ·) son produit
scalaire et k · k sa norme euclidienne.

Proposition 3.9 Soit f un endomorphisme de E. Pour tout x ∈ E, il existe

un unique f ∗ (x) ∈ E tel que, pour tout y de E, on a

(f ∗ (x) | y) = (x | f (y)) .

L’application f ∗ : E → E est un endomorphisme linéaire Cet endomorphisme

f ∗ s’appelle l’adjoint de f . Si E est une base orthonormale de E, la matrice
de f ∗ dans la base E est la transposée de la matrice de f dans la base E.

Définition 3.10 Un endomorphisme d’un espace euclidien est dit symétri-

que (ou autoadjoint) s’il est égal à son adjoint.

Si E est une base orthonormale de l’espace euclidien E, un endomor-

phisme de E est symétrique si et seulement si sa matrice dans la base E est
symétrique.
Exemple : une projection orthogonale est un endomorphisme symétrique.

Proposition 3.11 Soit f un endomorphisme de E. Les propriétés suivantes

sont équivalentes :
1. Pour tous x, y de E, on a (f (x) | f (y)) = (x | y).
2. Pour tout x de E, on a kf (x)k = kxk.
3. f ∗ f = IdE .
Un endomorphisme orthogonal de E est un endomorphisme qui vérifie
ces propriétés. Les endomorphismes orthogonaux forment un groupe, appelé
le groupe orthogonal de E.

Exemple : les symétries orthogonales.

Définition 3.12 Une matrice M ∈ Mn (R) est dite orthogonale si t M M =

In . Les matrices orthogonales forment un sous-groupe du groupe linéaire,
appelé groupe orthogonal et noté O(n, R).
3.3. ENDOMORPHISMES D’UN ESPACE EUCLIDIEN 19

Soit E = (e1 , . . . , en ) une base orthonormale de E. Alors un endomor-

phisme f de E est orthogonal si et seulement si (f (e1 ), . . . , f (en )) est une
base orthonormale de E, et si et seulement si sa matrice dans la base E est
orthogonale.

Proposition 3.13 Les endomorphismes orthogonaux (les matrices orthogo-

nales) ont un déterminant égal à 1 ou −1. Ceux (celles) de déterminant 1
forment un sous-groupe du groupe orthogonal appelé groupe spécial orthogo-
nal. Dans le cas des matrices, on le note SO(n, R)

Etude des groupes orthogonaux en dimension 2 et 3.

Proposition 3.14 Soit E un plan euclidien.

1. Soit (e1 , e2 ) une base orthonormale de E, et f un endomorphisme or-
thogonal de E de µdéterminant 1. ¶ Alors il existe un réel θ tel que la
cos θ − sin θ
matrice de f soit (rotation d’angle θ).
sin θ cos θ
2. Soit f un endomorphisme orthogonal de E de déterminant −1. Alors
il existe une base orthonormale
µ ¶(e1 , e2 ) de E telle que la matrice de
1 0
f dans cette base soit (symétrie orthogonale par rapport à
0 −1
une droite).

Proposition 3.15 Soit E un espace euclidien de dimension 3, f un endo-

morphisme orthogonal de E. Alors il existe une base  orthonormale (e1 , e2 , e3 )
ε 0 0
de E telle que la matrice de f dans cette base soit  0 cos θ − sin θ , où
0 sin θ cos θ
θ est un nombre réel et ε = 1 (resp. −1) si det f = 1 (resp. −1). Dans le cas
det f = 1, f est l’identité ou la rotation d’axe la droite engendrée par e1 et
d’angle géométrique θ. Dans le cas det f = −1, c’est une symétrie orthogo-
nale par rapport à un plan, ou une telle symetrie suivie d’une rotation d’axe
perpendiculaire au plan

Dans le cas d’une rotation f (déterminant 1, différente de l’identité), l’axe

est la droite vectorielle propre de f associée à la valeur propre 1, et l’angle
géométrique θ de la rotation est déterminé par 1 + 2 cos(θ) = trace(f ).
20 CHAPITRE 3. ESPACES EUCLIDIENS

3.4 Diagonalisation des endomorphismes sy-

métriques
Théorème 3.16 Soit f un endomorphisme symétrique d’un espace euclidien
E. Alors il existe une base orthonormale de E dans laquelle la matrice de f
est diagonale.

Démonstration: On admet le lemme qui dit qu’un endomorphisme symétrique

a ses valeurs propres réelles (ce lemme sera démontré au prochain chapitre).
On raisonne alors par récurrence sur la dimension n de l’espace euclidien
E. Pour n = 1, il n’y a rien à démontrer. Supposons alors n > 1 et le
résultat établi pour un endomorphisme symétrique d’un espace euclidien de
dimension n − 1. Soit λ une valeur propre réelle de f , et un ∈ E un vecteur
propre de valeur propre associée λ. On peut supposer un de norme 1, quitte
à le diviser par sa norme. L’hyperplan u⊥n orthogonal de un est stable par f .
⊥
En effet, si x appartient à un , alors

(f (x) | un ) = (x | f (un )) = (x | λ un ) = λ(x | un ) = 0 ,

et donc f (x) appartient aussi à u⊥ n.

On peut donc considérer la restriction f |u⊥n : u⊥ ⊥
n → un . Le produit scalaire
⊥
sur E induit une structure d’espace euclidien sur un , pour laquelle f |u⊥n est
un endomorphisme symétrique. D’après l’hypothèse de récurrence, il existe
une base orthonormale (u1 , . . . , un−1 ) de u⊥ n formée de vecteurs propres de
f |u⊥n . Alors (u1 , . . . , un ) est une base orthonormale de E formée de vecteurs
propres de f . ¤

En termes de matrices, le théorème se traduit ainsi :

Théorème 3.17 Soit M une matrice symétrique réelle de taille n. Alors il

existe une matrice orthogonale U telle que t U M U = U −1 M U soit diagonale.

On peut tirer quelques conséquences de ce théorème.

Si M est une matrice symétrique. Il existe une matrice diagonale D et
une matrice orthogonale U telle que D = t U M U = U −1 M U . La matrice D
est congruente à M , et donc D et M ont même signature. La signature de
D est le couple formé de son nombre de coefficients diagonaux strictement
positifs et de son nombre de coefficients diagonaux strictement négatifs. Or les
coefficients diagonaux de D sont les valeurs propres de M . Par conséquent :

Corollaire 3.18 Soit M une matrice symétrique. La signature de M est

égale au couple formé du nombre de ses valeurs propres strictement positives
3.4. DIAGONALISATION DES ENDOMORPHISMES SYMÉTRIQUES21

et du nombre de ses valeurs propres strictement négatives (valeurs propres

comptées avec multiplicité).

Exemple : Considérons la matrice symétrique de taille n > 1 :

 
0 1 ... 1
 . . .. 
 1 0 . . 
M = . . .  .
 .. . . . . 1 
1 ... 1 0

Clairement M + In est de rang 1, donc −1 est valeur propre de multiplicité

au moins n − 1. Comme la trace de M est nulle, −1 est valeur propre de
multiplicité exactement n − 1 et l’autre valeur propre de M est n − 1. Donc
la signature de M est ((1, n − 1).

Corollaire 3.19 Soit E un espace euclidien et q une forme quadratique sur

E. Alors il existe une base orthonormale de E qui est aussi orthogonale pour
q.

Démonstration: Soit E une base orthonormale de E et M la matrice de q

dans la base E. Il existe une matrice orthogonale U telle que D = t U M U
soit diagonale. La matrice U est la matrice de passage à une nouvelle base
orthonormale E 0 de E. La matrice de q dans la base E 0 est D, et donc cette
base est aussi orthogonale pour q. ¤