3
Factorisation de Cholesky
3.1 LU symétrique
On considère ici la question suivante : que dire de la factorisation
LU d’une matrice symétrique ?
Théorème 3.1. Une matrice 1 A ∈ Sn (R) est complètement régulière si et 1. L’ensemble des matrices réelles carrées
seulement s’il existe ( L, D ) ∈ GLn (R) × GLn (R) tel que symétriques d’ordre n sera noté Sn (R).
Autrement dit,
A = LDL T S n (R) = { A ∈ M n (R) : A T = A }.
avec L triangulaire inférieure de coefficients diagonaux tous égaux à 1 et D
diagonale. Dans ce cas, le couple ( L, D ) est unique.
Démonstration. =⇒ / Par hypothèse A ∈ Λn (R), donc il existe une
factorisation A = LU de la matrice A. Notons ui,j les coefficients et
ℓ1 , . . . , ℓn ∈ M1,n (R) les lignes de la matrice U. Puisque cette dernière
est triangulaire et inversible, ui,i ̸= 0 pour tout indice i ∈ [[1, n]]. Si l’on
note D ∈ Mn (R) la matrice diagonale de coefficients diagonaux ui,i et
U∗ ∈ Tn (R) la matrice de lignes uℓi , alors U∗ ∈ Tn (R) a des coefficients
i,i
diagonaux tous égaux à 1 et U = DU∗ d’après le lemme ci-dessous.
Lemme 3.1. Si D = (di δi,j ) ∈ Mn (R) est une matrice diagonale et si
M ∈ Mn (R) est une matrice de lignes ℓ1 , . . . , ℓn ∈ M1,n (R) alors
d1 ℓ1 d1 ℓ1
.. . .
DM = . . = . .
. .
dn ℓn dn ℓn
Démonstration. Il s’agit d’un produit par blocs.
Ceci donne l’égalité A = LDU∗ , puis comme A est symétrique,
A = A T = U∗T DL T = U∗T ( DL T ) .
Il s’agit d’une factorisation LU de A. Par unicité, on en déduit que
L = U∗T (et U = DL T ). Par conséquent, on a bien A = LDL T .
20
⇐= / Si A = LDL T comme dans l’énoncé, on pose U = DL T . Cette
matrice est alors triangulaire supérieure inversible et on a A = LU une
factorisation convenable. D’après le théorème 2.3, la matrice A est donc
bien complètement régulière.
Unicité : soient deux couples ( L1 , D1 ) et ( L2 , D2 ) tels que
A = L1 D1 L1T = L2 D2 L2T .
Notons U1 = D1 L1T et U2 = D2 L2T . Il s’agit de matrices triangulaires
supérieures, en tant que produits de matrices triangulaires supérieures.
Les égalités A = L1 U1 et A = L2 U2 sont ainsi deux factorisations LU
de la même matrice, et le théorème 2.1 montre alors que L1 = L2 et
U1 = U2 , d’où D1 = D2 .
Exemple 3.1. En partant de la factorisation LU
2 −1 0 1 0 0 2 −1 0
1 3
−1 2 1 = − 2 1 0 0 1 ,
2
2 7
0 1 3 0 3 1 0 0 3
on produit l’écriture LDL T évoquée ci-dessus
1 0 0 2 0 0 1 − 12 0
1
− 2 1 0 0 32 0 0 1 2 .
3
2 7
0 3 1 0 0 3 0 0 1
3.2 Matrices symétriques définies positives
Definition 3.1. Une matrice symétrique A ∈ Sn (R) est dite définie
positive lorsqu’elle vérifie 2 2. Ici, on se permet d’identifier la matrice
x T Ax ∈ M1 (R) avec son seul coefficient.
∀ x ∈ Mn,1 (R) \ {0} x T Ax > 0 .
Afin d’éviter les confusions avec les matrices dont les coefficients sont
positifs, on pourra dire que A est semi-définie positive lorsque l’on a
la propriété moins forte
∀ x ∈ Mn,1 (R) x T Ax ≥ 0 .
Il n’est peut-être pas inutile de rappeler que la forme quadratique
x 7→ x T Ax associée à la matrice symétrique A s’exprime sans effort à
partir des coefficients.
Lemme 3.2. Soit A = ( ai,j ) ∈ Sn (R). Pour tout x = ( xi ) ∈ Mn,1 (R),
n n n
x T Ax = ∑ ∑ ai,j xi x j = ∑ ai,i xi2 + 2 ∑ ai,j xi x j .
i =1 j =1 i =1 i< j
21
Exemple 3.2. La matrice suivante est symétrique définie positive :
!
2 −1
A= .
−1 2
En effet, pour tout x = ( xi ) ∈ M2,1 (R),
2
1 3
x T Ax = 2x12 − 2x1 x2 + 2x22 = 2 x1 − x2 + x22 ≥ 0
2 2
s’annule si et seulement si x1 − 12 x2 = x2 = 0 , ou bien encore si et
seulement si x1 = x2 = 0.
Exemple 3.3. La matrice symétrique
!
′ 1 2
A = .
2 1
n’est pas définie positive. En effet, la quantité
x T A′ x = x12 + 4x1 x2 + x22 = ( x1 + 2x2 )2 − 3x22
est strictement négative lorsque ( x1 , x2 ) = (−2, 1) par exemple.
Noter que deux coefficients de la matrice A ci-dessus sont négatifs :
cette observation suggère que distinguer les matrices définies positives
des autres n’est pas immédiat.
Proposition 3.1. La matrice 3 A = (2δi,j − δi,j+1 − δi,j−1 ) ∈ Mn (R) est 3. A un facteur multiplicatif près, c’est la
symétrique définie positive pour tout n ≥ 1. matrice du Laplacien en dimension 1.
Démonstration. Pour tout x = ( xi ) ∈ Mn,1 (R) on trouve
n n −1
x T Ax = ∑ 2xi2 − ∑ 2xi xi+1 .
i =1 i =1
En reformulant de façon à faire apparaître des carrés,
n n −1 n n −1
∑ 2xi2 − ∑ 2xi xi+1 = ∑ xi2 + xn2 + ∑ (xi2 − 2xi xi+1 )
i =1 i =1 i =1 i =1
n n −1 n −1
= ∑ xi2 + xn2 + ∑ (xi − xi+1 )2 − ∑ xi2+1
i =1 i =1 i =1
n −1
= x12 + xn2 + ∑ ( x i − x i +1 )2 .
i =1
On en conclut que pour tout x = ( xi ) ∈ Mn,1 (R) on a
n −1
x T Ax = x12 + xn2 + ∑ ( x i − x i +1 )2 ≥ 0 .
i =1
Si l’on suppose que x T Ax = 0 alors nécessairement il vient x12 = 0 et
( xi − xi+1 )2 = 0 pour i ∈ [[1, n]], ce qui impose x1 = · · · = xn = 0 . La
matrice A est donc bien symétrique définie positive.
22
3.3 Factorisation de Cholesky
Lemme 3.3. Une matrice symétrique définie positive est inversible.
Démonstration. Soient M une matrice symétrique définie positive et
x ∈ Ker M. Alors x T Mx = 0, donc x = 0 d’après l’hypothèse. On en
déduit que Ker M = {0Mn,1 (R) } donc M ∈ GLn (R).
Proposition 3.2. Une matrice symétrique définie positive est complètement
régulière.
Démonstration. Soit A = ( ai,j ) ∈ Sn (R) symétrique définie positive.
Fixons k ∈ [[1, n]] et considérons Ak = ( ai,j )1≤i,j≤k ∈ Mk (R). Il s’agit à
nouveau d’une matrice symétrique. Vérifions qu’elle est aussi définie
positive, ce qui avec le lemme 3.3 donnera le résultat souhaité. Pour
tout x = ( xi ) ∈ Mk,1 (R), on note x ′ = ( xi′ ) ∈ Mn,1 (R) avec
x si 1 ≤ i ≤ k ,
i
xi′ =
0 si k < i ≤ n .
Il vient
k k n n
x T Ak x = ∑ ∑ ai,j xi x j = ∑ ∑ ai,j xi′ x′j = (x′ )T Ax′ .
i =1 j =1 i =1 j =1
Puisque A est une matrice symétrique définie positive, cette quantité
est ≥ 0, l’égalité n’ayant lieu que lorsque le vecteur x ′ est nul, auquel
cas le vecteur x l’est aussi. On en conclut que Ak est bien symétrique
définie positive.
Théorème 3.2. Une matrice A ∈ Mn (R) est symétrique définie positive
si et seulement s’il existe ( L, D ) ∈ Mn (R) × Mn (R) tel que A = LDL T ,
avec L une matrice triangulaire inférieure dont tous les coefficients diagonaux
sont égaux à 1 et D une matrice diagonale de coefficients diagonaux > 0. Dans
ce cas, le couple ( L, D ) est unique.
Démonstration. =⇒ / Existence et unicité de l’écriture A = LDL T se
déduisent de la proposition 3.2 et du théorème 3.1. Il reste à vérifier
que les coefficients diagonaux de D sont > 0. Si ek = (δk,i ) ∈ Mn,1 (R)
est le k−ième vecteur de la base canonique alors le k−ième coefficient
diagonal de D est égal à ekT Dek En posant x = ( L T )−1 ek , il vient
x T Ax = x T LDL T x = ( L T x ) T D ( L T x ) = ekT Dek .
Il est donc > 0, puisque A est symétrique définie positive.
23
⇐= / La matrice A est symétrique, car
( LDL T )T = ( L T )T D T L T = LDL T .
Vérifions qu’elle est définie positive. Pour tout x ∈ Mn,1 (R),
n
x T Ax = x T LDL T x = ( L T x ) T D ( L T x ) = ∑ di y2i ,
i =1
en notant D = (di δi,j ) et y = (yi ) = L T x. Par conséquent,
n
x T Ax ≥ ∑ y2i 1min
≤i ≤ n
di = ∥ L T x ∥2 min di .
1≤ i ≤ n
i =1
Comme ce minimum est par hypothèse > 0, ceci montre que x T Ax ≥ 0
avec égalité si et seulement si ∥ L T x ∥ = 0, c’est-à-dire x = 0 car L T est
inversible.
Remarque. Ce qui précède donne un moyen effectif pour déterminer
si une matrice symétrique est définie positive ou non : on essaye de
calculer sa factorisation LDL T . Si elle existe et si tous les coefficients
diagonaux de D sont > 0, alors elle est définie positive. Dans le cas
contraire, elle ne l’est pas. 4 4. Si l’on reprend la matrice A′ de
l’exemple 3.3, on voit que la factorisation
Enfin, la symétrie permet de reformuler de façon plus économique LU existe
la factorisation. On obtient ainsi la factorisation de Cholesky. A′ =
1 2
=
1 0 1 2
,
2 1 2 1 0 −3
Théorème 3.3 (factorisation de Cholesky). Une matrice A ∈ Mn (R)
| {z } | {z }
L U
est symétrique définie positive si et seulement s’il existe une B ∈ Mn (R) ce qui donne la factorisation LDL T
triangulaire inférieure à coefficients diagonaux > 0 telle que A = BB T . Dans
1 0 1 0 1 2
ce cas, la matrice B est unique. A′ = .
2 1 0 −3 0 1
Démonstration. Le résultat est un corollaire du théorème 3.2 et d’une On retrouve bien que A′ n’est pas définie
positive, puisque −3 < 0.
observation simple : si une matrice D = (di δi,j ) ∈ Mn (R) possède des
√
coefficients diagonaux positifs alors R = ( di δi,j ) vérifie
D = R2 = RR T
de sorte que la matrice A = LDL T s’écrit
LDL T = LRR T L T = ( LR)( LR) T = BB T .
C’est la factorisation de Cholesky recherchée.
Réciproquement, une factorisation de Cholesky BB T étant donnée,
la matrice B s’écrit B = LR avec L T ∈ Tn (R) à coefficients diagonaux
tous égaux à 1 et R diagonale, de sorte qu’en posant D = R2 , il vient
BB T = ( LR)( LR) T = LR2 L T = LDL T ,
avec D diagonale à coefficient diagonaux > 0.
24
Unicité : si BB T = CC T sont deux factorisations convenables alors
C −1 B = B−T C T est une matrice à la fois triangulaire supérieure et
bi,i ci,i
inférieure de coefficients diagonaux ci,i = bi,i , en notant B = (bi,j ) et
C = (ci,j ). Mais alors = 2
bi,i c2i,i
et donc bi,i = ci,i , d’après l’hypothèse de
positivité. On en déduit que C −1 B = B−T C T = In .
Exemple 3.4. Appliquons ce qui précède à la matrice de l’exemple 3.2.
On commence par constater que la factorisation LU existe :
! ! !
2 −1 1 0 2 −1
= ,
−1 2 − 12 1 0 23
| {z } | {z }
L U
puis on remplace le facteur U :
! ! ! !
2 −1 1 0 2 0 1 − 12
= .
−1 2 − 21 1 0 23 0 1
| {z } | {z } | {z }
L D LT
Puisque la factorisation LDL T existe et que les coefficients diagonaux
de D sont tous > 0, on retrouve bien le fait qu’il s’agit d’une matrice
symétrique définie positive. En outre,
! √ !2
2 0 2 q0
3 = 3
,
0 2 0 2
d’où la décomposition
! ! √ !2 !
2 −1 1 0 2 q0 1 − 21
= .
−1 2 − 12 1 0 3
2
0 1
Il ne reste plus qu’à regrouper les termes. Noter que la multiplication
opère sur les colonnes du facteur gauche, tandis qu’elle opère sur les
lignes du facteur droit :
! √ ! √ !
1 0 2 q0 2 q0
= ,
− 12 1 0 3
2 − √1 3
2
2
√ ! √
2 − √1
!
2 q0 1 − 12 2
3
= q .
3
0 2
0 1 0 2
On en déduit la factorisation de Cholesky :
√ ! √
2 − √1
!
2 −1 2 q0
= q 2 .
−1 2 − √1 3
2 0 3
2
2
| {z }| {z }
B BT