Chapitre 3
Les valeurs singuliéres
On a vu que pour certaines matrices carrées on pouvait faire une décomposition en valeurs
propres.
A= PDP
mais pour effectuer cette transformation, la matrice A doit étre carrée et diagonalisable,
L’idée de la décomposition en valeurs singuliéres est similaire a la décomposition en
valeurs propres, mais fonetionne pour n’importe quelle matrice de taille m x n.
La décomposition en
aleurs singulidres est l'un des factorisations d’une matrice les plus
importantes, car il n’y
a pas aucune condition sur la matrice (rang, dimension)
Ce chapitre consiste & définir les valeurs singuligres et la décomposition d’une matrice
cn valeurs singulidres, avec quelques exemples illustratifs, puis dans la deuxiéme section,
consisteAdéfinirlanotiond’invers
.généralis¢ (pseudo-inverse)
3.1 Décomposition en valeurs singuliéres
Liimportance de la dé
position en valeurs singuliéres est I'un des factorisations d'une
matrice, fonctionne pour n’importe quelle matrice de taille m x n.
Définition3.1.1 Soit AcMyxn(®) , ladécompositionenvateurssinguliéresde A s'éerit
de la fagon suivante
(3.1.1)avec U et V deux matrices orthogonales de taille m xm et nxn respectivement et © une
matrice diagonale de taille m x n contenant les valeurs singuliére de A notées 01,02...
et p = min(m,n) telles que
avec
a oo
o 0. 0
z simsn
0
ou 0 0
a
z a, | sim>n
0 0
0 0
Les r premieres colonnes de V et J’ sont dénommées respectivement vecteurs singuliéres
droit et gauche de A.
Si A=UEV' ona
A‘A = (UEV') (UBV!) = VEAVt (3.1.2)
A‘A est une matrice réelle symétrique, elle est done diagonalisable dans une base or-
thonormée de vecteurs propres
A‘ A= PDP = PDP" (3.13)
De plus A‘A est définie positive ear
< A‘Ar, 2 >= (A‘An)‘e = a A‘Ar = (Az)!(Az) = |[Ar|?* > 0Done les valeurs propres A; sont positives ou nulles
Par comparaison des équations (3.1.2) et (3.1.8) il est donc possible de dire que 3? =
DeatP=V.
Done (V, 2) représentent la décomposition aux valeurs propres de A‘A, ie.
(AA=
verve)
On appliquant la méme démarche a la matrice AA* on obtient
DP
(Aat = UStUS)
D’on (U, 2) représentent la décomposition aux valeurs propres de AA’, ie.
(AAt = US?0'),
On retrouve ici une propriété des valeurs singuligres de A
=Dea=Vy
Les valeurs singulidres 0, de A sont les racines carrées des valeurs propres de A‘A ou
Aat
Théoreme 3.1.1 Soit
A=UBV".
Alors
WAlo=or et | Alle=. S00?
Preuve. On a U et V sont orthogonale, nous avons
| A |2=|| VEV" [=I] E lp
Maintenant
2 f= max Be = max (oft ++ onan) < of(at +
et le maximum est vérifié pour x = ey alors |) A [>= 01
Pour la norme de Frobenuis, nous avons
A le= [E8- vere (AFA) = \E*
Comme la trace dune matrice est la somme de ses valeurs propres. m3.1.1 L’existance et Punicité
Théoreme 3.1.2 Soit A € Rmxn une matrice de rang r. Il existe deur matrices
orthogonales U ER™",(U'U = UU" = In) et V ER", (VV = VV" = I) telles que :
reve _ pa 9
A=UBV', z-(F ) (3.1.4)
ou DE R™", By = diag(oy,02,....4, 07),
1 2022 20,>0
Composante par composante, Videntité matricielle (2.1.4) devient
Av; = a5; Alu; = 0305, pour j
A‘y;
pour j= n+)...
Si Yon note U = (ty,t2,--0;tm)y V = (01,0200, 0m) les colonnes des matrices U et V,
les vecteurs u, et vy sont respectivement, les vecteurs singuliéres droits et gauches associés
a les valeurs singulidres a
Preuve. La preuve se fait par récurrence sur n.
Par définition de ce qu’est une norme matricielle subordonnée, il existe un vecteur v: €
RF tel que
Ileal [Avilla
08 o est strictement positif (si ¢ = 0, alors A =0, et il n'y arrien a démontrer). Posons
uy = 1/odn, € R™
‘Complétons le vecteur v; en une base orthogonale de R", et notons V = (v1,Vi) € R™"
|Al| aes
la matrice formée par les vecteurs de base.
Faisons de méme pour u; et R", notant U = (11,1) € R™"
Remarquons que les matrices U et V sont orthogonales par construction.
D’aprés notre choix de Ui, UfAv; = oUfuy = 0, et donc le produit U‘AV a la structure
par blocs suivanteAtay
avec wt = uf AV! et B= UFAVY, € RO xO-0,
Comme U et V sont orthogonales, ||Ai||» = ||All2 = 0. Mais la double inégalité
“(OEG)
montre que ||Ail| > (s2 + w'w)'/?, On doit done avoir w
WAill2 > (0? + ww)? > >o+utw,
2
On peut alors terminer
la démonstration en appliquant Phypothése de récurrence & B.
Remarque 3.1.12 estuniquemaisU etV nesontpas unique. LescolonnesU sont appelées les
vecteurssingulieresagauche, etlescolonnesdeV sontvecteurssingulieresa droite.
3.1.2 Calcul de la SVD
‘On peut calculer la SVD de A de la fagon suivante
~ Caleuler AYA,
- Caleuler une décomposition en éléments propres A'A = VDV',
- Soil la Ela matrice diagonale de taille m x n ayant dans la diagonale les matrices
cartée de D, A=USV! <= AV =UE, U orthogonale,
a
A=UEV! ==> AV
[Pay sndou
Avy = a4,
dor
A
Laie! ot A’ = Dovwyul
tel que r = rang(A), 1; et 1 sont respectivement les i®* colonne de U et V.
Remarque 3.1.2 Le rang de A est le nombre de SVD.
Exemple 3.1.1 Nous allons calculer la SVD de A telle que : A~ (
Pas 1 : la diagonalisation orthogonal A‘A :
80 100 40
A'A= | 100 170 140
40 140 200
Ses valeurs propres et vecteurs propres sont
A = 360, 1 =( 4,
de = 90, wal =
ds = 0, wa
Pas 2: Construire V et ©
5-3 3
V = (eme)=] 2-2 3
zaConstruire U
Liensemble {w,,ug} est déja une base de R?, done Il n'est pas nécessaire de létendre
Finalement
A=UEV"
Done
(: n ") (# +
87 2 ye ye
Le programme en MATLAB : U,
>> AR[411 48 7-2
vy — { ~09887 9.3162
0.3162 0.9487
189737 00
° 0 9.4868 0
0.3333 (0.6607 + —0.6667
V=]| —0.6667 0.3333 0.6667
0.6667 — —0,6667 —0.3333
Exemple 3.1.2 Nous allons caleuler la SVD de A tel que: A= | —Pas 1: la diagonalisation orthogonal A‘A :
ATA= 9 9
“9 9
Ses valeurs propres et vecteur propres sont :
A=
ay
Pas 2: construire V et ¥
3v2 0
=} 0 0
0 0
Pas 3 : Construire U
L’ensemble {u}ce n'est pas une base de R, done Nous devons Vétendre, avec des
vecleurs orthogonales. Tous les vecteurs orthogonaux & uy vérifiés
122
ty U0 30, — Sra + Sy bm = 2x — zy
O— 5m — 52+ 528 21 = 2x2 — ry
Une base pour ce espace est w = (2,1,0) and ws = (—2,0,1). Mais cette base n'est pas
une base orthogonale.
Nous allons les mettre on forme orthogonale par le principe de Gram-Schmidt suivant
w. _ 2
° wl V5
w= Ma
ws av 3Finalement
A=uEv?
Done
1-1 } 3v2 0 1 1
2 2 |=| 3 a) (: 2)
2-2 o of \ 4
Le programme en MATLAB : U,S,V) = svd{(1
22 -2})
Exemple 3.1.3
a o-t
22
2-2
sud(A)
0.3333 0.6667 —0.6667
U=| 0.6667 0.6667 0.3333
0.6667 0.3333 0.6667
4.2426 0
=| 9 0
0 0
v ( zon o707 )
0.7071 0.7071
Proposition 3.1.1 On a les relations suivantes
1. Le rang de A est égal au nombre des valeurs singuliéres non-nulles
2 KerA=vect ves, Un)s mA = vect( tty, Uy)
8 ker AP = veet(Uy,.0-), Tint = weet tests otha)
4. Alla =o3.2 L’inverse généralisé
La notion d’inversible est une notion trés importante dans tous les domaines des mathéma-
tiques.
Deux matrices A et B sont inverse, si leurs produits est égale a la matrice identité
BA = I alors B= A7*
Les matrices inverses, et plus généralement en utilisons la notion de Pinverse généralisé
AB =
ou bien les pscudo-inverse, trouvent leurs applications a la résolution des systémes
Ar=b
d’équation linéaires quelles que soient leurs dimentions : A € R™*", b € R™ est le veeteur
cherehé a € R"
Le systéme linéaire posséde une solution unique, lorsque la matrice A est inversible.
Malheureusement, on ne se trouve pas toujours dans ce cas, en pratique, on obtient som
vent des données sous forme d'une matrice rectangulaire qui est un opérateur non inversible.
is¢ d'un tel
Linverse géné: fame est noté AY.
Linverse généralis6 A* satisfait les conditions suivantes
AA*A = A
A’AAT = At
(aa'yi = aa! Condition de systéme
(Atay = AYA
La solution d’un systéme linéaire a partir de la pseudo-inverse A+ s'éerit alors =
AS,
On distingue trois cas :
a) Si m= n, cas d'une matrice carré,
Si A une non singuliére (det(A) # 0) solution unique et
Atb) m
n, pas de solution, il existe une solution approchée aux moindres carrés et
At = (A'A)
3.2.1 L’inverse généralisé et SVD
Définition3.2.1 SoitA CIR" unematricederang r,ainsiquesadécompositionen
valeurs singuliéres
A=USV'
La matrice
Ate vEtut
est appelée matrice pseudo-inverse ou inverse généralisée de A, avec
Bt = diag(L/o1,.-. 1/010, +.49)
- At A= I, (matrice identité de rang r),
~ Si rang(A) =n Vous aimerez peut-être aussi