Analyse Version2
Analyse Version2
Filière :
Sciences de la Matière Physique
PC- S4
Analyse Numérique
Par
Prof : Mohamed Najib LAATABI
[Link]@[Link]
Remarque importante
det(A) Déterminant de A
A−1 Inverse de A : unique matrice vérifiant AB = BA = In
PA (λ) = det(A − λIn ) Polynôme caractéristique de A
sp(A) Spectre de A
λi Valeurs propres de A
ρ(A) = maxi |λi | Rayon spectral de A
Eλ = ker(A − λIn ) Sous-espace propre associé à λ (Ax = λx, x ̸= 0)
∥ · ∥, ∥| · |∥ Norme vectorielle sur Kn ; norme matricielle sur Mn (K)
∥|A|∥1 , ∥|A|∥∞ Norme 1 (max sommes colonnes) ; norme ∞ (max sommes
lignes)
ρ(A) = maxi |λi | Rayon spectral de A
q
∥|A|∥2 = ρ(A∗ A) Norme spectrale ; si A∗ A = AA∗ alors ∥|A|∥2 = ρ(A)
DSD Matrice à Diagonale Strictement Dominante
SDP Matrice Symétrique Définie Positive
· · · a1n
a11 a12
a
21 a22 · · · a2n
A=
.. .. .. ..
. . . .
1
CHAPITRE 1. RAPPELS SUR LES MATRICES 2
· · · am1
a11 a21
a12 a22
· · · am2
AT =
.. .. .. ..
. . . .
· · · am1
a11 a21
a12 a22
· · · am2
A∗ =
.. .. ... ..
. . .
1.1.2 Trace
1.1.3 Déterminant
Définition 1.2.2:
Les Sous-matrices principales Ak de A ∈ Mn (R) sont les sous-matrices obtenues en
ne conservant que les k premières lignes et les k premières colonnes :
Ak = (aij ) 1≤i,j≤k , k = 1, . . . , n.
sp(A) = {λ1 , . . . , λn }
Rayon spectral : Le plus grand module des valeurs propres :
Ax = λx.
Remarque 1:
Rayon spectral : Toujours calculé sur les racines complexes, même si la matrice est
réelle :
|||A|||2 = ρ(A).
Remarque 2:
Pour une matrice carrée A ∈ Mn (C), la conjuguée transposée (adjointe) est notée
T
A∗ = A . Pour les matrices réelles, A∗ = AT .
Définition 1.5.1:
A ∈ Mn (R) est définie positive si :
∀ x ∈ Rn \ {0}, xT Ax > 0.
Puisque A est inversible, le système (2.1) admet une unique solution x = A−1 b ∈ Rn .
Ce problème est fondamental en sciences de l’ingénieur ; la taille des systèmes rencon-
trés peut atteindre plusieurs millions d’inconnues. Nous étudierons deux grandes familles de
méthodes :
— les méthodes directes : solution exacte en un nombre fini d’opérations élémentaires
(hors erreurs d’arrondi) ;
— les méthodes itératives : construction d’une suite convergeant vers la solution.
Ax = b (2.3)
où :
— A = (ai,j ) ∈ Mm,n (K) est la matrice des coefficients ;
— x = (xj )1≤j≤n ∈ Kn est le vecteur des inconnues ;
— b = (bi )1≤i≤m ∈ Km est le vecteur du second membre.
8
CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 9
· · · a1,n
a1,1 a1,2 x1 b1
a2,1
a2,2 · · · a2,n
x2
b2
A=
.. .. .. .. x=
..
b=
..
. . . .
. .
am,1 am,2 · · · am,n xn bm
On distingue trois cas selon le rapport entre le nombre d’équations m et le nombre d’inconnues
n:
— Cas m < n (Système sous-déterminé) : Il y a moins d’équations que d’inconnues.
L’ensemble des solutions est généralement un sous-espace affine de dimension non nulle
(infinité de solutions).
— Cas m > n (Système sur-déterminé) : Il y a plus d’équations que d’inconnues.
En général, le système n’admet aucune solution exacte (on cherche alors souvent une
solution au sens des moindres carrés).
— Cas m = n (Système carré) : C’est le cas fondamental. Le système admet une unique
solution pour tout b ∈ Kn si et seulement si la matrice A est inversible (det(A) ̸= 0).
Exemple 1:
Considérons le système linéaire suivant :
2x1
+ x2 − x3 = 8
−3x1 − x2 + 2x3 = −11
−2x1 + x2 + 2x3 = −3
−2 1 2 x3 −3
| {z } | {z } | {z }
A x b
Définition 2.2.2:
Une matrice carrée (ai,j )1≤i,j≤n est dite triangulaire inférieure (ou trigonale inférieure)
si tous les éléments situés au-dessus de la diagonale principale sont nuls, c’est-à-dire si :
Remarque 1:
n
Q
Si une matrice A est triangulaire inférieure alors det(A) = ai,i .
i=1
On en déduit que A est inversible si et seulement si ai,i ̸= 0 pour tout i = 1, . . . , n.
La matrice étant inversible, ses termes diagonaux li,i (i = 1, 2, 3) sont non nuls. On peut
donc déterminer successivement les valeurs inconnues xi pour i = 1, 2, 3 :
b1
x1 = l1,1
b2 −l2,1 x1
x2 = l2,2
b3 −l3,1 x1 −l3,2 x2
x3 =
l3,3
Cet algorithme peut être étendu aux systèmes n × n. Dans le cas d’un système Lx = b,
où L est une matrice triangulaire inférieure d’ordre n (n ≥ 2), la méthode s’écrit :
b1
x =
1
l1,1
!
i−1
1
bi −
P
xi = li,j xj , i = 2, . . . , n
li,i
j=1
Exemple 2:
Considérons le système triangulaire inférieur suivant :
3 0 0 x1 9
1 2 0 x2 = 7
3 2 1 x3 14
Définition 2.2.3:
Une matrice carrée (ai,j )1≤i,j≤n est dite triangulaire supérieure (ou trigonale supérieure)
si tous les éléments situés en-dessous de la diagonale principale sont nuls, c’est-à-dire
si :
∀(i, j) ∈ {1, . . . , n}2 , i > j =⇒ ai,j = 0
Remarque 2:
n
Q
Si une matrice A est triangulaire supérieure alors det(A) = ai,i .
i=1
On en déduit que A est inversible si et seulement si ai,i ̸= 0 pour tout i = 1, . . . , n.
0 0 u3,3 x3 b3
La matrice étant inversible, ses termes diagonaux ui,i (i = 1, 2, 3) sont non nuls. On peut
donc déterminer successivement les valeurs inconnues en commençant par la dernière xi pour
i = 3, 2, 1 (c’est la phase de remontée) :
b3
x3 = u3,3
b2 −u2,3 x3
x2 = u2,2
b1 −u1,2 x2 −u1,3 x3
x1 =
u1,1
Cet algorithme peut être étendu aux systèmes n × n. Dans le cas d’un système U x = b,
où U est une matrice triangulaire supérieure d’ordre n (n ≥ 2), la méthode s’écrit :
bn
x =
n
un,n
!
n
1
bi − i = n − 1, . . . , 1
P
xi = ui,j xj ,
ui,i
j=i+1
Exemple 3:
Considérons le système triangulaire supérieur suivant :
3 2 1 x1 10
0 2 1 x2 = 7
0 0 2 x3 6
Le principe général consiste à écrire une décomposition A = BC, où B et C ont des pro-
priétés favorables (triangularité, orthogonalité. . .). Résoudre Ax = b revient alors à résoudre
successivement deux systèmes plus simples :
By = b puis Cx = y.
La méthode directe la plus utilisée est la méthode d’élimination de Gauss, dont la forme
matricielle conduit à la décomposition LU.
Exemple 4:
Considérons le système Ax = b avec
1 1 0 b1
A = 1 2 1 , b = b2 .
0 1 3 b3
On effectue L2 ← L2 − ℓ21 L1 :
1 1 0
ℓ21 = 1
1 1 0
1 2 1 L2 ← L2 − L1 0 1 1
0 1 3 (L3 inchangée) 0 1 3
| {z } | {z }
A(1) A(2)
(2)
Le pivot est a22 = 1. Le multiplicateur vaut
(2)
a32 1
ℓ32 = (2)
= = 1.
a22 1
On effectue L3 ← L3 − ℓ32 L2 :
1 1 0
ℓ32 = 1
1 1 0
0 1 1 L3 ← L3 − L2 0 1 1
0 1 3 (L1 , L2 inchangées) 0 0 2
| {z } | {z }
A(2) A(3) = U
Matriciellement :
1 0 0
(2) (2) (2) (1)
E3 = 0 1 0 , U = A(3) = E3 A(2) = E3 E2 A.
0 −1 1
0 0 2
0 1 1
2.2.4 Méthode de LU
En appliquant la méthode d’élimination de Gauss sans stratégie de pivot, on construit
successivement des matrices élémentaires E1 , E2 , . . . , En−1 telles que
A = LU,
où L est triangulaire inférieure avec des 1 sur la diagonale, et U est triangulaire supé-
rieure inversible.
La condition du théorème est équivalente à demander det(Ai ) ̸= 0 pour tout i ∈ {1, . . . , n}.
−3 6 2
On vérifie les mineurs principaux :
2 4
det(A1 ) = 2 ̸= 0, det(A2 ) = = 10 − 4 = 6 ̸= 0, det(A3 ) = det(A) ̸= 0.
1 5
et on calcule A(2) = E1 A :
L2 ← L2 − 12 L1 : 1 − 12 ·2, 5 − 12 ·4, 3 − 21 ·(−2) = 0, 3, 4 ,
L3 ← L3 − − 32 L1 : −3 + 32 ·2, 6 + 32 ·4, 2 + 23 ·(−2) = 0, 12, −1 .
On obtient :
2 4 −2
A(2) = 0 3 4 .
0 12 −1
0 0 −17
− 32 0 1 0 4 1
Une propriété remarquable de l’élimination de Gauss est que L = E1−1 E2−1 s’obtient
simplement en plaçant les multiplicateurs dans le triangle inférieur :
1 0 0
L = 21 1 0.
− 32 4 1
Vérification.
1 0 0 2 4 −2 2 4 −2
1
LU = 2
1 0 0 3 4 = 1 5 3
= A.
− 32 4 1 0 0 −17 −3 6 2
Le coefficient ℓik ainsi obtenu est directement l’entrée (i, k) de L, et les entrées de U
sont les lignes successives issues de cette élimination. On résume :
(j)
aij (i)
ℓij = (j)
(i > j), ℓii = 1, uij = aij (i ≤ j).
ajj
Ax = LUx = L(Ux) = Lz = b.
Exemple 6:
2
Résolvons Ax = b avec b = 4 .
−6
Descente — résolution de Ly = b :
= 2, y1
1 0 0 y1 2
1
1 0 y2 = 4 =⇒ y = 4 − 12 ·2 = 3,
2
2
− 32 4 1 y3 −6
y = −6 + 3 ·2 − 4·3 = −6 + 3 − 12 = −15.
3 2
Remontée — résolution de Ux = y :
−15 15
= , x3 =
−17 17
2 4 −2 x1 2
1 1 51 − 60 3
0 3
4 x2 = 3 =⇒ x2 = 3 − 4· 15
17
= · =− ,
0 0 −17 x3 −15
3 3 17 17
1 1 34 + 12 + 30 76 38
3
+ 2· 15
x1 = 2 − 4· − 17 = · = = .
17
2 2 17 34 17
La solution est donc
38
1
x= −3 .
17
15
8 for j = i + 1 à n do
// Ligne i de U
i−1
X
9 ui,j ← ai,j − ℓi,k uk,j
k=1
// Colonne i de L
i−1
!
1 X
10 ℓj,i ← aj,i − ℓj,k uk,i
ui,i k=1
11 end
12 end
// Dernier pivot
n−1
X
13 un,n ← an,n − ℓn,k uk,n
k=1
Remarque 3:
Coût comparé pour m seconds membres :
2n3
— Factorisation LU (une seule fois) : opérations.
3
— Chaque résolution triangulaire (Lz = b puis Ux = z) : 2n2 opérations.
Le coût total avec LU est donc :
2n3 2 2m n3
+ 2m
| {zn} ≪ .
3} 3 }
| {z m résolutions | {z
factorisation m Gauss indépendants
Exemple (n = 100, m = 50) : 1 666 667 opérations avec LU , contre 33 333 333 sans,
soit un gain d’un facteur 20.
A = L L⊤ .
Si de plus les éléments diagonaux ℓi,i de L sont imposés strictement positifs, alors la
décomposition est unique.
−2 3 14
4 2
det(A1 ) = 4 > 0, det(A2 ) = = 20−4 = 16 > 0, det(A3 ) = det(A) = 144 > 0.
2 5
−1 ? ?
−1 2 ?
−1 2 3
Vérification.
2 0 0 2 1 −1 4 2 −2
⊤
L L = 1 2 0 0 2 2 = 2 5 3
= A.
−1 2 3 0 0 3 −2 3 14
Ax = LL⊤ x = L(L⊤ x) = Ly = b.
Exemple 8:
2
Résolvons Ax = b avec b = 5 , en utilisant la décomposition A = LL⊤ établie
12
précédemment.
Descente — résolution de Ly = b :
2
= 1, y1 =
2
2 0 0 y1 2
1 4
1 2 0 y2 = 5 =⇒ y2 = (5 − 1·1) = = 2,
−1 2 3 y3 12
2 2
1 12 + 1 − 4 9
y3 = (12 − (−1)·1 − 2·2) = = = 3.
3 3 3
Remontée — résolution de L⊤ x = y :
3
= 1, x3 =
3
2 1 −1 x1 1
1
0 2 2 x2 = 2 =⇒ x2 = (2 − 2·1) = 0,
0 0 3 x3 3
2
1 2
x1 = (1 − 1·0 + 1·1) = = 1.
2 2
La solution est donc
1
x = 0 .
7 for i = j + 1 à n do
// Entrées
sous-diagonales
de la colonne j
j−1
1 X
8 ℓi,j ← ai,j − ℓi,k ℓj,k
ℓj,j k=1
9 end
10 end
// Dernier pivot diagonal
v
u n−1
ℓ2n,k
u X
11 ℓn,n ← ta
n,n −
k=1
Pour des systèmes linéaires de grande taille, les méthodes directes (telles que l’élimination
de Gauss, la factorisation de Cholesky ou LU) s’avèrent souvent trop coûteuses en termes de
nombre d’opérations, de temps de calcul et d’espace mémoire.
L’idée fondamentale des méthodes itératives est de ne plus chercher à résoudre exac-
tement le système en un nombre fini d’étapes. On cherche plutôt à approcher sa solution par
itérations successives, où chaque itération consiste à résoudre un système linéaire beaucoup
moins coûteux à l’aide d’une formule de récurrence simple.
A = M − N,
où M est une matrice inversible choisie de sorte que le système linéaire M y = c soit
facile à résoudre (faible coût de calcul). Typiquement, M sera diagonale, triangulaire,
ou diagonale/triangulaire par blocs.
On approche la solution de (2.4) par la suite x(k) définie par la formule de récur-
k≥0
rence :
x(k+1) = M −1 b + N x(k) , (2.5)
e(k+1) = x − x(k+1) ,
= M −1 (b + N x) − M −1 (b + N x(k) ),
= M −1 N (x − x(k) ),
= L e(k) ,
..
.
= Lk+1 e(0) .
Plus le rayon spectral ρ(L) est petit, plus la convergence est rapide.
A = D − E − F,
où D = diag(a11 , a22 , . . . , ann ) est la partie diagonale, −E est la partie triangulaire inférieure
stricte, et −F est la partie triangulaire supérieure stricte.
M = D, N = E + F = D − A,
Remarque 6: Parallélisme
(k+1)
À chaque itération, toutes les composantes xi ne dépendent que de x(k) . Les
calculs sont donc indépendants et peuvent être effectués en parallèle, ce qui est un
avantage sur les architectures multi-cœurs.
−1 2 6 7
M = D − E, N = F,
Gauss-Seidel converge donc deux fois plus vite que Jacobi (en termes d’itérations
logarithmiques) dans ce cas.
Décomposition M = D, N = E + F M = D − E, N = F
Bannouna, J.
Notes de cours : Analyse Numérique.
Université Sidi Mohamed Ben Abdellah, Faculté des Sciences Dhar Mahraz, Fès.
1 Département de Mathématiques — Deuxième année SMA (S4), 2015–2016.
Pujo-Menjouet, L.
Analyse Numérique — Troisième année de Licence.
Université Claude Bernard Lyon I, Licence Sciences, Technologies & Santé,
Spécialité Mathématiques. 43, boulevard du 11 novembre 1918, 69622 Villeurbanne,
France.
2 pujo@[Link]
Manceau, David.
Analyse Numérique Matricielle.
4 Licence 3 Mathématiques.