0% ont trouvé ce document utile (0 vote)
3 vues34 pages

Analyse Version2

Ce document est un cours complémentaire sur l'Analyse Numérique, destiné à accompagner les travaux dirigés et ne remplace pas le cours magistral. Il couvre des sujets tels que les matrices, les systèmes linéaires, et les méthodes de résolution, avec des définitions et des propriétés essentielles. L'auteur invite les étudiants à signaler toute erreur ou remarque concernant le contenu.

Transféré par

landerytinsta
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
3 vues34 pages

Analyse Version2

Ce document est un cours complémentaire sur l'Analyse Numérique, destiné à accompagner les travaux dirigés et ne remplace pas le cours magistral. Il couvre des sujets tels que les matrices, les systèmes linéaires, et les méthodes de résolution, avec des définitions et des propriétés essentielles. L'auteur invite les étudiants à signaler toute erreur ou remarque concernant le contenu.

Transféré par

landerytinsta
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd

UNIVERSITÉ MOHAMED V

FACULTÉ DES SCIENCES RABAT


Département de Mathématiques

Filière :
Sciences de la Matière Physique
PC- S4

Analyse Numérique

Par
Prof : Mohamed Najib LAATABI
[Link]@[Link]

Remarque importante

Ce document est un cours complémentaire, destiné unique-


ment à accompagner la correction des travaux dirigés (TD).
Il ne se substitue en aucun cas au cours magistral dispensé
par le professeur responsable de la matière. L’auteur de
ce document assure uniquement les séances de TD.

Toute remarque de votre part est la bienvenue.


Si vous identifiez une erreur, veuillez la signaler.

Année Universitaire : 2025–2026


Table des matières
1 Rappels sur les matrices 1
1.1 Notations et définitions générales . . . . . . . . . . . . . . . . . . . . . 1
1.1.1 Transposée d’une matrice . . . . . . . . . . . . . . . . . . . . . 1
1.1.2 Trace . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.1.3 Déterminant . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2
1.2 Inverse d’une matrice . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2.1 Règles de calcul sur les inverses . . . . . . . . . . . . . . . . . . 3
1.2.2 Caractérisation d’une matrice inversible . . . . . . . . . . . . . . 4
1.2.3 Sous-matrices principales . . . . . . . . . . . . . . . . . . . . . . 4
1.3 Valeurs propres, vecteurs propres . . . . . . . . . . . . . . . . . . . . . 4
1.3.1 Définitions générales . . . . . . . . . . . . . . . . . . . . . . . . 4
1.3.2 Cas des matrices réelles (A ∈ Mn (R)) . . . . . . . . . . . . . . 5
1.4 Normes vectorielles et matricielles . . . . . . . . . . . . . . . . . . . . . 5
1.4.1 Norme vectorielle . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.4.2 Norme matricielle . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.4.3 Normes matricielles classiques . . . . . . . . . . . . . . . . . . . 6
1.5 Matrices définies positives . . . . . . . . . . . . . . . . . . . . . . . . . 7

2 Résolution des systèmes linéaires 8


2.1 Objectifs et cadre général . . . . . . . . . . . . . . . . . . . . . . . . . 8
2.1.1 Rappels sur les systèmes linéaires . . . . . . . . . . . . . . . . . 8
2.2 Méthodes directes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.2.1 Définition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.2.2 Méthodes directes . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.2.3 Méthode de Gauss . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.2.4 Méthode de LU . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
2.2.5 Appplications de la Factorisation LU . . . . . . . . . . . . . . . 18
2.2.6 Méthode de Cholesky . . . . . . . . . . . . . . . . . . . . . . . . 20
2.2.7 Application de la Factorisation de Cholesky . . . . . . . . . . . 22
2.3 Méthode itératives . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23
2.3.1 Principe Général . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.3.2 Matrice d’Itération et Erreur . . . . . . . . . . . . . . . . . . . . 24
2.4 La Méthode de Jacobi . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
2.4.1 Construction de la méthode . . . . . . . . . . . . . . . . . . . . 25
2.4.2 Formule composante par composante . . . . . . . . . . . . . . . 26
2.4.3 Convergence de Jacobi . . . . . . . . . . . . . . . . . . . . . . . 26
2.4.4 Exemple numérique . . . . . . . . . . . . . . . . . . . . . . . . . 27
2.5 La Méthode de Gauss-Seidel . . . . . . . . . . . . . . . . . . . . . . . . 27
2.5.1 Construction de la méthode . . . . . . . . . . . . . . . . . . . . 28
2.5.2 Formule composante par composante . . . . . . . . . . . . . . . 28
2.5.3 Convergence de Gauss-Seidel . . . . . . . . . . . . . . . . . . . . 28
2.5.4 Exemple numérique . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.6 Comparaison et Critères de Choix . . . . . . . . . . . . . . . . . . . . . 29
2.6.1 Tableau récapitulatif . . . . . . . . . . . . . . . . . . . . . . . . 29
2.6.2 Exemple : Cas où Jacobi diverge mais Gauss-Seidel converge . . 29
Symboles et Abréviations Analyse Numérique — M. N. LAATABI

Symbole Description / Signification


K Corps des scalaires (R ou C)
Mn (K) Matrices carrées d’ordre n sur K
Mm,n (K) Matrices de type (m, n) sur K
In Matrice identité d’ordre n
aij Coefficient ligne i, colonne j de A
z Conjugué complexe du scalaire z ∈ C
AT ou t A Transposée de A : (AT )ij = aji
A∗ Adjointe de A : (A∗ )ij = aji , A∗ = AT
n
X
tr(A) Trace de A : somme des termes diagonaux aii
i=1

det(A) Déterminant de A
A−1 Inverse de A : unique matrice vérifiant AB = BA = In
PA (λ) = det(A − λIn ) Polynôme caractéristique de A
sp(A) Spectre de A
λi Valeurs propres de A
ρ(A) = maxi |λi | Rayon spectral de A
Eλ = ker(A − λIn ) Sous-espace propre associé à λ (Ax = λx, x ̸= 0)
∥ · ∥, ∥| · |∥ Norme vectorielle sur Kn ; norme matricielle sur Mn (K)
∥|A|∥1 , ∥|A|∥∞ Norme 1 (max sommes colonnes) ; norme ∞ (max sommes
lignes)
ρ(A) = maxi |λi | Rayon spectral de A
q
∥|A|∥2 = ρ(A∗ A) Norme spectrale ; si A∗ A = AA∗ alors ∥|A|∥2 = ρ(A)
DSD Matrice à Diagonale Strictement Dominante
SDP Matrice Symétrique Définie Positive

Les notations suivent les conventions standards de l’Analyse Numérique.


Chapitre

1 Rappels sur les matrices

1.1 Notations et définitions générales

Définition 1.1.1: - Matrice de type (m, n)


Soient m, n ∈ N∗ . Une matrice de type (m, n) sur K est un tableau de scalaires (réels
ou complexes) à m lignes et n colonnes :

· · · a1n
 
a11 a12

a
 21 a22 · · · a2n 

A=
 .. .. .. .. 
 . . . . 

am1 am2 · · · amn

On adopte les conventions de notation suivantes :


— Mm,n (K) désigne l’ensemble de toutes les matrices de type (m, n) sur K.
— Lorsque m = n, on note simplement Mn (K) l’ensemble des matrices carrées d’ordre
n sur K.
— Le coefficient de la matrice A situé à l’intersection de la ligne i et de la colonne j est
noté Aij (ou aij ).

1.1.1 Transposée d’une matrice

Définition 1.1.2: Transposée d’une matrice


Soit A = (aij ) une matrice de type (m, n) sur K. La transposée de la matrice A,
notée AT (ou t A), est la matrice de type (n, m) obtenue en échangeant les lignes et les
colonnes de A. Le coefficient de la i-ème ligne et j-ème colonne de AT est le coefficient
de la j-ème ligne et i-ème colonne de A :

(AT )ij = aji


Ainsi :

1
CHAPITRE 1. RAPPELS SUR LES MATRICES 2

· · · am1
 
a11 a21
 a12 a22

· · · am2 
AT = 

 .. .. .. .. 
 . . . . 

a1n a2n · · · amn

Définition 1.1.3: Matrice adjointe (ou transconjuguée) dans C


Soit A = (aij ) une matrice de type (m, n) à coefficients dans C. La matrice adjointe
(ou transposée conjuguée) de A, notée A∗ , est la matrice de type (n, m) obtenue en
calculant la transposée de A, puis en remplaçant chaque coefficient par son conjugué
complexe. Le coefficient d’indice (i, j) de A∗ vérifie :

(A∗ )ij = aji


Ainsi, on a A∗ = AT :

· · · am1
 
a11 a21
 a12 a22

· · · am2 
A∗ = 

 .. .. ... .. 
 . . . 

a1n a2n · · · amn

1.1.2 Trace

Définition 1.1.4: Trace d’une matrice carrée


Soit A ∈ Mn (K) une matrice carrée de coefficients (aij ) ∈ K pour tous i, j = 1, . . . , n.
Sa trace est la somme de ses termes diagonaux :
n
X
Tr(A) = aii .
i=1

Propriété 1.1.1: de la trace


Pour toutes matrices A, B ∈ Mn (K) :

Tr(A + B) = Tr(A) + Tr(B), Tr(AB) = Tr(BA).

1.1.3 Déterminant

Mohamed Najib LAATABI 2 Module : Analyse Numérique


CHAPITRE 1. RAPPELS SUR LES MATRICES 3

Définition 1.1.5: Déterminant


Le déterminant d’une matrice carrée A ∈ Mn (K) est noté det(A) ou

a11 a12 · · · a1n


a21 a22 · · · a2n
det A = .. .. .. .. .
. . . .
am1 am2 · · · amn

Il est défini par la formule :


X
det A = ε(σ) a1σ(1) · · · anσ(n) ,
σ∈Sn

où Sn est le groupe des permutations (bijections de {1, . . . , n} dans lui-même), et


ε(σ) ∈ {−1, +1} est la signature de la permutation σ.

Propriété 1.1.2: du déterminant


1. det In = 1,
2. det AT = det A,
3. det A∗ = det A,
4. det(AB) = det A · det B,
5. Pour tout scalaire α ∈ K : det(αA) = αn det A,
6. Le déterminant d’une matrice triangulaire (et a fortiori diagonale) est égal au
produit de ses termes diagonaux :
n
Y
det A = aii .
i=1

1.2 Inverse d’une matrice

Définition 1.2.1: Matrice inversible


On dit que la matrice carrée A ∈ Mn (K) est inversible s’il existe une matrice B ∈
Mn (K) telle que
AB = BA = In .
La matrice B est appelée inverse de A et est notée A−1 .

1.2.1 Règles de calcul sur les inverses

Mohamed Najib LAATABI 3 Module : Analyse Numérique


CHAPITRE 1. RAPPELS SUR LES MATRICES 4

Propriété 1.2.1: Opérations sur les inverses


Pour toutes matrices inversibles A et B de même taille :
 −1  T  −1  ∗
(AB)−1 = B −1 A−1 , AT = A−1 , A∗ = A−1 .

1.2.2 Caractérisation d’une matrice inversible

Propriété 1.2.2: Équivalences


Soit A ∈ Mn (K). Les propositions suivantes sont équivalentes :
1. A est inversible,
2. det A ̸= 0,
3. Le système Ax = 0 admet pour seule solution x = 0,
4. Pour tout b ∈ Kn , le système Ax = b possède une unique solution.

1.2.3 Sous-matrices principales

Définition 1.2.2:
Les Sous-matrices principales Ak de A ∈ Mn (R) sont les sous-matrices obtenues en
ne conservant que les k premières lignes et les k premières colonnes :

Ak = (aij ) 1≤i,j≤k , k = 1, . . . , n.

Autrement dit, Ak est le coin supérieur gauche de taille k × k de A.

Définition 1.2.3: Matrice à diagonale strictement dominante


Une matrice carrée A = (aij ) est dite à diagonale strictement dominante si et seulement
si n X
∀ i ∈ {1, 2, . . . , n}, |aii | > |aij |.
j=1
j̸=i

1.3 Valeurs propres, vecteurs propres


1.3.1 Définitions générales

Définition 1.3.1: Éléments spectraux


Soit A ∈ Mn (C).
Polynôme caractéristique :

PA (λ) = det(A − λIn )

Mohamed Najib LAATABI 4 Module : Analyse Numérique


CHAPITRE 1. RAPPELS SUR LES MATRICES 5

Valeurs propres : Les n racines complexes λi de l’équation PA (λ) = 0.


Spectre : L’ensemble des valeurs propres :

sp(A) = {λ1 , . . . , λn }
Rayon spectral : Le plus grand module des valeurs propres :

ρ(A) = max |λi |


1≤i≤n

Définition 1.3.2: Vecteurs propres et sous-espaces propres


À toute valeur propre λ de A est associé au moins un vecteur x ∈ Cn , x ̸= 0, tel que

Ax = λx.

On dit alors que x est un vecteur propre de A associé à la valeur propre λ.


Le sous-espace propre associé à λ est le sous-espace vectoriel de Cn :

Eλ = ker(A − λIn ) = {x ∈ Cn | Ax = λx}.

Propriété 1.3.1: Trace et déterminant via les valeurs propres


n
X n
Y
Tr(A) = λi , det(A) = λi .
i=1 i=1

1.3.2 Cas des matrices réelles (A ∈ Mn (R))


Deux approches pour la recherche d’éléments spectraux :
— Sur C : Valeurs et vecteurs propres dans C et Cn .
— Sur R : Valeurs propres réelles uniquement (PA (λ) = 0 avec λ ∈ R) et vecteurs propres
dans Rn . Attention : le spectre peut être vide.

Remarque 1:
Rayon spectral : Toujours calculé sur les racines complexes, même si la matrice est
réelle :

ρ(A) = max{|λ| | λ ∈ C, PA (λ) = 0}

1.4 Normes vectorielles et matricielles


1.4.1 Norme vectorielle

Mohamed Najib LAATABI 5 Module : Analyse Numérique


CHAPITRE 1. RAPPELS SUR LES MATRICES 6

Définition 1.4.1: Norme sur Kn


Une norme sur Kn est une application ∥·∥ : Kn → R+ satisfaisant :
1. (Séparation) ∀ x ∈ Kn , ∥x∥ = 0 =⇒ x = 0,
2. (Homogénéité) ∀ x ∈ Kn , ∀ λ ∈ K, ∥λx∥ = |λ| ∥x∥,
n
3. (Inégalité triangulaire) ∀ x, y ∈ K , ∥x + y∥ ≤ ∥x∥ + ∥y∥.

1.4.2 Norme matricielle

Définition 1.4.2: Norme matricielle


Une norme matricielle est une norme sur Mn (K) qui vérifie de plus la condition de
sous-multiplicativité :

|||AB||| ≤ |||A||| |||B||| , ∀ A, B ∈ Mn (K).

1.4.3 Normes matricielles classiques

Propriété 1.4.1: Normes usuelles


Les normes matricielles classiques induites par les normes vectorielles sont :
(a) Norme 1 (max des sommes en colonne) :
n
X
|||A|||1 = max |aij |.
j=1,...,n
i=1

(b) Norme infinie (max des sommes en ligne) :


n
X
|||A|||∞ = max |aij |.
i=1,...,n
j=1

(c) Norme spectrale (norme 2) :


q q
|||A|||2 = ρ(A∗ A) = ρ(AA∗ ) = |||A∗ |||2 .

(d) Si de plus A est normale (i.e. A∗ A = AA∗ ), alors :

|||A|||2 = ρ(A).

Remarque 2:
Pour une matrice carrée A ∈ Mn (C), la conjuguée transposée (adjointe) est notée
T
A∗ = A . Pour les matrices réelles, A∗ = AT .

Mohamed Najib LAATABI 6 Module : Analyse Numérique


CHAPITRE 1. RAPPELS SUR LES MATRICES 7

1.5 Matrices définies positives

Définition 1.5.1:
A ∈ Mn (R) est définie positive si :

∀ x ∈ Rn \ {0}, xT Ax > 0.

Proposition 1.5.1: Cas général


A + AT
Soit A ∈ Mn (R) et As = . Les assertions suivantes sont équivalentes :
2
1. A est définie positive.
2. λi (As ) > 0 ∀ i = 1, . . . , n.
 
3. det (As )k > 0 ∀ k = 1, . . . , n.

Proposition 1.5.2: Cas symétrique : AT = A


Les assertions suivantes sont équivalentes :
1. A est définie positive.
2. λi (A) > 0 ∀ i = 1, . . . , n.
3. det(Ak ) > 0 ∀ k = 1, . . . , n.
4. ∃ B ∈ Mn (R) inversible : A = B T B.

Mohamed Najib LAATABI 7 Module : Analyse Numérique


Chapitre

2 Résolution des systèmes linéaires

2.1 Objectifs et cadre général


On note Mn l’ensemble des matrices carrées d’ordre n à coefficients réels. Soit A ∈ Mn
une matrice inversible et b ∈ Rn . L’objectif est de résoudre le système linéaire :

Trouver x ∈ Rn tel que Ax = b. (2.1)

Puisque A est inversible, le système (2.1) admet une unique solution x = A−1 b ∈ Rn .
Ce problème est fondamental en sciences de l’ingénieur ; la taille des systèmes rencon-
trés peut atteindre plusieurs millions d’inconnues. Nous étudierons deux grandes familles de
méthodes :
— les méthodes directes : solution exacte en un nombre fini d’opérations élémentaires
(hors erreurs d’arrondi) ;
— les méthodes itératives : construction d’une suite convergeant vers la solution.

2.1.1 Rappels sur les systèmes linéaires


Un système d’équations linéaires est un ensemble de m équations portant sur n inconnues
x1 , x2 , . . . , xn appartenant à un corps K (R ou C). Il s’écrit sous la forme :



a1,1 x1 + a1,2 x2 + · · · + a1,n xn = b1

a2,1 x1 + a2,2 x2 + · · · + a2,n xn


 = b2
.. .. (2.2)



 . .

a
m,1 x1 + am,2 x2 + · · · + am,n xn = bm

Pour plus de concision, on utilise la notation matricielle :

Ax = b (2.3)

où :
— A = (ai,j ) ∈ Mm,n (K) est la matrice des coefficients ;
— x = (xj )1≤j≤n ∈ Kn est le vecteur des inconnues ;
— b = (bi )1≤i≤m ∈ Km est le vecteur du second membre.

8
CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 9

· · · a1,n
     
a1,1 a1,2 x1 b1
 a2,1

a2,2 · · · a2,n 
  x2 
 
 b2 
 
A=
 .. .. .. ..  x=
 .. 
 b=
 .. 

 . . . . 

 .   . 
am,1 am,2 · · · am,n xn bm

On distingue trois cas selon le rapport entre le nombre d’équations m et le nombre d’inconnues
n:
— Cas m < n (Système sous-déterminé) : Il y a moins d’équations que d’inconnues.
L’ensemble des solutions est généralement un sous-espace affine de dimension non nulle
(infinité de solutions).
— Cas m > n (Système sur-déterminé) : Il y a plus d’équations que d’inconnues.
En général, le système n’admet aucune solution exacte (on cherche alors souvent une
solution au sens des moindres carrés).
— Cas m = n (Système carré) : C’est le cas fondamental. Le système admet une unique
solution pour tout b ∈ Kn si et seulement si la matrice A est inversible (det(A) ̸= 0).

Exemple 1:
Considérons le système linéaire suivant :

2x1

 + x2 − x3 = 8

−3x1 − x2 + 2x3 = −11


−2x1 + x2 + 2x3 = −3

Ce système se traduit par l’équation matricielle Ax = b suivante :


    
2 1 −1 x1 8
−3 −1 2  x2  = −11
    

−2 1 2 x3 −3
| {z } | {z } | {z }
A x b

2.2 Méthodes directes


2.2.1 Définition

Définition 2.2.1: Méthode directe


On appelle méthode directe de résolution de (2.1) une méthode qui donne la solution
exacte x après un nombre fini d’opérations élémentaires : addition, soustraction,
multiplication, division (et extraction de racine carrée pour la méthode de Cholesky).

2.2.2 Méthodes directes


Méthode de résolution pour les systèmes triangulaires inférieurs

Mohamed Najib LAATABI 9 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 10

Définition 2.2.2:
Une matrice carrée (ai,j )1≤i,j≤n est dite triangulaire inférieure (ou trigonale inférieure)
si tous les éléments situés au-dessus de la diagonale principale sont nuls, c’est-à-dire si :

∀(i, j) ∈ {1, . . . , n}2 , i < j =⇒ ai,j = 0

Une matrice triangulaire inférieure a la forme suivante :

a1,1 0 ··· ··· 0


 
a
 2,1 a2,2 0 ··· 0 

 . ... ... ... ..
 ..

A= . 

 .. .. ..
 
 . . . 0 0


an,1 an,2 ··· · · · an,n

Remarque 1:
n
Q
Si une matrice A est triangulaire inférieure alors det(A) = ai,i .
i=1
On en déduit que A est inversible si et seulement si ai,i ̸= 0 pour tout i = 1, . . . , n.

Algorithme de résolution pour les systèmes triangulaires inférieurs


Considérons un système inversible 3 × 3 triangulaire inférieur :
    
l1,1 0 0 x1 b1
l2,1 l2,2 0  x2  = b2 
    

l3,1 l3,2 l3,3 x3 b3

La matrice étant inversible, ses termes diagonaux li,i (i = 1, 2, 3) sont non nuls. On peut
donc déterminer successivement les valeurs inconnues xi pour i = 1, 2, 3 :

b1


 x1 = l1,1



b2 −l2,1 x1
x2 = l2,2



b3 −l3,1 x1 −l3,2 x2

x3 =


l3,3

Cet algorithme peut être étendu aux systèmes n × n. Dans le cas d’un système Lx = b,
où L est une matrice triangulaire inférieure d’ordre n (n ≥ 2), la méthode s’écrit :

b1
x =
 1


 l1,1
!
i−1
1
bi −
P
 xi = li,j xj , i = 2, . . . , n


li,i

j=1

Mohamed Najib LAATABI 10 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 11

Algorithme 1 Descente d’un système triangulaire inférieur


Entrée : Matrice triangulaire inférieure L ∈ Mn (K) inversible (li,i ̸= 0), vecteur
b ∈ Kn
Sortie : Vecteur solution x ∈ Kn tel que Lx = b
b1
1 x1 ←
l1,1
2 for i = 2 à n do
3 s ← 0 // initialisation de la somme partielle
4 for j = 1 à i − 1 do
5 s ← s + li,j xj
6 end
1
7 xi ← (bi − s) // calcul de la composante xi
li,i
8 end
9 Retourner x = (x1 , . . . , xn )T

Exemple 2:
Considérons le système triangulaire inférieur suivant :
    
3 0 0 x1 9
1 2 0 x2  =  7 
    

3 2 1 x3 14

En utilisant l’algorithme de descente, on obtient :



b1 9


 x1 = l1,1
= 3
=3



b2 −l2,1 x1 7−1×3
x2 = l2,2
= 2
=2



b3 −l3,1 x1 −l3,2 x2

14−3×3−2×2
x3 = = =1


l3,3 1

Méthode de résolution pour les systèmes triangulaires supérieurs

Définition 2.2.3:
Une matrice carrée (ai,j )1≤i,j≤n est dite triangulaire supérieure (ou trigonale supérieure)
si tous les éléments situés en-dessous de la diagonale principale sont nuls, c’est-à-dire
si :
∀(i, j) ∈ {1, . . . , n}2 , i > j =⇒ ai,j = 0

Mohamed Najib LAATABI 11 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 12

Une matrice triangulaire supérieure a la forme suivante :

a1,1 a1,2 · · · ··· a1,n


 
 0
 a2,2 a2,3 ··· a2,n 

 . ... ... ... ..
 .

A= . . 

 .. ... ...
 
 . an−1,n 

0 ··· ··· 0 an,n

Remarque 2:
n
Q
Si une matrice A est triangulaire supérieure alors det(A) = ai,i .
i=1
On en déduit que A est inversible si et seulement si ai,i ̸= 0 pour tout i = 1, . . . , n.

Algorithme de résolution pour les systèmes triangulaires supérieurs


Considérons un système inversible 3 × 3 triangulaire supérieur :
    
u1,1 u1,2 u1,3 x1 b1
 0 u2,2 u2,3  x2  = b2 
    

0 0 u3,3 x3 b3

La matrice étant inversible, ses termes diagonaux ui,i (i = 1, 2, 3) sont non nuls. On peut
donc déterminer successivement les valeurs inconnues en commençant par la dernière xi pour
i = 3, 2, 1 (c’est la phase de remontée) :

b3


x3 = u3,3



b2 −u2,3 x3
x2 = u2,2



b1 −u1,2 x2 −u1,3 x3

x1 =


u1,1

Cet algorithme peut être étendu aux systèmes n × n. Dans le cas d’un système U x = b,
où U est une matrice triangulaire supérieure d’ordre n (n ≥ 2), la méthode s’écrit :

bn
x =
 n


 un,n
!
n
1
bi − i = n − 1, . . . , 1
P
 xi = ui,j xj ,


ui,i

j=i+1

Mohamed Najib LAATABI 12 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 13

Algorithme 2 Remontée d’un système triangulaire supérieur


Entrée : Matrice triangulaire supérieure U ∈ Mn (K) inversible (ui,i ̸= 0),
vecteur b ∈ Kn
Sortie : Vecteur solution x ∈ Kn tel que U x = b
bn
1 xn ←
un,n
2 for i = n − 1 à 1 en décroissant do
3 s ← 0 // initialisation de la somme partielle
4 for j = i + 1 à n do
5 s ← s + ui,j xj
6 end
1
7 xi ← (bi − s) // calcul de la composante xi
ui,i
8 end
9 Retourner x = (x1 , . . . , xn )T

Exemple 3:
Considérons le système triangulaire supérieur suivant :
    
3 2 1 x1 10
0 2 1 x2  =  7 
    

0 0 2 x3 6

En utilisant l’algorithme de remontée, on obtient :



b3 6


 x3 = u3,3
= 2
=3



b2 −u2,3 x3 7−1×3
x2 = u2,2
= 2
=2



b1 −u1,2 x2 −u1,3 x3

10−2×2−1×3
x1 = = =1


u1,1 3

Le principe général consiste à écrire une décomposition A = BC, où B et C ont des pro-
priétés favorables (triangularité, orthogonalité. . .). Résoudre Ax = b revient alors à résoudre
successivement deux systèmes plus simples :

By = b puis Cx = y.

La méthode directe la plus utilisée est la méthode d’élimination de Gauss, dont la forme
matricielle conduit à la décomposition LU.

2.2.3 Méthode de Gauss


Soit A ∈ Mn (R) inversible et b ∈ Rn . Le principe de la méthode de Gauss est de se
ramener, par des combinaisons linéaires de lignes, à un système triangulaire supérieur
équivalent U x = b′ , puis de résoudre ce système par substitution arrière.

Mohamed Najib LAATABI 13 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 14

Algorithme 3 Élimination de Gauss — vue générale


Entrée : Matrice A ∈ Mn (R) inversible, vecteur b ∈ Rn
Sortie : Matrice triangulaire supérieure U , vecteur transformé b(n)
1 Poser A(1) ← A, b(1) ← b
2 for k = 1 à n − 1 do
(k)
// Pivot courant : akk
3 for i = k + 1 à n do
4 Calculer le multiplicateur
(k)
aik
5 ℓik ← (k)
akk
6 Li ← Li − ℓik Lk // annulation de aik
7 end
8 end
9 U ← A(n)

Exemple 4:
Considérons le système Ax = b avec
   
1 1 0 b1
A = 1 2 1 , b =  b2  .
   

0 1 3 b3

Étape 1 : Élimination de la colonne 1


(1)
Le pivot est a11 = 1. Le multiplicateur vaut
(1)
a21 1
ℓ21 = (1)
= = 1.
a11 1

On effectue L2 ← L2 − ℓ21 L1 :

1 1 0
 ℓ21 = 1 
1 1 0

1 2 1 L2 ← L2 − L1 0 1 1
   

0 1 3 (L3 inchangée) 0 1 3
| {z } | {z }
A(1) A(2)

Matriciellement, cette opération revient à multiplier A(1) à gauche par


 
1 0 0
(1) (1)
E2 = −1 1 0

, A(2) = E2 A(1) .
0 0 1

Étape 2 : Élimination de la colonne 2

Mohamed Najib LAATABI 14 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 15

(2)
Le pivot est a22 = 1. Le multiplicateur vaut
(2)
a32 1
ℓ32 = (2)
= = 1.
a22 1

On effectue L3 ← L3 − ℓ32 L2 :

1 1 0
 ℓ32 = 1 
1 1 0

0 1 1 L3 ← L3 − L2 0 1 1
   

0 1 3 (L1 , L2 inchangées) 0 0 2
| {z } | {z }
A(2) A(3) = U

Matriciellement :
 
1 0 0
(2) (2) (2) (1)
E3 = 0 1 0  , U = A(3) = E3 A(2) = E3 E2 A.
 

0 −1 1

Bilan de la factorisation. On obtient la matrice triangulaire supérieure


 
1 1 0
U = 0 1 1 .
 

0 0 2

Les multiplicateurs utilisés sont ℓ21 = 1 et ℓ32 = 1, et la matrice triangulaire inférieure


associée est  
1 0 0
L= 1 1 0 , de sorte que A = LU.

0 1 1

Remontée (substitution arrière). Le système U x = b′ se résout par substitution


arrière :
b′3






2 x 3 = b 3 =⇒ x 3 = 2
,

x2 + x3 = b′2 =⇒ x2 = b′2 − x3 ,

+ x2 = b′1 =⇒ x1 = b′1 − x2 .

x

1

2.2.4 Méthode de LU
En appliquant la méthode d’élimination de Gauss sans stratégie de pivot, on construit
successivement des matrices élémentaires E1 , E2 , . . . , En−1 telles que

A(n) = En−1 · · · E2 E1 A(1) = M A,

où A(n) est triangulaire supérieure. En posant

U = A(n) , L = M−1 = E1−1 E2−1 · · · En−1


−1
,

on obtient A = L U, où L est triangulaire inférieure avec des 1 sur la diagonale.

Mohamed Najib LAATABI 15 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 16

Théorème 2.2.1: Existence et unicité de la décomposition LU


Soit A ∈ Mn (R). Si toutes les sous-matrices principales Ak (k = 1, . . . , n) sont
inversibles, alors il existe une unique décomposition

A = LU,

où L est triangulaire inférieure avec des 1 sur la diagonale, et U est triangulaire supé-
rieure inversible.

Mineur principal d’ordre i. Le mineur principal d’ordre i de A est le déterminant


de la sous-matrice formée par les i premières lignes et les i premières colonnes :

a1,1 a1,2 · · · a1,i


a2,1 a2,2 · · · a2,i
det(Ai ) = .. .. .. . .
. . . ..
ai,1 ai,2 · · · ai,i

La condition du théorème est équivalente à demander det(Ai ) ̸= 0 pour tout i ∈ {1, . . . , n}.

Proposition 2.2.1: Conditions suffisantes d’existence


La factorisation LU de A par la méthode de Gauss existe si l’une des conditions suivantes
est vérifiée :
1. La matrice A est définie positive (i.e. A est symétrique et x⊤ Ax > 0 pour tout
x ̸= 0).
X
2. La matrice A est à diagonale strictement dominante (i.e. |aii | > |aij | pour
j̸=i
tout i).

Exemple 5: Exemple détaillé — matrice 3 × 3


Soit la matrice  
2 4 −2
A =  1 5 3 .
 

−3 6 2
On vérifie les mineurs principaux :

2 4
det(A1 ) = 2 ̸= 0, det(A2 ) = = 10 − 4 = 6 ̸= 0, det(A3 ) = det(A) ̸= 0.
1 5

La décomposition LU existe donc et est unique.

Étape 1 — élimination dans la colonne 1. On cherche à annuler les entrées a21


et a31 . Les multiplicateurs sont
a21 1 a31 −3
m21 = = , m31 = = .
a11 2 a11 2

Mohamed Najib LAATABI 16 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 17

La matrice élémentaire correspondante est


 
1 0 0
 1
E1 = − 2 1 0 ,

3
2
0 1

et on calcule A(2) = E1 A :
   
L2 ← L2 − 12 L1 : 1 − 12 ·2, 5 − 12 ·4, 3 − 21 ·(−2) = 0, 3, 4 ,
     
L3 ← L3 − − 32 L1 : −3 + 32 ·2, 6 + 32 ·4, 2 + 23 ·(−2) = 0, 12, −1 .
On obtient :  
2 4 −2
A(2) = 0 3 4  .
 

0 12 −1

Étape 2 — élimination dans la colonne 2. Le seul multiplicateur est


(2)
a32 12
m32 = (2)
= = 4.
a22 3

La matrice élémentaire est  


1 0 0
E2 = 0 1 0

,
0 −4 1
et on calcule A(3) = E2 A(2) :
   
L3 ← L3 − 4 L2 : 0, 12 − 4·3, −1 − 4·4 = 0, 0, −17 .

On obtient la matrice triangulaire supérieure


 
2 4 −2
U = A(3) = 0 3 4  .
 

0 0 −17

Assemblage de L. Les inverses des matrices élémentaires s’obtiennent en changeant


le signe des multiplicateurs hors-diagonaux :
   
1 0 0 1 0 0
E1−1 =  E2−1
 1
2
1 0, = 0 1 0 .
 

− 32 0 1 0 4 1

Une propriété remarquable de l’élimination de Gauss est que L = E1−1 E2−1 s’obtient
simplement en plaçant les multiplicateurs dans le triangle inférieur :
 
1 0 0
L =  21 1 0.

− 32 4 1

Mohamed Najib LAATABI 17 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 18

Vérification.
    
1 0 0 2 4 −2 2 4 −2
 1
LU =  2
1 0 0 3 4  =  1 5 3 
  
 = A.
− 32 4 1 0 0 −17 −3 6 2

Propriété 2.2.1: Lecture directe des multiplicateurs


Lors de l’élimination de Gauss sans pivot, à chaque étape k, on met à jour les entrées
restantes par :
(k)
(k+1) (k) aik (k)
aij = aij − (k) · akj , i, j > k.
akk
| {z }
ℓik

Le coefficient ℓik ainsi obtenu est directement l’entrée (i, k) de L, et les entrées de U
sont les lignes successives issues de cette élimination. On résume :
(j)
aij (i)
ℓij = (j)
(i > j), ℓii = 1, uij = aij (i ≤ j).
ajj

Ainsi, L et U se construisent simultanément au fil de l’élimination, sans calculer


explicitement les matrices Ek .

2.2.5 Appplications de la Factorisation LU


Si l’on doit résoudre plusieurs systèmes Ax = b1 , b2 , . . . où seul le second membre
change, ou si l’on veut calculer l’inverse d’une matrice, il est avantageux d’effectuer la réduc-
tion triangulaire une seule fois.
En effet, si A = LU, résoudre Ax = b revient à résoudre deux systèmes triangulaires
successifs : 
L z = b (descente),
Ax = b ⇐⇒ 
U x = z (remontée).
La cohérence est immédiate :

Ax = LUx = L(Ux) = Lz = b.

Exemple 6:
 
2
Résolvons Ax = b avec b =  4 .
 

−6
Descente — résolution de Ly = b :

     = 2, y1
1 0 0 y1 2




 1
1 0 y2  =  4  =⇒ y = 4 − 12 ·2 = 3,
   
 2
 2
− 32 4 1 y3 −6 

y = −6 + 3 ·2 − 4·3 = −6 + 3 − 12 = −15.

3 2

Mohamed Najib LAATABI 18 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 19

Remontée — résolution de Ux = y :
−15 15

= , x3 =



−17 17
     
2 4 −2 x1 2


1 1 51 − 60 3


0 3

4  x2  =  3  =⇒ x2 = 3 − 4· 15
   
17
= · =− ,
0 0 −17 x3 −15

 3 3 17 17
1 1 34 + 12 + 30 76 38

    
3
+ 2· 15

 x1 = 2 − 4· − 17 = · = = .


17
2 2 17 34 17
La solution est donc  
38
1  
x= −3 .
17
15

Algorithme 4 Factorisation LU — méthode de Doolittle


Entrée : Matrice A ∈ Mn (R) avec mineurs principaux non nuls
Sortie : Matrices L (triangulaire inférieure, ℓii = 1) et U (triangulaire
supérieure)
// Initialisation — première ligne et première colonne
1 u1,1 ← a1,1
2 for j = 2 à n do
3 u1,j ← a1,j
aj,1
4 ℓj,1 ←
u1,1
5 end
// Boucle principale
6 for i = 2 à n − 1 do
// Pivot diagonal de U
i−1
X
7 ui,i ← ai,i − ℓi,k uk,i
k=1

8 for j = i + 1 à n do
// Ligne i de U
i−1
X
9 ui,j ← ai,j − ℓi,k uk,j
k=1

// Colonne i de L
i−1
!
1 X
10 ℓj,i ← aj,i − ℓj,k uk,i
ui,i k=1
11 end
12 end
// Dernier pivot
n−1
X
13 un,n ← an,n − ℓn,k uk,n
k=1

Mohamed Najib LAATABI 19 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 20

Remarque 3:
Coût comparé pour m seconds membres :
2n3
— Factorisation LU (une seule fois) : opérations.
3
— Chaque résolution triangulaire (Lz = b puis Ux = z) : 2n2 opérations.
Le coût total avec LU est donc :
2n3 2 2m n3
+ 2m
| {zn} ≪ .
3} 3 }
| {z m résolutions | {z
factorisation m Gauss indépendants

Exemple (n = 100, m = 50) : 1 666 667 opérations avec LU , contre 33 333 333 sans,
soit un gain d’un facteur 20.

2.2.6 Méthode de Cholesky


La méthode de Cholesky est une variante optimisée de la factorisation LU qui s’applique
exclusivement aux matrices symétriques définies positives. Elle exploite la symétrie pour
réduire de moitié le nombre d’opérations par rapport à la décomposition LU classique.

Théorème 2.2.2: Décomposition de Cholesky


Si A ∈ Mn (R) est une matrice symétrique définie positive, alors il existe au moins une
matrice triangulaire inférieure L telle que

A = L L⊤ .

Si de plus les éléments diagonaux ℓi,i de L sont imposés strictement positifs, alors la
décomposition est unique.

Proposition 2.2.2: Conditions équivalentes


Soit A ∈ Mn (R) symétrique. Les assertions suivantes sont équivalentes :
1. A est définie positive : x⊤ A x > 0 pour tout x ∈ Rn , x ̸= 0.
2. Toutes les valeurs propres de A sont strictement positives : λi > 0.
3. Tous les mineurs principaux sont strictement positifs : det(Ak ) > 0 pour k =
1, . . . , n.
4. La décomposition A = LL⊤ (Cholesky) existe avec ℓii > 0.

Exemple 7: Exemple détaillé — matrice 3 × 3


Soit la matrice symétrique  
4 2 −2
 2 5 3 .
A= 

−2 3 14

Mohamed Najib LAATABI 20 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 21

On vérifie les mineurs principaux :

4 2
det(A1 ) = 4 > 0, det(A2 ) = = 20−4 = 16 > 0, det(A3 ) = det(A) = 144 > 0.
2 5

A est donc symétrique définie positive : la décomposition de Cholesky A = L L⊤ existe


et est unique (avec ℓii > 0).
On construit L colonne par colonne à l’aide des formules
v  
u j−1 j−1
u X 1  X
ℓjj = ta
jj − ℓ2jk , ℓij = aij − ℓik ℓjk  , i > j.
k=1 ℓjj k=1

Étape 1 — traitement de la colonne 1. L’élément diagonal est


√ √
ℓ11 = a11 = 4 = 2.

Les entrées sous-diagonales de la première colonne sont ensuite


a21 2 a31 −2
ℓ21 = = = 1, ℓ31 = = = −1.
ℓ11 2 ℓ11 2
La matrice partielle après la colonne 1 est :
 
2 0 0
L(1) =  1 ? 0 .
 

−1 ? ?

Étape 2 — traitement de la colonne 2. On soustrait la contribution de la colonne


1 déjà fixée : q √ √
ℓ22 = a22 − ℓ221 = 5 − 12 = 4 = 2.
L’unique entrée sous-diagonale restante dans cette colonne est

a32 − ℓ31 ℓ21 3 − (−1)(1) 4


ℓ32 = = = = 2.
ℓ22 2 2
La matrice partielle après la colonne 2 est :
 
2 0 0
L(2) =  1 2 0 .
 

−1 2 ?

Étape 3 — traitement de la colonne 3. On soustrait les contributions des deux


colonnes précédentes :
q q √ √
ℓ33 = a33 − ℓ231 − ℓ232 = 14 − (−1)2 − 22 = 14 − 1 − 4 = 9 = 3.

Mohamed Najib LAATABI 21 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 22

Résultat. La décomposition de Cholesky est A = L L⊤ avec


 
2 0 0
L =  1 2 0 .
 

−1 2 3

Vérification.
    
2 0 0 2 1 −1 4 2 −2

L L =  1 2 0 0 2 2  =  2 5 3 
   
 = A.
−1 2 3 0 0 3 −2 3 14

Propriété 2.2.2: Formules de construction de la décomposition


de Cholesky
Soit A ∈ Mn (R) symétrique définie positive. On construit L colonne par colonne, de
j = 1 à n, par les formules :
v  
u j−1 j−1
u X 1  X
ℓjj = ta
jj − ℓ2jk , ℓij = aij − ℓik ℓjk  , i > j,
k=1 ℓjj k=1

avec la convention ℓij = 0 pour i < j et ℓjj > 0.

2.2.7 Application de la Factorisation de Cholesky


Si A = LL⊤ , résoudre Ax = b revient à résoudre deux systèmes triangulaires suc-
cessifs : 
L y = b (descente),
Ax = b ⇐⇒ 
L⊤ x = y (remontée).
La cohérence est immédiate :

Ax = LL⊤ x = L(L⊤ x) = Ly = b.

Exemple 8:
 
2
Résolvons Ax = b avec b =  5 , en utilisant la décomposition A = LL⊤ établie
 

12
précédemment.
Descente — résolution de Ly = b :
2

= 1, y1 =



2
     
2 0 0 y1 2


1 4


 1 2 0 y2  =  5  =⇒ y2 = (5 − 1·1) = = 2,
    

−1 2 3 y3 12

 2 2
1 12 + 1 − 4 9



y3 = (12 − (−1)·1 − 2·2) = = = 3.


3 3 3

Mohamed Najib LAATABI 22 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 23

Remontée — résolution de L⊤ x = y :
3

= 1, x3 =



3
     
2 1 −1 x1 1


1


0 2 2  x2  = 2 =⇒ x2 = (2 − 2·1) = 0,
    

0 0 3 x3 3

 2
1 2



x1 = (1 − 1·0 + 1·1) = = 1.


2 2
La solution est donc  
1
x = 0 .
 

Algorithme 5 Factorisation de Cholesky


Entrée : Matrice A ∈ Mn (R) symétrique définie positive
Sortie : Matrice L triangulaire inférieure telle que A = LL⊤
// Initialisation — première colonne

1 ℓ1,1 ← a1,1
2 for i = 2 à n do
ai,1
3 ℓi,1 ←
ℓ1,1
4 end
// Boucle principale
5 for j = 2 à n − 1 do
// Pivot diagonal
v
u j−1
ℓ2j,k
u X
6 ℓj,j ← ta
j,j −
k=1

7 for i = j + 1 à n do
// Entrées 
sous-diagonales

de la colonne j
j−1
1  X
8 ℓi,j ← ai,j − ℓi,k ℓj,k 
ℓj,j k=1
9 end
10 end
// Dernier pivot diagonal
v
u n−1
ℓ2n,k
u X
11 ℓn,n ← ta
n,n −
k=1

2.3 Méthode itératives

Mohamed Najib LAATABI 23 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 24

Pour des systèmes linéaires de grande taille, les méthodes directes (telles que l’élimination
de Gauss, la factorisation de Cholesky ou LU) s’avèrent souvent trop coûteuses en termes de
nombre d’opérations, de temps de calcul et d’espace mémoire.
L’idée fondamentale des méthodes itératives est de ne plus chercher à résoudre exac-
tement le système en un nombre fini d’étapes. On cherche plutôt à approcher sa solution par
itérations successives, où chaque itération consiste à résoudre un système linéaire beaucoup
moins coûteux à l’aide d’une formule de récurrence simple.

2.3.1 Principe Général


Soit le système linéaire
Ax = b, (2.4)
où A ∈ Mn (C) est inversible et x, b ∈ Cn .

Définition 2.3.1: Décomposition de la matrice


Le principe des méthodes itératives est d’écrire A comme la différence de deux matrices :

A = M − N,

où M est une matrice inversible choisie de sorte que le système linéaire M y = c soit
facile à résoudre (faible coût de calcul). Typiquement, M sera diagonale, triangulaire,
ou diagonale/triangulaire par blocs.
 
On approche la solution de (2.4) par la suite x(k) définie par la formule de récur-
k≥0
rence :  
x(k+1) = M −1 b + N x(k) , (2.5)

à partir d’un vecteur initial x(0) quelconque.

Remarque 4: Mise en œuvre pratique


On ne calcule jamais explicitement M −1 . On résout à chaque itération le système
triangulaire (ou diagonal) M x(k+1) = b + N x(k) , ce qui est peu coûteux.

Proposition 2.3.1: Cohérence de la méthode


 
Si la suite x(k) converge vers une limite ℓ, alors ℓ est solution du système (2.4).

Démonstration. En passant à la limite dans (2.5), on obtient M ℓ = b + N ℓ, soit A ℓ =


(M − N )ℓ = b. L’unicité de la solution assure ℓ = x. ■

2.3.2 Matrice d’Itération et Erreur

Définition 2.3.2: Matrice d’itération


La matrice L = M −1 N est appelée matrice d’itération de la méthode. On définit
également l’erreur à l’étape k par e(k) = x − x(k) .

Mohamed Najib LAATABI 24 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 25

En soustrayant (2.5) de x = M −1 (b+N x), on obtient la relation de récurrence sur l’erreur :

e(k+1) = x − x(k+1) ,
= M −1 (b + N x) − M −1 (b + N x(k) ),
= M −1 N (x − x(k) ),
= L e(k) ,
..
.
= Lk+1 e(0) .

Théorème 2.3.1: Rayon spectral


 
La suite x(k) converge vers x pour tout choix de x(0) si et seulement si

ρ(L) = ρ(M −1 N ) < 1,


n o
où ρ(L) = max |λ| : λ valeur propre de L est le rayon spectral de L.

Démonstration. La suite converge pour tout e(0) si et seulement si Ln → 0. Or, d’après le


résultat classique d’algèbre linéaire numérique, Ln → 0 si et seulement si ρ(L) < 1. ■

Théorème 2.3.2: Estimation de la vitesse de convergence


Pour toute norme matricielle subordonnée ∥·∥, on a l’estimation

e(k) ≤ ∥L∥k e(0) .

Plus le rayon spectral ρ(L) est petit, plus la convergence est rapide.

Remarque 5: Critère pratique d’arrêt


On arrête les itérations lorsque le résidu relatif vérifie :

∥b − Ax(k+1) ∥ ∥x(k+1) − x(k) ∥


< ε, ou < ε.
∥b∥ ∥x(k) ∥

En pratique, on prend ε ∈ [10−6 , 10−10 ] selon la précision souhaitée.

2.4 La Méthode de Jacobi


2.4.1 Construction de la méthode
Soit A = (aij ) ∈ Mn (R) inversible, avec aii ̸= 0 pour tout i. On décompose A en :

A = D − E − F,

où D = diag(a11 , a22 , . . . , ann ) est la partie diagonale, −E est la partie triangulaire inférieure
stricte, et −F est la partie triangulaire supérieure stricte.

Mohamed Najib LAATABI 25 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 26

Définition 2.4.1: Méthode de Jacobi


La méthode de Jacobi correspond au choix

M = D, N = E + F = D − A,

ce qui donne la formule d’itération :

x(k+1) = D−1 (E + F ) x(k) + D−1 b.

La matrice d’itération de Jacobi est LJ = D−1 (E + F ) = I − D−1 A.

2.4.2 Formule composante par composante


Pour la i-ème composante, la mise à jour s’écrit explicitement :
 
n
(k+1) 1 bi −
X (k) 
xi = aij xj  , i = 1, . . . , n. (2.6)
aii 
j=1
j̸=i

Remarque 6: Parallélisme
(k+1)
À chaque itération, toutes les composantes xi ne dépendent que de x(k) . Les
calculs sont donc indépendants et peuvent être effectués en parallèle, ce qui est un
avantage sur les architectures multi-cœurs.

2.4.3 Convergence de Jacobi

Définition 2.4.2: Matrice à diagonale strictement dominante


Une matrice A = (aij ) est dite à diagonale strictement dominante (en lignes) si
n
X
|aii | > |aij |, ∀ i = 1, . . . , n.
j=1
j̸=i

Théorème 2.4.1: Convergence de Jacobi


Si A est à diagonale strictement dominante, alors la méthode de Jacobi converge pour
tout x(0) .
P |aij |
Démonstration. Il suffit de montrer que ρ(LJ ) < 1. On a ∥LJ ∥∞ = maxi |aii |
< 1 par
j̸=i
hypothèse. Or ρ(LJ ) ≤ ∥LJ ∥∞ < 1. ■

Mohamed Najib LAATABI 26 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 27

Corollaire 2.4.1: Cas des matrices tridiagonales


Si A est tridiagonale à diagonale strictement dominante, Jacobi converge et son rayon
spectral vérifie ρ(LJ ) < 1.

2.4.4 Exemple numérique

Exemple 9: Application de Jacobi sur un système 3 × 3


Considérons le système Ax = b avec :
   
4 −1 1 4
A= 2

5 −1, b = 6 .
 

−1 2 6 7

Vérification de la dominance diagonale :


— Ligne 1 : |4| = 4 > | − 1| + |1| = 2 ✓
— Ligne 2 : |5| = 5 > |2| + | − 1| = 3 ✓
— Ligne 3 : |6| = 6 > | − 1| + |2| = 3 ✓
La matrice est à diagonale strictement dominante, donc Jacobi converge.
Formules de récurrence de Jacobi :
 
(k+1) 1 (k) (k)
x1 = 4
4 + x2 − x3 ,
 
(k+1) 1 (k) (k)
x2 = 5
6 − 2x1 + x3 ,
 
(k+1) 1 (k) (k)
x3 = 6
7 + x1 − 2x2 .

Itérations à partir de x(0) = (0, 0, 0)⊤ :

(k) (k) (k)


k x1 x2 x3 e(k)

0 0.000000 0.000000 0.000000 1.000000


1 1.000000 1.200000 1.166667 0.343434
2 1.008333 0.946667 0.766667 0.233333
3 1.044999 0.990667 1.019167 0.054167
5 1.001412 0.998845 0.999623 0.002155
101.000002 0.999998 1.000001 0.000003
.. .. .. ..
. . . .
∞ 1.000000 1.000000 1.000000 0.000000

La solution exacte est x∗ = (1, 1, 1)⊤ .

2.5 La Méthode de Gauss-Seidel

Mohamed Najib LAATABI 27 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 28

2.5.1 Construction de la méthode

Définition 2.5.1: Méthode de Gauss-Seidel


La méthode de Gauss-Seidel correspond au choix

M = D − E, N = F,

ce qui donne la formule d’itération :

x(k+1) = (D − E)−1 F x(k) + (D − E)−1 b.

La matrice d’itération de Gauss-Seidel est LGS = (D − E)−1 F .

2.5.2 Formule composante par composante


(n+1)
L’idée clé est d’utiliser immédiatement les nouvelles valeurs xj dès qu’elles sont
calculées :
 
i−1 n
(k+1) 1  X (k+1) X (k)
xi = bi − aij xj − aij xj  , i = 1, . . . , n. (2.7)
aii j=1 j=i+1

Remarque 7: Différence avec Jacobi


Contrairement à Jacobi qui utilise uniquement x(k) , Gauss-Seidel utilise les composantes
déjà mises à jour dans la même itération. Cela accélère souvent la convergence, mais
rend les calculs séquentiels (non parallélisables directement).

2.5.3 Convergence de Gauss-Seidel


Théorème 2.5.1: Convergence de G-S — Matrices SDP
Si A est symétrique définie positive (SDP), alors la méthode de Gauss-Seidel
converge pour tout x(0) .

Théorème 2.5.2: Convergence de G-S — Diagonale strictement dominante


Si A est à diagonale strictement dominante, alors la méthode de Gauss-Seidel converge
pour tout x(0) .

Remarque 8: Comparaison des rayons spectraux


Pour les matrices tridiagonales à diagonale strictement dominante, on dispose
du résultat remarquable : h i2
ρ(LGS ) = ρ(LJ ) .

Mohamed Najib LAATABI 28 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 29

Gauss-Seidel converge donc deux fois plus vite que Jacobi (en termes d’itérations
logarithmiques) dans ce cas.

2.5.4 Exemple numérique

Exemple 10: Reprise du système 3 × 3 avec Gauss-Seidel


On reprend le même système. Les formules de Gauss-Seidel sont :
 
(k+1) 1 (k) (k)
x1 = 4
4 + x2 − x3 ,
 
(k+1) 1 (k+1) (k) (k+1)
x2 = 5
6 − 2 x1 + x3 ← utilise x1 ,
 
(k+1) 1 (k+1) (k+1) (k+1) (k+1)
x3 = 6
7 + x1 − 2 x2 ← utilise x1 , x2 .

Itérations à partir de x(0) = (0, 0, 0)⊤ :

(k) (k) (k)


k x1 x2 x3 e(k)

0 0.000000 0.000000 0.000000 1.000000


1 1.000000 0.800000 0.866667 0.200000
2 0.983333 1.006667 0.995000 0.016667
3 1.002917 0.999167 0.999097 0.002917
5 1.000003 0.999999 1.000000 0.000003

Gauss-Seidel atteint la même précision en 5 itérations contre 10 pour Jacobi, confir-


mant la relation ρ(LGS ) ≈ ρ(LJ )2 .

2.6 Comparaison et Critères de Choix


2.6.1 Tableau récapitulatif

Critère Jacobi Gauss-Seidel

Décomposition M = D, N = E + F M = D − E, N = F

Matrice d’itération LJ = D−1 (E + F ) LGS = (D − E)−1 F

Convergence (DSD) Oui Oui

Convergence (SDP) Pas nécessairement Oui (Théorème)

2.6.2 Exemple : Cas où Jacobi diverge mais Gauss-Seidel converge

Mohamed Najib LAATABI 29 Module : Analyse Numérique


CHAPITRE 2. RÉSOLUTION DES SYSTÈMES LINÉAIRES 30

Exemple 11: Divergence possible de Jacobi


Considérons la matrice ! !
1 2 1
A= , b= .
−2 1 1
!
−1 0 −2
La matrice de Jacobi est LJ = −D (E + F ) = , de valeurs propres ±2i, donc
2 0
ρ(LJ ) = 2 > 1 : Jacobi diverge.
En revanche, la matrice de Gauss-Seidel est LGS = (D − E)−1 F . On calcule :
! !
1 0 0 −2
D−E = , F = ,
−2 1 0 0
!−1 ! !
1 0 0 −2 0 −2
LGS = = .
−2 1 0 0 0 4
Les valeurs propres de LGS sont 0 et 4, donc ρ(LGS ) = 4 > 1 : Gauss-Seidel diverge
aussi ici (la matrice n’est ni DSD ni SDP). Cet exemple illustre qu’aucune convergence
n’est garantie sans hypothèse sur A.

Ce document est en cours de rédaction et sera complété prochainement.

Mohamed Najib LAATABI 30 Module : Analyse Numérique


Bibliographie Analyse Numérique — M. N. LAATABI

Bannouna, J.
Notes de cours : Analyse Numérique.
Université Sidi Mohamed Ben Abdellah, Faculté des Sciences Dhar Mahraz, Fès.
1 Département de Mathématiques — Deuxième année SMA (S4), 2015–2016.

Pujo-Menjouet, L.
Analyse Numérique — Troisième année de Licence.
Université Claude Bernard Lyon I, Licence Sciences, Technologies & Santé,
Spécialité Mathématiques. 43, boulevard du 11 novembre 1918, 69622 Villeurbanne,
France.
2 pujo@[Link]

Gallouët, Thierry & Herbin, Raphaèle.


Cours d’Analyse Numérique.
3 Université Aix-Marseille, Licence de Mathématiques. 4 août 2023.

Manceau, David.
Analyse Numérique Matricielle.
4 Licence 3 Mathématiques.

Les références sont présentées par ordre d’apparition dans le texte.

Vous aimerez peut-être aussi