Chapitre 1: Rappel de Quelques notions mathématiques
École Nationale des Sciences de l’Informatique
2024/2025
(E.N.S.I) Chapitre 1 2024/2025 1 / 26
Contents
1 Calcul différentiel
2 Rappel sur les matrices carrées réelles
3 Convexité
(E.N.S.I) Chapitre 1 2024/2025 2 / 26
Calcul différentiel
Calcul différentiel
(E.N.S.I) Chapitre 1 2024/2025 3 / 26
Calcul différentiel
Notion
Soit f : Rn → Rm
Si n = m = 1, f : R → R: est dite une fonction réelle
f (x) = x2
Si n = 1 et m > 1, f : R → Rm : est dite une fonction vectorielle
f (x) = (2x, −x2 , x)
Si n > 1 et m = 1, f : Rn → R: est dite une fonction scalaire ou une
fonction numérique
f (x) = x2 + y 2
Dans la suite du cours, on s’interesse sur les fonctions numériques.
(E.N.S.I) Chapitre 1 2024/2025 4 / 26
Calcul différentiel
Produit scalaire et Norme
Définition
Le produit scalaire usuel de deux vecteurs réels (x, y) ∈ Rn × Rn est
donnée par
n
X
x . y T = y T . x =< x, y >= x1 y1 + · · · + xn yn = xi yi
i=1
La norme associée au produit scalaire < ., . > est
√ q
∥x∥2 = < x, x > = x21 + · · · + x2n
(E.N.S.I) Chapitre 1 2024/2025 5 / 26
Calcul différentiel
Continuité
Limite
Soit f une fonction à plusieurs variables la formulation d’une limite finie en un
point a ∈ Rn est donné par
lim f (x) = l ←→ ∀ε >, ∃η > 0, ∀ x ∈ Df (∥x − a∥ < η → ∥f (x) − l∥ < ε)
x→a
Continuité
f est continue en a si et seulement si elle admet une limite en a et cette limite
est nécessairement, égale à f (a).
f continue en a ⇐⇒ lim f (x) = f (a)
x→a
(E.N.S.I) Chapitre 1 2024/2025 6 / 26
Calcul différentiel
Dérivée d’un champ scalaire (fonction numérique)
Dérivée directionelle
Soit d un vecteur de Rn /{0} et a ∈ Df . Si la limite de ce rapport existe :
f (a + td) − f (a)
lim
t→0 t
Alors cette limite s’appelle dérivée directionnelle de f dans la direction d
au point a.
La dérivée directionnelle est la dérivée en 0 de la fonction scalaire
∂f
t → f (a + td) et on la note par (a)
∂d
Exemple: on pose f (x, y) = x2 + y 2 , alors
∂f
(a) = 2a1 d1 + 2a2 d2 ; a = (a1 , a2 ) et d = (d1 , d2 ).
∂d
(E.N.S.I) Chapitre 1 2024/2025 7 / 26
Calcul différentiel
Dérivée d’un champ scalaire
Dérivé partielle d’ordre 1
Soient d = ei est l’un des vecteurs de base de Rn et x = (x1 , . . . , xn ) un point
du Df . On note quand cette limite existe :
∂f ∂f f (a + tei ) − f (a)
(a) = (a) = lim
∂ei ∂xi t→0 t
la dérivée partielle d’ordre 1 de f par rapport la ième composante.
La dérivée partielle d’ordre 1 de f par rapport la ième composante est la
dérivée directionnelle de f par rapport la direction d = ei avec
i ∈ {1, . . . , n}.
Exemple: On pose f (x, y) = x2 + y 2
∂f ∂f ∂f ∂f
(a) = (a) = 2a1 et (a) = (a) = 2a2 .
∂e1 ∂x ∂e2 ∂y
(E.N.S.I) Chapitre 1 2024/2025 8 / 26
Calcul différentiel
Fonction Différentiable
Définition
Soit U ⊂ Rn un ouvert et f : U → R une application. Soit a ∈ U .
On dit que f est différentiable au point a s’il existe une application linéaire
continue noté L: U → R telle que ∀h ∈ U et h + a ∈ U,
f (a + h) = f (a) + La (h) + o(∥h∥).
La est unique et appelée différentielle de f en a et se note généralement
par Df (a). De plus, sa continuité assure la continuité en a de f .
Si n = m = 1, f (a + h) = f (a) + f ′ (a) · h + o(h).
(E.N.S.I) Chapitre 1 2024/2025 9 / 26
Calcul différentiel
Fonction Différentiable
Si les dérivées partielles d’ordre 1 existent d’une fonction f et sont
continues en un point donné, alors cette fonction est dite différentiable en
ce point.
L’existence des dérivées partielles du premier ordre en un point a ne suffit
pas pour dire que la fonction f est différentiable en ce point.
L’application linéaire L est représentée par la matrice Jacobienne de f en
a c’est à dire
La (h) = Jf (a) . h
Exemlpe: f (x, y) = x2 + y 2 ,
Df (x) = La (x)(h) = 2x . hT = 2x1 h1 + 2x2 h2 .
(E.N.S.I) Chapitre 1 2024/2025 10 / 26
Calcul différentiel
Matrice Jacobienne
Définition
Soit f une champ de vectorielle, de Rn dans Rm , avec
f (x) = f (x1 , . . . , xn ) = (f1 (x), . . . , fm (x)) admettant toutes ces dérivées
partielles d’ordre 1. La matrice Jacobienne de f , noté Jf est définie par:
∂f1 ∂f1
(x) ... (x)
1
∂x ∂xn
.. ..
∂fi ∂fi
Jf (x) = (x) = . (x) .
∂xj ∂xj
∂f ∂fm
m
(x) ... (x)
∂x1 ∂xn
Exemple: Déterminier la matrice Jacobienne des fonctions suivantes
f (x, y) = x2 + y 2
g(x, y) = (x − 2y + 1, x2 + 3xy 2 )
h(x, y, z) = (x2 + 1 + z, 2z + 3y 2 )
(E.N.S.I) Chapitre 1 2024/2025 11 / 26
Calcul différentiel
Le gradient
Définition
si on prend m = 1, la fonction f sera un champs de. Dans ce cas on peut
définir le gradient de fonction f noté par ∇f par la transposée de sa matrice
Jacobienne Jf :
T
∂f ∂f
∇f (p) = JfT = (p), . . . , (p) .
∂x1 ∂xn
Définition
On dit que x est un point critique (stationnaire) d’une fonction de classe C 1 si
∇f (x) = 0.
Exemple: Déterminer le gradient et les points critiques s’ils existent des
fonctions suivantes
f (x, y) = x2 + y 2 .
f (x, y) = 2x3 + 6xy − 3y 2 + 2.
(E.N.S.I) Chapitre 1 2024/2025 12 / 26
Calcul différentiel
La matrice hessienne
On considère une fonction f à valeurs réelles
f : Rn → R; (x1 , ..., xn ) 7→ f (x1 , ..., xn )
dont toutes les dérivées partielles secondes existent, le coefficient d’indice i, j
de la matrice hessienne ∇2 f vaut
∂2f ∂2f ∂2f
∂x2 (x) ∂x1 ∂x2
(x) . . .
∂x1 ∂xn
(x)
1
2 2 2
∂ f ∂ f ∂ f
2
∂ f ∂x2 ∂x1 (x) (x) ... (x)
2 ∂x22 ∂x2 ∂xn
∇ (f ) = =
∂xi ∂xj
.
.. .
..
∂2f 2
∂ f 2
∂ f
(x) (x) . . . (x)
∂xn ∂x1 ∂xn ∂x2 ∂x2n
Exemple: Déterminer la matrice hessienne des fonctions suivantes
f (x, y) = x2 + y 2 .
f (x, y) = 2x3 + 6xy − 3y 2 + 2.
(E.N.S.I) Chapitre 1 2024/2025 13 / 26
Calcul différentiel
La matrice hessienne
Lemme de Schwartz
Si f est une fonction de classe C 2 alors on a
∂2f ∂2f
(x) = (x), ∀ i, j ∈ {1, 2, . . . , n}
∂xi ∂xj ∂xj ∂xi
Si f est une fonction de classe C 2 alors sa matrice Hessienne ∇2 (f ) est
symétrique.
Si f est une fonction de classe C 2 alors
∇2 f (x) = J∇f (x) = ∇Jf (x)
(E.N.S.I) Chapitre 1 2024/2025 14 / 26
Rappel sur les matrices carrées réelles
Rappel sur les matrices carrées réelles
(E.N.S.I) Chapitre 1 2024/2025 15 / 26
Rappel sur les matrices carrées réelles
Matrice carrée
Matrice définie positive
Soit une matrice A dans Mn (R). A est dite
Définie positive si < Ax, x > > 0, ∀x ∈ Rn , avec x ̸= 0.
Semi-définie positive si, pour < Ax, x > ≥ 0, ∀x ∈ Rn
Rappel
On dit que λ est une valeur propre de A s’il existe un vecteur x non nulle
tel que Ax = λx. On appelle x le vecteur propre associé à λ.
Les racines du polynôme det(λIn − A) sont exactement les valeurs propres
de A.
(E.N.S.I) Chapitre 1 2024/2025 16 / 26
Rappel sur les matrices carrées réelles
Matrice carrée
Si A une matrice carrée symétrique alors
1
la fonction f (x) = < Ax, x > − < b, x > +β, avec b un vecteur et c une
2
constante, est dite forme quadratique.
➦ ∇f (x) = Ax − b ➦ ∇2 f = A
< Ax, x >≥ λmin ∥x∥2
A est définie positive ⇐⇒ λi > 0 ∀ i ∈ {1, . . . , n}
A est semi définie positive ⇐⇒ λi ≥ 0 ∀ i ∈ {1, . . . , n}
Exemple Déterminer la nature des matrices suivantes
6 0 2 −1
A= et B =
0 6 −1 2
(E.N.S.I) Chapitre 1 2024/2025 17 / 26
Convexité
Convexité
(E.N.S.I) Chapitre 1 2024/2025 18 / 26
Convexité
Ensemble Convexe
Définition
Un ensemble C est dit convexe si pour tous les points x et y appartenant à C,
alors le segment [x, y] ⊂ C. C’est à dire
∀x, y ∈ C, ∀t ∈ [0, 1], tx + (1 − t)y ∈ C
Exemple:
Disque, surface limitée par un triangle ou par un rectangle : ensemble
convexe
Cercle, triangle: ensemble non convexe
(E.N.S.I) Chapitre 1 2024/2025 19 / 26
Convexité
Convexité d’une fonction
Soit C ⊂ Rn un ensemble convexe et f : C → R une fonction numérique.
On dit que
f est convexe sur C si
f (tx + (1 − t)y) ≤ tf (x) + (1 − t)f (y), x, y ∈ C, ∀ t ∈ [0, 1]
Exemple: f (x) = x2 , f (x, y) = x2 + y 2
f est strictement convexe sur C si
f (tx + (1 − t)y) < tf (x) + (1 − t)f (y), x ̸= y ∈ C, ∀t ∈ [0, 1]
Exemple: f (x) = |x|, f (x) = ex , f (x, y) = ex + ey
f est fortement convexe sur C s’il existe α > 0
α
f (tx + (1 − t)y) < tf (x) + (1 − t)f (y) − t(1 − t)∥y − x∥2
2
Exemple: f (x) = x2 , f (x, y) = x2 + xy + y 2
fortement convexe =⇒ strictement convexe =⇒ convexe
(E.N.S.I) Chapitre 1 2024/2025 20 / 26
Convexité
Caractérisation de la convexité
Soit C ⊂ Rn un ensemble convexe et f : C → R une fonction
Si f est de Classe C 1
f est convexe sur C ⇐⇒ f (y) ≥ f (x)+ < ∇f (x), y − x >
⇐⇒< ∇f (x) − ∇f (y), x − y >≥ 0, x, y ∈ C
Si f est de Classe C 2
f est convexe sur C ⇐⇒< ∇2 f (x)(y − x), y − x >≥ 0, x, y ∈ C
Si C est sous espace vectoriel de Rn , < ∇2 f (x)(y − x), y − x >≥ 0 devient
< ∇2 f (x)h, h >≥ 0
Dans le cas réel, l’inégalité s’écrire f ′′ ≥ 0
(E.N.S.I) Chapitre 1 2024/2025 21 / 26
Convexité
Caractérisation de la convexité stricte
Soit C ⊂ Rn un ensemble convexe et f : C → R une fonction
Si f est de Classe C 1
f est strictement convexe sur C ⇐⇒ f (y) > f (x)+ < ∇f (x), y − x >
⇐⇒< ∇f (x) − ∇f (y), x − y > > 0, x, y ∈ C
Si f est de Classe C 2
Si < ∇2 f (x)(y − x), y − x > > 0 alors f est convexe sur C
Si C est sous espace vectoriel de Rn , < ∇2 f (x)(y − x), y − x >> 0 devient
< ∇2 f (x)h, h > > 0
Dans le cas réel,l’inégalité s’écrire f ′′ (x) > 0
(E.N.S.I) Chapitre 1 2024/2025 22 / 26
Convexité
Caractérisation de la convexité forte
Soit C ⊂ Rn un ensemble convexe et f : C → R une fonction
Si f est de Classe C 1
f est fortement convexe sur C
⇐⇒ ∃β > 0, f (y) ≥ f (x)+ < ∇f (x), y − x > +β∥y − x∥2
⇐⇒ ∃γ > 0, < ∇f (x) − ∇f (y), x − y > ≥ γ∥y − x∥2 , x, y ∈ C
Si f est de Classe C 2
f est fortement convexe sur C si et seulement si
∃β > 0, < ∇2 f (x)(y − x), y − x > ≥ β∥y − x∥2 , x, y ∈ C
Si C est sous espace vectoriel de Rn , < ∇2 f (x)(y − x), y − x >≥ β∥y − x∥2 devient
< ∇2 f (x)h, h > ≥ β∥h∥
Dans le cas réel, l’inégalité s’écrire f ′′ (x) ≥ β
(E.N.S.I) Chapitre 1 2024/2025 23 / 26
Convexité
Fonction Coersive
Définition
Soit f : C → R une fonction continue, avec C ensemble non borné de Rn . On
dit que f est coercive sur C si on a
lim f (x) = +∞.
∥x∥→+∞
Autrement dit, f est coercive si elle tend vers +∞ en +∞ (lorsque la variable
reste dans C.)
Exemple: Soit a ∈ R+ 2
∗ et (x, y) ∈ R .
f (x, y) = a(x2 + y 2 ) = a∥(x, y)∥22 −→ +∞.
∥(x,y)∥→+∞
(E.N.S.I) Chapitre 1 2024/2025 24 / 26
Convexité
Condition d’existence de minimum
Définition
Soit V un ensemble de Rn , x∗ ∈ V et f : V → R. On dit que
x∗ est un point de minimum global de f sur V , si
f (x∗ ) ≤ f (x), ∀ x ∈ V.
x∗ est un point de minimum local de f sur V , si existe un voisinage V ∗ de
x∗ tel que
f (x∗ ) ≤ f (x), ∀ x ∈ V ∩ V ∗ .
x∗ est un point de maximum global (resp. local) de f sur V si x∗ est un
point de minimum global (resp. local) de la fonction opposé −f sur V .
x∗ est un point d’extremum global si x∗ est: soit un point de min global
de f dans V soit un point de max global de f sur V .
(E.N.S.I) Chapitre 1 2024/2025 25 / 26
Convexité
Condition d’existence de minimum
Théorème (Existence)
Soit V ⊂ Rn un ensemble non-vide et fermé et f : V → R une fonction
continue. On suppose
Soit V est borné
Soit V est non borné et f est une fonction coercive.
Alors il existe au moins un point de minimum de f sur V .
Exemple Etudier l’existence de minimum de la fonction f : x 7→ e−x dans les
intervalles suivantes:
-> I1 =] − ∞, 0]
-> I2 = [1, 2]
Théorème (Unicité)
Soit V ⊂ Rn un ensemble non-vide convexe et f : V → R une fonction
strictement convexe admettant un point de minimum dans V . Alors il est
unique.
(E.N.S.I) Chapitre 1 2024/2025 26 / 26