0% ont trouvé ce document utile (0 vote)
0 vues35 pages

Chap2

Le chapitre 2 aborde l'optimisation sans contrainte, définissant les problèmes d'optimisation comme la recherche de maxima ou minima d'une fonction. Il présente des conditions nécessaires et suffisantes pour identifier les extrema, tant pour les fonctions à une seule variable que pour celles à plusieurs variables. Des exemples illustrent l'application des théorèmes et des méthodes pour déterminer les points critiques et leur nature.

Transféré par

albadaramedoune
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd
0% ont trouvé ce document utile (0 vote)
0 vues35 pages

Chap2

Le chapitre 2 aborde l'optimisation sans contrainte, définissant les problèmes d'optimisation comme la recherche de maxima ou minima d'une fonction. Il présente des conditions nécessaires et suffisantes pour identifier les extrema, tant pour les fonctions à une seule variable que pour celles à plusieurs variables. Des exemples illustrent l'application des théorèmes et des méthodes pour déterminer les points critiques et leur nature.

Transféré par

albadaramedoune
Copyright
© All Rights Reserved
Nous prenons très au sérieux les droits relatifs au contenu. Si vous pensez qu’il s’agit de votre contenu, signalez une atteinte au droit d’auteur ici.
Formats disponibles
Téléchargez aux formats PDF, TXT ou lisez en ligne sur Scribd

Chapitre 2: Optimisation sans contrainte.

UCAD/ ESP / DGI / IABD / Master 1


Dr. Mbaye Faye

9 juin 2026

1/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 1 /


Plan

1 Introduction

2 Quelques définitions

3 Cas de fonctions à une seule variable

4 Cas de fonctions de plusieurs variables

2/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 2 /


1 Introduction

2 Quelques définitions

3 Cas de fonctions à une seule variable

4 Cas de fonctions de plusieurs variables

3/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 3 /


Introduction

Z La théorie de l’optimisation est une branche des mathématiques, cherchant à


modéliser, à analyser et à résoudre analytiquement ou numériquement des
problèmes qui consistent à déterminer parmi un grand nombre de solutions
satisfaisant un objectif quantitatif tout en respectant d’éventuelles
contraintes celle qui donne le meilleur rendement.
Z Plus précisément, on cherche à trouver le maximum ou le minimum d’une
fonction avec ou sans contraintes. L’optimisation possède ses racines au
18ieme siècle dans les travaux : de Taylor, de Newton et de Lagrange, qui ont
élaboré les bases des développements limités.

4/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 4 /


Introduction

Z Considérons tout au long de ce chapitre le problème d’optimisation sans


contraintes suivant

P1 min f (x1 , · · · , xn )
(x1 ,··· ,xn )∈Ω

Z ou bien
P2 max f (x1 , · · · , xn )
(x1 ,··· ,xn )∈Ω

où Ω est un ouvert de Rn ou bien Ω = Rn , f : Ω → R est au moins deux


fois différentiable, et que ses dérivées partielles sont continues.
Z On peut aussi obtenir

max [f (x)] = − min [−f (x)]

5/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 5 /


1 Introduction

2 Quelques définitions

3 Cas de fonctions à une seule variable

4 Cas de fonctions de plusieurs variables

6/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 6 /


Quelques définitions

Le problème P1 signifie que l’on cherche à trouver une solution x ∗ ∈ Ω dont la


valeur de la fonction objective est la plus petite alors que le problème P2 signifie
que l’on cherche à trouver une solution x ∗ ∈ Ω dont la valeur de la fonction
objective est la plus grande.

Solution optimale globale


Z Soit x ∗ ∈ Ω, x ∗ est dite solution optimale globale du problème P1 si et
seulement si
∀x ∈ Ω, f (x ∗ ) ≤ f (x).

Z Soit x ∗ ∈ Ω, x ∗ est dite solution optimale globale du problème P2 si et


seulement si
∀x ∈ Ω, f (x ∗ ) ≥ f (x).

Z La solution optimale globale n’est pas nécessairement unique, mais la valeur


optimale l’est.

7/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 7 /


Quelques définitions

Solution optimale locale


Z Soit x ∗ ∈ Ω, x ∗ est dite solution optimale locale du problème P1 si et
seulement si
∀x ∈ Ω ∩ B(x ∗ , r ), f (x ∗ ) ≤ f (x).

Z Soit x ∗ ∈ Ω, x ∗ est dite solution optimale locale du problème P2 si et


seulement si
∀x ∈ Ω ∩ B(x ∗ , r ), f (x ∗ ) ≥ f (x).

8/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 8 /


Figure: Maximum Minimum.

Dans les sections qui suivent, on écrira tous les problèmes d’optimisation comme
des programmes de minimisation.

9/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 9/


1 Introduction

2 Quelques définitions

3 Cas de fonctions à une seule variable

4 Cas de fonctions de plusieurs variables

10/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 10


Cas de fonctions à une seule variable

Considérons le problème d’optimisation sans contraintes suivant

P: min f (x)
x∈R

où f est une fonction dérivable d’une seule variable définie de R à valeurs dans R.
Condition du premier ordre
Z Si f est une fonction derivable sur un ouvert Ω ⊆ R et si x ∗ ∈ Ω est une
solution du problème d’optimisation P, alors x ∗ vérifie

f 0 (x ∗ ) = 0.

.
Z Remarque :
Si f 0 (x ∗ ) = 0, on dit que x ∗ est un point critique ou point stationnaire de f .
Les extrema de f sur l’ouvert Ω sont à chercher parmi les points critiques de
de f .

11/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 11


Cas de fonctions à une seule variable

Condition du 2nd ordre pour un optimum local


Si x ∗ ∈ Ω est un point critique de f , alors :
Z Si f 00 (x ∗ ) ≤ 0 alors x ∗ est un maximum local ;
Z Si f 00 (x ∗ ) ≥ 0 alors x ∗ est un minimum local.

12/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 12


Cas de fonctions à une seule variable

Condition du 2nd ordre pour un optimum global


Si x ∗ ∈ Ω est un point critique de f , alors :
Z Si f 00 (x) ≤ 0, ∀x ∈ Ω (c’est-à-dire f est concave) alors x ∗ est un maximum
global ;
Z Si f 00 (x) ≥ 0, ∀x ∈ Ω (c’est-à-dire f est convexe) alors x ∗ est un minimum
global.

13/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 13


1 Introduction

2 Quelques définitions

3 Cas de fonctions à une seule variable

4 Cas de fonctions de plusieurs variables

14/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 14


Cas de fonctions de plusieurs variables

Dans cette section


nous allons non seulement donner des conditions nécessaires mais également
suffisantes qui permettront d’identifier des extrema dans le cas où la fonction
objective admet des dérivées partielles secondes.

Rappelons le problème :

P min f (x1 , · · · , xn )
(x1 ,··· ,xn )∈Ω

Pour déterminer
les maxima et les minima d’une fonction f de plusieurs variables, on utilise les
théorèmes suivants qui généralisent les résultats connus dans le cas d’une fonction
à une variable et qui deviennent faux si Ω n’est pas ouvert dans Rn .

15/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 15


Cas de fonctions de plusieurs variables

Dans cette section


nous allons non seulement donner des conditions nécessaires mais également
suffisantes qui permettront d’identifier des extrema dans le cas où la fonction
objective admet des dérivées partielles secondes.

Rappelons le problème :

P min f (x1 , · · · , xn )
(x1 ,··· ,xn )∈Ω

Pour déterminer
les maxima et les minima d’une fonction f de plusieurs variables, on utilise les
théorèmes suivants qui généralisent les résultats connus dans le cas d’une fonction
à une variable et qui deviennent faux si Ω n’est pas ouvert dans Rn .

15/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 15


Cas de fonctions de plusieurs variables

Dans cette section


nous allons non seulement donner des conditions nécessaires mais également
suffisantes qui permettront d’identifier des extrema dans le cas où la fonction
objective admet des dérivées partielles secondes.

Rappelons le problème :

P min f (x1 , · · · , xn )
(x1 ,··· ,xn )∈Ω

Pour déterminer
les maxima et les minima d’une fonction f de plusieurs variables, on utilise les
théorèmes suivants qui généralisent les résultats connus dans le cas d’une fonction
à une variable et qui deviennent faux si Ω n’est pas ouvert dans Rn .

15/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 15


Cas de fonctions de plusieurs variables

Condition nécessaire du premier ordre


Z Si (x1∗ , · · · , xn∗ ) ∈ Ω est une solution du problème P, alors
 
0
→  ..
∗ ∗
∇ f (x1 , · · · , xn ) =  .


0

C’est-à-dire (x1∗ , · · · , xn∗ ) est un point critique.


Z Cette définition donne une condition nécessaire mais pas suffisante. En effet,
il est possible que le gradient soit nul en un point et que ce point ne soit pas
une solution du problème P (par exemple, ce point peut être un maximum
local ou un point selle). Les éventuels maxima et minima de f dans Ω doivent
être recherchés dans l’ensemble des points critiques de f .

16/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 16


Cas de fonctions de plusieurs variables

Pour étudier les conditions du 2nd ordre, on peut se limiter à l’utilisation de deux
méthodes : la méthode des mineurs principaux et la méthode quadratique.

Méthode des mineurs principaux


Z Condition nécessaire du 2nd ordre Soient Hf (x1 , · · · , xn ) la matrice hessienne
de f en tout point (x1 , · · · , xn ) ∈ Ω et a ∈ Ω un point critique de f . Alors :
→ →
• Si a est un maximum local, alors ∇ f (a) = 0 et la matrice Hf (a) est
semi-définie négative ;
→ →
• Si a est un minimum local, alors ∇ f (a) = 0 et la matrice Hf (a) est
semi-définie positive.

17/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 17


Pour pouvoir déterminer si un point critique est un maximum ou minimum de f , il
faut vérifier des conditions les plus strictes portant toujours sur les dérivées
partielles secondes de f . Si la condition nécessaire du 2nd ordre est strictement
satisfaite, alors on parle de condition suffisante du 2nd ordre.

Z Condition suffisante

du→2nd ordre Soit f : D → R une fonction de classe C2
en a ∈ D et ∇ f (a) = 0 .
• Si les n mineurs principaux de la matrice hessienne Hf (a) alternent de signe, le
premier étant négatif, c’est-à-dire

∂2f ∂2f
∂2f ∂x12
(a) ∂x1 x2
(a)
d1 = (a) < 0, d2 = ∂2f ∂2f
> 0, · · · ,
∂x12 ∂x2 x1
(a) ∂x22
(a)

alors a est un maximum local strict de f ;


• Si les n mineurs principaux de la matrice hessienne Hf (a) sont tous positifs,
c’est-à-dire
∂2f ∂2f
∂2f ∂x12
(a) ∂x1 x2
(a)
d1 = (a) > 0, d2 = ∂2f ∂2f
> 0, · · · ,
∂x12 ∂x2 x1
(a) ∂x22
(a)

alors a est un minimum local strict de f .

18/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 18


Exemple

Soit f (x, y ) = (x − 1)2 + 2y 2


Vérifier les conditions du premier et du second ordre

19/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 19


Exemple

Solution
• On calcule le gradient de f :
   
→ 2(x − 1) 0
∇ f (x, y ) = 4y
=
0

Ce système possède une unique solution alors le seul point critique de f est
(x ∗ , y ∗ ) = (1, 0) et la matrice Hessienne de f en ce point est donnée par
 
2 0
Hf (1, 0) =
0 4

2 0
Les mineurs principaux sont : d1 = 2 et d2 = = 8.
0 4
Comme d1 > 2 et d2 > 8 donc mineurs principaux de la matrice Hf (1, 0) sont
positives. Par conséquent, le point (1, 0) est un minimum local de f .

20/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 20


Exemple

Soit f (x, y ) = 3x 3 − 6xy + 3y 2


Existe t-il des points critiques ? Si oui, donner leur nature.

21/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 21


Exemple

Solution
• On calcule le gradient de f :
9x 2 − 6y )
   
→ 0
∇ f (x, y ) = −6x + 6y
=
0
Ce système possède deux solutions alors les points critiques de f sont
(x, y ) = (0, 0) et (x, y ) = ( 23 , 23 ) et la matrice Hessienne de f en ce point est
donnée par  
18x −6
Hf (x, y ) =
−6 6
Au point (0, 0) on a  
0 −6
Hf (x, y ) =
−6 6
0 −6
Les mineurs principaux sont : d1 = 0 et d2 = = −36 < 0.
−6 6
Donc la matrice Hf (0, 0) est indéfinie. Par conséquent, le point (0, 0) est un point
selle de f .
22/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 22
Suite

Solution

Au point ( 23 , 23 ) on a  
2 2 12 −6
Hf ( , ) =
3 3 −6 6
12 −6
Les mineurs principaux sont : d1 = 12 et d2 = = 36.
−6 6
Donc la matrice Hf ( 3 , 3 ) est définie positive. Par conséquent, le point ( 32 , 23 ) est
2 2

un minimum local de f .

23/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 23


Exemple

Un portefeuille boursier est composé de deux titres X1 et X2 en proportions


respectives x1 et x2 . La rentabilité de ce portefeuille est donnée par

f (x1 , x2 ) = 4x1 + 8x2 − (x12 + 4x22 )

Quelle diversification de portefeuille garantit la meilleure rentabilité ?

24/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 24


Exemple

Solution
• Cherchons les points critiques de f :
   
→ 4 − 2x1 0
∇ f (x ,
1 2x ) = =
8 − 8x2 0

Le seul point critique de f est (x1∗ , x2∗ ) = (2, 1) et la matrice Hessienne de f en ce


point est donnée par  
−2 0
Hf (2, 1) =
0 −8
−2 0
Les mineurs principaux sont : d1 = −2 et d2 = = 16.
0 −8
Comme d1 < 0 et d2 > 0 alors la diversification de portefeuille garantit la meilleure
rentabilité est donnée par (2, 1) et cette meilleure rentabilité est f (2, 1) = 8.

25/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 25


Cas de fonctions de plusieurs variables

Pour étudier les conditions du 2nd ordre, on peut se limiter à l’utilisation de deux
méthodes : la méthode des mineurs principaux et la méthode quadratique.

Méthode quadratique
Dans ce qui suit, on suppose que la fonction f : Ω → R est au moins de classe C 2 .
On définit la forme quadratique Q : Rn → R associée à la matrice hessienne Hf (a)
par
Q(v ) = v t Hf (a)v

Z Condition nécessaire du 2nd ordre Soit f : Ω → R une fonction de classe C 2


en a ∈ D.
• Si a est un maximum local, alors
→ →
∇ f (a) = 0 et Q(v ) ≤ 0, v ∈ Rn ;

• Si a est un minimum local, alors


→ →
∇ f (a) = 0 et Q(v ) ≥ 0, v ∈ Rn .

26/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 26


Pour pouvoir déterminer si un point critique est un maximum ou minimum de f , il
faut vérifier des conditions les plus strictes portant toujours sur les dérivées
partielles secondes de f . Si la condition nécessaire du 2nd ordre est strictement
satisfaite, alors on parle de condition suffisante du 2nd ordre.

Z Condition suffisante

du→2nd ordre Soit f : Ω → R une fonction de classe C 2
en a ∈ D et ∇ f (a) = 0 .
n→o
• Si Q(v ) < 0, v ∈ Rn \0 , alors a est un maximum local ;
n→o
n
• Si Q(v ) > 0, v ∈ R \ 0 , alors a est un minimum local.

27/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 27


Cas particulier : Notations de Monge

Dans le cas des fonctions de deux variables, on utilise souvent les notations de
Gaspard Monge pour déterminer les extrema.

Notations de Monge
Z Si f : D ⊆ R2 → R est une fonction de classe C 2 et (x1∗ , x2∗ ) un point critique
de f , les notations de Monge

∂2f ∗ ∗ ∂2f ∂2f ∗ ∗


r= (x , x ), s= (x1∗ , x2∗ ) et t = (x , x )
∂x12 1 2 ∂x2 ∂x1 ∂x22 1 2

interviennent dans l’étude des extrema locaux des fonctions de deux


variables :
• Si rt − s 2 > 0 et r > 0 alors f (x1∗ , x2∗ ) est un minimum local de f ;
• Si rt − s 2 > 0 et r < 0 alors f (x1∗ , x2∗ ) est un maximum local de f ;
• Si rt − s 2 < 0 alors la fonction f n’admet pas d’extremum local, on dit que
f (x1∗ , x2∗ ) est un point col, ou un point selle ;
• Si rt − s 2 = 0 alors on ne peut pas conclure !

28/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 28


Exemple

Résolvons le problème d’optimisation sans contraintes


1
min f (x1 , x2 ) = x1 x2 − (x14 + x24 )
(x1 ,x2 )∈R2 4

29/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 29


Exemple

Solution
• Cherchons les points critiques de f :

x2 − x13
   
→ 0
∇ f (x1 , x2 ) = x1 − x23
=
0
.

x2 − x13 = 0 x2 = x13
 
=⇒ =⇒
x1 − x23 = 0 x1 (1 − x18 ) = 0
x2 = x13

=⇒
x1 = 0 où x1 = 1 où x1 = −1
Les points critiques sont : (0, 0), (1, 1) et (−1, −1).
D’autre part, nous avons

∂2f ∂2f ∂2f


(x1 , x2 ) = −3x12 , (x1 , x2 ) = 1 et (x1 , x2 ) = −3x22
∂x12 ∂x2 ∂x1 ∂x22

30/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 30


Suite Solution
• Déterminons la nature de chaque point critique :
? En (1, 1) nous avons rt − s 2 = 8 > 0 et r = −3 < 0 =⇒ f (1, 1) est un
maximum local de f ;
? En (0, 0) nous avons rt − s 2 < 0 =⇒ (0, 0) est un point selle ;
? En (−1, −1) nous avons rt − s 2 = 8 > 0 et r = −3 < 0 =⇒ f (−1, −1) est
un maximum local de f .

31/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 31


Cas de fonctions de plusieurs variables

Condition nécessaire et suffisante, Cas convexe


Soit f une fonction convexe et différentiable sur Ω. Une condition nécessaire et
suffisante pour que a ∈ Ω soit un minimum local (donc global) de f est que a soit
un point critique de f , autrement dit, que
 
0
→  .. 
∇ f (a) =  . 
0

32/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 32


Cas de fonctions de plusieurs variables

Soit f : Rn → R une fonction de n variables. On considère dans cette section le


problème d’optimisation :
minn f (x)
x∈R

Principe des méthodes de descente


Z Direction de descente :
Soit f : Rn → R une fonction. On dira qu’un vecteur d ∈ Rn est une
direction de descente en x ∈ Rn s’il existe λ∗ > 0 tel que

f (x + λd ) < f (x), ∀λ ∈]0, λ∗ ].

Z Proposition :
Soient f : Rn → R une fonction différentiable et un vecteur d ∈ Rn vérifiant
∇f (x)T .d < 0, alors d est une direction de descente en x

33/33 Dr. Mbaye Faye () Optimisation Continue 9 juin 2026 33

Vous aimerez peut-être aussi