Méthodes et

Techniques
d’Optimisation

Dr Jean
KOUDI

Dr Jean KOUDI (African School of Economics (ASE)Méthodes

[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters1 / )68
February 24, 2025
 Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Méthodes et Techniques d’Optimisation

Présenté par : Dr Jean KOUDI

African School of Economics

(ASE)
[Link]@[Link], jeankoudi1@[Link]

Niveau: Masters

February 24, 2025

Dr Jean KOUDI (African School of Economics (ASE)Méthodes

[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters1 / )68
February 24, 2025
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Dérivé directionnelle et gateaux-différentielle.
Fonction différentiable
Forme quadratique.
4 Convexité
Sous-espace affine
Sous-ensemble convexe.
Fonction convexe.
5 Les cônes
Définition d’un cône.
Cône tangent et cône normal
6 Existence de solutions et conditions d’optimalité
7 Résolution des problèmes sans contraintes.
Dr Jean KOUDI (African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters2 / )68
February 24, 2025
 Introduction et motivation

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Introduction
Un problème d’optimisation est tout problème dont le but est de
Plan

Introduction
minimiser ou de maximiser une quantité donnée. La résolution d’un
and motivation tel problème fournit une meilleure décision parmi tant d’autres. Tel
Classification
des problèmes
que cela a été développé dans l’introduction, Les problèmes
d’optimisation
d’optimisation se posent quotidiennement que ce soit au niveau
Quelques
notions de global, gouvernemental, communautaire, corporatif ou familial.
différentiabilité.
Dérivé
L’homme cherche toujours à atteindre un objectif à un coût minimal,
directionnelle et
gateaux- en d’autres termes à allouer le mieux ses ressources limitées de la
différentielle.
Fonction
façon la plus efficiente possible. Ce faisant, il cherche à minimiser ses
différentiable
Forme
investissements (dépenses) ou à maximiser ses gains (biens). Dans le
quadratique.
domaine industriel, l’on cherche à concevoir des appareils
Convexité
Sous-espace affine consommant moins d’énergie et occupant moins d’espace.
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters0 / )68
February 24, 2025
 Introduction et motivation

Méthodes et
Techniques
d’Optimisation
En bref, l’homme cherche toujours à optimiser. D’où l’importance de
Dr Jean
cette théorie dans notre quotidien. La théorie d’optimisation est la
KOUDI
branche mathématique qui s’occupe de l’étude de l’existence et de la
Plan détermination ou de l’approximation du maximum ou du minimum
Introduction d’une fonctionnelle. Tout problème d’optimisation peut-être ramené
and motivation

Classification
sous la forme suivante:
des problèmes
d’optimisation
sup f (x) ou inf f (x) (1)
Quelques
x∈K x∈K
notions de
différentiabilité.
Dérivé
directionnelle et et comme le suprémum (plus petite valeur des majorants et seule
gateaux-
différentielle. valeur pouvant être le maximum) d’une fonctionnelle est l’opposé de
Fonction
différentiable l’infimum de l’opposé de cette fonctionnelle,
Forme
quadratique.

Convexité i.e., sup f = − inf − f ,
Sous-espace affine K K
Sous-ensemble
convexe.
Fonction convexe. tout problème d’optimisation peut être ramené à un problème de
Les cônes minimisation.
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters1 / )68
February 24, 2025
 Introduction et motivation

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction K est un sous ensemble d’un ensemble non vide d’un espace X, f est
and motivation
une application définie de X vers la droite réelle achevée
Classification
des problèmes R = R ∪ {−∞, +∞}. f est appelée la fonction-objectif, x est
d’optimisation

Quelques
appelée un élément admissible ou variable de décision et K est appelé
notions de
différentiabilité.
un ensemble admissible ou ensemble des solutions réalisables.
Dérivé L’ensemble admissible K est défini par toutes les contraintes
directionnelle et
gateaux-
différentielle.
auxquelles les variables de décision sont soumises.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters2 / )68
February 24, 2025
 Introduction et motivation

Méthodes et
Techniques
d’Optimisation Minimiser f sur un ensemble non vide X consiste à trouver le
Dr Jean minimum de f , valeur minimale, m s’il existe, et un point minimum
KOUDI
xo ∈ X appelé solution minimale ou minimiseur qui réalise ce
Plan minimum (i.e. f (xo ) = m). Un tel problème de minimisation s’écrit
Introduction
and motivation
alors
Classification
inf f (x) ou simplement inf f .
des problèmes x∈X X
d’optimisation

Quelques
Lorsqu’on sait que ce problème admet au moins une solution, on
notions de
différentiabilité.
préfère écrire
Dérivé
directionnelle et
gateaux-
différentielle.
min f (x) ou simplement min f .
x∈X X
Fonction
différentiable
Forme
quadratique. L’ensemble des solutions minimales de ce problème se désigne
Convexité souvent par
Sous-espace affine
Sous-ensemble n o
convexe.
Fonction convexe.
Argmin f (x) : x ∈ X ou simplement ArgminX f .
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters3 / )68
February 24, 2025
 Introduction et motivation

Méthodes et
Techniques
d’Optimisation Une méthode d’optimisation est un ensemble de processus ou
Dr Jean d’alternatives qui satisfont une certaine propriété et permettant
KOUDI
d’obtenir un minimiseur (minimiseur local). La plupart des méthodes
Plan d’optimisation sont basées sur les principes mathématiques utilisant
Introduction
and motivation les propriétés des inégalités dans R ou dans les espaces de fonctions,
Classification les notions de calcul différentiel ou de calcul variationnel. La
des problèmes
d’optimisation construction des méthodes d’optimisation a une histoire très
Quelques ancienne. Après l’énoncé du principe du plus court chemin par Héron
notions de
différentiabilité. d’Alexandrie trois (03) siècles avant Jésus-Christ dans Catoptrica
Dérivé
directionnelle et dans le contexte de l’optique, c’est au tour de Newton de mettre au
gateaux-
différentielle. point une méthode itérative permettant de trouver les extrema
Fonction
différentiable locaux d’une fonction en faisant intervenir la notion de dérivée, issue
Forme
quadratique. de ses travaux avec Leibniz au XVII e siècle. Durant le XVIII e siècle,
Convexité les travaux des mathématiciens Euler et Lagrange mènent au calcul
Sous-espace affine
Sous-ensemble des variations, une branche de l’analyse fonctionnelle regroupant
convexe.
Fonction convexe. plusieurs méthodes d’optimisation.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters4 / )68
February 24, 2025
 Introduction et motivation

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan Ce dernier invente une technique d’optimisation sous contraintes: la

Introduction
and motivation
méthode des multiplicateurs de Lagrange. Ces méthodes ont évolué
Classification
et ont engendré plusieurs méthodes comme les méthodes du gradient,
des problèmes
d’optimisation
les méthodes de pénalité, etc. aussi la la méthode de Karush, Kuhn
Quelques et Tucker (KKT) qui est une extension de la méthode de Lagrange.
notions de
différentiabilité. L’évolution du monde et sa complexité sont essentiellement à la base
Dérivé
directionnelle et
de l’éclosion de la théorie d’optimisation. Ainsi il existe de nos jours
gateaux-
différentielle. plusieurs classes de problèmes d’optimisation que nous allons
Fonction
différentiable présenter dans la section suivante.
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters5 / )68
February 24, 2025
 Classification

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
Étant donné le problème d’optimisation suivant
and motivation

Classification inf f (x) (2)

des problèmes x∈K
d’optimisation

Quelques
notions de où K est un sous ensemble non vide de X et
différentiabilité.
Dérivé
f : X −→ R ∪ {−∞, +∞} est une application. La classe d’un
directionnelle et
gateaux- problème d’optimisation est généralement déterminée par la nature
différentielle.
Fonction de la variable de décision et celle de l’ensemble admissible. Ainsi
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters6 / )68
February 24, 2025
 Classification

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
a) Lorsque K = X, on dit que le problème (2) est un problème
Plan
d’optimisation sans contrainte.
Introduction
and motivation
b) Lorsque K ⊊ X, on dit que (2) est un problème d’optimisation
Classification
des problèmes sous contraintes.
d’optimisation

Quelques
c) Si X est un ensemble discret, on dit que (2) est un problème
notions de
différentiabilité.
d’optimisation discrète, sinon on parle d’optimisation continue
Dérivé
directionnelle et
lorsque la variable x ∈ X décrit uniquement des valeurs
gateaux-
différentielle.
continues et d’optimisation hybride lorsque la variable x ∈ X
Fonction
différentiable
prend des valeurs mixtes (certaines valeurs discrètes et d’autres
Forme
quadratique.
valeurs continues).
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters7 / )68
February 24, 2025
 Classification

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
d) Dans le cas où X est un espace vectoriel,
Plan
si dimX < +∞, on parle d’optimisation en dimension finie,
Introduction
and motivation
si K et f sont convexes, on parle d’optimisation convexe,
Classification
Si la variable de décision x dépend du temps, on parle
des problèmes
d’optimisation
d’optimisation dynamique,
Quelques
si f est différentiable et K est définie par des fonctions
notions de différentiables, on parle d’optimisation différentiable.
différentiabilité.
Dérivé
directionnelle et
e) Lorsque f est une fonction aléatoire ou les contraintes sont
gateaux-
différentielle. aléatoires, on parle d’optimisation stochastique.
Fonction
différentiable
Forme
f) Lorsque f ou la variable de décision x est une fonction du temps,
quadratique.
alors on parle d’optimisation dynamique.
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters8 / )68
February 24, 2025
 Classification

Méthodes et
Techniques
d’Optimisation

Dr Jean Résoudre le problème (2), c’est trouver x ∗ ∈ K tel que

KOUDI

Plan f (x ∗ ) ≤ f (x) pour tout x ∈ K .

Introduction
and motivation
Lorsque la fonction f prend la valeur −∞ ou est identiquement
Classification
des problèmes égale à +∞ sur K , ce problème admet trivialement une solution
d’optimisation

Quelques
minimale dans K . Donc on ne considérera que le cas où
notions de
différentiabilité.
Dérivé f : X −→ R ∪ {+∞} et ∃ xo ∈ X : f (xo ) < +∞ ;
directionnelle et
gateaux-
différentielle.
Fonction i.e., f est propre.
différentiable
Forme
quadratique.

Convexité
Dans la suite, X sera un espace Euclidien ou un espace de Hilbert réel
Sous-espace affine séparable.
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters9 / )68
February 24, 2025
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 10 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean Dérivé directionnelle et gateaux-différentielle

KOUDI
On considère (E , ∥ · ∥E ) et (F , ∥ · ∥F ) deux R-evn, Ω un ouvert de E
Plan
et f une application définie sur Ω à valeurs dans F .
Introduction
and motivation Soit d un vecteur non nul de E .
Classification
des problèmes
On dit que f admet une dérivée directionnelle en x dans la direction
d’optimisation d si la limite suivante existe (au sens de la topologie de ∥cdot∥F dans
Quelques
notions de
F)
différentiabilité. f (x + td) − f (x)
Dérivé lim
directionnelle et
gateaux-
t→0,t̸=0 t
différentielle.
Fonction
différentiable
Si cette limite existe, on l’appelle dérivée directionnelle de f en x
Forme
quadratique.
dans la direction d et on la note Df (x, d)
Convexité
Notons que f est dérivable en x dans la direction d si seulement si les
Sous-espace affine limites (à droite et à gauche) suivantes
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 11 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation
Dérivé directionnelle et gateaux-différentielle
Dr Jean f (x + td) − f (x) f (x + td) − f (x)
KOUDI lim et lim
t→0− ,t̸=0 t t→0+ ,t̸=0 t
Plan

Introduction existent et sont égales. Ceci conduit à la définition:

and motivation
On dit que f est dérivable à droite en x dans la direction d si
Classification
des problèmes seulement si la limite suivante existe (au sens de la topologie de
d’optimisation

Quelques
∥ · ∥F dans F )
notions de f (x + td) − f (x)
différentiabilité. lim
Dérivé
directionnelle et
+
t→0 ,t̸=0 t
gateaux-
différentielle. Si cette limite existe, on l’appelle dérivée à droite de f en x dans la
Fonction
différentiable direction d et on la note D + f (x, d)
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 12 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation
Dérivé directionnelle et gateaux-différentielle
Dr Jean f (x + td) − f (x) f (x + td) − f (x)
KOUDI lim et lim
t→0− ,t̸=0 t t→0+ ,t̸=0 t
Plan

Introduction existent et sont égales. Ceci conduit à la définition:

and motivation
On dit que f est dérivable à droite en x dans la direction d si
Classification
des problèmes seulement si la limite suivante existe (au sens de la topologie de
d’optimisation

Quelques
∥ · ∥F dans F )
notions de f (x + td) − f (x)
différentiabilité. lim
Dérivé
directionnelle et
+
t→0 ,t̸=0 t
gateaux-
différentielle. Si cette limite existe, on l’appelle dérivée à droite de f en x dans la
Fonction
différentiable direction d et on la note D + f (x, d)
Forme
quadratique. On dit que f est dérivable à droite en x dans la direction d si
Convexité
seulement si la limite suivante existe (au sens de la topologie de ∥∥F
Sous-espace affine
Sous-ensemble dans F )
convexe.
Fonction convexe. f (x + td) − f (x)
lim
Les cônes t→0− ,t̸=0 t
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 12 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Dérivé directionnelle et gateaux-différentielle
Plan
On dit que f est Gateaux-dérivable en x si seulement si
Introduction
and motivation
♣ f admet une dérivée directionnelle dans la direction d pour tout
Classification
des problèmes d ∈ E (f est directionnellement dérivable)et
d’optimisation

Quelques
♣ l’application d 7→ Df (x; d) est linéaire et continue.
notions de
différentiabilité. On note alors Df (x; d) := DGf (x)(d) et DGf (x) ∈ Lc(E , F ) (
Dérivé
directionnelle et l’ensemble des applications linéaires et continues de E vers F )
gateaux-
différentielle. s’appelle la dérivée au sens de Gâteaux de f en x. On dit que f est
Fonction
différentiable Gateaux dérivable sur Ω si et seulement si f est
Forme
quadratique. Gâteaux-différentiable en chaque point de x de Ω.
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 13 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Dérivé directionnelle et gateaux-différentielle
Plan

Introduction On considère l’application suivante.

and motivation
x5
si (x, y ) ̸= (0, 0)

Classification
des problèmes f (x, y ) = (y − x 2 )2 + x 8
d’optimisation
0 si (x, y ) = (0, 0)

Quelques
notions de
différentiabilité.
1 Étudier la continuité de f en (0, 0)
Dérivé
directionnelle et
gateaux-
2 f est-elle directionnellement dérivable?
différentielle.
Fonction
3 Étudier la gateaux différentiabilité de f en (0, 0)
différentiable
Forme
quadratique.
4 Que peut-on conclure?
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 14 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Dérivé directionnelle et gateaux-différentielle
Plan
Pour chacune des applications suivantes étudier la continuité et la
Introduction
and motivation Gateaux-différentiabilité respectivement en 0
Classification
des problèmes
f : R → R définie par:
d’optimisation (
Quelques x2 si x ≥ 0,
notions de
différentiabilité.
f (x) = 2
Dérivé
−x si x < 0.
directionnelle et
gateaux-
différentielle. (
1 1
− exp − x1




Fonction
2 exp x si x ̸= 0
différentiable
f (x) =
Forme
quadratique. 0 si x = 0
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 15 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation

Classification Dérivé directionnelle et gateaux-différentielle

des problèmes
d’optimisation
Remarque. La Gateaux différentiabilité est une notion assez faible
Quelques
notions de qui n’entraîne pas automatiquement la continuité.
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 16 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan Dérivé directionnelle et gateaux-différentielle

Introduction
and motivation On considère l’application
Classification  xy 2
des problèmes si (x, y ) ̸= (0, 0)
d’optimisation f (x, y ) = x2 + y2
0 si x = y = 0

Quelques
notions de
différentiabilité.
Dérivé
1 Étudier la continuité de f en (0, 0)
directionnelle et
gateaux-
différentielle.
2 Étudier la différentiabilité directionnelle de f en (0, 0)
Fonction
différentiable
3 Étudier la gateaux-différentiabilité de f sur R2
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 17 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan Dérivé directionnelle et gateaux-différentielle

Introduction
and motivation On considère l’application
Classification  xy 2
des problèmes si (x, y ) ̸= (0, 0)
d’optimisation f (x, y ) = x2 + y2
0 si x = y = 0

Quelques
notions de
différentiabilité.
Dérivé
1 Étudier la continuité de f en (0, 0)
directionnelle et
gateaux-
différentielle.
2 Étudier la différentiabilité directionnelle de f en (0, 0)
Fonction
différentiable
3 Étudier la gateaux-différentiabilité de f sur R2
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 18 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan Dérivé directionnelle et gateaux-différentielle

Introduction
and motivation On considère l’application
Classification  xy 3
des problèmes si (x, y ) ̸= (0, 0)
d’optimisation f (x, y ) = x4 + y2
0 si x = y = 0

Quelques
notions de
différentiabilité.
Dérivé
1 Étudier la continuité de f en (0, 0)
directionnelle et
gateaux-
différentielle.
2 Étudier la différentiabilité directionnelle de f en (0, 0)
Fonction
différentiable
3 Étudier la gateaux-différentiabilité de f sur R2
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 19 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 20 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Fonction différentiable
Plan
Soit x ∈ Ω, on dit que f est Fréchet-dérivable (ou simplement
Introduction
dérivable ou différentiable) en x si et seulement si il existe
and motivation
L ∈ Lc(E , F ) et une fonction ϵ définie sur un voisinage de 0 dans E
Classification
des problèmes et à valeurs dans F tels que:
d’optimisation

Quelques
notions de
f (x + h) = f (x) + L(x)(h) + ∥h∥ϵ(h)
différentiabilité.

L(x) est noté f ′ (x).

Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
Remarque. Si f est dérivable en x alors f est continue en x (noter la
différentiable
Forme
différence avec la Gâteaux différentiabilité).
quadratique.
Si E = Rn (n ∈ N∗) et F = R, f ′ (x) est appelé le gradient de f en x
Convexité
Sous-espace affine
noté ∇f (x) ou gradf (x).
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 21 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan Fonction différentiable

Introduction
and motivation Le gradient de f en x = (x1 , · · · , xn ), est déterminé par les dérivées
Classification partielles de f .
des problèmes
d’optimisation La dérivée partielle de f par rapport à la variable xi notée ∂f∂x(x) i
ou
Quelques
notions de
∂xi f (x) est la dérivée directionnelle de f en x dans la direction
différentiabilité.
Dérivé
d = ei = (0, · · · , 1, · · · , 0) où ei est le ième vecteur unitaire de la
directionnelle et
gateaux-
base canonique de Rn . Ona:
∇f (x) = ( ∂f∂x(x) , · · · , ∂f∂x(x) )T
différentielle.
Fonction
différentiable
1 n
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 22 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI Fonction différentiable
Plan Si E = Rn (n ∈ N∗) et F = Rm , f ′ (x) est appelé matrice jacobienne
Introduction
and motivation
de f en x noté Jf (x). On a:
Classification
des problèmes
d’optimisation
Jf (x) = (∇f1 (x), · · · , ∇fm (x))T
Quelques
notions de On dit que f est deux fois différentiable en x si la dérivée f ′ de f est
différentiabilité.
Dérivé différentiable en x. La dérivée seconde de f en x se note f ′′ (x).
directionnelle et
gateaux-
différentielle.
Si E = Rn (n ∈ N∗) et F = R, f ′′ (x) est appelé matrice Hessienne de
Fonction
différentiable
f en x noté ∇2 f (x) ou Hf (x). On a:
Forme

Hf (x) = (∇(∂1 f1 )(x), · · · , ∇(∂n fm )(x))T

quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 23 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan
Fonction différentiable
Introduction On considère l’application
and motivation
 xy 2
Classification si (x, y ) ̸= (0, 0)
des problèmes f (x, y ) = x2 + y2
d’optimisation
0 si x = y = 0

Quelques
notions de
différentiabilité.
1 Calculer si possible les dérivées partielles de f en (0, 0).
Dérivé
directionnelle et
gateaux-
2 Calculer si possible les dérivées partielles de f en tout point (x,
différentielle.
Fonction
y) de R2 .
différentiable
Forme
3 Étudier la différentiabilité de f sur R2
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 24 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan Fonction différentiable

Introduction
and motivation On considère l’application
Classification  xy 3
des problèmes si (x, y ) ̸= (0, 0)
d’optimisation f (x, y ) = x4 + y2
0 si x = y = 0
Quelques

notions de
différentiabilité.
Dérivé
1 Calculer si possible les dérivées partielles de f en tout point (x,
directionnelle et
gateaux- y) de R2 .
différentielle.
Fonction
différentiable
2 Étudier la différentiabilité de f sur R2
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 25 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan
Fonction différentiable
Introduction Soient A une matrice symétrique à coefficients réels, b un vecteur de
and motivation
Rn et c un nombre réel.
Classification
des problèmes On considère les applications suivantes:
d’optimisation

Quelques
f (X ) = X T AX + b T X + c, ∀ X ∈ Rn et
notions de
différentiabilité.
g (M) = det(M), ∀ M ∈ Mn (R)
Dérivé
directionnelle et
1 Calculer la différentielle de g en In .
gateaux-
différentielle.
Fonction
2 Calculer la différentielle de f en tout point X de Rn
différentiable
Forme
3 f est-elle de classe C 1 sur Rn ?
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 26 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 27 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
Forme quadratique
KOUDI
Soient A une matrice carrée d’ordre n(n ∈ N∗) et b un vecteur de
Plan Rn . L’application de définie de Rn à valeurs dans R par
Introduction
and motivation
f (X ) = X T AX + b T X est une forme quadratique. f (X ) s’écrit aussi
Classification de la forme: f (X ) = ⟨X , AX ⟩ + ⟨b, X ⟩ où ⟨, ⟩ est un produit scalaire
des problèmes
d’optimisation sur Rn .
Quelques La forme quadratique f est infiniment différentiable sur Rn .
notions de
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 28 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
Forme quadratique
KOUDI
Soient A une matrice carrée d’ordre n(n ∈ N∗) et b un vecteur de
Plan Rn . L’application de définie de Rn à valeurs dans R par
Introduction
and motivation
f (X ) = X T AX + b T X est une forme quadratique. f (X ) s’écrit aussi
Classification de la forme: f (X ) = ⟨X , AX ⟩ + ⟨b, X ⟩ où ⟨, ⟩ est un produit scalaire
des problèmes
d’optimisation sur Rn .
Quelques La forme quadratique f est infiniment différentiable sur Rn .
notions de
différentiabilité.
Dérivé
directionnelle et
Exercice
gateaux-
différentielle. 1 Déterminer le gradient ∇f (X ) pour tout X ∈ Rn .
Fonction
différentiable
Forme
2 Déterminer la matrice hessienne Hf (X ).
quadratique.

Convexité
3 On suppose que A est une matrice symétrique. Déterminer à
Sous-espace affine nouveau ∇f (X ) et Hf (X ).
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 28 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation
Forme quadratique
Dr Jean Soit A une matrice carrée d’ordre n(n ∈ N∗) associée à une forme
KOUDI
quadratique. On dit que f est:
Plan
1 Positive si pour tout X ∈ Rn , f (X ) ≥ 0
Introduction
and motivation 2 Définie si pour tout X ∈ Rn , si f (X ) = 0 alors X = 0Rn
Classification
des problèmes
d’optimisation
3 Définie positive si f est positive et définie.
Quelques
notions de
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 29 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation
Forme quadratique
Dr Jean Soit A une matrice carrée d’ordre n(n ∈ N∗) associée à une forme
KOUDI
quadratique. On dit que f est:
Plan
1 Positive si pour tout X ∈ Rn , f (X ) ≥ 0
Introduction
and motivation 2 Définie si pour tout X ∈ Rn , si f (X ) = 0 alors X = 0Rn
Classification
des problèmes
d’optimisation
3 Définie positive si f est positive et définie.
Quelques
notions de
différentiabilité.
Propriétés
Dérivé
directionnelle et
gateaux-
On suppose que A est une matrice symétrique. Alors
différentielle.
Fonction
1 Toutes les valeurs propres de A sont des nombres réels.
différentiable
Forme
quadratique.
2 A est positive si toutes ses valeurs propres sont positives ou
Convexité nulles.
Sous-espace affine
Sous-ensemble
3 A est définie positive si toutes ses valeurs propres sont
convexe.
Fonction convexe.
strictement positives.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 29 / )68
 Rappel des notions d’analyse

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation Ensemble convexe et fonction convexe
Classification
des problèmes Dans les problèmes d’optimisation, avec ou sans contraintes, une
d’optimisation
notion va jouer un rôle très important: celle de la convexité. En effet,
Quelques
notions de pour la plupart des algorithmes, la convergence vers un optimum
différentiabilité.
Dérivé global ne pourra être démontrée qu’avec des hypothèses de convexité.
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 30 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 31 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
Sous-espace affine.
and motivation

Classification
Soit X un espace vectoriel réel. Un sous-ensemble A de X est un
des problèmes
d’optimisation
sous-espace affine si
Quelques
notions de ∀(x, y ) ∈ A2 , ∀α ∈ R, αx + (1 − α)y ∈ A (3)
différentiabilité.
Dérivé
directionnelle et
gateaux- Autrement dit, un sous-espace affine contient toujours la “droite”
différentielle.
Fonction passant par deux de ses points x et y .
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 32 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
Sous-espace affine.
and motivation
P1 L’intersection de sous-espaces affines est un sous-espace affine
Classification
des problèmes
d’optimisation
P2 L’ensemble des sous-espaces affines contenant A n’est pas vide
Quelques (puisque X en est un).
notions de
différentiabilité.
Dérivé
directionnelle et
L’enveloppe affine d’un sous-ensemble A, notée aff (A), est le plus
gateaux-
différentielle.
petit sous-espace affine contenant A. On l’obtient en considérant les
Fonction
différentiable
combinaisons affines des points de A:
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 33 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 34 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean Ensemble convexe

KOUDI
K est un sous-ensemble non vide de Rn . On appelle:
Plan

Introduction
1 segment fermé x, y noté [x, y ] l’ensemble définie par:
and motivation
[x, y ] = {(1 − t)x + ty , 0 ≤ t ≤ 1}
Classification
des problèmes
d’optimisation
2 segment ouvert x, y noté ]x, y [ l’ensemble définie par:
Quelques
]x, y [= {(1 − t)x + ty , 0 < t < 1}
notions de
différentiabilité. Cette définition peut s’interpréter en disant que K est convexe si et
Dérivé
directionnelle et seulement si pour deux points quelconques x et y pris dans K , le
gateaux-
différentielle. segment [x, y ] tout entier est contenu dans K
Fonction
différentiable
Forme
quadratique. En somme K est convexe si et seulement si pour tout (x, y ) ∈ K 2 et
Convexité pour tout t ∈ [0, 1], (1 − t)x + ty ∈ K
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 35 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction Combinaison convexe

and motivation

Classification Soient S = {x1 , · · · , xm } une famille d’éléments de Rn et y ∈ Rn . y

des problèmes
d’optimisation peut être obtenu par: Combinaison convexe des points de S si:
Quelques
notions de m
X m
X
différentiabilité.
Dérivé
y= λi xi , λi ∈ R+ , ∀i ∈ [|1, m|] et λi = 1
directionnelle et
gateaux- i=1 i=1
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 36 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan
Enveloppe convexe
Introduction On définit l’enveloppe convexe d’un sous-ensemble K de Rn par
and motivation

Classification
l’ensemble défini par toutes les combinaisons convexes d’éléments de
des problèmes
d’optimisation
K . On note Conv (K )
Quelques P1 Une combinaison convexe de n points peut être calculée
notions de
différentiabilité. récursivement par n − 1 combinaisons convexes de 2 points.
Dérivé
directionnelle et
gateaux-
P2 Dans la définition de la convexité on peut remplacer la
différentielle.
Fonction
combinaison convexe de 2 points par celle de n points en
différentiable
Forme
acceptant des valeurs de n quelconques.
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 37 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan
Enveloppe convexe
Introduction
and motivation
On appelle simplexe de Rn le sous-ensemble défini par:
Classification ( )
des problèmes X n
d’optimisation n
Σn = α ∈ R+ , αi = 1 (4)
Quelques
notions de i=1
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle. Exercice
Fonction
différentiable Démontrer que Σn est un sous-ensemble convexe.
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 38 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation Ensemble convexe
Dr Jean
KOUDI
Propriétés
Plan

Introduction Soient K1 et K2 deux ensembles convexes de Rn . Alors

and motivation

Classification
♣ K1 ∩ K2 est un convexe de Rn .
des problèmes
d’optimisation ♣ K1 + K2 = {x + y ; x ∈ K1 , y ∈ K2 } est un convexe de Rn .
Quelques
notions de
♣ K1 − K2 = {x − y ; x ∈ K1 , y ∈ K2 } est un convexe de Rn .
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle. Propriétés
Fonction
différentiable Soit un sous-ensemble K de Rn . Si K est un ensemble convexe.
Forme
quadratique. Alors
Convexité
Sous-espace affine ♣ l’intérieur de K , noté Int(K ), est un ensemble convexe;
Sous-ensemble
convexe. ♣ la clôture K de K est un ensemble convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 39 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation Ensemble convexe
Dr Jean
KOUDI
Preuve: Intérieur d’un ensemble convexe est convexe
Plan

Introduction
Soit K un ensemble convexe. Nous devons montrer que l’intérieur de
and motivation
K, noté int(K ), est aussi convexe.
Classification
des problèmes Pour cela, prenons deux points quelconques x et y dans int(K ). Par
d’optimisation
définition, il existe des boules ouvertes B(x, r ) et B(y , s) entièrement
Quelques
notions de contenues dans K, où r et s sont les rayons des boules.
différentiabilité.
Dérivé Considérons un point z sur le segment reliant x à y , ce qui signifie
directionnelle et
gateaux-
différentielle.
que z = λx + (1 − λ)y pour un 0 < λ < 1.
Fonction Nous devons démontrer qu’il existe une boule ouverte centrée en z et
différentiable
Forme entièrement contenue dans K. Prenons le plus petit rayon entre r et
quadratique.

Convexité
s, soit t = min(r , s). La boule ouverte B(z, t) sera contenue dans K
Sous-espace affine en raison de la convexité de K et de la position de z dans le segment.
Sous-ensemble
convexe. Ainsi, z ∈ int(K ) prouvant que l’intérieur de K est convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 40 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation
Ensemble convexe
Dr Jean
KOUDI

Plan Preuve: Fermeture d’un ensemble convexe est convexe

Introduction
and motivation
Soit maintenant K un ensemble convexe, nous devons montrer que la
Classification fermeture de K, notée K , est aussi convexe.
des problèmes
d’optimisation Prenons deux points quelconques x et y dans K . Par définition, x et
Quelques y sont les limites de deux suites (xn ) et (yn ) de points dans K
notions de
différentiabilité. respectivement.
Dérivé
directionnelle et Considérons un point z sur le segment reliant x à y , ce qui signifie
gateaux-
différentielle. que z = λx + (1 − λ)y pour un 0 < λ < 1.
Fonction
différentiable Nous devons démontrer que z ∈ K . Puisque xn → x et yn → y , la
Forme
quadratique. séquence λxn + (1 − λ)yn converge vers λx + (1 − λ)y = z.
Convexité Puisque K est convexe, λxn + (1 − λ)yn ∈ K pour chaque n. Comme
Sous-espace affine
Sous-ensemble K est fermé, alors z ∈ K . Ainsi, la fermeture de CC est convexe.
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 41 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation

Classification
Lemma (Caratheodory)
des problèmes
d’optimisation Dans un espace vectoriel de dimension n, toute combinaison convexe
Quelques de m points, m > n + 1, se ramène à une combinaison convexe de
notions de
différentiabilité. n + 1 points au plus.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 42 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 43 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Fonction convexe
Plan
Soit K un sous-ensemble convexe de Rn . On dit qu’une fonction f
Introduction
définie de K vers R est convexe, si elle vérifie:
and motivation

Classification
des problèmes
d’optimisation ∀(x, y ) ∈ K 2 , ∀t ∈ [0, 1], f ((1 − t)x + ty ) ≤ (1 − t)f (x) + tf (y ) (5)
Quelques
notions de
différentiabilité. Une fonction f est dite strictement convexe si l’inégalité ci-dessus est
Dérivé
directionnelle et
gateaux-
stricte pour t ∈]0, 1[.
différentielle.
Fonction
Une fonction f est dite concave si −f est convexe.
différentiable
L’interprétation géométrique de cette définition est que le graphe
Forme
quadratique. d’une fonction convexe est toujours en dessous du segment reliant les
Convexité
Sous-espace affine
points (x, f (x)) et (y , f (y ))
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 44 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan
Fonction convexe
Introduction
and motivation Soit K un sous-ensemble convexe de Rn . La fonction indicatrice IK
Classification
des problèmes
définie par:

d’optimisation 0 si x ∈ K
IK (x) = est convexe
Quelques
notions de
+∞ si x ∈ /K
différentiabilité.
Dérivé
La fonction distance dK définie par: dK (x) = inf {∥x − y ∥, y ∈ K }
directionnelle et
gateaux-
est convexe.
différentielle.
Fonction
Une fonction convexe peut aussi être décrite par son épigraphe.
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 45 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Fonction convexe
Plan
On appelle épigraphe d’une fonction convexe f , l’ensemble noté
Introduction
and motivation epi(f ) défini par
Classification
des problèmes
d’optimisation

Quelques
notions de
epi(f ) = {(x, α) ∈ Rn × R, f (x) ≤ α} (6)
différentiabilité.
Dérivé
directionnelle et L’ensemble de niveau α de f est:
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique. Vα (f ) = {x ∈ Rn , f (x) ≤ α} (7)
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 46 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation Fonction convexe
Dr Jean
KOUDI

Plan
Théorème
Introduction Soient K un sous-ensemble convexe non vide de Rn et f une fonction
and motivation
définie de K vers R.
Classification
des problèmes f est convexe si et seulement si epi(f ) est un sous-ensemble convexe
d’optimisation
de Rn+1
Quelques
notions de
différentiabilité.
Dérivé
directionnelle et
Propriétés
gateaux-
différentielle.
Fonction
P1 Soient f une fonction convexe sur un ensemble convexe non vide
différentiable
Forme
K ⊂ Rn et un nombre réel α ≥ 0. Alors αf est aussi convexe sur
quadratique.
K.
Convexité
Sous-espace affine P2 Soient f1 , f2 deux fonctions convexes sur un ensemble convexe
Sous-ensemble
convexe. K . Alors f1 + f2 est aussi une fonction convexe sur K .
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 47 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation
Fonction convexe
Dr Jean
KOUDI

Plan
Propriétés
Introduction
and motivation
P3 Soient f1 , f2 , · · · , fm des fonctions convexes sur un ensemble
Classification
convexe K et α1 , α2 , · · · , αm ≥ 0, des nombres réels. Alors
P m
i=1 αi fi est aussi convexe sur K .
des problèmes
d’optimisation

Quelques
notions de
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 48 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation
Fonction convexe
Dr Jean
KOUDI

Plan
Propriétés
Introduction
and motivation
P3 Soient f1 , f2 , · · · , fm des fonctions convexes sur un ensemble
Classification
convexe K et α1 , α2 , · · · , αm ≥ 0, des nombres réels. Alors
P m
i=1 αi fi est aussi convexe sur K .
des problèmes
d’optimisation

Quelques
notions de
différentiabilité.
Dérivé
Propriétés
directionnelle et
gateaux-
différentielle.
Soit f définie de Rn vers R une fonction continuement différentiable
Fonction
différentiable
sur Rn . Alors, f est convexe si et seulement si pour tout x, y ∈ Rn ,
Forme
quadratique.
f (y ) ≥ f (x) + ⟨∇f (x), y − x⟩
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 48 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation
Fonction convexe
Dr Jean
KOUDI

Plan
Propriétés
Introduction
and motivation
P3 Soient f1 , f2 , · · · , fm des fonctions convexes sur un ensemble
Classification
convexe K et α1 , α2 , · · · , αm ≥ 0, des nombres réels. Alors
P m
i=1 αi fi est aussi convexe sur K .
des problèmes
d’optimisation

Quelques
notions de
différentiabilité.
Dérivé
Propriétés
directionnelle et
gateaux-
différentielle.
Soit f définie de Rn vers R une fonction continuement différentiable
Fonction
différentiable
sur Rn . Alors, f est convexe si et seulement si pour tout x, y ∈ Rn ,
Forme
quadratique.
f (y ) ≥ f (x) + ⟨∇f (x), y − x⟩
Convexité
Sous-espace affine Si f est de classe C 2 c’est-à-dire 2 fois continuement différentiable,
Sous-ensemble
convexe. on a la propriété suivante.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 48 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction Fonction convexe

and motivation

Classification
des problèmes
d’optimisation
Propriétés
Quelques Soit f définie de Rn vers R une fonction 2 fois continuement
notions de
différentiabilité. différentiable sur Rn . Alors, f est convexe si et seulement si pour
tout x, y ∈ Rn , ∇2 f (x) est une matrice semi-définie positive.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 49 / )68
 Convexité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI Fonction convexe
Plan

Introduction
and motivation
Exercice
Classification Étudier la convexité de chacune des fonctions suivantes:
des problèmes
d’optimisation f1 (X1 , X2 ) = 10X1 + 10X2 + 100 − X12 − 2X1 X2 − X22
Quelques
notions de
f2 (X1 , X2 ) = X12 + 2X1 X2 + 100X1 + 100X2
différentiabilité. f3 (X1 , X2 ) = X1 e X1 +X2 , X1 , X2 ≥ 0
Dérivé
directionnelle et
gateaux-
f4 (X1 , X2 , X3 ) =
différentielle.
Fonction
3X12 + 2X22 + X32 − 2X1 X2 − 2X1 X3 + 2X2 X3 − 6X1 − 4X2 − 2X3
différentiable
Forme
f5 (X1 , X2 , X3 ) =
quadratique.
3X12 + 2X22 + X32 − 2X1 X2 − 2X1 X3 + 2X2 X3 − 6X1 − 4X2 − 2X3
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 50 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 51 / )68
 Définition d’un cône.

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI Définition d’un cône.
Plan

Introduction
and motivation
Définition d’un cône
Classification Un sous-ensemble K de Rn est appelé cône si pour tout réel
des problèmes
d’optimisation strictement positif λ et pour tout élément x de K , λx appartient à K .
Quelques
notions de
différentiabilité. Soient S = {x1 , · · · , xm } une famille d’éléments de Rn et y ∈ Rn . y
Dérivé
directionnelle et peut être obtenu par une combinaison conique des points de S si:
gateaux-
différentielle.
Fonction m
X
différentiable
Forme y= λi xi , λi ∈ R+ , ∀i ∈ [|1, m|]
quadratique.
i=1
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 52 / )68
 Définition d’un cône.

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation
Enveloppe conique
Classification
des problèmes
On définit l’enveloppe conique d’un sous-ensemble K de Rn par
d’optimisation l’ensemble défini par toutes les combinaisons coniques d’éléments de
Quelques
notions de
K . On note Con(K )
différentiabilité.
Dérivé
On dit que K est un cône convexe si K est un sous-ensemble convexe
directionnelle et
gateaux-
et un cône.
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 53 / )68
 Plan

Méthodes et
Techniques
1 Introduction and motivation
d’Optimisation

Dr Jean
2 Classification des problèmes d’optimisation
KOUDI
3 Quelques notions de différentiabilité.
Plan Dérivé directionnelle et gateaux-différentielle.
Introduction
and motivation
Fonction différentiable
Classification Forme quadratique.
des problèmes
d’optimisation 4 Convexité
Quelques
notions de
Sous-espace affine
différentiabilité. Sous-ensemble convexe.
Dérivé
directionnelle et
gateaux-
Fonction convexe.
différentielle.
Fonction
différentiable
5 Les cônes
Forme Définition d’un cône.
quadratique.

Convexité
Cône tangent et cône normal
Sous-espace affine
Sous-ensemble
6 Existence de solutions et conditions d’optimalité
convexe.
Fonction convexe. 7 Résolution des problèmes sans contraintes.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 54 / )68
 Cône tangent.

Méthodes et
Techniques
d’Optimisation
Définition.
Dr Jean
KOUDI
Soit K sous-ensemble de Rn , x un élément de K et y un élément de
Plan Rn .
Introduction On dit que y est un vecteur tangent à K en x si pour toute suite xk
and motivation

Classification
d’éléments de K qui converge verts x, il existe une suite λk de R
des problèmes
d’optimisation
convergent vers 0 telles que la suite λk (xk − x) converge vers y . On
Quelques
note TK (x) l’ensemble des vecteurs tangents à K en x.
notions de
différentiabilité.
Dérivé
directionnelle et
gateaux-
Propriétés
différentielle.
Fonction
différentiable
1 TK (x) est un cône
Forme
quadratique.
2 TK (x) contient ORn
Convexité 3 TK (x) est fermé.
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.
TK (x) est appelé cône tangent de K en x.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 55 / )68
 Existence de solutions

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI L’optimisation dans R se récapitule en quelques théorèmes
fondamentaux à savoir:
Plan

Introduction
and motivation Théorème I (Weierstrass)
Classification
des problèmes Étant donné, deux nombres réels a < b, si f : [a, b] −→ R est
d’optimisation
continue, alors l’infimum de f est atteint (en d’autres termes, f
Quelques
notions de atteint sa borne inférieure).
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
Théorème II (Fermat)
différentiable
Forme
quadratique.
Étant donné deux nombres réels a < b et une fonction dérivable
Convexité
f : ]a, b[−→ R, si xo minimise f sur ]a, b[, alors f ′ (xo ) = 0.
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 56 / )68
 Existence de solutions

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan
Théorème III (de concavité)
Introduction
and motivation
Étant donné deux nombres réels a < b, si f : [a, b] −→ R est une
Classification
des problèmes fonction concave, alors f est continue et atteint son minimum en a
d’optimisation

Quelques
ou b.
notions de
différentiabilité.
Dérivé
directionnelle et Théorème IV (de convexité)
gateaux-
différentielle.
Fonction Étant donné deux nombres réels a < b et une fonction dérivable et
convexe f : ]a, b[−→ R, si f ′ (xo ) = 0 alors xo minimise f sur ]a, b[.
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 57 / )68
 Existence de solutions

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI
Ces résultats illustrent les trois thèmes de l’Optimisation à savoir :
Plan
Existence de valeur optimale, Conditions Nécessaires d’optimalité et
Introduction
and motivation Conditions Suffisantes d’optimalité.
Classification Ainsi tout problème d’Optimisation soulève les questions suivantes :
des problèmes
d’optimisation
- Existe t-il de solution(s)? Si oui, est-elle unique ou au moins
Quelques
notions de isolée?
différentiabilité.
Dérivé
directionnelle et
- Comment la caractériser ou tout au moins la localiser à l’aide
gateaux-
différentielle.
d’une équation, d’une inéquation ou d’une inclusion (algébrique
Fonction
différentiable
ou différentielle)?
Forme
quadratique. - Comment la calculer?
Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 58 / )68
 Existence de solutions

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI Minimum local, minimum global
Plan

Introduction
and motivation (P) : inf f (x) (8)
x∈K
Classification
des problèmes
d’optimisation avec K est un sous-ensemble de Rn ou K = Rn . On dit que
♣ x ∗ est une solution globale de (13) ou un point de minimum
Quelques
notions de

global de f sur K si et seulement si f (x ∗ ) ≤ f (x) pour tout

différentiabilité.
Dérivé
directionnelle et
gateaux- x ∈ K.
différentielle.
Fonction
différentiable
♣ On dit que x ∗ est une solution locale de (13) ou un point de
Forme
quadratique.
minimum local de f sur K s’il existe r > 0 tel que f (x ∗ ) ≤ f (x)
Convexité pour tout x ∈ K tel que d(x, x ∗ ) < r ou ∥x ∗ − x∥ < r
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 59 / )68
 Existence de solutions

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction Minimum local, minimum global

and motivation

Classification ♣ On dit que x ∗ est un point de minimum global strict de f sur K

si et seulement si f (x ∗ ) < f (x) pour tout x ∈ K {x ∗ }.
des problèmes
d’optimisation

Quelques
notions de
♣ On dit que x ∗ un point de minimum local strict de f sur K s’il
différentiabilité.
Dérivé
existe r > 0 tel que f (x ∗ ) < f (x) pour tout x ∈ K tel que
directionnelle et
gateaux-
d(x, x ∗ ) < r ou ∥x ∗ − x∥ < r et x ̸= x ∗ .
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 60 / )68
 Existence de solutions

Méthodes et
Techniques
d’Optimisation
Minimum local, minimum global
Dr Jean On considère le problème (13).
KOUDI

Plan Théorème 1
Introduction
and motivation Si K est un ensemble compact (K est fermé et borné) et que la
Classification fonction f est continue, alors le problème (13) admet au moins une
des problèmes
d’optimisation solution.
Quelques
notions de
différentiabilité.
Dérivé
Théorème 2
directionnelle et
gateaux-
différentielle.
Si K est un ensemble fermé non borné, la fonction f est continue et
Fonction
différentiable
coercive (ie lim f (x) = +∞), alors le problème (13) admet au
Forme
∥x∥→+∞
quadratique.
moins une solution. Cette propriété est valable seulement pour les
Convexité
Sous-espace affine
problèmes de minimisation. Pour l’appliquer aux problème de
Sous-ensemble
convexe.
maximisation, on transforme le problème en un problème de
Fonction convexe. minimisation.
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 61 / )68
 Condition d’optimalité

Méthodes et
Techniques
d’Optimisation Théorème(CN1)
Dr Jean
KOUDI
Etant donné un problème d’optimisation
Plan

Introduction
and motivation (P) : inf f (x) (9)
x∈K
Classification
des problèmes
d’optimisation avec K est un ouvert de Rn ou K = Rn . On suppose que f est
Quelques
notions de
différentiable sur K . Si x ∗ ∈ K est une solution locale de (P) alors
différentiabilité.
Dérivé
directionnelle et ∇f (x ∗ ) = 0 (10)
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 62 / )68
 Condition d’optimalité

Méthodes et
Techniques
d’Optimisation Théorème(CN1)
Dr Jean
KOUDI
Etant donné un problème d’optimisation
Plan

Introduction
and motivation (P) : inf f (x) (9)
x∈K
Classification
des problèmes
d’optimisation avec K est un ouvert de Rn ou K = Rn . On suppose que f est
Quelques
notions de
différentiable sur K . Si x ∗ ∈ K est une solution locale de (P) alors
différentiabilité.
Dérivé
directionnelle et ∇f (x ∗ ) = 0 (10)
gateaux-
différentielle.
Fonction
différentiable En général, les solutions de l’équation (10) sont appelées les points
Forme
quadratique. critiques de f . Un point critique est soit:
Convexité
Sous-espace affine
♣ un point de minimum
Sous-ensemble
convexe. ♣ un point de maximum
Fonction convexe.

Les cônes
♣ un point-selle ou point col (en anglais: saddle point)
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 62 / )68
 Condition d’optimalité

Méthodes et
Techniques
Une condition suffisante est donc nécessaire pour déterminer la
d’Optimisation nature d’un point critique.
Dr Jean
KOUDI
Théorème(CS1)
Plan

Introduction
Étant donné un problème d’optimisation
and motivation

Classification
des problèmes
d’optimisation
(P) : inf f (x) (11)
Quelques x∈K
notions de
différentiabilité.
Dérivé avec K est un ouvert de Rn ou K = Rn . On suppose que f est
différentiable sur K et x ∗ ∈ K est une solution de l’équation
directionnelle et
gateaux-
différentielle.
Fonction

∇f (x ∗ ) = 0
différentiable
Forme (12)
quadratique.

Convexité
Sous-espace affine
Si le problème (P) est convexe (c’est-à-dire K est un ensemble
Sous-ensemble
convexe.
convexe et f est une fonction convexe) alors x ∗ est un point de
Fonction convexe. minimum global de f sur K .
Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 63 / )68
 Condition d’optimalité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation
Théorème(CS1)
Classification
des problèmes
d’optimisation Si de plus le problème (P) est strictement convexe (c’est-à-dire K est
Quelques un ensemble convexe et f est une fonction strictement convexe) alors
notions de
différentiabilité. x ∗ est l’unique point de minimum global de f sur K .
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 64 / )68
 Condition d’optimalité

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI Théorème(CS2)
Plan Soit un problème d’optimisation
Introduction
and motivation

Classification
(P) : inf f (x) (13)
x∈K
des problèmes
d’optimisation

Quelques avec K est un ouvert de Rn ou K = Rn . On suppose que f est 2 fois

notions de
différentiabilité. différentiable sur K et x ∗ ∈ K est une solution de l’équation
Dérivé
directionnelle et
gateaux-
différentielle. ∇f (x ∗ ) = 0 (14)
Fonction
différentiable
Forme
quadratique.
S’il existe ϵ > 0 tel que pour tout x ∈ B(x ∗ , ϵ) ∩ K , Hf (x) est
Convexité semi-définie positive, alors x ∗ est un point de minimum local sur K .
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 65 / )68
 Résolution des problèmes sans contraintes.

Méthodes et
Techniques
d’Optimisation
Exercice 1
Dr Jean Déterminer les extrema locaux de f dans les cas suivants:
KOUDI
1 f (x, y ) = x 2 + y 2 + xy − 3x − 6y ;
Plan

Introduction
2 f (x, y ) = x 2 + 2y 2 − 2xy − 2y + 1;
and motivation
3 f (x, y ) = x 3 + y 3 − 3x − 12y + 20;
Classification
des problèmes
d’optimisation
4 f (x, y ) = x 4 + y 4 − 2(x − y )2 ;
Quelques
notions de
5 f (x, y ) = x 3 y 2 (1 − x − y ).
différentiabilité.
Dérivé
6 f (x, y ) = x 3 + y 3
directionnelle et
gateaux-
différentielle.
7 f (x, y ) = (x − y )2 + (x + y )3
Fonction
différentiable
8 f (x, y ) = x 3 + y 3 − 3xy
Forme
quadratique. 9 f (x, y ) = x 4 + y 4 − 4(x − y )2
Convexité
Sous-espace affine
10 f (x, y ) = 2x 3 + 6xy − 3y 2 + 2
Sous-ensemble
convexe. 11 f (x, y ) = y (x 2 + (lny )2 ) sur R×]0, ∞[
Fonction convexe.

Les cônes
12 f (x, y ) = x 4 + y 4 − 4xy
Définition d’un
Dr Jean KOUDI (African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 66 / )68
 Résolution des problèmes sans contraintes.

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation
Exercice 1
Classification
des problèmes
d’optimisation Soit f la fonction définie de R2 vers R par:
Quelques f (x, y , z) = x 2 + y 2 + (x + y − 3z)2 + z 4 + 2z 3 − 5z 2 . Déterminer
notions de
différentiabilité. les minimums locaux de f . L’un d’eux est-il global?
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 67 / )68
 Résolution des problèmes sans contraintes.

Méthodes et
Techniques
d’Optimisation

Dr Jean
KOUDI

Plan

Introduction
and motivation

Classification
des problèmes
d’optimisation
Exercice 1
Quelques
notions de
différentiabilité.
Dérivé
directionnelle et
gateaux-
différentielle.
Fonction
différentiable
Forme
quadratique.

Convexité
Sous-espace affine
Sous-ensemble
convexe.
Fonction convexe.

Les cônes
DrDéfinition
Jean KOUDId’un
(African School of Economics (ASE)Méthodes
[Link]@[Link],
et Techniques d’Optimisation
jeankoudi1@[Link] Niveau: Masters
February 24, 2025 68 / )68