Université Libre de Bruxelles

Faculté des Sciences

Département de Mathématiques

Problèmes elliptiques semi-linéaires à

croissance critique
Sébastien de Valeriola

Mémoire présenté en vue de l’obtention du grade de

Licencié en Sciences Mathématiques

Année académique 2005-2006

Directeur de mémoire : Professeur Jean-Pierre Gossez
Table des matières

Introduction 2

1 Définitions, notations et résultats préliminaires 4

1.1 Espaces de Banach . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2 Espaces de Sobolev . . . . . . . . . . . . . . . . . . . . . . . . 4
1.3 Problèmes elliptiques . . . . . . . . . . . . . . . . . . . . . . . 8
1.4 Mesures . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.5 Le Lemme de Brézis-Lieb . . . . . . . . . . . . . . . . . . . . . 11
1.6 Symétrie des minimiseurs et des solutions d’EDP . . . . . . . 13

2 Le cas sous-critique 17
2.1 Preuve du théorème (2.1) . . . . . . . . . . . . . . . . . . . . 17
2.2 Preuve du théorème (2.2) . . . . . . . . . . . . . . . . . . . . 23

3 Le cas critique 25
3.1 Preuve du point 1 du théorème (3.1) . . . . . . . . . . . . . . 25
3.2 Remarques et résultats préalables . . . . . . . . . . . . . . . . 28
3.3 Preuve du point 2 du théorème (3.1) . . . . . . . . . . . . . . 39
3.4 Preuve du théorème (3.2) . . . . . . . . . . . . . . . . . . . . 48
3.5 Régularité des solutions . . . . . . . . . . . . . . . . . . . . . 57
3.6 Multiplicité des solutions . . . . . . . . . . . . . . . . . . . . . 64

4 Généralisation à des termes d’ordre inférieur quelconques 66

4.1 Retour au cas particulier . . . . . . . . . . . . . . . . . . . . . 67
4.2 Preuve du théorème (4.1) . . . . . . . . . . . . . . . . . . . . 68

Annexe : le problème de Yamabe 76

Bibliographie 78

1
Introduction

En 1983, Haı̈m Brézis et Louis Nirenberg publièrent un article ([9]) trai-

tant du problème elliptique non linéaire :

 −∆u = up + λu dans Ω,
(1) u > 0 dans Ω,
u = 0 sur ∂Ω,


ou plus généralement

 −∆u = up + f (x, u) dans Ω,
(2) u > 0 dans Ω,
u = 0 sur ∂Ω,


N +2
où f (x, u) est une “perturbation d’ordre inférieur” et p = N −2
.

Cet article fait toujours autorité aujourd’hui et reste cité dans la plupart
des travaux traitant des problèmes à croissance critique. La difficulté majeure
dans l’étude de (1) et (2) est que p+1 est l’exposant critique de Sobolev, dans
le sens où c’est la valeur-charnière à partir de laquelle l’injection de H01 (Ω)
dans Lp+1 (Ω) n’est plus compacte. La question de l’existence d’une solu-
tion positive est délicate. Pohozaev y avait répondu négativement en 1965
(dans [27]) lorsque l’équation ne comporte pas de terme d’ordre inférieur
N +2
(−∆u = up pour p = N −2
ne possède pas de solution positive). Brézis et Ni-
renberg montrent dans leur article que, sous certaines conditions sur λ ou sur
f (x, u), la présence de cette perturbation d’ordre inférieur peut conduire à
l’existence d’une solution positive. Ils adoptent une approche variationnelle,
utilisant un processus de minimisation et le théorème des multiplicateurs de
Lagrange dans le cas (1) et le théorème du col de montagne dans le cas plus
général (2).

L’objet de ce mémoire est d’étudier et de présenter en détail les résultats

de [9] ainsi que quelques résultats liés plus récents. Ceux-ci tentent de répondre

2
à la question de la multiplicté des solutions de (1).

Le premier chapitre rappelle quelques définitions, cite plusieurs résultats

préalables et fixe certaines notations. Le second chapitre commence avec le
cas sous-critique p < N +2
N −2
. La compacité de l’injection de H01 (Ω) dans Lp+1 (Ω)
joue ici un rôle essentiel et on se rend ainsi bien compte des méthodes dont
on sera privé dans l’étude du problème critique. Dans le troisième chapitre
on expose en détail la preuve de Brézis et Nirenberg concernant (1), puis
on discute de la régularité et de la multiplicité des solutions obtenues. Le
quatrième chapitre traite brièvement du problème généralisé (2). L’une des
motivations des auteurs pour l’étude de cette équation était sa ressemblance
avec le problème géométrique de Yamabe, et nous expliquerons brièvement
de quoi il s’agit en annexe.

3
Chapitre 1

Définitions, notations et
résultats préliminaires

1.1 Espaces de Banach

Soit B un espace de Banach réel.

Définition 1.1.1 Une suite (xn ) ∈ B converge faiblement vers x si ∀f ∈ B ∗

(le dual de B), f (xn ) → f (x). On note alors xn * x.

Théorème 1.1.1 ([6]) Si xn * x, alors kxn k est bornée et

kxk ≤ lim inf kxn k .

Définition 1.1.2 B est réflexif si I(B) = B, où

I : B → (B ∗ )∗ est l’injection canonique définie comme suit :

pour x ∈ B, I(x) : B ∗ → R : y ∗ 7→ y ∗ (x).

Théorème 1.1.2 (Eberlein - Shmulyan, [6]) Un espace de Banach B est

réflexif si et seulement si toute suite bornée (un ) de B contient une sous-suite
(un )k convergeant faiblement dans B.

Définition 1.1.3 B est séparable s’il existe un sous-ensemble D ⊂ B dénombrable

et dense.

1.2 Espaces de Sobolev

Soit Ω ⊂ RN un ouvert.

4
Définition 1.2.1 L’ espace de Sobolev W 1,p (Ω) est défini par

1,p
W (Ω) = u ∈ Lp (Ω) ; ∃ g1 , g2 , . . . , gN ∈ Lp (Ω) tels que
Z Z 
∂φ ∞
u = − gi φ ∀φ ∈ Cc (Ω) ∀i = 1, 2, . . . , N .
Ω ∂xi Ω

On pose H 1 (Ω) = W 1,2 (Ω).

Pour u ∈ W 1,p (Ω), on note
∂u ∂u ∂u ∂u
= gi et ∇u = ( , ,..., ).
∂xi ∂x1 ∂x2 ∂xN

Théorème 1.2.1 ([21]) Soit u ∈ H 1 (Ω). Alors |u| ∈ H 1 (Ω) et


 ∇u si u > 0,
∇ |u| = 0 si u = 0,
−∇u si u < 0.


Définition 1.2.2 On définit par récurrence pour k ≥ 2

 
k,p k−1,p ∂u k−1,p
W (Ω) = u ∈ W (Ω) ; ∈W (Ω) ∀i = 1, 2, . . . , N .
∂xi

Théorème 1.2.2 ([6]) W 1,p (Ω), muni de la norme

N
! p1
p
X ∂u
kukW 1,p = kukpLp + ,
i=1
∂xi Lp

est un espace de Banach pour 1 ≤ p ≤ ∞.

Il est de plus séparable pour 1 ≤ p < ∞ et reflexif pour 1 < p < ∞.

Théorème 1.2.3 ([6]) H 1 (Ω), muni du produit scalaire

N
X ∂u ∂v
(u, v)H 1 = (u, v)L2 + ( , )L2 ,
i=1
∂xi ∂xi

est un espace de Hilbert séparable.

Définition 1.2.3 On définit H01 (Ω) comme la fermeture de Cc∞ (Ω) dans
H 1 (Ω).

Remarque 1.1 On a que H 1 (RN ) = H01 (RN ).

5
Définition 1.2.4 Soient

Q = {x = (x0 , xN ) ∈ RN −1 × R ; |x0 | < 1 et |xN | < 1},

Q+ = Q ∩ RN
+ et Q0 = {x ∈ Q ; xN = 0}.
Un ouvert Ω ⊂ RN est de classe C m pour m ≥ 1 un entier si ∀ x ∈ ∂Ω il
existe un voisinage U de x dans RN et une application H : Q → U bijective
telle que

H ∈ C m (Q̄) , H −1 ∈ C m (Ū ) , H(Q+ ) = U ∩ Ω et H(Q0 ) = U ∩ ∂Ω.

Théorème 1.2.4 (Immersions de Sobolev, continuité, [6]) Soit Ω un

domaine borné de classe C 1 , on a
 p∗ 1 1 1
 L (Ω) où p∗ = p − N si p < N ,
1,p
W (Ω) ,→ Lq (Ω) ∀q ∈ [1, ∞) si p = N ,
C(Ω̄) si p > N ,


avec injections continues.

Théorème 1.2.5 (Immersions de Sobolev, compacité, [6]) Soit Ω un

domaine borné de classe C 1 , on a

 L (Ω) ∀q ∈ [1, p∗ ) où p∗ = p − N si p < N ,

1 1 1
 q
1,p
W (Ω) ,→ Lq (Ω) ∀q ∈ [1, ∞) si p = N ,
C(Ω̄) si p > N ,


avec injections compactes.

Remarque 1.2 On obtient les mêmes résultats pour W01,p (Ω) en supposant
seulement que Ω est borné (la régularité du bord de Ω n’est plus nécessaire
car u prolongé par 0 hors de Ω reste dans W 1,p (RN )).

Pour fixer les notations, nous écrirons dans toute la suite p∗ pour l’exposant
critique de Sobolev, défini par p1∗ = p1 − N1 .
∗
Il faut remarquer ici que l’injection de W 1,p (Ω) dans Lp (Ω) n’est pas com-
pacte. Pour prouver cela, prenons (comme dans [1]) une fonction φ ∈ Cc∞ (RN )
dont le support est inclus dans (B(0, 1)) telle que, pour tout réel q ≥ 1,

kφkLq (RN ) = kφkLq (B(0,1)) = Aq > 0

et
kφkW 1,q (RN ) = kφkW 1,q (B(0,1)) = Bq > 0.

6
On définit aussi une suite ai de points distincts de Ω et une suite ri de réels
∈ (0, 1] telles que B(ai , ri ) ⊂ Ω et telles que toutes les boules B(ai , ri ) sont
disjointes.
On pose
1− N x − ai
φi (x) = ri p φ( ).
ri
Il est clair que φi ∈ Cc∞ (B(ai , ri )). On calcule aussi

kφi kW 1,q (Ω) = k∇φi kLq (RN )

Z  1q
q
= |∇φi |
RN
Z  1q
q(1− N ) −q q
= ri p
ri |∇φ| riN
RN
N
Z  1q
q
−N
p q
= ri |∇φ|
RN
N
−N
= ri q p
Bq , (1.1)

puis par un calcul identique

N
−N +1
kφi kLq (Ω) = riq p
Aq . (1.2)

Prenons q = p dans (1.1) : kφi kW 1,p (RN ) = Bq , et donc φi est une suite bornée
dans W 1,p (Ω).
Prenons à présent (pour p < N ) q = p∗ = NN−p p
. Ainsi, (1.2) devient, puisque
N N
p∗
− p + 1 = 0,
kφi kLq (Ω) = Aq .
Dès lors, puisque φi et φj ont des supports disjoints pour i 6= j, on a que
Z Z  1q
q q
kφi − φj kLp∗ (Ω) = |φi | + |φj |
Ω Ω

1q
≥ Aqq + Aqq
1
= 2 q Aq > 0.

Il n’existe par conséquent aucune sous-suite de φi qui converge dans W 1,p (Ω).
∗
On a donc montré que l’injection W 1,p (Ω) ,→ Lp (Ω) ne peut être compacte.

7
Théorème 1.2.6 (Inégalité de Poincaré, [6]) Soit Ω un ouvert borné. Il
existe une constante C telle que
kukL2 ≤ C k∇ukL2 ∀u ∈ H01 (Ω).
De plus, la meilleure constante C pour cette inégalité est λ11(Ω) (où λ1 (Ω) est
la première valeur propre du Laplacien, voir le théorème (1.3.1)).
Lemme 1.2.7 Soit un ∈ H01 (Ω). Si un * u dans H01 (Ω), alors
Z Z Z
2
|∇(un − u)| = |∇un | − |∇u|2 + o(1).
2

Ω Ω Ω

Démonstration du lemme (1.1.1).

Z
|∇(un − u)|2 = h∇un − ∇u, ∇un − ∇uiL2 (Ω)
Ω
= h∇un , ∇un iL2 (Ω) + h∇u, ∇uiL2 (Ω) − 2 h∇un , ∇uiL2 (Ω) .
Or, puisque un * uR dans H01 (Ω) (ce qui implique ∇un * ∇u dans L2 (Ω)) et
que h·, ∇uiL2 (Ω) = Ω · ∇u est linéaire et continue,
h∇un , ∇uiL2 (Ω) → h∇u, ∇uiL2 (Ω) .
Ce qui entraı̂ne le résultat du lemme.
2

1.3 Problèmes elliptiques

Définition 1.3.1 u ∈ H01 (Ω) est solution faible de l’équation −∆u = g si
Z Z
∇u · ∇φ = gφ ∀φ ∈ Cc∞ (Ω).
Ω Ω

Théorème 1.3.1 ([6]) Soit le problème aux valeurs propres :


−∆u = λu dans Ω,
(∗)
u = 0 sur ∂Ω.
Les valeurs propres du Laplacien sur Ω (c’est à dire les λ ∈ R pour lesquels le
problème (*) possède une solution non triviale dans H01 (Ω)) forment un suite
croissante λk > 0 qui tend vers l’infini. Les vecteurs propres correspondants
sont des fonctions continues et forment une suite orthonormée complète dans
L2 (Ω). De plus, la première valeur propre λ1 est simple et le premier vecteur
propre φ1 peut être pris > 0 dans Ω, tandis que tous les autres changent de
signe.

8
Théorème 1.3.2 ([21]) Soit Ω un domaine borné de classe C 2 . Si u est
solution du problème

−∆u = f (x) dans Ω,
u = 0 sur ∂Ω,

alors on a
1. f ∈ Lp (Ω) ⇒ u ∈ W 2,p (Ω) ;
2. f ∈ W k,p (Ω) ⇒ u ∈ W k+2,p (Ω).

1.4 Mesures
Soit Ω ⊂ RN un ouvert.

Définition 1.4.1

C(Ω) = u : Ω → RN continues


K(Ω) = {u ∈ C(Ω) ; supp u est un compact de Ω}

 
BC(Ω) = u ∈ C(Ω) ; kukL∞ = sup |u(x)| < ∞
x∈Ω

L’espace C0 (Ω) est la fermeture de K(Ω) dans BC(Ω) pour la norme k·kL∞ .

Définition 1.4.2 M(Ω) est l’ensemble des fonctionnelles linéaires conti-

nues sur C0 (Ω). Une telle fonctionnelle est appelée une mesure finie sur Ω.

Théorème 1.4.1 ([30]) M(Ω), muni de la norme

kµkM(RN ) = sup |hµ, ui| ,

u∈C0 (Ω)
kukL∞ =1

est un espace de Banach.

Théorème 1.4.2 ([30]) Pour µ1 et µ2 deux mesures finies, on a

hµ1 , hi = hµ2 , hi ∀h ∈ Cc2 (Ω) ⇒ (µ1 = µ2 ) .

Définition 1.4.3 Une suite (µn ) converge faiblement vers µ (noté µn * µ)

si
hµn , ui → hµ, ui ∀u ∈ C0 (Ω).

9
Théorème 1.4.3 ([30]) Toute suite bornée de mesures finies sur Ω contient
une sous-suite convergeant faiblement.

Définition 1.4.4 Une mesure µ s’annule sur un ouvert O si hµ, φi = 0 pour

toute fonction φ ∈ C0 (Ω) dont le support est contenu dans O. Le support
d’une mesure µ est le complémentaire du plus grand ouvert sur lequel µ s’an-
nule. On dit qu’une mesure µ est concentrée en un point si son support se
réduit à un point.

Définition 1.4.5 Pour un ouvert Θ de RN et une mesure finie ν, on définit

ν(Θ) = sup {hν, φi | φ ∈ C0 (Ω), supp(φ) ⊂ Θ, 0 ≤ φ ≤ 1} .

Définition 1.4.6 Une mesure finie µ est positive si

hµ, ui ≥ 0 ∀u ≥ 0 ∈ C0 (Ω).

L’ensemble des mesures finies positives est noté M+ (Ω).

On va à présent étendre les mesures positives et les faire agir sur un ensemble
plus grand.

Définition 1.4.7 Soient 1 ≤ p < ∞ et µ ∈ M+ (Ω). La fonction u ∈

Lp (Ω, µ) s’il existe une suite un ∈ K(Ω) telle que

un → u presque partout

et 1
lim hµ, |uj − uk |p i p = 0.
j,k→∞

Théorème 1.4.4 ([30]) Soient 1 ≤ p < ∞, µ ∈ M+ (Ω), u ∈ Lp (Ω, µ) et

un ∈ K(Ω) donnée par la définition précédante. Alors la limite de hµ, |un |p i
existe et ne dépend que de u. On note celle-ci hµ, |u|p i.

Théorème 1.4.5 ([30]) Si µ ∈ M+ (Ω), alors BC(Ω) ⊂ L1 (Ω) et

kµkM(Ω) = hµ, 1i = sup hµ, |u|i .

u∈BC(Ω)
kukL∞ =1

10
1.5 Le Lemme de Brézis-Lieb
Ce résultat est moins classique, mais nous l’utiliserons plusieurs fois au
cours des chapitres suivants :

Lemme 1.5.1 (Lemme de Brézis-Lieb) Soient Ω un ouvert de RN et un ∈

Lp (Ω), 1 ≤ p < ∞ . Si un est bornée dans Lp (Ω) et un → u presque partout
dans Ω, alors
 
lim kun kpLp (Ω) − kun − ukpLp (Ω) = kukpLp (Ω) .
n→∞

Démonstration du lemme (1.5.1) .

Par le lemme de Fatou,

kukLp (Ω) ≤ lim inf kun kLp (Ω) < ∞.

n→∞

Soit 0 <  < 1. Il existe une constante c() telle que, pour tout a, b ∈ R,

|a + b|p − |a|p ≤  |a|p + c() |b|p . (1.3)

En effet, si p = 1, le résultat est direct en utilisant l’inégalité triangulaire ; si

p > 1,
1. Posons
α = 1 − kη , β=η et γ = kη − η
pour k > 1 et 0 < η < k1 .
On remarque que
b
α + β + γ = 1 et a + b = αa + βka + γ . (1.4)
η(k − 1)
Donc
  p
p b
|a + b| = αa + β (ka) + γ
η(k − 1)
    p
α β b
= (α + β) a+ (ka) + γ
α+β α+β η(k − 1)
p p
α β b
≤ (α + β) a+ (ka) + γ
α+β α+β η(k − 1)
  p
α p β p b
≤ (α + β) |a| + |ka| + γ ,
α+β α+β η(k − 1)

11
 où l’on a utilisé deux fois la convexité de la fonction |·|p . En se rappelant
les définitions de α, β et γ, on obtient
p
b
|a + b|p − |a|p ≤ η (|ka|p − k |a|p ) + (1.5)
η(k − 1)
puisque γ < 1.
2. Définissons cette fois
1 η η(k − 1)
α= , β= et γ = .
1 + kη 1 + kη 1 + kη
On voit que
−b
α + β + γ = 1 et a = α(a + b) + β(ka) + γ( .
η(k − 1))

Dès lors
  p
p −b
|a| = α(a + b) + β (ka) + γ
η(k − 1)
    p
α β −b
= (α + β) (a + b) + (ka) + γ
α+β α+β η(k − 1)
p p
α β b
≤ (α + β) (a + b) + (ka) + γ
α+β α+β η(k − 1)
  p
α β b
≤ (α + β) |a + b|p + |ka|p + γ
α+β α+β η(k − 1)

à nouveau par la convexité.

Il vient p
p p p p b
|a| − |a + b| ≤ η (|ka| − k |a| ) + (1.6)
η(k − 1)
car γ < 1.

En rassemblant (1.5) et (1.6) et en posant η = kp+1 −k
on obtient bien (1.3).

Remarque 1.3 Cette preuve de l’inégalité (1.3) est facilement généralisable

à toute fonction convexe. Si j : R → R est convexe, on peut ainsi obtenir :
Pour k > 1 et 0 <  < k1 , il existe une constante c() telle que, pour tout
a, b ∈ R,

|j(a + b) − j(a)| ≤  [j(ka) − kj(a)] + |j(c()b)| + |j(−c()b)| .

12
On pose ensuite

+
fn = |un |p − |un − u|p − |u|p −  |un − u|p .

Or on a

|un |p −|un − u|p −|u|p − |un − u|p ≤ |un |p −|un − u|p +|u|p − |un − u|p .

En appliquant (1.3) avec a = un − u et b = u, on obtient

|un |p −|un − u|p +|u|p − |un − u|p ≤  |un − u|p +c() |u|p +|u|p − |un − u|p ,

et donc
fn ≤ (1 + c()) |u|p ∈ L1 (Ω).
En
R utlisant le théorème de la convergence dominée de Lebesgue, on voit que
f → 0. Puisque, par définition de fn ,

Ω n

|un |p − |un − u|p − |u|p ≤ fn +  |un − u|p ,

en intégrant et en prenant la lim supn→∞ on parvient à

Z
lim sup |un |p − |un − u|p − |u|p ≤ m,
n→∞ Ω

où m = supn kun − ukpLp (Ω) < ∞. On parvient alors au résultat du lemme en
faisant tendre  vers 0.

1.6 Symétrie des minimiseurs et des solutions

d’EDP
On définit Ω, un ouvert de RN .

Soit le problème
2

 Rminimisation de Ω 12 |∇u| − F (x, u) dx,
R  
(R) G(x, u) dx = 1,
 Ω
u ∈ H01 (Ω).

Nous faisons les hypothèses suivantes :

(H1) Ω est invariant par les translations dans la direction de x1 .

13
(H2) F , G ∈ C 2 (Ω × R) et F et G sont indépendants de x1 .
(H3) F (x, 0) = G(x, 0) ≡ 0 et il existe une constante c > 0 telle que
∗
|∂u F (x, u)| + |∂u G(x, u)| ≤ c |u|2 −1 .
R
(H4) Si u ∈ H01 (Ω) et Ω G(x, u) dx = 1, alors ∂u G(x, u) 6≡ 0 .

Théorème 1.6.1 Sous les hypothèses (H1-2-3-4), toute solution du problème

(R) est symétrique par rapport à l’hyperplan x1 = 0 après une translation
dans la direction x1 .
Démonstration du Théorème (1.6.1)
Soit u une solution du problème (R).
Posons
Ω+ = {x ∈ Ω | x1 ≥ 0} ,
Ω− = {x ∈ Ω | x1 ≤ 0} ,
Z
D± = G(x, u) dx et
Ω±
Z  
1 2
C± = |∇u| − F (x, u) dx.
Ω± 2
1
Après une translation suivant l’axe Ox1 , on peut supposer que D+ = D− = 2
en raison de (H2). Soit v définie par

u(x1 , x2 , . . . , xN ) sur Ω+ ,
v(x1 , x2 , . . . , xN ) =
u(−x1 , x2 , . . . , xN ) sur Ω− .
1
R facilement que v ∈ H0 (Ω) (voir [6] pour plus de détails).
On vérifie
Puisque Ω G(x, v) dx = 1 et que u est un minimiseur, on a
Z   Z  
1 2 1 2
|∇u| − F (x, u) dx ≤ |∇v| − F (x, v) dx,
Ω 2 Ω 2

c’est à dire
C+ + C− ≤ 2C+ .
Par le même argument on obtient
C+ + C− ≤ 2C− ,
d’où on voit que C+ = C− et que v est aussi solution de (R).
Par le théorème des multiplicateurs de Lagrange (2.1.1), il existe des constantes
β, β̃ ∈ R telles que
−∆u − ∂u F (x, u) = β∂u G(x, u) ∀x ∈ RN ,

14
 −∆v − ∂u F (x, v) = β̃∂u G(x, v) ∀x ∈ RN .
En prenant des x ∈ Ω+ (où u = v) et en utilisant (H4), il vient β = β̃. Donc
la fonction w = u − v est solution de l’équation linéaire

−∆w = L(x)w,

où Z 1  2
∂u F (x, u + t(v − u)) + β∂u2 G(x, u + t(v − u)) dt.

L(x) =
0
Nous allons à présent utiliser le principe de continuation unique :

Théorème 1.6.2 (Principe de continuation unique, [28]) Soient Ω un

ouvert de RN , N ≥ 2 et −∆ + L(x) un opérateur avec L ∈ L∞
loc (Ω). Alors la
seule solution u ∈ H01 (Ω) de l’équation

−∆u + L(x)u = 0

qui s’annule sur un ensemble de mesure non nulle dans Ω est u ≡ 0.

Puisque u ∈ C 1 (Ω) (par le théorème de Brézis-Kato, voir (3.5.1)) et F ,

G ∈ C 2 , on voit que L ∈ L∞ loc (Ω). On applique donc ce théorème : comme
w = 0 sur Ω+ , on conclut que w = 0 sur tout Ω, et donc que u est symétrique
par rapport à l’hyperplan x1 = 0.

Considérons le problème
2

 Rminimisation de RN 21 |∇u| − F (u) dx,
R  
(R0 ) G(u) dx = 1,
 RN 1 N
u ∈ H (R ).

Théorème 1.6.3 Si F , G ∈ C 2 (R) satisfont les hypothèses (H3) et (H4),

alors toute solution du problème (R0 ) est à symétrie radiale après une trans-
lation.

Démonstration du Théorème (1.6.3)

Soient u une solution du problème (R0 ) et π un hyperplan passant par l’ori-
gine. Par le Théorème (1.6.1), u est symétrique (après translation) par rap-
port à tous les hyperplans xk = 0 (k = 1, 2, . . . , N ) et donc aussi par rapport
à l’origine. Reprenons la preuve du théorème (1.6.1) en remplaçant l’hyper-
plan x1 = 0 par l’hyperplan π. On obtient ainsi que u est symétrique par
rapport à π après une translation, c’est à dire qu’il existe un hyperplan π̃

15
parrallèle à π tel que u est symétrique par rapport à π̃. Si π̃ 6= π, comme u
est symétrique par rapport à l’origine, on voit que u doit être périodique dans
la direction perpendiculaire
R à l’hyperplan. Or u ∈ H 1 (RN ), et donc u ≡ 0,
ce qui contredit RN G(u) dx = 1. On a montré que u est symétrique par
rapport à tous les hyperplans passant par l’origine, elle est donc à symétrie
radiale.

Théorème 1.6.4 (Thèorème de Gidas Ni Nirenberg, [20]) Soit Ω la

boule unité dans RN . Supposons que f ∈ C 1 et u ∈ C 2 (Ω) satisfont

 −∆u = f (u) dans Ω,
u > 0 dans Ω,
u = 0 sur ∂Ω.


Alors u est une fonction radiale et u0 (r) est négative.

16
Chapitre 2

Le cas sous-critique

Pour bien cerner les difficultés que représente le manque de compacité

dans le cas d’un exposant critique, commençons par étudier le problème sous-
critique. Nous débuterons avec le problème le plus simple ((P) ci-dessous),
puis nous ajouterons un terme d’ordre inférieur dans l’équation (pour arriver
à (Pλ )). Dans tout ce chapitre, N ≥ 3, Ω ⊂ RN est un domaine borné de
classe C 2 et p est un exposant sous-critique, c’est à dire 0 < p < 2∗ − 1.

Théorème 2.1 Le problème


 −∆u = up dans Ω,
(P) u > 0 dans Ω,
u = 0 sur ∂Ω,


possède une solution u ∈ C ∞ (Ω).

Théorème 2.2 Le problème


 −∆u = up + λu dans Ω,
(Pλ ) u > 0 dans Ω,
u = 0 sur ∂Ω,


possède une solution u ∈ C ∞ (Ω) si et seulement si λ ∈ (−∞, λ1 (Ω)), où

λ1 (Ω) est la première valeur propre du Laplacien sur Ω .

2.1 Preuve du théorème (2.1)

Nous allons utiliser le

17
Théorème 2.1.1 (des multiplicateurs de Lagrange) Soient X un es-
pace de Banach, J et F ∈ C 1 (X, RN ) et un ensemble :
S = {v ∈ X; F (v) = 0} tel que ∀u ∈ S, F 0 (u) 6= 0.
Si on suppose que u0 ∈ S satisfait J(u0 ) = inf v∈S J(v), alors il existe un
β ∈ R tel que :
J 0 (u0 ) = βF 0 (u0 ).
La démonstration de ce résultat se trouve dans [24].
Posons
F (v) = kvkLp+1 (Ω) − 1
S = {v ∈ H01 (Ω); F (v) = 0} = {v ∈ H01 (Ω); kvkLp+1 (Ω) = 1}
J(v) = k∇vk2L2
( )
k∇vk2L2
µ = inf J(v) = inf k∇vk2L2 = inf
v∈S v∈S v∈H01 (Ω) kvk2Lp+1 (Ω)

Montrons que l’infimum µ est atteintR : soit 2une suite minimisante vk dans
1
S. Celle-ci est bornée dans H0 (Ω) car Ω |∇vk | converge et reste donc borné.
Par conséquent, puisque H01 (Ω) est réflexif (voir théorème (1.2.3)), il existe
une sous-suite de vk (renommée vk ) qui converge faiblement :
∃ v0 ∈ H01 (Ω) tel que vk * v0 dans H01 (Ω).
De plus, par le théorème (1.2.5), l’injection H01 (Ω) ,→ Lp+1 (Ω) est compacte.
D’où on a la convergence forte
vk → v0 dans Lp+1 (Ω).
Ensuite, d’une part le théorème (1.1.1) nous donne :
J(v0 ) = k∇v0 k2L2 ≤ lim inf k∇vk k2L2 = µ. (2.1)
k→∞

D’autre part, comme kvk kLp+1 (Ω) = 1 ∀k et [Link]+1 (Ω) est continue pour la
convergence forte dans Lp+1 (Ω), on a kv0 kLp+1 (Ω) = 1. Donc v0 ∈ S et
J(v0 ) ≥ µ. (2.2)
Combinant les relations (2.1) et (2.2), on conclut que
J(v0 ) = µ, (2.3)
et que l’infimum est bien atteint.

18
Remarque 2.1 Si on explicite J, on obtient
Z
µ= |∇v0 |2 > 0. (2.4)
Ω

puisque v0 6= 0.
On peut supposer que v0 ≥ 0. En effet si cela n’est pas le cas, on remplace
v0 par |v0 | et par le théorème (1.2.1), on voit que v0 réalise encore l’infimum
ci-dessus.
Calculons la différentielle de J et F :
2
|∇v0 |2
R R
0 Ω
|∇v 0 + t∇w| − Ω
J (v0 )w = lim
t→0 t
2t Ω ∇v0 · ∇w + t2 Ω |∇w|2
R R
= lim
t→0
Z t
= 2 ∇v0 · ∇w, (2.5)
Ω

|v0 + tw|p+1 − Ω |v0 |p+1

R R
0 Ω
F (v0 )w = lim
t→0 t
p+1
+ (p + 1) tw v0 |v0 |p−1 + t2 (. . . ) − Ω |v0 |p+1
R
R
Ω
|v0 |
= lim
t→0
Z t
= (p + 1) |v0 |p−1 v0 w. (2.6)
Ω

où l’on a utilisé la formule de Taylor appliquée à la fonction |·|p+1 puisque

v0 +tw 6= 0 (t étant petit) : |v0 + tw|p+1 = |v0 |p+1 +(p+1)twv0 |v0 |p−1 +t2 (. . . ).
On voit clairement que ces différentielles sont continues et donc que J et
F ∈ C 1 (X, RN ).

Vérifions la dernière condition du théorème (2.1.1) : on a, pour u ∈ S,

Z
F (u)u = (p + 1) |u|p+1 = p + 1 car kukLp+1 (Ω) = 1.
0
Ω

Donc F 0 (u) 6= 0.

Les hypothèses du théorème (2.1.1) étant satisfaites, on peut appliquer

celui-ci : ∃ β ∈ R tel que

J 0 (v0 )u = βF 0 (v0 )u ∀u ∈ H01 (Ω).

19
C’est à dire, en utilisant (2.5) et (2.6)
Z Z
2 ∇v0 · ∇w = β(p + 1) |v0 |p−1 v0 w ∀w ∈ H01 (Ω). (2.7)
Ω Ω

Déterminons la valeur de β : pour w = v0 , on a (grâce au fait que v0 ∈ S)

Z Z
2 |∇v0 | = β(p + 1) |v0 |p+1 = β(p + 1).
2

Ω Ω

Puis on revient à la définition de J et à (2.3) :

2J(v0 ) = β(p + 1) ⇔ 2µ = β(p + 1).

Réinjectons ceci dans (2.7) :

Z Z
∇v0 · ∇w = µ |v0 |p−1 v0 w ∀w ∈ H01 (Ω). (2.8)
Ω Ω
1
Par un “stretching” de µ, c’est à dire en posant u = µ p−1 v0 , on obtient à
partir de (2.8) :
Z Z
−1 −p
µ p−1 ∇u · ∇w = µµ p−1 |u|p−1 uw ∀w ∈ H01 (Ω),
Ω Ω

ou Z Z
∇u · ∇w = |u|p−1 uw ∀w ∈ H01 (Ω). (2.9)
Ω Ω
Or (2.9) est exactement la forme faible de l’EDP −∆u = up .

La solution u que nous avons trouvée est telle que

u ≥ 0 et u 6≡ 0 (2.10)

par (2.4) et le fait que v0 est positive et de norme 1. Il reste à voir qu’elle
s’annule uniquement sur le bord de Ω. On va pour cela faire appel au
Théorème 2.1.2 (Principe du maximum fort) Soit Ω un domaine borné.
Si u ∈ C 2 (Ω) ∩ C(Ω̄) vérifie −∆u ≤ 0 et si u atteint un maximum ≥ 0 à
l’intérieur de Ω, alors u est constante sur Ω.
Plus de détails sur le principe du maximum fort peuvent être trouvés dans
[24].

Il faut donc montrer que u ∈ C 2 (Ω) ∩ C(Ω̄). C’est par un argument

Bootstrap que nous y arriverons :

20
Lemme 2.1.3 (Argument Bootstrap) Soit Ω un domaine borné de classe
C 2 . Si u ∈ H01 (Ω) est une solution du problème

−∆u = f (x, u) dans Ω,
(Q)
u = 0 sur ∂Ω,

où f est une fonction de Carathéodory telle que

|f (x, u)| ≤ a + b |u|σ pour σ < 2∗ − 1,

alors u ∈ W 2,p (Ω) ∀p < ∞.

Démonstration du lemme (2.1.3).

Posons f˜(x) = f (x, u(x)). On va itérer les opérations suivantes :
rk
1. u ∈ Lrk ⇒ f˜ ∈ L σ par l’hypothèse faite sur f ;
rk rk
2. f˜ ∈ L σ ⇒ u ∈ W 2, σ par le point 1 du théorème (1.3.2) ;
rk rk ∗∗
3. u ∈ W 2, σ ⇒ u ∈ L( σ ) par le théorème d’immersion de Sobolev.
On a donc effectué le passage de u ∈ Lrk à u ∈ Lrk+1 , où
rk ∗∗
rk+1 = ( ) . (2.11)
σ
Ce qui entraı̂ne
1 1
=
rk+1 ( rσk )∗∗
1
=
(( rσk )∗ )∗
1 1
= −
( rσk )∗ N
1 2
= rk −
σ
N
1 2rk
= (σ − ). (2.12)
rk N
∗
Comme u ∈ H01 ⊂ L2 , on pose

r1 = 2∗ et donc par (2.12) r2 > 2∗ .

On remarque que la suite des rk est croissante :

21
 1 1 1 2rk 1
rk+1
< rk
⇔ rk
(σ − N
) < rk
par (2.12)

⇔ (σ − 1) r1k < 2
N

4 1 2
⇔ N −2 rk
< N

1 N −2 1
⇔ rk
< 2N
= 2∗
.
Puisque r2 > 2∗ , on voit par induction que la suite est bien croissante.
On va montrer à présent que la suite des rk tend vers l’infini :
2rk 2rk N + 2 2rk
σ− < 2∗ − 1 − = − .
N N N −2 N
Pour k ≥ 3, ∃  > 0 tel que rk > 2∗ + , et donc
2rk N + 2 2(2∗ + ) ∗ 2
σ− < − (2 + ) = 1 − .
N N −2 N N
Ensuite par (2.12) il est clair que rk → ∞.
Le résultat du lemme (2.1.3) suit directement puisque u ∈ Lrk ∀k.
2
Appliquons à présent ce lemme dans la cas qui nous intéresse, c’est à dire
f = up (qui vérifie bien sûr l’hypothèse). On obtient que u ∈ W 2,q (Ω) ∀q <
∞. En appliquant alors plusieurs fois le point 2 du théorème (1.3.2), on
montre que u ∈ W k,q (Ω) ∀q < ∞ et ∀k < ∞ . On utilise ensuite le
théorème d’immersion (1.2.4) et on a que u ∈ C 2 (Ω). Puisque u ∈ H01 (Ω), on
peut l’étendre par0 à tout RN et on arrive bien à u ∈ C 2 (Ω) ∩ C(Ω̄).

Remarque 2.2 On a prouvé au passage que u ∈ C ∞ (Ω) puisque rien ne

nous obligeait à nous arrêter après k = 2 .
Comme u ≥ 0, on obtient
−∆(−u) = −(−∆u) = −(up ) ≤ 0.
On veut voir que (−u) < 0 sur Ω. Par l’absurde, supposons qu’il existe un
x ∈ Ω tel que −u(x) ≥ 0. On applique alors le principe du maximum fort
(théorème (2.1.2)) à −u, et on obtient que −u (et donc u) est constant. Mais
u ∈ H01 (Ω), et par conséquent u ≡ 0. C’est une contradiction avec (2.10).

Ceci conclut la preuve du théorème (2.1)

2

22
2.2 Preuve du théorème (2.2)
Supposons d’abord λ < λ1 (Ω) et montrons que le problème (Pλ ) possède
une solution. La démonstration est le même que celle du théorème (2.1) à
quelques détails près.

On définit F et S comme précédemment, mais cette fois on pose

J(v) = k∇vk2L2 − λ kvk2L2 ,

( )
k∇vk2L2 − λ kvk2L2
k∇vk2L2 λ kvk2L2

µ = inf J(v) = inf − = inf .
v∈S v∈S v∈H01 (Ω) kvk2Lp+1 (Ω)
La différentielle de J devient :
Z Z
0
J (v0 )w = 2 ∇v0 · ∇w − 2λ v0 w. (2.13)
Ω Ω

Soit une suite minimisante vk ∈ H01 (Ω). Puisque k∇vk k2L2 − λ kvk k2L2
converge et que λ < λ1 , on voit en utilisant le théorème (1.2.6) que vk est
borné dans H01 (Ω). On peut alors utiliser le même argument que plus haut
pour montrer que µ est atteint, et on applique le théorème (2.1.1) : ∃ β ∈ R
tel que
J 0 (v0 )u = βF 0 (v0 )u ∀u ∈ H01 (Ω).
C’est à dire, en utilisant (2.13) et (2.6)
Z Z Z
2 ∇v0 · ∇w − 2λ v0 w = β(p + 1) |v0 |p−1 v0 w. (2.14)
Ω Ω Ω

Cette fois,
β = J(v0 ) = k∇v0 k2L2 − λ kv0 k2L2 .
Donc β > 0. En effet λ < λ1 , et le théorème (1.2.6) nous donne
1
kvk2L2 ≤ k∇vk2L2 .
λ1

Le reste de la preuve est totalement identique à celle donnée plus haut.

Supposons à présent qu’on a une solution u du problème (Pλ ). Soit Φ1 > 0

la fonction propre associée à la première valeur propre λ1 (voir théorème

23
(1.3.1)).
On a

Z λ1 Φ1 = −∆Φ
Z 1 c’est à dire
λ 1 Φ1 v = ∇Φ1 · ∇v ∀v ∈ H01 (Ω).
Ω Ω

En choisissant v = u la solution de (Pλ ),

Z Z Z
p
λ1 Φ1 u = Φ1 u + λ Φ1 u
Ω ΩZ Ω

> λ Φ1 u car u > 0 et Φ1 > 0.

Ω

Et donc λ < λ1 .

La démonstration du théorème (2.2) est donc complète.

24
Chapitre 3

Le cas critique

Dans ce chapitre, nous étudions toujours le problème


 −∆u = up + λu dans Ω,
(P) u > 0 dans Ω,
u = 0 sur ∂Ω,


mais à présent avec p = 2∗ − 1 = NN +2

−2
. On définit Ω, un domaine de RN
de classe C 2 . Etonnamment, les cas N = 3 et N ≥ 4 sont différents et ne
mènent pas aux mêmes résultats :

Théorème 3.1 Quand N ≥ 4 et que Ω est borné,

1. si λ ∈
/ (0, λ1 (Ω)) et si Ω est étoilé, le problème (P) ne possède pas de
solution ;
2. si λ ∈ (0, λ1 (Ω)), le problème (P) possède une solution u ∈ C ∞ .

Théorème 3.2 Quand N = 3, on se restreint au cas où Ω est une boule.

Dans ce cas, le problème (P) possède une solution u ∈ C ∞ si et seulement
si λ ∈ ( λ14(Ω) , λ1 (Ω)).

Il est bon de mentionner (nous ne le démontrerons pas) que Brézis et

Nirenberg ont aussi prouvé dans [9] qu’étant donné un domaine borné quel-
conque Ω ⊂ R3 , il existe un réel λ∗ (Ω) ∈ (0, λ1 (Ω)) tel que le problème
(P) possède une solution si et seulement si λ ∈ (λ∗ (Ω), λ1 (Ω)). On retrouve
évidemment λ∗ (Ω) = 41 λ1 (Ω) dans le cas où Ω est une boule.

3.1 Preuve du point 1 du théorème (3.1)

Soit Ω un domaine étoilé. Supposons que λ ∈
/ (0, λ1 (Ω)). On peut appli-
quer le même argument que précédemment (preuve du théorème (2.2)) pour

25
montrer que si λ > λ1 (Ω), le problème P n’a pas de solution (l’exposant p
n’intervient pas). On peut donc supposer que λ ≤ 0.

Lemme 3.1.1 (Identité de Pohozaev) Soit u ∈ C 2 (Ω̄) une solution de


 −∆u = g(u) dans Ω,
(Q) u > 0 dans Ω,
u = 0 sur ∂Ω,


Ru
avec g une fonction continue sur R et Ω borné. Posons G(u) = 0
g(s)ds.
Alors Z Z Z
2N G(u) − (N − 2) g(u) · u = (x · ν) |∇u|2 ,
Ω Ω ∂Ω

où ν = ν(x) est le vecteur normal extérieur unitaire à ∂Ω en x.

Démonstration du lemme (3.1.1).

D’une part on a
N
X ∂
div (xG(u)) − N G(u) = (xG(u))j − N G(u)
j=1
∂x j

N  
X ∂xj ∂G
= G(u) + xj − N G(u)
j=1
∂xj ∂xj
N
X ∂G ∂u
= xj
j=1
∂u ∂x j

= g(u) x · ∇u. (3.1)

D’autre part
!
|∇u|2 N −2
div ∇u x · ∇u − x + |∇u|2 = div (∇u x · ∇u) − |∇u|2
2 2
!
|∇u|2
−x · ∇
2
= ∆u x · ∇u. (3.2)

Comme u est solution du problème (Q), on a

∆u x · ∇u = −g(u) x · ∇u,

26
c’est à dire, en utilisant (3.1) et (3.2) :
!
2 Z  
|∇u| N −2
Z
2
div ∇u x · ∇u − x + xG(u) dx = N G(u) − |∇u| dx.
Ω 2 Ω 2

Puis par le théorème de la divergence,

Z " #
|∇u|2
Z
(∇u · ν) (x · ∇u) − (x · ν) + (x · ν) G(u) dx = N G(u)
∂Ω 2 Ω

N −2
Z
− |∇u|2 dx.
2 Ω

Or u ≡ 0 sur ∂Ω, et donc G(u) aussi :

Z " #
|∇u|2 N −2
Z Z
(∇u · ν) (x · ∇u) − (x · ν) dx = N G(u) − |∇u|2 dx.
∂Ω 2 Ω 2 Ω

Observant que (∇u · ν) ν = ∇u sur ∂Ω, on obtient enfin

N −2
Z Z Z
1 2
(x · ν) |∇u| dx = N G(u) − |∇u|2 dx,
2 ∂Ω Ω 2 Ω
ce qui conclut la preuve du lemme.
2
Ce lemme appliqué à g(u) = up + λu donne, en remarquant que |∇u|2 =
∂u 2


∂ν
sur ∂Ω :
Z Z  2
2 1 ∂u
λ u = (x · ν) . (3.3)
Ω 2 ∂Ω ∂ν
Si on suppose que Ω est étoilé par rapport à l’origine, alors (x · ν) ≥ 0 pour
presque tout x ∈ ∂Ω. Quand λ < 0, il résulte immédiatement de (3.3) que
u ≡ 0. Quand λ = 0, on déduit de (3.3) que ∂u ∂ν
= 0 sur ∂Ω. Dès lors, par
Théorème 3.1.2 (Principe du maximum de Hopf ) Soit Ω un domaine
borné de classe C 1 . Si u ∈ C 2 (Ω) ∩ C(Ω̄) est une solution du problème

 −∆u = h(u) ≥ 0 dans Ω,

u = 0 sur ∂Ω,


qui vérifie ∂u
∂ν
= 0 (où ∂u
∂ν
est la dérivée normale extérieure de u), alors u est
constante sur Ω.

27
on concult que u ≡ 0.

Remarque 3.1 La situation est fort différente lorsque Ω n’est pas étoilé.
Par exemple, lorsque Ω est un anneau, Kadzan et Warner ont montré dans
[23] qu’il existe une solution radiale pour tout λ ∈ (−∞, λ1 ).

3.2 Remarques et résultats préalables

Pour Ω un domaine quelconque de RN , on pose
n o
Sλ = inf1 k∇uk2L2 (Ω) − λ kuk2L2 (Ω) .
u∈H0 (Ω)
kukLp+1 (Ω) =1

Ainsi, n o
S0 = S = inf1 k∇uk2L2 (Ω)
u∈H0 (Ω)
kukLp+1 (Ω) =1

correspond à la meilleure constante pour l’immersion de Sobolev H01 (Ω) ,→

Lp+1 (Ω) (voir théorème (1.2.4)).

On va prouver certains résultats concernant S :

Proposition 3.2.1 S est indépendant de Ω et ne dépend que de N .

Démonstration de la Proposition (3.2.1).

On peut supposer sans perte de généralité que 0 ∈ Ω. Puisque c’est un ou-
vert, il existe un δ > 0 tel que B = B(0, δ) ⊂ Ω. On voit directement que
S(B) ≥ S(Ω). Montrons qu’on a aussi S(B) ≤ S(Ω).

Puisque S est un infimum, pour tout  > 0 il existe un u ∈ H01 (Ω) tel que

k∇uk2L2 (Ω)
= S(Ω) + . (3.4)
kuk2Lp+1 (Ω)

On pose 
u sur Ω,
ũ =
0 sur RN \ Ω,
et
uk (x) = ũ(kx)

28
avec k assez grand pour que uk ∈ H01 (B). On obtient alors

k∇uk k2L2 (B) |∇ũ(kx)|2 dx

R
B
S(B) ≤ =
kuk k2Lp+1 (B) R
2
|ũ(kx)|p+1 dx p+1
B

|∇u(kx)|2 dx
R
Ω
= 2
R p+1
p+1
Ω
|u(kx)| dx
k 2 Ω |∇u(y)|2 dy k −N
R
=
2
R p+1 −N p+1
Ω
|u(y)| dy k
|∇u(y)|2 dy
R
Ω −2N
= 2 car 2 − N =
R
|u(y)|p+1 dy p+1

p+1
Ω

k∇uk2L2 (Ω)
= = S(Ω) + 
kuk2Lp+1 (Ω)

Comme  est arbitraire, on obtient

S(B) = S(Ω).

Proposition 3.2.2 L’infimum S n’est jamais atteint quand Ω est un do-

maine borné.

Démonstration de la proposition (3.2.2).

Par l’absurde, supposons que S est atteint par un certain u ∈ H01 (Ω) pour
Ω borné. Supposons que u ≥ 0 dans Ω (si ce n’est pas le cas, on remplace u
par |u|). Soit une boule Ω̃ qui contient strictement Ω. On pose alors

u sur Ω,
ũ =
0 sur Ω̃ \ Ω.

Donc S est aussi atteint sur Ω̃ par ũ, et par un raisonnement identique à celui
utilisé au chapitre 2 (preuve du théorème (2.2)), ũ satisfait −∆ũ = µũp pour
une constante µ > 0. Ceci contredit le principe du maximum fort (théorème
(2.1.2)) puisque ũ s’annule autre part que sur ∂ Ω̃.

29
Théorème 3.2.3 (Aubin, Talenti) Quand Ω = RN , l’infimum S est at-
teint par l’instanton
1
U (x) = N −2 .
2
2
1 + |x|
La démonstration de ce théorème nécessite la
Proposition 3.2.4 (P.L. Lions) Pour u ∈ H 1 (RN ), on pose
N −2
uy,σ (x) = σ 2 u(σx + y).
Soit (un ) ∈ H 1 (RN ) une suite minimisante pour S. Alors il existe une suite
(yn , σn ) ∈ RN × (0, +∞) telle que (uynn ,σn ) contient une sous-suite conver-
geante dans H 1 (RN ). En particulier S est atteint.
Avant d’entamer la preuve de cette proposition, on considère certaines pro-
priétés des mesures :
Lemme 3.2.5 (Lemme de concentration-compacité) Soit (un ) ∈ H 1 (RN )
une suite telle que
un * u dans H 1 (RN ), (3.5)
|∇ (un − u)|2 * µ dans M(RN ), (3.6)
∗
|un − u|2 * ν dans M(RN ), (3.7)
un → u presque partout dans RN . (3.8)
Posons
Z Z
2 ∗
µ∞ = lim lim sup |∇un | dx et ν∞ = lim lim sup |un |2 dx.
R→∞ n→∞ |x|≥R R→∞ n→∞ |x|≥R

Alors on a
2
2∗
kνkM(R N) ≤ S −1 kµkM(RN ) , (3.9)

2
2∗
ν∞ ≤ S −1 µ∞ , (3.10)

lim sup k∇un k2L2 (RN ) = k∇uk2L2 (RN ) + kµkM(RN ) + µ∞ , (3.11)

n→∞

∗ ∗
et lim sup kun k2L2∗ (RN ) = kuk2L2∗ (RN ) + kνkM(RN ) + ν∞ . (3.12)
n→∞
2
2∗ −1
De plus, si u = 0 et kνkM(R N) = S kµkM(RN ) , alors ν et µ sont concentrées
en un point.

30
Pour la preuve de ce lemme, nous allons suivre la démonstration de Willem
dans [31].

Démonstration du lemme (3.2.5) .

On fixe la notation suivante :

Ξ = h ∈ Cc2 (RN ) | khkL∞ = 1 .



1. Supposons d’abord u = 0. Soit h ∈ Ξ. Appliquons l’inégalité de Sobolev

(voir théorème (1.2.4)) à hun , qui est dans H01 (B(0, r)) pour un certain
rayon r :
Z  22∗ Z
2∗
|hun | dx ≤ S −1
|∇ (hun )|2 dx
RN RN
Z
= S −1
|∇hun + ∇un h|2 dx
RN
Z Z
−1 2 2
= S |h| |∇un | dx + 2h∇h un ∇un dx
RN RN
Z 
2 2
+ |∇h| |un | dx ,
RN

qui peut aussi être écrit

D E 22∗ Z
2∗ 2∗ −1 2 2 −1
|un | , |h| ≤ S |∇un | , |h| + S 2h∇h un ∇un dx
RN
Z
+S −1
|∇h|2 |un |2 dx.
RN

Passons à présent à la limite pour n → ∞ :

D E D E
2∗ 2∗ 2∗
|un | , |h| → ν, |h| par (3.7) ,
|∇un |2 , |h|2 → µ, |h|2 par (3.6) et
Z
2h∇h un ∇un dx
RNZ

+ |∇h|2 |un |2 dx → 0 car un → 0 dans L2loc (RN ).

RN

On a donc D E 22∗
2∗
ν, |h| ≤ S −1 µ, |h|2 . (3.13)

31
 Par la définition de la norme sur M(RN ), il vient

µ, |h|2 ≤ kµkM(RN ) .

Ainsi, en prenant le supremum sur l’ensemble Ξ dans l’équation (3.13),

on obtient bien l’inégalité (3.9).
2. Soit R > 1, définissons ψR ∈ C 1 (RN ) par :

1 si |x| > R + 1,
ψR (x) =
0 si |x| < R.

et 0 ≤ ψR (x) ≤ 1 ailleurs.
Comme |ψR u| ≤ |u|, on a ψR u ∈ H 1 (RN ). On peut donc lui appliquer
l’inégalité de Sobolev et par un raisonnement identique au point (1)
obtenir
Z  22∗ Z
2∗
lim sup |ψR un | dx −1
≤ S lim sup |ψR ∇un |2 dx. (3.14)
n→∞ RN n→∞ RN

Par déf de ψR , on a aussi

Z Z
2 2 2
|∇un |2 dx et
R
|∇un | dx ≤ RN |∇un | ψR dx ≤
|x|>R+1 |x|>R
Z Z
∗ ∗ ∗ ∗
|un |2 dx ≤ RN |un |2 ψR2 dx ≤ |un |2 dx.
R
|x|>R+1 |x|>R

Dès lors, on remarque d’après les définitions :

Z
µ∞ = lim lim sup |∇un |2 dx
R→∞ n→∞
Z|x|≥R
= lim lim sup |∇un |2 ψR2 dx
R→∞ n→∞ RN

et
Z
∗
ν∞ = lim lim sup |un |2 dx
R→∞ n→∞ |x|≥R
Z
∗ ∗
= lim lim sup |un |2 ψR2 dx.
R→∞ n→∞ RN

En réinjectant ceci dans (3.14), on obtient (3.10).

32
3. Au point (1), on avait montré
Z  22∗ Z
2∗
|h| dν ≤S −1
|h|2 dµ ∀h ∈ Ξ. (3.15)
RN RN

Utilisons l’inégalité de Hölder :

Z Z 2∗
 22∗ Z 1− 22∗
2 2
2
|h| dµ ≤ |h| dµ dµ
RN RN RN
Z  22∗ Z  N2
2∗
= |h| dµ dµ
RN RN
Z  22∗
2
2∗
= |h| dµ kµkM(R
N
N) ,
RN

d’où
Z  22∗ Z  22∗
2
2∗ −1 2∗
|h| dν ≤S |h| dµ kµkM(R
N
N) ,
RN RN

et donc
Z  21∗ Z  21∗
1
2∗ − 12 2∗
|h| dν ≤ S |h| dµ kµkM(R
N
N)
RN RN
 21∗
2∗
Z
∗
2∗ − 22
= |h| S kµkM(RN ) dµ
N
,
RN

qui peut être réécrit

E 21∗  21∗
2∗

2∗
D
2∗ 2 ∗
ν, |h| ≤ S − 2 kµkM(R
N
N ) µ, |h| ∀h ∈ Ξ. (3.16)

2
2∗ −1
Supposons maintenant que kνkM(R N) = S kµkM(RN ) . L’inégalité de
ci-dessus devient alors une égalité. En effet, si on avait
D E1 
∗ 2∗

2 ∗ 2∗ − 22 2 ∗
ν, |h| < S kµkM(R
N
N ) µ, |h| ∀h ∈ Ξ,

alors pour le supΞ , on aurait

1
1 ∗ 2∗ 2∗
2∗ − 22
kνkM(RN ) < S kµkM(RN ) µ
N

M(RN )
∗
( 2N +1) 22∗
= S −1 kµk M(RN )
= S −1 kµkM(RN ) ,

33
ce qui contredit l’hypothèse que nous venons de faire. On a donc bien
égalité dans (3.16) et par le théorème (1.4.2), on obtient
∗ 2∗ 2∗
2
− 22
ν=S kµkM(RN ) µ = S − 2 kµkM(R
N N −2
N ) µ. (3.17)

Injectons ceci dans (3.15) :

Z  22∗ Z
2∗
|h| dν ≤ S −1
|h|2 dµ
RN RN
Z −2
2∗
≤ S −1
|h|2 S
N −2
kµkM(R N ) dν
2

R N
−2
Z
2∗
= S 2
−1 N −2
kµkM(RN ) |h|2 dν.
RN
2
2∗ −1
Or kνkM(R N) = S kµkM(RN ) , et donc
Z  22∗ Z
2∗ 2∗ ∗ −2
−1− 2N
|h| dν ≤ S 2 kνkM(RN ) |h|2 dν
N

RN RN
−2
Z
= kνkM(R
N
N) |h|2 dν
RN
∗ ∗
car 22 − 1 − 2N = 0. R
Remarquons que kνkM(RN ) = RN dν = ν(RN ) au sens ensembliste du
terme. Soit Θ un ouvert tel que ν(Θ) > 0. En choisissant pour h la
régularisation de la fonction indicatrice de Θ, on obtient
1 1 1
ν(Θ) 2∗ ν(RN ) N ≤ ν(Θ) 2

et ainsi
ν(RN ) ≤ ν(Θ) et donc ν(RN ) = ν(Θ). (3.18)
On veut montrer à présent que ν est concentrée en un point. Par l’ab-
surde, si ce n’est pas le cas, il existe deux points distincts x et y dans
RN tels que {x, y} ⊂ supp(ν). On a alors une fonction φx à support
dans un voisinage ouvert Vx de x telle que hν, φx i = 6 0. De même pour
y : φy est à support dans Vy et hν, φy i = 6 0. Puisque x 6= y, on peut
prendre Vx et Vy disjoints. On a donc trouvé deux ouverts disjoints de
mesure non nulle, ce qui est une contradiction avec (3.18) puisqu’on a

ν(Vx ) = ν(RN ) > 0,

ν(Vy ) = ν(RN ) > 0,
ν(Vx ∪ Vy ) = ν(Vx ) + ν(Vy ) = ν(RN ) > 0.

34
 On a donc bien que ν est concentrée en un point. On peut dire la même
chose de µ en vertu de (3.17).
4. Revenons au cas général où u est non nulle. Posons vn = un − u. On a
ainsi vn * 0 dans H 1 (RN ) et donc par le lemme (1.2.7)
Z Z  Z
2 2
h |∇un | − h |∇vn | → h |∇u|2 ∀h ∈ Ξ,
RN RN Ω

c’est à dire
|∇un |2 * µ + |∇u|2 dans M(RN ).
En appliquant le lemme (1.5.1), on obtient
Z Z Z 
2∗ 2∗ 2∗
h |u| = lim h |un | − h |vn | .
Ω n→∞ Ω Ω

∗ ∗ ∗
Or limn→∞ Ω h |vn |2 = ν car |vn |2 * ν dans M(RN ). Donc |un |2 *
R
∗
ν + |u|2 dans M(RN ).
On applique alors le cas d’une limite nulle (point (1)) à vn et on obtient
(3.9) de l’inégalité correspondante pour vn .
5. On a par le lemme (1.2.7)
Z Z Z 
2 2 2
lim sup |∇vn | = lim sup |∇un | − |∇u| .
n→∞ |x|>R n→∞ |x|>R |x|>R

En passant à la limite :
Z Z
2
lim lim sup |∇vn | = lim lim sup |∇un |2 = µ∞ .
R→∞ n→∞ |x|>R R→∞ n→∞ |x|>R

De façon équivalente, par le lemme (1.5.1) :

Z Z Z 
2∗ 2∗ 2∗
|u| = lim sup |un | − |vn | .
|x|>R n→∞ |x|>R |x|>R

En passant à la limite :
Z
∗
lim lim sup |vn |2 = ν∞ .
R→∞ n→∞ |x|>R

On déduit alors (3.10) de l’inégalité correspondante pour vn .

35
 6. Soit R > 1, définissons ψR ∈ C 1 (RN ) comme au point (2). On a
Z Z Z 
2 2 2
lim sup |∇un | = lim sup ψR |∇un | + (1 − ψR ) |∇un |
n→∞ Ω n→∞ Ω
Z ZΩ
ψR |∇un |2 + (1 − ψR ) |∇un |2 − |∇u|2


= lim sup
n→∞ Ω Ω
Z 
+ (1 − ψR ) |∇u|2
Ω
Z Z
2
= lim sup |∇un | + (1 − ψR ) dµ
n→∞ Ω
Z  Ω
+ (1 − ψR ) |∇u|2 + o(1)
Ω

car
h|∇un |2 − |∇u|2 , 1 − ψR i → hµ, 1 − ψR i .
Puisque ψR ≤ 1, tous les termes dans les intégrales sont majorés par
une fonction ∈ L1 (RN ) indépendante de R. On peut donc passer à la
limite sur R et appliquer le théorème de la convergence dominée de
Lebesgue :
Z Z Z
lim sup |∇un | = µ∞ + dµ + |∇u|2
2
n→∞ Ω Ω Ω

car ψR → 0 pour R → ∞. En utilisant le théorème (1.4.5), on obtient

bien l’égalité (3.11) souhaitée.
La preuve de l’égalité (3.12) est exactement la même que celle que nous
venons de donner.

Démonstration de la proposition (3.2.4).

Nous suivrons à nouveau [31] pour cette preuve.
Posons Z
∗
Qn (σ) = sup |un |2 .
y∈RN B(y,σ)

Par l’absolue continuité de l’intégrale de Lebesgue,

lim Qn (σ) = 0,
σ→0+
lim Qn (σ) = 1,
σ→∞

36
et donc il existe un σn tel que Qn (σn ) = 21 . De même, puisque
Z
∗ ∗
lim |un |2 = 0 car un ∈ L2 ,
|y|→∞ B(y,σn )

il existe un yn ∈ RN tel que

Z
∗ 1
|un |2 = = Qn (σn ).
B(yn ,σn ) 2

Soit vn = uynn ,σn . Un calcul direct établit que

kvn kL2∗ (RN ) = kun kL2∗ (RN ) = 1 (3.19)

et k∇vn kL2 (RN ) = k∇un kL2 (RN ) → S. (3.20)

Dès lors,
Z Z Z
1 2∗ 2∗ ∗
= |un | = |vn | = sup |vn |2 . (3.21)
2 B(yn ,σn ) B(0,1) y∈RN B(y,1)

L’équation (3.20) montre que vn est bornée dans H 1 (RN ), ce qui entraı̂ne
qu’il existe une sous-suite (renommée vn ) et v ∈ H 1 (RN ) tel que vn * v dans
H 1 (RN ), et donc vn → ∗v presque partout dans RN . Pour la même raison,
|∇(vn − v)|2 et |vn − v|2 sont bornées dans L1 (RN ) et donc dans M(RN ),
d’où (en vertu du théorème (1.4.3)) il existe µ et ν telles que |∇(vn − v)|2 * µ
2∗
et |vn − v| * ν dans M(RN ). On applique alors le lemme (3.2.5), ou plus
précisément le résultat (3.11) :

lim sup k∇vn k2L2 (RN ) = k∇vk2L2 (RN ) + kµkM(RN ) + µ∞ .

n→∞

Donc par (3.20)

S = k∇vk2L2 (RN ) + kµkM(RN ) + µ∞ . (3.22)
De même, en utilisant (3.12) et (3.19) :
∗
1 = kvk2L2∗ (RN ) + kνkM(RN ) + ν∞ . (3.23)

En combinant (3.22), les résultats (3.9) et (3.10) et l’inégalité de Sobolev

S kvk2L2∗ (RN ) ≤ k∇vk2L2 (RN ) , on obtient
 2 2 
S kvk2L2∗ (RN ) + kνkM(R
2∗ 2∗
N ) + ν∞ ≤S

37
ou (puisque bien sûr S 6= 0)
 ∗
 22∗ 2 2
kvk2L2∗ (RN ) 2∗
+ kνkM(R 2∗
N ) + ν∞ ≤ 1. (3.24)
∗
Couplée à (3.23), cette inéquation montre que parmi kvk2L2∗ (RN ) , kνkM(RN )
et ν∞ , l’un est égal à 1 et les autres sont nuls. Les équations (3.21) et (3.19)
impliquent que ν∞ ≤ 12 et donc que ν∞ = 0. Supposons par l’absurde que
c’est kνkM(RN ) qui vaut 1. Alors on a kvkL2∗ (RN ) = 0 ⇒ v ≡ 0. En reprenant
(3.22), on a aussi, puisque v ≡ 0 ⇒ µ∞ = 0,

S = kµkM(RN ) ,

ce qui nous donne

2
2∗ −1
kνkM(R N) = S kµkM(RN ) ,
c’est à dire l’hypothèse supplémentaire du lemme (3.2.5). Celui-ci dit dans
ce cas (puisque v = 0) que ν est concentrée en un seul point z. Soit ψz ∈
Cc∞ (RN ) une fonction qui vaut 1 sur B(z, 21 ) et 0 sur RN \B(z, 34 ). L’équation
(3.21) nous donne
Z
1 ∗
= sup |vn |2
2 y∈RN B(y,1)
Z
∗
≥ |vn |2
B(z,1)
Z
∗
≥ ψz |vn |2
RN
∗
= h|vn |2 , ψz i → hν, ψz i = 1 car ν est concentrée en z,

d’où une contradiction. Il suit finalement que kvkL2∗ (Ω) = 1 et kνkM(RN ) = 0.

On a alors
k∇vk2L2 (RN ) = S = lim k∇vn k2L2 (RN ) ,
n→∞

ce qui conclut la preuve de la proposition (3.2.4).

Démonstration du théorème (3.2.3).

Par le théorème (3.2.4), il existe un minimiseur u ∈ H 1 (RN ) pour l’infimum
S. Par le théorème (1.6.3), ce u est à symétrie radiale. On peut supposer que
u ≥ 0 (sinon on remplace u par |u|, voir le théorème (1.2.1)).

38
On applique ensuite le théorème des multiplicateurs de Lagrange (2.1.1) et
on obtient un β > 0 tel que u est solution de
N +2
−∆u = βu N −2 ,

ou, après un “stretching”,

N +2
−∆u = u N −2 . (3.25)
On applique le théorème de Brézis Kato (3.5.1) à u et on voit que u ∈
C (RN ). Le principe du maximum fort (théorème (2.1.2)) implique que u > 0
2

sur RN .

On choisit alors un  > 0 tel que, pour

2−N x
U (x) =  2 U ( ),

on ait
U (0) = u(0).
Soit le problème de Cauchy
 N +2
∂r rN −1 ∂r v = rN −1 v N −2 ,




r > 0,

(C)

 v(0) = u(0),

∂r (0) = 0.

L’équation différentielle du problème (C) n’est autre que l’EDP (3.25) ex-
primée en coordonnées radiales. u est donc solution de (C), tout comme U
(un calcul direct le montre). Par unicité de la solution à un tel problème de
Cauchy, il suit U = u. Puisque

k∇U k2L2 (RN ) k∇U k2L2 (RN )

= ,
kU k2L2∗ (RN ) kU k2L2∗ (RN )

S est bien atteint par U.

2

3.3 Preuve du point 2 du théorème (3.1)

Soit Ω un domaine de classe C 2 . La preuve de l’existence de solutions au
problème (P) s’articule en deux étapes que nous formulerons sous forme de
lemmes :

39
Lemme 3.3.1 On a
Sλ < S ∀λ > 0.

Lemme 3.3.2 Si Sλ < S et λ < λ1 (Ω), l’infimum Sλ est atteint.

Démonstration du lemme (3.3.1).

Supposons sans perte de généralité que 0 ∈ Ω. Soit φ ∈ Cc∞ (Ω) une fonction
positive telle que φ(x) ≡ 1 dans un voisinage de 0. Nous allons estimer le
quotient
k∇uk2L2 (Ω) − λ kuk2L2 (Ω)
Qλ (u) =
kuk2Lp+1 (Ω)
avec
φ(x)
u(x) = u (x) =
N −2 ,
 + |x|2 2
où  > 0 tend vers 0, pour obtenir
 N −2
 S + O ( 2 ) − λ K K2
3
 si N ≥ 5,
Qλ (u ) =
ω
S + O () − λ 2K  |ln()| si N = 4,

2

où ω, K2 et K3 sont des constantes positives indépendantes de .

1. On calcule

∇φ(x) (N − 2)φ(x)x
∇u (x) = N −2 −
N
 + |x|2 2  + |x|2 2

|∇φ(x)|2 dx (φ(x))2 |x|2 dx

Z Z Z
2 2
|∇u | = + (N − 2)
2
N −2
N
Ω Ω  + |x| Ω  + |x|2
|∇φ(x)| φ(x) |x| dx
Z
− 2(N − 2)
N −1
Ω  + |x|2

Près de 0, φ ≡ 1 et donc ∇φ ≡ 0. On a donc

|∇φ(x)|2 dx
Z
lim
N −2 ≤ C
→0 Ω
 + |x|2
et
|∇φ(x)| φ(x) |x| dx
Z
lim ≤ C0
→0 2
N −1
Ω  + |x|

40
 pour des constantes positives C et C 0 indépendantes de . On obtient

(φ(x))2 |x|2 dx
Z Z
2 2
|∇u | = (N − 2)
N + O (1)
Ω Ω  + |x|2
|x|2 dx
Z
2
= (N − 2)
N
Ω  + |x|2
(φ(x))2 − 1 |x|2 dx
Z

+ (N − 2)2
N + O (1)
Ω  + |x|2
| {z }
O (1) car φ2 −1≡0 près de 0

|x|2 dx
Z
2
= (N − 2)
N + O (1)
Ω  + |x|2
|x|2 dx
Z
2
= (N − 2)
N
RN  + |x|2
|x|2 dx
Z
2
− (N − 2)
N + O (1)
RN \Ω  + |x|2
| {z }
/ RN \Ω
O (1) car 0 ∈

|x|2 dx
Z
2
= (N − 2)
N + O (1)
RN  + |x|2
N
 |y|2  2 dy
Z
2 x
= (N − 2) N
+ O  (1) en posant y = √
N 1 + |y|2 


RN

K1
= N −2 + O (1), (3.26)
 2

où
|y|2 dy
Z
K1 = = k∇U k2L2 (RN ) (U est l’instanton).
2
N
RN 1 + |y|

2. On a

41
 (φ(x))p+1 dx (N − 2)
Z Z
p+1
|u | =
N car (p + 1) = N
Ω Ω  + |x|2 2

(φ(x))p+1 − 1 dx
Z
Z
dx
= +
2
N 2
N
Ω  + |x| Ω  + |x|
| {z }
O (1) car φp+1 −1≡0 près de 0
Z
dx
=
N + O (1)
Ω  + |x|2
Z Z
dx dx
= −
N + O (1)
2
N
RN  + |x| RN \Ω  + |x|2
| {z }
/ RN \Ω
O (1) car 0 ∈
Z
dx
=
N + O (1)
RN  + |x|2
Z N
 2 dy x
= N
+ O (1) en posant y = √
1 + |y|2 


RN N
K20
= N + O (1), (3.27)
2
où Z
dy
K20 = = kU kp+1
Lp+1 (RN )
.
2
N
RN 1 + |y|
Il vient ainsi Z 2
 p+1
p+1 K2
|u | = N −2 + O (). (3.28)
Ω  2

2
en posant K2 = (K20 ) p+1 et en calculant (par la formule des accroisse-
ments finis) que
2 2
K20 K20
  p+1   p+1
2
N + O (1) = N + O (1) (b ) p+1 −1 ,
 2  2

42
 où
2
−1
K20
  p+1
2
−1
|b | p+1 ≤ N + O (1)
2
2
 −N
 p+1 −1
≤ O ( 2 )
= O ().

Donc on a bien (3.28).

3. On a
(φ(x))2 − 1 dx
Z Z
Z
dx
|u |2 = −2
+
N 2
N −2
 + |x|2


Ω Ω Ω  + |x|
| {z }
O (1) car φ2 −1≡0 près de 0
Z
dx
=
N −2 + O (1). (3.29)
Ω  + |x|2

R rN −1les cas N = 4 et N ≥ 5. En effet, on

On doit ici traiter différemment
remarque que l’intégrale Ω r2(N −2) existe ssi 2(N − 2) − (N − 1) > 1,
c’est à dire ssi N > 4.
Quand N ≥ 5, (3.29) devient
Z Z Z
2 dx dx
|u | = −2
+ + O (1)
2
N 2
N −2
Ω RN  + |x| RN \Ω  + |x|
| {z }
/ RN \Ω
O (1) car 0 ∈
Z N
 2 dy x
= + O (1) en posant y = √
2
N −2 
RN N −2 1 + |y|
K3
= N −4 + O (1), (3.30)
 2

où Z
dy
K3 =
N −2 .
RN 1 + |y|2
Quand N = 4, (3.29) se réécrit
Z Z
2 dx
|u | =
2 + O (1).
Ω Ω  + |x|2

43
 Puisque 0 ∈ Ω et que Ω est un ouvert borné, il existe deux constantes
0 < R1 < R2 telles que B(0, R1 ) ⊂ Ω ⊂ B(0, R2 ). Il vient que
Z Z Z
dx dx dx
2
2 ≤ 2
2 ≤ 2
2
.
B(0,R1 )  + |x| Ω  + |x| B(0,R2 )  + |x|

Or
R
r3 dr
Z Z
dx

2 = ω 2 où ω est l’aire de la sphère S 3
B(0,R)  + |x|2 2
0 ( + r )
 Z R Z R
4r3 + 4r

1 r
= ω dr − dr
4 0 r4 + 2r2  + 2 2 2
0 ( + r )
 R !
1 4 2 2 R
 1 
= ω ln(r + 2r  +  ) 0 +
4 2  + r2 0
 
1 4 2 2 1 2 1  1 
 4 ln(R + 2R  +  ) − 4 ln( ) + 2  + R2 − 2 
= ω 
| {z } | {z } |{z}
O (1) O (1) O (1)

ω
= |ln()| + O (1). (3.31)
2
Et par conséquent
Z
dx ω
2
2
= |ln()| + O (1).
Ω  + |x| 2

Pour résumer, nous avons montré qu’il existe des constantes K1 , K2 , K3 et

ω (qui ne dépendent que de N ) telles que

K1
k∇u k2L2 (Ω) = N −2 + O (1),
 2

K2
ku k2Lp+1 (Ω) = N −2 + O (),
 2
 K3
  N2−4 + O (1) si N ≥ 5,
ku k2L2 (Ω) =
 ω
2
|ln()| + O (1) si N = 4.

On peut dès lors écrire

44
 k∇u k2L2 (Ω) − λ ku k2L2 (Ω)
Qλ (u ) =
ku k2Lp+1 (Ω)

 !
K1 K3

 N −2 + O (1)−λ N −4 + O (1)
 2  2
si N ≥ 5


 K2
 N −2 + O ()
=  2

 K1
+ O (1)−λ( ω |ln()| + O (1))

  2
si N = 4

 K2

+ O ()

N −2

K1 −λK3  + O ( 2 )


 N si N ≥ 5
K2 + O ( 2 )
=
K1 −λ ω

 |ln()| + O ()
 2
K2 + O (2 )
si N = 4

 N −2
 S + O ( 2 ) − λ K3
K2
 si N ≥ 5
=
ω
S + O () − λ 2K  |ln()| si N = 4

2

K1
puisque K 2
= S et en utilisant K21+x = K12 + x(. . . ).
Il est à présent clair que Qλ (u ) < S si  est suffisemment petit, ce qui montre
bien que Sλ < S.
2
Démonstration du lemme (3.3.2).
Soit uj ∈ H01 (Ω) une suite minimisante pour Sλ , c’est à dire
kuj kLp+1 (Ω) = 1 (3.32)

et lim k∇uj k2L2 (Ω) − λ lim kuj k2L2 (Ω) = Sλ . (3.33)

j→∞ j→∞

On remarque grâce au théorème de Poincaré (1.2.6) que la suite uj est bornée

dans H01 (Ω). Par conséquent, en vertu du théorème (1.1.2), il existe une sous-
suite (renommée uj ) et un u ∈ H01 (Ω) tel que
uj * u dans H01 (Ω), (3.34)
uj → u dans L2 (Ω), (3.35)
uj → u presque partout dans Ω. (3.36)

45
On pose vj = uj − u, de telle sorte que

vj * 0 dans H01 (Ω),

vj → 0 presque partout dans Ω.

L’équation (3.32) et la définition de l’infimum S impliquent que

S ≤ k∇uj k2L2 (Ω) . (3.37)

Soustrayons à présent (3.33) à la limite de (3.37) :

S − Sλ ≤ λ lim kuj k2L2 (Ω) = λ kuk2L2 (Ω)

j→∞

par (3.35). Par hypothèse, S − Sλ > 0, et nous pouvons donc conclure que
u 6≡ 0.
Ensuite, d’une part on a vj * 0 dans H01 (Ω), donc par le théorème (1.2.7) :

lim k∇vj k2L2 (Ω) = lim k∇uj k2L2 (Ω) − k∇uk2L2 (Ω) .
j→∞ j→∞

On réinjecte ceci dans (3.33) :

k∇uk2L2 (Ω) + lim k∇vj k2L2 (Ω) − λ kuk2L2 (Ω) = Sλ . (3.38)

j→∞

D’autre part, vj est borné dans Lp+1 (Ω) (car uj l’est) et vj → 0 presque
partout dans Ω ; on peut donc appliquer le lemme de Brézis-Lieb (1.5.1) :

lim ku + vj kp+1 p+1 p+1

Lp+1 (Ω) = kukLp+1 (Ω) + lim kvj kLp+1 (Ω) .
j→∞ j→∞

Or u + vj = uj et kuj kLp+1 (Ω) = 1, donc

1 = kukp+1 lim kvj kp+1

Lp+1 (Ω) + j→∞ Lp+1 (Ω) .
| {z } | {z }
∈[0,1]
∈[0,1]

D’où, puisque 2 < p + 1,

kukp+1 2
Lp+1 (Ω) ≤ kukLp+1 (Ω)

et lim kvj kp+1 2

Lp+1 (Ω) ≤ lim kvj kLp+1 (Ω) .
j→∞ j→∞

Et ainsi
1 ≤ kuk2Lp+1 (Ω) + lim kvj k2Lp+1 (Ω) .
j→∞

46
On utilise alors l’inégalité de Sobolev kvj k2Lp+1 (Ω) ≤ S1 k∇vj k2L2 (Ω) (voir (1.2.4))
et on obtient
1
1 ≤ kuk2Lp+1 (Ω) + lim k∇vj k2L2 (Ω) . (3.39)
S j→∞
On veut montrer que
k∇uk2L2 (Ω) − λ kuk2L2 (Ω) ≤ Sλ kuk2Lp+1 (Ω) , (3.40)
ce qui conclura la preuve du lemme puisque u 6≡ 0.
Pour cela, on distingue deux cas :
– soit Sλ > 0. On déduit alors de (3.39)
Sλ
Sλ ≤ Sλ kuk2Lp+1 (Ω) + lim k∇vj k2L2 (Ω) .
S j→∞
Or Sλ < S, donc
Sλ ≤ Sλ kuk2Lp+1 (Ω) + lim k∇vj k2L2 (Ω) .
j→∞

En combinant ceci avec (3.38), on a

k∇uk2L2 (Ω) + lim k∇vj k2L2 (Ω) −λ kuk2L2 (Ω) ≤ Sλ kuk2Lp+1 (Ω) + lim k∇vj k2L2 (Ω) ,
j→∞ j→∞

qui donne bien (3.40).

– soit Sλ ≤ 0. On a alors
Sλ ≤ Sλ kuk2Lp+1 (Ω)

puisque kuk2Lp+1 (Ω) ≤ 1 par (3.39). On injecte ceci dans (3.38) :

k∇uk2L2 (Ω) −λ kuk2L2 (Ω) ≤ k∇uk2L2 (Ω) + lim k∇vj k2L2 (Ω) −λ kuk2L2 (Ω) ≤ Sλ kuk2Lp+1 (Ω)
j→∞

et on obtient (3.40).
2
La fin de la preuve du théorème (3.1) est équivalente aux preuves données
plus haut. On a trouvé un u ∈ H01 (Ω) qui atteint l’infimum Sλ . On peut
supposer u ≥ 0 au risque de remplacer u par |u|. Appliquons le théorème des
multiplicateurs de Lagrange (2.1.1) : il existe un β ∈ R tel que
−∆u − λu = βup .
En fait β = Sλ > 0 puisque λ < λ1 (Ω). Après un “stretching”, on a une
solution l’EDP −∆u = λu + up . Celle-ci est C ∞ (Ω) par le théorème de Brézis
Kato (3.5.1) et en particulier C 2 (Ω). Le principe du maximum fort (voir
(2.1.2)) garantit alors que u > 0 sur Ω.
2

47
3.4 Preuve du théorème (3.2)
Les arguments sont sensiblement les mêmes que ceux de la preuve du
théorème (3.1). Pour simplifier, on pose ici

Ω = x ∈ R3 | |x| < 1


Démonstration de la condition nécessaire.

Comme dans le cas des grandes dimensions, nous allons estimer le quotient
k∇uk2L2 (Ω) − λ kuk2L2 (Ω)
Qλ (u) =
kuk2L6 (Ω)
avec
φ(r)
u (x) = u (r) = 1 ,
( + r2 ) 2
où  > 0, r = |x| et φ ∈ Cc∞ ([0, 1]) est une fonction positive telle que

φ(0) = 1 , φ0 (0) = 0 et φ(1) = 0. (3.41)

Nous allons ainsi obtenir que

 
1 2 1
Qλ (u ) = S + π − λ T  2 + O (). (3.42)
4
1. On a
φ0 (r) rφ(r)
u0 (r) = 1 − 3 .
( + r2 ) 2 ( + r2 ) 2

2
1
φ0 (r)
Z
rφ(r)
k∇u k2L2 (Ω) = ω 1 − 3 r2 dr
0 ( + r2 ) 2 ( + r2 ) 2
!
1
(φ0 (r))2 r2 (φ(r))2 2rφ(r)φ0 (r)
Z
= ω + − r2 dr.
0 ( + r2 ) ( + r2 )3 ( + r2 )2

En intégrant par parties, on voit

Z 1 3 Z 1
r φ(r)φ0 (r) 3r2 4r4
 
2
−2 dr = (φ(r)) − dr
0 ( + r2 )2 0 ( + r2 )2 ( + r2 )4
" #1
(φ(r))2 r3
− .
( + r2 )2 0
| {z }
=0 car φ(1)=0

48
Donc
1
(φ0 (r))2 r2 1
3r2 3r4
Z Z  
k∇u k2L2 (Ω) = ω dr + ω (φ(r)) 2
− dr
0 ( + r2 ) 0 ( + r2 )2 ( + r2 )3
1
(φ0 (r))2 r2 1
(φ(r))2 r2
Z Z
= ω dr + 3ω  dr. (3.43)
0 ( + r2 ) 0 ( + r2 )3

Premièrement
(φ (r))2 r2
Z 1 0 Z 1 Z 1
r2
 
0 2 0 2
dr = (φ (r)) dr + (φ (r)) − 1 dr
0 ( + r2 ) 0 0 ( + r2 )

(φ (r))2
Z 1 Z 1 0
0 2
= (φ (r)) dr −  2
dr. (3.44)
0 0 ( + r )

Appliquons à φ0 la formule des accroissements finis :

∃z ∈ (0, r) tel que φ0 (r) − φ0 (0) = φ00 (z)r

donc puisque φ ∈ Cc∞ , il existe un A > 0 tel que

φ0 (r) ≤ A r.

D’où le second terme de (3.44) :

1
(φ0 (r))2 1
r2
Z Z
 dr ≤ A  dr = O ().
0 ( + r2 ) ( + r2 )
|0 {z }
O (1)

Par conséquent, (3.44) devient

1
(φ0 (r))2 r2 1
Z Z
2
dr = (φ0 (r)) dr + O (). (3.45)
0 ( + r2 ) 0

Deuxièmement,

(φ(r))2 r2 (φ(r))2 − 1 r2
1 1 1


r2
Z Z Z
dr = dr + dr. (3.46)
0 ( + r2 )3 0 ( + r2 )3 0 ( + r2 )3

En utilisant la formule de Taylor pour φ2 :

 
2
∃z ∈ (0, r) tel que (φ(r))2 = (φ(0))2 +r 2φ(0)φ0 (0)+r2 (φ0 (z)) + φ(z)φ00 (z) ,

49
c’est à dire qu’il existe une constante B > 0 telle que

(φ(r))2 − 1 ≤ Br2

puisque φ(0) = 1 et φ0 (0) = 0.

On observe alors que le deuxième terme de (3.46) est

(φ(r))2 − 1 r2
Z 1
Z 1
r4
dr ≤ B dr
0 ( + r2 )3 2 3
0 ( + r )
−1
 2
s4
Z
−1 r
= B 2
3 ds en posant s =
√
0 (1 + s )2 
∞ ∞
s4 s4
Z Z
−1 −1
= B 2 ds − B  2 ds
0 (1 + s2 )3 −1 2 3
 2 (1 + s )
| {z }
O (1)
∞
s4
Z
−1 −1
≤ O ( 2 ) − B 2 ds

−1
2 s6
 ∞
−1 −1 1
= O ( 2 ) + B  2
s −1
| {z  2}
=O (1)

−1
= O ( 2 ). (3.47)

Et (3.46) se réécrit
1
(φ(r))2 r2 1
r2
Z Z
−1
dr = 3 dr + O (
2 ). (3.48)
0 ( + r2 )3 0
2
( + r )

On a aussi
−1
1  2
r2 s2
Z Z
−3 r
3 dr =  2 3 ds en posant s = √
0 ( + r2 ) 0 (1 + s2 ) 
∞ Z ∞
s2 s2
Z
−3 −3
=  2 ds −  2 ds.
0 (1 + s2 )3 −1 2 3
 2 (1 + s )
(3.49)

50
Or
∞ ∞
s2 s2
Z Z
−3 −3
 2
−1 3 ds ≤  2 6
ds
 2 s
−1
 2 (1 + s2 )
−3  ∞
2 1
=
3 s3  −1 2

= O (1).

Dès lors, (3.49) devient

Z 1 Z ∞
r2 −3 s2
dr =  2 ds + O (1). (3.50)
2 3 (1 + s2 )3
0 ( + r ) 0

En rassemblant (3.43), (3.45), (3.48), (3.49) et (3.50), on obtient :

Z 1
2 K1 2 1
k∇u kL2 (Ω) = 1 + ω (φ0 (r)) dr + O ( 2 ), (3.51)
2 0

où ∞
s2
Z
K1 = 3ω ds.
0 (1 + s2 )3
|∇U |2 dx avec U (x) = 1
R
Notons que K1 = R3 1 .
(1+|x|2 ) 2
En effet, d’une part
Z ∞ Z ∞ Z ∞
s2 1 1
3 ds = 2 ds − ds
0
2
(1 + s ) 0
2
(1 + s ) 0 (1 + s2 )3
Z ∞ ∞
3 ∞
 Z
1 s 1
= 2 ds − 2 − ds
0
2
(1 + s ) 2
4 (1 + s ) 0 4 0 (1 + s2 )2
| {z }
=0
 
∞
1 ∞ 1
 Z
1 s 
=  + ds 
4  2 (1 + s2 ) 0 2 0 1 + s2 
| {z }
=0

1 π
= [arctan(s)]∞
0 = . (3.52)
8 16

51
 D’autre part
Z ∞ ∞ ∞
s4
Z Z
1 1
ds = ds − 2 ds
0 (1 + s2 )3 0 1 + s2 0 (1 + s2 )2
Z ∞
1
+ ds
0 (1 + s2 )3
π π 3π 3π
= − 2 + = . (3.53)
2 4 16 16
2. Calculons
1
(φ(r))6 r2
Z
ku k6L6 (Ω) = ω dr
0 ( + r2 )3
(φ(r))6 − 1 r2
1

1
r2
Z Z
= ω dr + ω dr.
0 ( + r2 )3 0 ( + r2 )3

On applique à nouveau la formule de Taylor, à φ6 cette fois : il existe

une constante D > 0 telle que

(φ(r))6 − 1 ≤ D r2 .

Et ainsi
(φ(r))6 − 1 r2
1

1
r4
Z Z
−1
dr ≤ D dr = O ( 2 )
0 ( + r2 )3 0 ( + r2 )3

par le même calcul qu’en (3.47). Le second terme donne

Z 1 Z ∞
r2 −3 s2
ω dr =  2 ds + O (1)
2 3 (1 + s2 )3
0 ( + r ) 0

par (3.50).
Ainsi ∞
s2
Z
−3 −1
ku k6L6 (Ω) = 2 ω 3 ds + O (
2 ),
2
(1 + s )
0

et, en posant
∞  13
s2
 Z
K2 = ω ds ,
0 (1 + s2 )3
on obtient
K2 1
ku k2L6 (Ω) = 1 + O ( 2 ). (3.54)
 2

52
 En effet, on peut utiliser la formule des accroissements finis et voir que
K2 −1 −2
ku k2L6 (Ω) = 1 + O ( 2 ) (b ) 3 ,
 2

où
−2
 −1
−3
 −2
3
|b | 3 ≤ K23 + O ( 2 )
 2

 −3
 −2
3
≤ O ( )
2 = O ().

On a donc bien (3.54)

Notons aussi que
K2 = kU k2L6 (Ω)
en utilisant les calculs faits précédemment en (3.52) et (3.53).
3. On a
1
(φ(r))2 r2
Z
ku k2L2 (Ω) = ω dr
0  + r2
1 1
(φ(r))2 
Z Z
2
= ω (φ(r)) dr − ω dr.
0 0  + r2

Puisque φ est bornée (continue sur le compact [0, 1]), le deuxième terme
est
(φ(r))2 
Z 1 Z 1

2
dr ≤ C 2
dr
0 +r 0 +r
−1
Z  2 3
2
= C dt
0  (1 + t2 )
−1
1
[arctan t]0
2
= C 2

1 −1 1
= C 2 arctan( 2 ) = O ( 2 ).

Donc Z 1
1
ku k2L2 (Ω) = ω (φ(r))2 dr + O ( 2 ). (3.55)
0

53
En rassemblant (3.51), (3.54) et (3.55), on obtient
R1 0 2 1 R1 1
K1
1 + ω 0 (φ (r)) dr + O ( 2 ) − λω 0 (φ(r))2 dr + O ( 2 )
2
Qλ (u ) = K2 1
1 + O ( 2 )
2
1 R1 0 1 R1
K1 +  2 ω 0 (φ (r))2 dr − λ 2 ω 0 (φ(r))2 dr + O ()
=
K2 + O ()
Z 1 Z 1 
1 ω 2 2
0
= S + 2 (φ (r)) dr − λ (φ(r)) dr + O (), (3.56)
K2 0 0

K1
en utilisant K2
= S et K21+x = K12 + x(. . . ).
On choisit φ(r) = cos( 12 πr), on calcule que
1 1
π2
Z Z
2
0
(φ (r)) dr = (φ(r))2 dr, (3.57)
0 4 0

ce qu’on injecte dans (3.56) :

 
1 2 1
Qλ (u ) = S + π − λ T  2 + O (). (3.58)
4

On peut calculer qu’en dimension 3, la première valeur propre de −∆ sur

Ω = B(0, 1) est λ1 (Ω) = π 2 (de fonction propre correspondante Φ1 (x) =
sin(π|x|)
|x|
). Notre résultat suit alors directement si  est assez petit.

L’application du lemme (3.3.2) garantit l’existence d’une solution par les

mêmes arguments qu’en dimensions supérieures.

Démonstration de la condition suffisante.

On veut donc prouver que si λ ≤ 14 λ1 (Ω), le problème (P) n’a pas de solution.
Par l’absurde, supposons qu’il en existe une : u. Par le thèorème (1.6.4), on
sait que u est une fonction radiale, c’est à dire u(x) = u(r), où r = |x|. Le
problème P se réécrit alors
2
−u00 − u0 = u5 + λu sur [0, 1] et u0 (0) = u(1) = 0. (3.59)
r
Soit ψ ∈ Cc∞ (Ω) telle que ψ(0) = 0.

54
1. Multiplions (3.59) par r2 ψu2 et intégrons :
Z 1  Z 1
00 2 0 2 2
u5 + λu r2 ψu2 .




−u − u r ψu dr = (3.60)
r
|0 {z } |0 {z }
I1 I2

On calcule
Z 1 Z 1
0 2
I1 = − (u ) 2rψdr − u0 u00 r2 ψdr
0 0
#1 Z "
1
(u0 )2 2 1
(u0 )2
Z
0 2
2rψ + r2 ψ 0


= − (u ) 2rψdr − r ψ + par parties
0 2 0 2
0
Z 1  2 0 
0 2 r ψ 1 2
= (u ) − rψ dr − (u0 (1)) ψ(1) (3.61)
0 2 2
et
Z 1 Z 1
0
I2 = 5 2
u r ψu dr + λ r2 ψuu0 dr
0 0
1 Z 1 6
u6 2

u
2rψ + r2 ψ 0 dr


= r ψ −
6 0 6
| {z }0
=0 car u(1)=0

2 1 Z 1 2
 
2 u u
2rψ + r2 ψ 0 dr


+λ r ψ −λ par parties
2 0 2
| {z }0
=0 car u(1)=0

1 1
u6 u2
Z Z
2rψ + r2 ψ 0 dr − λ 2rψ + r2 ψ 0 dr. (3.62)



= −
0 6 0 2
On rassemble (3.61) et (3.62) dans (3.60) :
Z 1  2 0 
0 2 r ψ 1 2
(u ) − rψ dr − (u0 (1)) ψ(1)
0 2 2
Z 1 6 Z 1 2
u 2 0 u
2rψ + r2 ψ 0 dr. (3.63)



=− 2rψ + r ψ dr − λ
0 6 0 2

2. Multiplions (3.59) par 21 r2 ψ 0 − rψ u et intégrons :

Z 1   Z 1  
00 2 0 1 2 0 5

1 2 0
−u − u r ψ − rψ u dr = u + λu r ψ − rψ u dr .
r 2 2
|0 {z } |0 {z }
I3 I4
(3.64)

55
 On voit
Z 1     
1 2 0
00 0 1 0
I3 = −u u r ψ − rψ − 2u u rψ − ψ dr
0 2 2
Z 1  
0 1 0
= − 2u u rψ − ψ dr
0 2
Z 1  
0 0 1 2 00 0 1 2 0 0 0
+ u rψ u + r ψ u − ψu − rψ u + r ψ u − rψu dr
0 2 2
  1
0 1 2 0
− uu r ψ − rψ par parties
2 0
| {z }
=0 car u(1)=0
Z 1   Z 1  
1 2 0
0 2 0 1 2 00
= (u ) r ψ − rψ dr + uu r ψ + ψ − rψ dr
0 2 0 2
Z 1   Z 1 2 
0 2 1 2 0 u 00 1 2 000 0 00 0
= (u ) r ψ − rψ dr − rψ + r ψ + ψ − rψ − ψ
0 2 0 2 2
 2 1
u 1 2 00
+ r ψ + ψ − rψ par parties
2 2 0
| {z }
=0 car u(1)=0=ψ(0)

1
1 1 2 2 000
Z   Z
0 2 1 2 0
= (u ) r ψ − rψ dr − u r ψ dr (3.65)
0 2 4 0
et
Z 1   Z 1  
6 1 2 0 2 1 2 0
I4 = u r ψ − rψ dr + λ u r ψ − rψ dr. (3.66)
0 2 0 2
On injecte (3.65) et (3.66) dans (3.64), pour obtenir
Z 1
1 1 2 2 000
  Z
0 2 1 2 0
(u ) r ψ − rψ dr − u r ψ dr
0 2 4 0
Z 1   Z 1  
6 1 2 0 2 1 2 0
= u r ψ − rψ dr + λ u r ψ − rψ dr. (3.67)
0 2 0 2
Soustrayons à présent (3.67) à (3.63), il vient
Z 1 
2 1 6
 Z
0 1 000 2 1 2
2
u rψ − r2 ψ 0 dr + (u0 (1)) ψ(1).


u λψ + ψ r dr =
0 4 3 0 2
(3.68)

56
On sait déjà qu’il n’y a pas de solutions pour λ ≤ 0 ; on peut donc supposer
que 0 < λ < 41 π 2 . √ 
Dans (3.68), on choisit finalement ψ(r) = sin 4λ r , de telle sorte que

1
ψ(1) ≥ 0 , λψ 0 + ψ 000 = 0
4
et
√  √ √ 
rψ − r2 ψ 0 = r sin 4λ r − r2 4λ cos 4λ r > 0 sur (0, 1],

car
sin θ − θ cos θ > 0 θ ∈ (0, π],
ce qui aboutit à une contradiction.
Il en résulte qu’il n’y a pas de solutions si λ ≤ 41 λ(Ω).
2

3.5 Régularité des solutions

Nous allons présenter ici un théorème de régularité basé sur un résultat de
Brézis et Kato qu’ils publièrent en 1979 dans un article traitant de l’opérateur
de Schrödinger (voir [7]).

Théorème 3.5.1 (Théorème de Brézis-Kato) Soit g : Ω × R → R une

fonction de Carathéodory telle que

|g(x, s)| ≤ K |s|p + c(x),

2N
N +2
où p = N −2
, K est une constante et c(x) est une fonction dans L N −2 (Ω) ∩
L (Ω). Si u ∈ H01 (Ω) est une solution positive du problème
2


−∆u = g(x, u) dans Ω,
(T )
u = 0 sur ∂Ω ,
2N
alors u ∈ Lq (Ω) pour un q > N −2
.

Un lemme est nécessaire avant de passer à la preuve de ce théorème :

N
Lemme 3.5.2 (Lemme de Brézis-Kato) Soit a ∈ L 2 (Ω). Pour tout  >
0, il existe une constante k > 0 telle que
Z Z Z
2
|a(x)| u ≤  |∇u| + k u2
2
∀u ∈ H01 (Ω).
Ω Ω Ω

57
Démonstration du lemme (3.5.2).
Pour k > 0, on pose

Ek = {x ∈ Ω | |a(x)| > k} .

Dès lors
Z Z Z
2 2
|a(x)| u ≤ |a(x)| u + |a(x)| u2
Ω Ek Ω\Ek
Z Z
2
≤ |a(x)| u + k u2
ZEk Ω\Ek

≤ |a(x)| u2 + k kuk2L2 (Ω)

Ek
Z  N2 Z  22∗
N
22∗
≤ |a(x)| 2 u 2
+ k kuk2L2 (Ω)
Ek Ek

en utilisant l’inégalité de Hölder et en remarquant que N2 + 22∗ = 1.

On utilise ensuite l’inégalité de Sobolev (voir théorème (1.2.4)) kukL2∗ (Ω) ≤
C k∇ukL2 (Ω) ,
Z
|a(x)| u2 ≤ C 2 kakL N2 (E ) k∇uk2L2 (Ω) + k kuk2L2 (Ω) . (3.69)
k
Ω

Soit  > 0. On peut alors choisir un k > 0 tel que

C 2 kakL N2 (E < .
k )

En injectant ceci dans (3.69), on obtient bien le résultat du lemme.

Démonstration du théorème (3.5.1).

Nous nous bornerons ici à la preuve du cas à g ≥ 0 presque partout sur Ω. Le
cas général ne présente pas de difficulté conceptuelle supplémentaire, mais
comporte des notations beaucoup plus lourdes.
Soit χ ∈ Cc∞ (R) une fonction qui vaut 1 sur [−1, 1] et 0 sur R \ [−2, 2].
Soit u ∈ H01 (Ω) une solution du problème (T ). On décompose

g(x, u(x)) = χ(u(x))g(x, u(x)) + (1 − χ(u(x))) g(x, u(x))

(1 − χ(u(x))) g(x, u(x))

= χ(u(x))g(x, u(x)) + u(x) (3.70)
u(x)

58
qui a bien un sens puisque si |u(x)| < 1 alors 1 − χ(u(x)) = 0.
D’une part on a

|χ(u(x))g(x, u(x))| ≤ |g(x, u(x))| ≤ |u(x)|p + c(x)

2N
et donc χ(u(x))g(x, u(x)) ∈ L N −2 (Ω) comme c(x).
D’autre part,

(1 − χ(u(x))) g(x, u(x)) |g(x, u(x)| |u(x)|p + c(x)

≤ ≤ .
u(x) |u(x)| |u(x)|
N
Or up−1 ∈ L 2 (Ω) car u ∈ H01 (Ω) ⊂ Lp (Ω) et (p − 1) N2 = p. Par conséquent
(1−χ(u(x)))g(x,u(x)) N
u(x)
∈ L 2 (Ω).
On peut ainsi réécrire (3.70)

g(x, u(x)) = a(x)u(x) + b(x),

N 2N
avec a ∈ L 2 (Ω) et b ∈ L N −2 (Ω).
On utilise à présent le lemme (3.5.2) pour  = 12 :
Z Z Z Z Z
1 2
2
|a(x)| u ≤ k 1 2
u + |∇u| ≤ k 1 u + |∇u|2 .
2
(3.71)
Ω
2
Ω 2 Ω 2
Ω Ω

Montrons que l’équation

−∆v + kv = a(x)v (3.72)

ne possède d’autre solution que v ≡ 0 si k > k 1 . S’il existait un v 6≡ 0

2
solution de (3.72), alors en multipliant cette équation par v et en intégrant,
on obtiendrait
Z Z Z Z
2 2 2
|∇v| + k v = a(x)v ≤ |a(x)| v 2 .
Ω Ω Ω Ω

Puis, par (3.71),

Z Z Z Z Z
2
|a(x)| v ≤ k 1 v + |∇v| < k v + |∇v|2
2 2 2
2
Ω Ω Ω Ω Ω

puisque k > k 1 . On arrive bien à une contradiction, et 0 est donc la seule

2
solution.
Dès lors, l’équation

−∆v + kv = a(x)v + b(x) + ku (3.73)

59
possède une unique solution v = u.
En effet, il est clair que u est une solution de cette EDP. De plus, si v1 , v2 sont
deux solutions de (3.73), alors v1 − v2 est solution de (3.72). Par conséquent
v1 = v2 .

Il nous suffit à présent de considérer le problème


−∆v + kv = a(x)v + d(x) dans Ω,
v = 0 sur ∂Ω ,
2N
avec d ∈ L N −2 (Ω) ∩ L2 (Ω), et de prouver qu’il possède une solution dans
Lq (Ω) pour un certain q > N2N −2
. Pour montrer l’existence de la solution, nous
allons appliquer le théorème de Lax-Milgram (voir [6]) à la forme bilinéaire
continue Z Z Z
t(u, v) = ∇u∇v + k uv − a(x)uv
Ω Ω Ω
R
et à la forme linéaire continue l(v) = Ω d(x)v. On peut facilement voir que
t est bien coercive :
Z Z Z
2
t(u, u) = |∇u| + k u − a(x)u2
2
ΩZ Ω Ω
1  Z
2
≥ |∇u| + k − k 1 u2
2 Ω 2
Ω

par (3.71). La coercivité suit alors par le théorème de Poincarré et le fait que
k > k 1 . Il nous reste à vérifier que la solution qu’on vient d’obtenir est dans
2
le bon espace.
Montrons que g ≥ 0 presque partout (et donc d) implique v ≥ 0 presque
partout. Pour cela, on multiplie l’EDP par −v − et on intègre :
Z Z Z Z
∇v · ∇v + a vv − k vv = − d v − .
− − −
Ω Ω Ω Ω
2 2
En remarquant que vv − = − (v − ) et ∇v · ∇v − = − |∇v − | par définition,
on obtient
Z Z Z Z
− 2 − 2 − 2
= − dv − .



∇v − a v + k v
|Ω Ω
{z Ω
} | {z Ω
}
≥0 par (3.71) et le fait que k>k 1 ≤0
2

Donc v − ≡ 0 et v ≥ 0 presque partout.

Nous allons effectuer une troncature sur a : on pose
al = min {a, l} .

60
On définit vl comme l’unique solution de

−∆vl − al vl + kvl = d(x),
v ∈ H01 (Ω),
dont l’existence est garantie par le théorème de Lax-Milgram (voir ci dessus).
Il existe une sous-suite (renommée vl ) et un v ∈ H01 (Ω) tels que vl * v dans
H01 (Ω).
En effet, en multipliant l’équation du problème ci-dessus par vl et en intégrant :
Z Z Z Z
2
dvl = |∇vl | − al vl + k vl2
2
Ω
ZΩ ΩZ Ω
Z Z
2 1 2
≥ |∇vl | − |∇vl | − k 1 vl + k vl2 par (3.71)
2
ΩZ 2 Ω 2
Ω Ω
1  Z
= |∇vl |2 + k − k 1 vl2
2 Ω 2
Ω
Z
≥ α |∇vl |2
Ω

pour une constante α > 0 (on a utilisé le théorème de Poincaré (1.2.6)). En

appliquant à nouveau ce théorème mais aussi l’inégalité de Hölder au tout
premier terme, on obtient
Z Z  12 Z  12
2 2 2
α |∇vl | ≤ d |∇vl | .
Ω Ω Ω

puisque c et par conséquent d sont dans L2 (Ω). D’où il existe une constante
α0 > 0 telle que
kvl kH 1 (Ω) ≤ α0 ,
0

c’est à dire que vl est borné dans H01 (Ω). En vertu du théorème (1.1.2), on
peut extraire une sous-suite convergente.
Pour plus de clarté, on oublie les indices l de vl et on écrit ainsi
−∆v − al v + kv = d(x). (3.74)
On opère alors une deuxième troncature, sur v cette fois :
vn = min {v, n} .
N +2
Rappelons la notation que nous avions adoptée plus haut : p = N −2
et donc
p + 1 = N2N
−2
. Multiplions (3.74) par |vn |p et intégrons :
Z Z Z Z
p p p
∇v∇ (|vn | ) − al v |vn | + k v |vn | = d |vn |p . (3.75)
Ω Ω Ω Ω

61
On calcule premièrement que
Z Z
∇v∇ (|vn | ) = p ∇v∇vn |vn |p−1
p

Ω ZΩ
= p |∇vn |2 |vn |p−1
Ω
car 
∇v si 0 ≤ |v| ≤ n,
∇vn =
0 sinon.
v |vn |p ≥ 0, on peut réécrire (3.75) :
R
Comme k Ω
Z Z Z
2 p−1
p |∇vn | |vn | ≤ d |vn | + al v |vn |p .
p
(3.76)
Ω Ω Ω

En posant En = {x ∈ Ω | |v| > n}, le deuxième terme du membre de droite

se décompose
Z Z Z Z
p p p
al v |vn | = al vn |vn | + al (v − vn ) |vn | + al (v − vn ) |vn |p
Ω
ZΩ Z Ω\En En

= al |vn |p+1 + al (v − vn ) |vn |p

ZΩ ZEn
≤ al |vn |p+1 + l |v| np
Ω En

en se rappelant que al ≤ l, vn ≤ n et en remarquant que (v − vn ) ≤ |v|. Par

conséquent,
Z Z Z Z
2 p−1 p p+1
p |∇vn | |vn | ≤ d |vn | + al |vn | + l |v| np ,
Ω Ω Ω En

ce qui donne (en calculant le ∇ et en utilisant l’inégalité d’Hölder)

Z Z 1 Z
 p+1 p
 p+1
4p  p+1
2
p+1
p(p+1)
∇ |vn | 2 ≤ d |vn | p
(p + 1)2 Ω Ω Ω
Z Z
p+1
+ al |vn | + l |v| np . (3.77)
Ω En

De plus par le lemme (3.5.2), pour tout  > 0 il existe une constante k telle
que
Z Z 
p+1 2

p+1
al |vn | ≤ a |vn | 2

Ω Ω
 p+1
 2 p+1 2
≤  ∇ |vn | 2 + k v n 2
L2 (Ω) L2 (Ω)
 p+1
 2
=  ∇ |vn | 2 + k kvn kp+1
Lp+1 (Ω) .
L2 (Ω)

62
Et on a clairement que
Z Z
p
l |v| n ≤ l |v|p+1 .
En En

On remet tout ça dans (3.77) :

Z
4p  p+1
2
p
 p+1
 2
∇ |v n | 2 ≤ kdkLp+1 (Ω) kv k
n L p+1 (Ω) +  ∇ |v n | 2
(p + 1)2 Ω L2 (Ω)
Z
+k kvn kp+1
Lp+1 (Ω) + l |v|p+1 . (3.78)
En
2p
On choisit à présent  = (p+1)2
, il vient
Z
2p p+1
v n
2
≤ kdkLp+1 (Ω) kvn kpLp+1 (Ω) + k kvn kp+1
Lp+1 (Ω) +l |v|p+1 .
(p + 1)2 H01 (Ω) En

Par l’inégalité de Young,

p(p−1)

kdkLp+1 (Ω) kvn kpLp+1 (Ω) ≤ kdkp+1 (p−1)

Lp+1 (Ω) + kvn kLp+1 (Ω)

et ainsi il existe une constante Cp > 0 telle que

p+1
 Z 
p+1 p p+1
vn 2
≤ Cp kdkLp+1 (Ω) + kvn kLp+1 (Ω) + l |v|
H01 (Ω) En
 Z 
p+1 p p+1
≤ Cp kdkLp+1 (Ω) + kvkLp+1 (Ω) + l |v| .
En
p+1 2 p+1
Par l’inégalité de Sobolev kvn kp+1
(p+1)2
= vn 2 ≤ K vn 2
L 2 (Ω) Lp+1 (Ω) H01 (Ω)
(voir (1.2.4)) , on a
 Z 
p+1 p+1 p p+1
kvn k (p+1)2
≤ Cp kdkLp+1 (Ω) + kvkLp+1 (Ω) + l |v| .
L 2 (Ω) En

On passe finalement à la limite pour n → ∞ :

h i
kvkp+1
(p+1)2
≤ C p kdkp+1
Lp+1 (Ω) + kvk p
Lp+1 (Ω) ,
L 2 (Ω)

ou h i
kvn k (p+1)2 ≤ Cp0 kdkLp+1 (Ω) + kvkLp+1 (Ω)
L 2 (Ω)

car il existe une constante Dq telle que (αq + β q ) ≤ Dq (α + β)q .

2 2
On a ainsi montré que vl ∈ Lq (Ω) pour q = (p+1)
2
= (N2N
−2)2
> N2N
−2
.
Nous avons donc obtenu le résultat du théorème puisque vl * v dans H01 (Ω).

63
 2

En combinant le résultat que nous venons de prouver avec les théorème (1.2.4)
et (1.3.2), on obtient que la solution du problème (T ) ∈ C 2 (Ω).

3.6 Multiplicité des solutions

De nombreux résultats de multiplicité pour ce type de problèmes ont été
obtenus depuis l’article de Brézis et Nirenberg. Par exemple, on a beaucoup
étudié
−∆u = |u|p−1 u + λu

dans Ω,
(S)
u = 0 sur ∂Ω ,
c’est à dire le même problème que celui qui nous occupe, mais sans la condi-
tion de signe. Voici quelques-un de ces résultats :
Brézis et Nirenberg (1983, [9]) : on a vu que les dimensions impor-
taient :
– N ≥ 4 : si λ ∈ (0, λ1 (Ω)), (S) possède une solution > 0 ;
– N = 3 : pour Ω une boule, si λ ∈ ( λ14(Ω) , λ1 (Ω)), (S) possède une
solution > 0.
Capozzi, Fortunato et Palmieri (1985, [11]) : si N ≥ 4 et λ 6= λn (Ω) ∀n,
(S) possède une solution non triviale.
Cerami, Fortunato et Struwe (1984, [12]) : le nombre de paires de so-
lutions de (S) est borné inférieurement par le nombre de valeurs propres
−2
∈ (λ, λ + S |Ω| N ).
Cerami, Solimini et Struwe (1986, [13]) / Dong Zhang (1989, [33]) :
si N ≥ 6 et λ ∈ (0, λ1 (Ω)), (S) possède 2 paires de solutions non tri-
viales dont l’une d’elles change de signe sur Ω.
Lazzo (1992, [26]) : il existe un λ∗ ∈ (0, λ1 (Ω)) tel que ∀λ ∈ (0, λ∗ ),
(S) possède (catégorie de Lusternik-Schnirelmann de Ω) solutions non
triviales.
Devillanova et Solimi (2002, [18]) : deux cas selon les dimensions :
– si N ≥ 7 et λ > 0, (S) possède une infinité de solutions non triviales ;
– si N ≥ 4 et λ ∈ (0, λ1 (Ω)), (S) possède au moins N2 + 1 paires de
solutions non triviales.
Clapp et Weith (2004, [14]) : deux cas selon que λ est valeur propre ou
non : si N ≥ 4 et
– si λ ∈ (0, λ1 (Ω)), (S) possède N 2+2 paires de solutions non triviales ;

64
– si λ ∈ (λn (Ω), λn+1 (Ω)) pour n ≥ 1, (S) possède N 2+1 paires de
solutions non triviales ;
– si λ = λn (Ω) (valeur propre de mutliplicité m < N + 2), (S) possède
N +1−m
2
paires de solutions non triviales.

65
Chapitre 4

Généralisation à des termes

d’ordre inférieur quelconques

Dans ce chapitre, nous étudierons un problème plus général que ceux des
chapitres précédants. Soient N ≥ 3, Ω un domaine borné de classe C 2 de RN
N +2
et p = N −2
l’exposant critique comme plus haut. On cherche une fonction
1
u ∈ H0 (Ω) qui satisfait

 −∆u = up + f (x, u) dans Ω,
(G) u > 0 dans Ω,
u = 0 sur ∂Ω,


où f : Ω × [0, ∞) → R est mesurable en x, continue en u et telle que

supx∈Ω, 0≤u≤M |f (x, u)| < ∞ pour tout M > 0.
On suppose de plus que f (x, u) peut être écrite
f (x, u) = a(x)u + g(x, u) (4.1)
avec
a(x) ∈ L∞ (Ω), (4.2)
g(x, u) = o(u) quand u → 0+ , uniformément en x, (4.3)
g(x, u) = o(up ) quand u → ∞ , uniformément en x. (4.4)
On suppose aussi que la première valeur propre de l’opérateur −∆ − a(x) est
positive, c’est à dire que
Z Z
2
|∇φ| − aφ ≥ α φ2
2
∀φ ∈ H01 (Ω)


pour un α > 0. (4.5)
Ω Ω

Cette hypothèse est équivalente à

Z Z
2 2 0
|∇φ|2 ∀φ ∈ H01 (Ω) pour un α0 > 0. (4.6)


|∇φ| − aφ ≥ α
Ω Ω

66
En effet, sinon on aurait des fonctions φk ∈ H01 (Ω) telles que
Z Z
1
φk = 1 et 0 ≤ 1 − aφ2k < ,
2
Ω Ω k
R
c’est à dire telles que Ω aφ2k → 1.
Or, par (4.5), Z Z
1 − aφ2k ≥ α φ2k
| {zΩ } Ω
→0
R
donc Ω φ2k → 0, d’où une contradiction. Les deux hypothèses sont donc bien
équivalentes.

Puisque f n’est définie que sur Ω × [0, ∞), on pose

f (x, u) = 0 pour x ∈ Ω, u ≤ 0.

On définit aussi Z u
F (x, u) = f (x, t)dt
0
et
Z  
1 2 1 p+1
Ψ(u) = |∇u| − |u| − F (x, u) pour u ∈ H01 (Ω).
Ω 2 p+1

Le résultat que Brézis et Nirenberg ont obtenu est le suivant :

Théorème 4.1 Avec les hypothèses décrites ci-dessus et en supposant de

plus qu’il existe un v0 ∈ H01 (Ω) tel que 0 6≡ v0 ≥ 0 et
1 N
sup Ψ(tv0 ) < S2 (4.7)
t≥0 N

le problème (G) possède une solution.

4.1 Retour au cas particulier

Puisque le problème G est une généralisation du problème P du chapitre
3, il est naturel que l’on puisse retrouver le résultat de P à partir de G. On
suppose donc ici que f (x, u) = λu.

67
L’hypothèse (4.5) est équivalente à la condition λ < λ1 (Ω). En effet, la
première valeur propre de (−∆ − λ) est (la première valeur propre de −∆)
−λ, c’est à dire λ1 (Ω) − λ. On vérifie alors aisément l’équivalence.
On a aussi que l’hypothèse (4.7) faite dans le thèorème (4.1) est équivalent
à Sλ < S. En effet, pour f (x, u) = λu, Ψ devient :
Z  
1 2 1 p+1 λ 2
Ψ(u) = |∇u| − |u| − u .
Ω 2 p+1 2
Et ainsi,
Z  
1 2 1 λ
Ψ(tv0 ) = t |∇v0 |2 − tp+1 |v0 |p+1 − t2 v02
Ω 2 p+1 2
1 2 B
= t A− tp+1
2 p+1
en posant A = k∇v0 k2L2 (Ω) − λ kv0 k2L2 (Ω) et B = kv0 kp+1
Lp+1 (Ω) .
Cherchons le sup :
 
d 1 2 B p+1
t A− t = 0 ⇔ tA − Btp = 0
dt 2 p+1
1
  p−1
A
⇔ t = 0 ou t = .
B
La solution t = 0 étant à exclure, on calcule
  p−1 2   p−1 p+1
1 A 1 A
sup Ψ(tv0 ) = A − B
t≥0 2 B p+1 B
1 p−1p+1 −2 1 p+1 −2
= A B p−1 − A p−1 B p−1
2 p+1
N 2−N 1
= A2B 2
N
  N2
1 A
= 2 .
N B p+1
A
Puisque 2 = Qλ (v0 ), on voit que (4.7) sur le supremum est équivalente à
B p+1
Sλ < S.

4.2 Preuve du théorème (4.1)

La clé de voûte de la démonstration est le théorème du col de montagne
sans condition de Palais-Smale :

68
Théorème 4.2.1 (Théorème du col de montagne) Soit Φ une fonction
réelle de classe C 1 sur un espace de Banach E. Supposons qu’il existe un
voisinage U de 0 dans E et une constante ρ tels que

Φ(u) ≥ ρ ∀u ∈ ∂U , (4.8)

Φ(0) < ρ et Φ(v) < ρ pour un certain v ∈

/ U. (4.9)
Posons
c = inf max Φ(w) ≥ ρ,
P ∈Γ w∈P

où
Γ = {P : [0, 1] → E continus | P (0) = 0 et P (1) = v} .
Alors il existe une suite (uj ) ∈ E telle que

Φ(uj ) → c et Φ0 (uj ) → 0 dans E ∗ .

La preuve de ce théorème, basée sur le principe variationnel d’Ekeland, peut

être trouvée dans [17] et dans [31].

En utilisant (4.1), (4.2), (4.3) et (4.4), on peut choisir une constante µ ≥ 0

assez grande pour que

−f (x, u) ≤ µu + up pour presque tout x ∈ Ω et ∀u ≥ 0. (4.10)

On définit
Z  
1 2 1 2 1 + p+1

+ 1 + 2


Φ= |∇u| + µu − u − F (x, u ) − µ u
Ω 2 2 p+1 2

sur E = H01 (Ω). On voit facilement que Φ est C 1 . Vérifions à présent qu’elle
satisfait les hypothèses du théorème du col de montagne (4.2.1) :
1. Par l’hypothèse (4.3) faite sur g, on a que pour tout  > 0, il existe un
δ > 0 tel que

g(x, u) ≤ u pour presque tout x ∈ Ω et ∀ 0 ≤ u ≤ δ.

En combinant ceci avec (4.4), on trouve un constante C > 0 (dépendant

de ) telle que

g(x, u) ≤ u + Cup pour presque tout x ∈ Ω et ∀u ≥ 0.

Donc,

f (x, u) ≤ a(x)u + u + Cup pour presque tout x ∈ Ω et ∀u ≥ 0

69
et en intégrant,
1  C p+1
F (x, u) = a(x)u2 + u2 + u .
2 2 p+1
On injecte ça dans Φ :
Z 
1 1 1
p+1 1
2
Φ(u) = |∇u|2 + µu2 − u+ − a(x) u+
Ω 2 2 p+1 2

 2 C p+1 1 2
− u+ − u+ − µ u+




2 p+1 2
Z  
1 2 1 + 2

 +
2 C + 1 +
p+1
≥ |∇u| − a(x) u − u − u (4.11)
Ω 2 2 2 p+1
2
parce que u2 ≥ (u+ ) .
Remarquons à présent que
Z
|∇u|2 = h∇u, ∇ui
Ω
= ∇u+ − ∇u− , ∇u+ − ∇u−
= ∇u+ , ∇u+ + ∇u− , ∇u− − 2 ∇u+ , ∇u−
| {z }
=0
Z Z
+ 2 2
= ∇u + ∇u− . (4.12)
Ω Ω

On remet deci dans (4.11), et on utilise l’hypothèse (4.6) pour obtenir

Z  0 
α + 2 1 − 2  +
2 C + 1 +
p+1
Φ(u) ≥ ∇u + ∇u − u − u .
Ω 2 2 2 p+1

En réutilisant le calcul effectué en (4.12), on a qu’il existe une constante

k > 0 telle que
Z Z
2  + 2 C +1
p+1
u+


Φ(u) ≥ k kukH 1 (Ω) − u − . (4.13)
0 2 Ω p+1 Ω
Or
Z Z
+ p+1
|u|p+1


− u ≥ −
Ω Ω
= − kukp+1
Lp+1 (Ω)

≥ −M kukp+1
H 1 (Ω)
0

70
 pour une constante M > 0 (par l’inégalité de Sobolev, voir (1.2.4)). En
reprenant (4.13), on obtient
Z
2 p+1 
2
Φ(u) ≥ k kukH 1 (Ω) − M kukH 1 (Ω) − u+ .
0 0 2 Ω
Pour  assez petit, on a donc

Φ(u) ≥ k kuk2H 1 (Ω) − M kukp+1

H 1 (Ω)
.
0 0

On peut donc prendre U = B(0, δ) et on a ainsi un voisinage de 0 tel

que, sur ∂U :

Φ(u) = kδ 2 − M δ p+1 = ρ > 0 pour δ assez petit.

Ceci montre que la condition (4.8) est bien satisaite.

2. Pour un 0 6≡ u ≥ 0 dans H01 (Ω), regardons
tp+1
Z 
1 2 2 1 2 2
p+1
lim Φ(tu) = lim |∇u| t + t µu − u+
t→∞ t→∞ Ω 2 2 p+1

1 2
−F (x, u+ ) − µ u+


2
= −∞.

Par conséquent il existe un v ∈ / U = B(0, δ) tel que Φ(v) < ρ. De plus

on a déjà montré que Φ(0) = 0 < ρ, ce qui complète la vérification de
(4.9).
On fixe d’ores et déjà v = t0 v0 , où v0 est donné dans (4.7) et t0 > 0 est tel
que t0 v0 ∈
/ U et Φ(t0 v0 ) ≤ 0.
On voit que (4.7) implique que
1 N
sup Φ(tv) < S2. (4.14)
t≥0 N
Remarquons aussi que tv est un chemin joignant 0 à v, donc tv ∈ Γ et
1 N
inf max Φ(w) = c ≤ sup Φ(tv) < S2. (4.15)
P ∈Γ w∈P t≥0 N
Appliquons enfin le théorème du col de montagne (4.2.1) : il existe une suite
uj ∈ H01 (Ω) telle que Φ(uj ) → c et Φ0 (uj ) → 0, c’est à dire
Z  
1 2 1 2 1 + p+1

+ 1 + 2


|∇uj | + µuj − u − F (x, uj ) − µ uj = c + o 1 (1)
Ω 2 2 p+1 j 2 j

(4.16)

71
et
p
−∆uj + µuj − u+
j − f (x, u+ +
j ) − µuj = ζj (4.17)
∗
avec ζj → 0 dans H −1 (Ω) = (H01 (Ω)) .
Il vient alors que
kuj kH 1 (Ω) ≤ C ∀j (4.18)
0

pour une constante C > 0.

En effet, multiplions (4.17) par uj et intégrons :
Z

p
|∇uj |2 + µu2j − u+ uj − f (x, u+ +

j j )uj − µuj uj = hζj , uj i . (4.19)
Ω
+ 2
En remarquant que f (x, u+ + + +


j )uj = f (x, uj )uj (car f (x, 0) = 0), uj uj = uj

p
p+1
et u+j uj = u+ j , on réécrit ceci
Z n

p+1
o
+ 2
|∇uj |2 + µu2j − u+ j − f (x, u + +
j )u j − µ u j = hζj , uj i . (4.20)
Ω

On prend ensuite (4.16)− 21 (4.20) pour obtenir

Z   
1 1 + p+1

+ 1 + + 1
− uj − F (x, uj ) + f (x, uj )uj = c+o 1 (1)− hζj , uj i .
Ω 2 p+1 2 j 2
  (4.21)
1 1 1
Donc, puisque 2 − p+1 = N ,
Z   Z  
1 1 1 + 1 + + 1
− = F (x, uj ) − f (x, uj )uj + c + o 1 (1) − hζj , uj i
N Ω 2 p+1 2 j 2
ZΩ  
1
≤ F (x, u+j ) − f (x, uj )uj
+ +
+ c + o 1 (1) + hζj , uj i
Ω 2 j
Z  
1
≤ F (x, u+j ) − f (x, uj )uj
+ +
+ c + o 1 (1)
Ω 2 j

+ kζj kH −1 (Ω) kuj kH 1 (Ω) . (4.22)

0

D’autre part, en vertu de (4.1), on a que pour tout  > 0, il existe une
constante C > 0 (dépendant de ) telle que
|f (x, u)| ≤ up + C pour presque tout x ∈ Ω et pour tout u ≥ 0. (4.23)
Ainsi,
Z u
|F (x, u)| = f (x, t)dt
0
Z u
≤ |f (x, t)|
0

≤ up+1 + Cu pour presque tout x ∈ Ω et pour tout u ≥ 0. (4.24)
p+1

72
En combinant (4.23) et (4.24) avec (4.22), on a
+ p+1 + p+1


!
u u
Z Z
1 p+1 j j
u+


≤  − +c+o 1 (1)+kζj kH −1 (Ω) kuj kH 1 (Ω)
N Ω j Ω p + 1 2 j 0

qui donne Z

p+1
u+
j ≤ K + K 0 kuj kH 1 (Ω)
0
Ω
0
pour des constantes K, K > 0 (car kζj kH −1 (Ω) → 0 et est donc borné).
En utilisant cette dernière équation dans (4.16), on arrive à
kuj k2H 1 (Ω) ≤ L + L0 kuj kH 1 (Ω)
0 0

(on a aussi utilisé le théorème de Poincaré (1.2.6) et l’équation (4.24)) et on

arrive donc bien à (4.18).
Puisque uj est bornée dans H01 (Ω), il existe une sous-suite (renommée uj ) et
un u ∈ H01 (Ω) tels que
uj * u dans H01 (Ω), (4.25)
uj → u dans L2 (Ω), (4.26)
uj → 0 presque partout dans Ω, (4.27)
+ p

p
∗
* u+ dans Lp+1 (Ω) ,


uj (4.28)

∗
f (x, u+
j ) * f (x, u +
) dans L p+1
(Ω) . (4.29)
+ p
En effet, on a que u+ p+1


j est borné dans L (Ω), et par conséquent u j est
p+1 ∗
borné dans L p (Ω) = (Lp+1 (Ω)) . Appliquons ensuite le
Théorème 4.2.2 Soit 1 < q < ∞. Si
– un est bornée dans Lq (Ω, µ),
– un converge vers u presque partout sur Ω,
alors un converge faiblement vers u dans Lq (Ω, µ).
Ce résultat nous donne exactement (4.28). En tenant exactement le même
raisonnement et en y rajoutant les hypothèses sur f , on arrive à (4.29).

On passe alors à la limite dans (4.17) et on obtient

p
−∆u + µu − u+ − f (x, u+ ) − µu+ = 0. (4.30)
p
Or (4.10) garantit que γ(x, u+ ) = f (x, u+ ) + µu+ + (u+ ) ≥ 0, et donc en
multipliant (4.30) par −u− et en intégrant il vient :
Z Z Z
− ∇u∇u − µ uu = − γ(x, u+ )u− .
− −
Ω Ω Ω

73
 2
Or on avait déjà remarqué plus haut que ∇u∇u− = − |∇u− | et uu− =
2
− (u− ) . D’où
Z Z Z
− 2 − 2
= − γ(x, u+ )u− ,


∇u +µ u
|Ω {z Ω } | Ω {z }
≥0 ≤0

ce qui entraı̂ne que u− ≡ 0 et donc u = u+ . On peut dès lors reformuler

(4.30) en
−∆u = up + f (x, u),
c’est à dire qu’on a trouvé une solution à l’EDP qui nous intéresse. Dans le
but d’appliquer le principe du maximum fort (2.1.2) (et ainsi affirmer que u
est une soution au problème (G)), on va montrer que u 6≡ 0.

Pour cela, procédons par l’absurde et supposons que u ≡ 0.

De (4.23) et (4.24), on obtient
Z Z Z
+ + + p+1
u+


f (x, uj )uj ≤  uj +C j (4.31)
Ω Ω Ω

et Z Z Z

p+1
F (x, u+
j ) ≤ u+
j +C u+
j . (4.32)
Ω p+1 Ω Ω

Par l’inégalité de Sobolev (voir théorème (1.2.4)), kuj kH 1 (Ω) ≤ C implique

0
kuj kLp+1 (Ω) ≤ C 0 ; on peut donc appliquer le théorème de la convergence
dominée de Lebesgue. Couplant ceci avec le résultat de convergence obtenu
en (4.26), il vient Z
lim f (x, u+ +
j )uj = 0 (4.33)
j→∞ Ω
et Z
lim F (x, u+
j ) = 0. (4.34)
j→∞ Ω
En extrayant une autre sous-suite on peut supposer que
Z
|∇uj |2 → l (4.35)
Ω

pour une certaine constante l ≥ 0. Passons à la limite dans (4.19) :

Z n 
2 
o
+ p+1
0 = lim |∇uj |2 + µ u2j − u+j − f (x, u + +
j )u j − u j . (4.36)
j→∞ Ω

74
Or uj → u dans L2 (Ω) et u = u+ . D’où
Z

p+1
lim u+
j = l. (4.37)
j→∞ Ω

Passons à la limite dans (4.16) cette fois-ci :

Z  
1 2 1  2

+ 2 1 + p+1

+
c = lim |∇uj | + µ uj − uj − u − F (x, uj )
j→∞ Ω 2 2 p+1 j
(4.38)
et donc
l l l
c= − = . (4.39)
2 p+1 N
Par l’inégalité de Sobolev (voir le théorème (1.2.4),
2
k∇uj k2L2 (Ω) ≥ S kuj k2Lp+1 (Ω) ≥ S u+
j Lp+1 (Ω)
.

Pour la limite : 2 2
l ≥ S l p+1 ⇒ l1− p+1 ≥ S.
2 2
En calculant que 1 − p+1
= N
et en utilisant (4.39), on obtient enfin

1 N
c≥ S2,
N
ce qui est une contradiction avec (4.15).

On a donc bien que u 6≡ 0 . On lui applique d’abord le théorème de Brézis-

Kato (cfr (3.5.1)), puis le principe du maximum fort (cfr (2.1.2)). On montre
ainsi que u est solution du problème (G).

75
Annexe : Le problème de
Yamabe

Nous allons dans cet appendice décrire très brièvement le problème de

Yamabe, un problème de géométrie différentielle qui amène à des équations
elliptiques fort semblables à celles que nous avons étudiées. La prétention de
ce chapitre n’est pas de rentrer dans les détails du problème ni de faire de la
géométrie différentielle rigoureuse, mais de présenter au lecteur un exemple
de problème “concret” où apparaissent l’équation de Brézis-Nirenberg et la
condition de signe sur la solution de celle-ci.

Définition .0.1 Soit (M, g) une variété Riemannienne de dimension N . La

classe conforme [g] de g est l’ensemble des métriques Riemanniennes sur M
qui s’écrivent sous la forme eu g pour u : M → R une fonction C ∞ sur M .
En d’autres termes,
[g] = {eu g | u ∈ C ∞ (M )} .

Si g et g̃ sont deux métriques conformes, on peut exprimer des relations qui

lient leurs courbures de Riemann, de Ricci et leurs courbures scalaires. C’est
cette dernière relation qui nous intéresse. Si N ≥ 3 et si on écrit g̃ sous la
4
forme g̃ = u N −2 g, où u est une fonction C ∞ (M ) strictement positive, cette
relation peut être écrite
N −2 N −2 N +2
∆g u + scal(g) u = scal(g̃) u N −2 , (40)
4(N − 1) 4(N − 1)

où ∆g est l’opérateur laplacien associé à g, c’est à dire, pour une fonction f ,
 2 
X
ij ∂ f k ∂f
∆g f = − g − Γij ,
1≤i,j,k≤N
∂x i ∂xj ∂x k

avec Γkij les symbôles de Christoffel de la connexion de Levi-Civita de (M, g).

Dans le cas de l’espace euclidien, on retrouve le laplacien usuel (au signe

76
près. . .).

Dans son article de 1960 [32], Yamabe conjecturait un résultat qui est à
présent connu comme le
Problème de Yamabe : étant donnée (M, g) une variété Riemannienne
compacte de dimension N ≥ 3, prouver qu’il existe une métrique conforme
à g qui est à courbure scalaire constante.
Résoudre le problème de Yamabe revient donc en fait à montrer qu’étant
donnée (M, g) une variété Riemannienne compacte de dimension N ≥ 3, il
existe un réel λ et une fonction strictement positive u ∈ C ∞ tels que
N −2 N +2
∆g u + scal(g) u = λu N −2 . (41)
4(N − 1)

Cette équation n’est évidemment pas sans rappeler l’équation de Brézis-

Nirenberg, et cette “application” permet de comprendre pourquoi les problèmes
auxquels nous nous sommes intéressés exigent des solutions positives.

Le problème de Yamabe a été résolu en deux temps : à savoir par Aubin en

1976 [3] et Schoen en 1984 [29]. Plus de détails peuvent être trouvés sur ce
sujet dans [22].

77
Bibliographie

[1] R. Adams. Sobolev spaces. Academic Press, 1975.

[2] A. Ambrosetti and G. Prodi. A primer of nonlinear analysis. Cambridge
studies in advanced mathematics, 1993.
[3] T. Aubin. Equations différentielles non linéaires et problème de Yamabe
concernant la courbure scalaire. Journal de Mathématiques Pures et
Appliquées, (55), 1976.
[4] V. Barbu and T. Precupanu. Convexity and optimization in Banach
spaces. Sijthoff and Noordhoff, 1978.
[5] N. Bourbaki. Eléments de mathématique : intégration. Hermann, 1965.
[6] H. Brézis. Analyse fonctionnelle - théorie et applications. Masson, 1983.
[7] H. Brézis and T. Kato. Remarks on the Schrödinger operator with singu-
lar complex potentials. Journal des Mathématiques Pures et Aplliquées,
(58), 1979.
[8] H. Brézis and E. Lieb. A relation between pointwise convergence of
functions and convergence of functionals. Proceedings of the AMS, (3),
1983.
[9] H. Brézis and L. Nirenberg. Positive solutions of nonlinear elliptic equa-
tions involving critical Sobolev exponents. Communs pure. appl. Math,
1983.
[10] H. Brézis, L. Nirenberg, and G. Stampacchia. A remark on Ky Fan’s
minimax rinciple. Bollettino UMI, 1972.
[11] A. Capozzi, D. Fortunato, and G. Palmieri. An existence result for
nonlinear elliptic problems involving critical Sobolev exponent. Ann.
Inst. Poinc, Anal. Non Linéaire, (2), 1985.
[12] G. Cerami, D. Fortunato, and M. Struwe. Bifurcation and multiplicity
results for nonlinear elliptic problems involving critcal exponent. Ann.
Inst. Poinc., Anal. Non Linéaire, (1), 1984.

78
[13] G. Cerami, S. Solimini, and M. Struwe. Some existence results for su-
perlinear alliptic boundary value problems involving critical exponent.
J. Funct. Anal., (69), 1986.
[14] M. Clapp and T. Weth. Multiple solutions for the Brézis-Nirenberg
problem. Disponible sur internet ([Link]/mclapp), 2004.
[15] D. G. de Figueiredo. Positive solutions of semilinear elliptic problems.
Differential Equations Proceedings, Lect. Notes Math., (957), 1982.
[16] D. G. de Figueiredo. On the superlinear Ambrosetti-Prodi problem.
Nonlinear Anal. Th. Meth. and Appl., (6), 1984.
[17] D. G. de Figueiredo. Lectures on the Ekeland variational principle with
applications and detours. Springer-Verlag, 1989.
[18] G. Devillanova and S. Solimini. Concentration estimates and multiple
solutions to elliptic problems at critical growth. Adv. Diff. Eq., (7), 2002.
[19] N. Ghoussoub. Duality and perturbation methods in critical points
theory. Cambridge University Press.
[20] B. Gidas, W. M. Ni, and L. Nirenberg. Symmetry and related properties
via the maximum principle. Comm. Math. Phys., (68), 1979.
[21] D. Gilbarg and N.S. Trudinger. Elliptic partial differential equations of
second order. Springer-Verlag, 1977.
[22] E. Hebey. Introduction à l’analyse non linéaire sur les variétés. Diderot,
1997.
[23] J. Kadzan and F. Warner. Remarks on some quasilinear elliptic equa-
tions. Pure Appl. Math., (28), 1975.
[24] O. Kavian. Introduction à la théorie des points critiques et applications
aux problèmes elliptiques. Mathématiques et applications (Springer-
Verlag), 1989.
[25] A. N. Kolmogorov. Measure, Lebesgue integrals ans Hilbert spaces.
Academic Press, 1960.
[26] M. Lazzo. Solutions positives multiples pour une équation elliptique
non linéaire avec l’exposant critique de Sobolev. C. R. Acad. Sci. Paris,
(314), 1992.
[27] S.I. Pohozaev. Eigenfunctions of the equation ∆u + λf (u) = 0. Soviet
Math. Doklady, (6), 1965.
[28] L. Robbiano. Dimension de zéros d’une solution faible d’un opérateur
elliptique. J. Math. Pures Appl., (67), 1988.
[29] R. Schoen. Conformal deformation of a Riemannian geometry. Advanced
Studies in pure Mathematics, Geometry of geodesics and related topics,
(3), 1984.

79
[30] M. Willem. Analyse harmonique réelle. Hermann, 1995.
[31] M. Willem. Minimax theorems. Birkäuser, 1996.
[32] H. Yamabe. On a deformation of Riemannian structures on compact
manifolds. Osaka Math. J., (12), 1960.
4
[33] D. Zhang. On multiple solutions of −∆u + λu + |u| n−2 u. Nonlinear
Analysis, Theory, Methods and Applications, (13), 1989.

80