SESSION DE 2004

concours externe
de recrutement de professeurs agrégés

section : mathématiques

composition d’analyse et probabilités

durée : 6 heures

Les calculatrices électroniques de poche sont autorisées, conformément à la réglementation.

La qualité de la rédaction et de la présentation, la clarté et la précision des raisonnements
constitueront un élément important pour l’appréciation des copies.
Le but du problème est de donner une preuve partielle du théorème de la variété
stable.

Préliminaires et notations

Préliminaires généraux
Dans tout le problème, k désigne un entier strictement positif ; R est le corps des nombres
réels, C celui des nombres complexes. Le complémentaire d’un sous-ensemble Y dans X est
noté X − Y .
Si E et F sont des espaces vectoriels, L(E, F ) désigne l’ensemble des applications linéaires de
E dans F , End(E) l’ensemble des endomorphismes de E et Aut(E) celui des automorphismes
de E. Le déterminant d’un endomorphisme A est noté det A.
Dans Rk , le produit scalaire canonique de deux vecteurs u et v est noté < u,v >.
Si f est un homéomorphisme d’un espace métrique (X, d), on désigne par f n la n-ième itérée
de f . Si x est élément de X, la variété 1 stable pour f du point x est l’ensemble
Wxs (f ) = y ∈ X lim d f n (x), f n (y) = 0 .


n→∞
De même, la variété instable pour f du point x est l’ensemble
Wxu (f ) = y ∈ X lim d f −n (x), f −n (y) = 0 .


n→∞

Soit γ un réel strictement positif. On rappelle qu’une application f d’un espace métrique (X, d)
dans lui-même est lipschitzienne de rapport γ (ou γ-lipschitzienne) si
∀(x,y) ∈ X 2 , d f (y), f (x) 6 γ d(x,y).

On note Liγ l’ensemble des applications f : R → R γ-lipschitziennes s’annulant en 0.

Fonctions définies sur R2
Dans les parties 1, 4 et 5, R2 sera muni de la norme |(x1 , x2 )| = max |x1 |,|x2 | .


Soit h une application bornée, élément de C 1 (R2 , R) et dont la différentielle dh est bornée. On
note :
• |h|∞ = sup |h(x)| ;
x∈R2
• dhx la différentielle de h au point x dhx ∈ L(R2 , R) ;

• kdhx k la norme subordonnée dans L(R2 , R) de dhx ;

• |dh|∞ = sup kdhx k ;
x∈R2

et on pose |h|C 1 = max(|h|∞ ,|dh|∞ ).

Liens entre les différentes parties

• la partie 3 utilise les résultats de la partie 2 ;

• la partie 4 utilise les résultats des parties 1 et 2 ;
• la partie 5 est indépendante du reste du problème.

Les candidats peuvent admettre les résultats d’une question à condition de l’indiquer clairement
et poursuivre le problème en respectant la numérotation des questions.
1. Dans ce problème, le mot variété est juste une notation.
2
 1. Introduction

|ψ(x) − ϕ(x)|
1.1. Montrer que l’application dγ : (ϕ,ψ) 7→ sup , définie sur (Liγ )2 , est
x∈R−{0} |x|
une distance.

1.2. Montrer que, pour la métrique définie par la distance dγ , Liγ est complet.

1.3. Soient µ > 0 , h ∈ C 1 (R2 , R) et ϕ ∈ Liγ tels que |h|C 1 (1 + γ) < µ.

Montrer que l’application Gϕ définie par


∀x ∈ R, Gϕ (x) = µx + h x,ϕ(x) ,
est strictement croissante. En déduire que Gϕ un homéomorphisme de R.

2. Partie linéaire

Soit A un endomorphisme de Rk . Le rayon spectral r(A) est par définition le maximum

des modules des valeurs propres complexes de A.

2.1. Soit ε0 un réel strictement positif. Justifier qu’il existe une base B de Ck dans laquelle la
matrice
a = (ai,j ) 16i6k
16j6k
de A est triangulaire supérieure et telle que pour tous i et j vérifiant 1 6 i < j 6 k, on ait
|ai,j | 6 ε0 .

2.2. En déduire que pour tout réel ε strictement positif, il existe sur Rk une norme notée N
dite ε-adaptée pour A, c’est-à-dire telle que pour la norme d’opérateur subordonnée k · kN :
kAkN 6 r(A) + ε.

2.3. Montrer que, pour toute norme k · k sur Rk et tout réel ε strictement positif, il existe
une constante Cε strictement positive telle que, pour tout v ∈ Rk et tout n ∈ N∗ ,
kAn vk 6 Cε (r(A) + ε)n kvk.
On dira que A ∈ End(Rk ) est hyperbolique si toutes ses valeurs propres complexes ont un

module différent de 1.

Dans toute la suite de cette partie, A désigne un endomorphisme hyperbolique de Rk .

2.4. Montrer qu’il existe deux sous-espaces vectoriels supplémentaires E + et E − de Rk stables

par A tels que la restriction de A à E + (resp. E − ) ait toutes ses valeurs propres (dans C) de
module strictement supérieur (resp. inférieur) à 1.

On désigne par A|E la restriction de A au sous-espace E.

2.5. Montrer que (A|E + ) est inversible.

3
2.6. Montrer qu’il existe une norme dite A-adaptée k · k telle que
∀(x+ , x− ) ∈ E + × E − , kx+ + x− k = max(kx+ k,kx− k)
et de plus pour la norme subordonnée :

kA|E − k < 1 et k(A|E + )−1 k < 1.

2.7. Montrer que, pour tout v ∈ E − , la suite (An (v))n∈N converge vers 0.

Montrer de même que, pour tout v ∈ E + non nul, la suite kAn (v)k n∈N tend vers +∞.


2.8.

Préliminaires pour les parties 3 et 4

Le tore Tk est par définition le groupe additif quotient du groupe (Rk ,+) par le sous-
groupe (Zk ,+). Tout élément x de Tk peut s’écrire de manière unique x = (x1 , . . . , xk ),
avec xi ∈ T1 , pour i = 1, . . . , k.
On définit la projection canonique Π : Rk → Rk /Zk = Tk .

3. Linéarité et topologie

L ∈ End(Rk ) L(Zk ) ⊂ Zk de End(Rk ) ainsi que le


On considére le sous-ensemble E =
sous-ensemble E = L ∈ Aut(Rk ) L ∈ E et L−1 ∈ E de Aut(Rk ).


3.1. Montrer qu’un élément L de End(Rk ) appartient à E si, et seulement si, sa matrice dans
la base canonique de Rk est à coefficients dans Z.

3.2. Montrer qu’un élément L de E appartient à E si, et seulement si, det L vaut −1 ou 1.

3.3. Dans cette question, on se place dans R2 et on considère l’endomorphisme L défini, pour
tout (x, y) ∈ R2 , par L(x, y) = (2x + y, x + y). Cet endomorphisme est-il hyperbolique ? Est-il
dans l’ensemble E ?
Existe-t-il des exemples comparables sur R ?

Dans toute la suite de cette partie 3, L désigne un élément hyperbolique de E. Les

sous-espaces vectoriels E + et E − sont deux sous-espaces vectoriels supplémentaires de
Rk stables par L tels que la restriction de L à E + (resp. E − ) ait toutes ses valeurs
propres (dans C) de module strictement supérieur (resp. inférieur) à 1 ; l’existence de
cette décomposition a été démontrée au 2.4.

On dit qu’un élément x de [0,1]k est un point périodique de L s’il existe un entier p strictement
positif tel que Lp (x)−x appartient à Zk . On désigne par PerL l’ensemble des points périodiques
de L.

3.4. Démontrer que l’ensemble des points périodiques de L est donné par
PerL = Qk ∩ [0,1]k .
En déduire que PerL est dense dans [0,1]k .

3.5. Montrer que pour une distance donnant la topologie usuelle, les variétés stables et in-
stables pour L d’un point a de Rk sont respectivement Was (L) = a + E − et Wau (L) = a + E + .
4
3.6. Soit N une norme sur Rk . On définit une application d de Tk × Tk dans R en posant
d(y, y 0 ) = inf N (x − x0 ) x, x0 ∈ Rk avec Π(x) = y et Π(x0 ) = y 0 .


(1) Montrer que inf N (z) est strictement positif.

z∈Zk −{0}

(2) Montrer que d définit une distance sur Tk .

(3) Prouver que l’application Π : Rk → Tk est continue.

Dans la suite, Tk est muni de la topologie associée à la distance d.

3.7. Montrer que L induit un homéomorphisme noté FL du tore Tk satisfaisant la relation de

commutation
FL ◦ Π = Π ◦ L.

La suite de cette partie n’est pas utilisée dans le reste du problème.

3.8. On suppose que la distance d provient d’une norme N adaptée pour L. Montrer que :
(1) Π(0 + E − ) ⊂ W0s (FL ) ;
(2) Π(0 + E + ) est dense dans Tk ;
(3) la variété stable pour FL du point 0 est dense dans Tk .

Une application continue f : Tk → Tk est dite topologiquement mélangeante si, pour toute
paire d’ouverts non vides U et V de Tk , il existe un entier n0 , tel que :
∀n > n0 , f n (U ) ∩ V 6= ∅.

3.9. Montrer qu’une isométrie de Tk n’est pas une application topologiquement mélangeante.

3.10. Montrer que FL est une application topologiquement mélangeante.

Indication : On pourra utiliser, outre le fait que 0 est un point fixe, la densité de la
variété stable pour un automorphisme hyperbolique FL du point 0 ainsi
que la densité de la variété stable pour FL−1 du point 0.

4. Un exemple presque linéaire dans R2

Dans la partie 4, f est une application élément de C 1 (R2 , R2 ), fixant l’origine et proche
en C 1 -topologie d’un automorphisme linéaire hyperbolique diagonal A défini, pour tout
(x, y) ∈ R2 × R2 par A(x,y) = (µx, λy) avec 0 < λ < 1 < µ. Ceci signifie que f est de
la forme

f (x,y) = µx + α(x, y), λy + β(x, y)
avec α et β vérifiant α(0,0) = 0, β(0,0) = 0 et il existe un réel δ, strictement positif,
tel que |α|C 1 < δ et |β|C 1 < δ.
Dans la suite δ sera considéré comme petit, ce qui sera précisé par des inégalités.
5
4.1. Prouver que si 2δ < λ, f est un difféomorphisme de R2 .
Indication : On pourra montrer que pour tout (x0 ,y 0 ) ∈ R2 l’application
 0
α(x,y) y 0 β(x,y)

x
F(x0 ,y0 ) : (x, y) 7→ − , −
µ µ λ λ
est lipschitzienne de rapport a, avec 0 < a < 1.

Inégalités (*)
Dans toute la suite de cette partie on suppose qu’il existe un nombre γ vérifiant les
inégalités

0 < γ < 1
(∗) γ(µ − λ)
0 < δ <
γ+2
Le graphe d’une application ϕ : R → R est la partie de R2 définie par


Hϕ = x, ϕ(x) x∈R .
Dans la suite, on considère l’application Gϕ définie, pour tout x réel, par


Gϕ (x) = µx + α x, ϕ(x) .

4.2. Montrer que si ϕ est élément de Liγ il existe une fonction ψ : R → R telle que :
f (Hϕ) = Hψ.

4.3. Montrer que f∗ : ϕ 7→ ψ, définie à la question précédente, est une application de Liγ
dans lui-même.

4.4. Prouver pour tous ϕ et ϕ0 dans Liγ et pour tout x dans R, l’inégalité
f∗ (ϕ) Gϕ (x) − f∗ (ϕ0 ) Gϕ (x) 6 λ + δ(1 + γ) ϕ0 (x) − ϕ(x) .

4.5. En déduire qu’il existe une application ϕ+ dans Liγ dont le graphe Hϕ+ est invariant par
f.

Prouver l’inégalité f x, ϕ+ (x) > (µ − δ) x, ϕ+ (x) .

4.6.

4.7. Pourquoi,si γ, δ satisfont les inégalités (*) et si δ est suffisamment petit, peut-on dire
que l’ensemble x, ϕ+ (x)


x ∈ R est contenu dans la variété instable pour f du point
(0,0) ?

Commentaires sur les variétés stables et instables

On prouverait avec les mêmes arguments l’existence d’une variété stable de l’origine
qui est le “graphe vertical” d’une fonction lipschitzienne ϕ− ∈ Liγ c’est-à-dire
W0s (f ) = ϕ− (x), x


x∈R .
On pourrait aussi montrer que les variétés stables et instables sont en fait des graphes
d’applications de classe C 1 .

6
 5. Différentiabilité des fonctions lipschitziennes

y,ϕ(y) − x,ϕ(x)
Soit ϕ ∈ Liγ et x ∈ R ; on introduit, pour y 6= x, ∆y ϕ =

, on pose :
y,ϕ(y) − x,ϕ(x)
Ux ϕ = v ∈ R2

∃(xn )n∈N , lim xn = x, ∀n ∈ N, xn 6= x et lim ∆xn ϕ = v
n→∞ n→∞
et on définit l’ensemble tangent au graphe de ϕ au point x comme
S
Tx ϕ = Rv, avec Rv = {av | a ∈ R}.
v∈Ux ϕ

5.1. Montrer que pr1 (Tx ϕ) = R où pr1 est la projection sur le premier facteur :
pour u = (u1 ,u2 ) ∈ R2 , pr1 (u) = u1 .
Indication : On pourra remarquer que pour tout y 6= x, |∆y ϕ| = 1.

Le cône horizontal H γ est l’ensemble H γ = (u1 ,u2 ) ∈ R2 |u2 | 6 γ|u1 | .


5.2.
Montrer l’inclusion Tx ϕ ⊂ H γ .

5.3. On considére la fonction continue sur R définie pour tout réel x non nul par
x
φ(x) = · sin (ln |x|).
2
Appartient-elle à Liγ pour un certain γ ? Expliciter T0 φ.

5.4. On suppose que γ 6 1. Montrer que, si Tx ϕ est un sous-espace vectoriel de dimension 1

de R2 , alors ϕ est dérivable en x.