Systemes dynamiques :

le premier retour
Journees X-UPS 1996

suivi de (r

e

edition)

Aspects des systemes dynamiques :

des

equations di

erentielles
aux it

erations de fonctions

Journ

ees X-UPS 1994

F{91128 Palaiseau Cedex

Tel. : ((33)) 01 69 33 40 88 Fax : ((33)) 01 69 33 30 19
Courrier electronique : secret@[Link]
 Systemes dynamiques :
le premier retour
Journees X-UPS 1996

septembre 1996

F{91128 Palaiseau Cedex

Tel. : ((33)) 01 69 33 40 88 Fax : ((33)) 01 69 33 30 19
Internet : secret@[Link]
 Sommaire
Preface v
Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : vi

X-UPS sur Internet vii

Equations dierentielles
Francois Laudenbach 1
1 Point de vue qualitatif : : : : : : : : : : : : : : : : : : : : : : : : : : : : 1
1.1 Equation di erentielle du premier ordre autonome : : : : : : : : : : 1
1.2 Equation di erentielle lineaire : : : : : : : : : : : : : : : : : : : : : 2
1.3 Un exemple d'equation di erentielle non lineaire provenant de la
mecanique : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 4
1.4 Autre exemple dans le plan : : : : : : : : : : : : : : : : : : : : : : : 5
1.5 Theoremes generaux : : : : : : : : : : : : : : : : : : : : : : : : : : 5
1.6 Conjugaison topologique d'un foyer et d'un nud : : : : : : : : : : 7
2 Stabilite des equilibres : : : : : : : : : : : : : : : : : : : : : : : : : : : : 8
2.1 Dynamique de gradient : : : : : : : : : : : : : : : : : : : : : : : : : 8
2.2 Critere spectral pour la stabilite asymptotique : : : : : : : : : : : : 11
2.3 Points d'equilibre instables sur deux exemples : : : : : : : : : : : : 12
2.4 Orbites periodiques attractantes : : : : : : : : : : : : : : : : : : : : 13
Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 16

Sytemes dynamiques discrets

Albert Fathi 17
1 Quelques generalites et quelques exemples : : : : : : : : : : : : : : : : : 17
1.1 Denitions : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 17
1.2 Les rotations sur le cercle : : : : : : : : : : : : : : : : : : : : : : : : 18
1.3 Les decalages de Bernoulli : : : : : : : : : : : : : : : : : : : : : : : 18
1.4 Un exemple de semi-conjugaison : : : : : : : : : : : : : : : : : : : : 20
1.5 Remords nal : Les applications lineaires : : : : : : : : : : : : : : : 21
2 Systemes dynamiques discrets : stabilite structurelle : : : : : : : : : : : 22
2.1 Conjugaison topologique et stabilite structurelle : : : : : : : : : : : 23
2.2 Stabilite structurelle des dilatations lineaires : : : : : : : : : : : : : 24
2.3 Stabilite structurelle de mp, p
2 : : : : : : : : : : : : : : : : : : : 25
Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 26
i
Systemes dynamiques hyperboliques
Patrick Foulon 29
Introduction : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 29
1 Les automorphismes lineaires hyperboliques : : : : : : : : : : : : : : : : 29
1.1 Le cadre geometrique, les tores : : : : : : : : : : : : : : : : : : : : : 29
1.2 La mesure de Haar sur les tores : : : : : : : : : : : : : : : : : : : : 31
1.3 Les automorphismes lineaires des tores : : : : : : : : : : : : : : : : 31
1.4 Les automorphismes lineaires hyperboliques des tores : : : : : : : : 33
1.5 Varietes stables et instables : : : : : : : : : : : : : : : : : : : : : : 36
1.6 Transitivite et melange topologique : : : : : : : : : : : : : : : : : : 39
1.7 Les problemes de moyennes : : : : : : : : : : : : : : : : : : : : : : 40
1.8 Ergodicite : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 41
2 Non linearite et stabilite structurelle : : : : : : : : : : : : : : : : : : : : 43
2.1 Le fer a cheval : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 43
2.2 Di eomorphismes d'Anosov - Ensembles hyperboliques : : : : : : : 45
2.3 Dynamique symbolique : : : : : : : : : : : : : : : : : : : : : : : : : 46
2.4 Codage et partitions de Markov : : : : : : : : : : : : : : : : : : : : 47
2.5 Stabilite des automorphismes hyperboliques : : : : : : : : : : : : : 48
Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 52

Proprietes spectrales de systemes dynamiques discrets

Martine Que
elec 53
1 Systemes dynamiques discrets : proprietes statistiques : : : : : : : : : : 53
1.1 Mesures invariantes : : : : : : : : : : : : : : : : : : : : : : : : : : : 55
1.2 Ergodicite : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 58
1.3 Isomorphismes de systemes et codage : : : : : : : : : : : : : : : : : 61
1.4 Systeme associe a une suite : : : : : : : : : : : : : : : : : : : : : : : 65
2 Proprietes spectrales : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 69
2.1 Generalites sur la theorie spectrale : : : : : : : : : : : : : : : : : : 70
2.2 Classication spectrale de suites : : : : : : : : : : : : : : : : : : : : 74
Bibliographie : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 79

Le doublement de l'angle
Adrien Douady 81
Introduction (a lire en dernier) : : : : : : : : : : : : : : : : : : : : : : : : : 81
1 Types d'orbites fermees : : : : : : : : : : : : : : : : : : : : : : : : : : : 82
1.1 Orbites nies : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 82
1.2 Interpretation de q comme decalage : : : : : : : : : : : : : : : : : : 83
1.3 Exemples d'orbites non denses : : : : : : : : : : : : : : : : : : : : : 83
1.4 Exemples d'orbite dense : : : : : : : : : : : : : : : : : : : : : : : : 84
1.5 Exemple d'orbite fermee denombrable : : : : : : : : : : : : : : : : : 85
1.6 Toute orbite fermee di erente de T est de mesure nulle : : : : : : : 85
ii
 1.7 Presque tout point a une orbite dense (!) : : : : : : : : : : : : : : : 86
1.8 Orbites uniformement reparties et loi des grands nombres (!!) : : : : 86
2 Orbites tournantes : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 87
2.1 Ordre cyclique : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 87
2.2 Angle de rotation : : : : : : : : : : : : : : : : : : : : : : : : : : : : 88
2.3 L'abaque de l'escalier : : : : : : : : : : : : : : : : : : : : : : : : : : 89
2.4 Le cas r rationnel : : : : : : : : : : : : : : : : : : : : : : : : : : : : 90
2.5 Interpretation pour l'ensemble de Mandelbrot (!!) : : : : : : : : : : 90
2.6 Une propriete de transcendance : : : : : : : : : : : : : : : : : : : : 91
3 Proprietes hyperboliques de q : : : : : : : : : : : : : : : : : : : : : : : 92
3.1 Ordre orbital : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 92
3.2 Conjugaison a q : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 92
3.3 Lemme de poursuite : : : : : : : : : : : : : : : : : : : : : : : : : : 93

Courbes de Julia sans tangente

Adrien Douady 95
Introduction : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 95
1 La courbe de Julia : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 96
1.1 Mise en place : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 96
1.2 Construction du lacet  : : : : : : : : : : : : : : : : : : : : : : : : : 97
1.3 Injectivite de  : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 98
1.4 Points qui ne sont pas sur J : : : : : : : : : : : : : : : : : : : : : : 99
2 Points xes ou periodiques a multiplicateur non reel : : : : : : : : : : : 100
2.1 Points xes, points periodiques, multiplicateur : : : : : : : : : : : : 100
2.2 Existence d'un point sans tangente : cas c non reel : : : : : : : : : : 100
2.3 Cas c reel : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 101
2.4 Densite des points sans tangente : : : : : : : : : : : : : : : : : : : : 103
3 Distorsion bornee : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 104
3.1 Introduction, fonctions holomorphes : : : : : : : : : : : : : : : : : : 104
3.2 Distorsion : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : : 104
3.3 Majoration de la distorsion : : : : : : : : : : : : : : : : : : : : : : : 105
3.4 Contradiction en supposant l'existence d'une tangente : : : : : : : : 106

iii
 Preface
La theorie des systemes dynamiques avait initialement pour objet l'etude du
comportement qualitatif des trajectoires d'un champ de vecteurs sur une variete
(espace des phases en physique par exemple). On s'interesse ensuite au ot au temps
1 de ce champ de vecteurs : c'est un di eomorphisme de la variete. On remplace l'e-
tude des trajectoires par l'etude du comportement des iteres de ce di eomorphisme :
une discretisation du temps en quelque sorte (voir 1] ou 3] par exemple). Un tel
di eomorphisme peut aussi appara^tre comme application de premier retour d'une
trajectoire au voisinage d'une trajectoire periodique.
Par extension, l'etude du systeme dynamique associe a une application f d'un
espace dans lui-m^eme est celle du comportement de certaines parties de l'espace
sous l'e et des iterees f  f      f lorsque le nombre d'iterations tend vers l'inni.
Les textes presentes dans ce volume regroupent d'une part les conferences d'in-
troduction (Laudenbach, Fathi) donnees dans le cadre d'une preparation aux TIPE
a l'Ecole Polytechnique en fevrier et a l'ENS-Lyon en mars 1996, et d'autre part
les conferences des journees de mai (Douady, Foulon, Que elec). Les deux premiers
textes se veulent introductifs et tres elementaires. Ils peuvent aussi servir d'intro-
duction aux textes des journees X-UPS 1994. Les suivants restent assez elementaires
et peuvent aussi ^etre lus avant ceux des journees 1994.
Les conferences d'Adrien Douady ont ete suivies de la projection d'un lm1
intitule \La dynamique du lapin" et qui est aussi un excellent outil d'introduction
aux systemes dynamiques.
Nous tenons a remercier la direction de l'Ecole Polytechnique, et tout parti-
culierement la direction des Etudes, pour l'aide materielle importante qu'elles ont
apportee a la preparation de ces journees et a la publication de ce volume.

Nicole Berline et Claude Sabbah

1produit par l'association EcoutezVoir, 4, square Vermenouze, 75005 Paris (tel. 47 07 25 23,
Fax. 47 07 85 57)

v
 Bibliographie
1] V.I. Arnold, Equations di
erentielles ordinaires, Mir, Moscou, 1974.
2] V.I. Arnold, Chapitres supplementaires de la theorie des equations di
e-
rentielles ordinaires, Mir, Moscou, 1987.
3] V.I. Arnold, Methodes mathematiques de la mecanique classique, Mir,
Moscou.
4] A. Chenciner, Systemes dynamiques dierentiables, Encyclopedia Univer-
salis.
5] H.-O. Peitgen, P. Richter, the Beauty of Fractals, Springer-Verlag, 1986.

vi
 X-UPS sur Internet
A partir des Journees 1991 (et sauf 1992), les volumes existent sous forme de
chier postscript2 et sont telechargeables. Ce chier est presente sous deux formes : la
version pleine page et la version demi-page, cette derniere permettant d'economiser
du papier a l'impression. Ils sont disponibles sur Internet et sont accessibles par ftp.
Acces par Internet :
[Link]
puis cliquer sur \Journees X-UPS" (vous pourrez trouver sur cette page d'autres
informations).
Acces par ftp : ouvrir une session ftp sur [Link] (login = ftp,
mot de passe = votre adresse electronique), puis
cd pub/ups
et lire le chier README (car les chiers sont comprimes avec la procedure
\gzip").
Pour obtenir par exemple le volume des journees 1991 :
get [Link]
et la version demi-format de ce m^eme volume :
get [Link]
qui est mal lisible a l'ecran.
Rappel
Vous pouvez aussi obtenir la liste des volumes des Journees X-UPS disponibles
en ecrivant a
Journees X-UPS
Secretariat du centre de Mathematiques
Ecole Polytechnique
91128 Palaiseau
volumes que vous pouvez obtenir en envoyant a l'adresse ci-dessus 20FF en timbres
poste pour frais d'envoi par volume demande (PAS DE CHE QUE NI D'ARGENT
LIQUIDE).

Nicole Berline et Claude Sabbah

2A l'heure actuelle certains dessins sont absents ou incomplets dans la version postscript ceci
sera ameliore prochainement.

vii
 Equations dierentielles
Francois Laudenbach

1. Point de vue qualitatif

Avec son memoire sur les courbes denies par une equation dierentielle, publie
entre 1881 et 1886, Henri Poincare a ouvert la voie pour une approche des equa-
tions di erentielles ou la priorite n'est plus donnee a la resolution mais a une etude
plus geometrique (ou topologique) des solutions, en particulier de leurs proprietes
asymptotiques.
1.1. Equation dierentielle du premier ordre autonome
On se donne :
{ un ouvert " de Rn,
{ une application X : " ! Rn de classe C 1.
Le Rn contenant la source est un espace a#ne (ensemble de points). Le Rn but
en est l'espace vectoriel sous-jacent. L'application X est un champ de vecteurs deni
sur l'ouvert ". Le vecteur X (x) est souvent represente par le bipoint (x x + X (x)).

X (x)

Figure 1
L'equation di erentielle associee s'ecrit
x_ = X (x):
Une solution  est une application di erentiable  : I ! ", denie sur un intervalle
I  R de la droite du temps, telle que
d (t) = X ( (t)):
dt
1
2 Francois Laudenbach

Remarques.
(1) Par la composition X   , on voit d'abord que  est de classe C 1, puis que 
est C k+1 lorsque X est C k (k = 1 2 : : : +1).
(2) Si 0 est une solution denie sur I0 et si t0 2 R, alors 1(t) = 0(t ; t0)
est une solution denie sur I1 = I0 + t0. Que la translation dans le temps envoie
l'ensemble des solutions en lui-m^eme manifeste le caractere autonome de l'equation
di erentielle, c'est-a-dire que les vecteurs X (x) ne dependent que de la position x
et pas du temps.
(3) La restriction d'une solution  : I ! " a un sous-intervalle ouvert J donne
evidemment une solution  jJ : J ! ".
Une solution maximale est une solution qui n'est pas la restriction stricte d'une
autre solution ou encore qui n'admet aucun prolongement. On etablit que toute
solution est \contenue" dans une solution maximale& cela resulte du lemme de Zorn,
si on tient a ce resultat avant d'avoir le theoreme d'unicite locale, celui-ci le donnant
a peu de frais. Une orbite est l'image d'une solution maximale.
Le portrait de phases est la gure formee par l'ensemble des orbites. Du point de
vue topologique, une orbite peut ^etre
{ un point d'equilibre (zero du champ de vecteurs),
{ une orbite periodique, image d'une solution maximale periodique de periode
non nulle (dans ce cas l'orbite est homeomorphe a un cercle),
{ l'image d'une solution maximale injective (ce qui n'implique pas que l'orbite
soit homeomorphe a R & elle peut ^etre recurrente, c'est-a-dire repasser une innite
de fois arbitrairement pres de chacun de ses points, comme le fait une ligne partout
dense dans un tore, et, dans ce cas, un voisinage d'un point dans l'orbite n'est jamais
connexe pour la topologie induite).
Cette classication necessite un argument qui est laisse au lecteur. Par ailleurs,
gr^ace aux arguments de Baire, on peut etablir qu'une orbite compacte, non reduite
a un point, est une orbite periodique.
Theoreme fondamental (forme faible). | Les orbites forment une parti-
tion de ". Chaque orbite non reduite a un point est une courbe lisse (sans point
double ni point de rebroussement).

1.2. Equation dierentielle lineaire

On se donne A 2 End(Rn) et on considere sur Rn l'equation di erentielle
x_ = Ax:
Les solutions maximales sont  (t) = etA x0 , t 2 R. L'allure du portrait de phases
ne depend que du spectre, a quelques details ou exceptions pres. La gure suivante
 Equations differentielles 3

rassemble la terminologie en vigueur pour le portrait de phases correspondant a un

couple (trace(A), determinant(A)). La parabole correspond aux zeros du discrimi-
nant ' de l'equation caracteristique de A.
det
centre F '=0
foyer foyer
attractif repulsif
nud NI nud
attractif N repulsif
trace
selle S

Figure 2
La gure suivante presente les portraits de phases pour chacun des points mar-
ques sur la verticale en pointilles : S, N, NI, F.

S : selle N : nud

NI : en general, nud impropre F : foyer ou miroir

Le spectre de A ne depend pas de l'orientation du plan et donc ne determine
pas le sens de rotation des spirales d'un foyer. Aussi peut-on avoir la gure miroir
de celle dessinee ci-dessus. La diagonalisabilite n'est pas non plus une propriete
spectrale& si la valeur propre est double, le n ud impropre correspond au cas non
diagonalisable. Enn il y a quelques cas particuliers :
{ si trace(A)=0, le point d'equilibre est un centre & toutes les orbites, autres que
0, sont periodiques (ellipses)&
{ si A est scalaire, les orbites, autres que 0, sont les demi-droites ouvertes issues
de l'origine.
4 Francois Laudenbach

Fait remarquable. | Les portaits de phases N, NI et F sont deux a deux

topologiquement conjugues : il existe un homeomorphisme de R2 envoyant les or-
bites de l'un sur les orbites de l'autre.
1.3. Un exemple d'equation dierentielle non lineaire provenant de
la mecanique
L'equation di erentielle (du second ordre) du pendule sans frottement est
x) = ; sin x&
ici toutes les constantes physiques sont egales a 1. En traitant la vitesse (angulaire)
comme une variable independante, on se ramene a une equation di erentielle du
premier ordre dans R2 :
x_ = y
y_ = ; sin x
Le plan des (x y) est l'espace des phases (ou des etats du systeme). La variable
x parcourt l'espace des congurations (ou des positions). Le champ de vecteurs
correspondant est note (x y).
y

x
;
E=1

Figure 3
y 2
Soit E (x y) = ; cos x la fonction energie. Comme hgrad E (x y) X (x y)i = 0
2
identiquement, la fonction E est une integrale premiere du champ : les orbites sont
contenues dans les niveaux E = constante. En fait dans cet exemple chaque orbite
s'identie a une composante connexe par arcs de l'ensemble fE (x y) = const:g prive
des points d'equililibre.
Faisons-le par exemple pour l'arc , composante de fE = +1g dans fy > 0g
ayant les points (; 0) et ( 0) dans son adherence (voir plus loin, critere de comple-
tude). Comme est d'adherence compacte, une solution maximale contenue dans
est denie pour tout temps de ;1 a +1. Si elle ne tendait pas vers les points
d'equilibre pour t ! 1, la vitesse serait minoree en module et la longueur de
serait innie, ce qui est clairement faux puisque l'adherence de est le graphe d'une
fonction di erentiable au-dessus d'un intervalle ferme borne.
 Equations differentielles 5

1.4. Autre exemple dans le plan

(
x_ = ;y + x(1 ; x2 ; y2)
y_ = x + y(1 ; x2 ; y2)

Figure 4
Pour a 2 R2 hors du cercle unite, une solution maximale telle que  (0) = a est
denie sur un intervalle ]t; +1 avec t; > ;1 (duree de vie nie dans le passe).
Le theoreme de Poincare-Bendixson enonce que, pour tout champ de vecteurs
X de classe C 1 dans le plan ayant des zeros isoles, les orbites ont un comportement
asymptotique analogue a ceux rencontres sur les gures precedentes. Precisement,
si  est une solution de x_ = X (x) (denie jusqu'a t = +1), on denit son ensemble
!-limite comme l'ensemble des valeurs d'adherence des suites  (tn), tn ! +1. Le
theoreme enonce que si un tel ensemble est compact, non vide et qu'il ne contient
pas de zeros de X , alors il est forme d'une orbite periodique.
En revanche, a partir de la dimension 3, on a des phenomenes beaucoup plus
compliques& les orbites periodiques d'un champ de vecteurs sont loin en general de
donner tous ses ensembles !-limites sans zeros. Par exemple il existe un champ de
vecteurs X dans R3 avec les proprietes suivantes :
{ X est tangent a un tore de revolution T = S 1 S 1.
{ Pour tout a 2 T , l'orbite Oa est partout dense dans T .
{ Le champ X n'a ni zeros ni orbites periodiques dans le tore plein borde par T
(K. Kuperberg, 1993). Ce dernier resultat met un terme a de longues recherches sur
une question soulevee par H. Seifert en 1950 concernant la necessite pour un champ
de vecteurs sur la sphere de dimension 3 d'avoir une orbite periodique.
{ M^eme propriete a l'exterieur du tore plein (tres facile a obtenir).

1.5. Theoremes generaux

(1) Theoreme local. | Pour tout x0 2 ", il existe " > 0 et r > 0 avec les
proprietes suivantes : { la boule fermee B (x0 r) est contenue dans "
6 Francois Laudenbach

{ pour tout x 2 B (x0 r) il existe une solution  : ] ; " +" ! " de condition
initiale  (0) = x
{ pour tout "0 2 ]0 "], toute solution  0 : ] ; "0 +"0  ! " de condition initiale x
est la restriction de  .
Remarque. | Par translation dans le temps, mutatis mutandis, le temps t = 0
de la condition initiale peut ^etre remplace par t = t0 .
Consequence. | Pour tout x 2 ", il existe une unique solution maximale
 : ]t;(x) t+(x) ! " de condition initiale x.
En e et, si 1 et 2 sont deux solutions maximales de m^eme condition initiale
1(0) = 2(0) = x denies respectivement sur des intervalles I1 et I2, il y a un plus
grand intervalle J , 0 2 J  I1 \ I2 , sur lequel 1(t) = 2(t). L'intervalle J est ferme
dans I1 \ I2. Par l'unicite locale, il est impossible que 1 et 2 di erent au-dela d'un
temps t0 . Donc sup J = sup Ii pour i = 1 ou 2& autrement dit, une solution prolonge
l'autre. Mais comme les deux solutions sont maximales elles co)ncident dans le futur
de 0 (idem dans le passe).
Le ot. | On note t 7! '(x t) la solution maximale de x_ = X (x) de condition
initiale x. Elle verie : 8 '(x 0) = 0
<
: @' (x t) = X ('(x t))
@t
Considerer le ot, c'est envisager d'un m^eme coup d'il toutes les solutions& en
particulier, pour autant qu'elle soit denie pour un certain t, l'application x 7!
'(x t) decrit la position au temps t des domaines de " entraines par la dynamique
du champ de vecteurs.
Le domaine de denition du ot est D  " R :

D = fxg ]t;(x) t+ (x):
x2
Le domaine D est un voisinage de chacun de ses points, donc un ouvert de " R.
C'est vrai pour (x 0) d'apres le theoreme local puis pour (x t0 ) d'apres la remarque.
Loi du ot. | Si t1 t2 t1 + t2 2 ]t;(x) t+(x), on a
'(x t1 + t2) = ' ('(x t1) t2 ) :
En e et '(x t1 + t) et ' ('(x t1) t) sont solutions de l'equation di erentielle et
co)ncident pour t = 0.
(2) Theoreme de regularite. | Le ot est de classe C 1 .
La di erentiabilite est di#cile mais la continuite resulte de techniques assez ele-
mentaires de majoration a priori (lemme de Gronwall).
 Equations differentielles 7

Le champ de vecteurs X est dit complet si le ot est deni pour tout temps :
D = " R. Soit t 2 R xe & on pose 't (x) = '(x t). Alors :
1. 't est un dieomorphisme de "
bijectif car ';t  't = 't  ';t = Id,
di erentiable comme l'est le ot,
d'inverse di erentiable car ';t est di erentiable.
2. t 7! 't est un homomorphisme de groupes R ! Di (").
Critere de completude. | Si l'orbite Ox = t2]t; (x) t+ (x) '(x t) est d'ad-
herence compacte, alors ]t; (x) t+(x) = R autrement dit, la duree de vie de l'orbite
est innie dans le futur comme dans le passe.

Demonstration. | Supposons t+ (x) < +1. Par l'hypothese de compacite il

existe une suite tn ! t+(x) telle que la suite xn = '(x tn) converge& soit a = lim xn.
On sait que D contient un voisinage V ] ; " +" de (a 0). Pour n assez grand,
xn 2 V et t+(x) ; tn < ". Les formules
t !
7 '(x t)t 2]t; (x) t+(x)
t !7 '(xn t ; tn) si t 2]tn ; " tn + "
donnent deux solutions co)ncidant pour t = tn . Donc elles se laissent reunir pour
donner une solution de condition initiale x denie sur ]t; (x) tn + ". C'est une
contradiction puisque tn + " > t+(x). 2

1.6. Conjugaison topologique d'un foyer et d'un nud

Soit x_ = Ax ou A est une matrice de similitude dilatante& le ot est (x t) =
eAt x. Soit y_ = By ou B est une matrice diagonale a valeurs propres positives& soit
(y t) = eBt y. On prouve ci-dessous qu'il existe un homeomorphisme h conjuguant
les deux ots : pour tout x 2 Rn et tout t 2 R,
(h(x) t) = h((x t)):
Pour tout x 6= 0, il existe un unique temps (x) tel que (x (x)) appartienne
au cercle unite S 1. En e et un calcul simple donne :
@ k(x t)k2 > 0 k(x t)k ;! 0 et k(x t)k ;! +1&
@t t!;1 t!+1
la premiere inegalite traduit le fait geometrique que le champ de vecteurs, gene-
rateur innitesimal du ot , n'est jamais tangent aux cercles centres a l'origine.
Par le theoreme des valeurs intermediaires, (x) existe et est unique. Le theoreme
8 Francois Laudenbach

des fonctions implicites, applique a l'equation k(x t)k2 ; 1 = 0, donne que  est
C 1. Sur R2 n 0 la conjugaison cherchee est donnee par
 
h(x) =  (x (x)) ;(x) :
Quand kxk ! 0, (x) tend vers +1 et donc h(x) tend vers 0, parce qu'il appartient
a (S 1 ;(x)). Ainsi h se prolonge en un homeomorphisme de R2, di erentiable
partout sauf en 0, en posant h(0) = 0. Par construction cet homeomorphisme con-
jugue les deux ots et donc les portraits de phases.
En revanche, h n'est en general pas di erentiable a l'origine. S'il l'est, par de-
rivation d'application composee, on a
Dh(0)  A = B  Dh(0)
Comme les spectres de A et de B sont disjoints, cette relation implique Dh(0) = 0.
Donc m^eme si h est di erentiable a l'origine, son inverse ne l'est pas.
La conjugaison topologique entre un foyer et un nud impropre sera abordee
dans la partie suivante.
2. Stabilite des equilibres
Les champs de vecteurs gradients donnent un bon exemple ou la dynamique est
completement comprise, d'ailleurs tres simple : les ensembles limites sont les points
d'equilibre. Pour un tel champ, la stabilite des points d'equilibre consiste seulement
a savoir si un point critique de fonction est un minimum local ou non. La discussion
de la stabilite des points d'equilibre pour les champs de vecteurs qui ne sont pas des
gradients releve d'idees similaires. L'expose se terminera par un bref aper*cu sur la
stabilite des orbites periodiques& on se demandera par exemple a quelle condition
une orbite periodique est un attracteur, question qui fera entrer dans le monde des
dynamiques discretes.
2.1. Dynamique de gradient
Soit f : Rn ! R une fonction de classe C 2 . On suppose que les sous-niveaux
de f sont compacts. (Par denition, le sous-niveau de la valeur c 2 R est E (c) =
f ;1(] ; 1 c])). Soit X = ; grad f (le signe ; est l'usage des topologues)& c'est un
champ de classe C 1. Soit  son ot. On a
@ f  (x t) = ;kgrad f ((x t))k2
@t
qui est strictement negatif sauf si x est un point critique de f , c'est-a-dire un point
ou gradf (x) = 0. Pour x xe, la demi-orbite des temps
0 est contenue dans le
compact E (f (x)). Donc (x t) est deni pour tout t > 0 en vertu du critere de
completude donne precedemment.
Theoreme. | On suppose que f n'a qu'un nombre ni de points critiques
dans toute partie compacte. Alors (x t) tend vers un point critique pour t ! +1.
 Equations differentielles 9

Demonstration.
(1) On etablit d'abord le fait suivant :
si tn ! +1 et si xn = (x tn ) ! a, alors grad f (a) = 0.
En e et la suite f (xn) tend en decroissant vers f (a). Comme t 7! f ((x t)) est
monotone decroissante, on a f ((x t)) > f (a) pour tout t
0.
Par ailleurs, si a n'est pas un point critique, f ((a 1)) < f (a). Par continuite
du ot, f ((xn 1)) ! f ((a 1)) < f (a): Mais par la loi du ot, f ((xn 1)) =
f ((x tn + 1)) > f (a). Contradiction.
 
(2) Si (x t) t0 a deux valeurs d'adherence a0 et a1, on a la gure suivante :

a0 a1

Figure 5
Soit S une petite sphere centree en a0 evitant tous les points critiques. Par le
theoreme des valeurs intermediaires applique a t 7! k(x t) ; a0k2 , on voit que l'or-
bite Ox coupe S une innite de fois. Comme S est compact, S contient une valeur
d'adherence de Ox, c'est-a-dire un point critique en vertu du point (1). Contradic-
tion. 2
Les minimums locaux sont des points d'equilibre asymptotiquement stables. Les
points critiques qui ne sont pas des minimums locaux sont instables. Ces concepts
sont expliques ci-dessous.
Definition. | Soit X un champ de vecteurs C 1 et soit  son ot. Un point
d'equilibre est stable si, pour tout " > 0, il existe  > 0 tel que
kx ; ak   =) k(x t) ; ak  "
pour tout t > 0 (en particulier t+ (x) = +1). Le point d'equilibre est asymptotique-
ment stable, s'il est stable et si, pour tout x assez proche de a, (x t) t!;!
+1
a.

Exemple. | Pour le pendule sans frottement, le point (x = 0 y = 0) est

un point d'equilibre stable et non asymptotiquement stable. Les orbites des points
voisins de l'origine sont des courbes fermees dont le diametre tend vers 0 quand le
niveau d'energie correspondant tend vers le minimum absolu.
10 Francois Laudenbach

Critere de Liapounov. | Soit L : V ! R une fonction continue, denie

sur un voisinage V de a et admettant a pour minimum local strict. On suppose
que, pour tout x 6= a, t 7! L  (x t) est strictement decroissante (sur l'intervalle
contenant 0 ou elle est denie). Alors a est un point d'equilibre asymptotiquement
stable.

La demonstration est en tout point analogue a celle donnee pour les dynamiques
de gradient et n'est pas reproduite ici. Une fonction de Liapounov est une fonction
qui satisfait aux hypotheses de ce critere.

Exemple. | Le pendule avec frottement, dont le mouvement est regi par l'e-
quation di erentielle :
x) = ; sin x ; kx_ (k > 0)
qui equivaut au systeme du premier ordre
(
x_ = y
y_ = ; sin x ; ky:

La fonction energie E (x y) = y ; cos x est une fonction de Liapounov& en e et

2
2
hgrad E X i = ;ky2  0
et, hors des points d'equilibre, aucune solution de l'equation di erentielle n'est con-
tenue dans un niveau constant de E . D'apres le critere, l'origine est un point d'e-
quilibre asymptotiquement stable.

Figure 6 : 0 < k < 2

 Equations differentielles 11

2.2. Critere spectral pour la stabilite asymptotique

On suppose que 0 2 Rn est un point d'equilibre. Par un developpement limite a
l'ordre 1 au voisinage de 0, on peut ecrire
X (x) = Ax + X1(x)
Z 1 
avec X1(x) = DX (tx) ; A]dt x = o(kxk).
0

Theoreme. | Si les valeurs propres de A sont de parties reelles < 0, l'origine

est un point d'equilibre asymptotiquement stable.

Demonstration (d'apres Pontryagin). | Dans le cas d'un champ lineaire (X1(x)

= 0), les solutions sont x(t) = etAx0 . Gr^ace a la reduction de Jordan de A sur C on
etablit que, si les valeurs propres sont majorees par ;a < 0, il vient
ketAk  const: e;at ()
Donc, pour t ! +1, on a kx(t)k ! 0, ce qui donne le resultat dans le cas lineaire.
Par ailleurs, il existe une fonction de Liapounov naturelle pour le champ X0(x) =
Ax, a savoir :
Z +1
L( x) =
0
ketAxk2 dt:
Cette integrale est convergente d'apres (). La fonction L est une forme quadratique
denie positive. Enn,
Z +1
hgrad L(x) X0(x)i = 2 hetA x etA Axi dt
Z +01 d  
=
0 dt k e tA xk2 dt

= ;kxk2
est < 0 si x 6= 0, ce qui prouve que L est une fonction de Liapounov pour X0 . La
m^eme fonction est une fonction de Liapounov pour X au voisinage de l'origine. En
e et
Z +1
hgrad L(x) X1 (x)i = 2 0
hetAx etA X1 (x)i dt
= o(kxk2):
Donc hgrad L(x) X (x)i = ;kxk2 + o(kxk2 ) est strictement negatif pour x voisin de
0 distinct de 0.
12 Francois Laudenbach

Remarque. | En considerant une telle fonction de Liapounov on peut con-

struire une conjugaison topologique entre un nud impropre et un nud propre.
Precisement soit X et Y deux champs de vecteurs lineaires dont les portraits de
phases sont respectivement un nud impropre et un nud propre. Quitte a changer
l'un ou l'autre de ces champs en son oppose, on peut supposer que l'origine est stable
pour les deux. Soit  et  les ots respectifs. Soit alors L la fonction donnee par
Z +1
L(x) =
0
k (x t)k2 dt:
Il existe une unique fonction  : R n f0g ! R telle que (x (x)) 2 L;1(1) et cette
2
fonction est di erentiable par les m^emes arguments
 que dans l'expose precedent.
On choisit un di eomorphisme h0 : L (1) ;! S entre l'ellipse L;1(1) et le cercle
; 1 = 1
unite. La conjugaison cherchee est donnee sur R2 n f0g par la formule suivante :
h   i
h(x) =  h0 (x (x)) ;(x)
Elle s'etend contin^ument a tout le plan en posant h(0) = 0.
2.3. Points d'equilibre instables sur deux exemples
(a) Pendule sans frottement. | Pour conna^tre le portrait de phases au voisi-
nage du point d'equilibre ( 0), il su#t d'y tracer les courbes d'energie constante.
La fonction energie E admet ( 0) comme point critique et en ce point la forme
quadratique D2E ( 0) est non degeneree de signature (; +). Le lemme de Morse
assure qu'il existe un di eomorphisme g : V ! W , ou V et W sont des voisinages
respectivement de ( 0) et de (0 0) dans le plan, tel que :
g( 0) = (0 0) !
Dg( 0) = 10 01
E (x y) = q  g(x y) 8x y 2 V
x2 y2
ou q(x y) = 1 ; + .
2 2
(b) Pendule avec frottement. | Au voisinage de ( 0) on peut ecrire un de-
veloppement limite du champ de vecteurs :
! !
X (x y) = A x ; + o(jx ; j + jyj) 0
A = 1 ;k : 1
y
!
x
Le champ de vecteurs X0 (x y) = A y est le champ de vecteurs dit linearise
du champ X au point d'equilibre. Le point d'equilibre ( 0) est hyperbolique, ce
qui signie que toutes les valeurs propres de A sont de parties reelles non nulles& ici
l'une est reelle positive et l'autre reelle negative. L'hypothese d'hyperbolicite permet
d'appliquer les deux theoremes suivants :
 Equations differentielles 13

y y
g
x; x
(lemme de Morse)

lignes E = const: lignes q = const:

Figure 7
(1) Le theoreme de la variete stable. | Enonce en dimension 2 avec deux valeurs
propres reelles de signes opposes, il a#rme l'existence de 4 separatrices formant deux
courbes lisses tangentes au champ X et aux directions propres de A au point d'e-
quilibre. Le theoreme general est d^u a Hartman, mais on trouve un traitement du
cas particulier de la dimension 2 dans le livre de Pontryagin.
(2) Le theoreme de Hartman{Grobman. | Le portrait de phases au voisinage
du point d'equilibre est topologiquement conjugue au portrait de phases du champ
de vecteurs linearise X0 . En fait il existe un homeomorphisme d'un voisinage du
point ( 0) sur un voisinage de (0 0) conjuguant les ots locaux de X et de X0 .

y y

x; x
(theoreme de Hartman)

Figure 8
La question de la conjugaison di erentiable met en jeu des conditions de non-
resonance entre les valeurs propres du linearise (theoreme de S. Sternberg)& en un
certain sens cette question est au-dela de l'etude qualitative des equations di e-
rentielles.

2.4. Orbites periodiques attractantes

Il s'agit de reconna^tre quand une orbite periodique est asymptotiquement stable
au sens de Liapounov. On se donne un champ de vecteurs X sur un domaine de Rn.
14 Francois Laudenbach

On suppose que l'orbite Oa du point a est periodique de periode T . Soit  le ot de

X . La question est de savoir sous quelle condition on peut trouver un voisinage V
de Oa tel que, pour tout x 2 V , la distance de (x t) a Oa tend vers 0 quand t tend
vers +1. On introduit pour cela l'application de Poincare dite de premier retour.
L'application de Poincare. | Soit H un hyperplan a#ne passant par a et trans-
verse a X (a), ce qui signie que X (a) dirige un supplementaire de l'espace vectoriel
;!
H sous-jacent a H .
Proposition. | Il existe un voisinage ouvert V de a dans H et une fonction
C 1,  : V ! R, telle que (x (x)) 2 H , pour tout x 2 V , et que (a) = T .

Oa
P (x)
x V
a
H

Figure 9
Partant d'un point de H proche de a la solution recoupe H au bout d'un temps
voisin de T . L'application x 2 V 7! (x (x)) est notee P et est appelee l'application
de Poincare de premier retour sur la transversale H .

Demonstration.
(1) On commence par trouver un ouvert W de H , voisinage de a, et " > 0 tels que
 := jW ] ; " +" ! Rn soit un di eomorphisme sur un ouvert de Rn. Cela est
donne par le theoreme d'inversion locale. Il s'applique car la di erentielle D(a 0)
;!
induit l'identite sur H et verie @ (a 0) = X (a). L'hypothese de transversalite
@t
assure que D(a 0) est surjective, donc inversible.
(2) Soit U l'image de . Par continuite de x 7! (x T ) on trouve un voisinage
ouvert V de a dans W tel que x 2 V implique (x T ) 2 U . Donc
(x T ) = (y  )
pour un couple y 2 W  2] ; " +". Comme  est un di eomorphisme, x 7!  est
C 1. Prenons alors (x) = T ;  (x). Par la loi du ot, il vient y = (x (x)). 2
 Equations differentielles 15

La di erentielle de P en a est reliee a la di erentielle en a de x 7! T (x) = (x T )

de la fa*con suivante. Dans une base de Rn dont les premiers vecteurs appartiennent
;!
a H et dont le dernier est X (a), la matrice jacobienne DT (a) prend la forme
0 01
BB ... C
CC
DT (a) = B B@ DP ( a )
0C A
 1
ou DP (a) designe la matrice jacobienne en a de l'application de Poincare P .
Par ailleurs, DT (a) est la solution au temps T de l'equation di erentielle line-
aire (non autonome, c.-a-d. dependant du temps) dans l'espace des matrices reelles
n n
M_ = DX ((a t))  M
de condition initiale M (0) =Id. Ici  designe le produit matriciel et DX () designe
la di erentielle de X au point indique, c'est-a-dire la matrice des derivees partielles
@Xi () ou X : : : X sont les composantes de X .
1 n
@xj
En general, on ne sait pas resoudre explicitement cette equation di erentielle.
On a seulement le theoreme de la divergence (theoreme de Liouville) :
det DT (a) est la solution au temps T de l'equation dierentielle lineaire dans
R, dependant du temps,
y_ = divX ((a t))y
de condition initiale y(0) = 1. Donc :
RT
detDT (a) = e 0 divX (
(a t))dt :
Par exemple si n = 2 et si la divergence du champ X est strictement negative le
long de l'orbite Oa , on deduit que DP (a) (qui est un nombre reel, strictement positif
parce que DT (a) 2 Gl+ (n)) est < 1. L'orbite periodique est alors attractante& c'est
ce qui se passe dans l'expose I (\autre exemple dans le plan").
Theoreme de stabilite. | Si le spectre de DP (a) est contenu dans l'inte-
rieur du disque unite, alors il existe un voisinage V de a dans la transversale H avec
les proprietes suivantes :
1. P (V ) est contenu dans V , ainsi P n = P      P est deni sur V pour tout
n > 0.
2. Si x 2 V , P n(x) ! a pour n ! +1 et la distance (x t) a Oa tend vers 0
quand t tend vers +1.
Cet enonce est une version discrete du critere de Liapounov sur la stabilite des
equilibres. On notera qu'il y a une exponentielle entre la condition spectrale de
Liapounov et la condition ci-dessus. Cela n'a rien d'etonnant car, si a est un point
d'equilibre, on a :
DT (a) = eTDX (a) :
16 Francois Laudenbach

Bibliographie
Ar] V. I. Arnold, Equations di
erentielles ordinaires, Editions Mir, Moscou,
traduction fran*caise 1974.
Av] A. Avez, Calcul di
erentiel, Masson, Paris, 1983.
Ca] H. Cartan, Calcul di
erentiel, Hermann, Paris, 1977.
D] J.-P. Demailly, Analyse numerique et equations di
erentielles, Presses uni-
versitaires de Grenoble, 1991.
Dem] M. Demazure, Catastrophes et bifurcations, Ellipses, Paris, 1989.
H-S] M. Hirsch, S. Smale, Di
erential equations, dynamical systems and linear
algebra, Academic Press, 1974.
I] M. C. Irwin, Smooth dynamical systems, Academic Press, 1974.
L] S. Lefschetz, Di
erential equations : geometric theory, Dover Pub., New-
York, 1977.
P] L. S. Pontryagin, Ordinary di
erential equations, Pergamon Press, 1962,
Equations di
erentielles, Mir, Moscou, traduction fran*caise 1969.
Centre de Mathematiques
URA 169 du C.N.R.S.
Ecole Polytechnique
91128 Palaiseau cedex
Adresse electronique : laudenba@[Link]
 Sytemes dynamiques discrets
Albert Fathi

1. Quelques generalites et quelques exemples

Dans ce chapitre nous allons introduire la notion de systeme dynamique et ex-
pliquer l'objet de la theorie sur quelques exemples an d'illustrer quelques uns des
concepts.

1.1. Denitions
Definition 1.1.1. | Un syteme dynamique discret est une application con-
tinue f : X ! X de l'espace topologique X dans lui-m^eme.
Le fait que f envoie X dans lui-m^eme permet de considerer les iterees f n, n 2 N,
ou
f n = f|  {z   f} :
n fois
On peut alors denir les trajectoires ou orbites d'un point :
Definition 1.1.2 (Orbite d'un point). | Si f : X ! X est un systeme dy-
namique, l'orbite positive de x par f est
O+f (x) = ff n(x) j n 2 Ng:
Si f est bijective, on denit l'orbite de x par Of (x) = ff n(x) j n 2 Zg ainsi que
l'orbite negative O;f (x) = ff ;n(x) j n 2 Ng.
L'objet de la theorie des systemes dynamiques est l'etude du comportement des
orbites et de la fa*con dont elles varient avec le point initial.
Pour etudier la suite O+f (x), on fait ce que l'on fait d'habitude avec une suite,
c'est-a-dire que l'on regarde ses points d'accumulation.
Si il existe n
1 tel que f n(x) = x, on dit que x est periodique, la periode d'un
point periodique x est le plus petit entier n
1 tel que f n(x) = x.
On note !f (x) l'ensemble des points d'accumulation de la suite f n(x) n 2 N. Si
x 2 !f (x), on dit que x est recurrent. Si !f (x) = X , on dit que x est d'orbite dense.
Si tout point de X est d'orbite dense, on dit que que f est minimal.
La meilleure fa*con de comprendre les notions est de les tester sur des exemples.
17
18 Albert Fathi

1.2. Les rotations sur le cercle

Commen*cons par un des exemples les plus connus, les rotations.
Proposition 1.2.1. | Soit S le cercle unite dans C. Si 2 S, on denit
R : S ! S par R(z) = z. Si arg( ) 2 2 Q, toutes les orbites de R sont
periodiques de m^eme periode. Si arg( ) 2= 2 Q, alors R est minimal.
Demonstration. | On a Rn = Rn d'ou le resultat dans le cas ou arg( ) 2 Q.
Dans le cas ou arg( ) 2= 2 Q, posons  = arg( )=2 2= Q. Le sous-groupe
additif de R engendre par 1 et  est dense dans R. Soit alors z 2 S et x 2 R tel
que z = e2ix. On peut trouver des suites d'entiers (nj )j2N et (pj )j2N, tels que x =
limj!1 nj  + pj donc z = limj!1 e2i(nj +pj ) = limj!1 nj = limj!1 Rnj (1). Par
consequent l'orbite de 1 est dense. Or pour tout z 2 S, on a Rn (z) = nz = zRn (1),
ce qui montre la densite des autres orbites. 2
L'exemple des rotations nous donne des systemes ou le comportement d'une
orbite est essentiellement le m^eme quelque soit le point dont on part.
Une autre propriete de ce systeme, due au fait que les rotations sont des isome-
tries, est que deux points proches restent proches pour tous les iteres. Une telle
propriete est evidemment ideale pour les modelisations de systemes physiques ou
biologiques, car on ne connait dans ce cas la condition initiale qu'a l'erreur de sa
mesure pres et le fait que cette erreur n'explose pas par iteration permet donc de
faire des predictions a long terme. Malheureusement, il resulte de la theorie des
systemes dynamiques qu'en general les systemes n'ont pas ce genre de propriete.
1.3. Les decalages de Bernoulli
Soit p un entier
1. On considere l'espace :
++p = f1 : : : pgN:
On notera un point de ++p par x. Un tel point x est la donnee d'une suite (xn)n2N
avec xn 2 f1 : : : pg pour tout n 2 N. xn est appele la n ieme coordonnee de x.
On munit ++p la topologie produit. Cette topologie est denie par la metrique
X
d((xn)n2N (yn)n2N) = jxn 2;n ynj :
n2N
Si d((xn)n2N (yn)n2N ) < , alors xi = yi pour tout i 2 N tel que 2;i
. Si
xi = yi pour tout i avec 0  i  q alors d((xn)n2N (yn)n2N)  p2;q . Donc, on peut
rendre deux suites de ++p proches en rendant un grand nombre de leurs premieres
coordonnees egales.
Le decalage de Bernoulli p+ : ++p ! ++p est deni par :
p+ (xn)n2N] = (yn)n2N ou yn = xn+1 :
 Sytemes dynamiques discrets 19

Proposition 1.3.1. | Les points periodiques de p+ sont denses dans ++p .
Il y a un point de ++p dont l'orbite (positive) par p+ est dense dans ++p . On a la
sensibilite par rapport aux conditions initiales. Plus precisement si x 6= y , alors
supn2N d((p+)n(x) (p+)n(y))
1.

Demonstration. | Remarquons qu'un point y = (yn)n2N est periodique pour

p+,si la suite (yn)n2N est periodique. Pour approcher x= (xn)n2N par un point pe-
riodique, il su#t de tronquer la suite (xn)n2N assez loin et de la rendre periodique.
Un point x = (xn )n2N est d'orbite dense si toute suite nie d'elements de
f1 : : : pg apparait comme sous-suite de (xn)n2N . Comme l'ensemble des suites nies
a valeurs dans f1 : : : pg est denombrable, il n'est pas di#cile en mettant l'ensemble
de toutes ces suites nies bout a bout de fabriquer un point d'orbite dense.
Si x = (xn)n2N 6= y = (yn)n2N, il existe un n avec xn 6= yn. Il en resulte
que les coordonnees d'ordre 0 de (p+)n(x) et (p+)n(y) di erent, par consequent
d((p+)n(x) (p+)n(y))
1. 2

Nous ne donnons pas ici de denition formelle de la sensibilite aux conditions

initiales. Nous la prenons au sens intuitif : les predictions precises de comportement
a long terme des orbites ne peuvent se faire qu'en connaissant la condition initiale
avec une precision de plus en plus grande. Par exemple, si f : X ! X satisfait a la
propriete suivante :
9"0 8x x0 2 X x 6= x0 ) supn2N d(f n(x) f n(x0 ))
"0 (|)
alors, il est clair que f est sensible aux conditions initiales. La propriete (|) est
appelee expansivite. Dans le cas ou f est un homeomorphisme, si on veut obtenir
des exemples avec X non ni, il faut remplacer, dans la condition (|), le sup sur N
par un sup sur Z.
On peut aussi considerer +p = f1 : : : pgZ, muni de la topologie produit. Le
decalage p : +p ! +p est aussi deni par :
p(xn)n2Z] = (yn)n2Z ou yn = xn+1:
A la di erence de p+, l'application p est inversible. On peut voir de la m^eme maniere
que les points periodiques de p sont denses dans +p et qu'il y a un point d'orbite
dense. De m^eme p est sensible aux conditions initiales.
Smale a montre que, sous des conditions assez generales, il y a une copie d'un de-
calage de Bernoulli dans pratiquement tous les systemes dynamiques sur un espace
de dimension superieure ou egale a 2. Ce qui montre qu'en general un systeme est
sensible aux conditions initiales.
20 Albert Fathi

1.4. Un exemple de semi-conjugaison

Considerons le systeme dynamique mp : S ! S z 7! zp , ou p est une entier
2.
Nous allons voir que mp a une dynamique tres riche. En fait mp est \pratiquement"
une version du systeme dynamique p+.
Denissons p : ++p ! 0 1] par :
X xn ; 1
p(xn)n2N] =
n2N p
n+1

c'est-a-dire que l'on fait correspondre a (xn)n2N le reel dont le developpement en

base p est 0 x00x01 : : : x0n : : : avec x0n = xn ; 1 2 f0 : : : p ; 1g. On voit donc que p est
surjective. Il n'est pas di#cile de montrer qu'elle est continue et m^eme lipschitzienne :
X X
jp(x) ; p (y)j  j xpnn;+11 ; ypnn;+11 j  jxnpn;+1ynj = d(xp y) :
n2N n2N
Il est clair sur la formule que (p+(x)) est la partie fractionnaire de p(x). Si on
denit alors p : ++p ! S par :
p(x) = e2i(x)
on en deduit que l'on a p p+(x) = mp p(x), ce qui s'exprime par la commutativite
du diagramme :
p+
+?p ;;;! +?+p
+
? ??
p ??y ? p
mp y
S ;;;! S
ce qui nous amene a la denition :
Definition 1.4.1 (Semi-conjugaison topologique). | Si h : X ! X et f :
Y ! Y sont des applications continues des espaces topologiques X et Y . On dit que
l'application continue surjective  : X ! Y est une semi-conjugaison topologique
entre f et h si f   =   h, c'est-a-dire que le diagramme suivant est commutatif :
h
X? ;;;! X?
? ??
 ??y ?
f y
Y ;;;! Y
Par recurrence sur n, on voit que l'on a f n   =   hn. Il en resulte qu'une
telle semi-conjugaison topologique envoie les orbites de h sur les orbites de f . En
particulier, elle envoie les orbites periodiques de h sur des orbites periodiques de f .
Comme  est continue et surjective, elle envoie un point d'orbite dense sur un point
d'orbite dense. En appliquant ces remarques a p, on obtient la proposition :
 Sytemes dynamiques discrets 21

Proposition 1.4.2. | Les points periodiques de mp p
2 sont denses dans

S. Il y a un point de S dont l'orbite (positive) par mp est dense dans S.
Montrons que l'on a la sensiblite aux conditions initiales pour mp p
2.

Proposition 1.4.3. | Le systeme dynamique mp : S ! S p
2 est expansif,

donc sensible aux conditions initiales.

Demonstration. | Nous avons besoin d'un inverse local de l'exponentielle. De-

g : C ! C par :
nissons exp
g (z) = e2iz :
exp
g (z) = exp
On a exp g (z0 ) si et seulement si z ; z0 2 Z et exp
g ;1 (S) = R & de plus, c'est
un di eomorphisme local. Choisissons alors  2]0 1, assez petit pour que l'inverse
g soit deni sur B (1 ) = fz j z 2 C jz ; 1jg. On choisit la determination
 de exp
avec (1) = 0. On a (S \ B (1 )) =] ; 0 0. Fixons alors p
1 et choisissons
p <  tel que z 2 Sn et jzn; 1j < p implique jp(z)j < 0. Supposons alors que
z1 nz2 2 S verient jz1p ; z2p j < p pour tout n 2 N. Ennposant z = z1 =z2, on trouve
jzp ; 1j < p pour tout n 2 N. En posant xn = (zp ), on a pjxnj < 0 , de plus
g (pxn) = (exp
exp g (xn))p = exp g (xn+1 ). Donc pxn = xn+1 car jpxnj et jxn+1j sont tous
les deux < 0. On voit alors par recurrence que jx0 j = p;njxnj < p;n 0 pour tout
n 2 N donc x0 = 0 et z = 1& par consequent z1 = z2 . 2

1.5. Remords nal : Les applications lineaires

Les applications lineaires sont certainement, en dimension nie, les applications
que l'on comprend le mieux au niveau des classes preparatoires (du moins, c'est ce
que nous esperons tous !). Il serait evidemment interessant de voir ce que donnent,
dans ce cas, les notions introduites.
Soit A : E ! E une application lineaire du K espace vectoriel E , avec K = R ou
C. Les points periodiques de periode divisant n sont 0 ainsi que les vecteurs propres
de An associees a la valeur propre 1.
Qu'en est-il des points d'orbite dense ? Pour cela, il faut avoir une topologie sur
E . Donc on suppose maintenant que E est une espace vectoriel topologique et que
A est continue. Pour rester dans le cadre des programmes, supposons par exemple
E norme. On a alors la proposition suivante :
Proposition 1.5.1. | Soit f : E ! E une application K -lineaire du K -
espace norme E , avec K = R ou C. Notons EC0 le C-espace vectoriel forme des
applications K -lineaires continues de E dans C. Si f a une orbite dense dans E ,
alors l'application transposee f  : EC0 ! EC0 ' 7! '  f n'a pas de valeur propre.
Par consequent E est necessairement de dimension innie.
22 Albert Fathi

Demonstration. | Un vecteur propre non nul de f  associe a la valeur propre

 est une application continue K -lineaire non-nulle ' : E ! C, telle que 8x 2
E '  f (x) = '(x). Si x0 2 E a une orbite dense dans E , il s'ensuit par continuite
de ' que f'  f n(x0 ) j n 2 Ng = fn'(x0 ) j n 2 Ng est dense dans le K -espace
vectoriel non-nul '(E )  C. Il n'est pas di#cile de voir que ceci n'est pas possible
(par exemple en remarquant que l'ensemble des valeurs de la suite jn'(x0 )j est
discret dans 0 1). 2
Cette proposition montre qu'il n'y a pas d'application lineaire d'un espace vec-
toriel de dimension nie dans lui-m^eme ayant une orbite dense. On peut aussi de-
montrer ce fait en utilisant une decomposition en blocs de Jordan et en analysant
le comportement des orbites pour chaque bloc.
En dimension innie, Rolewicz a montre dans les annees 60 qu'il y a des appli-
cations lineaires qui ont des orbites denses. Le theoreme suivant peut ^etre laisse en
exercice an d'animer la discussion pendant votre repas :
Theoreme 1.5.2 (Th Peoreme de Rolewicz). | Considerons l'espace de Hilbert
de suites ` = f(an)n2Z j n2Z janj2 < +1g. Soit  2]0 1, denissons l'operateur
2
lineaire continu T : `2 ! `2 par T (an )n2N ] = (bn )n2N ou :
(
bn = a n;1 si n
0
;
 1an;1 si n < 0:
Alors T a une orbite dense dans `2 .
En fait, il y a un exemple plus naturel en dimension innie et que vous connaissez
tres bien. Notons C 1(0 1] R) l'espace des fonctions indeniment derivables. On
munit C 1(0 1] R) de la topologie de convergence uniforme de toutes les derivees.
Ce n'est pas un espace norme, mais c'est quand m^eme un espace vectoriel topologique
et m^eme ce que l'on appelle un espace de Frechet.
Proposition 1.5.3. | La derivation C 1 (0 1] R) ! C 1(0 1] R) ' 7! '0
est une application lineaire continue ayant une orbite dense.
Cette proposition vous est laissee en exercice an d'egayer le reste de votre
week-end. Il faudra evidemment utiliser le theoreme de Weierstrass de densite des
polyn^omes dans l'espace des fonctions indeniment derivables. L'inverse a droite de
Rlax 'de(rivation B : C 1(0 1] R) ! C 1(0 1] R) donne par integration B (')(x) =
0 t) dt est aussi utile.

2. Systemes dynamiques discrets : stabilite structurelle

Le but de ce chapitre est l'introduction de la notion de stabilite structurelle et
l'etude d'un exemple simple ou elle intervient.
 Sytemes dynamiques discrets 23

2.1. Conjugaison topologique et stabilite structurelle

Definition 2.1.1 (Conjugaison topologique). | Si h : X ! X et f : Y ! Y
sont des applications continues des espaces topologiques X et Y . Une conjugaison
topologique entre f et h est semi-conjugaison topologique  : X ! Y ou  est un
homeomorphisme de X sur Y .
Il est clair que l'on tient la la notion raisonnable d'isomorphisme pour les syste-
mes dynamiques.
2.1.2. Exemple. | Considerons l'homothetie h : R ! R, ou  2]0 1.
Montrons que deux telles applications sont topologiquement conjuguees. En e et,
si 1 et 2 appartiennent a ]0 1, alors, il existe > 0 avec 1 = 2. Denissons
l'homeomorphisme  : R ! R par (x) = x , si x
0 et (x) = ;jxj , si x  0.
On verie que h2   =   h1 .
A titre d'exercice instructif, on pourra montrer que deux homeomorphismes de
l'intervalle 0 1] sur lui-m^eme n'ayant que 0 et 1 comme points xes sont toujours
topologiquement conjugues.
Si on repense au probleme de modelisation de systemes physiques ou biologiques,
m^eme quand on est arrive a la loi qui gouverne le phenomene, en general, cette loi
va nous donner un systeme dynamique f : X ! X qui n'est pas completement
connu car la forme exacte va dependre de la mesure de certaines constantes qui
interviennent dans f . Par consequent, une situation ideale est celle ou une petite
erreur sur f redonne une systeme topologiquement conjugue. Ceci nous mene a une
denition de la stabilite structurelle. An de pouvoir la donner simplement, nous
allons ne considerer que des systemes dynamiques denis sur une partie d'un espace
norme.
Definition 2.1.3 (Stabilite structurelle). | Suppossons que X soit une par-
tie de l'espace norme E . Un systeme dynamique f : X ! X est structurelle-
ment stable, s'il existe " > 0 tel que toute application g : X ! X veriant
kg ; f k0 = supx2X kg(x) ; f (x)k < " et Lip(g ; f ) < " est topologiquement conjuguee
a f .
Nous utilisons la notation Lip(') pour designer la constante lipschitzienne de ' :
X ! Y application entre espaces metriques :
0
Lip(') = supf d('(x) '0(x )) j x x0 2 X x 6= x0 g:
d(x x )
La denition que nous venons de donner de la stabilite structurelle est adaptee
a notre contexte.
On peut se demander pourquoi on impose une condition de proximite lips-
chitzienne et pas seulement une proximite dans la topologie C0 . Pour comprendre
la necessite de cette condition, nous proposons, l'exercice suivant :
24 Albert Fathi

2.1.4. Exercice. | Soit h un homeomorphisme strictement croissant de 0 1]

sur lui-m^eme. Montrer qu'il existe pour tout " > 0 deux homeomorphismes h1 h2 :
0 1] ! 0 1] tels que supx2 0 1] jhi(x) ; h(x)j < " i = 1 2, que h1 soit l'identite sur
un voisinage de 0 et que h2 admette 0 comme point xe isole.

2.2. Stabilite structurelle des dilatations lineaires

Theoreme 2.2.1. | Soit A : E ! E un isomorphisme lineaire de l'espace de
Banach E. Si kA;1 k < 1, alors A est structurellement stable.

Demonstration. | Nous allons appliquer le theoreme de point xe de Banach.

Introduisons Cb (E E ) des fonctions continues  : E ! E bornees, c'est-a-dire ve-
riant :
kk0 = supfk(x)k j x 2 E g < 1:
L'espace Cb (E E ) est un espace de Banach pour la norme k:k0.
Commen*cons par le lemme :

Lemme 2.2.2. | Pour tout  2 Cb (E E ), il existe (un unique)  2 Cb (E E )

tel que A  (IdE + ) = (IdE +)  (A + ). De plus, dans le cas ou E = Rn, si
A(Zn)  Zn et  est Zn -periodique, alors  est aussi Zn -periodique.

Demonstration. | L'equation A  (IdE +) = (IdE +)  (A + ) s'ecrit

IdE + = A;1  (IdE +)  (A + ) = IdE +A;1    (A + ) + A;1  
ou encore  = A;1    (A + ) + A;1  . Il su#t alors de montrer que l'application
- : Cb (E E ) ;! Cb (E E )
 7;! A;1    (A + ) + A;1  
est une contraction. Or
k-(1 ) ; -(2 )k0 = kA;1  1  (A + ) ; A;1  2  (A + )k0
 kA;1kk1 ; 2 k0:
Dans le cas, ou E = Rn A(Zn )  Zn et  est Zn-periodique le sous-espace de
Cb (Rn Rn) constitue par les fonctions Zn-periodiques est ferme et invariant par -
donc le point xe de - est dans ce sous-espace. 2

Lemme 2.2.3. | Avec les notations du lemme ci-dessus, si l'on a Lip( ) <
kA;1k;1 ; 1 alors IdE + est injective.
 Sytemes dynamiques discrets 25

Demonstration. | Commen*cons par remarquer que l'on a, pour tout x y 2 E ,

kAx ; Ayk
kA;1k;1kx ; yk:
En posant f = A + , on trouve
kf (x) ; f (y)k
kAx ; Ayk ; k(x) ; (y)k

(kA;1k;1 ; Lip())kx ; yk:
Notons alors k = kA;1 k;1 ; Lip() > 1, on a donc kf (x) ; f (y)k
kkx ; yk, pour
tout x y 2 E . Par recurrence, on obtient kf n(x) ; f n(y)k
knkx ; yk, pour tout
x y 2 E et tout n 2 N. Comme k > 1, ceci nous donne :
8x y 2 E x =6 y ) supn2N kf n(x) ; f n(y)k = 1: ()
Posons h = IdE +. Pour tout x 2 E , on a kh(x) ; xk  kk0. De plus pour tout
n
0, on a An  h = h  f n. Si h(x) = h(y), on trouve que h  f n(x) = h  f n(y)
pour tout n 2 N et par consequent supn2N kf n(x) ; f n(y)k  2kk0 < 1, par (),
on en conclut x = y. 2
Pour conclure que A +  est topologiquement conjugue a A, il reste a voir que
h = IdE + est surjectif avec un inverse continu. Il faut, en fait, ra#ner l'argument
donne plus haut en echangeant le r^ole de A et f et en jouant sur l'unicite de .
Plut^tot que de s'embarquer dans un ra#nement technique de ce qui precede, nous
allons donner un argument direct dans le cas ou E = R & c'est ce seul cas que
nous utiliserons dans la prochaine section pour etablir la stabilite structurelle de
S ! S z 7! zp p
2.
Lemme 2.2.4. | Toute application continue h : R ! R, veriant l'inegalite
supt2R jh(t) ; tj < 1, est surjective.
Demonstration. | Soit K = supt2R jh(t) ; tj. On a h(;n n])  h(;n) h(n)].
Or h(n)
n ; K et h(;n)  ;n + K , par consequent pour n grand h(;n n]) 
;n + K n ; K ]. 2
Remarque. | L'argument precedent repose sur la connexite. Le m^eme lemme
est vrai pour une application continue h : Rn ! Rn, veriant supx2Rn jh(x) ; xj <
1, mais la demonsration repose sur le theoreme du point xe de Brouwer (en fait,
c'est equivalent au theoreme de Brouwer).

2.3. Stabilite structurelle de mp, p
2

Le but de cette section est de demontrer le theoreme :
Theoreme 2.3.1. | Si p
2, l'application mp : S ! S est structurellement
stable.
26 Albert Fathi

Soit f : S ! S une application continue telle que kf ;mp k0 < "1 et Lip(f ;mp ) <
"2. On a donc
j fz(pz) ; 1j = jf (z) ; zpj < "1:
En prenant "1 assez petit, on peut denir  : S ! R par (z) = (f (z)z;p ), ou k est
g introduit a la n de la section 3.4. Si on pose . =   exp
l'inverse de exp g : R ! R,
on a que . est continue, Z-periodique et k.k0 ! 0 quand "1 ! 0. De plus, si on
g  f = f  exp
pose f (x) = px + .(x), on voit que exp g , c'est-a-dire que le diagramme
suivant est commutatif :
f
R? ;;;! R?
? ??
g ??y
exp g
?y exp
f
S ;;;! S
On peut aussi voir que Lip(.) ! 0 quand "1 et "2 tendent vers 0. Comme p
2,
l'application lineaire Ap : R ! R x 7! px a un inverse qui est une contraction, par
consequent, pour "1 et "2 assez petit, on trouve un homeomorphisme h : R ! R
de la forme IdR + tel que Ap  h = h  f . Comme . est Z-periodique et Ap(Z) =
pZ  Z, on a que  est Z-periodique. Par consequent l'homeomorphisme h verie
h(x +1) = h(x)+1. Il en resulte que l'on peut denir un homeomorphisme h : S ! S
tel que le diagramme suivant commute :
h
R? ;;;! R?
? ??
g ??y
exp g
?y exp
h
S ;;; ! S
On verie sans peine que la relation Ap  h = h  f se traduit par le fait que h est
une conjugaison topologique entre f et mp.

Pour ceux qui savent ce qu'est la notion d'homotopie, nous proposons de resoudre
l'exercice suivant :

2.3.2. Exercice. | Si f : S ! S est continue et homotope a mp, avec p
2,

montrer qu'il y a une semi-conjugaison entre f et mp.

Bibliographie
Ch] A. Chenciner, Systemes Dynamiques Dierentiables, Encyclopaedia Uni-
versalis 17 (1985), 594{630.
Dev] R. L. Devaney, An introduction to Chaotic Dynamical Systems, Ben-
jamin/Cummings, 1986.
 Sytemes dynamiques discrets 27

HK] B. Hasselblatt, A. Katok, Introduction to the modern theory of dynami-

cal systems, Encyclopedia of Mathematics and its Applications, Cambridge
University Press, 1995.
Sh] M. Shub, Stabilite globale des sytemes dynamiques, Asterisque vol. 56,
Societe Mathematique de France, 1978.
Departement de Mathematiques et Informatique
Ecole Normale Superieure de Lyon
46, Allee d'Italie
69364 Lyon cedex 07
Adresse electronique : afathi@[Link]
 Systemes dynamiques hyperboliques
Patrick Foulon

Introduction
Pour produire des systemes dynamiques avec un comportement riche et com-
plexe, il faut de la recurrence. Presque toute orbite doit revisiter souvent (indeni-
ment) un voisinage de son origine. C'est pour forcer ce retour (de Poincare) que
nous allons travailler avec des modeles lineaires \compacties". Mais ce n'est pas
su#sant : il faut aussi une forte sensibilite aux conditions initiales. Les modeles hy-
perboliques qui presentent une sensibilite exponentielle uniforme sont les exemples
les plus simples.

1. Les automorphismes lineaires hyperboliques

1.1. Le cadre geometrique, les tores
Dans cette partie nous presentons brievement les tores. Plusieurs resultats sont
admis ou laisses en exercice.
Le tore Tk de dimension k
1 est le groupe abelien quotient de (Rk +) par le
sous-groupe abelien (Zk +). On note : Rk ! Rk =Zk la projection sur les classes.
Comme d'habitude on considere Rk muni de sa structure euclidienne canonique qui
determine sa topologie. Le tore Tk est, lui, muni de la topologie quotient correspon-
dante, pour laquelle notamment est continue. Cette topologie est aussi denie par
la distance d sur le tore :
d(a b) = inf fkx ; x0 kRk (x) = a (x0 ) = bg:
Nous aurons a considerer des applications continues f : Tk ! Tk . Il est bon de re-
marquer qu'il existe alors F = f  : Rk ! Tk elle aussi continue. Nous admettrons
(ou exercice)
29
30 Patrick Foulon

(1,0) (1,1)
π

(0,0) (0,1)

R2 T2

FIG 1

Figure 1

Proposition 1.1.1. | Soit f : Tk ! Tk une application continue. Il existe

un relevement fe : Rk ! Rk
de f , c'est a dire une application continue telle que le
diagramme suivant commute
fe
?? ;;;!
Rk R?k
??
?? ?y  fe = f  :
y f
T ;;;! Tk
k

Deux relevements fe1 fe2 d'une m^eme application f di erent par un entier :
fe1 = fe2 + z0 z0 2 Zk
d'apres la relation de commutation.
Pour faire du calcul dierentiel sur le tore Tk , il nous faudrait le munir d'une
structure de variete di erentiable. Par faute de temps et de place nous dirons qu'une
application f : Tk ! Tk est dans C 1(Tk Tk ) si un quelconque de ses relevements fe
est continuement di erentiable. Nous noterons que la dierentielle Dpf de f en un
point p du tore Tk est donnee par l'endomorphisme lineaire de Rk
Dpf = Dxfe
pour un quelconque x 2 Rk tel que (x) = p.

Exercice. | Verier que le terme de droite de cette egalite est bien independant
du representant x.

Les m^emes denitions et notations s'etendent sans peine aux applications de

classe C k , et aux fonctions g : Tk ! C a valeurs dans C (ou R).
 Systemes dynamiques hyperboliques 31

A plusieurs reprises un point p du tore sera represente par ses \coordonnees"

notees
p = (x1 : : : xk ) mod (1)
ou x = (x1 : : : xk ) 2 Rk et (x) = p.

1.2. La mesure de Haar sur les tores

Pour calculer des moyennes il nous sera utile de disposer d'une mesure sur le tore
Tk qui presente des proprietes analogues a celle de la mesure de Lebesgue de Rk
(nous utiliserons sans le dire l'identication donnee par le theoreme de representation
de Riesz).
Theoreme 1.2.1. | Il existe une unique mesure de Radon (forme lineaire sur
l'espace des fonctions continues a support compact) sur le tore Tk qui soit invariante
par les translations et de masse totale 1.
On la note m, on l'appelle mesure de Haar de Tk . Elle est donnee par la relation
Z Z Z
8 ' 2 C 0 (Tk C) m(') = T k
'  dm =  0 1]k
'  (x)  dx1    dxn

Idee de la demonstration. | La formule denissante nous donne evidemment

une forme lineaire sur C 0 (Tk C). De plus, comme '  est une fonction Zk -pe-
riodique, nous avons, pour tout  2 Rk ,
Z Z Z Z
 0 1] k
'  (x +  ) dx1    dxn =  0 1]k
'  (x)dx1    dxn:
Il en resulte que la mesure de Haar est invariante par les translations car pour tout
2 Tk , si  est la translation de , il existe  2 Rk tel que ( ) = (voir 1.1.1)
et
  =  e =   :
R
Nous admettrons l'unicite. Enn, m(Tk ) = Tk 1dm = 1. 2

1.3. Les automorphismes lineaires des tores

Le modele lineaire servira de l conducteur tout au long de cet expose. Tout
endomorphisme lineaire L de Rk tel que L(Zk )  Zk induit naturellement un ho-
momorphisme FL de Tk . L'ensemble de ces homomorphismes sera note End(Tk ).
Remarquons que
e
F 2 End(Tk ) () 9! L 2 End(Rk ) L = F:
De plus nous avons
32 Patrick Foulon

Proposition 1.3.1. | Si FL 2 End(Tk ), alors

(i) FL est continue,
(ii) FL est un homeomorphisme si et seulement si det L = 1.
Nous dirons qu'un homomorphisme FL est dans l'ensemble Aut(Tk ) des auto-
morphismes lineaires du tore si FL est un homeomorphisme.

Demonstration.
(i) Soit U un ouvert de Tk . Sa preimage est, par denition de la topologie induite,
un ouvert de Rk . La projection est ici une application ouverte et il n'y a plus qu'a
invoquer la continuite de L.
(ii) Si FL est un homeomorphisme de Tk son inverse FL;1 admet un unique rele-
vement lineaire B = L;1 . Par consequent L;1 (Zk )  Zk . Ainsi L et L;1 sont a
coe#cients entiers dans la base canonique de Rk . On conclut en remarquant que
det(L;1 ) = 1= det L doit lui aussi ^etre un entier.
Reciproquement si det L = 1 alors L;1 est a coe#cients entiers, et, d'apres
(i) l'application induite FL;1 est continue ainsi que FL. Elles sont inverses l'une de
l'autre. 2
Un automorphisme lineaire du tore nous fournit un nouvelle exemple de trans-
formation preservant la mesure de Haar. Plus precisement nous avons
Proposition 1.3.2. | Si FL 2 Aut(Tk ) alors FL m = m.

Demonstration. | D'apres le theoreme de Riesz il faut verier que pour toute

g 2 C 0(Tk R) nous avons
Z Z
g  FL  dm = g  dm:
T k Tk
En se referant au theoreme 1.2.1, il su#t en fait d'observer que FL m est invariante
par translation. Pour tout 2 Tk , et  2 Rk tel que ( ) =
Z Z Z
g    FL  dm =    0 1]k g    FL ( (x))  dx1    dxn
Tk Z Z
=    0 1]k g    (L(x))  dx1    dxn
Z Z
=    0 1]k g( (L(x) +  ))  dx1    dxn
Z Z
=    0 1]k g(FL( (x + L;1 ( ))))  dx1    dxn
Z
= g  FL  dm:
Tk
L'invariance de la masse est evidente par surjectivite. 2
 Systemes dynamiques hyperboliques 33

Encore une propriete generale, les automorphismes lineaires des tores ont beau-
coup d'orbites periodiques. Elles sont m^emes partout denses.
Proposition 1.3.3. | Pour tout FL 2 Aut(Tk )
(i) Qk =Zk  Per(FL),
(ii) Per(FL ) = Tk .

Demonstration.
(i) L'ensemble deni pour q 2 Z par
( ! )
P P
q : : : q (P1 : : : Pk ) 2 Z
1 k k
/q =

contient qk elements. Il est invariant par FL puisque L est a coe#cients entiers et

!! !
FL P 1 Pn 1
q : : : q = q L (P1 : : : Pn) :
Par consequent, pour tout x 2 /q il existe n1 < n2 dans N tels que FLn2 (x) = FLn1 (x),
donc FLn2 (x) = x.
(ii) est des lors evident.

1.4. Les automorphismes lineaires hyperboliques des tores

Ils vont constituer notre principal exemple de systeme dynamique. Mais aupara-
vant nous allons faire une digression justiee par leurs actions, elles aussi hyper-
boliques, sur certains espaces fonctionnels.
Definition 1.4.1. | Un endomorphisme continu L : E ! E de l'espace de
Banach E est dit hyperbolique, s'il existe :
une decomposition invariante par L en somme de sous-espaces fermes E =
E s  E u,
une norme k k dite adaptee et qui denit la topologie,
telles que
(i) l'endomorphisme LjEu : E u ! E u est inversible, d'inverse continu,
(ii) les endomorphismes
   LjEs et (LjEu );1 sont des contractions (c'est-a-dire que
l'on a LjEs  (LjEu );1  < 1),
(iii) pour tout x 2 E , si on ecrit x = xs + xu avec xs 2 E s, xu 2 E u, alors
kxk = max(kxs k kxuk).
Par exemple, un automorphisme lineaire de Rk est hyperbolique si et seulement
s'il n'a pas de valeurs propres sur C de module 1.
34 Patrick Foulon

Exercice. | Le demontrer.
Pour cela, on pourra aussi faire l'exercice suivant.
Exercice. | Soient A 2 End(Rk ), (A) le maximum des modules des valeurs
propres reelles ou complexes de A. Montrer que pour tout " > 0 on peut trouver
une norme sur Rk pour laquelle kAk  (A) + ".
Definition 1.4.2. | Un automorphisme lineaire FL du tore Tk est dit hyper-
bolique s'il est induit par un automorphisme lineaire hyperbolique de Rk . On notera
H (Tk ) leur ensemble.
Un exemple bien connu sur le tore T 2 :
FL(x y) = (2x + y x + y) mod (1) avec L(x y) = (2x + y x + y):
Les valeurs propres de L sont
p p
; 1 3; 5 3+ 5
2 = 1 = 2 < 1 < 1 = 2 :

Figure 2
Leurs proprietes dynamiques s'apparentent a celles de l'application expansive sur
le cercle unite z ! zp, elles sont plus complexes que celles des translations des tores,
comme nous allons l'observer. Quand on essaye de denombrer les orbites periodiques,
on s'aper*coit que leur nombre cro^t (asymptotiquement) exponentiellement. En e et
Proposition 1.4.3. | Soit FL un automorphisme lineaire hyperbolique du
tore Tk . Si Np (FL ) est le nombre de points periodiques de periode qui divise l'entier
p > 1 alors
(i) Np(FL) = jdet(Lp ; IdRk )j
1 Xr
(ii) lim
p!1 p log N (
p LF ) = i log jij
i=1
ou les i sont les valeurs propres de L de module ji j > 1, et i sont les multiplicites
correspondantes.
 Systemes dynamiques hyperboliques 35

Demonstration.
(i) Un point x 2 Tk est periodique de periode p si (FLp ; IdTk )(x) = 0. L'automor-
phisme FL etant hyperbolique, L l'est et par consequent Lp aussi. Donc FLp ; IdTk
est induit par un automorphisme lineaire de Rk . Il va nous falloir un lemme (assez
amusant) pour compter les preimages.
Lemme. | Soit FA 2 End(Tk ), tel que de plus det A 6= 0. Alors, pour tout
x 2 Tk on a #FA;1fxg = jdet Aj.
Preuve du lemme. | Comme A est bijective, FA est surjective donc pour tout
x 2 Tk , il existe un point y 2 Tk tel que FA(x) = y. Par consequent FA;1fxg =
y + FA;1f0g a un cardinal qui ne depend pas de x.
Utilisons maintenant le fait que FA est localement injective. Plus precisement soit
B = B (0 R) la boule ouverte dans Rk de centre 0 de rayon R < inf(1=2 1=2kAk).
La projection est injective en restriction aux ouverts V = B \ A;1 (B ) et A(V ).
Pour X 2 V , si 0 = FA ( (X )) = (A(X )) alors A(X ) = 0. Par injectivite de
A il vient X = 0. Nous en deduisons que si y y0 2 FA;1fxg sont distincts, alors
(y + (V )) \ (y0 + (V )) = ?. En e et sinon il existe x et x0 dans V tels que y + (x) =
y0 + (x0). En appliquant FA il vient FA( (x)) = FA ( (x0)), soit (A(x)) = (A(x0)).
Par injectivite de sur A(V ) il vient A(x) = A(x0 ), soit x = x0.
Le cardinal de FA;1fxg est donc, par invariance de la mesure de Haar, borne par
1=m( (V )) (m( (V )) 6= 0).
Soient t1 : : : tn les preimages de 0 par FA . On a
n
F ;1(F
A A( (V ))) = ( (V ) + ti )
i=1
Ce qui nous donne m(FA ( (V )) = n  m( (V )), en raison de l'invariance de la mesure
de Haar par FA. Il nous reste a appliquer la formule du changement de variable pour
verier que m(FA ( (V ))) = jdet Aj m( (V )). 2
(ii) Soient (1    r0 ) 2 Cr0 les valeurs propres de L, (i) leur multiplicites. Un
simple developpement nous donne
 r0 
Y
j det(Lp ; Id)j =  (i ; 1)i  :

i=1
D'ou nous tirons
1 X r0 log jp ; 1j
p log jdet(L ; Id)j = 1=i i
p i :
p
D'autre part, pour tout nombre complexe qui n'est pas une racine de l'unite,
(
1 0 si jj < 1
!1 n log j ; 1j = log jj si jj > 1
n
nlim

d'ou le resultat. 2
36 Patrick Foulon

1.5. Varietes stables et instables

Definition 1.5.1. | Soit f un homeomorphisme d'un espace metrique X .
(i) La variete stable Wxs du point x 2 X est l'ensemble
Wxs = fy 2 X j nlim
!1 d(f (x) f (y )) = 0g:
n n

(ii) La variete instable Wxu du point x de X est l'ensemble

Wxu = fy 2 X j nlim
!1 d(f (x) f (y )) = 0g:
;n ;n

Dans les applications, on souhaite en fait montrer que ces ensembles ont des
proprietes plus fortes, comme par exemple d'^etre des varietes di erentielles.
Ces notions sont particulierement bien adaptees aux automorphismes lineaires
hyperboliques des tores, puisque nous avons le

Theoreme 1.5.2. | Pour un automorphisme FL : Tk ! Tk lineaire hyper-

bolique du tore,
(i) les varietes stables et instables de 0 sont respectivement W0s = (E s) et
W0u = (E u).
(ii) Pour tout point x 2 Tk on a
Wxs = x + W0s Wxu = x + W0u:

(iii) Soit d une distance denissant la topologie. Pour " assez petit on a

Wxs " d=ef fy j 8 n 2 N d(FLn(x) FLn(y))  "g  Wxs = n2N FL;nWFsLn(x) ":
et
Wxu " d=ef fy j 8 n 2 N d(FL;n(x) FL;n(y))  "g  Wxu = n2N FL;nWFuLn(x) ":

(iv) Si la distance d vient d'une norme k k sur Rk adaptee a L, alors pour tout
" assez petit,
Wxs " = x + (B s(0 ")) Wxu " = x + (B u(0 "))
(ou B s (0 ") = fv 2 E s j kv k  "g, B u (0 ") = fv 2 E u j kv k  "g).
 Systemes dynamiques hyperboliques 37
(0 1) (1 1)

(0 0) (1 0)
Figure 3 p
FL(x y) = (2x + y x + y) mod (1), W0 est la droite y = 52; 1 x mod (1)
u

Demonstration.
(iv) Soit k k une norme sur Rk adaptee a L. On notera d les distances correspon-
dantes sur Rk et Tk .
Soit  = minfkzk j z 2 Zk ; f0gg. Si d(0 y) et d(0 FL(y)) sont < kLk;1 =2, on
peut trouver v 2 Rk et z 2 Zk tels que :
(v) = y& kvk = d(0 y) kL(v) + zk = d(0 FL(y)):
Observons que z = 0, car
kzk  kz + L(v)k + k ; L(v)k
 d(0 FL(y)) + kLk kvk
= d(0 FL(y)) + d(0 y) kLk
   
 (d(0 FL(y)) + d(0 y)) kLk car kLk
LjEu 
L;jE1u ;1 > 1
< :
Par consequent
 
8 " < kLk;1=2 Wxs " = fv 2 Rk j 8 n 2 N kLn(v)k  "g :
Mais tout v 2 Rk , se decompose en v = vs + vu, vs 2 E s, vu 2 E k . La norme etant
adaptee, nous avons
 ;n n 
L (L (vu)) = kvuk  kL;jE1u knkLn(vu)k
 kL;jE1u knkLn(v)k
 kL;jE1u kn  ":
Le terme de droite de l'inegalite tends vers 0 quand n ! 1. Donc vu = 0 et v 2 E s
avec kvk  ".
38 Patrick Foulon

Ensuite on revient a la denition. Si un point y 2 W0s, il existe un N tel que

n
N , d(FLn(y) 0) < ", donc FLN (y), est dans W0s ". Ce qui prouve (iii) pour l'origine
et une distance adaptee.
Par ailleurs, E s = n2N L;n(B s(0 ")), et donc
(E s) = n2N (L;n(B s(0 ")))
= n2N FL;n( (B s(0 ")))
= W0s:
Il ne nous reste plus qu'a considerer la feuille stable d'un point x 6= 0. Puisque
FLn(x) ; FLn(y) = FLn(x ; y), on a y 2 Wxs si et seulement si x ; y 2 W0s.
Pour conclure (iii), remarquons que si d1 est une distance pas necessairement
adaptee, mais qui donne la topologie, alors par la compacite de Tk , il existe  > 0,
tel que d1
d. Il en resulte que
fy j 8 n 2 N d1(FLn(x) FLn(y))  "g  Wxs: 2
Pour la suite, voici une importante propriete des feuilles stables (instables).

Proposition 1.5.3. | les varietes stables et instables d'un automorphisme

lineaire hyperbolique du tore FL : Tk ! Tk sont denses dans Tk .

Demonstration. | Il su#t de montrer que la feuille stable (instable) de 0 est

partout dense dans Tk . Choisissons sur Rk une norme k k adaptee. Pour tout x 2 Tk ,
considerons la suite xn = FLn(x). On peut choisir des releves yn 2 0 1]k , (yn) = xn.
Si on ecrit yn = yns + ynu suivant la decomposition E s  E u , on a, par compacite de
0 1]k , l'inegalite kynuk  kynk  C . Par consequent
kL;n(ynu)k  kL;jE1u kn  C ! 0 quand n ! 1:
Ainsi
x = (L;n(yns ) + L;n(ynu))
;n s
!1 (L (yn))
= nlim
;n s
!1 FL ( (yn )):
= nlim
Mais (yns ) 2 W0s. 2
Cette propriete va nous donner dans le paragraphe suivant des informations sur
la dynamique des automorphismes lineaires hyperboliques du tore.
 Systemes dynamiques hyperboliques 39

1.6. Transitivite et melange topologique

La dynamique d'une translation  : T n ! T n depend de son vecteur de transla-
tion . Un point 2 T n est irrationnel si, quelque soit un releve  2 Rn ( ( ) = )
et k 2 Zn, alors k   2 R ; Z.
Dans ce cas, la dynamique de  (x) = x + est minimale, ce qui signie,
rappelons-le, que toutes ses orbites sont denses. Cependant toutes les translations
sont des isometries. Ce qui exclut qu'elles puissent assurer un melange topologique
comme le font les automorphismes lineaires hyperboliques.
Definition 1.6.1. | Un systeme dynamique f : X ! X est dit
(i) topologiquement melangeant si pour toute paire d'ouverts U V  X , il existe
un entier N , tel que
8 n > N f n(U ) \ V 6= ?:
(ii) topologiquement transitif, si il existe n0 > 0, tel que
f n0 (U ) \ V 6= ?:
A l'evidence, (ii) est plus faible. Si X est un espace metrique complet, la transi-
tivite topologique entra^ne l'existence d'une orbite dense, par le theoreme de Baire
(exercice).
Proposition 1.6.2.
(i) Les automorphismes lineaires hyperboliques des tores sont topologiquement
melangeant.
(ii) Une isometrie n'est pas topologiquement melangeante.

p
q
V
r

Figure 4
En particulier une translation n'est pas topologiquement melangeante.

Demonstration.
(ii) Supposons que l'isometrie f : Tk ! Tk est topologiquement melangeante.
Pour tout triplet x y z de points de Tk , posons  = d(y z) et choisissons " < =10.
Par hypothese il existe N tel que pour tout n > N , il existe x0n 2 f n(B (x "))\B (y ")
40 Patrick Foulon

et x00n 2 f n(B (x ")) \ B (z "). Mais alors f ;n(x0n) et f ;n(x00n ) sont dans B (x ") ce
qui nous permet d'ecrire
 = d(y z)  d(y x0n) + d(x0n x00n) + d(x00n z)
 " + d(f ;n(x0n ) f ;n(x00n)) + "
 3" !
(i) Soient FL un automorphisme lineaire hyperbolique, U et V deux ouverts non
vides de Tk et "  1. Par la densite de la variete stable W0s de l'origine, il existe un
point x 2 U \ W0s. Des lors FLn(x) ! 0 quand n ! 1. On trouve de m^eme un point
y 2 V \ W0u, tel que FL;n(y) ! 0 qd n ! 1. Ceci entra^ne que pour n su#samment
grand x + FL;n(y) 2 U , et FLn(x + FL;n(y)) = FLn(x) + y 2 V . 2
Remarquons que nous avons, hormis la densite des varietes stables, et instables
utilise le fait que 0 est un point xe.
1.7. Les problemes de moyennes
L'exemple des automorphismes des tores nous presente une telle complexite
topologique qu'il semble naturel d'etudier des moyennes de fonctions plut^ot que
leurs valeurs ponctuelles. On va observer un caractere \probabiliste" assez marque
de ces systemes.
Nous supposons donne un ensemble X muni d'une mesure de probabilite , i.e.
(X ) = 1 et une transformation T : X ! X qui preserve la mesure i.e., pour tout
ensemble mesurable A, (T ;1(A)) = (A). Nous noterons ceci (X  T ).
Definition 1.7.1. | Soit (X  T ),
(i) la moyenne temporelle d'une fonction f : X ! R (ou C) est denie lorsqu'elle
existe par
1 nX;1
!1 n p=0 f (T (x)) x 2 X n 2 N:
f (x) = nlim p

(ii) La moyenne spatiale d'une fonction mesurable f : X ! R est denie par

Z
f = f (x)d:
X
Un des principaux resultats sur les moyennes est donne par le
Theoreme 1.7.2 (G.D. Birkho , theoreme ergodique ponctuel).
Soit T : X ! X une transformation qui preserve la mesure de probabilite  et
f 2 L1 (X ). Alors f (x) existe pour -presque tout x 2 X , i.e. il existe "  X ,
(") = 1 et pour tout x 2 ", f (x) existe. De plus f  est sommable et
Z Z

f d = fd:
X X
Nous admettrons ce resultat. Un cas interessant a considerer est celui ou f = A
est la fonction caracteristique d'un ensemble A  X mesurable. Il vient alors
 (x) = lim 1 #f0  j  n ; 1 j T j (x) 2 Ag:
A n!1 n
 Systemes dynamiques hyperboliques 41

Ce qui s'interprete naturellement comme le temps moyen passe par l'orbite Ox du

point x dans l'ensemble A.

Ceci conduit naturellement a la notion d'ergodicite. Mais auparavant nous sugge-

rons au lecteur de tester l'exercice suivant.

1.7.3. Exercice. | Soit FL(x y) ! (2x + y x + y) mod (1) l'automorphisme

lineaire hyperbolique du tore deja rencontre. Considerons sur T2 la fonction f (x y) =
e2ix, (x y) 2 T 2 et W0s la variete stable de (0 0).
Montrer que pour (x y) 2 W0s, f (x y) = 1.
R
Montrer que f = T 2 f  dm = 0. En deduire que f  et f sont di erentes sur
un ensemble dense. Comparer avec le theoreme de Birkho et avec ce qui va suivre.

1.8. Ergodicite
Nous allons maintenant etudier la complexite, mais au niveau mesurable. La
notion centrale est celle d'ergodicite.
Definition 1.8.1. | Soit T : X ! X une dynamique. Une mesure de proba-
bilite T -invariante  est ergodique si pour tout ensemble invariant A  X on a
(A) = 1 ou (A) = 0.
Nous aurons surtout a l'esprit la proposition suivante.

Proposition 1.8.2. | Les proprietes suivantes sont equivalentes.

1. (X T ) est ergodique.
2. Si f 2 L1 (X ) est une fonction T -invariante, alors f est presque partout
constante.
3. Si f 2 L2 (X ) est une fonction T -invariante, alors f est presque partout
constante.
R
4. Pour toute fonction f 2 L1 (X ) nous avons f (x) = X fd, -presque s^ure-
ment.

Remarques.
La propriete no 4 est la plus connue. Elle est frequemment employee par les
physiciens comme base de la thermodynamique statistique.
Si une mesure a un r^ole particulier, comme dans le cas de la mesure de Haar
sur les tores, on parle plutot de transformation ergodique en oubliant souvent par
rapport a quelle mesure.
42 Patrick Foulon

Demonstration.
(2) ) (3). Comme la mesure est nie on a L2 (X )  L1 (X ). En e et, puisque
jf (x)  1j  (jf (x)j2 + j1j2)=2 on a
Z Z Z
jf (x)j  12 jf (x)j2d + 12 1  d < 1:
X X X

(3) ) (1) Si A est un ensemble mesurable invariant, sa fonction caracteristique

A (x) = 1 si x 2 A, A (x) = 0 si x 2
= A est invariante, A T = A et est evidemment
de carre sommable. Elle est donc presque s^urement constante, i.e. (A) = 0 ou
(A) = 1.
(1) ) (2) Soit f une fonction reelle, T -invariante, absolument sommable (si f
est a valeurs dans C on fait de m^eme avec les parties reelle et imaginaire). Pour tout
c 2 R, l'ensemble Ac = fx 2 X j f (x)  cg est invariant par T . Donc (Ac) = 0 ou
1. Ce qui permet aisement de conclure.
(2) ) (4) Par le theoreme de Birkho on a f  2 L1(X ). De plus f   T = f .
Donc f  est -presque s^urement une constante, disons egale a c. Il vient, en utilisant
une nouvelle fois le theoreme de Birkho ,
Z Z
f  =ps c = cd = f  d = f:
X

(4) ) (3) Si une fonction f 2 L2 (X ) est invariante, alors

1 nX;1 1 nX;1
i
sn(x) = n f (T (x)) = n f (x) = f (x)
i=0 i=0
donc f (x) = limn!1 sn(x). Mais d'apres (4), f (x) = f -presque s^urement. 2
Voici enn un resultat plus concret.
Proposition 1.8.3. | Un automorphisme lineaire hyperbolique du tore FL :
Tn ! T n est ergodique.
Demonstration. | Soit donc FL : Tn ! Tn. D'apres 1.3.2, FL m = m. Soit
par ailleurs f 2 L2 (Tn ). Si x = (x1 : : : xn) mod (1) est un point du tore et
k 2 Zn, on peut evaluer son coe#cient de Fourier ck (f ) qui est donne par
Z
ck (f ) = f (x)e;2ihk xidm
Tn
ou hk xi est modulo les entiers le produit scalaire euclidien d'un releve de x avec le
vecteur entier k. On peut ecrire de m^eme
Z ;1 FL (x)i
ck (f  FL) = n
f (FL(x))e;2ihk FL dm:
T
 Systemes dynamiques hyperboliques 43

Par invariance de la mesure de Haar il vient

Z
ck (f  FL) = n f (x)e;2ihB(k) xi dm = cB(k) (f )
T
avec B = t (L;1). Si une fonction f : Tn ! C est invariante (f  FL = f ), ses
coe#cients de Fourier satisfont d'apres ce qui precede a
cB(k) (f ) = ck (f  FL) = ck (f ):
Remarquons par ailleurs que pour tout k0 2 Zn ; f0g, l'ensemble fB i(k0) j i 2 Ng
est inni. Sinon, il existerait i 6= j tel que B i(k0) = B j (k0)& mais, par hypothese, B
n'a pas de valeur propre sur le cercle unite. Comme f 2 L2 (Tn m), on peut pour
tout k0 2 Zn ; f0g ecrire la majoration
c n (f )2 < X jck (f )j2 = Z jf j2 dm < 1
1 
X
B (k0 ) n
n=0 k2Zn T
ce qui implique que ck0 (f ) = 0. 2
2. Non linearite et stabilite structurelle
2.1. Le fer a cheval
En 1965 S. Smale a construit un di eomorphisme f : R2 ! R2 du plan avec une
dynamique tres complexe qui admet une innite d'orbites periodiques de periodes
arbitrairement grande.

'
f ='A
'1
A
! '
!
'0
'0 '1
Figure 5
En fait on ne s'interesse qu'a un di eomorphisme du rectangle ' = 0 1]2 sur
son image. La construction s'e ectue comme sur la gure par composition d'une
application lineaire hyperbolique A : (x y) ! (3x y=3) avec une transformation
non lineaire ' le tout etant tel que
f ('0) = '0 fj 0 : (x y) ! (3x 13 y)
f ('1) = '1 fj 1 : (x y) = (;3x + 3 ; 13 y + 1):
Pour comprendre l'iteration de f il est bon de chercher un sous ensemble / de
' invariant par le di eomorphisme. Remarquons que
44 Patrick Foulon

= f ;1(') \ ' = fx 2 ' j f (x) 2 'g

= '1  '0
'0 '1

'0 = f (') \ ' = fx 2 ' j f ;1(x) 2 'g

'1 = '1  '0 = f ('1)  f ('0)

Par iteration il vient

= f ;2(') \ f ;1(') \ ' = fx 2 ' j f (x) 2 ' f 2(x) 2 'g
= f ;1('1  '0) \ ('1  '0 ) = '!0 !;1 !0 !;1 2 f0 1g
avec '!0 !;1 = '!0 \ f ;1('!;1 ).
De la m^eme maniere nous pouvons ecrire
f ;n(') \    \ ' = '!0 ::: !;n (!0 : : : !;n) 2 f0 1gn+1
et
\n
'!0 ::: !;n = f ;i('!;i ):
i=0
n
La largeur des rectangles verticaux decro^t exponentiellement, et i\=0 f ;i(') est la
reunion de 2n rectangles verticaux. Lorsque n ! 1 nous obtenons T1 ;i
i=0 f (') =
K 0 1] ou K est l'ensemble de Cantor triadique.
De la m^eme maniere nous obtenons par image directe des reunions de rectangles
horizontaux

= ' \ f (') \ f 2(') = '!1 !2 (!1 !2) 2 f0 1g2&

et plus generalement
' \ f (')    \ f n(') = '!1  !n (!1 : : : !n) 2 f0 1gn
avec
\n
'!1 ::: !n = f i('!i ):
i=1
 Systemes dynamiques hyperboliques 45

A nouveau l'intersection innie nous donne

\
1
f i(') = 0 1] K:
i=0
L'ensemble / = T+;1
1 f i(') est un ensemble invariant par f & de plus / = K K .
Nous pouvons aussi introduire les ensembles
'(!;n : : : !0 !1 : : : !n) = '!0 ::: !;n \ '!1 ::: !n :
Ce qui nous fournit une bijection h : +2 = f0 1gZ ! K K . En munissant +2 de
la topologie produit on peut montrer que h est un homeomorphisme. On obtient
surtout le resultat suivant.
Proposition 2.1.2. | Le dieomorphisme f du fer a cheval est, en restric-
tion a l'ensemble invariant /, conjugue a un decalage de Bernoulli. Ce qui s'ecrit
fj  h = h  2 :
Pour ces notions on peut se reporter a l'expose de A. Fathi aux journees X-UPS
de fevrier 1996. En utilisant la proposition 1.3.1 qui s'y trouve on obtient
Corollaire 2.1.3. | Les points periodiques de fj sont denses dans /, fj
est topologiquement transitif dans /.
On a m^eme des resultats plus precis : Pn(fj) = 2n et f est topologiquement
melangeant dans /.

2.2. Dieomorphismes d'Anosov - Ensembles hyperboliques

Ce qui va suivre s'etendra sans peine aux tores. Mais pour l'instant conservons
en t^ete le modele du fer a cheval de S. Smale. Supposons que U est un ouvert de Rk ,
f : U ! Rk un C 1-di eomorphisme sur son image, et qu'il existe un sous ensemble
/  U compact f -invariant.
Definition 2.2.1. | L'ensemble / est dit hyperbolique pour l'application f
s'il existe C > 0,  2 ]0 1 et pour tout x 2 / une decomposition Rk = Exs  Exu en
sous espaces stables et instables tels que
(i) pour tout v 2 Exs kDxf n (v )k  Cn kv k (n
0),
(ii) pour tout v 2 Exu kDxf ;n (u)k  Cn kv k (n
0),
(iii) Dxf (Exs) = Efs(x) , Dxf (Exu) = Efu(x) .
Remarque. | En fait le choix de la norme importe peu, seul C peut s'en trouver
modie. Plus generalement on choisit pour chaque x un produit scalaire deni positif,
i.e. une metrique riemannienne.
46 Patrick Foulon

Exercice. | Montrer que l'ensemble / du fer a cheval est un ensemble hyper-

bolique et que l'on peut choisir  = 1=3& que la direction horizontale est la direction
instable et la direction verticale est la direction stable.
Definition 2.2.2. | Un dieomorphisme du tore f : Tk ! Tk est dit d'Ano-
sov si Tk est un ensemble hyperbolique pour f .
Proposition 2.2.3. | Un automorphisme hyperbolique du tore FL : Tk !
Tk est un dieomorphisme d'Anosov.
Demonstration. | C'est presqu'une evidence, puisque nous avons pris dans la
section 1.1 une denition qui occulte la reelle di#culte, a savoir faire du calcul di e-
rentiel sur un ensemble qui n'est pas naturellement un espace vectoriel. Mais nous
n'avons pas ici le temps de developper la theorie des varietes di erentiables et de
leurs espaces tangents.
L'automorphisme FL admet un releve L qui est lineaire. Par consequent FL est
C . D'autre part DxFL : Rk ! Rk est donne par DxFL(v) = DxL(v) = L(v),
1
puisqu'une application lineaire est sa propre di erentielle. Dans ce cas particulier
notons que Exs = E s et Exu = E u, de sorte que la decomposition est alors inde-
pendante du point x.

2.3. Dynamique symbolique

Tres souvent, les systemes dynamiques sont codes par des dynamiques symbol-
iques. Un cas particulier a deja ete rencontre avec le fer a cheval. Rappelons les
notations. Soit
"N = f! = (: : : !;1 !0 !1 : : :) j !i 2 f0 : : : N ; 1gg
ou on met une topologie donnee par la distance
X1 j!n ; !n0 j
+
d(! !0) = >1
n=;1 
jnj

Exercice. | Montrer que c'est une distance.

La dynamique est donnee par le shift :  : "N ! "N , (!) = !0, !n0 = !n+1.
Les principaux exemples ne sont pas denis sur tout les mots de l'alphabet mais
seulement un sous-ensemble determine par la donnee d'une matrice A. La procedure
est la suivante. Soit A = (aij ), 0  i j  N ; 1, aij = 0 ou 1, on considere alors
"A = f! 2 "N j a!n !n+1 = 1 pour n 2 Zg:
Definition 2.3.1. | La restriction jA = A est appelee une cha^ne de
Markov topologique, on dit aussi souvent un sous-shift de type ni.
 Systemes dynamiques hyperboliques 47

2.4. Codage et partitions de Markov

De la m^eme maniere que nous avons pu trouver un codage pour le fer a cheval,
nous allons developper tres brievement une approche analogue pour les automor-
phismes hyperboliques des tores. Des techniques semblables existent pour les di eo-
morphismes d'Anosov, mais cela nous conduirait un peu loin.

Reprenons notre exemple favori FL (x y) = (2x + y x + y) sur le tore T2, tra*cons

des morceaux des varietes stables W0s et instable W0u passant par l'origine jusqu'a
ce qu'elles se coupent su#samment de fois pour separer le tore en rectangles comme
par exemple sur la gure 6 extraite de K.H]. On obtient, en tenant compte des
a

b R
(2)

c c
R
(1)
a

Figure 6

identications, une partition de T2 en deux rectangles R(1) et R(2) . L'image de ces

deux rectangles vue dans R2 est representee sur la gure 7 par les symboles F (R(2))
et F (R(1)). Si on fait le calcul explicite on constate, en utilisant les identications,

(2) )
F(R ((21))))
R
FF((R

3
0

Figure 7

que F (R(1) )) est la reunion de 3 rectangles +0 , +1 , +3 , alors que F (R(2)) est la

reunion de +2 et +4 . Par un calcul (assez fastidieux) on obtient une matrice A =
48 Patrick Foulon

(aij ) 1  i j  5 telle que aij = 0 si F (+i) \ +j = ?, aij = 1 autrement&

01 1 0 1 0
1
BB 1 1 0 1 0 CC
B CC
A=BBB 1 1 0 1 0 CC :
@0 0 1 0 1 A
0 0 1 0 1
Nous admettrons le resultat suivant.
Proposition 2.4.1. | L'automorphisme FL : (x y ) = (2x+y x+y ) mod (1)
du tore T2 est semi-conjugue au sous-shift de type ni A sur !5 .
Un des inter^ets de cet exemple est que la semi-conjugaison n'est pas une bijection
car le nombre de points periodiques de Apde periode qui divise p est donne par
Np(A) = tr Ap = p1 + ;1 p, avec 1 = (3 + 5)=2, et satisfait, d'apres 1.4.2 (i),
Np(A ) = Np(FL) + 2:

Exercice. | Montrer que A a trois points xes alors que FL n'en a qu'un seul.

2.5. Stabilite des automorphismes hyperboliques

Vous avez deja rencontre dans le texte Fa] les notions de semi-conjugaison et
de stabilite structurelle. Le theoreme 2.3.1 de l'expose de A. Fathi montre que le
systeme dynamique mp : S ! S , p
q, z 7! zP est structurellement stable. La
preuve s'e ectue en montrant que la semi-conjugaison cherchee s'obtient comme
point xe d'un certain operateur contractant dans un espace de fonctions continues.
Nous allons developper une strategie semblable sur le tore Tn.
Nous allons juste rappeler/admettre quelques resultats sur l'homotopie que nous
specialiserons a notre contexte.
Deux applications continues f g : X ! Y ou X et Y sont des espaces topologi-
ques, sont homotopes s'il existe une application H : 0 1] X ! Y , continue et telle
que
H (0 x) = f (x) H (1 x) = g(x):
Proposition 2.5.1. | Soient f g : Tn ! Tn deux applications continues.
(i) elles sont homotopes si et seulement si leur dierence admet un relevement fe;
ge : Rn 7! Rn, qui est une application Zn periodique i.e. pour tout (z1 : : : zn) 2
Zn
(fe ; ge)(x1 + z1 : : : xn + zn) = (fe ; ge)(x1 : : : xn ):
(ii) De plus une application f : Tn 7! Tn homotope a l'identite IdTn est surjective.
 Systemes dynamiques hyperboliques 49

Demonstration (partielle). | L'homotopie H : 0 1] Tn ! Tn telle que

H (0 ) = f ( ) H (1 ) = g( ) se releve aussi en une homotopie H f : 0 1] Rn ! Rn
f(0 ) = fe( ) est un releve de f , Hf(1 ) = ge( ) est un releve de g.
telle que H
On a Hf(t y + z) = H f(t y) + At (z), pour t 2 0 1], y 2 Rn, z 2 Zn , et At
est une endomorphisme de Rn a coe#cients necessairement entiers. Par continuite
A0(z) = A1 (z), pour tout z 2 Zn et donc (fe ; ge)(y + z) = (fe ; ge)(y).
Pour la reciproque supposons que fe ; ge = he est une application Zn-periodique.
f : 0 1] Rn ! Rn par H
Denissons H f(t y) = ge(y)+(1 ; t)he (y). On verie aisement
que Hf se projette en une homotopie sur Tn.

Voici un premier resultat de stabilite.

Theoreme 2.5.2. | Tout dieomorphisme g : Tn ! Tn homotope a un au-
tomorphisme lineaire hyperbolique FL : Tn ! Tn admet FL comme facteur i.e. il
existe h : Tn ! Tn continue surjective telle que h  g = FL  h. La semi-conjugaison
est unique et homotope a l'identite. De plus si g est C 0 -proche de FL alors la semi-
conjugaison est C 0 -proche de l'identite.
Demonstration. | On cherche une application h : Tn 7! Tn, homotope a
l'identite et telle que h  g = FL  h. D'apres la proposition 2.5.1, h sera alors
surjective et il existera hb : Rn ! Rn, Zn -periodique, telle que IdRn +hb soit un
releve de h. Comme h et FL sont homotopes, il existe une application gb : Rn ! Rn,
continue, Zn-periodique telle que L + gb est une relevement de g. L'equation de semi-
conjugaison qui s'ecrit aussi sous la forme h = FL;1  h  g, se traduit en termes de
relevement en
IdRn +hb = L;1  (IdRn +hb )  (L + gb):
Ce qui nous conduit a
() hb = L;1gb + L;1  hb  (L + gb) d=ef L(hb ):
Notre espace fonctionnel est l'ensemble F des applications continues Z n-pe-
riodiques dote de la distance kb ; 'bk = supy2 0 1]n kb(y) ; 'b(y)k. Il est complet.
Malheureusement L n'est pas un operateur contractant pour cette L distance. Utilisons
l'hyperbolicite de L. Il existe une decomposition R = E E , et au-moins une
n u s
norme adaptee que nous prenons pour denir une distance d1 sur F . Nous noterons
aussi pu et ps le projecteur sur E u parallelement a E s (respectivement sur E s paralle-
lement a E u) hb u = pu  hb , gbu = pu  gb, etc. L'equation () se decompose en utilisant
l'invariance de la decomposition par L en
() hb u = L;u 1 gbu + L;u 1  hb u  (L + gb) d=ef Lu(hb u)
et
(  ) hb s = L;s 1 gbs + L;s 1  hb s  (L + gb) d=ef Ls(hb s):
50 Patrick Foulon

On verie que Lu est un operateur contractant car

kLu(hb 0u) ; Lu(hb u)k = kL;u 1(hb 0u ; hb u)  (L + gb))k  kL;u 1k  khb 0u ; hb uk
et kL;u 1k =  < 1.
Il existe donc un unique point xe hb u. De plus comme quand n ! 1, Lnu(0) ! hb u
nous avons la majoration
X
1
khb uk  ( n)  kLu(0)k
n=0
 1 ;1   kL;u 1k  kgbuk
 1 ;  kgbuk
Pour resoudre l'equation (  ) il vaut mieux la reecrire en utilisant le fait que
L + gb est inversible puisque g est un homeomorphisme. On obtient ainsi, en posant
S = (L + gb);1,
hb s = Ls  hb s  S ; gbs  S d=ef Fs(hb s):
Il s'agit encore d'un operateur contractant. Pour le point xe on peut obtenir
l'estimee
khb sk  1k;gbsk avec  = kLsk:
Finalement nous obtenons une solution unique hb = hb s + hb u, qui est bien Zn -pe-
riodique, et qui se projette donc sur le tore Tn.
Rappelons une denition.
Definition 2.5.3. | Soit k k une norme sur Rn , d la distance sur Tn qui
s'en deduit. On denit une topologie sur C 1 (Tn Tn ) par la distance dC 1 (f1 f2 ) =
supx2Tn d(f1 (x) f2(x)) + supx2Tn kDxf1 ; Dxf2 k. Cette topologie ne depend pas du
choix de la norme k k. On l'appelle C 1 -topologie.
Avec des arguments proches de ceux du theoreme on obtiendrait le resultat
suivant :
Proposition 2.5.4. | Toute C 1 -application g : Tn ! Tn susamment pro-
che, dans la C 1 -topologie, d'un automorphisme lineaire hyperbolique FL du tore est
un facteur pour FL , i.e. il existe h0 : Tn ! Tn continue surjective telle que g  h0 =
h0  FL .
Nous sommes maintenant en mesure d'enoncer le theoreme de stabilite struc-
turelle.
Theoreme 2.5.5 (Anosov). | Soit FL : Tn ! Tn un automorphisme line-
aire hyperbolique du tore. Il existe un voisinage U  C 1 (Tn Tn) de FL dans la
C 1-topologie, tel que toute application f 2 U est topologiquement conjuguee a FL .
 Systemes dynamiques hyperboliques 51

Demonstration (indication). | En combinant le theoreme 2.5.2 et la proposi-

tion 2.5.4 on obtient deux semi-conjugaisons h et h0 . On verie aisement que hh0 = h00
commute avec FL. Il resterait a verier que ceci n'est possible que pour l'identite.
Epilogue. | Pour conclure, je voudrais citer un resultat dont les techniques
sortent du cadre de cet expose.
Theoreme (Franks). | Tout dieomorphisme d'Anosov sur le tore Tn est
topologiquement conjugue a un automorphisme lineaire hyperbolique.
Remarque nale. | Les notes de cet expose doivent beaucoup a plusieurs ou-
vrages. Les deux principales sources ont ete le livre K.H] de A. Katok et B. Hassel-
blatt et le cours F.L] \Systemes dynamiques".
52 Patrick Foulon

Bibliographie
A] V.I. Arnold, Chapitres supplementaires de la theorie des equations di
e-
rentielles ordinaires, Editions M.I.R., Moscou.
A.A] V.I. Arnold, A. Avez, Problemes ergodiques de la mecanique classique,
Gauthier-Villard.
Fa] A. Fathi, Systemes dynamiques discrets, in Introduction aux systemes dy-
namiques, Journees X-UPS 1996, Ecole Polytechnique (1996).
F.L] A. Fathi, F. Ledrappier, Systemes dynamiques, Cours de l'Ecole Poly-
technique, Departement de Mathematiques, Ecole Polytechnique, Palaiseau,
edition 1994 (ou edition1996 en preparation).
K.H] A. Katok, B. Hasselblatt, Introduction to the modern theory of dynami-
cal systems, Encyclopedia of Mathematics and its Applications, Cambridge
University Press, 1995.
M] R. Mane, Ergodic Theory and Di
erentiable Dynamics, Ergebnisse der
Mathematik und ihrer Grenzgebiete, Springer Verlag, 1987.
P.P] W. Parry, M. Pollicott, Zeta functions and the periodic orbit struc-
ture of hyperbolic dynamics, Asterisque vol. 87-188, Societe Mathematique
de France, 1990.
S] M. Shub, Stabilite globale des sytemes dynamiques, Asterisque vol. 56,
Societe Mathematique de France, 1978.
Institut de Recherche Mathematique Avancee
Universite Louis Pasteur et URA 001 du CNRS
7 rue Rene-Descartes
F{67084 Strasbourg cedex
Adresse electronique : foulon@[Link]
 Proprietes spectrales
de systemes dynamiques discrets
Martine Queffelec

Cet expose fait suite aux exposes de A. Fathi 7] et P. Arnoux 2].
Nous nous proposons d'etudier des systemes dynamiques qui sont a l'oppose
des systemes chaotiques, et dans lesquels, en particulier, tout point est d'orbite
dense (systemes minimaux). C'est le cas de la rotation irrationnelle agissant sur le
cercle. Un systeme minimal peut egalement s'obtenir en partant d'une suite a valeurs
dans un ensemble ni f1 2 : : : sg et en lui associant le systeme (X T ) ou X est
l'orbite fermee de la suite dans f1 2 : : : sgN (ou f1 2 : : : sgZ), sous l'action du
shift unilateral T (ou bilateral). Lorsque la suite initiale est recurrente et presque
periodique, c'est-a-dire tout mot de la suite y appara^t avec lacunes bornees, le
systeme est minimal. Pierre Arnoux dans 2] a deni un outil combinatoire : la
fonction complexite, pour mesurer le degre d'imprevisibilite d'une telle suite, et par
la-m^eme la relative richesse du systeme associe.
On developpera ici une approche spectrale de cette tentative de classication : si
 est une mesure sur X invariante par le shift T , on fait une etude ne du spectre
de l'operateur unitaire f ! f T sur L2 (X ), cette etude etant particulierement
signicative lorsque le systeme admet une seule mesure invariante ! Cette analyse
peut ^etre menee a bout pour certaines classes de systemes dont on choisira quelques
exemples representatifs.
Un autre point de vue, considere initialement par les physiciens, consiste a de-
crire le spectre de l'operateur de Schr)odinger discret dont le potentiel est une suite
a valeurs dans un ensemble ni. Rappelons que cet operateur H est deni sur l2 (Z)
par
H'(n) = '(n + 1) + '(n ; 1) + v(n)'(n)
ou v est le potentiel de H .
Lorsque v est une suite periodique, le spectre de H est absolument continu, alors
qu'il est (ps) discret dans le cas aleatoire. Que peut-on dire dans le cas d'une suite
\intermediaire" ?

1. Systemes dynamiques discrets : proprietes statistiques

Albert Fathi a deni un systeme dynamique discret comme etant un couple
(X T ), ou X est un espace topologique et T une application continue de X dans
lui-m^eme. Etudier la dynamique du systeme, c'est etudier le comportement des
orbites, c'est-a-dire des iterees T n(x) suivant le point initial x.
53
54 Martine Queffelec

On sera amene a elargir la notion de systeme dynamique au cadre mesurable et

plus seulement topologique, m^eme si les exemples interessants sont en dynamique
topologique.
Rappelons les deux exemples fondamentaux, cites dans 7], qui, du point de vue
de la dynamique, sont diametralement opposes :
le premier, important car il permet de modeliser de nombreux phenomenes
dynamiques, est celui du shift a n symboles. Dans ce cas X est l'espace metrique
compact f0 1 : : : n ; 1gN , (ou f0 1 : : : n ; 1gZ), note parfois +n et la transforma-
tion, T , est le shift unilateral (ou decalage) deni par
T (x)k = xk+1
(ou le m^eme shift bilateral). Ce systeme, a lui seul, possede toutes les proprietes
caracteristiques du chaos tel qu'il est deni dans 6] : il est transitif, sensible aux
conditions initiales et l'ensemble des orbites periodiques est dense dans X .
Le second est celui de la rotation irrationnelle sur le cercle unite, c'est-a-dire
l'application R denie par :
R x := x + mod 1
avec irrationnel, si on identie le cercle unite T a R=Z. Dans cet exemple, tout
point initial est d'orbite dense. La dynamique de ce systeme est donc reduite,
puisqu'il n'y a pas d'orbite periodique, pas de sensibilite aux conditions initiales
(deux points voisins engendrent des orbites proches). Par contre, l'etude approfondie
de l'orbite d'un point a souleve de nombreuses questions de nature arithmetique (ap-
proximation diophantienne, fractions continues).
C'est aux systemes de cette seconde espece que nous allons nous interesser.

Definition 1.1. | Un systeme dynamique (X T ) est dit minimal si toute

orbite est dense dans X , ou de facon equivalente, si les seuls sous-ensembles fermes
E veriant
T (E )  E
sont X et ?.

Les problemes qui se posent alors sont les suivants :

1. Peut-on decrire le comportement de chaque orbite, ou, tout du moins, de la
plupart d'entre elles ?
2. Comment mesurer la complexite d'une orbite ? Quels outils utiliser ?
Pour tenter d'apporter des reponses, nous allons, lorsque ce sera possible, munir
notre systeme d'une mesure invariante par T .
 Proprietes spectrales de systemes dynamiques discrets 55

1.1. Mesures invariantes

Avant de denir precisement ce qu'est une mesure invariante, rappelons que la
notion apparait naturellement en physique statistique avec la mesure d'equilibre 
d'un systeme physique evoluant au cours du temps. Si le systeme au temps initial
est dans l'etat x, il est dans l'etat Tx au temps suivant, et T est une transformation
de l'espace des etats X dans lui-m^eme. Par exemple, lorsque le systeme est ni et A
un ensemble d'etats possibles, (A) est la probabilite que le systeme soit dans l'un
de ces etats, ceci independamment de l'instant considere. La mesure  est invariante
par T .
Les mesures invariantes apparaissent de fa*con naturelle en mathematiques egale-
ment comme nous allons le voir, mais commen*cons par en donner une denition.
Definition 1.2. | Soit X un espace muni d'une tribu A et T une application
mesurable de X dans lui-m^eme. La mesure de probabilite  denie sur (X A) est
invariante par T ou T -invariante si, pour tout ensemble A de la tribu,
(T ;1A) = (A):
Revenons a nos deux exemples.
1. Le shift bilateral a n symboles. | L'espace metrique compact
X = f0 1 : : : n ; 1gZ
est muni naturellement de la tribu de ses boreliens. Cette tribu est engendree par les
cylindres qui sont a la fois ouverts et fermes. Supposons qu'a chaque etape les valeurs
; 1 apparaissent avec probabilites respectives p0 p1 : : : pn;1 (c'est-a-dire
0 1 : : : nP
pi > 0 et pi = 1), et ceci independamment d'une etape a l'autre. Cela revient a
considerer sur le systeme la mesure produit
 = fp0 p1 : : : pn;1gZ
qui est clairement invariante par T . On parle alors de Bernoulli-shift.
Notons qu'il y a deja beaucoup de mesures invariantes sur (X T ).
2. La rotation irrationnelle. | On sait qu'il n'existe qu'une seule mesure de
probabilite sur le cercle invariante par toutes les translations, a savoir la mesure de
Haar ou de Lebesgue sur T identie a 0 1). C'est aussi la seule mesure de probabilite
invariante par R quand est irrationnel : il su#t en e et de prouver que la mesure
de Lebesgue est la seule mesure de probabilite  sur T veriant
Z Z
f (x + )d(x) = f (x)d(x)
pour n'importe quelle fonction continue f sur T & mais en iterant cette identite, 
verie Z Z
f (x + n )d(x) = f (x)d(x)
56 Martine Queffelec

pour tout n. Par densite modulo 1 de la suite (n ) et en utilisant la continuite

uniforme de f , on obtient, quitte a prendre une sous-suite,
Z Z
f (x + t)d(x) = f (x)d(x)
ceci pour tout t. D'ou le resultat. (On peut aussi calculer les coe#cients de Fourier
de la mesure , et verier qu'ils sont tous nuls sauf celui d'indice 0. )
M. Keane ecrit dans 3] : \measure-preserving transformations are beautiful !".
J'ajouterais \invariant measures are beautiful too". Voici donc d'autres exemples
pour illustrer cette a#rmation.

1. Fractions continues et mesure de Gauss.

Prenons X := 0 1] n Q et denissons T par
Tx := f x1 g = x1 ;  x1 ]

la partie fractionnaire de 1 . Gauss, dans une lettre a Laplace (1812), ecrit qu'il a
x
trouve une probabilite invariante par T & il s'agit de la mesure a densite
1 1
log 2 1 + x
par rapport a la mesure de Lebesgue m sur X . Malheureusement, il n'explique pas
comment il l'a trouvee et c'est beaucoup plus tard qu'on la retrouve comme point
xe d'un operateur de Perron-Frobenius. C'est donc la seule probabilite T -invariante
equivalente a la mesure de Lebesgue m (ayant les m^emes ensembles negligeables).
L'operateur de Perron-Frobenius dans ce cas est l'operateur 1 deni sur L1 (X m)
par :
X 1 1
1f (x) = f ( )
n1 x + n (x + n)
2

et 1 admet un seul point xe f qui est tel que  = f  m est une mesure T -invariante.
3]

2. Produit de Riesz.
On s'interesse cette fois a la transformation denie par Tz := z2 sur le cercle
unite, que l'on prefere voir comme la transformation Tx := 2x mod 1 sur l'espace
X := T identie a 0 1). Cette transformation possede de nombreuses probabilites
1 1 2
discretes invariantes, par exemple la probabilite de masses aux points f g: : : et
2 3 3
une seule probabilite equivalente a la mesure de Lebesgue m, la mesure de Lebesgue
elle-m^eme ! Mais elle admet de nombreuses probabilites continues, singulieres par
rapport a m c'est-a-dire portees par un borelien de mesure de Lebesgue nulle. Un
exemple est celui-ci qui appara^tra naturellement dans la suite. Il s'agit d'une mesure
 Proprietes spectrales de systemes dynamiques discrets 57

faisant partie d'une classe d'exemples construits par M. Riesz qui, initialement,
cherchait une mesure dont on connaisse de fa*con explicite les coe#cients de Fourier.
Notons
NY
;1
PN (t) := (1 ; cos 2 2nt)
n=0
pour tout N
1. La suite (PN )  m converge pre-faiblement dans M (T), espace des
mesures bornees sur T, vers une probabilite  continue, T -invariante, veriant
b(2n) = b(n)
b b
b(2n + 1) = ; (n) + 2(n + 1)
pour n
0, et
b(;n) = b(n)
On la note abusivement
Y
1
 := (1 ; cos 2 2nt):
n=0

3. -shift. p
Considerons le nombre d'or  = 1 + 5 et la transformation
2
Tx := x mod 1
denie sur X := 0 1). Il existe une unique probabilite T -invariante equivalente a la
mesure de Lebesgue, qui admet la densite

3 si 0  x < ;1
1 + 2
2 si ;1  x < 1
1 + 2
Le terme -shift sera justie plus loin.

Remarque. | Le probleme d'existence ou d'unicite de mesure invariante (nie

ou non) reste un probleme di#cile et crucial puisque, en general, l'espace et la trans-
formation sont donnes, mais pas la mesure invariante. Le probleme peut d'ailleurs
se poser pour une famille de transformations. Une generalisation de 1. est le resultat
suivant (voir par exemple 13]) : Si X est un espace metrique compact et (Ti ) une
famille d'isometries de X , il existe une mesure invariante par tous les Ti.
On se restreindra aux cas ou il existe une mesure de probabilite invariante.
58 Martine Queffelec

Si X est un espace metrique compact, et T une application continue de X dans

lui-m^eme, il existe toujours des probabilites boreliennes preservees par T . Il su#t
de prendre une limite pre-faible dans M (X ) de la suite de probabilites
X
N = N1 T n x
n<N

Probleme. | Pour terminer ce paragraphe citons une conjecture partiellement

resolue : une probabilite sur 0 1), continue, qui est a la fois 2- et 3-invariante est-elle
necessairement la mesure de Lebesgue ?

1.2. Ergodicite
On oublie un instant la propriete topologique de minimalite, pour s'interesser a
la propriete d'ergodicite, propriete analogue dans le cadre mesurable, mais qui de-
pend de la mesure invariante choisie. Soit (X A T ) notre systeme, ou, desormais,
 est T -invariante& on veut preciser l'analyse de chaque orbite d'un point de vue
statistique si possible.

Question 1. | Fixons B 2 A partie mesurable de X & etant donne x 2 X ,

visite-t-il B sous l'action de T et combien de fois ?
Une reponse partielle est fournie par le theoreme de recurrence de Poincare :
Theoreme 1.1 (Poincare). | Soit (XA T ) un systeme dynamique et B 2
A partie de X de mesure > 0 alors, pour -presque tout x 2 B
N (x B ) := fn
0& T nx 2 B g
est inni.

Commentaires.
1. Ce theoreme donne une reponse pour les points de B , mais ne dit rien sur les
points du complementaire de B &
2. La question 1, pour tout x de X , n'a d'inter^et que si X ne se decompose
pas en deux morceaux de mesure positive et invariants par T , car alors les orbites
pourraient ^etre piegees dans l'un de ces morceaux. C'est l'hypothese que nous allons
faire et qui n'est pas restrictive.
Definition 1.3. | La probabilite  denie sur (X A T ) et T -invariante est
dite ergodique si tout ensemble A de A veriant
T ;1 A  A
est de mesure 0 ou 1.
 Proprietes spectrales de systemes dynamiques discrets 59

On remarque que la propriete se teste en fait aussi bien sur les ensembles comple-
tement invariants, c'est-a-dire veriant T ;1A = A.
La reponse a la question 1 est alors donnee par le theoreme ergodique (qui est
une generalisation de la loi forte des grands nombres) :
Theoreme 1.2 (ergodique de Birkho ). | Soit (X A T ) un systeme dy-
namique ou  est une probabilite ergodique soit B un ensemble xe dans A. Alors,
si on pose
Sn(x) := #f0  k < n& T k x 2 B g
pour -presque tout x,
1
!1 n Sn (x) = (B ):
nlim
Plus generalement, si f est une fonction -integrable sur X , alors, pour -presque
tout x, Z
1 X k
!1 n k<n f (T x) = fd:
nlim

Commentaire. | Malgre son nom, ce theoreme admet une version plus generale
sans l'hypothese d'ergodicite, et fournit alors une version amelioree du theoreme de
Poincare :
lim 1 #(N (x B ) \ 0 n ; 1]) > 0
n!1 n
pour -presque tout point x de B .

Exemples.
1. La mesure de Lebesgue est ergodique pour la rotation irrationnelle& plus gene-
ralement, lorsque T admet une unique probabilite invariante, celle-ci est automa-
tiquement ergodique, car les probabilites ergodiques sont les points extremaux du
convexe compact MT (X ) constitue des probabilites T -invariantes sur X . Un tel
systeme (ou plus simplement l'application T ) sera dit uniquement ergodique.
2. La mesure de Lebesgue est egalement ergodique pour la transformation Tx :=
2x mod 1 comme on peut le verier en utilisant une denition equivalente de l'er-
godicite :
Definition 1.4. | Soit (X A T ) un systeme dynamique. La probabilite 
est ergodique pour T si et seulement si, toute fonction mesurable f : X 7! R veriant
f (Tx) = f (x)
-presque partout, est egale presque partout a une constante.
Il su#t de le verier pour les fonctions bornees sur T et d'utiliser le developpement
d'une telle f en serie de Fourier.
Le produit de Riesz  deni dans le paragraphe precedent est aussi ergodique
pour cette transformation (elle possede en fait une propriete plus forte). Or on
60 Martine Queffelec

peut verier que deux probabilites ergodiques distinctes du m^eme convexe compact
MT (X ) sont necessairement etrangeres (elles habitent sur des boreliens disjoints).
Cela prouve que cette mesure est singuliere.
On pourrait deduire la singularite du theoreme ergodique applique a f (x) := e2ix
sur 0 1) avec les mesures m et  successivement, en remarquant que
Z
fdm = 0
alors que Z
fd = b(1) = ; 13
3. La mesure de Gauss et la mesure associee au -shift sont toutes deux ergodiques
et cela peut resulter du theoreme de Ruelle-Perron-Frobenius. En appliquant le
theoreme ergodique a la transformation T de Gauss par exemple, on peut obtenir
 quotients partiels : a tout x 2 0 1]nQ
des resultats presque s^urs sur la repartition des
1
on associe la suite d'entiers a1 = a1(x) =
x et pour n > 1, an = an(x) = an;1(Tx),
appeles quotients partiels de x.
Proposition 1.1. | Pour chaque entier k
1, pour presque tout x, la fre-
quence relative d'apparition de k parmi les an(x) est
1 log (k + 1)2 :
log 2 k(k + 2)
En particulier presque tout x est a quotients partiels non bornes.
Question 2. | Peut-on decider, pour un point initial x xe, s'il appartient ou
non a cet ensemble de mesure pleine pour lequel la limite existe dans le theoreme
ergodique ?
Definition 1.5. | Supposons que X soit un espace metrique compact. Le
point x est dit generique pour le systeme dynamique (X A T ) si
1X k Z
nlim
!1 f (T x) = fd
n k<n
pour toute f continue sur X .
Par le theoreme ergodique, -presque tout x est generique mais il est di#cile d'ex-
hiber un seul point, comme on peut le voir par exemple avec les nombres normaux.
On rappelle qu'un nombre est normal en base q, si la suite de ses digits en base q
est une suite normale, c'est-a-dire telle que, pour chaque n, tout motif de longueur
n appara^t dans la suite avec la frequence q;n. Il resulte du theoreme ergodique
applique a la transformation x 7! qx mod 1 que presque tout nombre est normal p en
base q (et m^eme en toute base)& mais on ne sait pas decider si le nombre 2 par
exemple est normal en base 2, comme le pensait Borel.
Le resultat suivant sera precieux puisqu'il nous permettra d'etudier toute orbite :
 Proprietes spectrales de systemes dynamiques discrets 61

Theoreme 1.3 (Oxtoby). | Supposons l'espace metrique compact et le sys-

teme uniquement ergodique. Alors tout point est generique plus precisement, pour
toute f continue sur X Z
1 X k
nlim
!1 f (T x) = fd
n k<n
uniformement sur X .

Commentaires.
1. Il y a en fait equivalence entre l'unique ergodicite du systeme et la convergence
uniforme vers une constante des moyennes de Birkho de toute fonction continue.
La demonstration en est assez simple (voir par exemple 14]).
2. Apres cette etude (rapide) on peut dire que la minimalite est la version
topologique de l'unique ergodicite, alors que la version topologique de l'ergodicite
est la transitivite (existence d'un point d'orbite dense lorsque X est un compact
sans point isole. )
A noter une classe importante d'exemples 6] :
Proposition 1.2. | Tout homeomorphisme du cercle sans orbite periodique
| donc de nombre de rotation irrationnel | est uniquement ergodique.

1.3. Isomorphismes de systemes et codage

La probleme d'isomorphisme entre systemes dynamiques est naturel : etant donne
un systeme, n'est-il pas simplement une autre version d'un systeme deja connu, dont
la dynamique est plus simple a etudier ? Cela peut repondre aussi a un besoin de clas-
sication. Enn, les systemes symboliques sont relativement bien connus, et un outil
pour comprendre un systeme dynamique abstrait serait une representation symbo-
lique d'un tel systeme. Fathi a deni dans 7] la notion de semi-conjugaison et de
conjugaison en dynamique topologique, deux systemes (topologiquement) conjugues
ayant la m^eme dynamique.
On va introduire une notion d'isomorphisme pour les systemes mesures, moins
exigeante que la notion de conjugaison pour les systemes topologiques et plus adaptee
a notre preoccupation. Un tel systeme, rappelons-le, est muni d'une probabilite
invariante.
Definition 1.6. | Les systemes (X A T ) et (X 0 A0 T 0 0 ) sont metrique-
ment isomorphes s'il existe une application mesurable h : X 7! X 0 veriant
(h;1 A0) = 0(A0) pour A0 2 A0
h  T = T0  h
et s'il existe Y  X et Y 0  X 0 veriant
(Y ) = 1 0(Y 0) = 1
62 Martine Queffelec

tels que h : Y 7! Y 0 soit bijective et bimesurable (h est une presque-bijection

bimesurable).
La theorie ergodique s'interesse aux proprietes preservees par ce type d'isomor-
phisme (ergodicite par exemple). L'exemple suivant va eclaircir et justier cette
denition.

Exemple 1. | Notons T2 l'application x 7! 2x mod 1 denie sur X identie

a 0 1). Il est prouve dans 7] que le systeme (X T2 ) est semi-conjugue au 2-shift,
(++2 T ), ou ++2 designe le compact f0 1gN. Les rationnels dyadiques admettant
deux decompositions, l'application ne peut ^etre bijective& de toute fa*con, les deux
systemes ne peuvent ^etre conjugues puisque ++2 est totalement discontinu.
Par contre, (++2 T f 12 12 gN) et (X T2 m) sont des systemes metriquement iso-
morphes. Pour le voir, il su#t de considerer l'application de semi-conjugaison h :
++2 7! X denie par
X1
h(u) := u2nn
1
Puis on la restreint au depart a l'ensemble des suites de 0 ; 1 qui, a partir d'un
certain rang, ne sont pas identiquement nulles ou identiquement egales a 1 , et a
l'arrivee, a X prive des rationnels dyadiques. Par ailleurs les mesures sont echangees
par h.
La semi-conjugaison s'est revelee un excellent candidat comme isomorphisme de
systemes mesures, ce qui sera souvent le cas.

Exemple 2. | Considerons le systeme (X T ) ou la transformation

p T est de-
1+ 5
nie sur X := 0 1) par Tx := x mod 1,  etant le nombre d'or . On a exhibe
2
sur X une probabilite T -invariante (equivalente a la mesure de Lebesgue et unique
parmi celles-ci) notee . Ce systeme est (metriquement) isomorphe a un sous-shift
de type ni appele le -shift, muni d'une mesure markovienne.
Rappelons qu'un sous-shift designe simplement un systeme topologique cons-
titue d'une partie fermee Y de X = f0 1 : : : n ; 1gNouZ, invariante par le shift. Le
complementaire de Y dans X etant ouvert, c'est une union denombrable de cylindres
ouverts disjoints, qu'on peut, sans restriction, supposer denis par des contraintes
portant sur des coordonnees consecutives ou blocs& ainsi, le ferme est deni par
une liste denombrable de blocs interdits. Le sous-shift (Y T ) est dit sous-shift de
type ni lorsque la liste des blocs interdits est nie. A un tel sous-shift est associee
une matrice de transition (a coe#cients 0 ; 1) M qui contient une grande partie
de l'information statistique du systeme, et de coe#cients Mij = 1 si ij est un mot
permis, 0 sinon. Ainsi Y := +M est l'ensemble
fx 2 f0 1 : : : n ; 1gNouZ : Mxixi+1 = 1g
 Proprietes spectrales de systemes dynamiques discrets 63

Le -shift est le sous-shift de ++2 constitue des suites de 0 et de 1 dans les quelles le
bloc 11 n'appara^t pas. On le note + . La matrice M correspondante est simplement
!
1 1
1 0
de polyn^ome caractP eristique X 2 ; X ; 1 = 0. A toute suite (xn) de + on peut
associer le reel x = xn ;n & il est aussi naturel de denir l'application de X dans
+ par  0 si T nx 2 0 ;1,
N
x 7! (xn ) 2 f0 1g ou xn =
1 sinon
c'est-a-dire la decomposition en base , qui est bien denie en dehors des reels
admettant deux ecritures (les reels de Q() ayant une ecriture avec un nombre ni
de termes non nuls et une se terminant par la suite 0101010101   ).
La mesure invariante sur + est la mesure transportee par cette application. C'est
une mesure de Markov denie sur les cylindres de + par

(!]) = g!0  d!l  1l

si ! = !0    !l et si (ga )a, (da)a sont les vecteurs propres
P a gauche et a droite de la
matrice M pour la valeur propre , normalises par a gada = 1.
Comme application du theoreme ergodique, on peut obtenir des resultats sur la
frequence d'apparition d'une lettre ou d'un mot dans le developpement de presque
tout nombre. Par exemple
Proposition 1.3. | Pour presque tout x 2 0 1), la frequence d'apparition
de 0 dans son developpement en base  est
2
1 + 2
Etant donne une partition nie de X ,
X = X0  X1      Xp
on peut associer a tout x la suite !(x) 2 " = fa0 a1 : : : apgN denie par
!(x)n = aj si T nx 2 Xj :
On a code l'orbite de x par une suite innie de ", et on dit que la partition est
generatrice si deux points di erents de X ont des codages di erents. En general le
codage n'est pas deni de maniere unique aux points frontieres de la partition et en
leurs pre-images, ce qui induit au mieux un isomorphisme metrique entre le systeme
initial et le systeme symbolique.
64 Martine Queffelec

Exemples. | C'est le cas de x 7! 2x mod 1 et la partition X0 = 0 12  X1 =

 21 1) ou x 7! x mod 1 et la partition X0 = 0 ;1 X1 = ;1 1).
Un autre exemple important est celui du codage de fonction unimodale 6].
Le desordre est plus facile a mesurer pour les systemes symboliques. C'est un
des inter^ets du codage.
Un outil pour mesurer la richesse d'un systeme dynamique est la notion d'en-
tropie, entropie topologique htop dans le cadre topologique et entropie metrique
h dans le cadre d'un systeme muni d'une mesure . Pour un sous-shift X , notons
W (X k) le nombre de blocs de longueur k apparaissant dans X & alors
htop = lim sup k1 log W (X k)
k!1
que l'on peut adopter comme denition.
Proposition 1.4. | Soit +M un sous-shift de type ni de matrice M primi-
tive (une puissance de M a tous ses coecients > 0). Alors l'entropie topologique
est log  ou  est la valeur propre dominante de la matrice.

Demonstration. | Notons plus simplement W (X n) par W (n)& W (2) est le

nombre de 1 dans M et donc X
W (2) = Mij
ij
Maintenant si n
2,
X
Mij(n) = Mii1 Mi1 i2    Min;1 j
i1 i2 ::: in;1

et Mii1 Mi1 i2    Min;1 j = 1 signie que ii1 i2    in;1 j est un mot de X de longueur
n + 1& Mij(n) est donc le nombre de mots de W (n + 1) commen*cant par i et nissant
par j , et X
W (n + 1) = Mij(n)
ij
La proposition resulte alors du theoreme de Perron-Frobenius 11] :
Theoreme 1.4 (Perron-Frobenius). | Soit M une matrice carree, a coe-
cients positifs, et primitive. Alors M admet une valeur propre dominante strictement
positive, racine simple de son polyn^ome caracteristique, et admettant un vecteur pro-
pre a droite et a gauche strictement positifs.
Si  est cette valeur propre dominante, on a clairement

c  W (nn+ 1)  C
ou c et C sont deux constantes positives, et la proposition suit. }
 Proprietes spectrales de systemes dynamiques discrets 65

La proposition reste vraie lorsque la matrice M est seulement irreductible (pour

chaque couple (i j ) on peut trouver un entier n tel que Mijn soit > 0) en utilisant la
version du theoreme de Perron-Frobenius dans ce cas.
L'entropie topologique est un invariant topologique (pour la conjugaison) et l'en-
tropie metrique un invariant pour l'isomorphisme metrique& un systeme d'entropie
strictement positive, tel que le sous-shift de type ni, est un systeme dont l'aleatoire
est riche.

1.4. Systeme associe a une suite

On s'interesse desormais aux systemes (X T ) avec X metrique compact et
d'entropie topologique nulle. Pour un tel systeme, l'entropie, quelqu'elle soit, est un
outil insu#sant pour mesurer l'aleatoire qu'il contient. (Pour un espace metrique
compact X et un homeomorphisme T , htop = supfh &  2 MT (X )g, ce qui nous
dispense d'introduire la notion d'entropie metrique !). De ce point de vue, les syste-
mes innis les plus pauvres sont les systemes sturmiens. Un systeme sturmien est
un systeme engendre par une suite sturmienne, c'est-a-dire une suite de complexite
minimale parmi les suites non-periodiques. Etant donne une suite u ne prenant qu'un
nombre ni de valeurs, on considere pour tout n le nombre p(n) des mots de la suite
de longueur n & la fonction p, appelee fonction complexite, a ete etudiee en 2].
Le systeme engendre par u, est (X T ) avec X = Orb(u), T le shift (unilateral
ou bilateral) sur X . Par construction de X , une suite x est dans X si et seulement
si tout mot xixi+1    xj de x est un mot de la suite initiale.
Les systemes sturmiens apparaissent lors du codage de la rotation irrationnelle
et ont ete analyses dans 2]. Rappelons un des resultats :
Proposition 1.5. | Soit R la rotation irrationnelle sur X = 0 1), et no-
tons X0 = 0 1 ;  X1 = 1 ; 1). Alors le systeme (X R m) est metriquement
isomorphe a un systeme sturmien.
p
3; 5
Exemple. | Lorsque = , le codage envoie 0 sur la suite
2
u = 001001010010010100101001001010010010100101  
et le systeme initial, sur le systeme engendre par la suite u, c'est-a-dire (X T ) ou
 l'image de m.
Soit plus generalement u une suite recurrente de AZ. Le systeme (X T ) associe a
la suite u est minimal si et seulement si tout mot de la suite (ou de n'importe quelle
autre suite de X ) y appara^t avec des lacunes bornees. Cela resulte d'une caracte-
risation plus generale de Gottschalk. En combinant ceci avec le theoreme d'Oxtoby
on obtient alors :
Theoreme 1.5. | Le systeme associe a la suite u est minimal et uniquement
ergodique (on dit alors strictement ergodique) si et seulement si tout mot de
66 Martine Queffelec

la suite admet une frequence uniforme > 0 plus precisement, si B = b1 b2    bl

appara^t dans u,
1
n!1 #fk& m + 1  k  m + n : uk+1uk+2    uk+l = b1 b2    bl g = dB > 0
lim
n
uniformement par rapport a m.
Demonstration. | B etant un mot de u, notons B ] le cylindre engendre par B .
Supposons le systeme strictement ergodique. Si  est l'unique probabilite invariante
du systeme, il su#t d'appliquer le theoreme d'Oxtoby a la fonction continue f = 1 B]
pour obtenir la limite cherchee avec dB = (B ]). Par minimalite, cette limite est
> 0.
Reciproquement, la fonction d'ensembles dB verie
0  dB  1 dB = 1 si B = ?
X X
dB = dBb = dbB :
b2A b2A
Il existe alors une mesure  de probabilite T -invariante sur les boreliens de X telle
que (B ]) = dB pour tout mot B . Le fait que (X T ) soit uniquement ergodique
resulte de la caracterisation d'Oxtoby d'un tel systeme, et la minimalite decoule de
la condition dB > 0 pour tout B . A noter que par minimalite, le support ferme de
 est X tout entier. }
Toute l'information statistique d'un systeme strictement ergodique est contenue
dans l'une quelconque des suites x 2 X . On se restreint a ce type de systeme lorsque
l'on veut etudier le desordre d'une suite ou d'une conguration bien determinee.
C'est une situation tres di erente de celle d'un Bernoulli-shift par exemple.
Exemples. | Certaines classes de suites ont ete systematiquement etudiees&
nous allons commencer par des cas particuliers avant de tenter une generalisation.
1. Suite de Thue-Morse. | Considerons AZ ou A = f;1 +1g. On denit la
suite (mn )n0 par
mn = (;1)Sn
ou Sn designe la somme des chi res de l'entier n ecrit en base 2, c'est-a-dire
Sn = n1 + n2 +    + nk
lorsque
n = n1 + 2  n2 +    + 2k;1  nk
de sorte que les ni valent 0 ou 1. Il est facile de voir que la suite m est completement
determinee par les relations
m0 = 1 m2n = mn m2n+1 = ;mn n
0
 Proprietes spectrales de systemes dynamiques discrets 67

ce qui implique que la suite est 2-automatique comme nous le verrons plus tard, et
aussi bien par les relations
m0 = 1 m2n;1 +k = ;mk k
0 n
1
ce qui signie que la suite est 2-multiplicative. Cette suite qui a ete souvent etudiee
et rencontree dans di erents domaines des mathematiques s'appelle suite de Thue-
Morse.
Proposition 1.6. | La suite m prolongee aux entiers negatifs par mn =
m;n;1 engendre sous le shift un systeme strictement ergodique et l'unique mesure
invariante  sur (X = Orb(m) T ) verie

(1]) = (;1]) = 12

(B ]) 2 f 3 12k 6 12k g

pour tout mot B de m de longueur l 2k + 1  l  2k+1 k
1
La stricte ergodicite n'est pas plus di#cile a etablir dans un cadre plus general, ce
qu'on verra plus loin. La description de  sur les cylindres a ete faite par Dekking
et V. Berthe 4].

2. Suite de Toeplitz. | Considerons la suite denie pour tout n 2 Z par

tn = mn  mn;1
Il est facile de voir que
8 +1 si n = 0,
>
<
tn = > ;1 si n est impair,
: (;1)k+1 si n = 2k (2m + 1) k
1.
On peut construire cette suite ainsi : on se gure les entiers comme des cases a
remplir& on place 1 en case 0, puis ;1 dans toutes les cases impaires. On remplit
alors une case restante sur deux par 1, puis a nouveau une case restante sur deux
par ;1, une case restante sur deux par 1, etc. en alternant les 1 et les ;1.
Cette suite appelee suite de Toeplitz engendre elle aussi un systeme stricte-
ment ergodique, comme on le verra ci-dessous.
On s'aper*coit que le procede de construction peut ^etre generalise a d'autres
suites, en remplissant di eremment les trous& c'est ainsi, par exemple, qu'on peut
construire les suites de papiers plies 1].
68 Martine Queffelec

3. Suite de Fibonacci. | Considerons A = fa bg et la suite dite de Fibonacci

a valeurs dans A denie de proche en proche par le regle suivante : on part de a
et on lui substitue le mot ab & puis on recommence en rempla*cant chaque a par ab
et chaque b par a. On obtient une suite de mots de longueur tendant vers l'inni,
chacun commen*cant par le precedent, qui converge donc vers la suite u
abaababaabaababaababaabaababaabaababa    :
La suite des longueurs des mots successifs n'est autre que la suite de Fibonacci d'ou
le nom de la suite. De la m^eme fa*con, on obtient
Proposition 1.7. | La suite u engendre sous le shift un systeme strictement
ergodique et l'unique mesure invariante  sur (X = Orb(u) T ) verie
(a]) = ;1 (b]) = ;2
(
(B ]) 2 ff k1;1 1k g 1
si n = Fk ; 1
1 1
k;1 k k+1 g
si Fk  n < Fk+1 ; 1
pour tout mot B de u de longueur n
2, ou  designe comme toujours le nombre
d'or.
Il est facile d'etablir que la frequence d'apparition de la lettre a est ;1 et celle de b,
;2. La frequence de tout mot a ete calculee par Dekking et V. Berthe (4]) a etudie
le cas plus general des suites sturmiennes.

4. Suites substitutives. | Les trois suites precedentes peuvent s'obtenir par un

procede de substitution,
a ! ab b ! ba
pour la suite de Thue-Morse, et
a ! ab b ! aa
pour la suite de Toeplitz.
Plus generalement, A etant un alphabet ni note simplement f0 1 : : : s ; 1g,
une substitution ! est une application de A dans l'ensemble des mots construits sur
A, qui se prolonge par juxtaposition, en une application encore notee ! de AN dans
lui-m^eme. Une suite u est substitutive si elle est point xe d'une substitution. La
substitution est de longueur constante, q, si les mots associes a chacune des lettres
de A ont m^eme longueur q & dans ce cas on designe par suite q-automatique toute
image d'un point xe par une application de A dans C.
Un critere de Cobbham permet de decider si une suite est q-automatique :
Proposition 1.8. | (un) est q -automatique si et seulement si l'ensemble des
suites fu(qk n + m)n0g lorsque k
0 et m < qk est un ensemble ni.
 Proprietes spectrales de systemes dynamiques discrets 69

On denit la matrice de la substitution M = M (! ) : c'est une matrice s s a

coe#cients entiers dont le coe#cient Mij est le nombre de i dans le mot ! (j ). Si on
itere n fois la substitution ! , M (! n) = M (! )n.
On suppose pour simplier et assurer l'existence d'un point xe u que, pour une
lettre a, le mot ! (a) commence par a, et que la suite des longueurs des mots ! n(b)
tend vers 1 avec n, pour b 2 A. Alors u = ! 1(a) est un point xe de ! . Le systeme
associe a la suite u est comme toujours designe par (X = Orb(u) T ) ou, a priori,
X est une partie de AN . C'est un sous-shift avec beaucoup plus de contraintes que
n'en possede un sous-shift de type ni& ces contraintes d'ailleurs ne sont pas comple-
tement decrites par la matrice M comme c'etait le cas pour un sous-shift de type
ni, puisqu'elle ne rend pas compte de l'ordre d'apparition des lettres dans chaque
substitue & c'est toute la di erence ! Pour les decrire, il faudrait introduire la matrice
des 2-mots. Cependant, on peut deja etablir avec la simple matrice M quelques
resultats.
Theoreme 1.6. | Si la matrice M (! ) est primitive, le systeme est stricte-
ment ergodique.
La demonstration (due a P. Michel) resulte du theoreme de Perron-Frobenius et se
trouve dans 10].
Proposition 1.9. | Tout systeme (X = Orb(u) T ) est d'entropie nulle, et
lorsque la matrice est primitive la fonction complexite est en O(n).
Demonstration. | La fonction complexite d'une suite substitutive est de l'une
des formes suivantes : O(1), O(n), O(n log log n), O(n log n), O(n2), 1] et le fait
qu'elle soit de l'ordre de n pour une substitution primitive resulte une fois de plus
du theoreme de Perron-Frobenius 10].
5. | D'autres classes de suites sont interessantes, telles que les suites multipli-
catives, les suites de Morses generalisees ou les suites denies par iteration d'un
cocycle a valeurs dans un groupe ni: : :

2. Proprietes spectrales
On se place dans ce paragraphe, dans le cadre d'un systeme dynamique (X T ),
avec (X ) espace de Lebesgue (isomorphe a l'intervalle unite muni de la tribu de
Lebesgue et de la mesure de Lebesgue- ce qui n'est pas tres restrictif) et T inversible.
L'operateur UT deni sur l'espace de Hilbert L2(X ) par
UT (f ) := f  T
est un operateur unitaire, auquel on va appliquer la theorie de la decomposition
spectrale. Ceci nous fournira un nouveau procede de classication, qui, comme on
le verra, permettra de distinguer les systemes d'entropie nulle.
70 Martine Queffelec

Deux systemes sont spectralement isomorphes, si les operateurs associes sont

unitairement conjugues. Il est clair que l'isomorphisme metrique entra^ne l'isomor-
phisme spectral, puisque, avec les notations du paragraphe 1:3, les operateurs UT
et UT 0 sont conjugues par l'operateur Vh de multiplication par h. La reciproque est
vraie pour certaines classes de systemes.

2.1. Generalites sur la theorie spectrale

Rappelons, dans le cas plus general d'un operateur unitaire U agissant sur un
espace de Hilbert separable H , les principales caracteristiques spectrales. Il faut
noter que le spectre ensembliste ne sera d'aucune utilite pour l'operateur UT avec T
ergodique, car toujours egal a T.

1. | On note U h], l'espace cyclique engendre par h, c'est-a-dire la fermeture

de espace vectoriel engendre par les U n h n 2 Z.
U restreint a un espace cyclique U h] est isometriquement isomorphe a l'ope-
rateur V de multiplication par la fonction e2it sur le Hilbert L2 (T h) ou h, la
mesure spectrale de h, est une mesure positive et bornee sur T denie par ses coef-
cients de Fourier :
ch(n) := hU n h hi
pour tout n 2 Z.
Cela resulte de l'identite
Z
hP (U )  h P (U )  hi = T jP (t)j2dh(t)
pout tout polyn^ome trigonometrique P et h dans H .

2. Spectre discret. | U est a spectre discret si l'espace vectoriel engendre par

les fonctions propres est dense dans H .

3. Spectre simple. | U est a spectre simple s'il existe h 2 H tel que U h] = H .

4. Spectre simple de Lebesgue. | U est a spectre simple de Lebesgue, si U

est unitairement conjugue a V sur L2(T m), ou encore s'il existe h 2 H tel que
(U nh)n2Z forme une base orthonormale de H . Dans ce cas, en e et, h = m.

5. | On dit que U a une composante d'un certain type dans son spectre, si le
spectre de la restriction de U a un sous-Hilbert invariant de H est de ce type. Ainsi,
U a toujours un spectre discret en restriction a l'espace vectoriel engendre par les
fonctions propres.
 Proprietes spectrales de systemes dynamiques discrets 71

Le theoreme de decomposition spectrale peut s'enoncer ainsi :

Theoreme 2.1. | Soit U un operateur unitaire sur un Hilbert separable H .
Il existe alors une suite (hn )n1 d'elements de H telle que
a) U hnL ] ? U hm ] pour tous n 6= m
b) H = n1 U hn]
c) h1  h2    
et la suite de mesures (hn ) est unique a une equivalence pres.
La multiplicite spectrale de U est le nombre minimalL(ni ou inni) d'elements
f1 : : : fm pour lesquels il existe une decomposition H = n1 U fn].
Revenons au cas d'un systeme dynamique et de l'operateur UT avec T ergodique.
Dans ce cas, les fonctions propres, etant de module invariant par T , sont de module
constant, que l'on peut choisir egal a 1. Les valeurs propres sont simples et forment
un sous-groupe de T, de m^eme que la famille de fonctions propres normalisees.
Citons un premier resultat que l'on peut trouver dans 9] et qui clarie les choses :
Proposition 2.1. | Soit (X T ) avec T inversible : ou bien T est d'en-
tropie metrique nulle, ou bien UT a une composante de Lebesgue de multiplicite
innie.
Autrement dit, les systemes avec composante de Lebesgue de multiplicite innie
sont tres riches du point de vue de l'aleatoire. Intuitivement, l'apparition d'une
composante de Lebesgue dans le spectre denote un certain hasard dans la description
du systeme, alors qu'a l'oppose, un spectre discret est le fait d'un systeme rigide
comme nous allons le voir. En fait l'etude spectrale apporte un autre eclairage a l'e-
tude des systemes de basse complexite, peut-^etre parce qu'on ne sait pas interpreter
celle-ci ? Explorons quelques exemples en entropie nulle.
1. Spectre discret. | La rotation irrationnelle R x := x + mod 1 agissant sur
0 1) est a spectre discret& en e et les fonctions e2nit avec n dans Z sont fonctions
propres de R et forment une base de L2 (T m).
Le resultat suivant est d^u a Halmos
Proposition 2.2. | Toute transformation ergodique a spectre discret est me-
triquement isomorphe a une rotation sur un groupe metrique compact abelien muni
de la mesure de Haar.
C'est un des cas ou les notions d'isomorphisme spectral et d'isomorphisme metrique
coincident. Si ; est le groupe discret des valeurs propres de la transformation T ,
toute translation ergodique Tg sur G = ;b admet ; comme spectre. Reste a montrer
que deux systemes discrets avec le m^eme spectre ; sont metriquement isomorphes&
pour cela on construit a l'aide des fonctions propres normalisees (f ) et (g ) et de
leur propriete de groupe, un isomorphisme des -algebres qu'on etend aux espaces
eux-m^emes.
72 Martine Queffelec

Exemple 1. | La transformation de Kakutani denie sur (0 1 m) par

8
>
>
> x + 12 si x < 1
2 3
< 1 1
Tx = > x ; si < x <
> 41 1 32 47
>
: x ; ; si < x < etc.
4 8 4 8
est a spectre discret car isomorphe a  , l'addition de 1 avec retenue sur le groupe "
des entiers dyadiques muni de sa mesure de Haar.
Rappelons que " est l'ensemble f0 1gN muni de l'addition composante par com-
posante avec retenue. " est un groupe metrique compact pour la distance dyadique
d(! !0) = inf fk !k 6= !0P k g. Un element ! 2 " peut ^etre represente formellement
par la somme innie ! = 1 i=0 !i 2 , de sorte que les entiers naturels, qui sont les !
i
avec un nombre ni de 1, sont denses dans (" d). A noter que dans cette represen-
tation, ;1 = (1 1 : : : 1 : : :) et (0| :{z: : 0} 1 1 : : :) = ;2n.
n
La mesure de Haar du groupe " n'est autre que la mesure produit f 12 21 gN.
Ce systeme (uniquement ergodique) ("  ) est appele le 2-odometre.
Voir 8] pour une description geometrique de la transformation de Kakutani, et
9] pour une demonstration directe du fait que le spectre est discret.
Exemple 2. | Un exemple important est celui-ci : soit  le nombre d'or& on
considere X l'ensemble des suites de 0 ; 1 sans 11 (qui a permis de denir le -
shift) mais muni cette fois de l'addition T de 1 avec retenue. Il s'agit en fait de la
transformation induite par  sur X , car x etant dans X ,  (x) y est encore si le
mot 11 n'y appara^t pas& sinon on denit
T (x) =  n(x) (x) n(x) = inf fn
1&  n(x) 2 X g:
On peut montrer que le systeme (X T ) est uniquement ergodique et discret (alors
que le -shift est d'entropie positive !).p On montre pour cela qu'il est isomorphe a la
5;1
rotation R sur 0 1), o^u  = 1= = .
2
Notons (Fn) la suite de Fibonacci avec F;1 = 0, F0 = F1 = 1 et considerons
pour x 2 X ,
X
1
(x) = xn(Fn ; Fn;1 ) (mod1):
n=0
(Rappelons que de la theorie des fractions continues, il resulte jFn ; Fn;1j < 1 ).
Fn+1
On montre alors que  est une application continue de X dans 0 1) qui verie
(T (x)) = T (x) +  (mod1):
Pour etablir ce dernier point, soit x 2 X et notons j le premier indice pour lequel
xj xj+1 = 00& les composantes precedentes de x sont donc 0101    01 ou 1010    01
 Proprietes spectrales de systemes dynamiques discrets 73

suivant la parite de j puisque 11 n'appara^t pas. Si j n'existe pas, on pose T (x) = 0.

Ainsi, pour les autres, T (x) = (0    010xj+2   ) et
X
1
(T (x)) = Fj  ; Fj;1 + xk (Fk  ; Fk;1)
k=j +2
alors que
X
1
(x) = F2 ; F1 + F4  ; F3 +    + Fj;1 ; Fj;2 + xk (Fk  ; Fk;1):
k=j +2
L'identite decoule de la relation Fn+1 = Fn + Fn;1.
On montre enn que  est injective en dehors des suites 010101    et 101010   
et surjective.
2. Spectre continu. | Les fonctions constantes etant invariantes par UT , 1 est
toujours valeur propre, et on se restreint a l'orthogonal des constantes. Le spectre
est continu si UT n'admet pas d'autres valeurs propres& toutes les mesures spectrales
sont alors des mesures continues. Le premier exemple de transformation a spectre
continu a ete donne par Chacon& son idee etait de detruire l'arithmetique de la
rotation an de supprimer les valeurs propres. Il s'agit d'un 3-odometre perturbe.
La construction initiale de Chacon etait geometrique (voir 8]), mais on peut la de-
crire comme le shift d'un systeme symbolique, et m^eme un systeme associe a une
substitution primitive.
On construit une suite de 0 ; 1 par blocs de la fa*con suivante : on part de B0 = 0,
B1 = 0010, et de proche en proche, on denit Bn+1 = BnBn 1Bn. Cette suite de blocs
converge vers une suite
w = 0010001010010001000101001010010001010010  
n
La longueur du bloc Bn est 3 + 1 . La transformation de Chacon est le shift sur
2
le systeme engendre par w qui est minimal puisque tout mot de w y appara^t avec
lacunes bornees. Donnons une idee rapide de l'absence de valeur propre (autre que
1). Soit f une fonction propre associee a la valeur propre . Les suites w et T `n w
commencent par le m^eme mot Bn et sont donc voisines pour n grand. Supposons
que f puisse ^etre choisie continue, de module 1& alors
f (T `n w) = `n f (w) f (w)
pour n grand et `n tend vers 1, ce qui, compte tenu de l'expression de `n, implique
 = 1.
Cette transformation possede d'autres proprietes : on peut etablir ainsi que le
spectre est simple et singulier (les mesures spectrales sont singulieres pour h dans
l'orthogonal des constantes). C'est le cas generique pour des transformations er-
godiques d'entropie metrique nulle. L'existence d'une transformation a spectre sim-
ple de Lebesgue est un probleme ouvert, et exhiber une transformation avec une
composante de Lebesgue de multiplicite nie est deja une operation di#cile.
74 Martine Queffelec

2.2. Classication spectrale de suites

On se restreint pour nir aux suites ne prenant qu'un nombre ni de valeurs
complexes, d'entropie nulle, et engendrant un systeme uniquement ergodique, de
sorte que toute suite du systeme a le m^eme comportement. On va essayer de decrire
sur des exemples les mesures spectrales, et selon leur nature (discrete, singuliere, ou
absolument continue), on en deduira une classication de la suite (ou du systeme)
de l'ordre vers le desordre.
Considerons le systeme associe a la suite u prolongee a gauche de fa*con a con-
server la stricte ergodicite. X est alors l'ensemble des x 2 AZ telles que xi xi+1    xj
soit un mot de la suite initiale, pour tous i j 2 Z. Notons  l'unique mesure in-
variante du systeme. Il resulte du theoreme ergodique d'Oxtoby que, pour f continue
sur X , et pour tout x 2 X ,
lim 1 X f (T k+nx)f (T k x) = Z f (T nx)f (x)d
N !1 N k<N
= cf (n)
Si 0 designe la projection de X sur la composante d'indice 0, on a en particulier
(puisqu'elle est continue sur X )
1 X k+nx) (T k x) = lim 1 X x x = c (n)
lim
N !1 N k<N 0 ( T 0 N !1 N k<N n+k k x

ou x n'est autre que la mesure de correlation de la suite x introduite par Wiener.
Cette mesure peut aussi se denir comme la limite pre-faible dans M (T), quand N
tend vers 1, de la suite de mesures absolument continues (PN )  m ou

 X 2int2 
1
PN (t) = N  xn e 
n<N
La famille de mesures spectrales contient donc la mesure de correlation de toutes
les suites x, la mesure de correlation de toute suite h(x) ou h : A 7! C, et beaucoup
plus.

2.2.1. Exemple 1 : suites sturmiennes

Elles ont ete denies en 2]. Soit donc et  deux reels de ]0 1 avec irrationnel.
On denit sur les reels modulo 1, T
 +1 si 0  t <  ,
f (t) = ;1 si   t < 1.
et la suite a de composante an = f (n ) pour tout entier n 2 Z. Le systeme engendre
(X T ) est constitue des suites x de la forme
x = (f (t + n ))n2Z
 Proprietes spectrales de systemes dynamiques discrets 75

ou
x = (g (t + n ))n2Z
g etant la fonction denie par
 +1 si 0 < t   ,
g (t) = ;1 si  < t  1.
Si on pose (x) = t, l'application  est un isomorphisme metrique de (X T ) sur
(T R) puisque continue et injective, sauf peut-^etre pour les x associees a t tel que
t + n  0 ou t + n   pour un n, auquel cas deux suites distinctes ont m^eme
image par . Mais cet ensemble est denombrable.
On en deduit que le systeme est discret, ce qui n'est pas surprenant.

2.2.2. Exemple 2 : suite de Toeplitz

Soit t la suite de Toeplitz denie precedemment et (Xt S " ) le systeme associe.
On va montrer que ce systeme est discret, en etablissant un isomorphisme entre ce
systeme et le 2-odometre ("  ) avec sa mesure de Haar, ou  est l'addition de 1
avec retenue.
Par construction, la suite de Toeplitz est constante sur des progressions arithme-
tiques de plus en plus lacunaires qui remplissent N. Plus precisement, si Pk est
la progression arithmetique f2k (2m + 1) m = 0 1 2 : : :g, on rappelle que t vaut
constamment (;1)k+1 sur Pk , ceci pour tout k
0. Les entiers naturels sont denses
dans " pour la metrique 2-adique. On denit donc  de X dans N par
(S nt) = n
Il est clair que  echange  et S . Maintenant, si S nt et S mt sont proches dans Xt et
commencent par un m^eme bloc de taille 2k , avec k grand, n et m sont voisins pour
la metrique 2-adique, puisque divisibles par une m^eme puissance 2k . L'application
, uniformement continue, se prolonge donc en une application continue de Xt sur
" veriant encore   S =   . Elle n'est pas injective, car t admet 2 prolongements
a gauche, selon que l'on choisit t1 = 1 ou t1 = ;1 avant de remplir les cases vers la
gauche avec la m^eme regle. Ainsi j;1(;2n)j = 2& la mesure de Haar du groupe des
entiers dyadiques ne charge pas cet ensemble denombrable et par unique ergodicite
des deux systemes, les mesures invariantes sont echangees par . On a bien un
isomorphisme metrique. On peut preciser les valeurs propres du systeme qui sont
les rationnels dyadiques.

2.2.3. Exemple 3 : suite de Thue-Morse

Soit m la suite de Thue-Morse denie precedemment et (Xm T ) le systeme
associe. On va decomposer H = L2 (Xm ) en deux sous-espaces invariants sur
lesquels le spectre est facile a decrire. L'application  denie sur Xm par
(x) = (xn;1 xn)n2Z
76 Martine Queffelec

commute avec le shift et denit donc un homomorphisme de (Xm T ) sur (Xt S ),

l'espace associe a la suite de Toeplitz, veriant (x) = (x0 ) si et seulement si
x = ;x0 .
On decompose H = Hd  Hc ou Hd est le sous-espace ferme de H constitue des
fonctions paires, et Hc le sous-espace ferme de H constitue des fonctions impaires.
Ces espaces sont invariants par T ou UT et orthogonaux. D'apres ce qui precede, UT
sur Hd est spectralement isomorphe a US sur L2 (Xt " ) et donc a spectre discret.
Cela signie que les fonctions paires sont dans le sous-espace ferme de L2(Xm )
engendre par les fonctions propres de UT .
Si f est impaire, 0  f est une fonction paire et s'approche donc dans L2(Xm )
P des combinaisons
par lineaires de fonctions propres. Si gn est une telle combinaison
h
1 j n j j ,
kf ; 0 gn kM  kf ; 0  gnkL2
Par le theoreme spectral,
0gn  0 h1 +    + 0hn
et, si h est une fonction propre de module 1 associee a la valeur propre ,
Z
d
0 h(n) = ( 0 h)(T nx)( 0 h)(x)d = nd
0 (n)

Tout revient a decrire la mesure de correlation  de la suite m. Il est facile d'etablir

a l'aide des proprietes de m, les relations suivantes pour  :
b (2n) = b (n)
b b
b (2n + 1) = ;  (n) + 2 (n + 1)
pour n
0, et
b (;n) = b (n)
On en deduit
lim 1 X jb (k)j2 = 0
N !1 N k<N
et cela prouve que la mesure est continue d'apres un critere de Wiener. Le fait qu'elle
soit etrangere a la mesure de Lebesgue decoule de la theorie ergodique : en e et,
 est invariante et ergodique pour la transformation x 7! 2x mod 1, tout comme
la mesure de Lebesgue& comme elles sont di erentes, elles sont etrangeres. On peut
aussi decrire completement cette mesure en calculant
 2
P2N +1 (t) = 2 1  X m e2int 
N +1 
n<2N +1 n
 
 2
1  X 2int + X 2int 
= N +1 
2 n<2N +1 n=2k
m ne mne 
n<2N +1 n=2k+1
 Proprietes spectrales de systemes dynamiques discrets 77
 2
1  X X 2i(2k+1)t 
= N +1  m ke
2i2kt ; m ke 
2 k<2N k<2N
= P2N (2t)(1 ; cos(2 t))
YN
= (1 ; cos 2 2nt)
n=0

On retrouve ainsi le produit de Riesz  deni en debut de texte.

On deduit de cette analyse que toute fonction de Hc est a mesure spectrale
continue, plus precisement, absolument continue par rapport au produit de Riesz .
La suite de Morse est donc plus imprevisible que ne le sont les suites sturmiennes
ou de Toeplitz. Par la-m^eme le systeme associe est plus riche qu'il n'y para^t.
Il resulte aussi de cette etude que le systeme de Morse est une extension par
un cocycle au-dessus du systeme de Toeplitz isomorphe a son facteur discret. Par
ce procede, on a change la nature du spectre. Un exemple interessant de Helson et
Parry 9] permet d'obtenir une composante denombrable de Lebesgue par l'extension
d'un systeme discret.

2.2.4. Exemple 4 : suite de Rudin-Shapiro

La suite (rn) de Rudin-Shapiro est a valeurs 1 obtenue de proche en proche
comme coe#cients d'une suite de polyn^omes trigonometriques (Pn), (Qn) veriant
P0 (t) = Q0 (t) = 1
Pk+1(t) = Pk (t) + e2i2k t Qk (t)
Qk+1 (t) = Pk (t) ; e2i2k t Qk (t)
pour k
1.
Brillhart et Carlitz ont remarque que, si n se decompose en Pk0 "j 2j ,
rn = (;1)"0 "1+"1"2++"k;1"k
autrement dit, rn = (;1)f (n) ou f (n) est le nombre de 11 dans l'ecriture binaire de
n. En particulier, r2a+b = (;1)ab ra, soit
r2n = rn r2n+1 = (;1)nrn
On demontre que le systeme engendre est a spectre mixte : une partie discrete
et une partie continue qui est Lebesgue de multiplicite 2. Ceci peut s'etablir en
suivant le schema de la demonstration pour le systeme de Morse et en considerant
le systeme associe a la suite de type Toeplitz (rn;1rn) isomorphe au 2-odometre. En
particulier, on etablit que la mesure de correlation  de la suite (rn) est la mesure
de Lebesgue. Il y a plusieurs demonstrations possibles de ce resultat& l'une, due a
78 Martine Queffelec

Kamae et purement arithmetique, utilise l'identite rn = (;1)f (n) . Une autre, plus
analytique, part de la denition de la mesure de correlation comme limite pre-faible
de la suite de probabilites a densites

 X 2int 2 
1
RN (t) = N  rne 
n<N
On utilise pour cela la relation :
jPnj2 + jQnj2 = 2n+1
qui decoule de la regle du parallelogramme, de laquelle on deduit RN (t)  C , pour
tout reel t et tout N
1. Maintenant, si KL designe le noyau de Fejer d'ordre L,
( ? KL) est une suite bornee par C dans L1 & si f 2 L1 est une valeur d'adherence
pre-faible de cette suite, fb = b . Par ailleurs, on verie que 1n (jPnj2 + jQnj2) converge
2
vaguement vers 2f  m & comme chaque polyn^ome vaut identiquement 2, f = 1 et
 = m.
Ce systeme est particulierement interessant de notre point de vue : c'est un
systeme de basse complexite avec cependant une composante de Lebesgue& cette
suite, d'une certaine fa*con, simule le hasard.

2.2.5. Exemple 5 : substitutions

Les exemples precedents peuvent, je pense, motiver une etude systematique des
suites denies par substitution. Si les suites sturmiennes forment une classe beaucoup
plus importante du point de vue de la cardinalite que celle des suites substitutives,
les autres exemples relevent des substitutions& on l'a vu pour les suites de Morse
et Toeplitz, mais c'est aussi le cas de la suite de Chacon ou de la suite de Rudin-
Shapiro (ci-dessous) ou m^eme des suites de Morse generalisees obtenues par iteration
de substitutions di erentes.
On va exhiber la regle de substitution qui fournit la suite de Rudin-Shapiro. Par
le critere de Cobbham, la suite est 2-automatique. Il nous faut donc trouver une
substitution de longueur 2 : si Vn designe le bloc des coe#cients de Pn, et Wn le bloc
des coe#cients de Qn, tous deux de longueur 2n, on a :
V0 = W0 = 1
Vn+1 = VnWn
Wn+1 = VnWn
ou W est le mot W dans lequel on a echange 1 et ;1. On code alors les 2-mots
11 1 ; 1 ;11 ;1 ; 1 par a b .b a. pour obtenir la suite [Link]..ba.b   
d'ou la substitution a ! ab b ! a.b en composant avec l'operation de symetrie&
la suite de Rudin-Shapiro s'obtient en projetant a b sur 1, et a. .b sur ;1.
 Proprietes spectrales de systemes dynamiques discrets 79

La suite de Chacon s'obtient a partir de la substitution denie sur A = fa b cg

par
a ! ab b ! cab c ! ccab
et de la projection h : A ! f0 1g veriant h(a) = 1, h(b) = h(c) = 0.
Pour les substitutions de longueur constante, il existe un critere tres simple d^u a
M. Dekking permettant de verier que le systeme associe est discret (et ainsi toutes
les mesures spectrales discretes)
Theoreme 2.2. | Le systeme associe a la substitution primitive ! de lon-
gueur q sur l'alphabet A = fa1    as g est discret si et seulement si elle admet une
coincidence, c'est-a-dire, si l'on peut trouver n et k < qn tels que
! n(a1)k = ! n(a2 )k =    = ! n(as)k
(ou ! (a)k est la k-ieme lettre du mot ! (a)).
Il en resulte immediatement que la suite de Toeplitz engendre un systeme discret.
Par contre il n'existe pas de tel critere pour les substitutions de longueur non-
constante. Ainsi la suite de Fibonacci engendre un systeme discret puisqu'elle est
sturmienne. On peut aussi etablir un isomorphisme entre le systeme de Fibonacci, et
le systeme discret (X T ) etudie en 2. 1. Cette demonstration conduit a la conjecture
suivante :
Conjecture. | Une substitution primitive dont la valeur propre de Perron-
Frobenius est un nombre de Pisot unitaire est a spectre discret.
La question n'est pas m^eme resolue lorsque l'alphabet est f0 1g.
Un nombre de Pisot  > 1 est un entier algebrique dont tous les conjugues sont a
l'interieur du disque ouvert fjzj < 1g. Il est unitaire si le produit des racines de l'e-
quation vaut 1. C'est le cas du nombre d'or  puisqu'il est racine de X 2 ; X ; 1 = 0
et que son conjugue 0 = ; 1 .
Les questions suivantes sont ouvertes :

Questions.
1. Peut-on caracteriser les substitutions ayant une composante de Lebesgue, pro-
duisant ainsi des suites de basse complexite mais imprevisibles ?
2. Existe-t-il une transformation ergodique a spectre simple de Lebesgue ? (ques-
tion attribuee a Banach)

Bibliographie
1] Allouche J. P., Mendes France M., Automatic sequences, in Beyond
quasicrystals, F. Axel, D. Gratias editors, Les Editions de Physique, Springer
(1995).
80 Martine Queffelec

2] Arnoux P., Complexite de suites a valeurs dans un ensemble ni : quelques
exemples, in Aspects des systemes dynamiques, Journees X-UPS 1994, Centre
de Mathematiques, Ecole Polytechnique (1994).
3] Bedford, Keane M., Series C., Ergodic theory, Symbolic dynamics and
Hyperbolic spaces, Oxford University Press, 1991.
4] Berthe V., Entropy in deterministic and random systems, in Beyond qua-
sicrystals, F. Axel, D. Gratias editors, Les Editions de Physique, Springer
(1995).
5] Cornfeld J. P., Fomin S. V., Sinai Y. G., Ergodic theory, Springer Verlag,
1982.
6] Devaney R. L., An introduction to Chaotic Dynamical Systems, Ben-
jamin/Cummings, 1986.
7] Fathi A., Systemes dynamiques discrets, in Introduction aux systemes dy-
namiques, Journees X-UPS 1996, Ecole Polytechnique (1996).
8] Friedman N. A., Replication and stacking in ergodic theory, A. M. M. (janv.
1992), 31{41.
9] Parry W., Topics in ergodic theory, Cambridge University Press, 1981.
10] Queffelec M., Substitution dynamical systems- Spectral analysis, Lecture
Notes Math. 1294, pringer, 1987.
11] Seneta E., Non-negative matrices. An introduction to theory and applications,
Allen & Unwin, London, 1973.
12] Suto A., Schrodinger dierence equation with deterministic ergodic potentials,
in Beyond quasicrystals, F. Axel, D. Gratias editors, Les Editions de Physique,
Springer (1995).
13] Zuily C., Queffelec H., Elements d'analyse pour l'agregation, Masson,
1995.
14] Walters P., Ergodic theory- Introductory lectures, Lecture Notes Math. 458,
Springer, 1975.
UFR de Mathematiques et URA 751 du CNRS
UST Lille
F{59655 Villeneuve d'Ascq cedex
Adresse electronique : [Link] elec@[Link]
 Le doublement de l'angle
Adrien Douady

Introduction (a lire en dernier)

Dans les systemes dynamiques, on distingue deux grandes tendances de com-
portement, appelees hyperbolique et quasi-periodique. Le doublement de l'angle con-
stitue un exemple des plus typiques du comportement hyperbolique. Le caractere
expansif est evident& le caractere contractant, generalement present dans les syste-
mes hyperboliques, est ici absent, remplace par le fait que l'application n'est pas
injective.

Comme il s'agit d'un systeme particulierement simple, un grand nombre de pro-

prietes peuvent ^etre etablies de fa*con elementaire. Cela ne veut pas dire que les
demonstrations sont faciles, mais qu'elles utilisent peu d'outils theoriques. Nous
nous e or*cons de n'utiliser que des notions gurant au programme de Math. Spe.

Notations et denitions
On pose T = R=Z. C'est le groupe des angles (plans orientes), en prenant le tour
complet et non le radian comme unite. On peut le considerer comme le quotient de
l'intervalle 0 1] par la relation d'equivalence identiant 0 a 1. Un point de T est
parfois appele un angle, un angle est dit rationnel si ses representants sont rationnels,
etc. Un arc dans T est l'image d'un intervalle de R, un demi-cercle l'image d'un
intervalle de longueur 1/2.

On considere l'application q : t 7! 2t de T dans lui-m^eme. On note qn la n-eme

iteree de q. Etant donne t 2 T, l'orbite O(t) de t est l'ensemble des qn(t). On note
!(t) l'ensemble des points de T qui sont limite d'une suite extraite de la suite des
q n (t). L' orbite fermee de t est la fermeture de O(t), c'est donc O(t)  ! (t).

Une etoile () indique un fait enonce sans demonstration, celle-ci etant laissee
au lecteur. Quand elle est un peu di#cile, on mettra () ou (  ). Les endroits
qui s'ecartent du programme de Math. Spe. sont indiques par (!).
Un grand nombre de proprietes s'etendent a qd : t 7! dt pour d entier
2 (la
generalisation etant souvent plus facile quand d est premier),
81
82 Adrien Douady

Plan de l'expose
Nous montrons d'abord que les points d'orbite nie sont les points rationnels de
T. Par analogie avec le fait que l'ensemble des nt est ni pour t rationnel et dense
pour t irrationnel, on pourrait penser que l'orbite (par q) de tout point irrationnel
est dense dans T. Nous montrons au chapitre 1 qu'il n'en est rien et nous donnons
des exemples montrant ce que peut ^etre l'orbite fermee, apres quoi nous donnons
(avec ou sans demonstration) des proprietes generales des orbites fermees quand
elles ne sont pas T tout entier.

Au chapitre 2, nous etudions les orbites contenues dans un demi-cercle, qui for-
ment une famille particulierement interessante.

Le chapitre 3 est consacre aux proprietes de q qui decoulent de son caractere

expansif.

Les images de l'ensemble de Mandelbrot et de la courbe de Julia (expose suivant)

ont ete obtenues par Dan Sorensen (dan@[Link]). Je l'en remercie.

1. Types d'orbites fermees

1.1. Orbites nies
Un point t 2 T est dit periodique (pour q) s'il existe un entier k > 0 tel que
q k (t) = t & le plus petit k
ayant cette propriete est appele la periode de t. On dit que
t est preperiodique s'il existe un entier ` tel que q`(t) soit periodique& nous appelons
le plus petit ` ayant cette propriete la preperiode. Les points preperiodiques de
preperiode 0 sont les points periodiques. Ces denitions valent pour une application
quelconque d'un ensemble dans lui-m^eme. Les points d'orbite nie sont les points
preperiodiques ().
Pour l'application q, nous avons :
Theoreme 1. | Les points d'orbite nie sont les points rationnels de T.

Demonstration.
(a) t rationnel =) t d'orbite nie.
Si t = p=q] (classe mod Z de p=q), l'orbite de t est contenue dans l'ensemble
des i=q], i = 0 : : : q ; 1. Elle est donc nie.
(b) t preperiodique =) t rationnel.
Si t est periodique d'ordre k, on a 2k t = t, soit (2k ; 1)t = 0. Si x est un
representant de t dans R, le nombre (2k ; 1)x est un entier p et on a x = p=(2k ; 1).
Si t est preperiodique de preperiode ` et si x est un representant de t, alors 2`x
est de la forme p=(2k ; 1), et on a x = p=2`(2k ; 1). 2
 Le doublement de l'angle 83

Remarque. | En combinant les deux parties de cette demonstration on voit

que tout rationnel peut se mettre sous la forme p=2`(2k ; 1).
Cela peut se voir directement dans le cadre arithmetique ().

1.2. Interpretation de q comme decalage

En representant chaque nombre de R+ par son developpement en base 2, et
en ne retenant que la partie apres la virgule, on obtient une correspondance entre
T et f0 1gN , ou N = f1 2 : : :g. L'usage est d'exclure les developpements ne
comportant que des 1 a partir d'un certain rang. Nous nous ecartons de cet usage,
et nous considerons qu'un nombre dyadique, c'est-a-dire de la forme p=2k , a deux
developpements, un se terminant par une innite de 0 et l'autre par une innite de
1. L'application q se traduit sur les ecritures en base 2 par le decalage d'un cran
vers la gauche, avec suppression du premier terme.
Reprenons cela de fa*con plus precise. Notons E l'ensemble f0 1gN des suites
u = (u1 : : : un : : :) ou les ui sont egaux a 0 ou 1. Les elements de EPseront appeles
ecritures. A chaque ecriture u = (u1 u2 : : :) est associe le nombre un=2n qu'elle
represente, et sa classe t dans T. On obtient ainsi une application v : E ! T.
On denit le decalage s : E ! E par s(u) = u0 avec u0n = un+1.
On a () un diagramme commutatif :
s
E? ;;;! E?
? ??
v??y ?y v
q
T ;;;! T
On denit une distance d sur E par d(u u0) = 2;k ou k est le plus petit i tel que
ui soit di erent de u0i. Muni de cette distance, E est homeomorphe a l'ensemble de
Cantor triadique (). On munit T de la distance denie par d(t t0) = inf d(x x0)
pour x representant de t dans R et x0 de t0 , la distance sur R etant la distance
usuelle. Alors v est continue et m^eme lipschitzienne de rapport 2, ce qui signie
qu'on a d(v(t) v(t0 ))  2  d(t t0).
L'application v est surjective mais non injective. Cependant elle est \presque"
bijective : a l'exception des angles dyadiques qui forment un ensemble denombrable,
chaque point de T a un seul point dans son image reciproque. On ne peut pas trouver
d'application continue s : T ! E telle que v  s soit l'identite de T. En e et T est
connexe et toute application continue de T dans E est constante.
Pour u 2 E , l'orbite de v(u) par q est l'image par v de l'orbite de u par s. Il en
est de m^eme pour les orbites fermees ().

1.3. Exemples d'orbites non denses

Soit Y l'ensemble des ecritures ou ne gurent jamais trois 0 consecutifs, ni trois 1
consecutifs, et posons X = v(Y ). L'ensemble Y est inni non denombrable (), donc
X aussi, et X contient des points irrationnels. On a s(Y ) = Y , d'ou q(X ) = X & en
84 Adrien Douady

fait X est l'ensemble des t 2 T dont l'orbite ne rencontre pas l'arc ouvert ];1=8 1=8.
Pour t 2 X , l'orbite de t est contenue dans X , donc aussi l'orbite fermee puisque X
est ferme ().
Pour tout ouvert U de T, on peut denir de la m^eme fa*con un ensemble XU :
l'ensemble des points dont l'orbite ne rencontre pas U . C'est un ensemble ferme et
on a q(XU )  XU .
L'ensemble XU peut ^etre ni ou inni, denombrable ou homeomorphe a l'en-
semble de Cantor ou encore non denombrable et avec des points isoles. Nous
etudierons au Chapitre 2 le cas ou U est un demi-cercle.
Proposition 1. | Si U est un arc ouvert de longueur  1=2, l'ensemble XU
n'est pas vide, et on a q (XU ) = XU .
Demonstration. | Pour tout n soit An l'ensemble des t 2 T tels que qi(t)
n'appartienne pas a U pour i = 0 : : : n ; 1. On a A1 = T ; U et An+1 = q;1(An) 
(T ; U ). On a q(An+1) = An. En e et l'inclusion q(An+1)  An est immediate, et
pour chaque element de An, l'une de ses deux images reciproques est dans T ; U .
Pour tout n, l'ensemble An est donc un ferme non vide, et ces fermes forment une
suite decroissante.
Leur intersection, qui est XU est donc (!?) non vide.
On a XU = q;1(XU )\(T;U ), et il en resulte comme plus haut que q(XU ) = XU .
2
Proposition 2 (). | Si U est un arc de longueur > 1=2, l'ensemble XU est
ni.

1.4. Exemples d'orbite dense

Les exemples du numero precedent sont en fait exceptionnels. Si on prend un t
au hasard dans T, il y a toutes les chances pour qu'il ait une orbite dense. C'est
ce que nous verrons au x 1.6 (!). Dans ce x, nous nous preoccupons de construire
e ectivement un t irrationnel dont on sache qu'il a une orbite dense.
Cette propriete est equivalente () au fait que, dans l'ecriture binaire u de t,
toute suite nie de 0 et de 1 apparaisse quelque part. Pour obtenir une ecriture
ayant cette propriete, considerons toutes les suites nies de 0 et de 1, qui forment
un ensemble denombrable. On peut donc les numeroter par les entiers et les ecrire
toutes a la le :
:0 1 00 01 10 11 000 001 010 011 100 101   
A ma connaissance, la question de savoir si l'angle de 1 radian a une orbite dense
par doublement est une question ouverte. Il s'agit de savoir si toute suite nie de 0
et de 1 apparait dans le developpement binaire de 1=2 . On ne sait pas demontrer
qu'il y a une innite de 7 dans le developpement decimal de , et ces deux questions
ont l'air d'^etre du m^eme ordre de di#culte.
 Le doublement de l'angle 85

1.5. Exemple d'orbite fermee denombrable

Considerons t = P 2;n2 d'ecriture
:1 00 1 0000 1 000000 1 00000000 1   
L'ensemble !(t) est forme des angles ayant au plus un 1 dans leur ecriture dyadique,
c'est-a-dire des 2;n et de 0. Il est donc inni denombrable, et comme l'orbite de t
est aussi denombrable, l'orbite fermee est innie denombrable.
1.6. Toute orbite fermee dierente de T est de mesure nulle
La theorie de la mesure de Lebesgue n'est pas au programme de Math. Spe.,
mais pour les ensembles fermes d'un intervalle de R, on peut faire une theorie \a
bon marche".
Definition. | Soit X un ferme de R contenu dans un intervalle ouvert
J =]a b. Les composantes connexes de J ; X forment une famille denombrable P
d'intervalles ouverts Li, notons `i leur longueur. On pose mes(X ) = b ; a ; `i .
Pour justier cette denition, il faut verier () que si on remplace J par un
intervalle plus grand, cela ne change pas mes(X ).
En theorie de la mesure, on n'est jamais a un point pres : on a
mes(X  fcg) = mes(X )
(ce n'est pas comme en topologie ou un intervalle cesse d'^etre connexe si on lui enleve
un point). On peut donc denir mes(X ) pour X ferme de T comme mes( ;1 (X )),
ou designe l'application de passage au quotient 0 1] ! T.
On a mes(X 0) = mes(X ) si X 0 est un translate de X . Si X 0 est homothetique de
X dans le rapport k, on a mes(X 0) = k  mes(X ).
La formule mes(X  X 0 ) = mes(X ) + mes(X 0) ; mes(X \ X 0) est assez di#cile a
demontrer avec cette denition, mais nous aurons seulement besoin de la propriete
suivante, beaucoup plus facile () :
Proposition 3. | Pour X  a b] et X 0  b c] fermes, on a
mes(X  X 0) = mes(X ) + mes(X 0):
On en deduit () :
Proposition 4. | Pour X  T ferme, on a mes(q ;1 (X )) = mes(X ).
Nous allons montrer :
Theoreme 2. | Soit X  T un sous-ensemble strict, ferme et tel que q (X ) 
X . Alors mes(X ) = 0.
Dans T ou dans 0 1], appelons intervalle dyadique elementaire d'ordre k un
intervalle de la forme ]p=2k (p + 1)=2k  avec p 2 f0 : : : 2k ; 1g. Pour demontrer le
theoreme, il su#t () de demontrer :
Lemme. | Pour J intervalle dyadique elementaire, on a mes(XJ ) = 0.
86 Adrien Douady

Demonstration du lemme. | Soit k l'ordre de J . On a

mes(q;k (XJ )) = mes(XJ ):
Mais q;k (XJ ) est reunion des translates de Y = q;k (XJ )0 2;k ] dans tous les in-
tervalles elementaires d'ordre k, donc
mes(XJ ) = mes(q;k (XJ )) = 2k mes(Y ):
D'autre part XJ est contenu dans q;k (XJ ) \ (T ; J ), d'ou
mes(XJ )  (2k ; 1) mes(Y ) = (1 ; 2;k ) mes(XJ ):
Ceci n'est possible que si mes(XJ ) = 0. 2
Corollaire. | Pour t 2 T, l'orbite fermee de t est soit T, soit un ensemble
de mesure nulle.

1.7. Presque tout point a une orbite dense (!)

Ici nous sortons, je crois du programme de Math. Spe, et nous ne pouvons pas
tricher comme au n precedent, car il faut admettre l'existence d'une theorie cohe-
rente de la mesure des ensembles, pour laquelle une reunion denombrable d'ensem-
bles de mesure nulle est un ensemble de mesure nulle.
Mais si on accepte cela le travail qui reste a faire est facile : pour tout point
t ayant une orbite dense, il existe un intervalle dyadique elementaire J disjoint de
l'orbite fermee de t. Alors t appartient a XJ . Par suite l'ensemble des points de T
ayant une orbite non dense est la reunion des XJ pour J intervalle dyadique ele-
mentaire. Ces ensembles forment une famille denombrable et chacun est de mesure
nulle. Il en resulte :
Theoreme 3. | L'ensemble des points de T ayant une orbite non dense est
de mesure nulle.

1.8. Orbites uniformement reparties et loi des grands nombres (!!)

Pour t 2 T, J un intervalle de T et n 2 N, notons N (t J n) le nombre des
i 2 f0 : : : n ; 1g tels que qi(t) appartienne a J . On dit que t a une orbite uniforme-
ment repartie si, pour tout intervalle J de T, on a N (t J n)=n ! mes(J ) quand n
tend vers l'inni.
Un simple decoupage d'espilons donne () :
Proposition 5. | Pour montrer qu'un point t a une orbite uniformement
repartie, sut de montrer que, pour tout intervalle dyadique elementaire J d'ordre
k, on a N (t J k) ! 2;k .
 Le doublement de l'angle 87

Le theoreme suivant est une traduction de la \loi des grands nombres" en theorie
des probabilites.
Theoreme 4. | L'ensemble des points de T dont l'orbite n'est pas uniforme-
ment repartie est de mesure nulle.
La loi des grands nombres invoquee est le resultat suivant, enonce dans le langage
des probabilites pour le jeu de pile ou face.
Une partie innie du jeu de pile ou face (a coups independants donnant 0 ou
1 de fa*con equiprobable) a pour resultat une suite u = (u1 : : : un : : :). Soit v =
(v1 : : : vk ) 2 f0 1gk, et denissons le nombre N (u v n) d'occurences de v dans
u jusqu'au (n + k)-eme coup comme le nombre de valeurs de i 2 f1 : : : ng pour
lesquelles on a ui+j;1 = vj pour j = 1 : : : k.
Theoreme LGN. | Dans ces conditions, N (u v n)=n ! 2;k presque s^ure-
ment quand n tend vers l'inni.
Pour passer d'un enonce a l'autre, il su#t de se convaincre que tirer un nombre
au hasard dans 0 1] suivant la loi de densite constante 1 revient a tirer a pile ou face
les chi res de son developpement en base 2. Et de sortir du langage des probabilites.

2. Orbites tournantes
2.1. Ordre cyclique
Soit f une application de T dans lui-m^eme. Etant donne une partie nie X de
T, on dit que f preserve l'ordre cyclique sur X s'il existe une application g : T ! T
qui est un homeomorphisme preservant l'orientation et qui co)ncide avec f sur X .
Si on choisit un point t0 dans X , des representants x0 et y0 dans R pour t0 et f (t0),
si pour t 2 T on note r(t) et r0(t) ses representants dans x0 x0 + 1 et y0 y0 + 1
respectivement, la condition que f preserve l'ordre cyclique sur X est equivalente
a : l'application r0  f  r;1 : x0 x0 + 1! y0 y0 + 1 est strictement croissante sur
r(X ).
Si X est un ensemble eventuellement inni, on dit que f preserve l'ordre cyclique
sur X si elle preserve l'ordre cyclique sur toute partie nie de X . Il su#t de le verier
pour les parties a 3 elements.
Proposition 1 (). | Soit X une partie de T. Pour que q preserve l'ordre
cyclique sur X , il faut et il sut que X soit contenue dans un demi-cercle semi-
ouvert.
Corollaire. | Soit t un point de T. Pour que q preserve l'ordre cyclique sur
l'orbite de t, il faut et il sut que t soit periodique ou irrationnel, et appartienne a
un ensemble XJ avec J un demi-cercle ouvert.
88 Adrien Douady

Pour etudier XJ quand J est un demi-cercle, nous allons utiliser l'application

fJ de T dans lui-m^eme qui co)ncide avec q sur T ; J et qui est constante sur la
fermeture de J . Pour t 2 XJ , l'orbite de t par q est la m^eme, et avec la m^eme
indexation, que son orbite par fJ . Nous aurons a considerer l'angle de rotation de
f & mais d'abord il nous faudra donner quelques generalites sur la notion d'angle de
rotation.

2.2. Angle de rotation

Soit f : T ! T une application continue. On peut () relever f en une appli-
cation continue F : R ! R (qui n'est determinee par f qu'a une constante entiere
additive pres). On a F (x + 1) = F (x) + d, ou d est un entier appele le degre de f .
L'application fJ denie au x 2.1 pour J un demi-cercle est de degre 1.
On dit que f est monotone si F est monotone, c'est-a-dire croissante (au sens
large) ou decroissante (id.). Pour f monotone de degre 1, on peut denir l'angle de
rotation de f . On denit d'abord le nombre de rotation de F .
Theoreme 1 et Definition. | Soit F : R ! R une application croissante
veriant F (x + 1) = F (x) + 1. Alors (F n(x) ; x)=n a une limite quand n tend vers
l'inni. Cette limite ne depend pas de x, elle est appelee nombre de rotation de F
et notee Rot(F ).
Si f : T ! T est une application monotone croissante de degre 1, l'angle de
rotation rot(f ) de f est la classe dans T de Rot(F ), ou F est un relevement de f
(cet angle ne depend pas du choix de F ).

Demonstration. | Le nombre (F n(x) ; x)=n ne change pas si l'on remplace x

par x +1. Pour x  y  x +1, on a F n(x)  F n(y)  F n(x)+1, donc (F n(x) ; x)=n
et (F n(y) ; y)=n di erent d'au plus 1=n. Par suite l'ensemble Rn des (F n(x) ; x)=n
pour x 2 R est un intervalle ferme de longueur  1=n. Pour p multiple de n, on a
Rp  Rn. Il en resulte que l'intersection des Rn est reduite a un point Rot(F ) et
que
F n(x) ; x ; Rot(F )  1=n
n
pour tout x. 2
Proposition 2 ().
(a) Si f a un point periodique t de periode k, alors rot(f ) est rationel de de-
nominateur k. La correspondance n  rot(f ) 7! f n(t) preserve l'ordre cyclique. On a
rot(f ) = (F k (x) ; x)=k], ou F est un releve de f et x un representant de t.
(b) Reciproquement, si rot(f ) est rationnel de denominateur k, l'application f
admet un point periodique de periode k.
(c) Si rot(f ) est irrationnel, pour tout t la correspondance n  rot(f ) 7! f n(t)
entre l'ensemble des multiples de rot(f ) et l'orbite de t preserve l'ordre cyclique.
 Le doublement de l'angle 89

Proposition 3 ().
(a) Si F1  F2, on a Rot(F1)  Rot(F2).
(b) Si (Fs) est une famille continue d'applications (c'est-a-dire (s x) 7! Fs(x)
continue), satisfaisant aux hypotheses du Th.1, alors Rot(Fs ) depend contin^ument
de s.

Remarque. | Il est abominablement faux que, si (s x) ! Fs(x) est con-

tin^ument di erentiable, l'application s ! Rot(Fs) soit di erentiable. La proposition
suivante montre que cette application a des proprietes qui, dans tout autre domaine
des mathematiques, seraient considerees comme pathologiques.
Proposition 4 (). | Soit (Fs )s2S une famille continue d'applications satis-
faisant aux hypotheses de la Prop.2. On suppose que S est un intervalle de R et
que, pour tout x, l'application s 7! Fs (x) est croissante. Alors, pour tout rationnel
r = p=q, l'ensemble des s tels que Rot(Fs) = r est un intervalle ferme, qui n'est
reduit a un point s0 que si l'application fs0 deduite de Fs0 verie fsq0 = IdT .

2.3. L'abaque de l'escalier

Pour J demi-cercle ouvert ne contenant pas 0, l'ensemble XJ est reduit a 0 ().
Nous sommes donc ramenes a etudier fs = fJ pour J = Js image de ]s ; 1=2 s avec
s 2 0 1=2]. Cette application se releve en Fs denie par
8
>
< 2s pour t 2 s ; 1=2 s]
Fs(t) = > 2t pour t 2 s s + 1=2]
: 2s + 1 pour t 2 s + 1=2 s + 1]
Fs(t + 1) = Fs(t) + 1:
Quand s varie de 0 a 1=2 le nombre Rot(Fs) varie contin^ument de 0 a 1, avec un
palier a chaque valeur rationnelle (on ne risque pas d'avoir fsq = Id car fs n'est pas
injective). Pour r 2]0 1 irrationnel, il y a donc au moins un s tel que Rot(Fs) = r.
En fait il n'y en a qu'un, et voici comment on peut le determiner :
On sait que s] 2 XJ , car sinon on aurait XJ  XJ 0 avec J 0 de longueur > 1=2,
donc XJ ni et fs aurait un point periodique. Considerons dans T les points t0 =
(1 + s)=2], t1 = s], : : : , tn = 2n;1  s]. Le n-eme chi re apres la virgule dans le
developpement binaire de s est donne par la position de tn par rapport a f0 1=2g.
Mais il n'y a pas de points de XJ entre 0 et t1 = s, ni entre 1=2 et t0, donc la position
de tn par rapport a f1=2 0g est la m^eme que par rapport a ft0 t1g, et par la Prop.3
(c) c'est la m^eme que la position de n  r par rapport a f0 rg. On a donc
tn 2 0 1=2] () n  r] 2 r 1]&
tn 2 1=2 1] () n  r] 2 0 r]:
Finalement le developpement de s est donne par l'abaque de l'escalier :
90 Adrien Douady

pente r

s = :0 0 1 0 1 0 1 0 1 1 0 1 0 0 1 0 1 0

Figure 1 : L'abaque de l'escalier

Sur une feuille de papier quadrille a carreaux unite on trace la droite D de pente
r passant par l'origine, puis le plus haut escalier extrait du quadrillage situe au-
dessous de D. On marque 1 aux abscisses entieres > 0 ou l'escalier monte, et 0 a
celles ou il ne monte pas.

2.4. Le cas r rationnel

Pour r = p=q rationnel, l'abaque de l'escalier donne deux valeurs s; et s+ suivant
que l'on prend \au-dessous" au sens strict ou au sens large. Pour s 2 s; s+], on a
Rot(Fs) = r.
Proposition 5 (). | On a s; = P ;=Q et s+ = P + =Q avec Q = 2q ; 1
et P + = P ; + 1. Les points s; et s+ de T sont dans la m^eme orbite par q , et la
correspondance
n  r ! qns;
respecte l'ordre cyclique.
Proposition 6 (). | Pour s 2]s; s+  l'ensemble Xs est ni : c'est l'orbite
commune de s; et s+ pour q . Pour s = s; ou s+ il est inni denombrable, mais
tout point a une orbite nie.

2.5. Interpretation pour l'ensemble de Mandelbrot (!!)

L'ensemble de Mandelbrot M est l'ensemble des nombres complexes c tels que
la suite (zn) denie par z0 = 0 et zn+1 = zn2 + c soit bornee. C'est un sous-ensemble
compact connexe de C. La composante connexe W de l'interieur de M qui contient
0 est limitee par une cardio)de. Notons D le disque unite ouvert de C. Il existe des
representations conformes h : D ! W et H : C ; D ! C ; M qui envoient 0 1
sur 0 1=4 et ]1 1 sur ]1=4 1 respectivement. Pour t 2 T, on denit le rayon
 Le doublement de l'angle 91

rayon
externe

rayon
interne
;3=4 0 1=4

Figure 2 : L'ensemble de Mandelbrot

image de Dan Sorensen
interne et le rayon externe de M d'argument t comme image respectivement des
applications ht :  7! h(e2it ) et Hi :  7! H (e2it ) denies sur ]0 1 et ]1 1.
On peut demontrer (!!!) :
Theoreme 2. | Soit r 2 T, et soit s l'angle correspondant a r si r est irra-
tionnel (cf. x 2.3), s = s; ou s+ si r est rationnel (cf. x 2.4). Alors on a
lim H () = lim 0
!1 s 0 !1 hr ( )

(et ces limites existent).

Autrement dit le rayon interne d'argument r et le rayon externe d'argument s
aboutissent au m^eme point du bord de M.

2.6. Une propriete de transcendance

A titre de curiosite, nous donnons le resultat suivant, d^u a P. Sentenac et l'au-
teur :
Theoreme 3. | Dans la correspondance etudiee au x 2.3, pour tout r irra-
tionnel, s est transcendant.
Ce resultat s'appuie sur :
Theoreme (Roth, Thue). | Soit x un nombre algebrique. Alors, pour tout
b > 2, il existe un c > 0 tel que pour tout rationnel p=q on ait jx ; p=qj
c=qb.
92 Adrien Douady

Il su#t de demontrer
Lemme (). | Soit r 2 T irrationnel et soient (rn ) les reduites du developpe-
ment de r en fraction continue. Notons sn = Pn =Qn l'angle s; ou s+ correspondant
p de valeurs de n on a jsn ; sj < 1=Qbn
a rn, le plus proche de s. Alors, pour une innite
ou b ; 1 est le nombre d'or, i.e. b = (3 + 5)=2.

Indications. | On a qn+1
qn + qn;1, et par suite qn+1=qn est superieur au

nombre d'or pour au moins une valeur de n sur deux. Pour ces valeurs, on a
jsn ; sj < jsn ; sn+1j = Q Q1  Q1b :
n n+1 n

3. Proprietes hyperboliques de q
3.1. Ordre orbital
Soit t 2 T, et notons xn le representant de qn(t) = 2nt dans 0 1. L'ordre orbital
deni par t est la relation d'ordre  (de preordre si t est rationnel) denie sur N
par
n  p () xn  xp:
Proposition 1 (). | Deux points dierents de T ne peuvent pas denir le
m^eme ordre orbital.

Indication. | En procedant comme en 2.3, on peut ecrire le developpement de

t, (ou x0 ) en base 2 a partir de l'ordre orbital.
Remarque. | La Prop.1 ne s'etend pas telle quelle a qd , d > 2. Exemple :
d = 3, t = 1=8, t0 = 1=4. En degre 2 on peut detecter la position de 1=2. Pour
d > 2, on ne peut pas detecter la position des i=d par rapport a l'orbite. Il faut se
les donner pour avoir l'unicite.

Question. | Caracteriser les relations d'ordre sur N qui peuvent ^etre l'ordre
orbital d'un point t pour q.

3.2. Conjugaison a q
Soit f : T ! T contin^ument derivable de degre 2, i.e. admettant un relevement
F : R ! R veriant F (x +1) = F (x)+2. On pose f 0(t) = F 0(x) pour x representant
de t.
Theoreme 1 (). | On suppose f 0 (t) > 1 pour tout t. Alors il existe un
homeomorphisme unique h : T ! T preservant l'orientation et conjugant f a q,
 Le doublement de l'angle 93

c'est-a-dire tel que h  f  h;1 = q. L'homeomorphisme h est biholderien, c'est-a-dire

qu'il existe des constantes c et b telles que
d(h(x) h(x0))  c  d(x x0)b
d(x x0)  c  d(h(x) h(x0))b:
Indications. | L'application f a un point xe unique . On prend h0 arbi-
trairement tel que h0() = 0, et on denit hn par q  hn+1 = hn  f , hn+1() = 0.
Les hn forment une suite de Cauchy pour la convergence uniforme. Pour montrer
que h est bih)olderienne, on remarque que, en notant em et eM les bornes inferieure
et superieure de f 0, pour tout intervalle J , le temps n que met J a recouvrir T
(c'est-a-dire le plus petit n tel que f n(J ) = T) est lie a la longueur ` de J par
m(n ; 1)  ; log `  Mn:
Remarques.
(1) Si Qt est un point periodique de periode k pour f et si le multiplicateur
0
(f ) (t) = ki=0
k ;1 f 0 (ti ) (ou les ti sont les points du cycle) n'est pas 2k , il est exclu que
h ait une derivee 6= 0 en t.
(2) Ceci s'etend a d > 2, mais avec d ; 1 choix, correspondant aux d ; 1 points
xes de f .
(3) Si on suppose seulement f monotone de degre 2, on peut trouver h : T ! T
continue monotone telle que h  f a q  h. Mais h n'est pas forcement injective, et
ne le sera pas si f a des points periodiques attractifs.

3.3. Lemme de poursuite

Definition. | Soit " > 0. On appelle "-pseudo-orbite (dans T pour q) une
suite (tn)n2N telle que d(tn+1 q (tn))  " pour tout n.
Theoreme 2 (). | Soit "  1=4. Pour toute "-pseudo-orbite (tn), il existe
une veritable orbite (sn ), unique, qui diere de (tn ) d'au plus ".
Autrement dit, il existe un s 2 T unique tel que,
(8n) d(qn(s) tn)  ":

Remarques.
(1) Ceci est d^u a l'expansivite de q, qui a un rapport 2. Pour une application
dilatante avec un rapport  > 1, on trouverait une correspondance " 7! ;" 1 .
(2) Il n'y a rien de pareil avec par exemple
x 7! x + 101 (sin x)2 :
94 Adrien Douady

Le point xe 0, qui fait une barriere aux orbites, est permeable aux "-pseudo-orbites
pour tout " > 0. Les orbites et les pseudo-orbites ont donc des comportements tres
di erents.

Departement de Mathematiques
B^at. 425
Universite Paris-Sud
91405 Orsay cedex
France
 Courbes de Julia sans tangente
Adrien Douady

Introduction
Etant donne un nombre complexe c, on note fc l'application z 7! z2 + c de C
dans lui-m^eme. Considerons pour tout point z0 2 C l'orbite de z0 par fc, c'est-a-dire
la suite des zn = fcn(z0 ). Pour c = 0, la situation est simple : si jz0 j < 1, la suite
zn tend vers 0, si jz0 j > 1, on a jznj ! 1, si jz0j = 1, on a jznj = 1 pour tout n &
l'application 0 : t 7! e2it est un homeomorphisme de T sur le cercle unite J0 qui
conjugue l'application q : t 7! 2t a f0 restreinte a J0.
Dans cet expose nous allons montrer que, pour jcj < 1=4, on a une situation
analogue jusqu'a un certain point.
Theoreme 1.
(a) Pour jcj < 1=4, il existe une courbe Jc dans C telle que fc(Jc) = Jc, et un
homeomorphisme c de T sur Jc conjuguant q a fc
(b) L'application fc a deux points xes, un c dans la region ' entouree par Jc
et un c sur Jc. Pour z0 2 ', l'orbite (zn ) de z0 tend vers c pour z0 dans la region
exterieure a Jc on a jzn j ! 1.
Commentaire. | Par courbe dans C, on entend un ensemble homeomorphe
a un cercle. L'assertion (a) est simplement qu'il existe une application continue
injective c : T ! C telle que fc  c = c  q & on peut appeler Jc son image et
comme T est compact c sera un homeomorphisme de T sur Jc. L'ensemble ' est
l'ensemble des points de C ; Jc par rapport auxquels c a un indice 6= 0.
Le theoreme suivant montre les limites de l'analogie avec le cas c = 0.
Theoreme 2. | Dans les conditions du theoreme 1, si c 6= 0, la courbe Jc n'a
de tangente en aucun point.
On dit que Jc est la courbe de Julia de fc. Les theoremes 1 et 2 sont valables sous
une hypothese plus faible que jcj < 1=4. Il su#t que fc ait un point xe attractif,
c'est-a-dire tel que fc( ) = , jfc0 ( )j < 1. Les valeurs de c pour lesquelles cela a lieu
forment la region W bornee par une cardio)de symetrique par rapport a R, ayant un
rebroussement en 1=4 et passant par le point ;3=4. Cette region contient le disque
D1=4 . Mais la demonstration sous cette hypothese demanderait des outils savants
d'analyse complexe.
95
96 Adrien Douady
i

W D 14
;1 0 1

Figure 1

Pour demontrer le theoreme 1, on construit c : T ! C continue et satisfaisant

fc  c = c  q. On montre ensuite qu'elle est injective en construisant un inverse.
La demonstration du theoreme 2 se fait en plusieurs etapes.
(1) Il y a un point ou Jc n'a pas de tangente. Cela est facile si c n'est pas reel :
le point xe c convient car il a un multiplicateur non reel. Si c est reel, on montre
qu'il y a un cycle d'ordre 3 a multiplicateur non reel, cela est assez delicat.
(2) Il y a dans Jc un ensemble dense de points ou Jc n'a pas de tangente. C'est
facile a partir du resultat precedent par images reciproques.
(3) On montre que Jc possede une propriete d'autosimilitude avec distorsion
bornee. A partir de la, s'il y avait un point ou Jc a une tangente, on montre que Jc
contiendrait un arc C 1, c'est-a-dire ayant une tangente en chaque point (et variant
contin^ument avec le point). Ce serait en contradiction avec le pas (2).

1. La courbe de Julia
1.1. Mise en place
On note Da r le disque ouvert de centre a et de rayon r : Da r = fzj jz ; aj < rg.
On ecrit Dr pour D0 r .
On xe c avec jcj < 1=4. La fonction fc a deux points xes et  , solutions de
z ; z + c = 0& on convient que j j  j j. On a j  j = jcj < 1=4, d'ou j j < 1=2, et
2
 = 1 ; , d'ou 1=2 < j j < 3=2.
Le point est un point xe attractif. Cela signie que la derivee de fc en est
de module < 1. En e et cette derivee est 2 , et on vient de voir que j j < 1=2. Le
point xe  , lui est repulsif. En e et j j > 1=2.
On pose
U0 = D3=2 V0 = D1=2 A0 = U0 n V 0 = fzj1=2 < jzj < 3=2g:
 Courbes de Julia sans tangente 97

Pour n
U , on pose
Un = fc;n(U0 ) Vn = fc;n(V0) An = fc;n(A0 ) = Un n V n:
On pose egalement
U;1 = fc(U0 ) = Dc 9=4 V;1 = fc(V0 ) = Dc 1=4 A;1 = U;1 n V ;1 = fc(A0 ):
Comme A0 est symetrique on a A0 = fc;1(A;1).
On a V ;1  V0 et U 0  U;1 , d'ou A0  A;1 et An  An;1 pour tout n. On
voit par recurrence () que, pour tout n, An est limite par deux courbes simples
R-analytiques ;+n et ;;n entourant 0 et c, avec ;+n bord de Un et ;;n bord de Vn.
On a jfc0 j < 1 sur V0, et sur V ;1 le module jfc0j est borne par une constante < 1.
Il en resulte () que pour tout z 2 V;1 l'orbite de z tend vers . Cela a encore lieu
pour tout z 2 V1 = Vn, puisque pour un tel z l'orbite nit par entrer dans V;1.
Reciproquement si l'orbite (zn) de z tend vers on a zn 2 V0 donc z 2 Vn pour un
certain n, donc V1 est exactement l'ensemble des points dont l'orbite tend vers :
c'est le bassin d'attraction de .

Figure 2 : La courbe de Julia

image de Dan Sorensen

1.2. Construction du lacet 

On construit par recurrence une suite de lacets (n) de  a  dans A0 (en fait
n est dans An). Par un lacet  nous entendons une application continue de T dans
C, ou ce qui revient au m^eme de 0 1] dans C avec  (0) =  (1).
98 Adrien Douady

On pose 0(t) = e2it   . On denit n0 1] ! A0 par recurrence par

n+1(t) 2 fc;1(n(2t)),
n+1 continue,
n+1( ) =  .
On voit par recurrence () que, pour tout n, on a n(1) =  et n fait une fois
le tour de 0 et de c. L'image de n est contenue dans An.
Lemme. | La suite d'applications (n ) est uniformement convergente sur 0 1].

Demonstration. | Pour z et z0 dans An, denissons dAn (z z0 ) comme la lon-

gueur minimum d'un chemin derivable de z a z0 dans An : c'est donc jz0 ; zj si le
segment z z0 ] est contenu dans An, et en tous cas on a jz ; z0 j  dAn (z z0 ).
On a jfc0(z)j > 1 pour z 2 A0 , et  = (inf z2A1 jfc0(z)j);1 < 1. Tout chemin  de
longueur ` dans A0 admet deux relevements 0 et 00 dans A1 , de m^eme longueur
 `.
On peut construire () une application continue H : 0 1]2 ! A0 telle que
H (0 s) = H (1 s) = 
H (1 0) = 0(t) H (t 1) = 1(t):
Notons  la borne superieure des longueurs des chemins t : s 7! H (t s) de 0(t)
a 1(t). On construit par recurrence pour tout t un chemin n t de n(t) a n+1(t)
dans A0 : ce chemin est un relevement de (n;1) 2t , et sa longueur est  n. Par
suite, pour tout t et tout n, on a
jn(t) ; n+1(t)j  dA0 (n(t) n+1(t))  n:
Il en resulte que la suite de lacets (n) est une suite de Cauchy pour la convergence
uniforme sur 0 1]. 2
On note  la limite des n. C'est un lacet continu, et la relation
f (n+1(t)) = n(2t)
donne par passage a la limite f ( (t)) =  (2t).
1.3. Injectivite de 
On va construire par recurrence une suite d'applications 'n : An ! T. On denit
'0 : A0 ! T par
'0(z) = 21 Arg(z= ):
Quand z decrit un lacet dans A1 qui fait un tour autour de 0, le point f (z) fait
2 tours dans A0 autour de c et donc aussi de 0, et un relevement de '0(f (z)) dans
R augmente de 2. On peut donc () denir '1 : A1 ! R par
'1(z) 2 q;1('0 (f (z))), ou q : T ! T est l'application t 7! 2t,
'1 continue,
'1( ) = 0.
 Courbes de Julia sans tangente 99

Quand z parcourt un lacet dans A1 , un representant de '1 (z) ; '0 (z) dans R
revient inchange. Autrement dit l'application '1 ; '0 : A1 ! T admet un relevement
continu  : A1 ! R.
On peut denir par recurrence 'n : An ! T par
 
'n+1(z) = 'n(z) + 21n (fcn(z))
ou x] designe la classe de x dans T. On verie par recurrence que
2'n+1(z) = 'n(fc(z)):
Sur \An , la suite des 'n converge uniformement vers une fonction continue ' :
\An ! T qui verie q  ' = '  fc.
L'image J de  est contenue dans \An , et '   : T ! T est une application
continue de degre 1 (ce qui signie qu'elle admet un relevement g : R ! R veriant
g(x + 1) = g(x) + 1 commutant avec q). En e et
q' = '  f   = '    q:
Comme on l'a vu dans l'expose precedent, ce ne peut ^etre que l'identite.
Il en resulte que  est injective. Comme T est compact,  est un homeomorphisme
de T sur son image J .

1.4. Points qui ne sont pas sur J

Posons
0;(t) = 2j1 j 0(t) et 0+(t) = 2j3 j 0(t):
Les lacets 0; et 0+ parametrent le bord interieur ;;0 est le bord exterieur ;+0 de
A0. On construit comme dans la section 1.2 des lacets n; et n+ : T ! A0 qui
parametrent les bords interieur et exterieur de An, avec
fc  n;+1 = n;  q
fc  n++1 = n+  q
les points de base etant obtenus en relevant le chemin radial de  a 0; = 1=2  
j j

ou a 0+ = 3=2  .
j j
Le m^eme raisonnement que pour la demonstration du lemme montre () que n;
et n+ convergent uniformement vers le lacet  .
100 Adrien Douady

Soit z un point de C ; J . Si l'indice de  par rapport a z est 1, pour n assez

grand, l'indice de n; par rapport a z est 1 aussi. Alors z 2 Vn, donc l'orbite de
z tend vers le point xe attractif . Si l'indice de  par rapport a z est 0, pour
n assez grand l'indice de n+ par rapport a z est 0 aussi. Alors z 2 C ; Un, on a
fcn(z) 2 C ; U0 et l'orbite de z tend vers 1. Enn si l'indice de  par rapport a
z etait un nombre " di erent de 0 et 1, il en serait de m^eme pour n; pour n assez
grand, ce qui est impossible.

On a donc fait une partition de C en trois partie : la courbe J qui est un ferme,
le bassin d'attraction de et celui de 1 qui sont des ouverts.

2. Points xes ou periodiques a multiplicateur non reel

2.1. Points xes, points periodiques, multiplicateur
Soit f : C ! C une application polynomiale. Un point xe $ pour f est un point
$ 2 C tel que f ($ ) = $ . Le multiplicateur de $ est alors f 0($ ). On dit que $ est
attractif si jf 0($ )j < 1, repulsif si jf 0($ )j > 1, indierent si jf 0(x)j = 1.

Un0 point periodique de periode k est un point xe de f k , qui n'est pas point xe
de f k pour 0 < k0 < k. Quand on parle du multiplicateur d'un point periodique
de periode k, il s'agit de son multiplicateur pour f k . On parlera de m^eme de point
periodique attractif, repulsif, indi erent, etc.

Soit ;  C une courbe telle que f (;)  ;. Si ; passe par un point periodique $
a multiplicateur  non reel, la courbe ; ne peut pas avoir de tangente en $ . En e et,
si ; avait une tangente D en $ , la droite D devrait ^etre preservee par l'application
tangente a f en $ , qui est z 7! $ + (z ; $ ), ce qui est impossible pour  non reel
(la multiplication par  fait tourner d'un angle egal a l'argument de ).

2.2. Existence d'un point sans tangente : cas c non reel

Considerons l'application fc : z 7! z2 + c avec jcj < 1=4. La courbe de Julia Jc
passe par le point xe  de fc, qui a pour multiplicateur  = 2 .

Si c n'est pas reel,  n'est pas reel puisque c =  ;  2 , donc  est non reel et Jc
n'a pas de tangente en  .

Que se passe t-il en fait ?

Ici  est un point xe repulsif, et Jc satisfait a fc;1(Jc) = Jc. Soit z0 un point de
J voisin de  et denissons z;n par z;n;1 = fc;1(zn), en utilisant la branche de fc;1
qui a  pour point xe.
 Courbes de Julia sans tangente 101

Les points z;n tendent vers  approximativement sur une spirale logarithmique :
a chaque fois zn ;  a une longueur divisee approximativement par le module de
, et son argument augmente approximativement de (;Arg). Cela est su#sant ()
pour a#rmer que la courbe J tend vers  en spiralant : quand un point z tend vers
 sur J , une determination continue de l'argument de z ;  dans R tend vers 1.
2.3. Cas c reel
Ce cas est beaucoup plus delicat.
Le multiplicateur du point xe  est reel.
Il y a sur Jc un cycle d'ordre 2, a savoir f (1=3)  (2=3)g, ou  = c est l'appli-
cation etudiee dans la partie 1. Mais les points  (1=3) et  (2=3) sont conjugues, et
le multiplicateur de ce cycle est reel.
Il y a deux cycles d'ordre 3, a savoir
f (1=7)  (2=7)  (4=7)g et f (3=7)  (5=7)  (6=7)g:
Ces deux cycles sont conjugues l'un de l'autre (conjugaison complexe), leurs multi-
plicateurs 0, 00 sont conjugues.
Proposition 1. | Pour c 2] ; 1=4 1=4;f0g, les multiplicateurs 0 et 00 sont
distincts, donc non reels.
Nous proposerons pour cette proposition une demonstration algebrique assez
savante (!!). Il se peut qu'on puisse en trouver de plus simples.
Demonstration. | On fait varier c dans C tout entier. La condition pour que
z soit un point periodique de periode divisant 3 s'ecrit
fc3 (z) ; z = 0:
La fonction (c z) 7! fc3(z) ; z est un polyn^ome a 2 variables, de degre 8 en z. Il est
divisible par fc(z) ; z, qui est l'equation des points xes.
En divisant, on obtient un polyn^ome E (c z) qui est de degre 6 en z, qui s'ecrit
sous la forme
z6 + e5 (c)z5 +    + e1(c)z + e0 (c)
ou les ei sont des polyn^omes en c. Pour chaque c, il a 6 racines (eventuellement
confondues) $1(c) : : : $6(c), mais on ne peut pas choisir $1 (c) par exemple dependant
contin^ument de c. Les points $i(c) forment, s'ils sont tous distincts, 2 cycles d'ordre
3, notons 0 et 00 leurs multiplicateurs.
Lemme 1. | La somme s1 (c) = 0 + 00 et le produit s0 (c) = 0 00 sont des
polyn^omes en c.
102 Adrien Douady

Demonstration. | Considerons pour chaque c le polyn^ome

H (c z) = z6 + h5(c)z5 +    + h1 (c)z + h0 (c)
dont les racines sont les multiplicateurs
i(c) = 8$i(c)  fc($i(c))  fc2($i(c)):
Les coe#cients hk (c) sont donnes par les fonctions symetriques elementaires des
i(c), ils s'expriment comme polyn^omes symetriques en les $i(c), donc comme poly-
n^omes en e0(c) : : : e5(c), et nalement comme polyn^omes en c.
Mais les trois $i d'un m^eme cycle donnent le m^eme , qui est racine triple de
z 7! H (c z). On a donc
H (c z) = (z2 ; s1(c)z + s0 (c))3:
Ceci donne en particulier
h5 (c) = ;6s1 (c)
h4 (c) = 6s0 (c) ; 15s1(c):
Comme h4 et h5 sont polynomiales en c, il en est de m^eme de s1 et s0. 2
Lemme 2. | Le polyn^ome s0 est de degre 3 en c, et s1 est de degre  1.
Considerons pour chaque c l'ensemble Kc des z tels que fcn(z) ne tende pas vers 1.
Sous-lemme. | Pour jcj
0, l'ensemble Kc est contenu dans l'anneau
D2pjcj ; D1=2pjcj:
q
Demonstration. | Pour jcj
2 et jzj > 2 jcj on a
q q
jz2 j > 2 jcj jcj < 12 jcj  jzj
d'ou q
jz2 + cj
32 jcjjzj
3jzj:
Par suite l'orbite (zn ) de z reste dans C ; D2pjcj, et satisfait
jzn+1 j
3jznj:
Par suite Kc  D2pjcj.
q q
Si jzj < 1=2  jcj, on a jz2 + cj
3=4  jcj et 3=4  jcj > 2 jcj si jcj
10, d'ou
z 62 Kc. 2
 Courbes de Julia sans tangente 103

Demonstration du lemme 2. | Tout point periodique de fc est dans Kc. Pour

jcj
10, les multiplicateurs
0 = 8$1$2$3 et 00 = 8$4$5$6
(en choisissant bien les indexations) verient donc
jcj3=2  jj  64jcj3=2:
et on a
jcj3  js0j  212 jcj3
js1j  128jcj3=2:
Comme s1 et s0 sont des polyn^omes, le lemme 2 en resulte. 2

Demonstration de la proposition. | Il faut montrer que le discriminant '(c) =

s1(c)2 ; 4s0 (c) est < 0 pour c 2] ; 1=4 1=4;f0g.
On sait deja que 0 et 00 sont conjugues, donc que '(c)  0 pour c 2] ; 1=4 1=4.
Pour c = 0, on a  (t) = e2it ,

 ( 17 )   ( 72 )   ( 47 ) = 1 0 = 00 = 8 '(0) = 0
Mais ' est un polyn^ome de degre 3 en c. La racine en 0 est forcement double puisque
'(c)  0 pour c voisin de 0. Il ne peut y avoir une autre racine dans l'intervalle
] ; 1=4 1=4 car elle serait simple et entrainerait un changement de signe. 2

Remarque. | La troisieme racine de ' est en ;7=4. Pour cette valeur de c, le

polyn^ome z 7! E (c z) a 3 racines doubles $1, $2, $3, avec
fc($1) = $2 fc($2) = $3 fc($3) = $1:

2.4. Densite des points sans tangente

Soient z un point de Jc et z0 2 fc;(z). Alors z0 2 Jc, et si Jc n'a pas de tangente
en z elle n'en a pas non plus en z0 . Par recurrence, Jc n'a alors de tangente en aucun
point de fc;n(z).
Lemme. | Pour tout z 2 Jc, l'ensemble fc;n (z ) est dense dans Jc .

Demonstration. | Comme  est un homeomorphisme de T sur Jc qui conjugue

q a fc , il su#t de montrer que, pour tout t 2 T, l'ensemble q ;n (t) est dense dans
T(). 2
104 Adrien Douady

Nous avons montre :

Proposition 2. | Si Jc possede un point ou elle n'a pas de tangente, l'ensem-
ble des points ou elle n'a pas de tangente est dense dans Jc .
Cela a lieu en particulier pour tout c 2 D1=4 ; f0g.

3. Distorsion bornee
3.1. Introduction, fonctions holomorphes
Dans cette partie nous indiquons comment on demontre le theoreme 2. Nous
utiliserons pour cela un theoreme de distorsion bornee (theoreme 3 ci-dessous).
Nous aurons besoin de la notion de fonction holomorphe, mais nous evitons
l'usage de l'analyse complexe. Pour nous, une fonction holomorphe sur un ouvert U
de C est une fonction f : U ! C admettant une derivee

f 0(z) = z0!lim f (z ) ; f (z)

0
0
z z 6=z z0 ; z
continue. Nous n'aurons pas besoin de l'equivalence avec d'autres denitions. Nous
n'utiliserons pas le fait qu'une limite uniforme de fonctions holomorphes est holo-
morphe, mais seulement le fait, beaucoup plus elementaire, que si (fn) est une suite
de fonctions holomorphes sur U convergeant uniformement vers f et si fn0 converge
Z z1 ement vers g, alors f est holomorphe et f 0 = g (en e et f (z1) ; f (z0 ) =
uniform
f (z)dz s'obtient par passage a la limite).
z0
Nous utiliserons le theoreme d'Ascoli : Soient U un ouvert connexe veriant
diam (U ) < 1 et (fn) une suite de fonctions sur U , lipschitziennes avec une con-
stante M independante de n. On suppose qu'il existe un point x0 2 U tel que la
suite (fn(x0 )) converge. Alors on peut extraire de la suite (fn) une suite convergeant
uniformement sur U .

3.2. Distorsion
Soient U et V deux ouverts connexes de C, et f un homeomorphisme holomor-
phe de U sur V , c'est-a-dire admettant une derivee f 0(z) 2 C pour tout z 2 U
dependant contin^ument de z (par exemple f peut ^etre induite par un polyn^ome).
Si f 0 est constante sur U , f est a#ne, c'est-a-dire induite par une transformation
z 7! az + b.
Definition. | On appelle distorsion de f sur U et on note distU (f ) la quan-
tite  0 
sup log f 0(z1 )  :
z0 z1 2U f (z0 )
 Courbes de Julia sans tangente 105

Remarques.
(1) Pour choisir la determination du log on prend un chemin de z0 a z1, et on
f 0(z)
suit, pour z parcourant ce chemin, la determination de log 0 qui prend la valeur
f (z0)
0 pour z = z0 .
(2) La denition fait intervenir le module du log et non le log du module. Cela
permet de prendre en compte dans la distorsion le fait que f courbe les segments de
droite.
Proprietes.
On a distV (f ;1) = distU (f ).
Si f : U ! V et g : V ! W sont des homeomorphsimes holomorphes, on a
distU (g  f )  distU (f ) + distV (g).
Pour z0 et z1 dans U , on note dU (z0 z1) la longueur minimum d'un chemin de
z0 a z1 dans U , et on denit le diametre interne diam (U ) comme la borne superieure
de dU (z0 z1) quand z0 est z1 varient dans U . Si U est convexe, le diametre interne
de U co)ndice avec son diametre au sens ordinaire. On  00a
f
distU (f )  diam(U )  sup  0  :
U f
0 Z 00
En e et log f 0(z1) est l'integrale curviligne
z1 f (z )
f (z0) dz sur un chemin de z0 a z1 .
z0 f 0(z )

3.3. Majoration de la distorsion

Revenons a la situation qui nous interesse, avec les notations des sections (1.1)
et (1.2). En particulier
 = (zinf jf 0 (z)j);1 < 1:
2A1 c
Pour tout ouvert connexe W  A0 de diametre < 1, l'image reciproque fc;1(W ) est
reunion de deux ouverts W 0 et W 00 contenus dans A1, l'application fc induisant un
homeomorphisme de chacun d'eux sur W & on a ()
diam W 0 = diam W 00   diam W:
Soient z0 un point de A0 et n un entier tel que zi = fci(z) appartienne a A0 pour
i  n. Choisissons  > 0 tel que le disque W0 = Dzn  soit contenu dans A0 , et de-
nissons Wi pour 1  i  n en prenant pour Wi la composante connexe de fc;1Wi;1
qui contient zn;i. L'application fc induit pour 1  i  n un homeomorphisme
holomorphe de Wi sur Wi;1, et fcn induit un homeomorphisme holomorphe de " =
Wn sur W0.   
i 0 00 f
On a diam Wi  2 . Sur A0 on a jfcj
1 et fc = 2, d'ou  c0   2. Par suite

fc
distWi (fc)  4 et
i
Xn Xn X
1 4
dist(fc )  distWi (fc)  4   4 i =
n i :
i=1 i=1 1 1;
106 Adrien Douady

Cette inegalite montre que, pour l'application fc;n : W0 ! ", on a que log((fc;n)0)
est lipschitzienne de rapport 12; . En e et, pour w0 w00 dans W0, on peut considerer
w = w0+2w00 , w00 = Dw 0 ou 0 = (1 + ") jw ;2 w j avec " > 0 arbitrairement petit, et
0 00

denir Wi0 pour i  n par Wi0 = Wi \ fc;1Wi0;1.

Nous avons obtenu le resultat suivant, qui est l'application a notre situation d'un
theoreme plus general de distorsion bornee :
Theoreme 3. | La valeur de c etant xee dans D1=4 , il existe un 0 > 0 et
un M < 1 tels que, pour tout z 2 Jc , tout n et tout  tel que 0 <   0 , il existe
un voisinage " de z dans C tel que fcn induise un homeomorphisme holomorphe de
" sur Dfcn (z)  avec
dist(fcn)  M:
L'application fc;n : Dfcn (z)  ! " satisfait la propriete suivante : log((fc;n)0 ) est
lipschitzienne de rapport M=2.
4
Ceci s'obtient en prenant pour 0 la distance de Jc au bord de A0 , et M = .
1;
L'inter^et du theoreme reside que ces valeurs sont independantes de z 2 Jc et surtout
de n.

3.4. Contradiction en supposant l'existence d'une tangente

Soient c 2 D1=4 et z0 2 Jc. Posons zn = fcn(z0 ) et soit (nk ) une suite d'entiers
telle que la suite extraite (znk ) converge vers un point w. Soient M et 0 satisfaisant
aux conditions du theoreme 3. Pour tout k il existe un voisinage "k de z0 tel que
fcnk induise un homeomorphisme holomorphe de "k sur Dznk 0 .
Choisissons  < 0 . Le disque Dw  est contenu dans Dznk 0 pour k assez grand&
considerons fc;nk : Dw  ! "k et 'k = Hk  fc;nk : Dw  ! C, ou Hk est l'homothe-
tie de centre z0 et de rapport hk = (fcnk )0(z0 ), restreinte a "k . La fonction log('0k )
di ere de log((fc;nk )0) par une constante, donc est lipschitzienne de rapport M=2
independant de k. On a '0k (znk ) = 1, donc j log('0k (w))j  M=2jw ; znk j ! 0. Par
le theoreme d'Ascoli, quitte a extraire encore une suite, log '0k tend uniformement
vers une fonction lipschitzienne g : Dw  ! C.
Alors 'k tend uniformement vers la fonction  : Dw  ! C denie par
Z w0
(w0) = z0 + eg( ) d!
w
qui est holomorphe de derivee eg ne s'annulant en aucun point.
On a fc(Jc) = fc;1(Jc) = Jc, et par suite
Jc \ Dw  = ';k 1(;k ) ou ;k = Hk (Jc \ "k ):
 Courbes de Julia sans tangente 107

On a jhk j
1=nk , donc jhk j tend vers l'inni et ;k peut ^etre considere comme un
\zoom" de Jc sur z0 . Les fonctions 'k sont bornees independamment de k, donc
diam "k ! 0.
Quitte a extraire encore une fois une suite, on peut suposer que l'argument de
hk a une limite . Supposons que Jc ait en z0 une tangente L, et soit L0 la droite
deduite de L par une rotation d'angle .
Lemme. | Jc \ Dw   ;1 (L0 ).

Demonstration. | Soit w0 2 Jc \ Dw . Pour tout k, l'angle (mod ) de 'k (w0) ;

z0 avec L0 est majore par la borne superieure k pour z0 2 "k \ Jc de l'angle de
z0 ; z0 avec L. Mais k tend vers 0 par denition des tangentes. Par suite (w0) 2 L0 .
2
Comme  est derivable en tout point de Dw , ceci entra^ne que Jc a une tangente
en tout point de Jc \ Dw .
On a vu que ceci est impossible si c 6= 0, et cela acheve la demonstration du
theoreme 2.