Skript
Skript
Torben Krüger
Contents
1 Einleitung 1
2 Maßtheorie 4
2.1 Grundzüge der Maßtheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
2.2 Maße mit Dichte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.3 Produktmaße . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14
2.4 Ungleichungen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
4 Unabhängige Zufallsvariablen 43
4.1 Unendliche Produkträume . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
4.2 0-1 Gesetze . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
5 Zentraler Grenzwertsatz 50
5.1 Charakteristische Funktionen und Konvergenz . . . . . . . . . . . . . . . . . . . 50
5.2 Zentraler Grenzwertsatz . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
5.3 Satz von Berry-Esseen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
1 Einleitung
Diese Vorlesungsaufzeichnungen enthalten eine Einleitung in die mathematischen Grundlagen
der Wahrscheinlichkeitstheorie. Wir werden diskutieren, wie man mathematische Modelle für
physikalische Situationen (Experimente) mit Zufälligkeit aufstellt und damit arbeitet. Wie sich
Wahrscheinlichkeit aus grundlegenden physikalischen Gesetzmäßigkeiten ergibt, ist nicht trivial.
Wir werden daher einen pragmatischen Ansatz wählen, in dem bestimmte Axiome zugrunde
gelegt werden, die für alle probabilistischen Beobachtungen gelten müssen und uns bei der
Wahl geeigneter Modelle vorwiegend auf unser intuitives Verständnis von Wahrscheinlichkeit
aus der Alltagserfahrung verlassen. Aus diesen Axiomen werden wir dann mit mathematischer
Präzision allgemeine Schlüsse über das Verhalten von Wahrscheinlichkeiten erhalten. Wie bei
jeder mathematischen Theorie der physikalischen Realität folgt eine Anwendung den folgenden
Phasen:
Fragestellung aus einer Anwendung
→
Übersetzung in ein mathematisches Modell
→
Lösung innerhalb des Modells (durch Sätze / Beweise)
→
Interpretation der Resultate und Anwendung auf das reale Problem
Der Vorteil dieses Verfahrens ist, dass der mittlere Schritt (idealerweise) fehlerfrei ist. Das ist
besonders gut, weil dieser Schritt oft der technisch schwierigste ist.
Die grundlegende Frage ’Was ist Wahrscheinlichkeit?’ ist nicht ganz einfach zu beantworten.
Wir werden uns daher bei unserem Verständnis dessen, was Wahrscheinlichkeit ist, auf die
folgenden naiven Ideen verlassen
• Unser intuitives Verständnis ist, dass die Wahrscheinlichkeit P(A) eines Ereignisses A
eine Zahl (zwischen 0 und 1) ist, die unser Vertrauen quantifiziert, das Ereignis A zu
beobachten. Hier bedeutet P(A) = 0, dass A in der Realität nicht beobachtet wird.
Andererseits bedeutet P(A) = 1, dass wir A immer beobachten und P(A) ↑ (0, 1) ist
etwas dazwischen.
• Aus unserer Erfahrung haben wir auch eine Interpretation von P(A) als die relative Häu-
figkeit von A bei vielfacher Wiederholung des Experiment unter gleichen Bedingungen
(unabhängig voneinander), d.h.
#{Experimente, in denen A beobachtet wird}
P (A) ↓ .
#{Gesamtzahl der Experimente}
Die Approximation verbessert sich, wenn wir die Anzahl der Wiederholungen des Exper-
iments erhöhen. Diese Interpretation beruht auf einem mathematischen Theorem, dem
Gesetz der großen Zahlen, welches wir später besprechen werden. Ein praktisches Prob-
lem bei dieser Interpretation ist, dass es oft unmöglich ist, dasselbe Experiment unter
genau denselben Bedingungen viele Male zu wiederholen.
• Ein grundlegenderes Verständnis der Wahrscheinlichkeit erhält man, wenn man darüber
nachdenkt, wie die Wahrscheinlichkeit aus deterministischen physikalischen Gesetzen her-
vorgeht. Ein makroskopisch großes dynamisches System mit ausreichend mischendem
(chaotischem) Verhalten wird von einem oft atypischen Anfangszustand ausgehend (denken
Sie an Billardkugeln zu Beginn des Spiels) gestartet. Diese Anfangskonfiguration ist
hochgeordnet (niedrige Entropie) und durch wenige makroskopische Größen gekennzeich-
net (wie Dichte von Gasteilchen, Position und Geschwindigkeit eines Würfels innerhalb
der möglichen Messgenauigkeit usw.). Wichtig ist, dass es mehrere mikroskopische Konfig-
urationen (wie die Positionen und Geschwindigkeiten aller beteiligten Atome) gibt, die die
gleichen makroskopischen Eigenschaften haben. Dann folgt das dynamische System einer
deterministischen Dynamik, die sehr empfindlich auf die Anfangskonfiguration reagiert (in
der die Entropie typischerweise zunimmt), so dass wir bei derselben makroskopischen An-
fangsbedingung zu makroskopisch unterschiedlichen Ergebnissen kommen können (denken
Sie an ein Galton-Brett). Dann ist die Wahrscheinlichkeit eines Ergebnisses ein Maß für
das Volumen im Phasenraum der mikroskopischen Ausgangskonfigurationen innerhalb
der makroskopischen Ausgangskonfiguration, die zu diesem Ergebnis führen wird. Für
viele physikalische Systeme ist der Nachweis dieser Argumentation und die Berechnung
der entsprechenden Wahrscheinlichkeiten jedoch ein höchst nicht triviales Problem.
2
• Es gibt auch eine Form der Zufälligkeit, die aus der Theorie der Quantenmechanik stammt,
wenn mikroskopische Systeme mit makroskopischen Beobachtern interagieren. Grund-
sätzlich ist die Quantenmechanik jedoch zeitreversibel und enthält daher keine echte
Zufälligkeit. Die zugrundeliegende quantenmechanische Zufälligkeit erfordert daher eine
sorgfältigere Interpretation.
Als Beispiel betrachten wir, wie man das Werfen eines Würfels modelliert. Der funda-
mentale Ansatz besteht darin, die (relevante) Konfiguration als Element von q ↑ SO(3) ↔ R3
zu modellieren und mitzuteilen, wie der Würfel in Bezug auf eine Referenzorientierung und
Anfangsposition gedreht bzw. verschoben wird. Die Dynamik ist also durch eine Funktion
q : [0, ↗) ↘ SO(3) ↔ R3 als Konfiguration q(t) in Abhängigkeit von der Zeit t gegeben. Die
Anfangsbedingung ist die Anfangskonfiguration q(0) und deren zeitliche Ableitung dt d
q(t). Den
Raum aller möglichen Anfangsbedingungen nennt man Phasenraum. Dann folgt der Würfel
einer deterministischen Dynamik und landet und ruht schließlich (im Rahmen der Messge-
nauigkeit) auf einem letzten Element in qf := limt→↑ q(t). Die Augenzahl wird durch die
Projektion auf die SO(3) Komponente von qf bestimmt. Die Augenzahl ist typischerweise nur
als eine von sechs Möglichkeiten realisiert, da das Landen auf einer Kante sehr instabil und
damit untypisch ist. Der Nutzen eines guten Würfel ist es, dass immer dann, wenn Sie einen
Anfangszustand haben, der makroskopisch charakterisiert werden kann, das entsprechende
Phasenraumvolumen in ungefähr gleich große Teile aufgeteilt wird, die den Ergebnissen der
Beobachtung von 1, 2, 3, 4, 5 oder 6 Augen entsprechen. Andernfalls wäre es möglich das Ergeb-
nis vorherzusehen und zu betrügen. Daher ist es auch möglich, die möglichen Endergebnisse
einfach als die Zahlen 1, 2, 3, 4, 5, 6 mit gleicher Wahrscheinlichkeit zu modellieren.
Wir werden einen pragmatischen Ansatz zur Beschreibung von Zufallsexperimenten wählen,
der oft der zweiten Wahl im Würfelbeispiel entspricht, also der Kodierung des Ergebnisses durch
die Zahlen 1, 2, 3, 4, 5, 6, die alle mit gleicher Wahrscheinlichkeit angenommen werden. Wir
werden einen minimalistischen Liste von Anforderungen an Modelle eines Zufallsexperiments
stellen. Dieser axiomatische Rahmen ist ausreichend allgemein formuliert, um sicherzustellen,
dass sich im Wesentlichen jede probabilistische Fragestellung darin formulieren lässt.
Zuvor wollen wir aber erwähnen, wozu die Wahrscheinlichkeitstheorie gut ist. Hier sind ein
paar Motivationen, dieses Thema zu studieren.
• Auch in vielen Bereichen der reinen Mathematik ist das probabilistische Denken ein
mächtiges Werkzeug. Z.B. Die Untersuchung der Verteilung der Nullstellen der Riemann-
Zeta-Funktion oder der Primzahlen ist ein wichtiges Thema in der Zahlentheorie.
3
2 Maßtheorie
2.1 Grundzüge der Maßtheorie
Hier wiederholen wir einige wichtige Resultate aus der Maßtheorie. Wir arbeiten über einer
Menge !, die wir als die Menge aller möglichen Beobachtungen eines Zufallsexperiments inter-
pretieren. Wir nennen ! das ’Universum’. Zum Beispiel ist ! = {1, 2, 3, 4, 5, 6}2 wenn wir den
Wurf von zwei Würfeln modellieren.
Definition 2.1 (Mengenalgebra). Sei ! eine Menge. Eine Menge A ≃ 2! von Teilmengen von
! heißt Mengenalgebra wenn
1. ⇐ ↑ A
2. A ↑ A ⇒ Ac = ! \ A ↑ A
3. A, B ↑ A ⇒ A⇑B ↑A
eine Mengenalgebra.
1. ⇐ = ⇐ ↔ ⇐ ↑ F
2. Sei F = ⇑ni=1 (Ai ↔ Bi ) ↑ F. Zu zeigen ist F c ↑ F. Wir nutzen Induktion über n. Für
n = 1 haben wir
(A1 ↔ B1 )c = (Ac1 ↔ !2 ) ⇑ (!1 ↔ B1c ) ↑ F ,
weil !1 = ⇐c , Ac1 ↑ A und !2 = ⇐c , B1c ↑ B. Im Induktionsschritt n ↘ n + 1 haben wir
F = F! ⇑ (An+1 ↔ Bn+1 ) mit F!c ↑ F, also F!c = ⇑m i=1 (Ci ↔ Di ) mit ci ↑ A und Di ↑ B.
Damit folgt
" #
F c = F!c ⇓ (Acn+1 ↔ !2 ) ⇑ (!1 ↔ Bn+1
c
)
" # " #
= F!c ⇓ (Acn+1 ↔ !2 ) ⇑ F!c ⇓ (!1 ↔ Bn+1c
)
" " ## " m " ##
= ⇑m c
i=1 (Ci ↔ Di ) ⇓ (An+1 ↔ !2 )
c
⇑ ⇑i=1 (Ci ↔ Di ) ⇓ (!1 ↔ Bn+1 ) ↑F
$ %& ' $ %& '
=(Ci ↔Acn+1 )↓Di c
=Ci ↓(Di ↔Bn+1 )
3. Trivial.
Definition 2.3 (ω-Algebra). Sei ! eine Menge. Eine Menge A ≃ 2! von Teilmengen von !
heißt ω-Algebra (über !) wenn
1. ⇐ ↑ A
2. A ↑ A ⇒ Ac = ! \ A ↑ A
(↑
3. An ↑ A , n ↑ N ⇒ n=1 An ↑ A
4
ω-Algebren übernehmen in der Wahrscheinlichkeitstheorie die Rolle der Menge aller beobacht-
baren Ereignisse (Events). Modellieren wir z.B. mit ! = {1, 2, 3, 4, 5, 6}2 zwei Würfelwürfe, so
ist A = 2! eine ω-Algeba über !. In diesem Falle haben wir
{1, 2} ↔ {4, 5, 6} =
"Der erste Würfel zeigt 1 oder 2 und der zweite Würfel zeigt 4,5 oder 6 Augen."
Beispiel 2.4 (Erzeugte ω-Algebra). Sei ! eine Menge und X ≃ 2! . Dann ist
)
ω(X ) := {A ≃ 2! : A ist ω-Algebra über ! mit X ≃ A}
die kleinste ω-Algebra über !, die X enthält, die von X erzeugte ω-Algebra.
Beispiel 2.5. Sei ! beliebig und X = {A} für ein A ≃ !. Dann ist
ω(X ) = {⇐, !, A, Ac } .
Beispiel 2.6. Sei ! ein topologischer Raum mit o!enen Mengen O. Dann ist B(!) := ω(O)
die Borelsche ω-Algebra auf !.
Beispiel 2.7. Die Borelsche ω-Algebra auf R wird von den Intervallen X = {(⇔↗, ε] : ε ↑ Q}
erzeugt. Die Borelsche ω-Algebra auf Rn wird von den Rechtecken
erzeugt.
Definition 2.8 (Messraum & Messbarkeit). Ein Messraum (oder messbarer Raum) ist ein
Paar (!, A), wobei A eine ω-Algebra über ! ist. Eine Menge A ↑ A nennen wir messbar. In
der Wahrscheinlichkeitstheorie sagen wir ’A ist ein Event’. Eine Abbildung f : !1 ↘ !2 von
einem Messraum (!1 , A1 ) in einem Messraum (!2 , A2 ) heißt messbar, wenn
X ↗1 [A] = {X ↑ A} .
5
+
Beispiel 2.11. Das Lebesgue-Maß ϱn auf Rn und das Zählmaß ς(A) = n↘N φn (A) = |A| auf
N sind ω-endlich. Hier ist φω das Dirac-Maß in ϖ ↑ ! für einen beliebigen Messraum (!, A)
definiert durch *
1 falls ϖ ↑ A ,
φω (A) := A ↑ A.
0 falls ϖ ↖↑ A ,
Das Lebesgue-Maß ϱn auf Rn ist das eindeutige Maß auf (Rn , B(Rn )) mit
n
,
" #
ϱn (ε1 , ϑ1 ] ↔ · · · ↔ (εn , ϑn ] = (ϑi ⇔ εi ) .
i=1
Maße führen in natürlicher Weise zu einem Integralbegri!. Sei (!, A, µ) ein Maßraum und
./ n
-
T (!, A) := εi Ai : εi ↑ R ⇑ {±↗} , Ai ↑ A disjunkt , n ↑ N
i=1
die Menge der ’Treppenfunktionen’ mit Werten in R ⇑ {±↗}. Sei T-+ (!, A) die Menge der
Treppenfuntionen mit Werten in [0, ↗]. Dann ist das Integral für alle f ↑ T-+ (!, A) definiert
durch n n
/ /
f dµ := εi µ(Ai ) , f= ε i Ai .
! i=1 i=1
Definition 2.12 (Integral). Für eine nichtnegative messbare Funktion f : ! ↘ [0, ↗] setzen
wir .
f dµ := f (x)µ(dx) := sup -
gdµ : g ↑ T+ (!, A) , g ↙ f .
!
Für ein messbares f : ! ↘ R mit |f |dµ < ↗ setzen
wir f dµ :=
f + dµ ⇔ f↗ dµ und für
ein f : ! ↘ C mit |f |dµ < ↗ setzen wir f dµ := Re f dµ + i Im f dµ.
Das Integral f dµ über eine Funktion f bleibt unverändert, wenn wir f auf einer Nullmenge
modifizieren, wenn also f durch f + g A ersetzt wird, wobei A ↑ A mit µ(A) = 0 ist. Wenn
eine Eigenschaft P für alle ϖ ↑ ! \ A gilt, sagen wir P gilt µ-fast überall. Ist µ = P ein
Wahrscheinlichkeitsmaß, so sagen wir P gilt P-fast sicher.
Definition 2.13. Sei (!, A) ein Messraum und P ein Wahrscheinlichkeitsmaß auf (!, A). Dann
nennen wir das Tripel (!, A, P) einen Wahrscheinlichkeitsraum.
Beispiel 2.14. Hier besprechen wir eine Liste typischer Wahrscheinlichkeitsräume.
• Diskrete Gleichverteilung: Sei ! eine endliche Menge und A = 2! , dann setzen wir
|A|
P(A) = , A↑A
|!|
+
die diskrete Gleichverteilung auf !. Wir können auch P = 1
|!| ω↘! φω schreiben.
• Bernoulli-Verteilung: Wir schreiben P = Bern(p) für die Verteilung auf ! = {0, 1} mit
A = 2! und P({1}) = p = 1 ⇔ P({0}) für ein p ↑ [0, 1].
• Binomial-Verteilung: Wir schreiben P = Bin(n, p) für die Verteilung auf ! = {0, 1, . . . , n}
mit A = 2! und
n k
P({k}) = p (1 ⇔ p)n↗k , k = 0, 1, . . . , n ,
k
für ein p ↑ [0, 1] und n ↑ N.
6
• Poisson-Verteilung: Auf ! = N0 mit A = 2! definieren wir die Verteilung P = Poisson(ϱ)
mit einem ϱ > 0 durch
ϱk
P({k}) = e↗ε , k ↑ N0 .
k!
• Stetige Gleichverteilung: Auf ! ≃ Rn messbar (also ! ↑ B(Rn )) mit 0 < ϱn (!) < ↗
setzen wir A := B(!) und definieren P = Uniform(!) durch
ϱn (A)
P(A) = , A ↑ B(!) .
ϱn (!)
• Gauß-Verteilung: Auf (R, B(R)) definieren wir P = N (a, v) für a ↑ R und v > 0 durch
1 (x→a)2
P(A) := ∝ e↗ 2v dx , A ↑ B(R) .
2↼v A
Maße haben sehr gute analytische Eigenschaften. Dies ist demonstriert durch die folgenden
wichtigen Konvergenzsätze.
Satz 2.15 (Satz von der monotonen Konvergenz). Sei (fn )n↘N eine monoton steigende Folge
messbarer Funktionen fn : (!, A) ↘ [0, ↗] und µ ein Maß auf !. Gilt fn ′ f , dann folgt
fn dµ ↘ f dµ .
Satz 2.16 (Lemma von Fatou). Sei (fn )n↘N eine Folge messbarer Funktionen fn : (!, A) ↘
[0, ↗]. Dann gilt
lim inf fn dµ ↙ lim inf fn dµ .
n→↑ n→↑
Satz 2.17 (Satz von der dominierten Konvergenz). Sei (fn )n↘N eine Folge messbarer Funktionen
fn : (!, A) ↘ C und g ↑ L1 (!, A, µ), so dass |fn | ↙ g µ-fast überall gilt. Dann folgt aus fn ↘ f ,
dass
fn dµ ↘ f dµ .
Satz 2.18 (Eindeutigkeitssatz für Maße). Es seien µ, ↽ zwei endliche Maße auf einem messbaren
Raum (!, A). Sei weiter X ≃ A durchschnittsstabil (d.h. A, B ↑ X ⇒ A ⇓ B ↑ X ) mit
ω(X ) = A und ! ↑ X , so dass µ(A) = ↽(A) für alle A ↑ X . Dann gilt µ = ↽.
Beweis. Wir werden den Beweis unten nachtragen, nachdem wir Dynkinsysteme besprochen
haben.
Definition 2.19 (Prämaß). Sei A eine Mengenalgebra über ! und µ : A ↘ [0, ↗]. Dann
heißt µ ein Prämaß, wenn
1. µ(⇐) = 0
( "( # +
2. An ↑ A , n ↑ N paarweise disjunkt mit n↘N An ↑ A ⇒ µ n↘N An = n↘N µ(An )
7
Der folgende Satz ist fundamental für die Konstruktion von Maßen.
Satz 2.20 (Fortsetzungssatz von Carathéodory). Sei A eine Mengenalgebra auf ! und µ : A ↘
[0, ↗] ein Prämaß. Dann gibt es eine Fortsetzung µ
- : ω(A) ↘ [0, ↗] von µ, so dass µ
- ein Maß
ist.
Definition 2.21 (Bildmaß). Sei (!, A, µ) ein Maßraum, (”, F) ein Messraum und X : (!, A, µ) ↘
(”, F) messbar. Dann ist µX : F ↘ [0, ↗], A ∞↘ µ(X ↗1 [A]) das Bildmaß von µ bzgl. X. Ist
µ = P ein Wahrscheinlichkeitsmaß, so sagen wir PX mit PX (A) = P[X ↑ A] ist die Verteilung
von X.
Die Verteilung PX (A) auf einer Menge A wird interpretiert als die Wahrscheinlichkeit, dass
X Werte in A annimmt, gegeben das zugrundeliegende Wahrscheinlichkeitsmodell P. Wir sagen
X ist PX -verteilt und schreiben X ∈ PX .
Lemma 2.22 (Bildmaße). Für das Bildmaß von µ unter X : (!, A, µ) ↘ (”, F) gilt
f ∋ Xdµ = f dµX ,
! ”
für alle messbaren f : ” ↘ [0, ↗]. Falls µ = P ein Wahrscheinlichkeitsmaß ist, schreiben wir
E f (X) = f (x)PX (dx) .
wegen der Linearität des Integrals. Im nächsten Schritt nehmen wir f △ 0 messbar an. In
diesem Fall finden wir fn ↑ T+ (”, F) mit fn ′ f und sehen
f (X)dµ = lim fn (X)dµ = lim fn dµX = f dµX ,
! n→↑ ! n→↑ ” ”
8
Satz 2.24 (Satz von Fubini). Seien (!1 , A1 , µ1 ) und (!2 , A2 , µ2 ) ω-endliche Maßräume. Weiter
sei f : (!1 ↔ !2 , A1 ▽ A2 ) ↘ [0, ↗] messbar. Dann gilt
f (x, y)µ2 (dy)µ1 (dx) = f (x, y)µ1 (dx)µ2 (dy) = f dµ1 ▽ µ2 .
!1 !2 !2 !1 !1 ↓!2
und
P(X ↑ A) = P({ϖ ↑ ! : X(ϖ) ↑ A}) .
Für eine Zufallsvariable X : (!, A) ↘ (”, F) definieren wir außerdem
ω(X) := {X ↗1 [A] : A ↑ F} ≃ A
In diesem Fall sagen wir, dass ↽ die Dichte f bezüglich µ hat und schreiben f = dϖ
dµ
. Beachte,
dass f µ-fast überall eindeutig ist, solange ↽ ω-endlich ist
Lemma 2.26. Sei f : (!, A) ↘ [0, ↗] messbar und µ, ↽ Maße auf (!, A) mit ↽ ̸ µ. Dann gilt
d↽
f d↽ = f dµ .
dµ
9
Beweis. Wir nutzen maßtheoretische Induktion. Für f = A ist
d↽ d↽
f d↽ = ↽(A) = dµ = f dµ
A dµ dµ
nach Definition der Absolutstetigkeit. Für Treppenfunktionen f ↑ T-+ folgt die Behauptung
wegen der Linerarität des Integrals und für beliebige messbare Funktionen f : (!, A) ↘ [0, ↗]
nach dem Satz von der monotonen Konvergenz.
Beispiel 2.27. Sei X : (!.A, P) ↘ Rn eine Zufallsvariable, so dass PX (dx) = ⇀X (x)dx für
ein messbares ⇀X : Rn ↘ [0, ↗). Dann nennen wir X eine stetige Zufallsvariable mit Dichte
⇀X . Z.b. im Fall n = 1 und ⇀X (x) = ϱe↗εx (0,↑) (x) für ein ϱ > 0, sagen wir, dass X
exponentialverteilt ist mit Parameter ϱ. Wir schreiben dann X ∈ Exp(ϱ), wobei
In (⇁) haben with ↽a ̸ µ und µ((B ⇓ B) ! c ) = 0 benutzt und die letzte Gleichung folgt ebenso
wie die vorherigen. Daher gilt ↽a = ↽!a . Für A ↑ A mit ↽(A) < ↗ schließen wir ↽s (A) =
↽(A)
( ⇔ ↽a (A) = ↽(A) ⇔ ↽!a (A) = ↽!s (A). Falls ↽(A) = ↗ wählen wir !n aufsteigend mit
n↘N !n = ! und ↽(!n ) < ↗ (möglich weil ↽ ω-endlich ist) und sehen
10
1. 0 ↑ D
2. f, g ↑ D impliziert max{f, g} ↑ D
Dann setzen wir f- := limm→↑ maxm n=1 fn ↑ D und definieren das Maß
↽a (A) := f-dµ , A ↑ A.
A
Insbesondere gilt ↽a (!) = f-dµ △ limn→↑ fn dµ = ε nach dem Satz von der monotonen
Konvergenz und f-dµ ↙ ε, weil f- ↑ D. Insgesamt ist ↽a (!) = ε. Da f- ↑ D, ist ↽s := ↽ ⇔ ↽a
auch ein nichtnegatives Maß.
Schritt 3: Wir zeigen nun, dass ↽s ⊥ µ. Hierfür fixieren wir ε > 0 und konstruieren rekursiv
eine Folge (An )n↘N disjunkter messbarer Mengen, so dass
" #
µ Bc = 0 und ↽s (B) ↙ ε µ(B) , B := An .
n↘N
Wir wählen An+1 ↑ An mit µ(An+1 ) △ ϑn /2. Für die so konstruierte Folge gilt
/ /
↽s (B) = ↽s (An ) ↙ ε µ(An ) = ε µ(B) .
n n
Es bleibt µ(B c ) = 0 zu zeigen. Wir führen einen Widerspruchsbeweis. Angenommen µ(B c ) > 0.
Dann gilt
(ε B c + f-)dµ = εµ(B c ) + ε > ε ,
11
Insbesondere
+ ist 0 ↙ ↽s (A) < ε µ(A ⇓ B c ), also A ⇓ B c ↑ An für alle n ↑ N. Da ↗ > µ(B) =
n↘N µ(An ) muss µ(An ) eine Nullfolge sein. Somit gibt es ein n ↑ N mit µ(An+1 ) < µ(A⇓B )/2.
c
1 1
↽s (B0 ) ↙ ↽s (B1/n ) ↙ µ(B1/n ) ↙ µ(!)
n n
für alle n ↑ N. Also ↽s (B0 ) = 0. Somit ist ↽s ⊥ µ.
Schritt 4: Sind µ, ↽ nun ω-endlich, dann wählen wir messbare Partitionen (!µn : n ↑ N), (!ϖn :
n ↑ N) von ! mit µ(!µn ) < ↗ und µ(!ϖn ) < ↗. Dann ist !n,m := !µn ⇓ !ϖm auch eine Partition
von !. Weiter sind µn,m := µ|!n,m und ↽ n,m := ↽|!n,m endlich. Hier ist
1. ↽ ̸ µ
Beweis. Die Richtung 1 ⇒ 2 ist trivial nach Definition von ↽ ̸ µ. Für die Richtung 2 ⇒ 1 sei
↽ = ↽a + ↽s die Lebesgue-Zerlegung bezüglich µ. Dann gibt es ein A ↑ A so dass µ(A) = 0 und
↽s (Ac ) = 0. Da A eine µ-Nullmenge ist, gilt ↽s (A) ↙ ↽(A) = 0, also ↽s (!) = ↽s (A)+↽s (Ac ) = 0.
Somit ist ↽ = ↽a ̸ µ.
1. ⇐ ↑ D
12
Insbesondere gilt für ein Dynkin-System D: A, B ↑ D mit A ≃ B impliziert B \ A ↑ D. In
der Tat ist (B \ A)c = (B ⇓ Ac )c = B c ⇑A
˙ ↑ D.
Lemma 2.34. Sei D ein Dynkin-System über !, das durchschnittsstabil ist (d.h. A, B ↑ D ⇒
A ⇓ B ↑ D). Dann ist D eine ω-Algebra.
Beweis. Seien An ↑ D. Wir müssen ⇑n↘N An ↑ D zeigen. Definiere B1 := A1 , B2 := A2 \ A1 =
A2 ⇓ Ac1 und allgemein Bn := An \ ⇑n↗1
m=1 Am = An ⇓ ⇓m=1 Am . Da D ⇓-stabil und abgeschlossen
n↗1 c
unter Komplementbildung ist, gilt Bn ↑ D. Außerdem ist ⇑n↘N An = ⇑˙ n↘N Bn ↑ D, weil D ein
Dynkin-System ist.
Lemma 2.35 (Dynkin-Lemma). Sei D ein Dynkin-System über ! und X ≃ D durchschnittssta-
bil. Dann gilt ω(X ) ≃ D.
Beweis. Sei E das kleinste Dynkin-System, das X enthält, also
)
E = {F ≃ 2! : F ist ein Dynkin-System und X ≃ F} .
O!enbar gilt X ≃ E. Wir zeigen, dass E tatsächlich ein Dynkin-System ist. ⇐ ↑ E, denn ⇐ ↑ F
für alle Dynkin-Systeme F. Für A ↑ E gilt A ↑ F für alle Dynkin-Systeme F mit X ≃ F . Also
gilt auch Ac ↑ F und somit Ac ↑ E. Ebenso zeigen wir die Abgeschlossenheit unter disjunkten
Vereinigungen.
Wir werden nun zeigen, dass E = ω(X ). Daraus folgt dann die Behauptung.
Schritt 1: Hier zeigen wir
Wir setzen
E1 := {A ↑ E : ∀ B ↑ X gilt A ⇓ B ↑ E} ≃ E .
Wir zeigen, dass E1 ein Dynkin-System ist, das X enthält und somit E ≃ E1 , also E = E1 .
Beweis dazu:
• Schließlich gilt für alle A ↑ X und B ↑ X , dass A ⇓ B ↑ X , weil X ⇓-stabil ist. Somit
ist X ≃ E1 .
E2 := {A ↑ E : ∀ B ↑ E gilt A ⇓ B ↑ E} ≃ E .
Wir zeigen, dass E2 ein Dynkin-System ist. Da X ≃ E2 folgern wir dann E ≃ E2 , also E = E2 .
Wir überprüfen die Eigenschaften eines Dynkin-Systems für E2 . Dies geht exact wie eben.
13
• Für A ↑ E2 und B ↑ E gilt Ac ↑ E (da E ein Dynkin-System ist) und Ac ⇓B = B\(A⇓B) ↑
E, weil A ⇓ B ↑ E nach Definition von E2 und E ein Dynkin-System ist. Somit ist Ac ↑ E2
D := {A ↑ A : µ(A) = ↽(A)} .
Wir zeigen, dass D ein Dykin-System ist. Damit folgt dann wegen der Voraussetzung X ≃ D
aus dem Dynkin-Lemma, dass A = ω(X ) ≃ D. Somit ist µ = ↽. Wir überprüfen nun die
Eigenschaften eines Dykin-Systems.
• ⇐ ↑ D, weil µ(⇐) = 0 = ↽(⇐).
2.3 Produktmaße
Nun besprechen wir endliche Produktmaße.
Definition 2.36. Seien (!i , Ai , µ"i )
i=1 ω-endliche Maßräume.
n
# Dann schreiben wir ▽ni=1 µi für
n
das eindeutig bestimmte Maß auf i=1 !i , ▽i=1 Ai mit der Eigenschaft
n
n
,
▽ni=1 µi (A1 ↔ · · · ↔ An ) = µi (Ai )
i=1
▽ni=1 Ai = ω({A1 ↔ · · · ↔ An : Ai ↑ Ai }) .
14
überein. Nach dem Eindeutigkeitssatz für Maße folgt µ|!(m) = ↽|!(m) , also auch µ = ↽.
Für die Existenz benutzen wir Induktion über n. Der Fall n = 2 ist die Konstruktion des
Produktmaßes µ1 ▽ µ2 . Hierfür definieren wir
µ1 ▽ µ2 (A) := A (ϖ1 , ϖ2 )µ2 (dϖ2 )µ1 (dϖ1 ) , A ↑ A1 ▽ A 2 .
!1 !2
Für diese Definition müssen wir zeigen, dass !2 ∃ ϖ2 ∞↘ A (ϖ1 , ϖ2 ) messbar ist. Zu diesem
Zweck definieren wir
D := {A ↑ A1 ▽ A2 : A (ϖ1 , · ) messbar} .
Dann enthält D das durchschnittsstabile Erzeugendensystem
X := {A1 ↔ A2 : A1 ↑ A1 , A2 ↑ A2 } ,
da A1 ↓A2 (ϖ1 , · ) = A1 (ϖ1 ) A2 messbar ist. Wir zeigen nun, dass D ein Dynkin-System ist.
Daraus folgt dann A1 ▽ A2 = ω(X ) ≃ D aus dem Dynkin-Lemma. In der Tat gilt
1. ⇐ ↑ D ist o!ensichtlich, da ≃ (ϖ1 , · ) = 0 messbar ist.
nach Induktionsvoraussetzung.
Wir erinnern an den Begri! der Unabhängigkeit.
15
Definition 2.37. Auf einem Wahrscheinlichkeitsraum (!, A, P) heißt eine Familie (Ai )i↘I von
Ereignissen unabhängig, wenn ,
P[⇓j↘J Aj ] = P[Aj ]
j↘J
Beweis. Seien zunächst (Xi )i↘I unabhängig. Dann ist nach Definition die Familie der Ereignisse
({Xj ↑ Aj })j↘J mit Aj ↑ Fj unabhängig. Dies aber bedeutet, dass
, , ,
PX J Aj = P X J ↑ Aj = P[⇓j↘J {Xj ↑ Aj }] = PXj (Aj ) .
j↘J j↘J j↘J
unabhängig, denn
, ,
P(⇓j↘J {Xj ↑ Aj }) = PXJ Aj = PXj (Aj ) .
j↘J j↘J
Eine weitere Anwendung des Dynkin-Lemmas ist, die Unabhängigkeit von Zufallsvariablen
auf Erzeugendensystemen zu überprüfen.
Lemma 2.39. Sei (!, A, P) ein Wahrscheinlichkeitsraum und Ai ≃ A mit i ↑ I durchschnittssta-
bil und unabhängig. Dann sind auch (ω(Ai ))i↘I unabhängig.
2.4 Ungleichungen
Lemma 2.40 (Markov-Ungleichung). Sei X eine reelle Zufallsvariable auf einem Wahrschein-
lichkeitsraum (!, A, P) und f : R ↘ [0, ↗) eine monoton steigende messbare Funktion mit
f (x) > 0 für alle x > 0. Dann gilt
Ef (X)
P(X △ ε) ↙
f (ε)
16
Proof. Wir benutzen die punktweise Ungleichung
f (X) f (X)
{X⇒ς} ↙ {X⇒ς} ↙
f (ε) f (ε)
E[X A ] E[X, A]
E[X|A] := = .
P[A] P[A]
Für ein Ereignis B ↑ A definieren wir außerdem die elementare bedingte Wahrscheinlichkeit
von B, gegeben A durch
P(A ⇓ B)
P(B|A) := .
P(A)
Bemerkung 3.2. Die elementare bedingte Erwartung E[X|A] ist der Erwartungswert EP[ · |A] [X]
von X bezüglich des bedingten Maßes A ∃ B ∞↘ P(B|A).
Beweis. Wir müssen zeigen, dass
E[X|A] = X(ϖ)P(dϖ|A) .
Die Identität ist klar für X = B mit B ↑ A. Nun verwenden wir maßtheoretische Induktion.
17
Beispiel 3.3. Sei X ∈ Exp(ϱ).
↑ ↑ ↗εx
ϱ a xe↗εx dx ⇔xe↗εx |↑
a + a e dx ae↗εa + ε1 e↗εa 1
E[X|X > a] = ↑ ↗εx = = = a + .
ϱ a e dx ⇔e↗εx |↑
a e↗εa ϱ
• X ↑ L1 (!, A, P) und Y : (!, A) ↘ (”, 2” ) eine diskrete Zufallsvariable mit P[Y = y] > 0
für alle y ↑ ”.
Beachte: E[X|Y ] hängt nicht von den genauen Werten von Y ab, sondern nur von der
Partition ({Y = y} : y ↑ ”) von !. Äquivalent, hängt E[X|Y ] nur von der von Y erzeugten
ω-Algebra ω(Y ) = {Y ↗1 [B] : B ≃ ”} ab.
Wir erinnern an die von Zufallsvariablen erzeugte ω-Algebra.
Definition 3.4 (Erzeugte ω-Algebra). Sei (!, A) ein messbarer Raum und X : (!, A) ↘
(”, F) eine Zufallsvariable. Die ω-Algebra ω(X) := {X ↗1 [B] : B ↑ F} heißt die von X
erzeugte ω-Algebra.
Für einen stochastischen Prozess (Xi : (!, A) ↘ (”i , Fi ))i↘I heißt ω(Xi : i ↑ I) :=
ω({Xi↗1 [B] : i ↑ I, B ↑ Fi }) die von (Xi : i ↑ I) erzeugte ω-Algebra.
Definition 3.5 (Bedingte Erwartung). Sei X ↑ L1 (!, A, P) und F ≃ A eine Unter-ω-Algebra.
! heißt bedingte Erwartung von X gegeben F wenn folgendes gilt:
Eine Zufallsvariable X
! ist F-B(R)-messbar.
1. X
! A].
2. Für alle A ↑ F gilt E[X, A] = E[X,
In diesem Fall schreiben wir X! = E[X|F]. Wir werden gleich sehen, dass diese Definition fast
sicher eindeutig ist.
Ist Y eine Zufallsvariable (bzw. (Yi : i ↑ I) ein stochastischer Prozess), dann setzen wir
E[X|Y ] := E[X|ω(Y )] (bzw. E[X|Yi : i ↑ I] := E[X|ω(Yi : i ↑ I)]).
Wir interpretieren E[X|Y ] als die beste Approximation von X, wenn nur die in Y kodierte
Information ω(Y ) gegeben ist.
Lemma 3.6 (Eindeutigkeit der bedingten Erwartung). Seien X1 und X2 zwei bedingte Er-
wartungen von X ↑ L1 (P), gegeben F. Dann gilt X1 = X2 P-fast sicher.
weil {X1 > X2 } ↑ F. Wir schließen, dass die nichtnegative Zufallsvariable (X1 ⇔ X2 )+ =
(X1 ⇔ X2 ) {X1 >X2 } P-f.s. null ist. Ebenso zeigen wir (X1 ⇔ X2 )↗ = 0 P-f.s., also gilt P-f.s.
X 1 = X2 .
18
2. Ist Y : (!, A) ↘ (”, 2” ) diskret mit P[Y = y] > 0 für alle y ↑ ”. Dann stimmt die
Definition in (3.1) mit der aus Definition 3.5 überein.
Ebenso
1 △ P[Y ↑ B] = f (x, y)µ(dx)↽(dy) = ↗ · ↽(B)
B R
für B = {y ↑ ” : f (x, y)µ(dx) = ↗}. Also, ↽(B) = 0 und P[Y ↑ B] = 0. In gleicher Weise
erhalten wir mit C := {y ↑ ” : |x|f (x, y)µ(dx) = ↗}:
↗ > E|X| △ |x|f (x, y)µ(dx)↽(dy) = ↗ · ↽(C) .
C R
Somit gilt ↽(C) = 0 und P[Y ↑ C] = C R f (x, y)µ(dx)↽(dy) = 0.
Wir müssen noch g(Y ) = E[X|Y ] zeigen. In der Tat ist g(Y ) = g ∋ Y als Komposition
der ω(Y )-F-messbaren Zufallsvariable Y und der F-B(R)-messbaren Funktion g ω(Y )-B(R)-
messbar. Weiter gilt für A ↑ ω(Y ), also A = {Y ↑ B} mit einem B ↑ F, dass
x f (x, y)µ(dx)
E [g(Y ), A] = B (y)f (-
x, y)µ(d-
x)↽(dy)
” R f (!
x, y)µ(d!
x)
= x f (x, y) B (y)µ(dx)↽(dy) = E[X, A] .
” R
Beispiel 3.9. Zwei typische Bespiele sind der stetige und diskrete Fall.
1. Sind X, Y diskrete Zufallsvariablen mit gemeinsamer Zähldichte gegeben durch p(x, y) :=
P[X = x, Y = y]. Dann gilt
+
x p(x, y)
E[X|Y ] = g(Y ) , g(y) = +x
x p(x, y)
19
dP(X,Y )
2. Ist (X, Y ) : ! ↘ R2 ein Zufallsvektor mit (Lebesgue-) Dichte f = dε2
und E|X| < ↗.
Dann gilt
x f (x, y)dx
E[X|Y ] = g(Y ) , g(y) = .
f (x, y)dx
Lemma 3.10 (Existenz der bedingten Erwartung). Für X ↑ L1 (!, A, P) und alle Unter-ω-
Algebren F ≃ A existiert E[X|F] und E[X|F] ↑ L1 (!, F, P).
Beweis. Zuerst betrachten wir den Fall X △ 0. Die Abbildung µ : F ↘ [0, ↗), A ∞↘ E[X, A]
ist ein endliches Maß. In der Tat ist µ △ 0, µ(⇐) = 0 und
/ /
µ(⇑n An ) = E[X ⇐n An ] = E[X An ] = µ(An )
n n
Im Falle F = ω(Y ) für eine Zufallsvariable Y : (!, A) ↘ (”, F), lässt sich die bedingte
Erwartung von X, gegeben Y immer in der Form E[X|Y ] = g(Y ) schreiben. Hier ist g :
(”, F) ↘ R messbar. Dies folgt aus dem folgenden Faktorisierungslemma.
Lemma 3.11 (Faktorisierungslemma). Seien X : (!, A) ↘ R, Y : (!, A) ↘ (”, F) zwei Zu-
fallsvariablen auf einem Messraum (!, A) und sei X ω(Y )-messbar. Dann existiert ein mess-
bares g : (”, F) ↘ R, so dass X = g(Y ).
+
Beweis. Wir betrachten zunächst den Fall, dass X = i εi Ai eine Treppenfunktion ist mit
Ai ↑+ ω(Y ). Nach Definition von ω(Y ) ist Ai = {Y ↑ Bi } für Bi ↑ F, also X = g(Y ) mit
g := i εi Bi .
Nun gilt, dass für X1 = g1 (Y ) und X2 = g2 (Y ) auch max{X1 , X2 } = max{g1 , g2 } ∋ Y , d.h.
wenn für X1 und X2 eine Faktorisierung existiert, so existiert sie auch für max{X1 , X2 }
Nun sei X △ 0 ω(Y )-messbar. Dann wählen wir eine Folge Xn △ 0 von Treppenfunktionen
mit Xn ′ X und nutzen die bereits bewiesene Zerlegung Xn = gn (Y ). Wir setzen g :=
supn gn [0,↑) (supn gn ) und erhalten damit die gewünschte Zerlegung X = g(Y ). Beachten Sie,
dass supn gn = limn→↑ max{g1 , . . . , gn }.
Schließlich zerlegen wir für beliebiges X : (!, A) ↘ R in den Positiv- und Negativteil
X = X+ ⇔ X↗ und nutzen die bereits bewiesene Zerlegung X+ = g1 (Y ) und X↗ = g2 (Y ), um
X = g(Y ) für g = g1 ⇔ g2 zu zeigen.
20
Lemma 3.12 (Eigenschaften der bedingten Erwartung). Seien X, Y ↑ L1 (!, A, P) und F ≃ A
eine Unter-ω-Algebra. Dann gilt
2. Die bedingte Erwartung ist linear, nämlich E[εX + Y |F] = εE[X|F] + E[Y |F] .
4. E[E[X|F]] = EX
für alle A ↑ F.
Zu 3: Wegen der Linearität reicht es zu zeigen E[X ⇔ Y |F] △ 0 falls X ⇔ Y △ 0. Also reicht
es den Fall Y = 0 zu behandeln. Hier gilt E[E[X|F], A] = E[X, A] △ 0 für alle A ↑ F. Somit
ist E[X|F] △ 0 P-fast überall.
Zu 4: Dies folgt aus E[E[X|F], A] = E[X, A] mit A = !.
Zu 5: Wir zeigen, dass Z := E[E[X|F]|G] die bedingte Erwartung von X gegeben G ist. Sei
A ↑ G. Dann gilt
E[Z, A] = E[E[X|F], A] = E[X, A] .
Zu 6: Es reicht den Fall X △ 0 und Y △ 0 zu behandeln. Der allgemeine Fall folgt dann
durch Zerlegung in X = X+ ⇔ X↗ und Y = Y+ ⇔ Y↗ . Den Fall X △ 0 und Y △ 0 beweisen wir
durch Maßtheoretische Induktion über Y .
Schritt 1: Y = B für ein B ↑ F. Dann gilt
21
Die bedingte Erwartung erfüllt eine bedingte Versionen des Satzes von der dominierten
Konvergenz.
Satz 3.13 (Bedingte Version der dominierten Konvergenz). Sei (Xn )n↘N eine Familie R-wertigen
Zufallsvariablen, F ≃ A eine Unter-ω-Algebra und X, Z zwei weitere R-wertige Zufallsvariablen
mit Z △ 0, EZ < ↗ und supn↘N |Xn | ↙ Z. Es gelte außerdem Xn ⇔↘ X punktweise. Dann
n→↑
folgt
lim E[Xn |F] = E[X|F]
n→↑
Beweis. Übungen!
Wir erinnern uns an den Begri! der Konvexität. Eine Funktion f : R ↘ R heisst konvex,
wenn für alle x, y ↑ R und ϱ ↑ [0, 1] gilt
Das ist äquivalent zu der Aussage, dass für alle y ↑ R eine Konstante cy ↑ R existiert, so dass
Beweis. Wir behandeln zunächst den Fall, dass X beschränkt ist. Sei cY wie in (3.2) und
Y := E[X|F]. Dann ist Y beschränkt und es gilt
f (X) △ f (Y ) + cY (X ⇔ Y ) ,
also auch
E[f (X)|F] △ E[f (Y )|F] + cY (E[X|F] ⇔ E[Y |F]) = f (Y ) .
Also ist die bedingte Version der Jensenschen Ungleichung in diesem Fall gezeigt.
Sei nun X nicht notwendigerweise beschränkt. Dann definieren wir
Xn := X (|X| ↙ n) .
E[f (X)|F] = lim E[f (Xn )|F] △ lim f (E[Xn |F]) = f (E[X|F]) .
n→↑ n→↑
22
Im Spezialfall F = {⇐, !} erhalten wir die unbedingten Version der Jensenschen Ungle-
ichung, nämlich
Ef (X) △ f (EX) .
Ein einfaches Beispiel für die Anwendung der (unbedingten Version der) Jensenschen Ungle-
ichung ist EX 2 △ (EX)2 für X ↑ L2 (P), weil x ∞↘ x2 konvex ist. Das kennen Sie auch als die
Nichtnegativität der Varianz, Var X = EX 2 ⇔ (EX)2 △ 0.
Die bedingte Version der Jensenschen Ungleichung impliziert auch
Beweis. Wir müssen zeigen, dass ↼ ∋ ↼ = ↼ und dass Bild(↼) = L2 (!, F, P) ⊥ Kern(↼). Wir
beginnen mit Bild(↼) = L2 (!, F, P). Die Inklusion ≃ haben wir schon mit Hilfe der Jensenschen
Ungleichung gesehen. Für die Inklusion ℜ sei X ↑ L2 (!, F, P). Dann gilt ↼(X) = E[X|F] =
X ↑ Bild(↼).
Nun zeigen wir L2 (!, F, P) ⊥ Kern(↼). Sei dazu X ↑ Kern(↼) und Y ↑ L2 (!, F, P). Dann
gilt
¬X , Y ∅ = E[XY ] = E[E[XY |F] = E[Y E[X|F] = E[Y ↼(X)] = 0 .
Schließlich haben wir für alle X ↑ L2 (!, A, P) dass
also ↼ ∋ ↼ = ↼.
3. Falls Y : (!, A) ↘ (”, 2” ) diskret ist mit P[Y = y] > 0 für alle y ↑ ”, gilt
/
P[A|Y ] = P[A|Y = y] {Y =y} .
y↘”
23
bezüglich zweier ω-endlicher Referenzmaße µ auf (!X , AX ) und ↽ auf (!Y , AY ), so gilt
für alle A ↑ AX , dass
f (x, Y )µ(dx)
P[X ↑ A|Y ] = A , P ⇔ fast sicher.
!X
f (x, Y )µ(dx)
Beachten Sie hierfür, dass X↘A eine reelle Zufallsvariable ist und X↘A , Y eine gemein-
same Dichte auf R ↔ !Y bezüglich (φ0 + φ1 ) ▽ ↽. Es gilt nämlich
*
f (x, y) A (x) B (y)µ(dx)↽(dy) falls i = 1 ,
P( X↑A ,Y ) [{i}↔B] = P[ X↘A = i, Y ↑ B] =
f (x, y) Ac (x) B (y)µ(dx)↽(dy) falls i = 0 .
Also ist *
dP( X↑A ,Y ) f (x, y)µ(dx) falls i = 1 ,
(i, y) = A
d(φ0 + φ1 ) ▽ ↽ Ac
f (x, y)µ(dx) falls i = 0 .
Sei nun .
! Y :=
! y ↑ !Y : 0 < f (x, y)µ(dx) < ↗ .
K : A1 ↔ !2 ↘ [0, 1]
Seien X : (!, A) ↘ (!X , AX ) und Y : (!, A) ↘ (!Y , AY ) zwei Zufallsvariablen. Ein stochastis-
cher Kern von (!Y , AY ) nach (!X , AX ) heißt Erwartungskern von X gegeben Y wenn gilt:
Für alle A ↑ AX ist K(A, Y ) = P[X ↑ A|Y ] P-fast sicher.
Für F ≃ A eine Unter-ω-Algebra heißt ein stochastischer Kern von (!, F) nach (!X , AX )
Erwartungskern von X : (!, A) ↘ (!X , AX ) gegeben F falls für alle A ↑ AX P-fast sicher
gilt K(A, · ) = P[X ↑ A|F]. Dies ist der Spezialfall Y = Id : (!, A) ↘ (!, F).
Ein Erwartungskern von X gegeben Y ist eine Vorhersage der Verteilung von X, wenn
Y bekannt ist. Leider gibt es Außnahmefälle in denen ein Erwartungskern nicht existiert.
Das Problem liegt darin, dass die bedingten Erwartungen nur fast sicher eindeutig sind und
potentiell auf Nullmengen abgeändert werden müssen, um die Maßeigenschaften von K( · , y) zu
garantieren. Gibt es "zu viele" disjunkte Folgen in AX für welche die ω-Additivität garantiert
werden muss, so ist eine Konstruktion des Erwartungskerns unmöglich. Wir brauchen daher
Abzählbarkeitsvoraussetzungen an (!X , AX ).
24
Definition 3.19. Ein metrischer Raum (!, d) heißt separabel, wenn er eine abzählbar dichte
Teilmenge enthält. Er heißt vollständig, wenn jede Cauchyfolge konvergiert. Ein messbarer
Raum (!, A) heißt polnisch, wenn es eine Metrik d auf ! gibt, so dass (!, d) vollständig und
separabel ist und wenn A die von d erzeugte Borellsche ω-Algebra ist.
Zum Beispiel ist Rn mit der Standardmetrik d(x, y) = ℑx ⇔ yℑ ein polnischer Raum. Hier
ist Qn eine abzählbar dichte Teilmenge. Es gibt aber auch kompliziertere polnischer Räume,
etwa Lp (Rn , B(Rn ), dx) für p ↑ [1, ↗) mit der entsprechenden Borellschen ω-Algebra.
Satz 3.20. Sei (!, A, P) ein Wahrscheinlichkeitsraum, X : (!, A) ↘ (!X , AX ) eine Zufallsvari-
able mit Werten in einem polnischen Raum (!X , AX ) und F ≃ A ein Unter-ω-Algebra. Dann
existiert ein Erwartungskern K von X gegeben F.
K(A, · ) = P[X ↑ A|F]
Beweis. Wir führen hier nur den Beweis für !X = R. Für den allgemeinen Fall siehe "Bauer:
Wahrscheinlichkeitstheorie und Grundzüge der Maßtheorie, Satz 56.5".
Schritt 1: Für alle q ↑ Q wählen wir eine Version der bedingten Erwartung Fq = P[X ↙ q|F].
Dann definieren wir
) )
!! := {Fp ↙ Fq } ⇓ lim Fn = 0 ⇓ lim Fn = 1 ⇓ lim Fq+1/n = Fq ,
n→↗↑ n→↑ n→↑
p⇓q q
wobei hier p, q ↑ Q. Wir zeigen, dass ! ! c eine Nullmenge ist. In der Tat gilt für feste p, q ↑ Q
mit p ↙ q, dass Fp ↙ Fq P-fast sicher, da {X⇓p} ↙ {X⇓q} und die bedingte Erwartung
monoton ist. Wegen des bedingten Satzes der dominierten Konvergenz gelten limn→↗↑ Fn = 0,
limn→↑ Fn = 1 und limn→↑ Fq+1/n = Fq für q ↑ Q jeweils P-fast sicher. Nun ist der abzählbare
! = 1.
Schnitt P-fast sicherer Ereignisse ein P-fast sicheres Ereignis, also P(!)
Schritt 2: Für ϖ ↑ ! ! ist Q ∃ q ∞↘ Fq (ϖ) die Einschränkung einer eindeutigen Verteilungs-
funktion F- = F-(ϖ) : R ↘ [0, 1] mit den folgenden Eigenschaften:
1. Monoton: F-(x) ↙ F-(y) für alle x ↙ y.
25
(a) K(Ac , · ) = 1 ⇔ K(A, · ) ist F-messbar.
(b) K(Ac , · ) = 1 ⇔ K(A, · ) = 1 ⇔ P[X ↑ A|F] = E[(1 ⇔ {X↘A} )|F] = P[X ↑ Ac |F] gilt
P-fast sicher.
Satz 3.21. Seien X und F wie im vorangegangenen Satz. Seien nun K1 und K2 zwei Er-
wartungskerne von X, gegeben F. Dann gibt es eine P-Nullmenge N ↑ F, so dass
K1 (A, ϖ) = K2 (A, ϖ)
wählen. Sei nun X- die Menge aller endlichen Durchschnitte über Mengen aus X . Dann ist X-
ein abzälbares ⇓-stabiles Erzeugendensystem von X-. Für A ↑ X gilt
Sei nun ! \ N die Menge aller ϖ ↑ ! auf der die Gleichheit K1 (A, ϖ) = K2 (A, ϖ) für alle A ↑ X-
gilt. Dann ist P[N ] = 0. Da die Wahrscheinlichkeitsmaße K1 ( · , ϖ) = K2 ( · , ϖ) für ϖ ↑ ! \ N
auf X- übereinstimmen, sind sie identisch.
Beispiel 3.22 (Diskrete Markov-Ketten). Sei # eine abzählbare Menge und (↼(x, y))x,y↘# eine
Matrix mit nichtnegativen Einträgen, so dass
/
↼(x, y) = 1 , x ↑ #.
y↘#
Wir nennen einen stochastischen Prozess (Xn )n↘N0 mit Werten in Xn ↑ # eine homogene
Markov-Kette mit Kern ↼, wenn
/
P[Xn+1 ↑ A|Xn , . . . , X0 ] = P[Xn+1 ↑ A|Xn ] = ↼(Xn , y) . (3.3)
y↘A
In anderen Worten, der Erwartungskern von Xn+1 gegeben die gesamte Vergangenheit (X0 , X1 , . . . , Xn )
hängt nur von Xn ab (ist ω(Xn )-messbar). Somit ist er der Erwartungskern K von Xn+1 gegeben
Xn und erfüllt /
K : 2# ↔ # ↘ [0, 1] , (A, x) ∞↘ ↼(x, y) .
y↘A
26
Angenommen der Prozess startet mit Verteilung µ auf ”, d.h. P[X0 = x0 ] = µ(x0 ). Wir
bestimmen die Verteilung PXn des Prozesses zum Zeitpunkt n durch Bedingen, nämlich
3.3 Martingale
Martingale sind stochastische Prozesse die z.B. den zeitlichen Verlauf eines fairen Glückspiels
beschreiben. Wie bisher wird der Informationsstand des Zufallsexperiments durch ω-Algebren
kodiert. Zur Beschreibung der wachsenden Information mit fortschreitender Zeit benötigen wir
folgende Definition.
Definition 3.23. Sei (!, A) ein messbarer Raum und I ≃ R ⇑ {±↗}. Eine Familie F = (Ft :
t ↑ I) von ω-Algebren Ft ≃ A heißt Filtration falls Fs ≃ Ft für alle s ↙ t. Ein stochastischer
Prozess (Xt )t↘I heißt F-adaptiert wenn Xt Ft -messbar ist.
Wir interpretieren Ft als die Information, die zum Zeitpunkt t beobachtbar ist. Während
wir alle in Xs mit s ↙ t kodierte Information zum Zeitpunkt t kennen, ist uns Xs mit s > t
möglicherweise nicht vollständig bekannt.
Wir werden vorwiegend I = N0 betrachten. Dann reicht es für die Filtration Fn ≃ Fn+1 zu
fordern.
Jeder stochastische Prozess X = (Xn )n↘N0 erzeugt auf natürliche Weise eine Filtration durch
Fn = ω(X0 , . . . , Xn ). In diesem Fall ist X (Fn )n -adaptiert.
Definition 3.24. Sei F = (Ft )t↘I eine Filtration über (!, A, P). Ein F-adaptierter stochastis-
cher Prozess Xt ↑ L1 (!, A, P) heißt
Bemerkung 3.25. 1. Martingale modellieren faire Spiele, bei denen Xs etwa das Guthaben
eines Spielers zum Zeitpunkt s beschreibt. Das erwartete Guthaben des Spielers zum
zukünftigen Zeitpunkt t △ s gegeben die zum Zeitpunkt s bekannte Information stimmt
mit dem Guthaben zum Zeitpunkt s überein, also E[Xt |Fs ] = Xs .
2. Supermartingale sind für den Spieler ungünstig. Ihr aktueller Wert liegt über dem für die
Zukunft erwarteten Wert. Submartingale sind vorteilhaft für den Spieler, denn ihr Wert
liegt unter dem für die Zukunft erwarteten.
3. Der Prozess (Xt )t↘I ist ein F-Supermartingal genau dann wenn (⇔Xt )t↘I ein F-Submartingal
ist. Wir werden deshalb unsere Analyse häufig auf Submartingale beschränken.
27
Beispiel 3.26. Sei I ≃ R ⇑ {±↗} und F = (Ft )t↘I eine Filtration über (!, A, P). Sei ferner
X ↑ L1 (!, A, P). Dann ist (E[X|Ft ])t↘I ein F-Martingal. In der Tat gilt für s ↙ t, dass
E[E[X|Ft ]|Fs ] = E[X|Fs ]
P-fast sicher wegen der "Turmeigenschaft" der bedingten Erwartung.
Beispiel 3.27. Zwei Spieler, Alexander (A) und Barbara (B), spielen ein Glücksspiel. Sie
werfen immer wieder eine Münze. Bei "Zahl" zahlt A an B einen Euro, bei "Kopf" zahlt B an
A einen Euro.
Wir formalisieren dieses Spiel. Seien (Zn )n↘N i.i.d. Zufallsvariablen mit Werten in {±1}.
Zn ist der Gewinnzuwachs von A in der n-ten Runde, + d.h. Zn = 1 falls der n-te Wurf "Kopf"
zeigt. Der kumulierte Gewinn von A ist Xn = ni=1 Zi . Wir wählen die natürliche Filtration
F := (Fn )n↘N mit Fn := ω(Zn , Zn↗1 , . . . , Z1 ). Dann ist X = (Xn )n↘N F-adaptiert. Sei nun
P[Zi = 1] = p und P[Zi = ⇔1] = 1 ⇔ p. Dann gilt
• Ist die Münze fair (p = 1/2), so ist X ein F-Martingal.
• Ist die Münze unfair zu Ungunsten von A (p < 1/2), so ist X ein F-Supermartingal.
• Ist die Münze unfair zu Gunsten von A (p > 1/2), so ist X ein F-Submartingal.
Um dies zu zeigen benutzen wir folgendes Lemma.
Lemma 3.28. Sei X = (Xn )n↘N ein F = (Fn )n↘N -adaptierter Prozess mit Xn ↑ L1 (!, A, P).
Dann sind äquivalent:
1. X ist ein F-Martingal (bzw. F-Supermartingal, bzw. F-Submartingal).
2. Für alle n ↑ N gilt E[Xn+1 |Fn ] = Xn P-f.s. (bzw. E[Xn+1 |Fn ] ↙ Xn , bzw. E[Xn+1 |Fn ] △
Xn ) .
3. Für alle n ↑ N gilt E[Xn+1 ⇔ Xn |Fn ] = 0 P-f.s.
(bzw. E[Xn+1 ⇔ Xn |Fn ] ↙ 0, bzw. E[Xn+1 ⇔ Xn |Fn ] △ 0) .
Beweis. Wir behandeln nur den Martingal-Fall. 1) ⇒ 3):
E[Xn+1 ⇔ Xn |Fn ] = E[Xn+1 |Fn ] ⇔ E[Xn |Fn ] = 0.
$ %& ' $ %& '
=Xn , da X Martingal =Xn , da X adaptiert
gilt. Wir zeigen dies durch Induktion über m. Wir starten mit dem trivialen Fall m = n, der
aus der Adaptiertheit von X folgt. Nun gelte (3.4). Dann folgt auch
E[Xn |Fm↗1 ] = E[E[Xn |Fm ]|Fm↗1 ] = E[Xm |Fm↗1 ] = Xm↗1 .
Hier haben wir nacheinander die "Turmeigenschaft" der bedingten Erwartung, die Induk-
tionsvoraussetzung und 2) benutzt.
+n
Beispiel 3.29. Allgemeiner als oben ist Xn = k=1 Zk mit Zk ↑ L (!, A, P) i.i.d. ein F-
1
28
Beispiel 3.30. Sei (Xt )t↘I ein F = (Ft )t↘I -Martingal. Sei weiter f : R ↘ R konvex und
f (Xt ) ↑ L1 (!, A, P) für alle t ↑ I. Dann ist (f (Xt ))t↘I ein F-Submartingal. Dies folgt aus der
Jensenschen Ungleichung wegen
Zum Beispiel ist für Xt ↑ L2 (!, A, P) ein F-Martingal die Folge (Xt2 )t↘I ein F-Submartingal.
Eine große Klasse von Beispielen für Martingale sind Glücksspiele mit Einsatz. Wir können
hier auch an Aktienkurse mit entsprechend gewählten Portfolios denken. Wir stellen uns vor,
dass Spieler A gegen die Bank spielt und Zn der Ausgang eines Zufallsexpertiments (z.B. ein
Münzwurf) in der n-ten Runde ist. Nun kann A in jeder Runde einen Einsatz Vn wählen. Dieser
Einsatz darf nur von der Information abhängen, die A zum Zeitpunkt n ⇔ 1 hat, also von der
Vergangenheit kodiert in Fn↗1 .
Definition 3.31. Sei F = (Fn )n↘N0 eine Filtration auf (!, A, P). Ein Prozess (Vn )n↘N heißt
vorhersagbar, wenn Vn Fn↗1 -messbar ist für alle n ↑ N.
Für einen F-adapierten stochastischen Prozess (Xn )n↘N0 (z.B. einen Aktienkurs) ist Xn ⇔
Xn↗1 der Zuwachs im n-ten Zeitschritt. Wir interpretieren ein vorhersagbares Vn als den Einsatz
den A zu diesem Zeitpunkt macht. A gewinnt also Vn (Xn ⇔ Xn↗1 ). Der kumulierte Gewinn
von A bis zur Runde n ist
n
/
Yn := X0 + Vk (Xk ⇔ Xk↗1 ) , n ↑ N. (3.5)
k=1
Wir nennen (Yn )n↘N die Transformation von (Xn )n↘N0 unter (Vn )n↘N .
Da Vn vorhersagbar, kann der Einsatz im Allgemeinen nicht vom Gewinn Xn ⇔ Xn↗1 in der
n-ten Runde abhängig gewählt werden.
Satz 3.32 (Transformation von Martingalen). Sei X = (Xn )n↘N0 ein F-adapierter Prozess,
V = (Vn )n↘N vorhersagbar und Vn beschränkt für alle n ↑ N. Sei weiter Y die Transformation
von X unter V wie in (3.5). Dann gilt
1. Ist X ein F-Martingal, so ist auch Y ein F-Martingal.
In (1) haben wir benutzt, dass V vorhersagbar ist und in (2), dass X adaptiert ist. Falls nun
X ein Martingal ist, so gilt E[Xn+1 ⇔ Xn |Fn ] = 0. Falls X ein Submartingal ist und Vn+1 △ 0,
so gilt Vn+1 E[Xn+1 ⇔ Xn |Fn ] △ 0.
29
Die folgende Zerlegung ist fundamental für die Analyse von Submartingalen.
Satz 3.33 (Doob-Zerlegung). Sei X = (Xn )n↘N0 ein F-adaptierter Prozess mit Xn ↑ L1 . Dann
gibt es ein P-fast sicher eindeutiges F-Martingal (Yn )n↘N0 und einen P-fast sicher eindeutigen
F-vorhersagbaren Prozess (An )n↘N mit A0 = 0 und An ↑ L1 , so dass Xn = An + Yn .
weil A vorhersagbar und Y ein Martingal ist. Nach Induktionsvoraussetzung ist Yn = Y!n , also
auch An+1 = A!n+1 P-fast sicher. Damit folgt Yn+1 = Xn+1 ⇔ An+1 = Xn+1 ⇔ A!n+1 = Y!n+1 .
Existenz: Wir definieren rekursiv A0 := 0, Y0 := X0 und
Das so definierte A = (An )n↘N0 ist vorhersagbar. Außerdem gilt Xn = Yn + An und Y ist
adaptiert mit
Xn = Yn + An .
wo wir in der ersten Gleichheit die Vorhersgbarkeit von A benutzt haben und in der Ungleichung,
dass X ein Submartingal ist und Y ein Martingal.
Die Interpretation ist, dass sich jedes für den Spieler günstige Spiel in ein faires Spiel und
einen sicheren und vorhersagbaren Gewinn aufteilen lässt
Definition 3.36 (Quadratische Variation). Sei Xn ↑ L2 ein Martingal und Xn2 = An + Yn die
Doob-Zerlegung des Submartingals Xn2 . Dann heißt ¬X∅n := An die quadratische Variation von
Xn .
30
Beispiel 3.37. Ein wichtiges Beispiel für einen Einsatz ist zufälliges Stoppen. Sei T : ! ↘
N0 ⇑{↗} eine Zufallsvariable. Die Wahl Vn = (n ↙ T ) bedeutet, dass wir mit Einsatz 1 bis zur
zufälligen Zeit T spielen und danach aufhören. Ein solches Vn ist vorhersagbar (Fn↗1 -messbar),
wenn {n ↙ T }c = {T ↙ n ⇔ 1} ↑ Fn↗1 .
Definition 3.38. Eine Zufallsvariable T : ! ↘ N0 ⇑ {↗} heißt Stoppzeit bezüglich der Fil-
tration F = (Fn )n↘N0 wenn {T ↙ n} ↑ Fn für alle n. Der wie in (3.5) mit Vn = (n ↙ T )
transformierte Prozess heißt der mit T gestoppte Prozess
n
/ T ⇔n
/
Yn = X 0 + (k ↙ T )(Xk ⇔ Xk↗1 ) = X0 + (Xk ⇔ Xk↗1 ) = XT ⇔n .
k=1 k=1
Lemma 3.39. Sei T : ! ↘ N0 ⇑ {↗} eine Zufallsvariable und F = (Fn )n↘N0 eine Filtration.
Dann sind äquivalent
Beweis. 1 ⇒ 2: Es ist {T = n} = {T ↙ n} \ {T ↙ n ⇔ 1} ↑ Fn .
2 ⇒ 1: {T ↙ n} = ⇑nk=0 {T = k} ↑ Fn .
In der Tat ist T eine Stoppzeit bezüglich der Filtration F0 := {⇐, !} und Fn := ω(Z1 , Z2 , . . . , Zn ),
denn
n↗1
)
{T △ n} = {Xk ↑ (⇔ε, ϑ)} ↑ Fn↗1 .
k=1
Da (Xn )n↘N0 ein Martingal ist, ist auch der gestoppte Prozess (XT ⇔n )n↘N0 ein Martingal. Ins-
besondere gilt
31
Beispiel 3.43. Die Voraussetzung der Beschränktheit im Stoppsatz ist nicht+
überflüssig. Wir
n
kehren zu dem fairen Spiel zwischen A und B mit dem Martingal Xn = k=1 Zk zurück.
Diesmal wählt A folgende Einsatzstrategie: Er verdoppelt den Einsatz jedes Mal, wenn er
verliert. Formal bedeutet das
*
2Vn↗1 falls Zn↗1 = ⇔1
Vn = .
0 falls Zn↗1 = +1
+
Also ist der Gewinn von A der transformierte Prozess Yn = nk=1 Vk Zk und somit nach wie vor
ein Martingal. Nun stoppt A das Spiel wenn er das erste Mal gewinnt, d.h.
T := inf{n ↑ N : Zn = 1} .
+T +T ↗1
Dann gilt für den zum Zeitpunkt T gestoppten Prozess YT = k=1 V k Zk = k=1 2k↗1 (⇔1) +
2T (+1) = 1. Und somit EYT = 1 > EY0 = 0.
Beispiel 3.44 (Ruinproblem). Wir kehren zurück zu dem Beispiel mit Stoppzeit (3.6), bei
dem das Spiel endet wenn einer der Spieler ruiniert ist. Was ist die Wahrscheinlichkeit, dass
A ruiniert wird? Wir werden später sehen, dass T < ↗ P-fast sicher. Nehmen wir dies an, so
können wir berechnen
E[XT ] = lim E[XT ⇔n ] = lim E[X0 ] = 0
n→↑ n→↑
nach dem Stoppsatz. Hier haben wir den Satz von der dominierten Konvergenz und |XT ⇔n | ↙
max{ε, ϑ} benutzt. Somit ist
also
P[A wird ruiniert] ϑ
= und P[A wird ruiniert] + P[B wird ruiniert] = 1 .
P[B wird ruiniert] ε
Satz 3.45 (Stoppsatz - Version 2). Seien S, T zwei beschränkte Stoppzeiten mit S ↙ T und
(Xn )n↘N0 ein Submartingal. Dann gilt EXS ↙ EXT .
Beweis. Indem wir (Xn ⇔ X0 )n↘N0 betrachten können wir o.B.d.A. X0 = 0 annehmen. Wir
betrachten den vorhersagbaren Prozess Vn := (T △ n) ⇔ (S △ n) △ 0. Transformation von
X mit V liefert
n
/ T ⇔n
/ S⇔n
/
Yn = Vk (Xk ⇔ Xk↗1 ) = (Xk ⇔ Xk↗1 ) ⇔ (Xk ⇔ Xk↗1 ) = XT ⇔n ⇔ XS⇔n .
k=1 k=1 k=1
Nach dem Satz über Transformation von Martingalen ist Y ein Submartingal und somit nach
dem Stoppsatz - Version 1
E(XT ⇔ XS ) = EYT △ EY0 = 0 .
Unser Ziel ist nun Voraussetzungen an den Prozess X = (Xn )n↘N0 zu finden, so dass der
Stoppsatz auch für unbeschränkte Stoppzeiten T < ↗ gilt.
Definition 3.46 (Gleichgradig integrierbar). Eine Familie (Xt )t↘I von Zufallsvariablen heißt
gleichgradig integrierbar, wenn gilt
32
Bemerkung 3.47. Gleichgradige Integrierbarkeit ist eine schwächere Voraussetzung als die
Existenz einer L1 -Majorante. Tatsächlich folgt aus |Xn | ↙ Y ↑ L1 schon
Dies gilt, weil (|x| ⇔ M )+ = (|x| ⇔ M ) (|x| > M ) ↙ 2|x| (|x| > M ) für alle x ↑ R und weil
|x| (|x| > M ) ↙ 2(|x| ⇔ M/2)+ .
Beispiel 3.48. Sei X ↑ L1 (!, A, P) und (Ft )t↘I eine Filtration. Dann ist (E[X|Ft ])t↘I gleich-
gradig integrierbar. Dies sehen wir mit Hilfe der Jensenschen Ungleichung:
Wir nehmen das Supremum über t ↑ I auf beiden Seiten und dann den Limes M ↘ ↗
und sehen, dass die rechte Seite wegen des Satzes von der dominierten Konvergenz gegen Null
konvergiert.
Satz 3.49. Sei (Xn )n↘N gleichgradig integrierbar und Xn ↘ X P-fast sicher für eine Zufallsvari-
able X. Dann gilt auch Xn ↘ X in L1 , also ℑXn ⇔ XℑL1 = E|Xn ⇔ X| ↘ 0 für n ↘ ↗.
Insbesondere gilt EXn ↘ EX.
Beweis. Nach der Definition der gleichgradigen Integrierbarkeit ist klar, dass auch ((Xn )+ )n↘N
und ((Xn )↗ )n↘N gleichgradig integrierbar sind. Wir können also Xn = (Xn )+ ⇔ (Xn )↗ zerlegen
und den Satz für Positiv- und Negativteil separat beweisen. Somit reicht es den Satz mit
Xn △ 0 und X △ 0 zu zeigen.
In diesem Fall haben wir zunächst
da Xn gleichgradig integrierbar ist. Nun folgt aus dem Lemma von Fatou
Wegen der gleichgradige Integrierbarkeit von Xn und X ↑ L1 können wir M > 0 so groß wählen,
dass
ε ε
sup E|Xn ⇔ Xn ⊥ M | = sup E(Xn ⇔ M )+ ↙ , E(X ⇔ M )+ ↙ .
n n 2 2
Somit haben wir
33
Beispiel 3.50. Sei ! = [0, +1] ausgestattet mit der Gleichverteilung. Wir definieren eine Folge
in [0, 1) durch ξn := Rest( nk=1 k1 ), wobei Rest(x) := x ⇔ ℵxA. Dann gilt für die Zufallsvariablen
∝
Xn := n (↼n +[↗n→1 ,n→1 ])↔[0,1]
folgendes: Die Xn haben keine gemeinsame Majorante weil supn Xn = ↗ fast sicher, aber
2 ∝ 2
E(Xn ⇔ M )+ ↙ ∝ ( n △ M ) ↙ ↘ 0, M ↘ ↗.
n M
1. Sei (Xn )n↘N0 ein gleichgradig integrierbares F-Martingal und T eine F-Stoppzeit. Dann
ist auch der gestoppte Prozess (XT ⇔n )n↘N0 ein gleichgradig integrierbares F-Martingal.
EAn = EXn ⇔ EYn = EXn ⇔ EY0 = E(Xn ⇔ X0 ) ↙ sup E|Xn | + E|X0 | < ↗
n
weil Xn gleichgradig integrierbar ist. Da An monoton steigt gilt An ′ A↑ und nach dem Satz
von der monotonen Konvergenz auch
Korollar 3.52 (Optional Stopping Theorem für gleichgradig integrierbare Martingale). Sei
(Xn )n↘N0 ein gleichgradig integrierbares F-Martingal und T eine F-Stoppzeit mit T < ↗ P-fast
sicher. Dann gilt
EXT = EX0 .
34
Beweis. Da T < ↗ P-fast sicher gilt XT ⇔n ↘ XT P-fast sicher. Nach dem obigen Satz ist
(XT ⇔n )n↘N0 gleichgradig integrierbar. Also folgt XT ⇔n ↘ XT in L1 und somit auch
Beweis. Falls T beschränkt ist, also T ↙ M , genügt es das endliche Martingal X = (Xn )M n=0
anzuschauen. In diesem Fall ist X gleichgradig integrierbar. Es reicht also den Fall X gleich-
gradig integrierbar zu betrachten. In diesem Fall sind dann auch die gestoppten Martingale
(XT ⇔n )n und (XS⇔n )n gleichgradig integrierbar. Insbesondere sind XT und XS also punktweise
Limiten in L1 . Da XS FS -messbar ist (CHECK!) müssen wir somit für alle B ↑ FS zeigen,
dass
Hier haben wir in (1) verwendet, dass S ↙ T , in (2) dass (XT ⇔k )k ein Martingal ist, in (3) dass
B, {S = n} ↑ Fn und für die Konvergenz die gleichgradige Integrierbarkeit. Da XT , XS ↑ L1
können wir den Satz von der dominierten Konvergenz anwenden und beide Seiten über n ↑ N0
summieren, um (3.8) zu sehen.
Falls X ein Submartingal ist, verwenden wir die Doob-Zerlegung X = A + Y . Da A
vorhersagbar, also adaptiert ist, ist AS FS -messbar. Außerdem ist AT △ AS , weil A monoton
steigt. Somit gilt
35
3.4 Martingal-Ungleichungen
Lemma 3.56 (Maximumungleichung von Doob). Sei (Xn )n↘N0 ein Submartingal und ϱ △ 0.
Dann gilt für alle n ↑ N0 , dass
n n
ϱP max Xm △ ϱ ↙ E Xn , max Xm △ ϱ ↙ E[|Xn |] .
m=0 m=0
Beweis. Sei F = (Fn )n die zugrundeliegende Filtration. Wir definieren die F-Stoppzeit T :=
inf{n ↑ N0 : Xn △ ϱ}. Damit gilt die Identität
n
{T ↙ n} = {max Xm △ ϱ}.
m=0
36
Überkreuzungen
Sei (Xn )n↘N0 eine Folge mit Werten in R und a < b. Wir definieren Aufwärtskreuzungen
(Upcrossings) und Abwärtskreuzungen (Downcrossings) rekursiv wie folgt:
S0a,b := 0 ,
Tka,b := inf{n △ Sk↗1
a,b
: Xn △ b} ,
Ska,b := inf{n △ Tka,b : Xn ↙ a} ,
für k ↑ N. Das Interval [Tka,b , Ska,b ] heißt die k-te Abwärtskreuzung von [a, b]. Wir definieren
außerdem
• Anzahl Abwärtskreuzungen bis Zeitpunkt n: Dna,b := max{k ↑ N0 : Ska,b ↙ n} =
+↑ a,b
k=1 (Sk ↙ n)
↙ E[Yn , Tk ↙ n < Sk ]
Die Ungleichung E(Xn ⇔ a)+ ↙ E(Xn )+ + |a| gilt, weil (x ⇔ a)+ ↙ (x)+ + |a| für alle x ↑ R.
Nun zu den Aufwärtskreuzungen. Formal haben wir T!0 := 0 und
↑
/
S!k := inf{n △ T!k↗1 : Yn = 0} , T!k := inf{n △ S!k : Yn △ 1} Una,b = (T!k ↙ n) .
k=1
37
Wir berechnen wieder mit k ↑ N und n ↑ N0 :
In der letzten Ungleichung haben wir T!k↗1 ⊥ n ↙ S!k ⊥ n und Optional Sampling benutzt. Es
folgt durch Aufsummieren einer Teleskopsumme
↑
/ ↑
/ 1
E Una,b = P[T!k ↙ n] ↙ E[YT!k ⇔n ⇔ YT!k→1 ⇔n ] = E[Yn ⇔ Y0 ] ↙ E[Yn ] = E(Xn ⇔ a)+ .
k=1 k=1
b⇔a
Xt = E[X0 |Ft ] ,
für alle t ↑ ⇔N0 , d.h. das Rückwärts-Martingal kann durch bedingen von X0 auf die Filtration
gewonnen werden.
Korollar 3.60.
1. Sei X = (Xt )t↘N0 ein Submartingal mit supn E (Xn )+ < ↗ und a < b. Dann überkreuzt
X das Interval [a, b] nur endlich oft, d.h. D↑
a,b a,b
+ U↑ < ↗ P-fast sicher.
2. Ist X = (Xn )n↘↗N0 ein Rückwärts-Submartingal, dann überkreuzt X das Interval [a, b]
nur endlich oft.
Also folgt auch limM →↑ Da,b (M ) < ↗ für die Gesamtanzahl der Abwärtskreuzungen von X.
Aufwärtskreuzungen werden genauso behandelt.
38
Satz 3.62 (Martingal-Konvergenzsatz). Sei X = (Xn )n↘N0 ein Submartingal bezüglich F =
(Fn )n↘N0 .
1. Es gelte supn E[(Xn )+ ] < ↗. Dann konvergiert Xn P-fast sicher gegen eine F↑ -messbare
Zufallsvariable X↑ mit Werten in R.
3. Ist X sogar ein gleichgradig integrierbares Martingal, dann gilt zusätzlich E[X↑ |Fn ] = Xn
P-fast sicher.
Bevor wir den Satz beweisen benötigen wir folgendes Lemma.
Lemma 3.63. Sei (xn )n↘N0 eine Folge in R, die jedes Intervall [a, b] mit a < b und a, b ↑ Q nur
endlich oft überquert. Dann gilt xn ↘ x für n ↘ ↗ und ein x ↑ R ⇑ {±↗}.
Beweis. Angenommen, das wäre nicht der Fall, also:
Dann gibt es a < b mit a, b ↑ Q, so dass lim inf n→↑ xn < a < b < lim supn→↑ xn . Das bedeutet
aber, dass das Intervall [a, b] unendlich oft überquert wird, was der Annahme widerspricht.
Beweis des Martingal-Konvergenzsatzes. Nach dem Korollar zu Doobs Crossing In-
equalities und weil die Anzahl der rationalen Intervalle [a, b] mit a, b ↑ Q abzählbar ist, wissen
wir, dass Xn jedes solche Interval nur endlich oft überquert, also
)
P a,b a,b
{D↑ + U↑ < ↗} = 1 .
a<b,
a,b↑Q
Nach dem Lemma folgt Xn ↘ X↑ P-fast sicher für ein R ⇑ {±↗}-wertiges F↑ -messbares X↑ .
Nach Fatou gilt nun
E lim inf (Xn )↗ ↙ lim inf E(Xn )↗ ↙ sup E(⇔Xn ) + sup E(Xn )+ < ↗ .
n n n n
Die letzte Ungleichung gilt, weil supn E(Xn )+ < ↗ nach Voraussetzung und weil E(⇔Xn ) ↙
⇔EX0 < ↗, da (⇔Xn )n ein Supermartingal ist. Genauso haben wir
Also ist lim inf n (Xn )↗ < ↗ und lim inf n (Xn )+ < ↗ P-fast sicher und somit X↑ R-wertig.
Ist X gleichgradig integriebar, so folgt aus der P-fast sicheren Konvergenz bereits L1 -
Konvergenz. Falls X ein Martingal ist, haben wir wegen der L1 -Konvergenz auch
39
Korollar 3.65 (Lp -Martingal-Konvergenz). Jedes Martingal X = (Xn )n↘N0 , das in Lp beschränkt
ist (d.h. supn E|Xn |p < ↗) für p ↑ (1, ↗), konvergiert P-fast sicher und in Lp .
Beweis. Da (Xn )n in Lp beschränkt ist, ist es auch gleichgradig integrierbar (siehe Übungen!).
Also konvergiert Xn P-fast sicher gegen ein X↑ . Wir betrachten nun das Submartingal Yn :=
((Xn )+ )p . Nach der Lp -Maximumungleichung von Doob gilt
p
n p
E max Ym ↙ EY < ↗.
m=0 p⇔1 $%&'n
⇓supn E|Xn |p
Nach dem Satz von der monotonen Konvergenz folgt Y↑ := supn Yn ↑ L1 . Somit hat (Xn )+ ↙
1/p
Y↑ ↑ Lp eine Lp -Majorante. Es folgt (Xn )+ ↘ (X↑ )+ in Lp . Wir verwenden das gleiche
Argument für das Y!n := ((Xn )↗ )p , um (Xn )↗ ↘ (X↑ )↗ in Lp zu zeigen.
Korollar 3.66. Sei (Fn )n↘N0 eine Filtration und X ↑ L1 . Dann gilt E[X|Fn ] ↘ E[X|F↑ ]
P-fast sicher und in L1 .
Beweis. Wir wissen bereits, dass Yn = E[X|Fn ] gleichgradig integrierbar ist, also gilt Yn ↘ Y↑
P-fast sicher und in L1 für ein F↑ -messbares Y↑ . Wir müssen zeigen, dass für alle A ↑ F↑ die
Identität
E[Y↑ , A] = E[X, A]
gilt. Dazu definieren wir
und zeigen, dass D ein Dynkin-System ist. In der Tat ist ⇐ ↑ D, weil dann E[Y↑ , ⇐] = 0 =
E[X, ⇐]. Außerdem ist für A ↑ D auch
Schließlich ist für paarweise disjunkte An ↑ D wegen des Satzes von der dominierten Konvergenz
auch / /
E[Y↑ , ⇑n An ] = E[Y↑ , An ] = E[X, An ] = E[X, ⇑n An ] .
n n
1. Dann konvergiert Xn ↘ X↗↑ P-fast sicher für n ↘ ⇔↗, wobei X↗↑ eine R ⇑ {⇔↗}-
wertige F↗↑ -messbare Zufallsvariable ist.
2. Ist X sogar ein Martingal, so konvergiert Xn ↘ X↗↑ P-fast sicher und in L1 für n ↘ ⇔↗,
wobei X↗↑ ↑ L1 (!, F↗↑ , P). Außerdem gilt dann X↗↑ = E[Xn |F↗↑ ] für alle n ↑ ⇔N.
40
Beweis. Wie beim Beweis des Martingal-Konvergenzsatz gilt P-fast sicher, dass alle rationalen
Intervalle nur endlich oft überkreuzt werden. Somit existert X↗↑ = limn→↗↑ Xn P-fast sicher
mit Werten in R ⇑ {±↗}. Außerdem gilt nach dem Lemma von Fatou
E[lim inf (Xn )+ ] ↙ lim inf E[(Xn )+ ] ↙ sup E[(Xn )+ ] ↙ E[(X0 )+ ] < ↗ .
n→↗↑ n→↗↑ n↘↗N
Somit ist (X↗↑ )+ = lim inf n→↗↑ (Xn )+ < +↗ P-fast sicher. Weiterhin ist X↗↑ F↗↑ -messbar,
weil Xn Fm -messbar ist für alle n ↙ m und somit auch X↗↑ = limn→↗↑ Xn Fm -messbar. Da
m ↑ ⇔N beliebig war, ist X↗↑ ⇓m↘↗N Fm = F↗↑ -messbar.
Sei nun X sogar ein Martingal. Dann ist Xn = E[X0 |Fn ] für alle n ↑ ⇔N. Insbesondere ist
X gleichgradig integrierbar. Da Xn ↘ X↗↑ P-fast sicher, folgt Konvergenz auch schon in L1 .
Insbesondere ist X↗↑ ↑ L1 , also auch X↗↑ > ⇔↗ P-fast sicher. Um X↗↑ = E[Xn |F↗↑ ] zu
zeigen sei nun A ↑ F↗↑ . Dann gilt
E[X↗↑ , A] = lim E[Xm A] = lim E[E[Xn |Fm ] A] = lim E[E[Xn A |Fm ]] = E[Xn A] .
m→↗↑ m→↗↑ m→↗↑
Satz 3.68 (Martingale mit beschränkten Zuwächsen). Sei (Xn )n↘N0 ein Martingal mit beschränk-
ten Zuwächsen (d.h. es gibt ein M > 0, so dass supn↘N |Xn ⇔ Xn↗1 | ↙ M ). Dann gilt P-fast
sicher folgende Alternative (beachte die Reihenfolge!):
• entweder limn→↑ Xn existiert in R
• oder inf n Xn = ⇔↗ und supn Xn = +↗
Bemerkung 3.69. Dies bedeutet, dass sich ein Martingal P-fast sicher entweder gutartig ver-
hält, also in R konvergiert, oder beliebig große Ausschläge in die negative und positive Richtung
hat.
Beweis. Wir können X0 = 0 annehmen. Ansonsten betrachten wir (Xn ⇔ X0 )n . Sei M , so
dass |Xn ⇔ Xn↗1 | ↙ M für alle n gilt. Für k ↑ N definieren wir die Stoppzeit
Tk := inf{n ↑ N : Xn △ k} .
Dann gilt XTk ⇔n ↙ k + M für alle n ↑ N. In der Tat ist X(Tk ⇔n)↗1 < k, also
XTk ⇔n ↙ X(Tk ⇔n)↗1 + |XTk ⇔n ⇔ X(Tk ⇔n)↗1 | ↙ k + M .
Somit ist (XTk ⇔n )n ein nach oben beschränktes Martingal. Nach dem Martingal-Konvergenzsatz
konvergiert XTk ⇔n P-fast sicher in R. Das bedeutet
• supn↘N Xn △ k auf dem Event !k := {Tk < ↗}.
• Xn = Xn⇔Tk konvergiert auf dem Event {Tk = ↗} = !ck .
Wir setzen !↑ := k↘N !k . Dann folgt
• supn↘N Xn △ k für alle k auf dem Event !↑ , also supn↘N Xn = ↗.
(
• Xn konvergiert in R auf dem Event !c↑ = k↘N !ck .
Wir führen die gleiche Argumentation durch für die Stoppzeit T!k := inf{n ↑ N : Xn ↙ ⇔k}
und erhalten damit
! ↑.
• inf n↘N Xn ↙ ⇔k für alle k auf dem Event !
! c↑ .
• Xn konvergiert in R auf dem Event !
! ↑ = !↑ und somit folgt die Behauptung.
Wir schließen, dass !
41
3.6 Unendlich oft eintretende Ereignisse
Satz 3.70 (Lévys Verallgemeinerung des Borel-Cantelli-Lemmas). Sei F = (Fn )n↘N0 eine Fil-
tration mit F0 := {⇐, !}. Seien weiter An ↑ Fn für alle n ↑ N. Dann sind P-fast sicher
äquivalent
1. An tritt unendlich oft ein, d.h. /
An = ↗.
n↘N
+n
Beweis. Seien Zn := An ⇔ P[An |Fn↗1 ] und Xn := k=1 Zk . Dann ist X = (Xn )n↘N0 ein
F-Martingal, denn X ist adaptiert (Check!) und
n
/
E[Xn+1 |Fn ] = E[Zn+1 |Fn ] + E[Zk |Fn ] = Xn .
$ %& ' $ %& '
=0 k=1 =Zk
Die Zuwächse Zn sind beschränkt, denn |Zn | ↙ 1. Also gibt es P-fast sicher zwei Alternativen.
Entweder konvergiert Xn in R oder lim supn→↑ Xn = ↗ = ⇔ lim inf n→↑ Xn . Betrachten wir
zunächst das Ereignis, dass Xn in R konvergiert. Falls 1. gilt, aber nicht 2., so haben wir
/ /
lim Xn = Ak ⇔ P[Ak |Fk↗1 ] = ↗ ,
n→↑
k↘N k↘N
was P-fast sicher nicht stimmt. Falls 2. gilt, aber nicht 1., haben wir ebenso limn→↑ Xn = ⇔↗,
was auch P-fast sicher nicht stimmt. Also sind 1. und 2. auf dem Ereignis {Xn konvergiert in R}
P-fast sicher äquivalent.
Betrachten wir nun das Ereignis {lim supn→↑ Xn = ↗ = ⇔ lim inf n→↑ Xn }. Hier gilt
/ /
↗ = lim sup Xn ↙ An und ⇔ ↗ = lim inf X n △ ⇔ P[An |Fn↗1 ] .
n→↑ n→↑
n↘N n↘N
42
Korollar 3.72 (Zweites Borel-Cantelli-Lemma). Seien An unabhängige Ereignisse. Dann
sind äquivalent
+
1. P[ n↘N An = ↗] = 1
+
2. P[ n↘N An = ↗] > 0
+
3. n↘N P[An ] = ↗
Beweis. Zunächst gilt 1. ⇒ 2. trivial. Weiter folgt 2. ⇒ 3. aus dem ersten Borel-Cantelli
Lemma. Schließlich folgt 3. ⇒ 1. aus dem Satz mit der Filtration Fn := ω(A1 , . . . , An ).
Beispiel 3.73 (Polya-Urne). Eine Urne enthält zu beginn W0 = w weiße und S0 = s schwarze
Kugeln. Wir nehmen w, s △ 1 an. Im n-ten Zeitschritt ziehen wir blind eine Kugel und legen
sie zusammen mit einer Kugel der gleichen Farbe in die Urne zurück. Seien Wn die Anzahl der
weißen und Sn die Anzahl der schwarzen Kugeln zur Zeit n. Es gilt Wn + Sn = n + w + s und
Wn Sn
P[Wn+1 = k|Wn ] = (Wn = k ⇔ 1) + (Wn = k) .
n+w+s n+w+s
Wir zeigen, dass der Anteil der weißen Kugeln Xn := Wn /(Wn + Sn ) ein Martingal ist. In der
Tat gilt
↑
Wn+1 1 / k Wn k Sn
E Wn = (Wn = k ⇔ 1) + (Wn = k)
Wn+1 + Sn+1 Wn + Sn + 1 k=0 Wn + Sn Wn + Sn
1 (Wn + 1)Wn W n Sn Wn
= + = .
Wn + Sn + 1 Wn + Sn W n + Sn W n + Sn
4 Unabhängige Zufallsvariablen
4.1 Unendliche Produkträume
Ein fundamentales Thema der klassischen Wahrscheinlichkeitstheorie sind unabhängige Zu-
fallsvariablen.
Wir werden nun zeigen, dass sich für gegebene Verteilungen Pi auf Meßräumen (!i , Ai ),
indiziert mit einer eventuell unendlichen Indexmenge I, immer eine Familie von Zufallsvariablen
(Xi : (!, A) ↘ (!i , Ai ))i↘I auf einem gemeinsamen Wahrscheinlichkeitsraum (!, A) finden
lässt, so dass Xi ∈ Pi und (Xi )i↘I unabhängig sind.
Sei dazu (!i , Ai )i↘I eine Familie von Meßräumen. Das Produkt !I := i↘I !i wird mit der
kleinsten ω-Algebra AI = ▽i↘I Ai ausgestattet bezüglich der die kanonischen Projektionen
↼i : !I ↘ !i , (ϖj )j↘I ∞↘ ϖi
43
messbar sind, d.h.
44
für alle A ↑ AJ = ▽j↘J Aj , wobei PJ = ▽j↘J Pj das übliche Produktmaß auf dem endlichen
Produkt !J ist. Wir zeigen folgendes
(
1. F = J↙I endlich FJ ist eine Mengenalgebra.
2. Die Definition (4.2) ist konsistent, d.h. wenn {↼J ↑ A} = {↼L ↑ B} ↑ F für A ↑ AJ und
B ↑ AL gilt, dann ist PJ (A) = PL (B).
3. P erfüllt die Eigenschaft P [↼J ↑ AJ ] = j↘J Pj (Aj ), wobei AJ = j↘J Aj .
Die vier Eigenschaften implizieren nach dem Fortsetzungssatz von Carathéodory, dass sich
P zu einem Maß PI mit der Eigenschaft (4.1) fortsetzen lässt.
Zu 1: Wir müssen zeigen, dass F die leere Menge enthält, unter Komplementbildung und
endlichen Vereinigungen abgeschlossen ist. Da ⇐ ↑ FJ für alle endlichen J ≃ I, ist ⇐ ↑ F
klar. Abgeschlossenheit unter Komplementbildung gilt weil für A ↑ FJ auch Ac ↑ FJ ist.
Abgeschlossenheit unter Vereinigungen gilt, weil für A ↑ FJ und B ↑ FL gilt, dass A, B ↑ FJ⇐L ,
also auch A ⇑ B ↑ FJ⇐L .
Zu 2: Seien {↼J ↑ A} ↑ FJ und {↼L ↑ B} ↑ FL identisch. Für K := J ⇑ L gilt FJ ⇑ FL ≃
FK . Außerdem ist PJ das Bildmaß von PK unter der Projektion ↼JK : !K ↘ !J . Analog ist PL
das Bildmaß von PK unter ↼LK : !K ↘ !L . Weiter gilt
{↼K ↑ (↼JK )↗1 [A]} = {↼J ↑ A} = {↼L ↑ B} = {↼K ↑ (↼LK )↗1 [B]} .
Da ↼K
↗1
: AK ↘ FK , A ∞↘ {↼K ↑ A} eine Bijektion ist (denn ↼K ist surjektiv), folgt damit
{↼J ↑ A} = {↼LK ↑ B} und somit auch
K
Aus der endlichen Additivität folgt auch, dass P (A \ B) = P (A) ⇔ P (B) für B ≃ A.
Wir müssen noch zeigen, dass P ω-Additiv ist, dass also
/
P Bn = P (Bn )
n↘N n↘N
(
für jede paarweise disjunkte Folge Bn ↑ F gilt, für die auch n↘N Bn ↑ F. Dazu reicht es
zu zeigen, dass P ω-Null-stetig ist, dass also für eine Folge An B ⇐ (d.h. An+1 ≃ An mit
45
n↘N An = ⇐) gilt, dass P (An ) ↘ 0. In der Tat, sei dies erfüllt und Bn eine Folge paarweise
disjunkter Mengen. Dann gilt für B = ⇑n↘N Bn und An := B \ ⇑nm=1 Bm
n
/
P (B) ⇔ P (Bm ) = P (An ) ↘ 0 , n ↘ ↗,
m=1
wobei die zweite Gleichheit für m △ n gilt, weil PKm \Kn (dϖKm \Kn ) = 1. Da
für ein beliebiges ϖI ↑ !I , welches ϖKn+1 ↑ !Kn+1 fortsetzt, ist die Folge von Zufallsvariablen
XJn monoton fallend in n. Somit existiert
XJ := lim XJn .
n→↑
(
Außerdem erfüllen für J ≃ L ≃ K↑ := n Kn die Zufallsvariablen XL und XJ die folgende
Turmeigenschaft:
XL (ϖL\J ϖJ )PL\J (dϖL\J ) = lim Bn (ϖKn \L ϖL\J ϖJ )PKn \L (dϖKn \L )PL\J (dϖL\J )
n→↑
= lim Bn (ϖKn \J ϖJ )PKn \J (dϖKn \J ) = XJ (ϖJ ) .
n→↑
Insbesondere gilt: Falls XJ (ϖJ ) > 0, so gibt es ein ϖL\J ↑ !L\J , so dass XL (ϖL\J ϖJ ) > 0. Wir
sehen nun, dass
XK0 = lim Bn (ϖKn )PKn (dϖKn ) = lim PKn (Bn ) = lim P [An ] = ε > 0 .
n→↑ n→↑ n→↑
Wir zeigen durch Induktion, dass es ein ϖK↔ ↑ !K↔ gibt, so dass XKm (ϖKm ) > 0 für alle
m ↑ N. Da XK0 = ε > 0, gibt es ein ϖK1 ↑ !K1 , so dass XK1 (ϖK1 ) > 0. Sei nun ϖKn
konstruiert, so dass XKm (ϖKm ) > 0 für alle m ↙ n. Dann gibt es ein ϖKn+1 \Kn ↑ !Kn+1 \Kn ,
so dass für ϖKn+1 := ϖKn ϖKn+1 \Kn gilt XKm (ϖKm ) > 0 für alle m ↙ n + 1. Auf diese Weise
konstruieren wir induktiv ϖK↔ . Wir setzen nun dieses ϖK↔ durch eine beliebige Wahl von
ϖI\K↔ zu ϖI := ϖI\K↔ ϖK↔ fort. Dann gilt für alle n △ m, dass
m n
Am (ϖI )= XK m
(ϖKm ) △ XK m
(ϖKm ) ↘ XKm (ϖKm ) > 0 , n ↘ ↗.
Somit ist ϖI ↑ Am für alle m ↑ N, also ϖI ↑ m↘N Am = ⇐. Dies ist der gewünschte Wider-
spruch.
46
4.2 0-1 Gesetze
Definition 4.3 (Terminale ω-Algebra). Sei (Xi )i↘I eine Familie von Zufallsvariablen über
einem Wahrscheinlichkeitsraum (!, A, P), indiziert mit einer unendlichen Indexmenge I. Wir
definieren die terminale ω-Algebra zu (Xi )i↘I durch
)
T := ω(Xi : i ↑ I \ J) .
J↙I endlich
4. Manchmal wird die terminale ω-Algebra eher räumlich als zeitlich interpretiert. Seien
(Xz )z↘Zd {±1}-wertige Zufallsvariablen. Wir interpretieren diese als zufällige
+ Spin-Konfiguration
(magnetische Ausrichtung). Die Magnetisierung ist m := limn→↑ |$1n | z↘$n Xz , voraus-
gesetzt der Limes entlang einer nach Zd aufsteigenden Folge von Teilmengen $n ≃ Zd
existiert. Dann ist m terminal messbar, weil es auf endlich viele Spins nicht ankommt.
Die Magnetisierung ist also eine makroskopische Grösse.
Satz 4.5 (0-1-Gesetz von Kolmogorov). Sei (Xi )i↘I eine unendliche Familie unabhängiger Zu-
fallsvariablen und T die entsprechende terminale ω-Algebra. Dann gilt für alle A ↑ T entweder
P[A] = 0 oder P[A] = 1.
Definition 4.6. Wir nennen eine ω-Algebra F ≃ A auf einem Wahrscheinlichkeitsraum
(!, A, P) P-fast sicher trivial, wenn für alle A ↑ F gilt, dass P[A] ↑ {0, 1}.
Der Satz lässt sich also auch kurz so formulieren: "Die terminale ω-Algebra einer unendlichen
Familie unabhängiger Zufallsvariablen ist P-fast sicher trivial. "
Beweis. Für J ≃ I setzen wir AJ := ω(Xj : j ↑ J). Sei (!i , Fi ) der Bildraum von Xi . Dann
wird AJ von dem ⇓-stabilen Mengensystem ZJ = {⇓j↘K {Xj ↑ Bj } : K ≃ J endlich , Bj ↑
Fj } erzeugt. Seien nun L, J ≃ I disjunkte Teilmengen. Dann sind ZL und ZJ unabhängig
wegen der Unabhängigkeit der (Xi )i↘I . Aus dem Tutorium wissen Sie, dass dann auch AL
und AJ unabhängig sind. Damit ist insbesondere T ≃ AI\J unabhängig von AJ für alle
endlichen J. Nun ist G := ⇑J↙I endlich AJ ein durchschnittsstabiles Erzeugendensystem von AI
und unabhängig von T . Wieder gilt nach dem Tutorium, dass T unabhängig ist von AI . Da
aber T ≃ AI , ist T von sich selbst unabhängig. Also gilt für alle A ↑ T , dass
47
Lemma 4.7. Sei X : ! ↘ R ⇑ {±↗} eine bezüglich einer P-fast sicher trivialen ω-Algebra
messbare Zufallsvariable. Dann ist X P-fast sicher konstant, d.h. es gibt ein x ↑ R ⇑ {±↗}
mit P[X = x] = 1.
Beweis. Zunächst ist P[X = ↗] ↑ {0, 1} und P[X = ⇔↗] ↑ {0, 1}. Also ist nur genau eine
der folgenden Aussagen P-fast sicher wahr: 1) X = ↗; 2) X = ⇔↗; 3) X ↑ R. Im Falle 1)
oder 2) sind wir fertig. Im Falle 3) gilt für alle y ↑ R, dass FX (y) = P[X ↙ y] ↑ {0, 1}. Da
limy→↗↑ FX (y) = 0 und limy→↑ FX (y) = 1 ist
x := inf{y ↑ R : FX (y) = 1} ↑ R .
Insbesondere ist FX (y) = 0 für alle y < x. Außerdem gilt wegen der Rechtsstetigkeit von
y ∞↘ FX (y), dass FX (x) = 1. Es folgt
terminal mesbar. Also ist P[supn↘N Xn = +↗] ↑ {0, 1}. Wir können also das "P-fast sicher"
ans Ende stellen, d.h. es gilt entweder Xn konvergiert P-fast sicher oder supn↘N Xn = ↗ =
⇔ inf n↘N Xn P-fast sicher.
Satz 4.9 (Starkes Gesetz der großen Zahlen). Seien (Zk )k↘N i.i.d. Zufallsvariablen mit E|Z1 | <
↗. Dann gilt P-fast sicher und in L1
n
1/
Zk ↘ EZ1 .
n k=1
Beweis. Wir können ohne Einschränkung der Allgemeinheit EZk = 0 + annehmen indem wir
gegebenenfalls Zk durch Zk ⇔ EZk ersetzen. Wir definieren X↗n := n nk=1 Zk und F↗n :=
1
für alle k ↙ n. In der Tat ist F↗n = ω(X↗n , (Zl : l △ n + 1)) und da (Zl : l △ n + 1) unabhängig
ist von (Zk , X↗n ) für k ↙ n auch
Da (Zk , X↗n ) und (Zl , X↗n ) für l, k ↙ n dieselbe gemeinsame Verteilung haben, gilt auch
E[Zk |X↗n ] = E[Zl |X↗n ] und somit
n
1/
E[Zk |X↗n ] = E[Zl |X↗n ] = E[X↗n |X↗n ] = X↗n .
n l=1
48
Wir folgern daraus, dass
n↗1
1 /
E[X↗n+1 |F↗n ] = E[Zk |F↗n ] = X↗n .
n ⇔ 1 k=1
Also ist (Xt )t↘↗N ein Rückwärts-Martingal. Nach dem Rückwärts-Martingal-Konvergenzsatz
+
konvergiert Xt ↘ X↗↑ für t ↘ ⇔↗ P-fast sicher und in L1 . Nun ist X↗↑ = limn→↑ nk=1 Zk
messbar bezüglich der terminalen ω-Algebra T = n↘N ω(Zk : k △ n) der Familie (Zk )k↘N . Also
ist X↗↑ P-fast sicher konstant und somit X↗↑ = E X↗↑ = E X1 = EZ1 = 0.
Als nächstes besprechen wir ein Toy-Modell für die Bildung von Clustern, also zusammen-
hängenden Gebieten, in einem geometrischen Hintergrund.
Beispiel 4.10 (Perkolationen). Wir stellen uns eine Stadt mit Häusern vor, die auf dem Gitter
Z2 angeordnet sind. Die Bewohner von benachbarten Häusern haben mit Wahrscheinlichkeit
p ↑ (0, 1) sozialen Kontakt. Wir modellieren dies, indem wir die Kanten E := {{x, y} ≃ Z2 :
ℑx ⇔ yℑ = 1} mit Wahrscheinlichkeit p schwarz einfärben. Wir wählen also eine Familie X =
(Xe )e↘E von i.i.d. Bernoulli(p)-verteilen Zufallsvariablen. Das Ereignis {X{x,y} = 1} bedeutet,
dass Haushalt x und y Kontakt haben. Kontakt zu haben ist eine transitive Eigenschaft, d.h.
haben x und y Kontakt und außerdem y und z Kontakt, so haben auch x und z Kontakt.
Gegeben die Werte der Familie X erhalten wir somit eine zufällige Äquivalenzrelation auf
Z2 , nämlich x ∈ y, wenn es {xi , xi+1 } ↑ E mit i = 0, . . . , n ⇔ 1 gibt, so dass X{xi ,xi+1 } = 1 und
x0 = x, xn = y, d.h. x und y sind durch einen eingefärbten Pfad verbunden. Außerdem setzen
wir x ∈ x. Wir nennen die Äquivalenzklassen [x] := {y : y ∈ x} Cluster.
In der Epidemiologie ist man nun daran interessiert, ob sich sehr grosse Cluster von Haushal-
ten bilden, die sozialen Kontakt haben, weil dies die schnelle Ausbreitung eines Pathogens in
dem Cluster ermöglicht. Wir wollen daher wissen, ob es einen unendlich großen Cluster gibt.
Satz 4.11 (Unendliche Perkolations-Cluster). Sei X = (Xe )e↘E eine zufälle Perkolation auf Z2
wie oben mit p ↑ [0, 1] und ∈ die zugehörige Äquivalenzrelation. Dann gilt
Pp [C x ↑ Z2 : |[x]| = ↗] ↑ {0, 1}
und monoton steigend in p.
Beweis. Wir definieren eine eingeschränkte Äquivalenzrelation auf Z2 \ [⇔R, R]2 . Sei x ∈R y
wenn es einen gefärbten Pfad {xi , xi+1 } gibt (also X{xi ,xi+1 } = 1) mit x0 = x, xn = y und
xi ↑ Z2 \ [⇔R, R]2 für alle i. Seien [x]R die entsprechenden Äquivalenzklassen. Nun gibt es
einen unendlichen Cluster [x] in Z2 genau dann wenn es einen unendlichen Cluster in [x]R in
Z2 \ [⇔R, R]2 gibt. Dies ist aber messbar bezüglich FR := ω(X{x,y} : x, y ↑ Z2 \ [⇔R, R]2 ).
Genauer ist
) )
{C x ↑ Z2 : |[x]| = ↗} = {C x ↑ Z2 \ [⇔R, R]2 : |[x]R | = ↗} ↑ FR .
R↘N R↘N
Letzteres ist die terminale ω-Algebra der Familie X. Nach dem 0-1-Gesetz von Kolmogorov
folgt die Behauptung.
Um die Monotonie in p zu zeigen verwenden wir ein Kopplungsargument, d.h. wir implemen-
tieren zwei Perkolationen X und Y auf demselben Wahrscheinlichkeitsraum mit Verteilung P,
so dass Xe Bern(p)-verteilt und Ye Bern(q)-verteilt ist. Wir nehmen dabei p < q an. Seien dazu
(Ue )e↘E i.i.d. auf [0, 1] gleichverteilte Zufalsvariablen. Dann setzen wir Xe := [0,p] (Ue ) und
Ye := [0,q] (Ue ). Seien nun [x]X und [x]Y die x enthaltenden Cluster bezüglich der Perkolation
X bzw. Y . Dann ist o!enbar [x]X ≃ [x]Y . Also gilt
▷(p) := Pp [C x ↑ Z2 : |[x]| = ↗] = P[C x ↑ Z2 : |[x]X | = ↗] ↙ P[C x ↑ Z2 : |[x]Y | = ▷(q).
49
Durch die Konstruktion unendlicher Produktmaße wissen, wir, dass wir eine Familie (Xn )n↘N
unabhängiger reellwertiger Zufallsvariablen mit gegebenen Verteilungen Xn ∈ Pn o.B.d.A. als
Projektionen Xi = ↼i auf ! = RN mit A = ▽n↘N B(R) und P = ▽n↘N Pn realisieren können. Für
den Rest des Kapitels nehmen wir dieses Setup an. Insbesondere ist für ϖ = (ϖn )n↘N ↑ ! = RN
immer Xn (ϖ) = ϖn .
Definition 4.12. Für eine Bijektion ω : N ↘ N heißt {i ↑ N : ω(i) ↖= i} der Träger von ω.
Definition 4.13. Ein Ereignis A ↑ A heißt austauschbar, wenn für jede Bijektion ω : N ↘ N
mit endlichem Träger gilt, dass
(Xn )n↘N ↑ A ⊤ (X↽(n) )n↘N ↑ A .
+n
Beispiel 4.14. Das Ereignis { k=1 Xk ↘ 0} ist nicht terminal, aber austauschbar. Anderer-
seits ist jedes terminale Ereignis austauschbar, weil das Vertauschen endlich vieler Xn keinen
Einfluß hat, wenn es auf endlich viele Xn ohnehin nicht ankommt.
Satz 4.15 (0-1-Gesetz von Hewitt-Savage). Sei P = ▽n↘N PX1 das Wahrscheinlichkeitsmaß auf
(!, A), so dass (Xn )n↘N i.i.d. sind. Dann ist die ω-Algebra E der austauschbaren Ereignisse
P-fast sicher trivial.
Beweis. Sei A ↑ E austauschbar und Fn = ω(Xk : k ↙ n) die von den Projektionen erzeugte
Filtration. Dann ist
Yn := P[A|Fn ]
ein Martingal mit Werten in [0, 1] und nach dem Lp -Martingal-Konvergenzsatz gilt Yn ↘ A
P-fast sicher und in L2 . Nun sei ωn : N ↘ N eine Bijektion mit
m + n für m = 1, . . . , n
ωn (m) := m ⇔ n für m = n + 1, . . . , 2n
m sonst .
Wir definieren die davon erzeugte Bijektion ”n : RN ↘ RN , (xm )m↘N ∞↘ (x↽n (m) ). Dieses ”n ist
maßerhaltend, d.h. P”n = P ∋ ”↗1 n = P. In der Tat ist das Produktmaß durch seine Werte auf
{X1 ↑ B1 , . . . , XM ↑ BM } eindeutig bestimmt. Nun hat aber (X1 , . . . , XM ) dieselbe Verteilung
wie (X↽n (1) , . . . , X↽n (M ) ), weil die Projektionen i.i.d. sind.
Da A ↑ E ist außerdem A ∋ ”n = A . Daher gilt für Zn := Yn ∋ ”n , dass
E|Zn ⇔ A|
2
= E|Yn ∋ ”n ⇔ A ∋ ”n |2 = E|Yn ⇔ A|
2
↘ 0,
also Zn ↘ A in L2 . Damit folgt auch Yn Zn ↘ A A = A in L1 . Wir zeigen nun, dass Yn und
Zn unabhängig sind und somit
P[A] = E[ A] = lim E[Yn Zn ] = lim E[Yn ]E[Zn ] = P[A]2 ,
n→↑ n→↑
also P[A] ↑ {0, 1}. Tatsächlich ist Yn Fn -messbar, also nach dem Faktorisierungslemma Yn =
gn (X1 , . . . , Xn ) für ein gn : Rn ↘ R. Damit ist aber Zn = gn (Xn+1 , . . . , X2n ), also von Yn
unabhängig.
5 Zentraler Grenzwertsatz
5.1 Charakteristische Funktionen und Konvergenz
Definition 5.1 (Charakteristische Funktion). Sei µ ein Wahrscheinlichkeitsmaß auf (R, B(R)).
Die Abbildung ◁µ : R ↘ C definiert durch
◁µ (t) := eitx µ(dx)
50
heißt charakteristische Funktion oder Fouriertransformation von µ. Für eine reelle Zufallsvari-
able X setzen wir
◁X (t) := ◁PX (t) = EeitX .
Beispiel 5.2. Die Fouriertransformierte einer Normalverteilung ist
1 (x→m)2 1 2
◁N (m,v) (t) = ∝ eitx e↗ 2v dx = eitm↗ 2 vt .
2↼v
Beachten Sie besonders die umgekehrte Skalierung in v.
Die charakteristische Funktion ist besonders nützlich im Umgang mit Summen unabhängiger
Zufallsvariablen. Wir erinnern an die Definition der Faltung aus den Übungen.
Definition 5.3. Seien µ, ↽ Wahrscheinlichkeitsmaße auf R und + : R2 ↘ R, (x, y) ∞↘ x + y
die Additionsabbildung. Dann definieren wir
µ ⇁ ↽ := (µ ▽ ↽) ∋ (+)↗1 ,
das Bildmaß von µ ▽ ↽ unter der Addition. µ ⇁ ↽ heißt Faltung von µ und ↽.
Proposition 5.4. Seien X, Y unabhängige reelle Zufallsvariablen. Dann ist PX+Y = PX ⇁ PY .
Beweis. Sei B ↑ B(R). Dann gilt
P[X + Y ↑ B] = P[+(X, Y ) ↑ B] = P(X,Y ) [+( · ) ↑ B] = (PX ▽ PY ) ∋ (+)↗1 [B] = PX ⇁ PY [B] .
Insbesondere erbt die Faltung die Kommutativität und die Assoziativität von der Addition.
Außerdem gilt φ0 ⇁ µ = µ, d.h. φ0 ist das neutrale Element der Faltungshalbgruppe. In der Tat,
sei X ∈ µ. Dann ist φ0 ⇁ µ = P0 ⇁ PX = P0+X = PX = µ.
Wir haben bereits in den Übungen gesehen, dass unter charakteristischen Funktionen die
Faltung zum Produkt wird, also
◁X+Y = ◁PX+Y = ◁PX ϱPY = ◁PX ◁PY = ◁X ◁Y
für unabhängige X, Y gilt. Wir erinnern uns auch an die aus den Übungen bekannte Definition
der Faltung für Funktionen f, g : R ↘ R als
f ⇁ g(x) := f (y)g(x ⇔ y)dy .
Hier ist Cb (R) der Raum der stetigen beschränkten Funktionen auf R.
Wir beweisen nun, dass Wahrscheinlichkeitsmaße sich durch Faltung mit einer Gaußverteilung
glatt approximieren lassen.
Lemma 5.6. Sei N (0, ε) eine 1-dimensionale Gaußverteilung mit Varianz ε > 0. Dann gilt
N (0, ε) ⇁ µ ↘ µ schwach, ε → 0,
für jede Verteilung µ auf R.
51
Beweis. Sei f ↑ Cb (R). Dann ist auch
1 (x→y)2
fς (x) := f (y)N (x, ε)(dy) = ∝ f (y)e↗ 2ω dy
2↼ε
stetig und beschränkt, ja sogar in C ↑ (R), wie man durch Ableiten unter dem Integral leicht
sieht. Nun ist
f dN (0, ε) ⇁ µ = f (x + y)N (0, ε)(dx)µ(dy) = f (x)N (y, ε)(dx)µ(dy) = fς dµ .
Wegen der ω-Stetigkeit von unten gilt limR→↑ µ([⇔R, R]) = 1. Sei jetzt φ > 0 und R > 0 so,
dass µ([⇔R, R]) △ 1 ⇔ φ. Es folgt
fς dµ ⇔ f dµ ↙ sup |fς (x) ⇔ f (x)| + 2ℑf ℑ↑ µ(R \ [⇔R, R]) .
$ %& '
x:|x|⇓R
$ %& ' ⇓⇀
→0 , ς⇑0
Also gilt fς dµ ↘ f dµ für ε → 0.
Wir charakterisieren nun die schwache Konvergenz.
Proposition 5.7. Seien µn für n ↑ N und µ Wahrscheinlichkeitsmaße auf (R, B(R)). Seien
Fn , F die zugehörigen Verteilungsfunktionen und ◁n , ◁ die zugehörigen charakteristischen Funk-
tionen. Dann sind äquivalent:
1. µn ↘ µ schwach.
2. f dµn ↘ f dµ für alle glatten Funktionen f ↑ Cc↑ (R) mit kompaktem Träger.
1 ⇒ 2: Ist trivial.
2 ⇒ 1: Wir zeigen, dass f dµn ↘ f dµ für alle f ↑ Cb (R). Fixiere ε > 0 und sei M ↑ N
so groß, dass µ([⇔M, M ]c ) ↙ ε. Außerdem sei f⇀ (x) := f (y)N (x, φ)(dy) die φ-Glättung von
f und 0M : R ↘ [0, 1] glatt mit 0M |[↗M,M ] = 1 und 0M |[↗M ↗1,M +1]c = 0. Wegen 2. haben wir
µn ([⇔M ⇔ 1, M + 1]) △ 0M dµn ↘ 0M dµ △ µ([⇔M, M ]) △ 1 ⇔ ε .
52
Bilden wir den lim supn→↑ , so erhalten wir
lim sup f dµn ⇔ f dµ ↙ 2ε ℑf ℑ↑ + sup |f (x) ⇔ f⇀ (x)| ,
n→↑ x:|x|⇓M +2
Mit ε → 0 folgt für einen Stetigkeitspunkt x ↑ R von F , dass F (x) = limn→↑ Fn (x).
3 ⇒ 2: Sei f ↑ Cc↑ (R). Da F nur abzählbar viele Sprungstellen x hat, an denen
1 ⊤ 4: Die Richtung ⇒ ist trivial. Für die Richtung D zeigen wir 4 ⇒ 2 und benutzen die
Gaußsche Integrationsformel
E
2↼ ↗ x2
e ↗ 12 ςt2 +itx
dt = e 2ω . (5.1)
ε
Es ist
(N (0, ε) ⇁ µ)(dx) 1 (x→y)2
=∝ e↗ 2ω µ(dy) .
dx 2↼ε
In der Tat, für alle messbaren beschränkten f gilt
f (x)(N (0, ε) ⇁ µ)(dx) = f (x)N (y, ε)(dx)µ(dy) .
53
Gleiches gilt für µn anstelle von µ. Somit haben wir
Beweis. Die konstante Folge ◁µ konvergiert punktweise gegen ◁ϖ . Also konvergiert die kon-
stante Folge µ ↘ ↽ schwach. Also ist µ = ↽.
Beispiel 5.9. Seien X ∈ N (0, v) und Y ∈ N (0, w) unabhängig. Wir berechnen die Verteilung
von X + Y . Wir haben
1 2 1 2
◁X (t) = e↗ 2 vt , ◁Y (t) = e↗ 2 wt .
Somit gilt
1 2
◁X+Y (t) = e 2 (v+w)t = ◁N (0,v+w) (t) .
Wegen der Eindeutigkeit der charakteristischen Funktion folgt X + Y ∈ N (0, v + w).
Korollar 5.10 (Fourier-Umkehrformel). Sei µ eine Verteilung auf R und ◁µ die entsprechende
charakteristische Funktion. Falls ◁µ ↑ L1 (R, dt), so hat µ eine beschränkte Dichte bezüglich
des Lebesgue-Maßes und
µ(dx) 1
= e↗itx ◁µ (t)dt .
dx 2↼
gezeigt. Da ◁µ ↑ L1 (R, dt) gilt nach dem Satz von der dominierten Konvergenz für alle f ↑
Cb (R), dass
f dµ = lim f d(N (0, ε) ⇁ µ) = lim f (x)⇀ς (x)dx = f (x)⇀0 (x)dx ,
ς⇑0 ς⇑0
wobei
1
⇀0 (x) = e↗itx ◁µ (t)dt .
2↼
Da Cb (R) dicht ist in L1 (dx), folgt die Behauptung.
54
Beispiel 5.11. Wir berechnen die charakteristische Funktion einer Zufallsvariable Z mit Lebesgue-
Dichte
PZ (dz) 2 (sin(z/2))2
g(z) = = .
dz ↼ z2
Da die Integration etwas aufwändig finden wir stattdessen eine Zufallsvariable, deren charak-
teristische Funktion proportional zu g ist. Seien dazu X und Y unabhängige auf [⇔ 12 , 12 ] gle-
ichverteilte Zufallsvariablen. Wir berechnen die Dichte f (z) = PX+Y dz
(dz)
mit Hilfe der Faltungs-
formel
1 1 1 1 1 1
f (z) = |y| ↙ |z ⇔ y| ↙ dy = ⇔ , ⇓ z+ ⇔ , = (1 ⇔ |z|)+ .
2 2 2 2 2 2
Andererseits ist die charakteristische Funktion von X gegeben durch
1 1 1
2
itx e 2 it ⇔ e↗ 2 it 2 sin(t/2)
◁X (t) = e dx = = ,
↗ 12 it t
und damit die charakteristische Funktion von X + Y durch
2
2 sin(t/2)
◁X+Y (t) = ◁X (t) = 4 .
t
Nach der Fourier-Umkehrformel gilt
2
2 ↗itx sin(t/2) 1
e dt = e↗itx ◁X+Y (t)dt = f (x) = (1 ⇔ |x|)+ .
↼ R t 2↼ R
Nach der Substitution t ↘ ⇔t im Integral auf der linken Seite erhalten wir
◁Z (t) = (1 ⇔ |t|)+ .
Die charakteristische Funktion von X kodiert Eigenschaften der Verteilung von X.
Lemma 5.12. Sei X eine reelle Zufallsvariable. Dann gilt ◁X (0) = 1. Falls X ↑ Lk für k ↑ N,
dk
dann ist ◁X ↑ C k (R) und dt k ◁X (0) = i EX .
k k
Konvergenz in L↑
ess sup|Xn ⇔ X| ↘ 0
E E
Konvergenz P-fast sicher Konvergenz in Lp (p ↑ (1, ↗))
P[|Xn ⇔ X| ↘ 0] = 1 E|Xn ⇔ X|p ↘ 0
E F (für eine Teilfolge) E
Konvergenz in Wahrscheinlichkeit
(stochastische Konvergenz) Konvergenz in L1
D=========
∀ ε > 0 : P[|Xn ⇔ X| > ε] ↘ 0 E|Xn ⇔ X| ↘ 0
E
Schwache Konvergenz (PXn ↘ PX schwach)
(Konvergenz in Verteilung)
∀ f ↑ Cb (R) : Ef (Xn ) ↘ Ef (X)
55
Wir beweisen die nicht-trivialen Implikationen im obigen Diagramm.
Beweis. Die Implikation (Lp -Konvergenz ⇒ L1 -Konvergenz) folgt mit der Jensenschen Ungle-
ichung:
" #1/p
E|Xn ⇔ X| ↙ E|Xn ⇔ X|p
Die Implikation (L1 -Konvergenz ⇒ stochastische Konvergenz) folgt mit der Markov-Ungleichung:
E|Xn ⇔ X|
P[|Xn ⇔ X| > ε] ↙
ε
Die Implikation (P-fast sichere Konvergenz ⇒ stochastische Konvergenz) folgt aus dem Satz
von der dominierten Konvergenz, da
|Ef (Xn ) ⇔ Ef (X)| ↙ |E[f (Xn ) ⇔ f (X), |Xn ⇔ X| > ε]| + |E[f (Xn ) ⇔ f (X), |Xn ⇔ X| ↙ ε]|
↙ 2ℑf ℑ↑ P[|Xn ⇔ X| > ε] + sup |f (x) ⇔ f (y)|
|x,y|⇓ς
$ %& '
→0 , ς⇑0
Wir wählen diese Folge rekursiv, beginnend mit m1 := 1. Sei nun mn↗1 gewählt. Wegen der
stochastischen Konvergenz gibt es ein mn > mn↗1 , so dass (5.2) gilt.
Nun gilt mit An := {|Xmn ⇔ X| > n1 } nach dem Borel-Cantelli Lemma, dass
F G
P Amn tritt ein für unendlich viele n = 0 ,
da / /
P[Amn ] ↙ 2 2↗n < ↗ .
n↘N n↘N
56
+n
2. Für alle n ↑ N ist i=1 Var(Xn,i ) = 1.
1 ∝
n
/
E[Xn,i
2
, |Xn,i | > ε] = E (X1 ⇔ m) , |X1 ⇔ m| > ε vn ↘ 0 .
2
i=1
v
Beweis des Satzes von Lindeberg. Nach der Charakterisierung der schwachen Konver-
genz, genügt es zu zeigen, dass
/
n
Ef Xn,i ↘ Ef (Z)
i=1
für alle f ↑ Cc↑ (R) und ein Z ∈ N (0, 1). Wir ersetzen die Zufallsvariablen Xn,i eine nach
der anderen durch Gaußsche Variablen Yn,i ∈ N (0, vn,i ), wobei vn,i := Var(Xn,i ). Diese wählen
wir (nach eventueller Erweiterung des Wahrscheinlichkeitsraums)
+ unabhängig voneinander und
allen Xn,i . Tatsächlich können wir Z := ni=1 Yn,i wählen, weil
n
/ / n
Yn,i ∈ N 0, vn,i = N (0, 1) .
i=1 i=1
57
Setze
Zn,i := Xn,1 + · · · + Xn,i↗1 + Yn,i+1 + . . . , Yn,n .
Dann verwenden wir die Teleskopsumme
/n /n /n
f Xn,i ⇔ f Yn,i = (f (Zn,i + Xn,i ) ⇔ f (Zn,i + Yn,i )) .
i=1 i=1 i=1
Es gilt also
1
f (Zn,i +Xn,i )⇔f (Zn,i +Yn,i ) = f ∝ (Zn,i )(Xn,i ⇔Yn,i )+ f ∝∝ (Zn,i )(Xn,i
2 2
⇔Yn,i )+R(Zn,i , Xn,i )⇔R(Zn,i , Yn,i ) .
2
In die Teleskopsumme eingesetzt liefert dies
/ n n
/
Ef Xn,i ⇔ Ef (Z) = E(R(Zn,i , Xn,i ) ⇔ R(Zn,i , Yn,i )) . (5.5)
i=1 i=1
Mit der Abschätzung unseres Fehlerterms erhalten wir
E|R(Zn,i , Xn,i )| ↙ Cf (ε EXn,i
2
+ E[Xn,i
2
, |Xn,i | > ε]) .
Aufsummieren ergibt
/n n
/
E|R(Zn,i , Xn,i )| ↙ Cf ε + E[Xn,i
2
, |Xn,i | > ε] .
i=1 i=1
(5.6)
$ %& '
→0 , n→0
Dieselbe Abschätzung gilt für Yn,i anstatt Xn,i . Um zu zeigen, dass auch Yn,i die Lindeberg-
∝
Bedingung erfüllt, benutzen wir dass Yn,i und vn,i Z dieselbe Verteilung haben, also
/n n
/
2 ∝ n ∝
E[Yn,i , |Yn,i | > ε] =
2
vn,i E[Z , vn,1 |Z| > ε] ↙ E Z , max vn,i |Z| > ε ↘ 0 .
2
i=1
i=1 i=1
Die letzte Konvergenz gilt weil maxni=1 vn,i ↘ 0 für n ↘ ↗. In der Tat ist
n
/
vn,i ↙ ε2 + E[Xn,i
2
, |Xn,i | > ε] ↙ ε2 + E[Xn,i
2
, |Xn,i | > ε] ,
i=1
Mit (5.6) und der analogen Abschätzung für Yn,i in (5.5) folgt der Satz.
58
5.3 Satz von Berry-Esseen
Lemma 5.15 (Esseensche Ungleichung). Seien µ, ↽ Verteilungen auf R mit Verteilungsfunk-
tionen Fµ , Fϖ und charakteristischen Funktionen ◁µ , ◁ϖ . Wenn ↽ eine beschränkte Dichte
ϖ(dx)
dx
↙ M für ein M > 0 besitzt, dann gilt
T
24M 1 |◁µ (t) ⇔ ◁ϖ (t)|
|Fµ (x) ⇔ Fϖ (x)| ↙ + dt
↼T ↼ ↗T |t|
für alle T > 0 und x ↑ R.
Beweis. Sei R := ℑFµ ⇔ Fϖ ℑ↑ . Im Fall R = 0 ist nichts zu zeigen. Sei also R > 0. Wir wählen
unabhängige reelle Zufallsvariablen X, Y, Z, so dass
2 (sin(z/2))2
PX = µ , PY = ↽ , PZ (dz) = dz .
↼ z2
Dann ist ◁Z (t) = (1⇔|t|)+ , wie Sie im Beispiel zur Fourier-Umkehrformel gesehen haben. Seien
außerdem XT := X + ZT und YT := Y + ZT mit Verteilungsfunktionen FXT und FYT . Wir zeigen,
dass
24M
|Fµ (x) ⇔ Fϖ (x)| ↙ + 2ℑFXT ⇔ FYT ℑ↑ , x ↑ R. (5.7)
↼T
Wir unterscheiden zwei Fälle, nämlich supx↘R (Fµ (x)⇔Fϖ (x)) = R und supx↘R (Fϖ (x)⇔Fµ (x)) =
R.
Erster Fall: Angenommen für alle ε > 0, gibt es ein x ↑ R mit Fµ (x) ⇔ Fϖ (x) △ R ⇔ ε.
Dann gilt
x+⇀
↽(dy)
Fµ (x + φ) ⇔ Fϖ (x + φ) △ Fµ (x) ⇔ Fϖ (x + φ) = Fµ (x) ⇔ Fϖ (x) ⇔ dy △ R ⇔ ε ⇔ M φ ,
x dy
59
weil ε > 0 beliebig war. Hier haben wir in (1) benutzt, dass Z unabhängig ist von X und Y .
In (2) haben wir E[Z, |Z| ↙ ε] = 0 für alle ε > 0 verwendet. Wir schätzen nun weiter nach
unten ab mit
RT RT 2 (sin(z/2))2 4 ↑ dz 8M
P |Z| ↙ =1⇔ |z| > 2
dz △ 1 ⇔ 2
△1⇔ .
2M R 2M ↼ z ↼ 2M
RT z ↼RT
Insgesamt erhalten wir
3R 8M R 12M
ℑFXT ⇔ FYT ℑ↑ △ 1⇔ ⇔R△ ⇔ .
2 ↼RT 2 ↼T
Also folgt (5.7).
Zweiter Fall: Angenommen für alle ε > 0, gibt es ein x ↑ R mit Fϖ (x) ⇔ Fµ (x) △ R ⇔ ε.
Dann folgt analog zu oben
Fϖ (x ⇔ φ) ⇔ Fµ (x ⇔ φ) △ R ⇔ ε ⇔ M φ
für alle φ > 0. Also gilt mit u = x ⇔ 2M
R
auch
3R R
Fϖ (y) ⇔ Fµ (y) △ ⇔ ε + M (y ⇔ u) |y ⇔ u| ↙ ⇔R.
2 2M
Wie oben folgern wir daraus
3R RT
ℑFXT ⇔ FYT ℑ↑ △ FYT (u) ⇔ FXT (u) △ ⇔ ε P |Z| ↙ ⇔R.
2 2M
Also folgt (5.7) auch in diesem Fall.
Um den Beweis abzuschließen müssen wir noch zeigen, dass
T
1 |◁µ (t) ⇔ ◁ϖ (t)|
ℑFXT ⇔ FYT ℑ↑ ↙ dt . (5.8)
2↼ ↗T |t|
Für die charakteristische Funktion von XT gilt
t |t|
◁XT (t) = ◁X (t)◁ Z (t) = ◁X (t)◁Z = ◁X (t) 1 ⇔ ,
T T T +
weil X und Z unabhängig sind und wegen der Wahl der Verteilung von Z. Wir benutzen die
Fourier-Umkehrformel, um die Dichte von XT zu bestimmen:
PXT (dx) 1 ↗itx |t|
= e ◁µ (t) 1 ⇔ dt .
dx 2↼ T +
Jetzt drüecken wir die Verteilungsfunktion mit Hilfe der charakteristischen Funktion aus, näm-
lich
FXT (y) = P[XT ↙ y]
= lim E[e↗ς(y↗XT ) , XT ↙ y]
ς⇑0
y
1 ↗ςy (ς↗it)x |t|
= lim e e ◁µ (t) 1 ⇔ dtdx
ς⇑0 2↼ ↗↑ T +
e↗ςy T e(ς↗it)y |t|
= lim ◁µ (t) 1 ⇔ dt .
ς⇑0 2↼ ↗T ε ⇔ it T
Die analoge Rechnung für YT ergibt
e↗ςy T e(ς↗it)y |t|
1 T |◁µ (t) ⇔ ◁ϖ (t)|
|FXT (y) ⇔ FYT (y)| = lim (◁µ (t) ⇔ ◁ϖ (t)) 1 ⇔ dt ↙ dt .
ς⇑0 2↼ ↗T ε ⇔ it T 2↼ ↗T |t|
Damit ist (5.8) gezeigt.
60
Satz 5.16 (Satz von Berry-Esseen). Seien (Xi )i↘N i.i.d. Zufallsvariablen in L3 und Y N (0, 1)-
verteilt. Setze m := EX1 , v := Var(X1 ) und K := E|Xv13/2
↗m|3
. Dann gilt für
n +n
1 / Xi ⇔ m Xi ⇔ nm
Sn↖ := ∝ ∝ = i=1
∝
n i=1 v nv
Bemerkung 5.17. Die Konstante 3 in der Ungleichung ist nicht optimal und kann z.B. durch
0.4748 ersetzt werden.
Beweis. Durch Verschieben und Reskalieren, also X !n := X′
i ↗m
, können wir o.B.d.A. m = 0
v
und v = 1 annehmen. Wir schreiben X := X1 und ◁ := ◁X . Da X ↑ L3 wissen wir, dass
◁ ↑ C 3 (R) und
ℑ◁∝∝∝ ℑ↑ = sup|EX 3 eitX | ↙ E|X|3 = K .
t↘R
Außerdem ist K △ 1 wegen der Jensenschen Ungleichung. Insbesondere ist die Aussage des
Satzes für n ↙ 9 trivial und wir nehmen von hier an n △ 10 an. Taylor-Entwicklung der
charakteristischen Funktion liefert für ein ▷t ↑ [0, 1] die Gleichung
1 1
◁(t) = ◁(0) + t◁∝ (0) + t2 ◁∝∝ (0) + t3 ◁∝∝∝ (▷t t)
2 6
1 2 1
= 1 + itEX ⇔ t EX 2 + t3 ◁∝∝∝ (▷t t)
2 6
1 2 1 3 ∝∝∝
= 1 ⇔ t + t ◁ (▷t t) .
2 6
Also haben wir
2 3
◁(t) ⇔ 1 ⇔ t ↙ |t| K , t ↑ R.
2 6
Taylor-Entwicklung der Exponentialfunktion liefert
x2 ↗⇁x x
e↗x = 1 ⇔ x + e
2
2
für ein 1x ↑ [0, 1] und x △ 0, also auch |e↗x ⇔ (1 ⇔ x)| ↙ x2 . Es folgt
t 2 ↗ t2 t 2 4
◁Y (t) ⇔ 1 ⇔ = e 2 ⇔ 1 ⇔ ↙ t .
2 2 8
n n
t t
|◁Sn↗ (t) ⇔ ◁Y (t)| = ◁X ∝ ⇔ ◁Y ∝
n n
/ k n↗k↗1
t t n↗1 t t
↙ ◁X ∝ ⇔ ◁Y ∝ ◁X ∝ ◁ Y ∝ .
n n k=0 n n
61
+
Hier haben wir die Teleskopsumme xn ⇔ y n = (x ⇔ y) n↗1 k n↗k↗1
k=0 x y benutzt. Wir schätzen
die rechte Seite ab. Zunächst gilt
∝
t t2 |t|3 K t2 t2
↗ 4n 2n
◁X ∝ ↙1⇔ + 3/2 ↙ 1 ⇔ ↙e , |t| ↙ =: T .
n 2n 6n 4n K
Natürlich gilt auch
t t2 t2
◁Y ∝ = e↗ 2n ↙ e↗ 4n .
n
Somit ist
3
t t ↗ t2 (n→1) |t| K t4 t2 (n→1)
|◁Sn↗ (t) ⇔ ◁Y (t)| ↙ ◁X ∝ ⇔ ◁ Y ∝ n e 4n ↙ + n e ↗ 4n
.
n n 6n3/2 8n2
Nun verwenden wir die Esseensche Ungleichung in
24 1 T |◁S ↖n (t) ⇔ ◁Y (t)|
|FSn↗ (x) ⇔ FY (x)| ↙ ∝ + dt
↼T 2↼ ↼ ↗T |t|
2
24 1 T tK |t|3 ↗ t2 (n→1)
↙ ∝ + dt ∝ + e 4n
↼T 2↼ ↼ ↗T 6 n 8n
(1) 24 1 43/2 Kn3/2 #(3/2) 42 n2 #(2)
↙ ∝ + ∝ +
↼T 2↼ ↼ 6(n ⇔ 1)3/2 n 8n(n ⇔ 1)2
∝
12K 1 2 ↼Kn 2n
= 3/2 ∝ + +
↼ n ↼ 3(n ⇔ 1)3/2 (n ⇔ 1)2
(2) K
12 2 2
↙ ∝ + ∝ + ∝
n ↼ 3/2 3 ↼(1 ⇔ 1/n)3/2 ↼ n(1 ⇔ 1/n)2
(3) 3K
↙ ∝ .
n
Insbesondere gilt I E
∝ M 1⇔p
n△ ⇔ε .
p p
62