Statistische Methoden der Datenanalyse
Sommersemester
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt.
Statistische Methoden der Datenanalyse
Vorlesung (2 SWS)
Dr.-Ing. Sanam Moghaddamnia
Übung & Labor (3 SWS)
Cihan Katar
Salih NİŞANCI
Literatur
J. Hedderich und L. Sachs, Angewandte Statistik, Springer
Spektrum, Berlin, Heidelberg, 2016.
D. C. Montgomery and G. C. Runger, Applied Statistics and
Probability for Engineers, Wiley, 2014.
Prem S. Mann, Introductory Statistics, Wiley, 2012
Referenz
TU Berlin Vorlesungsfolien – Statistische Methoden der Datenanalyse
R. Frühwirth, Vorlesungsfolien – Statistische Methoden der
Datenanalyse
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 2
Statistische Methoden der Datenanalyse
Lehrplan
Deskriptive Statistik
Tabellen
Datenvisualisierung (Grafiken)
Maßzahlen
Wahrscheinlichkeitsrechnung
Zufallsvariable und Verteilungen
Induktive Statistik
Schätzen von Parametern
Testen von Hypothesen
Statistische Modellbildung (Regression)
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 3
Induktive Statistik – Schätzen von Parametern
Rückblick → Statistische Schlussbildung
Schätzwert für Wahrscheinlichkeiten
Schätzwert für Parameter
Konfidenzintervalle für Parameter
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 4
Induktive Statistik – Schätzen von Parametern
Schätzfunktionen
Punktschätzer → Berechnung eines Zahlenwertes aus der
Stichprobe zur Schätzung des Erwartungswertes µ, der
Standardabweichung σ oder einer Wahrscheinlichkeit p
unbekannter Parameter Benutzter Punktschätzer bei einer
Stichprobe vom Umfang n
Wahrscheinlichkeit 𝑝 𝑝̂ = = (relative Häufigkeit, d.h. bei einer Stichprobe
vom Umfang n trat das gesuchte Ereignis k -mal auf)
Erwartungswert 𝜇 𝜇̂ = 𝑥̅ (arithmetische Mittel der Stichprobe)
Standardabweichung 𝜎 𝜎 = 𝑠 (empirische Standardabweichung der
Stichprobe)
Varianz 𝜎 𝜎 = 𝑠 (empirische Varianz der Stichprobe)
Nach dem Gesetz der großen Zahlen liegt bei einem großen
Stichprobenumfang der aus der Stichprobe geschätzte Wert in
der Nähe des echten (unbekannten) Parameters der
Grundgesamtheit
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 5
Induktive Statistik – Schätzen von Parametern
Schätzfunktionen
Möglichkeiten zur Überprüfung der Abweichung zwischen
geschätztem Wert und tatsächlichem Wert der Grundgesamtheit
Intervallschätzer → Bildung von Vertrauensbereichen /
Konfidenzintervallen d.h. ein Intervall, indem µ, σ oder p mit einer
bestimmten Wahrscheinlichkeit z. B. 95 % liegt
Hypothesentest → Durchführung eines Hypothesentests, um
bestimmte Werte für µ, σ oder p mit einer bestimmten
Wahrscheinlichkeit (z. B. 95 %) auszuschließen.
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 6
Induktive Statistik – Schätzen von Parametern
Grundidee von Konfidenzintervall (KI)/Vertrauensintervall (VI)→
Schluss von Stichprobenwerten auf die Parameter der Grundgesamtheit,
d.h. wir suchen hier nach einem Bereich, der mit einer vorgegebenen
Sicherheitswahrscheinlichkeit den wahren Parameter 𝜗 überdecken soll
Konstruktion eines Zufallsintervalls 𝜃 − 𝜀; 𝜃 + 𝜀 für das gilt:
𝑃 𝜃−𝜀 ≤𝜗 ≤𝜃−𝜀 = 1−𝛼
𝜃 − 𝜀; 𝜃 + 𝜀 : Konfidenzintervall
1 − 𝛼: Konfidenzniveau
Der Zufall liegt in den Intervallgrenzen, d.h. Verteilungsfunktion von 𝜃 muss
bekannt sein
Verteilungen zum Schätzen und Testen → Testverteilungen
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 7
Induktive Statistik – Schätzen von Parametern
KI – Erklärung
Parameter = Statistik ± Fehler
Stichprobenverteilung des Mittels
𝑋 = 𝜇 ± 𝑍𝜎 ̅
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 8
Induktive Statistik – Schätzen von Parametern
KI – Erklärung
Konfidenzniveau → die Wahrscheinlichkeit, dass das Intervall
den unbekannten Parameter überdeckt
Wahrscheinlichkeitsintervalle → Bereiche , in denen
Stichprobenmittelwerte mit einer gewissen Wahrscheinlichkeit
liegen
Bezeichnung → (1-α) %
α → die Wahrscheinlichkeit, dass das Intervall nicht den Parameter
überdeckt
Typische Werte für (1-α) % → 90%, 95% und 99%
Zweiseitige Intervalle mit den Grenzen z und z
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 9
Induktive Statistik – Schätzen von Parametern
KI – Erklärung
Intervalle und Konfidenzniveau
Einflüsse auf die Länge KI= 𝑋 − 𝑧𝜎 ̅ , 𝑋 + 𝑧𝜎 ̅
Streuung der Daten → Gemessen durch die Standardabweichung σ
Stichprobengröße n → 𝜎 ̅ =
Konfidenzniveau 1-α → Bestimmt z
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 10
Induktive Statistik – Schätzen von Parametern
Testverteilungen → stetige Verteilungsmodelle für die
Schätz- und Testtheorie
Schätzung von 𝝁 einer Schätzung von 𝝈𝟐 einer Schätzung von 𝝁 einer
normalverteilten Grundgesamtheit bei normalverteilten Grundgesamtheit bei normalverteilten Grundgesamtheit bei
bekanntem 𝝈𝟐 unbekanntem 𝝁 unbekanntem 𝝈𝟐
𝑋 , … , 𝑋 unabhängig 𝑁(𝜇; 𝜎 ) 𝑋 , … , 𝑋 unabhängig 𝑁(𝜇; 𝜎 ) 𝑋 , … , 𝑋 unabhängig 𝑁(𝜇; 𝜎 )
𝑋−𝜇
𝜎
𝜎 𝑋 −𝑋 𝑍 𝑛 𝑋−𝜇
𝑋~𝑁(𝜇; ) 𝑊= 𝑍 = 𝑇= = =
𝑛 𝜎 𝑊 𝜎 𝑆
(𝑛 − 1)
𝑓 𝑆 𝜎
𝜎 𝑛
𝑋−𝜇 𝑛−1
𝑍= 𝜎 ~𝑁(0; 1) (𝑛 − 1)
= 𝑆 ~𝜒 𝑋−𝜇
𝑛 𝜎 = ~𝑡
𝑆
𝑛
Testverteilung zur Schätzung für 𝜎 Testverteilung zur Schätzung für 𝜇 ist
Testverteilung zur Schätzung für 𝜇
ist Chi-Quadrat-Verteilung mit 𝑓 = die t-Verteilung mit 𝑓 = 𝑛 − 1
ist die Standardnormalverteilung
𝑛 − 1 Freiheitsgraden Freiheitsgraden
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 11
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für den Mittelwert µ
Zentraler Grenzwertsatz: Mittelwerte aus beliebigen
Verteilungen folgen mit zunehmendem Stichprobenumfang einer
Normalverteilung
Kenntnis der Parameter der Grundgesamtheit (µ, σ)
Wieviel Prozent der Stichprobenmittelwerte 𝑋 liegen in bestimmten
Grenzen
in welchen Grenzen befindet sich ein bestimmter Prozentsatz
(Wahrscheinlichkeit, mit der ein Stichprobenmittelwert in diesem
Intervall zu erwarten ist) der Stichprobenmittelwerte 𝑋
Wahrscheinlichkeitsintervalle
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 12
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für den Mittelwert µ
95%-Wahrscheinlichkeitsintervall einer Standardnormalverteilung
Links vom u. Grenzwert sind 2,5% der Fläche: z , = −1,96
Links vom o. Grenzwert sind 97,5% der Fläche: z , = +1,96
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 13
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für den Mittelwert µ
Konfidenzintervall für 𝜇 bei bekanntem 𝜎 𝟐 → Ein Intervall 𝜇 ≤𝜇≤
𝜇 das den unbekannten Mittelwert 𝜇 einer Grundgesamtheit normalverteilter
Zufallsvariablen 𝑋 in 1 − 𝛼 100% überdeckt, heißt Konfidenzintervall (𝑃-
Vertrauensbereich) für den Mittelwert 𝜇.
Zweiseitig abgegrenztes Konfidenzintervall für den Mittelwert 𝝁 bei bekannter Standardabweichung 𝝈:
𝜎 𝜎
𝑋−𝑧 ∗ ≤𝜇 ≤𝑋+𝑧 ∗
𝑛 𝑛
Einseitig nach unten abgegrenztes Konfidenzintervall für den Mittelwert 𝝁 bei bekannter
Standardabweichung 𝝈:
𝑋−𝑧 ∗ ≤𝜇≤∞
Einseitig nach oben abgegrenztes Konfidenzintervall für den Mittelwert 𝝁 bei bekannter
Standardabweichung 𝝈:
−∞ ≤ 𝜇 ≤ 𝑋 + 𝑧 ∗
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 14
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für 𝜇 bei bekanntem 𝜎 𝟐
Beispielaufgabe → Das Mittel einer Stichprobe der Größe n =25
ist 𝑥̅ = 50. Wie lautet das 95% Konfidenzintervall für µ, falls die
Standardabweichung der normalverteilten Grundgesamtheit σ =
10 beträgt?
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 15
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für 𝜇 bei bekanntem 𝜎 𝟐
Beispielaufgabe → Das Mittel einer Stichprobe der Größe n =25
ist 𝑥̅ = 50. Wie lautet das 95% Konfidenzintervall für µ, falls die
Standardabweichung der normalverteilten Grundgesamtheit σ =
10 beträgt?
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 16
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für den Mittelwert µ
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐
Standardabweichung der Grundgesamtheit ist unbekannt
σ wird durch Stichprobenstandardabweichung s geschätzt
Statt der Normalverteilung wird die t-Verteilung genutzt
Konfidenzintervall wird mit entsprechenden Quantilen der t-Verteilung berechnet
Für n ≥ 30 ist die t-Verteilung ausreichend durch die Normalverteilung approximiert
0.4
Normalverteilung
t-Verteilung (df = 2)
t-Verteilung – Freiheitsgrade und Tabellen
0.3
Dichtefunktion f(x)
Die Form der Verteilung hängt von der Anzahl der
0.2
Freiheitsgrade 𝜈 = 𝑛 − 1 ab.
0.1
Für n ≥ 30 ist die t-Verteilung ausreichend durch die
Normalverteilung approximiert.
0.0
-4 -2 0 2 4
Freiheitsgrade → Die Anzahl der
Beobachtungen, die variiert
werden können, ohne dass sich
die Stichprobenstatistik ändert.
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 17
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für den Mittelwert µ
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐
t-Verteilung – Tabelle
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 18
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für den Mittelwert µ
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐
t-Verteilung – Tabelle
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 19
Testen von Hypothesen – Konfidenzintervalle
Konfidenzintervall für den Mittelwert µ
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐 → Ein Intervall
𝜇 ≤ 𝜇 ≤ 𝜇 , das den unbekannten Mittelwert 𝝁 einer Grundgesamtheit
normalverteilter Zufallsvariablen 𝑋 in 1 − 𝛼 100% überdeckt, heißt
Konfidenzintervall (𝑷-Vertrauensbereich) für den Mittelwert 𝝁.
Zweiseitig abgegrenztes Konfidenzintervall für den Mittelwert 𝝁 bei unbekannter Standardabweichung 𝝈:
𝑆 𝑆
𝑋−𝑡 ; ∗ ≤𝜇 ≤𝑋+𝑡 ; ∗
𝑛 𝑛
Einseitig nach unten abgegrenztes Konfidenzintervall für den Mittelwert 𝝁 bei unbekannter
Standardabweichung 𝝈:
𝑋−𝑡 ; ∗ ≤𝜇≤∞
Einseitig nach oben abgegrenztes Konfidenzintervall für den Mittelwert 𝝁 bei unbekannter
Standardabweichung 𝝈:
−∞ ≤ 𝜇 ≤ 𝑋 + 𝑡 ; ∗
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 20
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐
Beispielaufgabe → Eine zufällig ausgewählte Gruppe von 11
Studierenden der TU-Berlin hat an einem IQ-Test teilgenommen. Die
resultierenden Werte sind 203, 195, 193, 193, 193, 188, 185, 184, 172,
170 und 162. Wir möchten nun das arithmetische Mittel der IQ-Werte
für die entsprechende Population schätzen und als Indikator der
Genauigkeit der Schätzung ein 90% Konfidenzintervall bestimmen. Aus
Erfahrungen weiß man, dass IQ-Werte normalverteilt sind.
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 21
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐
Beispielaufgabe → Eine zufällig ausgewählte Gruppe von 11
Studierenden der TU-Berlin hat an einem IQ-Test teilgenommen. Die
resultierenden Werte sind 203, 195, 193, 193, 193, 188, 185, 184, 172,
170 und 162. Wir möchten nun das arithmetische Mittel der IQ-Werte
für die entsprechende Population schätzen und als Indikator der
Genauigkeit der Schätzung ein 90% Konfidenzintervall bestimmen. Aus
Erfahrungen weiß man, dass IQ-Werte normalverteilt sind.
203 195 ... 162
1. Mittelwert berechnen: x 185,27
11
2. Standardabweichung
berechnen:
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 22
Induktive Statistik – Schätzen von Parametern
Konfidenzintervall für 𝜇 bei unbekanntem 𝜎 𝟐 →
Beispielaufgabe
3. t-Werte ermitteln/ablesen: Für n-1=10 Freiheitsgrade und eine Konfidenz von 90%: t=1,813
4. Grenzen des Intervalls bestimmen:
12,443
Untere Grenze: 185 1,813 178,47
11
12,443
Obere Grenze: 185 1,813 192,07
11
Bei wiederholter Anwendung des Verfahrens wird der zu schätzende Parameter von
durchschnittlich 90% der berechneten Intervalle überdeckt. Ob das Intervall zwischen 178 und
192 den wahren IQ-Wert der TUB-Studierenden enthält wissen wir nicht.
Jegliche Änderung, Vervielfältigung sowie die Weitergabe an Dritte sind streng untersagt. 23