Statistica secondo modulo!

Consideriamo due variabili categoriche qualitative, una delle due è una variabile risposta e l’altra
è una variabile esplicativa.
C’è associazione tra le due se, nella popolazione, la distribuzione condizionata della variabile
risposta è diversa in corrispondenza delle diverse modalità della variabile esplicativa.

Variabile esplicativa: genere

Variabile risposta: orientamento politico
L’orientamento politico cambia in funzione del genere.

Nel campione, la distribuzione condizionata dell’Orientamento politico varia al variare del

Genere. È possibile concludere che questo avviene anche nella popolazione da cui il campione
proviene?

Variabile esplicativa: reddito

Variabile risposta: felicità

È possibile concludere che nella popolazione esiste un’associazione tra Felicità e categoria di
Reddito?

Indipendenza statistica: nella popolazione la distribuzione condizionata di ciascuna variabile è

costante per tutte le modalità dell’altra.
Dipendenza: nella popolazione le distribuzioni condizionate non son tutte uguali.

Esempio di indipendenza statistica: le percentuali 32/55/13% si riferiscono a tutte le persone con

reddito sopra la media: delle persone con reddito sopra la media, il 32% è molto felice, il 55% è
abbastanza felice e il 13% è poco felice. Sembrerebbe che la felicità non dipenda dal reddito.

Test di indipendenza Chi-Quadro:

H0: le variabili sono statisticamente indipendenti.
H1: c’è associazione statistica tra le variabili.
Sintetizzare le differenze tra i valori osservati e le
frequenze teoriche nel caso che H0 sia vera.
Indico con:
- fo le frequenze osservate
- fe le frequenze attese
- r il numero di righe
- c il numero di colonne
Le frequenze teoriche attese hanno distribuzione condizionate costanti (la distribuzione di una
variabile non cambia al variare dell’altra) e uguali alla corrispondente distribuzione marginale. Hanno
la stessa distribuzione marginale (sia di riga che di colonna) delle frequenze osservate. Si possono
calcolare così:
fe = totale di riga x totale di colonna / n

Calcolo frequenze attese prima colonna:

fe = 615 x 911 / 2955 = 189.6
fe = 1420 x 911 / 2955 = 437.8
fe = 920 x 911 / 2955 = 283.6

Calcolo la differenza tra frequenze osservate e teoriche: con la somma estesa

a tutte le celle della tabella di contingenza.

Se H0 è vera: la distribuzione campionaria di questa statistica si approssima (per n sufficientemente

grande) alla distribuzione di probabilità Chi-Quadro. N sufficiente grande à celle fe>5, per piccoli
campioni si applica Fisher. Il chi quadro tratta le variabili come qualitative nominali.

Chi-Quadro: è definita sulla parte positiva dell’asse reale à è asimmetrica positiva (tende a
diventare simmetrica al crescere della dimensione campionaria). Media e varianza dipendono
entrambe dalle dimensioni della tavola di contingenza attraverso i gradi di libertà (gdl): gdl=(r-1)(c-
1)=media della distribuzione, 2gld=varianza della distribuzione. (R=numero righe, C=numero
colonne).
Valori elevati di X^2 sono improbabili sotto l’ipotesi H0.
Il P-value è rappresentato dai valori nella coda destra della distribuzione, maggiori della statistica
test osservata.

Riprendiamo esercizio e calcoliamo: χ2= 172.3

Gdl= (3-1)(3-1)=4 e P-valore<0.001 à il p-value è l’area a destra della statistica osservata (172,3)
nella distribuzione χ2 con 4 gdl. La probabilità che χ2 sia maggiore di 172,3 è quasi zero.
C’`e un’evidenza molto forte contro l’ipotesi nulla H0: Indipendenza tra le variabili (se H0 fosse
vera, avremmo una probabilità < 0,001 di osservare un valore della statistica χ2 maggiore o uguale
a quello osservato, cioè 172,3).
O è capitato un evento estremamente improbabile o l’ipotesi H0 non è corretta. Di conseguenza: al
livello di significatività α = 0, 05 (o α = 0, 01 o α = 0, 001), si respinge l’ipotesi H0 e si conclude che,
nella popolazione, c’è associazione tra felicità e reddito. à Rifiutare H0 quando è vera, si
commette errore alfa. La probabilità di commettere questo errore è alfa, se scegli alfa=0.05 si
accetta un rischio del 5% di sbagliare. NON SAPPIAMO LA FORZA DELL’ASSOCIAZIONE.

DISTRIBUZIONE CHI-QUADRO:
Gradi di libertà
Gdl = (r − 1)(c − 1) significa che dati i marginali di una tabella si possono fissare liberamente solo
(r − 1)(c − 1) valori nella celle; gli altri sono determinati di conseguenza.
Tabella contingenza 2x3: se hai i totali di riga e colonna, non puoi scegliere liberamente tutte e 6 le
celle. Le scelte libere sono: (2-1) (3-1) = 2

Se z è una statistica con distribuzione normale standardizzata, allora z^2 ha una distribuzione chi-
quadro con gdl = 1 à se z è normale standard N(0,1) allora z^2 ha una distribuzione chi quadro
con gdl=1.

La somma di d variabili indipendenti z, con distribuzione normale standardizzata, prese al quadrato,

ha una distribuzione chi-quadro con gdl = d.

ESERCIZI:

Il valore dell’indice Chi-quadrato è 236.4, interpreta tale valore e svolgi il test di indipendenza:
alfa= 0.05
1-alfa= 0.95 con gdl 8: è 15,5
gdl= (5-1) (3-1) = 8

Dato che 236.4 è maggiore di 15.5, respingo l’ipotesi nulla.

15.5 (χ2 critico) è un punto sulle ascisse, lascia a destra un’area pari a 0.05.
Se χ² osservato > χ² critico, rifiuti H₀
Se χ² osservato ≤ χ² critico, non rifiuti H₀
Confronta il gruppo di sposati e divorziati attraverso un test per la differenza tra proporzioni
nella categoria molto felice (rispetto a poco e ad abbastanza).

molto felici altre

sposato 600 720+93=813 1413
divorziato 93 304+88=392 485
693 1205 1898

Probabilità di essere molto felici:

Sposati molto felici=600/1413=0.425 (x1)
Divorziati molto felici=93/485=0.192 (x2)

Sposati + divorziati=693/1898=0.365 (x3)

Test:
H0: x1- x2 = 0 (indipendenza)
H1: diverso da 0 (dipendenza)

𝑥1 − 𝑥2
𝑍" =
(𝑥3(1 − 𝑥3)( 1 + 1 )
𝑛1 𝑛2
x1- x2 = 0.425 – 0.192
1-x3 = 0,635
1/1413+1/485
Z=9.2

Questo valore è molto maggiore di qualunque valore critico à rifiuto H0.

TAVOLA 2 X 2:
Per le tavole 2 × 2 il test chi-quadro di indipendenza (con gdl = 1) è equivalente a sottoporre a test
l’ipotesi:
H0: π1 = π2 (confronto tra proporzioni di due popolazioni).

H0: π1 = π2 è equivalente a: la variabile risposta è indipendente dalla variabile “gruppo”. Quindi, la

statistica χ2 è il quadrato della statistica test z: z = (π1 − π2) / (es0)

𝑥1 − 𝑥2
𝑍" =
(𝑥3(1 − 𝑥3)( 1 + 1 )
𝑛1 𝑛2
ESERCIZI:

Valuta se c’è associazione tra le due variabili tramite un test per la differenza tra proporzioni.
Totali cintura: 37792
Totali no cintura: 30902

X1=2409/37792= 0.0637
X2=3865/30902= 0.1251
X3=2409+3865/37792+30902= 0.09135

...0123..4564
𝑍" = 8 8
=-27.8
(...7416(43...7416)( = )
9::;< 9>;><

Si rifiuta H0, il valore critico z à con alfa 0.05, il valore critico è 1.96, 27.8 è maggiore di 1.96
_______________________________________________________________________________________
Elevati valori del χ2 mostrano una forte evidenza che vi sia associazione tra le variabili, ma non
forniscono alcun elemento né sulla struttura dell’associazione né sulla sua forza.
Possiamo indagare sulla struttura dell’associazione utilizzando i residui (contingenze) in ciascuna
cella della tavola.

Residuo = fo – fe
I residui sono positivi (negativi) se le frequenze osservate sono maggiori (minori) di quelle attese
sotto l’ipotesi di indipendenza.

Residui standardizzati: z = fo − fe /es; (con es = errore standard del residuo). Misurano quanti
errori standard la differenza fo − fe si allontana da 0 sotto l’ipotesi.

L’errore standard del residuo `e definito come:

𝒆𝒔 = A𝒇𝒆(𝟏 − 𝒑𝒓𝒐𝒑 𝒅𝒊 𝒓𝒊𝒈𝒂)(𝟏 − 𝒑𝒓𝒐𝒑 𝒅𝒊 𝒄𝒐𝒍𝒐𝒏𝒏𝒂)

𝒇𝟎3𝒇𝒆
Quindi il residuo standardizzato: 𝒛 =
A𝒇𝒆(𝟏3𝒑𝒓𝒐𝒑 𝒅𝒊 𝒓𝒊𝒈𝒂)(𝟏3𝒑𝒓𝒐𝒑 𝒅𝒊 𝒄𝒐𝒍𝒐𝒏𝒏𝒂)

Esempio: cella con frequenza osservata 272 e frequenza attesa 198,6:

- Proporzione di riga = 615/2955 = 0.208
- Proporzione di colonna = 911/2955 = 0.308
Il residuo standardizzato è:
z= (272-198.6) / es
es=A𝟏𝟗𝟖. 𝟔(𝟏 − 𝟎. 𝟐𝟎𝟖)(𝟏 − 𝟎. 𝟑𝟎𝟖)
z=8.1

Quindi il numero di persone molto felici con reddito familiare sopra la media, è circa 8 errori
standard più grande di quanto ci saremmo aspettati sotto l’ipotesi di indipendenza tra reddito
e felicità. In modo analogo possiamo osservare più persone di quelle attese nella cella “non troppo
felice con reddito sotto la media” e un minor numero di persone rispetto all’aspettativa per le celle
“molto felice con reddito sotto la media” e “non troppo felice con reddito sopra la media”.
Nelle tavole 2×2 ciascun residuo standardizzato ha lo stesso valore assoluto e soddisfa la seguente
uguaglianza: z^2 = χ2
(poichè gdl = 1, calcolato un residuo gli altri sono determinati di conseguenza).

Quando l’ipotesi di indipendenza è vera, i residui standardizzati hanno distribuzione normale

standardizzata con media 0 e varianza 1.
Un residuo standardizzato > 2 o < −2 indica un significativo allontanamento dal valore che ci
aspetteremmo per la relativa combinazione di modalità, se l’ipotesi nulla fosse vera.
Questo capiterà infatti, per effetto del caso, solo all’incirca 5 volte su 100.
Se il residuo standardizzato è > 3 o < −3 allora per quella cella (combinazione di modalità) vi è una
evidenza molto forte di associazione.

Il test Chi-quadro risponde alla domanda: “C’è associazione tra due variabili?”.
I residui standardizzati ci aiutano a comprendere la struttura dell’associazione e rispondono alla
domanda: “Quanto i dati osservati si allontanano dalla situazione di indipendenza?”
Se ci chiediamo: “Quanto forte è l’associazione tra due variabili?” possiamo rispondere
utilizzando la differenza tra proporzioni.

Esempio:

La differenza tra proporzioni 0.64 – 0.03 = 0.61 mostra, tra opinione e partito politico, una
associazione molto maggiore di quella tra genere e partito politico: 0.27 – 0.24 = 0.03
Più grande è la differenza tra |πˆ2 − πˆ1| maggiore l’associazione.

Confrontando quelli che hanno un reddito sopra la media con quelli che sono al di sotto, la
differenza tra le proporzioni stimate è per i molto felici: 0.44−0.20=0.24 e,per i non troppo, 0.23 –
0.08 = 0.15

Un altro metodo per confrontare proporzioni è tramite rapporto (0.44/0.20): rischio relativo (a/c).

o tramite l’odds ratio (axd/bxc)

ODDS:
Per due possibili risultati di una variabile, che definiamo convenzionalmente “successo” e
“insuccesso” l’odds è dato dal rapporto:

Da un odds è possibile risalire alla probabilità di successo:

Probabilità = (odds/(odds + 1))
Es: odds =4 ⇒P(successo)=4/(4+1)=4/5=0.8

χ2 = 451.4; gdl = 1, (P−valore = 0, 0000)

Residui standardizzati pari a +21.2 e -21.2

Per i fumatori, l’odds di bere alcolici è pari a 1449/46 = 31.50

Per i non fumatori l’odds di bere alcolici è pari a 500/281 = 1.78

L’odds ratio è pari a 31.5/1.78 = 17.7 à Gli odds stimati che un fumatore faccia uso di alcolici
è pari a 17.7 volte gli odds che faccia uso di alcolici un non fumatore.

L’odds ratio e pari a 1,0 in assenza di associazione; mentre l’associazione `e tanto maggiore quanto
più il suo valore si allontana da 1,0. ASSUME VALORI NON NEGATIVI.
Può essere calcolato come rapporto dei prodotti in croce nella tavola. Nell’esempio su alcol e fumo:
θ = (1449) (281) / (46) (500) = 17, 7 à a x d/ b x c
ODDS:
Gli odds sono quante volte è più probabile l’evento rispetto al non evento.

Calcola l’odds ratio e interpretalo:

odds ratio=2409 x 27037 / 35383 x 3865 =0.48
Gli odds stimati che una persona con la cintura venga ferita sono pari a 0.48 volte gli odds che
venga ferita una persona senza cintura.

Esempio: Effetto di n sul valore del chi-quadro per un dato grado di associazione.
Il test chi-quadro “misura” esclusivamente l’evidenza a favore della presenza di associazione
tra le variabili. Non ci dice niente riguardo alla struttura dell’associazione (per la quale sono utili i
residui standardizzati).
Non ci dice niente riguardo alla forza dell’associazione (che può essere evidenziata dalle differenza
tra proporzioni, i rapporti tra proporzioni o gli odds ratio).
Elevati valori del chi-quadro e piccoli P-valori indicano forte evidenza di associazione, ma
non necessariamente una forte associazione.

Con n sufficientemente grande è possibile ottenere un alto valore di chi-quadro (e quindi un piccolo
P-valore) anche in corrispondenza di debole associazione.
Quindi un piccolo P-valore non implica forte associazione.

Gruppo 1: 10000 à x1=5100/10000=0,51

Gruppo 2: 10000 à x2=4900/10000=0,49
X3=0,5

Z= 0,49-0,51/
Radice di (0,5 x 0,5 x (1/10000 + 1/10000)
-2,82843, z^2=8

Con chi quadro 8 e gdl 1: p value è 0,005, più piccolo di alfa 0,05: c’è associazione: però nonostante
la forte evidenza di associazione, questa sembra essere davvero molto debole: Si noti che πˆ1 −
πˆ2= 0,51 - 0,49 = 0,02 (associazione molto debole).

Altre misure di analisi sono possibili se le variabili sono di natura ordinale o quantitativa.
Per variabili quantitative il Cap. 9 descrive l’analisi della regressione e della correlazione. Per quelle
ordinali esistono misure dell’associazione che si basano sui concetti di: concordanza e
discordanza.

Concordanza: c’è concordanza tra due caratteri per tutti quei soggetti che occupano una
posizione elevata per ambedue i caratteri o una posizione non elevata per ambedue.
Discordanza: c’è discordanza per tutti i soggetti che occupano una posizione elevata per uno dei
due caratteri e non elevata per l’atro.

Concordanza e discordanza prefigurano due tipi di associazione: rispettivamente positiva e

negativa. In particolare, possiamo ragionevolmente pensare che due caratteri ordinali in una tavola
di contingenza siano associati positivamente se nella tavola le coppie di soggetti concordanti sono
in prevalenza; associazione negativa se prevalgono le coppie di discordanti; nessuna associazione
se le coppie di concordanti e di discordanti si compensano.

Dalla tavola su felicità e reddito consideriamo (per semplificare i calcoli) un sotto-campione di 296
soggetti:
Ordiniamo le modalità dei due caratteri in senso crescente dall’alto in basso e da sinistra a destra.
La struttura associativa della tavola è sostanzialmente la stessa di quella con 2955 soggetti.
Da un valore di χ2 = 172,3 passiamo ad un valore di chi-quadro di circa dieci volte inferiore:
χ2= 17,06 con un corrispondente P-valore = 0,00019

C’è ancora una forte evidenza di associazione tra le variabili ma struttura e forza del’associazione
devono essere studiate attraverso i residui standardizzati e i confronto tra proporzioni.
Sfruttando la scala ordinale delle due variabili possiamo ottenere informazioni sulla struttura e sulla
forza dell’associazione costruendo un unico indice statistico.

Denotiamo con C il numero complessivo di coppie con osservazioni concordanti e con D quelle
con osservazioni discordanti. Il procedimento per il calcolo delle coppie concordanti e discordanti
è illustrato dalle seguenti tavole:

Nelle prime 4 tavole si calcola il numero delle coppie concordanti, nelle successive quello delle
coppie discordanti:
Ciascuno dei 21 soggetti con reddito sotto media (< M) e poco felici (PF) `e concordante con
ciascuno dei soggetti in tabella che abbia un reddito maggiore e un maggiore livello di felicità. Lo
stesso vale per i 53, 13, 84, delle altre tre tabelle
Si procede in modo del tutto analogo (nelle quattro tabelle successive) partendo dai 19 soggetti
molto felici (MF), ma con reddito sotto media e poi proseguendo per gli atri 45, 53, 84:
Risultato:
C = 21×(84+45+29+27)+53×(45+27)+13×(29+27)+84×27 = 10697
D = 19×(13+84+5+29)+45×(5+29)+53×(13+5)+84×5 = 5393

Un indice statistico può scaturire dal confronto (differenza o rapporto) tra C e D

L’indice Gamma `e dato dal rapporto tra la differenza tra C e D e la loro somma:

Osserva:
- −1≤γ≤1; ed è uguale a 0 se C=D
- Il segno “+” o “−” mostra se l’associazione è positiva o negativa
- Più alto il valore assoluto di gamma e più forte è l’associazione
- Se: γˆ = 0, c’è assenza di associazione ma non necessariamente indipendenza
statistica tra le variabili
man mano che il reddito cresce, la felicità tende ad aumentare.

ESERCIZIO:

a) Trova il numero C di coppie concordanti e il numero D di coppe discordanti

b) Calcola l’indice di gamma e interpretalo
c) Mostra come esprimere gamma quale differenza tra due proporzioni

1 x (5+4+2+0) + 2 x (2+0) = 15
1 x (5+4+2+0) + 2 x (2+4) + 2 x (2+0) + 5 x 2 = 11+12+4+10=37

15-37/15+37=-0.423 associazione negativa moderata.

ESERCIZIO:
Per i dati di un’indagine del 2006 risulta gamma=0,22 con riferimento alla relazione tra
soddisfazione sul lavoro (con categorie molto insoddisfatto, poco insoddisfatto, moderatamente
soddisfatto, molto soddisfatto) e reddito familiare (sotto la media, in media, sopra la media).
a) Come potrebbe essere considerata tale associazione, molto forte o relativamente debole?
b) L’associazione risultante più forte o più debole di quella tra soddisfazione sul lavoro e felicità,
che ha gamma = 0,40?

È una associazione debole, al crescere del reddito cresce la soddisfazione sul lavoro. È una
associazione più debole rispetto a quella con gamma 0,40

Ricorda:
Il gamma di Goodman e Kruskal misura l’associazione tra due variabili ordinali. Il suo valore va da
-1 a 1:
- Valori vicini a 0 indicano un’associazione debole o nulla.
- Valori vicini a 1 (o -1) indicano un’associazione forte (positiva o negativa).

ESERCIZIO:

Odds di avere usato marijuana: 0.51/0.49

Odds di avere usato cocaina: 0.18/0.82

si no
marijuana 51 49
cocaina 18 82

Odds ratio: 0.51 x 0.82 / 0.49 x 0.18=4,74

L’odds di aver usato marijuana è circa 4.7 volte l’odds di aver usato cocaina.

ESERCIZIO:

Calcola l’indice di gamma e l’odds ratio:

c: 15x20=300
d: 2x5=10
gamma = 290/310 = 0.935

odds ratio: 15 x 20 / 2 x 5 = 300/10 = 30

ESERCIZIO:

Chi Quadro:
Totale 800
Calcolo fe
Fea=400x96/800=48
Feb=400x704/800=352
Fec=400x96/800=48
Fed=400x704/800=352
(𝑂 − 𝐸)5
𝑋2 = X
𝐸
𝑋2 =3+3+0.4+0.4=6.8
Guardo sulla tavola chi quadro: gdl=1
È maggiore di 3.841 quindi rifiuto ipotesi nulla H0 (indipendenza).

Potrei svolgere lo stesso esercizio con il test z sulle due proporzioni:

H0: p1=p2
H1: p1 diverso da p2

P1=36/400=0.09
P2=60/400=0.15

Sotto H0 supponiamo che la vera proporzione sia la stessa, quindi stimiamo una proporzione unica:
P3=96/800=0.12

Errore standard sotto H0:

 1 1
[𝜋(1 − 𝜋)( + )
𝑛1 𝑛2

4 4
(0.12(1 − 0.12)( + ^..)=0.02298
^..

Statistica Z:
0.09-0.15/0.02298=2.61

Valore critico (alfa=0.05 test a due code)

Valore critico ±1.96
Rifiuto H0

REGRESSIONE:
Nello studio dell’associazione tra caratteri qualitativi ordinabili e nello studio dell’associazione tra
caratteri quantitativi è possibile valutare sia l’intensità sia il verso dell’associazione.
Quando le modalità dei due caratteri sono ordinate, possono esistere tra loro due diversi tipi di
relazione:
- Relazione diretta (positiva) o Concordanza,
- Relazione inversa (negativa) o Discordanza.

Gli indici di associazione per caratteri ordinati assumono sia valori negativi che positivi:
- Valori positivi in caso di concordanza tra i due caratteri,
- Valori negativi in caso di discordanza tra i due caratteri.

Siano X e Y due caratteri quantitativi:

Esiste concordanza tra x e y se:
- Al crescere di X cresce Y e al decrescere di X decresce Y e viceversa.
Esiste discordanza tra x e y se:
- Al crescere di X decresce Y e al decrescere di X cresce Y.

Per mettere in evidenza la possibile relazione tra due caratteri quantitativi si può rappresentare
l’insieme dei dati attraverso un diagramma a dispersione.
Siano X e Y due variabili quantitative di cui si osservano le realizzazioni su n unità statistiche:
(x1,y1),(x2,y2),...,(xi,yi),...,(xn,yn).
Le coppie ordinate di modalità dei due caratteri quantitativi osservati per ogni unità del collettivo
vengono rappresentate come punti di un piano cartesiano i cui assi ortogonali corrispondono ai
caratteri.
 Si considerino le variabili centrate rispetto alla loro
media:

Due caratteri quantitativi presentano concordanza se la maggior parte degli scostamenti sono
concordi: X ′ e Y ′ entrambi positivi (o negativi).
Due caratteri quantitativi presentano discordanza se la maggior parte degli scostamenti sono
discordi: X ′ positivo e Y ′ negativo (o viceversa).
Rappresentare il diagramma a dispersione dei valori scartati dalla media.

COVARIANZA: la covarianza misura la concordanza o la discordanza tra due caratteri quantitativi.

Stimatore della covarianza: Somma dei prodotti degli scostamenti dalle rispettive medie
campionarie, X e Y diviso n−1:

Se la covarianza è positiva, significa che, in media, quando una delle variabili aumenta, anche l’altra
tende ad aumentare. Se la covarianza è negativa, indica che, quando una delle variabili aumenta,
l’altra tende a diminuire.
Infine, una covarianza di zero indica che non vi è alcuna relazione lineare tra le due variabili, ma
questo non implica necessariamente indipendenza. Relazione tra covarianza e correlazione. La
covarianza misura la relazione in termini assoluti tra due variabili, fornisce solo informazioni su come
due variabili si muovono insieme, ma dipende dalle unità di misura delle variabili e non dice nulla
sull'intensità, né posso usarla per fare confronti. La correlazione va oltre, indica sia la forza che
la direzione della relazione delle variabili statistiche. Ad esempio, la covarianza è utilizzata nel
coefficiente di Pearson per misurare la correlazione su una scala tra -1 e 1. Quindi, la correlazione
è una versione normalizzata della covarianza.
Calcolo media di x e y:
Esempio pratico covarianza: media di x= 6
studente ore di studio x voto y media di y= 78
a 2 65
b 4 70 studente a (2-6)(65-78)=52, faccio così per
c 6 80 tutti gli studenti e sommo i risultati, divido per
d 8 85 n-1. In questo caso la covarianza è 26. Se
e 10 90 aumentano ore di studio, aumentano i voti.
Si può dimostrare che:

Sxy = Valore osservato della covarianza campionaria su un particolare campione

È un indice simmetrico: Sxy = Syx
Valori della covarianza campionaria: −sX sY ≤sXY ≤sX sY
dove sX e sY sono le deviazioni standard campionarie (corrette) di X e Y

COEFFICIENTE DI CORRELAZIONE LINEARE:

ha lo stesso segno della covarianza però non dipende dall’unità di misura delle variabili. Il
coefficiente di correlazione è un indice simmetrico. Rxy = Ryx

Il coefficiente di correlazione lineare: interpretazione

Il coefficiente di correlazione lineare assume valori compresi tra -1 e 1:
−1≤rXY ≤1

rXY = 1 ⇐⇒ Esiste un’associazione lineare perfetta tra X e Y e i due caratteri sono concordi:
Y=a+bX b>0 e X=c+dY d>0

rXY = −1 ⇐⇒ Esiste un’associazione lineare perfetta tra X e Y e i due caratteri sono discordi:
Y=a+bX b<0 e X=c+dY d<0

rXY = 0 ⇐⇒ Assenza di associazione lineare tra X e Y, (potrebbero esistere tra X e Y altre relazioni
di tipo non lineare; non è detto che X e Y siano indipendenti).
REGRESSIONE LINEARE SEMPLICE: associazione tra caratteri quantitativi.
Dati due caratteri quantitativi:
- Valutare se esiste un’associazione tra le due variabili (indipendenza statistica).
- Studiare la forza dell’associazione usando una opportuna misura di associazione
(correlazione).
- Studiare la forma della relazione.

Se una delle due variabili considerata dipende dall’altra la relazione tra le due variabili può essere
rappresentata attraverso un modello di regressione. Bisogna individuare un modello matematico
(funzione) che descriva in modo dettagliato la relazione che emerge dai dati. Il modello di
regressione si può utilizzare per analizzare come una variabile varia in risposta a variazioni
di un’altra variabile.

Date due variabili quantitative X e Y, supponiamo di essere interessati a studiare come la variabile
Y varia in risposta a variazioni della variabile X:
Y = Variabile risposta (Variabile dipendente)
X = Variabile esplicativa (Variabile indipendente)
Una variabile Y è funzione di una variabile X se ad ogni valore di X corrisponde uno e un solo valore
di Y.

Relazione quadratica:
Se X = Lato di un quadrato
Y =Area del quadrato
Y =X2

Y dipende da X (area dipende dal lato).

Relazione logaritmica:

Y=ln(x) x>0

La regressione lineare semplice studia come una variabile Y cambia al variare di una variabile
X.
Relazione funzionale lineare: Y =α+βX

Alfa: è l’intercetta della retta, è il valore di Y quando X è zero. L’intercetta è l’altezza alla quale la
retta incontra l’asse delle ordinate. Quando X=0, Y=α

Beta: è il coefficiente angolare della retta. Rappresenta la pendenza della retta, è la variazione di
Y per ogni incremento unitario di X. Beta= α+β (X+1) - α+βX

La relazione tra due variabili è lineare positiva se può essere rappresentata mediante una retta con
coefficiente angolare positivo: β > 0.
Y cresce al crescere di X (la retta ha un andamento dal basso verso l’alto).
Valori elevati (piccoli) di Y si verificano in corrispondenza di valori elevati (piccoli) valori X
(concordanza).

La relazione tra due variabili è lineare negativa se può essere rappresentata mediante una retta con
coefficiente angolare negativo: β < 0.
Y decresce al crescere di X (la retta ha un andamento dall’alto verso il basso).
Valori elevati (piccoli) di Y si verificano in corrispondenza di valori piccoli (elevati) X (discordanza).

Se il coefficiente angolare della retta è nullo: β=0, Y rimane costante al variare di X (la retta è
parallela all’asse delle ascisse).

Negli studi empirici la relazione che può essere osservata tra le variabili non è mai una relazione
matematica esatta: a un dato valore della variabile esplicativa X possono corrispondere diversi
valori di Y.

La retta di regressione rappresenta in media la dipendenza di Y da X.

RELAZIONE STATISTICA:
Y =f(X)+ε
f(X): componente sistematica: rappresenta la relazione tra la variabile esplicativa e la variabile
risposta. Definisce il contributo della variabile esplicativa X al valore della variabile risposta Y. Il
termine ε è detta componente accidentale ed è una variabile aleatoria.

f(X) e ε non sono direttamente osservati: il ricercatore osserva un campione di n unità su cui sono
state rilevate due variabili: X e Y (x1,y1),(x2,y2),...,(xn,yn)
(esempio à genere e lavoro)

L’analisi di regressione è una tecnica che permette di stimare la funzione di regressione f (X) e la
grandezza dell’errore ε. Un modello di regressione si basa su assunzioni relative al processo che
genera le n coppie di dati disponibili: (x1,y1),(x2,y2),...,(xn,yn)

Il modello di regressione lineare semplice è il più semplice modello di regressione. Una funzione
lineare è una delle più semplici funzioni matematiche. Una funzione lineare rappresenta il modello
matematico più semplice per descrivere la relazione fra due variabili.

Interpretazione dei coefficienti di regressione:

Il parametro α (intercetta della retta di regressione)

rappresenta il valore atteso della variabile risposta Y per
X=0
E(Yi∣Xi =0)=α+βx0=α

Il parametro β (coefficiente angolare della retta)

descrive come la variabile risposta Y varia in media per
ogni incremento unitario della variabile esplicativa X.

Stima dei coefficienti:

- Individuare una retta che per ogni valore di x restituisca un valore di y prossimo ai valori
osservati.
- La retta deve essere il più vicina possibile ai punti osservati nella direzione verticale.

Il metodo dei minimi quadrati consiste nel

ricercare quei valori di α e β che rendono minima
la funzione.
Nota che:

ESERCIZIO 1:
Una ricerca sull'infanzia ha rilevato l'età (in mesi), variabile X, in cui 21 bambini hanno cominciato a
parlare e il punteggio ottenuto dagli stessi soggetti, una volta diventati adulti, in un test attitudinale,
variabile Y. Di seguito statistiche descrittive:

Media campionaria di X = 15 media in mesi in cui i bb hanno iniziato a parlare.

Varianza campionaria di X = 64
Media campionaria di Y = 93,6
Varianza campionaria di Y = 196 media punteggio test
Covarianza tra X e Y = -91,84

a) Stimare il coefficiente di correlazione tra l'età in cui i bambini hanno cominciato a parlare
e il punteggio ottenuto al test attitudinale e interpretare il risultato ottenuto.
b) Determinare le stime dei minimi quadrati dei parametri della retta di regressione
(intercetta e coefficiente angolare) che pone il punteggio ottenuto in età adulta al test
attitudinale in funzione del punteggio ottenuto durante l'infanzia. Interpretare i risultati
ottenuti.

r=covarianza tra x e y / sx sy

-91,84 / 8 x 14= -0.82 forte dipendenza lineare negativa, quando l’età in cui si inizia a parlare
aumenta, il punteggio al test tende a diminuire.
RICORDA:
Il coefficiente di correlazione di Pearson varia tra −1 e +1; misura la forza e la direzione della
relazione lineare tra due variabili.
Significato dei valori:
+1 → relazione perfettamente lineare positiva (quando X aumenta, Y aumenta).
−1 → relazione perfettamente lineare negativa (quando X aumenta, Y diminuisce).
0 → nessuna relazione lineare.
In parole semplici: È un numero che dice quanto le due variabili si muovono insieme e in quale
direzione.

b= rxy x (sy/sx)=covxy/S^2x
-0.82 x (14/8) =-1.435

a= media di y – b media di x= 93.6 - (-1.435 x 15) = 115.125

ESERCIZIO 2:
Le seguenti statistiche descrittive sono state calcolate su un campione di 27 soggetti su cui
sono state rilevate le variabili x=numero medio di ore calcolate all’attività fisica alla settimana
e Y=indice di massa corporea.
La covarianza tra numero medio di ore dedicate all’attività fisica alla settimana e l’indice di massa
corporea è pari a -1.8.
- Calcolare il coefficiente di correlazione campionario e interpretarlo.
- Determinare le stime dei minimi quadrati dei coeff della retta di regressione che pone
l’indice di massa corporea Y in funzione del numero medio di ore dedicate all’attività fisica
alla settimana X.
Coefficiente di correlazione r= -1.8/ 1.2 x 2.5=-0.6
Più aumentano le ore di attività fisica e più si riduce l’indice di massa corporea.
b= -0.6 x (2.5/1.2) =-1.25
a= 24,4 – (-1.25 x 2,5)=27.53

ESERCIZIO 3:
Su un campione di 25 individui è stata effettuata un'analisi di regressione in cui la variabile Y è il
punteggio a un test attitudinale di accesso a un corso di formazione posta in funzione della
variabile X = anni di istruzione. Calcolare l'indice di determinazione lineare, R2, sapendo che la
somma dei quadrati totale TSS = VT = 1944 e la somma dei quadrati dei residui è SSE = VE =
583,2 e interpretare il risultato ottenuto.
Trovo VX=VT-VE=1360.8
R^2=VX/VT=1-VE/VT
R^2=1360.8/1944=0.7 à il 70% della variabilità dei punteggi è spiegato dalla relazione lineare con
il numero di anni di istruzione.

ESERCIZIO 4:
Determinare il valore o i valori che può assumere il coefficiente di correlazione se l'indice di
determinazione lineare R^2 è pari a 0,81.

r=radice di 0.81=piu o meno 0.9

ESERCIZIO 5:
La OECD è un'organizzazione formata da 20 nazioni ad avanzato livello di industrializzazione. Per
queste nazioni, la retta di regressione (equazione di previsione) che mette in relazione y = tasso di
povertà infantile nel 2000 con X = spesa sociale in percentuale del PIL è y= 22-1,3x
I valori di Y vanno dal 2,8% della Finlandia al 21,9% degli USA. I valori di X vanno dal 2,1% degli
USA al 16% della Danimarca.

a) Interpreta l'intercetta e il coefficiente angolare

b) Trova il tasso di povertà previsto per gli USA e per la Danimarca
c) La correlazione è -0,79: interpreta

a) L’intercetta rappresenta il tasso di povertà previsto quando la spesa sociale è pari a 0% del PIL.
Per ogni aumento di 1 punto percentuale della spesa sociale (x), il tasso di povertà infantile (y)
diminuisce in media di 1,3 punti percentuali.
Il segno negativo indica dunque una relazione inversa: più spesa sociale → meno povertà infantile.
b)
Yusa=22-1.3x2.1
Ydan=22-1.3x16
c) forte dipendenza lineare negativa.

ESERCIZIO 1:
In un'indagine relativa alla relazione tra y = tasso di criminalità (in numero di crimini ogni 100.000
abitanti) e x = tasso di povertà (percentuale di popolazione con reddito sotto la soglia di povertà)
nei vari stati USA, si ottiene la seguente retta d regressione (equazione di previsione)
Ỹ = 209,9 + 25,5x
a) Interpreta intercetta e coefficiente angolare

b) Trova il tasso di criminalità previsto e relativo residuo per il Massachussets, dove si è osservato
x = 10,7 e y = 805

c) Qual è il segno della correlazione tra queste variabili? Spiegare il motivo

a) quando il tasso di povertà è 0, il tasso di criminalità è 209,9, il coefficiente di regressione angolare

descrive quanto varia in media y con un incremento di una unità di x, se x aumenta di un punto in
percentuale, y aumenta in media di 25,5.
b) y teorico=209,9+25,5x10,7=482,75
residuo=yoss-yteorico=805-482,75=322,25
c) il segno della correlazione è positiva perche beta ha segno positivo e b e r hanno lo stesso segno
ed entrambi indicano la concordanza di x e y.

ESERCIZIO 2:
Per 2428 osservazioni di un'indagine su Y = numero di anni di istruzione e x = numero di anni di
istruzione della madre, si ottiene:
errore standard =0,0149
y =10.5+0.294x
a) Verifica l'ipotesi nulla che queste variabili siano indipendenti e interpreta
b) Trova l'intervallo di confidenza al 95% per il coefficiente angolare della popolazione
c) La correlazione è pari a 0,37: interpreta

Verifica di ipotesi:
Ho: b=0
H1: b diverso da 0 à rifiuto ipotesi nulla, accetto dipendenza tra x e y.
Gdl=n-2=2426
Alfa=0.05, Alfa/2=0.025
1-alfa/2=0.975
Tc=1.96
To=B/es=0.294/0.0149=19.73 To>Tc c’è dipendenza.

Intervallo:
𝛽 ± 𝑧..726 × 𝑆𝐸𝑏

Z=1.96
Margine=1.96x0.0149

Con confidenza del 95%, il vero coefficiente angolare della popolazione è compreso tra 0.265 e
0.323. Poiché 0 non appartiene all’intervallo, il risultato conferma quanto trovato nel test di ipotesi:
la relazione è significativa.
VALORI TEORICI E RESIDUI DI REGRESSIONE:

I valori teorici sono i valori di Y forniti dalla retta di regressione stimata in corrispondenza dei
valori osservati Xi, i = 1,...,n, ossia le stime delle medie di Y in ogni sottopopolazione definita dai
valori osservati della X.

La funzione di regressione stimata fornisce una stima del valor atteso di Y al variare di X.

Residui di regressione
ê =y −ŷ =yi – (a+ b xi)
i=1,...,n

La retta dei minimi quadrati di Y su X è quella che rende minima la somma dei quadrati delle
distanze verticali (ossia nelle ordinate) tra il punto di coordinate (xi, yi), i valori osservati, e il punto
di coordinate (xi, ŷi).

Es: TFT = 9.846-9.841 HDI

a = 9.846: TFT medio per paesi con HDI
nullo

b = −9.814: Il TFT diminuisce in media di

9.814 punti per ogni incremento unitario
del HDI
⇒ Il TFT diminuisce in media di 0.9814
punti per ogni incremento di HDI di 0.1

Es: per trovare valore teorico

Ŷ= a +bx
Guardo l’x osservato.

COEFFICIENTE DI REGRESSIONE E COEFFICIENTE DI CORRELAZIONE:

r misura solo forza e direzione della

relazione, è standardizzato, non misura
quanto varia in media y

L’inclinazione (positiva o negativa) della retta di regressione (stimata) è determinata dal coefficiente
di correlazione lineare campionario. Il coefficiente di regressione b e il coefficiente di correlazione
rXY hanno lo stesso segno.
- Se rXY = 0, allora b = 0 ⇐⇒ Retta di regressione (stimata) parallela all’asse delle ascisse.
- Se rXY = +- 1 b= sy/sx i punti sono perfettamente allineati lungo la retta di regressione.
- Se sx=sy b=rXY
Proprietà della retta di regressione:

La retta di regressione stimata passa per il punto di coordinate (𝑥̅ , 𝑦j).

La somma (media) dei valori teorici è uguale alla somma (media) dei valori osservati.

La somma dei residui è uguale a zero

Ricorda: quando facciamo una regressione lineare, vogliamo capire:

quanto della variabilità di Y (la variabile da prevedere) è spiegata da X (la variabile esplicativa)?
Quanto invece rimane non spiegato dalla retta? Questi sono i residui.

Somma dei quadrati totali (TSS): quanto i veri dati si discostano dalla media.

Somma dei quadrati della regressione (SSR): quanto la retta di discosta dalla media.

è la devianza di regressione.
SSR=0 la retta non serve! Se è grande, X ha un forte effetto su Y.

Somma dei quadrati dei residui (SSE): quanto i veri dati si discostano dalla retta. SSE=0 à la
relazione lineare prevede perfettamente le osservazioni (R2=1). Maggiore è la dispersione dei dati
intorno alla retta maggiore è il valore di SSE. SSE DEVE ESSERE PICCOLO.

TSS=SSR+SSE
INDICE DI DETERMINAZIONE LINEARE R^2:

Indica la proporzione di variabilità totale di Y spiegata dalla

variabile esplicativa X attraverso il modello di regressione.
R2 non dipende dall’unità di misura delle variabili ed è un
indice simmetrico. R2=SSR/TSS

R2 = 1 à la retta spiega tutto (SSE=0), perfetta dipendenza lineare. Y teorico = Y osservato.

SSR=TSS
R2 = 0.6 à la retta spiega il 60% della variabilità di Y.
R2 = 0 à assenza di relazione statistica lineare. (l’errore usando la retta è uguale all’errore usando
la media).

R² misura quanto migliore è la previsione usando X rispetto a NON usarlo. R² permette di

valutare se sostituendo i valori di X nell’equazione di regressione è possibile prevedere Y meglio di
quanto si può fare senza usare X.

Approccio 1: Prevedere Y senza usare X, ad esempio usando la media. ERRORE=TSS

Approccio 2: Prevedere Y usando X, ad esempio usando la retta di regressione. ERRORE=SSE

R² = quanto si riduce l’errore passando da approccio 1 a approccio 2.

Il coefficiente di correlazione lineare r, elevato al quadrato, è esattamente uguale al

coefficiente di determinazione R².

Il 77% della variabilità totale del TFT è spiegata dall’indice HDI tramite il modello di regressione
lineare.

Interpolazione e estrapolazione:
Si può utilizzare la retta di regressione per calcolare il valore (medio) della variabile risposta Y per
un dato valore della variabile esplicativa x non osservato, ma interno ai dati o esterno ai dati.

Si parla di interpolazione quando si usa la retta per predire un valore di Y quando X è dentro il range
dei dati osservati. Si parla di estrapolazione quando si usa la retta per predire Y quando X è fuori
dal range dei dati osservati. L’accuratezza dell’estrapolazione dipende da: quanto la retta si adatta
bene ai dati; quanto il valore di x∗ `e lontano dai valori osservati.

Range osservato della variabile HDI: 0.45 < x < 0.85

Interpolazione: HDI=0.6
Estrapolazione: HDI=0.1
ESERCIZIO:
N componenti x Risparmio annuo
1 3
2 6
3 5
4 7

Calcolo la media di y: 5.25

Calcolo la media di x:2.5
Y=a+bx
B= (1x3)+(2x6)+(3x5)+(4x7) – (4x5.25x2.5) / 5 = 5.5/5 =1.1
A=5.25-1.1x2.5=2.5
Y=2.5+1.1x
calcolo y teorici:

N componenti x Risparmio annuo y teorici

1 3 3.6
2 6 4.7
3 5 5.8
4 7 6.9

(3.6-5.25)^2+(4.7-5.25)^2+(5.8-5.25)^2+(6.9-5.25)^2=6.05 àSSR differenza tra valori teorici e

media
(9+36+25+49) – 4 x 5.25 = 8.75 àTSS differenza tra valori osservati e la media

6.05/8.75=0.69 à la retta spiega il 69% della variabilità di y.

INFERENZE SU BETA:

In sostanza l’intervallo di confidenza fornisce il range di valori in cui verosimilmente cade il vero
valore del parametro con una probabilità 1-alfa.
Verifica di ipotesi:

Trovo B/sb
SI RESPINGE L’IPOTESI NULLA SE:

Quando n è grande si approssima t-student ad una Normale, quindi se fissiamo il 5% come livello
di significatività si rifiuta l’ipotesi nulla H0:b=0 se B/sb è maggiore di 1.96.
Introduzione alle relazioni multivariate:
Nel contesto dell’associazione tra due variabili hanno un ruolo importante il concetto di causalità e
di relazione causale. Per interpretare l’associazione tra due variabili è normale assegnare ad una il
significato di variabile risposta e all’altra quello di variabile esplicativa. Questo porta inevitabilmente
a pensare che l’esplicativa abbia un’influenza sulla variabile risposta e talvolta che ne sia la causa.
La presenza di associazione tra due variabili non implica un rapporto di causa-effetto tra le
stesse.

Se una variabile influenza l’altra: XàY

Per poter stabilire che esista un rapporto di causa effetto, devono essere soddisfatte tre condizioni:
- Associazione tra variabili,
- Ordine cronologico,
- Assenza di spiegazioni alternative.
Solo se tutte e tre le condizioni sono soddisfatte si può associare ad una relazione osservata il
carattere di causalità.
Eliminare possibili alternative non è facile perchè spesso sono molti i fattori che possono influenzare
la relazione tra variabili.
Non è mai possibile provare in modo definitivo un nesso di causa effetto.
E’ tuttavia possibile confutare un nesso di causalità mostrando che l’evidenza empirica contraddice
una delle tre condizioni necessarie.

Per stabilire un nesso causale è necessario poter eliminare spiegazioni alternative a quella
ipotizzata.

Per far questo valutiamo se l’associazione tra due variabili, X e Y permane anche quando
rimuoviamo l’influenza di altre variabili.
Nell’associazione tra variabili diciamo che una variabile è controllata quando la sua influenza è
rimossa.
Nell’ambito della ricerca sociale, controllare una variabile significa normalmente raggruppare le
osservazioni che per quella variabile presentano la stessa modalità.
Quindi, verificare se all’interno dei gruppi così ottenuti è ancora presente l’associazione tra le
variabili che stiamo studiando.
Es:
x=ore studio
y=voto
z=interesse
Divido i ragazzi in gruppi in base al loro interesse, noto se l’associazione tra x e y permane.

Analizziamo l’associazione tra l’appartenere ai boy-scout (Si, No) e essere delinquente (Si, No),
controllando successivamente per una terza variabile: frequenza alla chiesa (Bassa, Media, Alta).
Una variabile la cui influenza è provata ma non misurata, viene definita variabile in agguato o
variabile confondente.
Se studio l’influenza di X → Y, ma so che Z ha molta influenza su Y, ma che ha anche una qualche
associazione con X, appare evidente che l’influenza di X su Y può essere in parte (o anche del
tutto) spiegata da Z.
Questa è una situazione molto frequente nella ricerca medica, dove è doveroso tenere conto
dell’età nello studio dei fattori di rischio per determinate patologie.

Esempio:
X = portare l’accendino in tasca
Y = tumore ai polmoni
Si trova una forte associazione X → Y.
Ma è evidente che l’accendino non causa il tumore: la variabile Z = fumo spiega tutto.

Esempio associazione spuria:

In una serie numerosa di incendi si è rilevata una correlazione positiva tra il numero delle vittime e
il numero di pompieri impegnati nello spegnimento dell’incendio:

Variabile in agguato: a livello binario sembra esserci una relazione tra X e Y, ma è falsa perché
quando introduco Z, la relazione si riduce o scompare. Quando c’`e una variabile sopprimente
un’associazione compare soltanto in presenza di un controllo.
Variabile sopprimente: a livello binario non c’è relazione tra X e Y, introducendo Z, la relazione si
rafforza.
Variabile interveniente o mediatrice: x1 à x2 à y
REGRESSIONI MULTIPLE:
Il modello di regressione lineare più semplice (modello binario), che mette in relazione lineare una
variabile risposta con una variabile esplicativa (predittore o regressore), può essere scritto come
segue: E(y) = α + βx

Tuttavia anche altre variabili hanno influenza sulla variabile risposta ed è necessario inserirle nel
modello.

E(y)=α+β1x1 +β2x2 +….+βkxk k sono le variabili che si ritengono collegate linearmente con la
variabile risposta.

Nel modello di regressione multipla:

α=E(y) quando x1=x2=xk=0; e
β1,β2,….,βk sono detti coefficienti di regressione parziali.

Facendo riferimento alla prima variabile esplicativa, x1, il coefficiente parziale β1 ci dice di quanto
varia la y a seguito di un incremento unitario della x1, per una qualsiasi combinazione di valori
costanti delle altre variabili, o, in altri termini, controllando per le altre variabili.

Per esempio con due variabili esplicative (k = 2)

E(y)=α+β1x1 +β2x2

Se x1 aumenta di una unità e x2 resta costante, la variazione di E(y) è pari a:

[α+β1(x1 +1)+β2x2]−[α+β1x1 +β2x2]=β1

I parametri del modello vengono stimati dai dati campionari utilizzando il criterio dei Minimi
Quadrati.
In modo del tutto analogo a quello visto per la regressione binaria, il criterio porta ad individuare i
valori dei parametri che minimizzano la somma del quadrato dei residui:

y = disagio mentale, y varia da 17 a 41 nel campione, con media pari a 27 e s=5

x1 = “Eventi di vita” (in breve ”Eventi”, punteggio che combina numero e importanza di eventi,
fatti, accadimenti, degli ultimi tre anni)
x1 varia da 0 a 100 con media campionaria pari a 44 e s =23

x2 = stato socio economico (in breve ”SES”, ancora un punteggio che combina stato
occupazionale, reddito e livello di istruzione)
x2 varia da 0 a 100 con media campionaria 57 e s = 25

La dimensione del campione per l’esempio è n = 40.

Lo studio comprende altre variabili esplicative che non vengono utilizzate nell’esempio, quali: età,
stato civile, genere, razza.
Se facciamo un’analisi di tipo bivariato otteniamo le seguenti due espressioni di previsione:
yˆ = 23, 3 + 0, 090x1
yˆ = 32, 2 − 0, 086x2

matrice di correlazione
b=rxy x sy/sx = 0.372 x 5/23= 0.08

L’equazione di previsione nella regressione multipla è:

yˆ=28,23 + 0,103x1 − 0,097x2

Il disagio mentale previsto:

- Aumenta di 0,103 all’aumento unitario del punteggio degli eventi di vita, mantenendo sotto
controllo (a valori costanti) la variabile stato economico-sociale
- Decresce di 0,097 all’aumento unitario dello stato economico-sociale, controllando per la
variabile eventi.
- Questo significa, ad esempio, che il disagio mentale si riduce di 9,7 punti se la variabile SES
passa da 0 a 100, mantenendo costante il valore degli eventi.
Non possiamo confrontare i coefficienti di regressione parziali per stabilire quale variabile
esplicativa abbia maggiore impatto sulla variabile risposta poichè tali coefficienti sono ”non
standardizzati”.

Valori previsti e residui:

Il valore previsto è semplicemente: “Quanto disagio mentale mi aspetto in media per una persona
con questi valori di x₁ e x₂?”.
Y=33; x1=45 (vicino alla media); x2=55 (vicino alla media), questo soggetto ha un disagio mentale
previsto pari a:
yˆ = 28, 23 + 0, 103(45) − 0, 097(55) = 27, 5 (vicino alla media)
Il residuo (errore di previsione) per questo individuo è:
33 − 27, 5 = 5, 5; cioè questa persona ha un disagio mentale di 5,5 punti maggiore rispetto a quello
previsto sulla base delle variabili: Eventi e SES

La somma dei residui al quadrato SSE = 768, 2 per l’intero campione è inferiore a quella che deriva
dalle due regressioni binarie e da qualsiasi relazione lineare con regressori x1 e x2 diversa da quella
dei minimi quadrati.

I minimi quadrati scelgono i

coefficienti in modo tale che
la somma degli errori al quadrato
sia la più piccola possibile.
Quindi:
non esiste nessun altro modello
lineare con x₁ e x₂
che produca una SSE più piccola
di 768,2

Nella regressione multipla i coefficienti rappresentano effetti parziali o netti, in quanto misurano
l’associazione tra una variabile esplicativa e la variabile dipendente a parità delle altre
variabili incluse nel modello. Nella regressione bivariata, invece, l’effetto stimato può essere
distorto dalla correlazione con variabili omesse. Solo nel caso in cui i regressori siano incorrelati, il
coefficiente bivariato coincide con quello parziale.
Nella regressione multipla: l’effetto parziale di ciascuna variabile esplicativa in questo modello di
regressione è lo stesso per qualsiasi valore fisso dell’altra variabile: yˆ=28,23+0,103x1 −0,097x2
Per x2 = 0
yˆ=28,23+0,103x1−0,097(0)=yˆ=28,23+0,103x1
Per x2 = 100
yˆ=28,23+0,103x1−0,097(100)=yˆ=18,5+0,103x1

Questo parallelismo delle due linee rette mostra l’assenza di effetto del valore di x2 su la relazione
tra y e x1. In questo caso parliamo di un modello con assenza di interazione tra le due variabili
esplicative.
Se vi fosse un’interazione questo parallelismo non sarebbe presente. Vedremo successivamente
come modificare il modello per poterne tener conto.

Esempio intuitivo:
gli Eventi di vita
aumentano molto il
disagio solo se il SES è
basso ma poco se il SES
è alto

Il modello:
E(y)=α+β1x1 +β2x2
può essere equivalentemente scritto nella forma:
y =α+β1x1 +β2x2 +ε
dove ε = y − E (y) `e un errore che ha E (ε) = 0

Possiamo domandarci in che misura le variabili esplicative scelte per il modello riescano a
prevedere i valori della variabile risposta.
La correlazione multipla, R, e il coefficiente di determinazione multiplo, R2, rispondono entrambi a
questa domanda.

La correlazione multipla è la correlazione tra i valori y osservati e i corrispondenti valori

ricavati dall’equazione lineare di previsione:
yˆ = α + β1x1 + … + βkxk
cioè la correlazione ordinaria tra le coppie di valori osservati della variabile risposta, y, e quelli
teorici, yˆ, provenienti dal modello lineare di previsione per ciascuna delle n unità del campione
osservato.

Esempio: la correlazione multipla è la correlazione tra le n=40 coppie di valori y osservati e

previsti dal modello.

Per l’intero campione, R = 0, 58

Le correlazioni bivariate con la y sono 0,37 per x1 e -0,40 per x2.
(Come ho calcolato corr(y e x1) à prendo i 40 soggetti, per ognuno ho: y (disagio) e x1 (eventi di
vita), calcolo media di y, media di x, covarianza tra x1 e y, deviazione standard di y e x1).
Il coefficiente di determinazione multipla è la riduzione relativa (quota di riduzione) nell’errore
totale che si ottiene stimando la y mediante il modello lineare anzichè utilizzando soltanto la sua
media campionaria.

Usando solo gli eventi di vita, il modello spiega circa il 14% della variabilità del disagio. Usando
solo il ses, il modello spiega il 16% della variabilità. I valori 0.14 e 0.16 rappresentano i coefficienti
di determinazione ottenuti da regressioni semplici della variabile dipendente rispettivamente su x1
e su x2; essi indicano la quota di variabilità di y spiegata da ciascuna variabile considerata
singolarmente.

R^2 = 0, 34 significa che si riduce del 34% l’errore che si commette nel prevedere il disagio mentale
sulla base del modello lineare con regressori ‘eventi di vita’ e ‘stato economico-sociale’ rispetto ad
una previsione basata soltanto sulla media campionaria y ̄.
Un modo alternativo per esprimere questo: la variabilità complessiva del disagio mentale è
spiegata per il 34% dalle variabili eventi di vita e stato economico-sociale.

Proprietà di R e R^2:
0 ≤ R2 ≤ 1 à anche R non può essere negativo ed è compreso tra 0 e 1.
Maggiore è il loro valore e migliore è la capacità previsiva delle variabili esplicative del modello.

R^2=1 quando tutti i valori y osservati sono uguali a quelli previsti. In questo caso abbiamo
ovviamente SSE = 0

R^2=0 quando tutti i valori previsti, yˆ sono uguali alla media, y ̄ e, quindi, TSS = SSE. Quando
accade questo, b1 = b2 =…= bk = 0 e, ovviamente, anche il coefficiente di correlazione r tra la y e
ciascun regressore x è uguale a 0.

R2 non può diminuire se aggiungiamo una variabile esplicativa al modello.

Il numeratore di R2, TSS − SSE è chiamato somma dei quadrati di regressione (RSS), e rappresenta
la variabilità dei valori y previsti o ‘spiegati’ dal modello.
R2 è additivo: cioè è uguale alla somma degli r2 bivariati quando le coppie di variabili esplicative
sono tra loro incorrelate. Ciò sarebbe sempre auspicabile, ma difficilmente si realizza nelle indagini
osservazionali.
Se:
corr (x1,x2)=0
allora: R^2=r2(y,x1)+r2(y,x2)
Ogni variabile spiega una “fetta” distinta della variabilità di y, senza sovrapporsi all’altra.
R2 non può diminuire se aggiungiamo una variabile al modello.
Tuttavia se la variabile che si aggiunge è fortemente correlata con una o più variabili già presenti
nel modello, l’R2 potrebbe rimanere invariato o quasi invariato.
Questa situazione, che è qui illustrata graficamente, è detta di multicollinearità.

INFERENZE SUI PARAMETRI:

E(y)=α+β1x1 +β2x2 ….+βkxk

Poichè i coefficienti di regressione esprimono l’influenza delle variabili esplicative sulla variabile
risposta, l’inferenza può riguardare la loro influenza complessiva o quella di ciascuna variabile. Per
valutare l’influenza complessiva, si formulano le seguenti ipotesi:
H0∶ β1 = β2 =……= βk =0
cioè che y sia linearmente indipendente da ciascuna delle variabili esplicative;
Ha∶ almeno un βi ≠ 0; (i = 1,...,k) contro l’alternativa che almeno una di queste abbia influenza sulla
y.

E ́ del tutto equivalente sottoporre a test le ipotesi:

H0 ∶R^2 =0;
Ha ∶R^2 >0

Quando l’ipotesi nulla è vera la statistica segue la distribuzione F (R. A. Fisher).

Maggiori valori di R producono maggiori valori di F, cioè maggiore evidenza contro l’ipotesi
nulla

Proprietà della distribuzione F:

- La F può assumere solo valori non negativi.
- La forma della distribuzione è asimmetrica positiva.
- La sua media è approssimativamente uguale a 1 (l’approssimazione migliora al crescere di
n).
- La distribuzione dipende da una coppia di gradi di libertà:

ESEMPIO:
H0 ∶ β1 = β2 = 0 (indipendenza lineare)
Ha ∶β1 ≠0 oppure β2 ≠0 o entrambi diversi da 0

Test statistico:

per α = 0,001, gdl1 = 2 e gdl2 = 37, abbiamo F2;37 = 8,37

Di conseguenza: P(F > F2;37) < 0,001
F = 9, 5 ci dice che c’`e una forte evidenza che almeno una delle due variabili esplicative sia
associata con il disagio mentale.
Per valutare l’effetto parziale di xi, controllando per le altre variabili del modello, si sottopone a test
l’ipotesi nulla
H0 ∶ βi = 0 utilizzando la statistica test
t = (bi − 0)/se; con gdl = n − (k + 1),
L’IC per βi assume la forma bi ± t(se) con il t-score in corrispondenza di gdl = n − (k + 1)

Il modello:
E(y)=α+β1x1+β2x2+…..+βkxk
assume che ciascun coefficiente di regressione parziale βi resti costante per qualunque
combinazione dei rimanenti regressori xj; ( j≠i ).
Ciò equivale ad assumere che nel modello non vi sia interazione tra le variabili esplicative (come
nell’esempio su Disagio mentale, Eventi e SES).
Se c’è interazione tra le variabili x1 e x2 allora l’effetto di x1 sulla variabile dipendente, y, può
variare al variare di x2.

Esempio: con k = 2:
E(Y)=α+β1x1 +β2x2 +β3(x1x2) che può essere considerato come un caso speciale del modello:
E(Y)=α+β1x1 +β2x2 +β3x3 con x3 = x1x2

Se inseriamo il termine di interazione nel modello sul disagio mentale, R2 passa da 0,339 (senza
interazione) a 0,347 e otteniamo la seguente espressione:
yˆ=26 + 0,156x1 − 0,060x2 − 0,00087x1x2
Come possiamo valutare se un modello ci garantisce un ’fit’ migliore rispetto ad un altro più
semplice, con un numero di variabili esplicative inferiore?
Confrontiamo, per fare un esempio, i seguenti modelli:

E sottoponiamo a test l’ipotesi nulla di assenza di interazione formulandola come segue:

Ho: B4=B5=B6=0

Abbiamo un modello ridotto (senza interazioni) e un modello con interazioni.

Il test F chiede:
“L’aggiunta delle interazioni riduce abbastanza l’errore del modello da giustificare la
maggiore complessità?”
Confronti quindi: quanto diminuisce l’errore passando dal modello ridotto al completo.

Gdl1=DIFFERENZA TRA IL NUMERO DEI PARAMETRI NEI DUE MODELLI.

Gdl2=Numero di variabili esplicative n-(k+1) nel modello completo.

F è piccolo → miglioramento trascurabile.

Metodo 1: tabella F vai alla tabella della distribuzione F
scegli α=0,05
riga: gdl 2 =36
colonna: gdl1 =1
Il valore è circa: F critico ≈ 4,11
NON RIFIUTO H0

ATT: se gdl1=1, il test F è uguale al quadrato della t con n-(k+1)=36 gdl. Quindi posso calcolare: