Coeficientul de corelatie al lui Pearson (r є [-1,1])
Reprezinta o legatura strict liniara intre 2 variabile (x si y) și indică asocierea între variabile.
Nu implica o relatie cauza – efect !
Este independenta de unitatea de masura si nu se utilizeaza decat pentru valori normal distribuite
(uniforme), pentru cele neuniforme se utilizeaza coeficientul de corelatie Spearman (rs)
Interpretare:
• r є [0; 0.2] → corelatie foarte slaba
• r є [0.2; 0.4] → corelatie slaba
• r є [0.4; 0.6] → corelatie rezonabila
• r є [0.6; 0.8] → corelatie inalta
• r є [0.8; 1] → corelatie foarte inalta → relatie foarte strinsa intre variabile sau eroare de calcul !
SPSS ne semnalează, în acelasi timp, dacă rezultatul corelării este semnificativ din punct de
vedere statistic, prin calcularea coeficientului Sig. Dacă acesta este sub 0.05, corelația este
semnificativă si se contrazice ipoteza nulă (adică ipoteza conform căreia nu există legătură între
variabile).
Exemplu:
Pentru valori normal distribuite: Coeficientul de corelație Pearson dintre ”No internet hours” și
”age ” prezintă o asociere negativă foarte slabă (-0,161)
Pentru valori neuniforme distribuite: Coeficientul de corelație Kendall = -0,139 și Coeficientul
Spearman = -0,184 idem demonstrează o asociere negativă foarte slabă între dintre ”No internet
hours” și ”age”.
Însă rezultatul corelării este semnificativ statistic pentru că Sig<0.05. Rezultă că respingem
ipoteza nulă și acceptăm ipoteza alternative, prin faptul că ăntre cele două variabile există totuți o
legătură.
Valoarea coeficientului de determinare exprimă o intensitate a relaţiei liniare între cele două
variabile sau răspunde la întrebarea: cât la sută din variaţia lui Y se poate explica prin relaţia
liniară cu X.
Exemplu: un coeficient de determinare pentru relația între tensiunea arterială sistolică și vârstă
este egal cu 0,51. In cazul acesta r2 = 0,51, deci 51% din variaţia tensiunii arteriale sistolice se
poate explica prin relaţia liniară cu Vârsta.
Glosar regresie
Recapitulare:
În temele anterioare
SUMMARY OUTPUT (Caseta I) ofera informatii despre indicatori ce ne releva bonitatea
modelului sau cat de bun este modelul pe care il analizam.
Regression Statistics Semificația
Multiple R 0,762113713 R raportul de corelatie
R Square 0,580817312 R2
Adjusted R Square 0,528419476 coeficientul de determinatie ajustat
Standard Error 41,33032365 Su Abaterea medie patratica a erorilor1
Observations 10
1
In cazul in care acest indicator este zero inseamna ca toate punctele sunt pe dreapta de regresie.
Primii 3 indicatorii de bonitate sunt apropiati de 1, putem concluziona ca modelul de regresie
liniara simpla este bun.
ANOVA (caseta II)
Caseta II, se refera la descompunerea variantei totale (SST) a variabilei dependente in
doua componente: varianta explicata prin regresie (SSR) si varianta neexplicata (SSU) sau
varianta reziduala.. Aici identificam si gradele de libertate asociate descompunerii, mai precis,
daca avem k regresori in model si n observatii, avem egalitatea . In
aceasta caseta exista doua celule importante la care trebuie sa fim atenti, si anume: F si
Significance F. Valorile din aceste celule ne dau elemente importante ce stau la baza validarii
modelului de regresie (in totalitatea sa). Ele ne furnizeaza informatii privind valoarea calculata a
statisticii test F si erorii pe care putem s-o facem cand respingem modelului de regresie ca fiind
neadecvat. Regula de decizie privind acceptarea modelului este: valori mari pentru statistica test
F si valori mici pentru Significance F. Significance F reprezinta valoarea erorii pe care o facem
prin respingerea ipotezei nule cand de fapt ea este adevarata.
Pe datele noastre, cum F = 42,66667 este o valoare mare si Significance F = 0,002838, deci
o valoare foarte mica, acceptam ca modelul ales ajusteaza bine datele din esantion. Significance F
trebuie sa fie in general mai mica de 5% (0.05).
MS F Significan
df
SS Media ce F
Grade
Tipul variaţiei Variaţia / varianța variaţiei/
libertat
(suma pătratelor) Dispersia
e
corectată
Regression SSR sau 2y / x sau MSR
Varianta explicata df1= k- SSR F MSE
r MSR
prin regresie 1 S1 ( y i y ) 2 ni k 1
(SSR) i 1
Residual SSE sau 2y / z sau S2
Varianta df2= n- SSE
n MSE
neexplicata sau k = ( y j yi ) nij 2
nk
varianta reziduala i 1
SST y j y
k ni
Total 2
n-1
Variaţia totală i 1 j 1
Caseta C ne ofera informatii despre valorile estimate ale coeficientilor modelului de regresie
in coloana Coefficients, erorile standard ale coeficientilor in coloana Standard Error, elemente pentru
aplicarea testului de semnificatie t-Student pentru fiecare coeficient (coloanele t Stat si P-value.).
Deci, valoarea din coloana t-Stat se obtine impartind pentru fiecare estimator al modelului,
valoarea estimatiei la eroarea standard a estimatorului si astfel obtinem valoarea calculata a testului
t pentru fiecare estimator al [Link] valoarea calculata se compara cu valoarea tabelara
preluata din tabelul repartitiei Student.
Intercept este termenul liber, deci coeficientul este 17,8. Termenul liber este punctul in
care variabila explicativa (factoriala) este 0. Deci nivelul investitiilor, daca rata dobanzii
este 0. Deoarece = 12,2395 iar pragul de semnificatie P-value este 0,000256<0,05
inseamna ca acest coeficient este semnificativ. Intervalul de incredere pentru acest
parametru este13,7622 21,8378
Coeficientul este 2,4, ceea ce insemna ca la cresterea ratei dobanzii cu un punct
procentual, nivelul investitiilor va creste cu 2,4 Deoarece = -6,53197 iar pragul de
semnificatie P-value este 0,002838<0,05 inseamna ca acest coeficient este semnificativ.
Intervalul de incredere pentru acest parametru este -3,42013 -1,37987.
Despre p-value
Inaintea inceperii unui test statistic clasic, se pune problema alegerii unui nivel de
semnificatie. Acesta exprima riscul maximal de a gresi pe care suntem dispusi sa-l acceptam (de
regula 5%, 1% sau chiar mai mic) atunci cand luam decizia de respingere a ipotezei nule.
Softul modern ofera posibilitatea "inversa". Anume, este evaluat riscul de a lua decizia
gresita, pe baza datelor de care dispunem, ramanand la latitudinea fiecaruia daca isi asuma sau nu
acest risc. Acest risc evaluat pe baza datelor apare in tabele, la fiecare test de semnificatie, si se
numeste valoarea p (p-value).
Tot aici avem informatii despre intervalele de incredere calculate pentru fiecare parametru
din modelul de regresie.
Cum analizam informatiile din aceasta caseta?
1) Pentru ca un coeficient sa fie semnificativ diferit de zero, deci variabila
regresor([Link]) asociata lui sa influenteze variabila dependenta, trebuie ca in coloana
P-value sa avem valori mici, de exemplu 5% sau sub 5% (evident in coloana t Stat avem atunci
valori mari, in modul). Concret, pentru termenul liber al modelului (Intercept) avem P-value = 0.043,
adica putem afirma ca daca respingem ipoteza ca interceptul este egal cu zero, facem o eroare doar
de 4%. Respingem deci aceasta afirmatie si acceptam ca adevarata ipoteza ca interceptul este
diferit de zero. (Analog, ajungem la concluzia ca si panta dreptei de regresie este diferita statistic
de zero).
2) Ultimele doua coloane ne dau informatii privind intervalele de incredere 95% pentru
fiecare coeficient al modelului. Astfel, pentru termenul liber (teoretic) al modelului obtinem
intervalul (-132.0474401, -2.5126). Analog, pentru panta ecuatiei de regresie avem intervalul de
incredere (0.905614, 1.052304). Este foarte important faptul ca nici unul dintre aceste intervale de
incredere nu contine pe 0, suntem incurajati astfel in a afirma ca modelul este bun.