REGRESI DAN KORELASI LINEAR SEDERHANA
Materi:
1. Hubungan Stokastik dan Deterministik
2. Penduga Koefisien Regresi
3. Pengujian Koefisien Regresi
4. Interpretasi Koefisien Regresi
5. Regresi sebagai alat bantu
6. Koefisien Determinasi
7. Korelasi
[Link]
Hubungan Stokastik dan Diterministik
• Hubungan Diterministik
Hubungan dertmistik adalah hubungan antara
variabel X dan variabel Y jika setiap nilai varibel
bebas X tertentu, terdapat satu nilai variabel
terikat Y. Misalnya, X menyatakan biaya iklan dan
Y menyatakan hasil penjualan maka hubungan
linear antara X dan Y dengan menggap faktor lain
tidak berubah (konstan). Secara umum dapat
dinyatakan sebagai berikut:
Yi = α + β X i
[Link]
Hubungan Stokastik dan Diterministik
• Hubungan Stokastik
Hubungan Stokastik adalah hubungan antara variabel X dan
variabel Y jika setiap nilai varibel bebas X tertentu, terdapat
sejumlah nilai Y yang memiliki peluang tertentu . Nilai Y ini
bervariasi satu sama lain yang tersebar disekitar nilai rata –
ratanya. Dengan adanya sifat stokastik, suatu ramalan sering
tidak tepat atau tidak pasti. Ketidaktepan hasil ramalan
disebabkan oleh adanya kesalahan gangguang stokastik.
Hubungan stokastik antara variabel X dan Y dinyatakan
sebagai berikut: Parameter α merupakan titik potong garis
Yi = α + β X i + ∈i regresi terhadap sumbu Y, paramater β
merupakan slope garis regresi terhadap
sumbu X. ∈i adalah variabel gangguan
stokastik (residu) yang bersifat acak.
[Link]
Persamaan Regresi
• Hubungan stokastik di atas merupakan
dasar dari persamaan regresi.
• Persamaan ini lebih dikenal dengan
Analisis regresi.
• Analisis regresi adalah suatu analisis
statistika yang sering digunakan untuk
memodelkan hubungan antara variabel
respon Y dengan satu atau beberapa
variabel bebas X.
[Link]
Tujuan Persamaan Regresi
Secara umum model regresi mempunyai 3 (tiga) tujuan
yaitu:
• mendeskripsikan model yang menjelaskan hubungan
antara respon dengan variabel bebas sehingga dapat
dipelajari lebih jauh tentang proses yang menghasilkan
nilai respon;
• untuk mengetahui kontribusi relatif setiap variabel bebas
untuk menjelaskan respon
• untuk memprediksi nilai respon untuk beberapa nilai
variabel bebas tertentu.
Untuk tujuan tersebut biasanya digunakan model regresi
linear sederhana maupun berganda
[Link]
Persamaan Regresi Linear Sederhana
Yi = α + β X i + ∈i
• Hanya ada 1 Variabel bebas ( X)
• Variabel bebas berhubungan secara linear dengan
variabel respon
• Parameter ∈i merupakan komponen galat acak
diasumsikan mempunyai mean nol dan varians σ2 dan
tidak berkorelasi
• Parameter α menyatakan rataan respon jika X=0
• Parameter β menyatakan perubahan rataan respon
akibat perubahan satu unit X
• Mean : E(Y|X) = α + βX
• Varians : σ2
[Link]
Pendugaan Persamaan Regresi
Pendugaan persamaan garis regresi dengan
menggunakan metode kuadrat terkecil MKT.
• Bentuk umum persamaan regresi:
E (Y | X i ) = α + β X i
Yi = E (Y | X i ) + ∈i = α + β X i + ∈i
• Garis regresi sampel:
Yˆ = a + bX i
Yi = a + bX i + ei
[Link]
Prinsip Metode Kuadrat Terkecil
• Prinsip MKT adalah meminimumkan jumlah kuadrat
sisaan, maka dapat diturunkan terhadap a dan b melalui
turunan parsial, sehingga nilai a dan b didapat sebagai
berikut:
n∑ X iYi − ∑ X i ∑ Yi ∑x y
i i
b= =
n∑ X − (∑ X i )
i
2 2
∑x 2
i
a=
∑ Y − b∑ X
i i
= Y − bX
n
• n = banyaknya pasangan data observasi
• Sehingga persamaan regresinya menjadi:
Yˆi = a + bX i
[Link]
Contoh.
Sebuah penelitian yang bertujuan untuk mengetahui pengaruh
pendapat rumah tangga (X) terhadap pengeluaran
konsumsi (Y). Untuk itu diambil sampel secara acak
sebanyak 10 kepala rumah tangga untuk diwewancara.
Hasil penelitian sebagai berikut (dalam juta):
Pendapatan
6 8 10 12 13 17 20 22 24 28
X
Konsumsi
5 6 8 9 10 12 12 14 15 20
Y
Berdasarkan data tersebut:
1. Dugalah persamaan regresi
2. Berikan interpretasi dari persamaan yang diperoleh
3. Taksirlah besaran konsumsi bila pendapatan 26 juta rupiah
[Link]
Perhitungan Persamaan Regrsi
[Link]
Perhitungan Persamaan Regrsi
∑X i 160 n∑ X iYi − ∑ X i ∑ Yi
x= = = 16 b=
n∑ X i2 − (∑ X i )
n 10 2
Y =
∑ Yi =
111
= 11,1
n 10 10.(2068) − (160)(111) 20680 − 17760
= =
10.(3045) − (160)
2
30450 − 25600
2920
= = 0,60
4860
a = Y − bX = 11,1 − (0,6 )(16 ) = 1,50
1. Penduga persamaan regresinya adalah:
Yˆ = a + b X = 1,50 + 0,60 X
[Link]
Interpretasi Persamaan Regrsi
1. Penduga persamaan regresinya adalah:
Yˆ = a + b X = 1,50 + 0,60 X
2. Nilai b = 0,60 memiliki arti bahwa pendapatan rumah tangga
mengalami kenaikan sebesar satu satuan (satu juta rupiah)
maka rata – rata pengeluaran konsumsi naik sebesar naik
sebesar 0,6 juta rupiah jika variabel yang lain konstan atau
pengeluaran konsumsi mengalami perubahan sebesar 0,6 jika
pendapatan mengalami kenaikan satu satuan dengan asumsi
variabel lain tetap (konstan).
[Link]
Menaksir nilai konsumsi
3. Menaksir konsumsi dengan pendapatan 26 juta yaitu:
x = 26 → Yˆ = 1,50 + 0,60 x → Yˆ = 1,50 + 0,60(26 ) = 17,1
Jadi, bila pendapatan 26 juta, maka konsumsi rumah tangga
adalah 17,1 juta.
[Link]
Kesalahan Baku dari Dugaan
1. Penduga kesalahan standar deviasi
SY . x =
∑Y i
2
− a ∑ Yi − b∑ X iYi
=
∑y i − b 2 ∑ xi2
n−2 n−2
2. Penduga kesalahan baku slope β:
SY . x sY2. x
Sb = =
(∑ X ) 2
∑ xi2
∑X i
2
−
n
i
3. Penduga kesalahan baku intersep α:
1
S a = S y2. x +
X 2
=
∑ X i2 .S
n ∑ x2 n∑ xi2
Y .x
i
[Link]
Pengujian Koefisien Regresi
1. Pengujian terhadap α
Adapun langkah – langkahnya:
1. Membuat rumusan hipotesis
H0 : α = α0
H1 : α > α0 atau α < α0 atau α ≠ α0
2. Menentukan taraf uji
3. Statistik Uji
a −α0
t0 =
Sa
Daerah kritis tergantung dari hipotesis alternatif yang
digunakan.
4. Menghitung statistika uji
5. Keputusan dan kesimpulan
[Link]
Pengujian Koefisien Regresi
1. Pengujian terhadap β
Adapun langkah – langkahnya:
1. Membuat rumusan hipotesis
H0 : β = β0
H1 : β > β 0 atau β < β 0 atau β ≠ β 0
2. Menentukan taraf uji (α)
3. Statistik Uji: b − β0
t0 =
Sb
Daerah kritis tergantung dari hipotesis alternatif yang
digunakan.
4. Menghitung statistika uji
5. Keputusan dan kesimpulan
[Link]
Uji Pengaruh pendapatan terhadap
konsumsi
1. Hipotesis
H0 : β = 0 (tidak ada pengaruh/hubungan antara pendapatan
dengan konsumsi)
H1 : β ≠ 0 (ada pengaruh antara pendapatan dengan
konsumsi rumah tangga)
2. Taraf nyata, α = 5%
3. Statistika uji dan daerah kritis: b − β0
t0 =
Sb
titik kritis adalah t(α/2:df) = t(0,025;10-2) = 2,306, maka daerah kritisnya
yaitu -2,306 sampai 2,306
[Link]
Uji Pengaruh pendapatan terhadap
konsumsi
4. Menghitung Statistika Uji
SY . x =
∑Y i
2
− a ∑ Yi − b∑ X iYi
=
∑y i − b 2 ∑ xi2
n−2 n−2
1415 − (1,50 )111 − (0,60)2068
= = 0,9625
10 − 2
(∑ X ) 2
∑x = ∑X
i
2
i
2
−
n
i
= 3046 −
(160)2
= 3046 −
25600
10 10
= 3046 − 2560 = 486
[Link]
Uji Pengaruh pendapatan terhadap
konsumsi
4. Menghitung Statistika Uji
Sb =
SY2. x
=
(0,9625)2 =
0,926406
= 0,0019
∑ xi2 486 486
b − β 0 0,60 − 0
t0 = = = 13,64
Sb 0,044
5. Keputusan dan kesimpulan
keputusan: tolak H0, karena nilai uji (t0 = 13,64) jatuh pada daerah
penolakan H0 atau nilai t hitung (13,64) lebih besar dari t tabel
(2,306). Ini berarti pendapatan berpengaruh nyata terhadap konsumsi
rumah tangga.
[Link]
Koefisien Determinasi
1. Koefisien determinasi adalah salah satu alat utama
untuk mengukur ketepatan atau kesesuaian garis
regresi terhadap sebaran datanya.
2. Koefisien determinasi (R2 atau r2) dirumuskan sebagai
berikut:
r2 =
[n∑ X Y − (∑ X )(∑ Y )]
i i i i
2
[n∑ X − (∑ X ) ] [n∑Y − (∑ ) ]
i
2
i
2
i
2
i
2
3. Nilai kisaran R2 antara 0 – 1
4. Model dikatakan baik jika memiliki R2 > 60%
[Link]
Koefisien Korelasi
1. Koefisien korelasi digunakan untuk mengukur
hubungan kuat lemahnya hubungan antara dua
variabel, apakah itu variabel X dan Y.
2. Koefisien korelasi (r) dirumuskan sebagai berikut:
n∑ X iYi − (∑ X i )(∑ Yi )
r = r2 =
[n∑ X i
2
− (∑ X i )
2
] [n∑ Y
i
2
− (∑ i )
2
]
3. Nilai kisaran dari koefisien koreasi adalah dari -1
sampai dengan +1
[Link]
Pengujian Koefisien Korelasi
Pengujian terhadap ρ (rho)
Adapun langkah – langkahnya:
1. Membuat rumusan hipotesis
H0 : ρ = ρ0 = 0
H1 : ρ ≠ ρ0 ≠ 0
2. Statistik Uji: r n−2
t0 =
1− r 2
Daerah kritis tergantung dari hipotesis alternatif yang
digunakan.
3. Menghitung statistika uji
4. Keputusan dan kesimpulan
[Link]
Contoh. Analisis Regresi dan Korelasi
Data berikut mengenai besarnya biaya iklan (ratusan juta) dan
hasil penjualan (miliar rupiah) sutau produksi barang dari
suatu perusahaan A. adapun datanya sebagai berikut:
Biaya Iklan (X) 4 2 3 2 3 5 4 5
Penjualan (Y) 38 40 39 35 45 48 49 55
a. Dugalah model regresi populasinya
b. Ujilah bahwa tidak ada pengaruh antara biaya iklan dengan
hasil penjualan
c. Ujilah bahwa tidak ada hubungan antara biaya iklan dengan
hasil penjualan
[Link]
Penyelesaian:
No Xi Yi Xi * Yi Xi^2 Yi^2
1 4 38 152 16 1444
2 2 40 80 4 1600
3 3 39 117 9 1521
4 2 35 70 4 1225
5 3 45 135 9 2025
6 5 48 240 25 2304
7 4 49 196 16 2401
8 5 55 275 25 3025
Σ 28 349 1265 108 15545
[Link]
a. Menyusun persamaan model regresi
∑ X = 108i
2
X=
∑X i
=
28
= 3,5
n 8
∑ Y = 15545
i
2
Y =
∑ Yi =
349
= 43,63
∑ X Y = 1265
i i n=8 n 8
n∑ X iYi − ∑ X i ∑ Yi a = Y − b. X
b=
n∑ X i2 − (∑ X i )
2
= 43,63 − 4,35(3,5)
8.(1265) − (28)(349) = 28,41
=
8.(108) − (28)
2
10120 − 9772 348
= =
864 − 7849 80
= 4,35
ˆ
Jadi, persamaan regresi tersebut adalah: Y = a + bX
Yˆ = 28 , 41 + 4 , 35 X
[Link]
b. Uji pengaruh biaya iklan terhadap hasil penjualan
Adapun langkah – langkahnya:
1. Membuat rumusan hipotesis
H0 : β = 0 (tidak ada pengaruh iklan terhadap penjualan)
H1 : β ≠ 0 (ada pengaruh iklan terhadap penjualan)
2. taraf nyata α = 5%
3. Statistik uji: b − β0
t0 =
Sb
4. Daerah kritis, titik kritis adalah t(α/2;df) = t(0,025;8-2) = 2,447
maka daerah kritisnya yaitu t < - t(0,025;6) = - 2,447 dan
t > t(0,025;6) = 2,447
[Link]
5. Menghitung nilai uji
∑Y 2
− a ∑ Yi − b∑ X iYi (∑ X ) 2
SYx =
i
n−2 ∑x = ∑X 2
i i
2
−
n
i
15545 − 28,41(349 ) − 4,35(1265) (28) 2
= = 108 −
8−2
8
127,16
= = 4,60 = 108 − 98 = 10
6
Sb =
SYx2
=
(4,60)2 = 1,45
Selanjutnya dihitung nilai t0 yaitu: ∑ xi2 10
b − β 0 4,35 − 0
t0 = = = 2,9
Sb 1,45
[Link]
6. Keputusan dan Kesimpulan
Keputusan: Tolak H0 karena nilai uji jatuh pada daerah penolakan
H0 (2,9 > 2,447)
Kesimpulan: Ada pengaruh yang nyata antara besaran biaya
iklan terhadap hasil penjualan.
7. Koefisien Determinasi (R2)
r2 =
{n∑ X Y − (∑ X )(∑ Y )}
i i i i
2
[n∑ X − (∑ X ) ] [n∑ Y − (∑ ) ]
i
2
i
2
i
2
i
2
=
{ 8(1256) − (28)(349)}
2
{8(108) − (28)2 }{8(15545) − (349)2 }
=
(348)
2
= 0,5916
(80)(2559)
[Link]
• Interpretasi koefisien determinasi:
nilai R2 = 0.5916 yang berarti model yang
diperoleh mampu menjelaskan harga
penujualan dipengaruhi oleh biaya iklan
sebanyak 59,16% sisanya dipengaruhi
oleh variabel lain yang tidak dimasukan
dalam model
[Link]
C. Uji hubunganbiaya iklan terhadap hasil penjualan
Adapun langkah – langkahnya:
1. Membuat rumusan hipotesis
H0 : ρ = 0 (tidak ada hubungan iklan terhadap penjualan)
H1 : ρ ≠ 0 (ada hubungan iklan terhadap penjualan)
2. taraf nyata α = 5%
3. Statistik uji: r n−2
t0 =
1− r2
4. Daerah kritis, titik kritis adalah t(α/2;df) = t(0,025;8-2) = 2,447
maka daerah kritisnya yaitu t < - t(0,025;6) = - 2,447 dan
t > t(0,025;6) = 2,447
[Link]
5. Menghitung nilai korelasi
berdasarkan perhitungan koefisien determinasi, maka koefisien
korelasi menajdi:
r = r 2 = 0,5916 = 0,7692 ~ 0,77
dengan n = 8.
r n−2 0,77 8 − 2
t0 = =
1− r 2 1 − 0,59
= 2,95
6. Keputusan dan kesimpulan
Tolak H0 karena nilai uji jatuh pada daerah penolakan H0, yang
artinya ada hubungan antara biaya iklan dengan hasil penjualan
[Link]
Latihan Soal
Suatu penelitian bertujuan untuk mengetahui pengaruh tingkat
suku bunga terhadap nilai tabungan masyarakat. Untuk itu
dipilih 5 bank pemerintah sebagai sampel acak. Adapun hasil
penelitian sebagai berikut:
X (Suku bunga)
1 2 5 5 6
dalam %/thn
Y (Tabungan)
6 8 10 12 18
dalam Miliar
Berdasarkan data tersebut:
[Link] model regresinya
[Link] tujuan tersebut dengan taraf α = 5%.
[Link] juga apakah ada hubungn antara X dan Y
[Link]
Materi Minggu Depan
• Analisis Regresi Berganda
Daftar Pustaka:
• Wirawan, Nata. 2014. Cara Mudah Memahami Statistika
Ekonomi dan Bisnis (Statistika Inferensi) Edisi ketiga.
Keraras Emas. Bali.
[Link]