Analisis Model Logit dan Probit
Analisis Model Logit dan Probit
Penjelasan (explanation) terhadap fenomena yang dipelajari atau permasalahan yang diteliti.
Prediksi PELUANG suatu kejadian (dispesifikasikan pada
variabel dependen) berdasarkan nilai variabel bebas.
Faktor determinan, yaitu penentuan variabel bebas mana (pada regresi berganda) yang berpengaruh
dominan terhadap variabel tergantung. Hal ini dapat dilakukan bilamana unit satuan data seluruh
variabel sama, skalanya homogen dan bersifat kontinyu.
P(Y|x)
LOGIT
PROBIT
1
Model Logit : Pi = E (Yi | xi ) =
1 e 0 1 X 1
Bila Z : 0 + 1 X, maka P1 = 1
; fungsi distribusi komulatif logistik
1 e Zi
1
Pi 1 e Zi 1 e Zi
=
1 Pi = 1 1 e Zi = eZi
1 e Zi
Gunakan Sifat Logaritma Untuk Transformasi Linier
ln (
Pi
ln e
Zi
1 Pi
Li = Zi ln (e)
Li = β0 + β1 X ; linier
Pi
: odd ratio
1 Pi
Pi
Li = ln β0 + β1 Xi + e
1 Pi
1 ni
Var (e) = ; Pˆ
Ni Pˆ i (1 Pˆ i ) Ni
Masalah : heteroskedastisitas
gunakan bobot (wi) sehingga WLS yang lebih
tepat.
Ni P̂i(1 - P̂i)
wi =
Li* = Wi Li
Xi* = Wi Xi
WLS : Li* = β0 Wi + β1 Xi* + e Wi
LOGIT
Ilustrasi Model Logit
Xi = income (10 $)
Ni = sampel keluarga dalam Xi (Sampel)
ni = jumlah keluarga yang memiliki rumah (Kejadian)
3) Masukkan variabel yang akan dianalisis, Kejadian pada Response Freq., Sampel pada Total Observed dan
Var. Independen pada Covariate. Kemudian Klik Logit (kiri bawah) bilamana ingin analisis Logit dan
bilamana ingin analisis Probit Klik Probit.
4) Klik OK
CATATAN : Atau buat variabel Logit, kemudian lakukan analisis regresi klasik
LOGIT
* * * * * * * * * P R O B I T A N A L Y S I S * ** * * * * * * * *
Li : -1.60235 + 0.07907 Xi
R2 = 0.9791
Kelurga dengan X = 37, berapa peluang memiliki rumah?
Li = -1.60235 + 0.07907 (37)
= 1.32398
1
Pi =
1 e 1.32398
= 0.7898
1 1 / 2 x 2
DZ u 00
z
F (Z) = e
2u
06
F (Z = 1.96) = F ( z ) DZ 0.025
1.96
Model probit :
Zi = β0 + β1 Xi
REGRESI LOGISTIK
KEGUNAAN
a) Spesifikasi Model :
(1) Identifikasi variabel Dependen dan Independen
(2) Menentukan Spesifikasi Model : pemilihan variabel bebas
ILUSTRASI
Ingin diketahu pengaruh dari keberadaan pasar (rencana) dan
pendapatan terhadap tingkat kesejahteraan masyarakat
Sejahtera : 0 = kurang
1 = sudah
Pasar : 0 = tidak ada
1 = ada
Pendapatan: x Rp 100.000,-
Interpretasi :
(1) Pengaruh pendapatan signifikan (p = 0.006)
(2) Odd ratio pendapatan = 1.412; artinya setiap peningkatan pendapatan
Rp. 100.000,- maka mempunyai kekuatan 1.412 kali meningkatkan
kesejahteraan
Model
Masalah
Bila
pi : probabilita bahwa keluarga i memiliki rumah, yaitu bila Yi = 1;
(1 – pi ): probabilita bahwa keluarga i tidak memiliki rumah, yaitu bila Yi = 0,
Akibatnya:
E(Yi Xi) = 1 + 2 Xi = pi
Karena 0 pi 1, akibatnya: 0 1 + 2 Xi 1
Apakah estimator hasil OLS dapat menjamin bahwa
besaran 1 + 2 Xi terletak antara 0 dan 1?
Contoh
Akan dilihat hubungan antara pernah-tidaknya melakukan
perjalanan ke luar negeri, dan penghasilan per bulan.
Model: Yi = 1 + 2 Xi + ui
Yi = -0,0637 + 0,1986 Xi
R2 = 0,4665
Interpretasi Model
Intercept = -0,0637;
Bila pendapatan Rp. 0, maka probabilitas bahwa orang tersebut
pernah melakukan perjalanan ke luar negeri adalah negatif.
Bila pendapatan lebih kecil dari Rp 321.000, probabilitas orang
tersebut pernah melakukan perjalanan ke luar negeri masih nol.
Bila pendapatan lebih besar Rp. 321.000 probabilitas orang tersebut
pernah melakukan perjalanan ke luar negeri positif.
Tetapi, bila pendapatan lebih besar dari Rp. 5,4 juta, probabilitas
pernah melakukan perjalanan ke luar negeri lebih dari satu.
zi
1 e
1 pi =
1 e zi 1 e zi
1
pi 1 e zi 1 e zi e 1 2 x i
1 p i zi e zi
e
1 e zi
Perbandingan itu disebut Odd Ratio atau sering juga disebut risiko.
Untuk contoh perjalanan ke luar negeri, maka odd ratio merupakan
perbandingan antara probabilitas seseorang pernah pergi ke luar
negeri dengan probabilitas seseorang tidak pernah pergi ke luar
negeri .
Misalkan saja bahwa probabilitas seseorang pernah ke luar negeri
adalah 80%. Dengan demikian, probabilitas bahwa seseorang tidak
pernah pergi ke luar negeri adalah 20%. Sehingga odd ratio adalah 4
banding 1.
Makin besar odd ini, makin besar kecenderungan seseorang pernah
pergi ke luar negeri. Ekstrimnya, bila p kecil sekali, maka 1 – p dekat
dengan 1. Akibatnya odd ratio mendekati nol. Sebaliknya, bila p dekat
dengan 1, maka 1 – p mendekati nol. Sehingga odd ratio sangat
besar.
Dengan perkataan lain, odd adalah suatu indikator kecenderungan
seseorang pernah pergi ke luar negeri Ringkasnya, bila odd
mendekati nol berarti kecenderungan seseorang pernah pergi ke luar
negeri sangat kecil sekali.
Bila odd ini kita log-kan, akan kita dapatkan log odd sebagai berikut:
pi
Li = ln z i 1 2 x i
1 p i
Sehingga model yang akan kita perhatikan atau kita analisis menjadi :
pi
Li = ln 1 2 x i L disebut log odd.
1 pi
Pengamatan :
• L linier dalam X
• L juga linier dalam 1 dan 2
• L disebut model Logit
• Karena p terletak antara 0 dan 1, L terletak antara - dan
• Meskipun L linier dalam X, tetapi p tidak linier dalam X
• 2 menyatakan perubahan dalam L bila x berubah 1 unit
• 1 menyatakan log odd pada saat pendapatan sama dengan nol.
1
pi (1 2 x i )
1 e
Masalahnya sekarang bagaimana menaksir 1 dan 2 ?
likelihood (Model B)
G = -2 ln
likelihood (Model A)
Ho ditolak jika G 2
> ,P ; : tingkat signifikansi.
p( X A )
1 p( X A )
; XA : karakteristik individu A
p( X B ) XB : karakteristik individu B
1 p ( X B
)
Adjusted probabilitas merupakan probabilitas terjadinya suatu
peristiwa y = 1 dengan karakteristik yang telah diketahui.
Dituliskan ;
exp . (z) ; z = 0 + 1 x1 + …. + P xp.
P (y = 1x) =
1 exp (z)
Interpretasi Parameter
Membandingkan nilai odd dari salah satu nilai pada variabel tersebut
dengan nilai odd dari nilai lainnya (Referensi).
Misalkan kedua kategori tersebut adalah 1 dan 0 dengan 0 yang digunakan
sebagai kategori referensi, maka interprestasi koefisien pada variabel ini ada
rasio dari nilai odds untuk kategori 1 terhadap nilai odds untuk kategori 0;
dituliskan sebagai:
p(x j 1) p( x j 0)
= exp. ( j ).
1 - p(x j 1) 1 p(x j 0)
Artinya
risiko terjadinya peristiwa y=1 pada kategori xj = 1 sebesar
exp. ( j ) kali risiko terjadinya peristiwa y=1 pada kategori xj = 0.
Ilustrasi
Variabel bebas:
Pendidikan tertinggi yang ditamatkan:
Tidak/belum bersekolah, Tidak tamat SD & Tamat SD = 1
SLTP dan SLTA = 2
Diploma I/II/III/Akademi, S-1, dan S-2/S-3 = 3
Definisi operasional:
Pendidik1 = 1; Tdk/blm bersekolah, Tidak tamat SD, dan Tamat SD
= 0; Lainnya
Pendidik2 = 1; SLTP dan SLTA
= 0; Lainnya
Pembanding: kelompok yang lulus pendidikan tinggi
Lapangan Pekerjaan Utama:
Pertanian = 1
Industri = 2
Perdagangan = 3
Definisi operasional:
Pekerja1 = 1; Pertanian
= 0; Lainnya
Pekerja2 = 1; Industri
= 0; Lainnya
Pembanding: lapangan usaha Perdagangan.
Tawaran Model:
Ln (p/1-p) = + 1 Pendidik1 + 2 Pendidik2 + 1 Pekerja1 + 2 Pekerja2 +
Model terestimasi:
Ln (p/1-p) = 2,383 – 2,280 Pendidik1 – 1,831 Pendidik2 – 1,130 Pekerja1
– 0,299 Pekerja2
Uji G: Nilai –2 log likelihood = 189,331.
Semua variabel signifikan secara bersama-sama.
Interpretasi
Bila pendidikan = 0, dan lapangan usaha = 0, atau disaat pendidikan
seseorang tinggi, dan bekerja di sektor perdagangan,
maka probabilitas mereka mendukung Partai ANU adalah sebesar:
Ln (p/1-p) = 2,383
(p/1-p) = e2,383
p = e2,383/ (1 + e2,383) = 91,55%.
Slop untuk variabel Pendidik1 adalah –2,280.
Artinya, peluang penduduk berpendidikan rendah untuk mendukung
Partai Anu lebih rendah. Terbukti dari nilai Exp (B= -2,280) = 0,102,
berarti bahwa peluang penduduk berpendidikan rendah hanya 0,102 kali
peluang penduduk berpendidikan tinggi.
Secara analog, peluang penduduk yang bekerja di sektor pertanian atau indu
untuk mendukung partai lebih rendah dibanding penduduk yang bekerja
di sektor perdagangan.
Pr(Y 2 x) p2
z2 (x) = ln = ln
Pr(Y 0 x ) p0
= 20 + 21 x1 + 22 x2 + … + 2p xp
Pr( Y 3 x ) p1
z3 (x) = ln = ln
Pr( Y 0 x ) p0
= 30 + 31 x1 + 32 x2 + … + 3p xp
Ingat: model logit dikotomi, fungsi logitnya:
Pr(Y 1 x ) p
z (x) = ln = ln
1 p
Pr(Y 0 x )
= 0 + 1 x 1 + 2 x 2 + … + p x p
ez
p0 = Pr ( Y = 1x ) =
1 ez
p1 = Pr ( Y = 0x ) =
1
1 ez
p0 + p1 = 1
Untuk Multinomial Logit dengan 4 kategori:
1
p0 = Pr ( Y = 0x ) =
1 e z1 e z2 e z3
e z1
p1 = Pr ( Y = 1x ) =
1 e z1 e z2 e z3
e z2
p2 = Pr ( Y = 2x ) =
1 e z1 e z2 e z3
e z3
p3 = Pr ( Y = 3x ) =
1 e z1 e z2 e z3
p0 + p1 + p2 + p3 = 1
Definisi operasional:
Variabel terikat: (Referensi: Deposito/Tabungan)
1 = Saham
0 = Lainnya
1 = Emas
0 = Lainnya
Variabel bebas:
Pendidikan: DIDIK (Referensi: pendidikan tinggi)
1 = rendah
0 = Lainnya
1 = menengah
0 = Lainnya
1 = Perdagangan
0 = Lainnya
Model:
Ln(p1/p0) = 10 + 11 DIDIK1+12 DIDIK2+ 13 PEKERJA1
+ 14 PEKERJA2