Modul Ajar Data Mining ITB STIKOM Bali
Modul Ajar Data Mining ITB STIKOM Bali
Semester/SKS : Ganjil/4
Deskripsi
Data mining adalah suatu proses pengumpulan informasi dan data yang penting dalam jumlah yang besar
atau big data. Dalam proses ini seringkali memanfaatkan beberapa metode, seperti matematika, statistika
dan pemanfaatan teknologi artificial intelligence (AI). Proses pengolahan data menjadi satu hal sangat
penting di era persaingan bisnis yang mengharuskan mendapat informasi cepat. Informasi terkait data yang
berguna dalam proses bisnis, hingga penentuan strategi kedepannya, karena itulah penggunaan
penambangan data atau disebut dengan data mining sangat penting bagi kelangsungan bisnis yang
berjalan.
Puji syukur kehadirat Tuhan Yang Maha Esa atas segala rahmat-Nya sehingga modul ajar
matakuliah Data Visualisasi ini bisa tersusun hingga selesai. Penulis berharap semoga modul
ini bisa memenuhi kebutuhan peserta didik mata kuliah Data Mining. Pembahasan modul ini
dimulai dengan menjelaskan tujuan yang akan dicapai pada mata kuliah Data Mining. Penulis
sadar masih banyak kekurangan didalam penyusunan modul ini, karena keterbatasan
pengetahuan serta pengalaman. Untuk itu penulis mengharapkan kritik dan saran yang
membangun dari pembaca demi kesempurnaan modul ini.
Penulis
DAFTAR ISI
MODUL I ................................................................................................................................. 1
i
4.3 Rapid Miner ............................................................................................................ 62
4.3.1 Instalasi Rapid Miner ...................................................................................... 62
4.3.2 Pengenalan Interface Rapid Miner................................................................. 65
DAFTAR PUSTAKA ............................................................................................................. 70
ii
DAFTAR GAMBAR
iii
Gambar 4. 5. Ilustrasi 4.5 .................................................................................................... 55
Gambar 4. 6. Ilustrasi 4.6 .................................................................................................... 56
Gambar 4. 7. Ilustrasi 4.7 .................................................................................................... 56
Gambar 4. 8. Ilustrasi 4.8 .................................................................................................... 57
Gambar 4. 9. Ilustrasi 4.9 .................................................................................................... 57
Gambar 4. 10. Ilustrasi 4.10 ................................................................................................ 60
Gambar 4. 11. Ilustrasi 4.11 ................................................................................................. 61
Gambar 4. 12. Ilustrasi 4.12 ................................................................................................ 61
Gambar 4. 13. Ilustrasi 4.13 ................................................................................................ 62
Gambar 4. 14. Ilustrasi 4.14 ................................................................................................ 63
Gambar 4. 15. Ilustrasi 4.15 ................................................................................................ 63
Gambar 4. 16. Ilustrasi 4.16 ................................................................................................ 64
Gambar 4. 17. Ilustrasi 4.17 ................................................................................................ 64
Gambar 4. 18. Ilustrasi 4.18 ................................................................................................ 65
Gambar 4. 19. Ilustrasi 4.19 ................................................................................................ 66
Gambar 4. 20. Ilustrasi 4.20 ................................................................................................ 67
Gambar 4. 21. Ilustrasi 4.21 ................................................................................................ 69
iv
DAFTAR TABEL
v
MODUL I
1
Secara sistematis, langkah utama untuk melakukan data mining terdiri dari tiga tahap,
yaitu sebagai berikut (Gonunescu, 2011);
Eksplorasi atau pemrosesan awal data terdiri dari pembersihan data, normalisasi data,
transformasi data, penanganan missing value, reduksi dimensi, pemilihan subset fitur,
dan sebagainya.
b. Membangun model dan validasi
Membangun model dan validasi, yaitu melakukan analisis dari berbagai model dan
memilih model sehingga menghasilkan kinerja yang terbaik.
1. Cleaning and Integration
Tidak semua data yang terdapat dalam database akan dipakai, karena hanya data
yang sesuai saja yang akan dianalisis dan diambil dari database. Misalnya pada
sebuah kasus market basket analysis yang akan meneliti faktor kecenderungan
pelanggan, maka tidak perlu mengambil nama pelanggan, cukup dengan id
2
pelanggan saja.
b. Data Transformation (Transformasi Data)
Transformasi data merupakan proses pengubahan data dan penggabungan data
ke dalam format tertentu. Data mining membutuhkan format data khusus sebelum
diaplikasikan. Misalnya metode standar seperti analisis asosiasi dan clustering
hanya bisa menerima input data yang bersifat kategorikal. Karenanya data yang
berupa angka numerik apabila mempunyai sifat kontinyu perlu dibagi-bagi menjadi
beberapa interval. Proses ini sering disebut dengan transformasi data.
3. Proses Mining
Proses mining dapat disebut juga sebagai proses penambangan data. Proses mining
merupakan proses utama yang menggunakan metode untuk menemukan pengetahuan
berharga yang tersembunyi dari data.
4. Evaluation and Protection
3
1.2 Dataset
Data mining tidak pernah lepas dari yang namanya dataset, karena dalam pengolahan
data mining, dataset sangat dibutuhkan sebagai objek untuk mendapakan pengetahuan.
Dalam terminologi statistik dataset adalah kumpulan dari suatu objek yang mempunyai
atribut atau variabel tertentu, di mana untuk setiap objek merupakan individu dari data yang
mempunyai sejumlah atribut atau variabel tersebut. Nama lain dari objek yang sering
digunakan adalah record, point, vector, pattern, event, observation, dan case. Sementara
itu, baris yang menyatakan objek-objek data dan kolom disebut atribut. Atribut juga dapat
disebut dengan variabel, field, fitur atau dimensi.
1.2.1 Jenis jenis Dataset
Karakteristik umum dataset yang berpengaruh dalam proses data mining ada tiga,
diantaranya dimensionalitas, sparsitas, dan resolusi. Sedangkan jenis dataset juga ada tiga
macam, yaitu sebagai berikut:
1. Record Data
Dataset yang berbentuk record, tidak mempunyai hubungan antara baris data yang satu
dengan baris data yang lainnya. Setiap baris data berdiri sendiri sebagai sebuah data
individu. Jadi, record data merupakan data yang terdiri dari sekumpulan record, yang
masing-masing record terdiri dari satu set atribut yang tetap. Contoh record data CKD
ditunjukkan pada Tabel 1.1.
Tabel 1. 1. Tabel Ilustrasi 1.1
4
Tiyo 47 70 1.015 0 Normal notpresent notckd
2. Data Graph
Data graph adalah data yang mempunyai bentuk graph yang terdiri dari simpul (node)
dan rusuk (edge). Yang termasuk dalam data graph diantaranya adalah HTML links
(dalam WWW), struktur molekul, dan sebagainya.
3. Ordered Data
Ordered data merupakan data-data yang memperhatikan urutan nilai- nilainya. Yang
termasuk dalam data terurut adalah genomic sequence data atau spatio-temporal data.
Contoh data terurut genomic sequence data dapat dilihat pada Gambar 1.2.
1. Atribut Normal
Atribut nominal adalah nilai atribut yang diperoleh dengan cara kategorisasi karena
nilainya menggambarkan kategori, kode, atau status yang tidak memiliki urutan.
Misalnya, atribut golongan darah yang mempunyai empat kemungkinan nilai yaitu A, B,
AB, dan O. Contoh lainnya seperti atribut jenis kelamin yang bisa bernilai pria dan
wanita.
2. Atribut Ordinal
Atribut ordinal adalah atribut yang memiliki nilai dengan menggambarkan urutan atau
peringkat. Namun, ukuran perbedaan antara dua nilai yang berurutan tidak diketahui.
5
Atribut ordinal sangat berguna dalam survei, yaitu untuk penilaian subjektif (kualitatif)
yang tidak dapat diukur secara objektif. Misalnya, kepuasan pelanggan yang
menghasilkan atribut bernilai ordinal, yaitu 0 (Tidak Puas), 1 (Cukup Puas), 2 (Puas), 3
(Sangat Puas).
3. Atribut Interval (Jarak)
Atribut interval adalah atribut numerik yang diperoleh dengan melakukan pengukuran,
di mana jarak dua titik pada skala sudah diketahui dan tidak mempunyai titik nol yang
absolut. Misalnya, suhu 0°C-100°C atau tanggal 1 sampai tanggal 31.
4. Atribut Rasio (Mutlak)
Atribut rasio adalah atribut numerik dengan titik nol absolut. Artinya, jika sistem
pengukuran menggunakan rasio, dapat dihitung perkalian atau perbandingan antara
suatu nilai dengan nilai yang lain. Misalnya, berat badan Doni 20 kg, berat badan
Amanah 40 kg, berat badan Faiz 60 kg dan berat badan Udin 80 kg. Jika diukur dengan
skala rasio maka berat badan Udin dua kali berat badan Amanah. KDD mengalami
beberapa proses pengolahan. Sebelum diterapkan pada algoritma data mining, dataset
dapat diolah dengan cepat dan menghasilkan kesimpulan yang tepat. Beberapa proses
pengolahan awal adalah proses pengumpulan (aggregation), penarikan contoh
(sampling), pengurangan dimensi (dimensionality reduction), pemilihan fitur (feature
selection), pembuatan fitur (fitur creation), pendiskritan dan pembineran (discretization
and binarization dan transformasi atribut (attribute transformation). Oleh karena itu, perlu
diterapkannya pemrosesan awal pada data sebelum melakukan proses data mining
yang akan dibahas pada bab selanjutnya.
6
MODUL II
7
2.1.1 Algoritma Naïve Bayes
• Bayesian classification adalah pengklasifikasian statistik yang dapat digunakan
untuk memprediksi probabilitas keanggotaan suatu class.
• BC didasarkan pada teorema Bayes yg memiliki kemampuan klasifikasi serupa
dengan decision tree dan neural network.
• Memiliki akurasi dan kecepatan yg tinggi saat diaplikasikan ke dalam database
yg besar.
• Bentuk Umum Teorema Bayes
P(X)
Keterangan :
X : data dgn class yg belum diketahui
H : hipotesis data X
P(HIX) : probabilitas hipotesis H berdasar kondisi X (posteriori
probability)
P(H) : probabilitas hipotesis H (prior porbability)
P(XIH) : probabilitas X berdasar kondisi pada hipotesis H
P(X) : probabilitas dari X
Contoh Soal :
IPK
JENIS STATUS STATUS STATUS
NO Semester
KELAMIN MAHASISWA PRENIKAHAN KELULUSAN
1-6
8
3 PEREMPUAN MAHASISWA BELUM 3.01 TEPAT
Jawaban :
• Tahap 2 menghitung jumlah kasus yang sama dengan class yang sama
(jumlah data jenis kelamin “laki-laki” dengan keterangan “TEPAT” dibagi jumlah data
TEPAT)
9
(jumlah data jenis kelamin “laki-laki” dengan keterangan ”TERLAMBAT”dibagi jumlah data
TERLAMBAT)
(jumlah data dengan status mahasiswa dengan keterangan “TEPAT” dibagi jumlah data
TEPAT)
(jumlah data IPK “2.70” dengan keterangan “TEPAT” dibagi jumlah data TEPAT)
(jumlah data IPK “2.70” dengan keterangan “TERLAMBAT” dibagi jumlah data
TERLAMBAT)
10
= {P(P(KELAMIN =LAKI-LAKI|Y=TEPAT). P(STATUS MHS = MAHASISWA | Y= TEPAT) .
P(PRENIKAHAN =BELUM|Y=TEPAT). P(IPK = 2.70| Y= TEPAT)
= 5/8 . 5/8 . 4/8 . 0/8 . 8/15
=0
P (KELAMIN=LAKI – LAKI), (STATUS MHS=MAHASISWA), (PRENIKAHAN = BELUM),
(IPK = 2.70 ) |TERLAMBAT)
= {P(P(KELAMIN =LAKI-LAKI|Y= TERLAMBAT). P(STATUS MHS = MAHASISWA | Y=
TERLAMBAT) . P(PRENIKAHAN = BELUM|Y= TERLAMBAT). P(IPK = 2.70| Y=
TERLAMBAT)
= 3/7 . 3/7 . 4/7 . 1/7 . 7/15
= 0,0069
➔ Karena hasil (P|TERLAMBAT) lebih besar dari (P|TEPAT) maka keputusanya adalah
“TERLAMBAT”
11
1. Menggunakan Nilai Gain
2. Pilih atribut sebagai akar (nilai gain tertinggi)
3. Buat cabang untuk tiap nilai
4. Bagi kasus dalam cabang
5. Ulangi proses untuk setiap cabang sampai semua kasus pada cabang memiliki kelas
yang sama
Keterangan :
S : himpunan kasus
A : atribut
n
entropy( S ) = − pi * log 2 pi
i =1
Keterangan :
S : himpunan kasus
A : fitur
n : jumlah partisi
12
• Contoh Soal : Buat Pohon keputusan dari tabel dibawah ini
• Jawab :
1. Menghitung jumlah kasus, jumlah kasus untuk keputusan yes, jumlah kasus untuk
keputusan no, dan entropy dari semua kasus
Jumlah kasus : 14
Jumlah kasus untuk keputusan yes : 10
Jumlah kasus untuk keputusan no :4
➔ Entropy dari semua kasus :
n
entropy( S ) = − pi * log 2 pi
i =1
13
= 0.87
= 0,863121 – ((4/14)*0)+((5/14)*0.723))+((5/14)*0,970))
= 0,258521
Gain (Total,Temperature)
= 0,863121 – ((4/14)*0)+((4/14)*1))+((6/14)*0,918))
= 0,183851
Gain (Total,humidity)
= 0,863121 – ((7/14)*0)+((7/14)*0,955228))
= 0,370506
Gain (Total,windy)
= 0,863121 – ((8/14)*0,811278)+((6/14)*0,918296))
14
= 0,005978
Menghitung jumlah kasus, jumlah kasus untuk keputusan Yes, jumlah kasus untuk
keputusan No, dan Entropy dari semua kasus dan kasus yang dibagi berdasarkan
atribut OUTLOOK, TEMPERATURE dan WINDY yang dapat menjadi node akar dari
nilai atribut HIGH.
Jumlah kasus : 7
15
Gambar 2. 2. Ilustrasi 2.2
Menghitung jumlah kasus, jumlah kasus untuk keputusan Yes, jumlah kasus untuk
keputusan No, dan Entropy dari semua kasus dan kasus yang dibagi berdasarkan
atribut TEMPERATURE dan WINDY yang dapat menjadi node cabang dari nilai
atribut RAINY.
Nilai k yang terbaik untuk algoritma ini tergantung pada data; secara umumnya, nilai
k yang tinggi akan mengurangi efek noise pada klasifikasi, tetapi membuat batasan antara
16
setiap klasifikasi menjadi lebih kabur. Nilai k yang bagus dapat dipilih dengan optimasi
parameter, misalnya dengan menggunakan cross-validation. Kasus khusus di mana
klasifikasi diprediksikan berdasarkan data pembelajaran yang paling dekat (dengan kata
lain, k = 1) disebut algoritma nearest neighbor. Berikut rumus pencarian jarak menggunakan
rumus Euclediean Distence
𝑑 = √∑(𝑥2𝑖 − 𝑥1𝑖 )2
𝑖=1
Dengan :
x1 = sampel data
x2 = data uji
i = varibel data
d = jarak
p = dimensi data
Ketepatan algoritma KNN ini sangat dipengaruhi oleh ada atau tidaknya fitur-fitur yang tidak
relevan, atau jika bobot fitur tersebut tidak setara dengan relevansinya terhadap klasifikasi.
Riset terhadap algoritma ini sebagian besar membahas bagaimana memilih dan memberi
bobot terhadap fitur, agar performa klasifikasi menjadi lebih baik.
17
Contoh Pertama
Kita mempunyai data dari survey kuesioner (dengan meminta pendapat masyarakat) dan
testing objektif dengan dua atribut (acid durability and strength) untuk mengklasifikasi
apakah suatu bahan pembuat kertas baik atau tidak. Dengan data yang telah ada adalah
sebagai berikut:
7 7 Bad
7 4 Bad
3 4 Good
1 4 Good
Sekarang pabrik ingin menghasilkan sebuah bahan kertas yang melewati uji laboratorium
dengan x1=3 dan x2 = 7.
• Urutkan jarak dan tentukan tetangga terdekat berdasar jarak minimum ke-K
18
Tabel 2. 7. Tabel Ilustrasi 2.7
7 7 4 3 Yes
7 4 5 4 No
3 4 3 1 Yes
1 4 3.6 2 Yes
• Kumpulkan kategori Y dari tetangga terdekat. Perhatikan, pada baris kedua kolom
terakhir, kategori tetangga terdekat (Y) tidak termasuk karena peringkat datanya lebih
besar dari 3 (=K)
• Gunakan mayoritas kecil dari kategori tetangga terdekat sebagai nilai prediksi dari
instance query.
Tabel 2. 8. Tabel Ilustrasi 2.8
X1 = Acid Is it Y=
X2 = Strength Square Distance Rank
Durability included in Category of
(kg/square to query instance minimum
(seconds 3-Nearest nearest
meter) (3, 7) distance
) neighbors? Neighbor
7 7 4 3 Yes Bad
7 4 5 4 No -
3 4 3 1 Yes Good
• Kita mempunyai 2 good dan 1 bad, karena 2 > 1 maka kita simpulkan bahwa bahan
kertas yang baru yang melewati tes uji laboratorium dengan X1 = 3 dan X2 = 7 termasuk
dalam kategori Good.
19
Metoda Konversi Atribut Nominal Ke Atribut Numerik
Ada 2 metode yang digunakan untuk mengkonversi atribut nominal ke atribut numerik
− Yes = 1 dan no = 0
− Biru = 1, Kuning = 2 dan merah = 3
2. Menghitung jaraknya
𝒎
Contoh Kedua
Ada 5 data yang menunjukkan kelas apakah orang tersebut RESPONSE atau NO
RESPONSE
John, Rachel, Hannah, Tom, Nellie, kemudian diinputkan data baru yaitu David.
20
Data Lengkap masing-masing customer
No.
Customer Age Income (K) RESPOSE
cards
John
35 35K 3 NO
22 50K 2 YES
Rachel
Hannah
63 200K 1 NO
Tom
59 170K 1 NO
Nellie
25/63 =
40K 4 YES
0.39
David 37/63 =
50/200 = 0.25 2 ??
0.58
21
Langkah Pertama Hitung jarak antara data baru (DAVID) dengan data yang telah ada
Income No.
Customer Age RESPOSE Distence
(K) cards
22
YES
37 50K 2
David
Berdasarkan perhitungan jarak dan nilai K = 3, artinya hanya diambil 3 yang memiliki jarak
terpendek dari lima data yang disajikan. Ketiga data yang jaraknya terpendik yaitu 15.S6;
15; 15.75 dan kelas responsenya YES, NO, YES. Kesimpulan yang dapat ditarik David
masuk dalam kelas RESPONSE YES
Normalisasi Variabel
John
55/63 = 0.55 35/200 = 0.175 ¾ = 0.75
Rachel
Hannah
63/63 = 1 200/200=1 ¼ = 0.25
23
Tom
59/63 = 0.93 170/200 = 0.85 ¼ = 0.25
Nellie
25/63 = 0.39 40/200 = 0.2 4/4 = 1
David
Contoh Ketiga
24
Dari contoh di atas ada 24 data X1 dan X2 dan Kelas yang di cari adalah Y (positif atau
negatif)
Data baru X1 = 4; X2 = 7 dengan K = 8. Dari hasil perhitungan dapat ditarik kesimpulan data
X1 = 4 dan X2 = 7 termasuk dalam kelas NEGATIF.
25
MODUL III
Konsep terpenting yang harus disadari adalah bahwa proses clustering yang baik akan
menghasilkan cluster dengan kualitas tinggi bila memiliki:
Selain itu pula, suatu metode clustering juga harus dapat diukur kemampuannya dalam
usahanya untuk menemukan suatu pola tersembunyi pada data yang tersedia. Dalam
mengukur nilai sililarity ini, ada beberapa metode yang dapat dipakai salah satunya adalah
Euclediean Distence. Pada metode ini, dua buah point dapat dihitung jaraknya bila diketahui
nilai dari masing-masing atribut pada kedua point tersebut. Berikut adalah rumus distence
yang dipakai, yaitu:
𝑑 = √∑(𝑥2𝑖 − 𝑥1𝑖 )2
𝑖=1
26
Dengan :
x1 = sampel data
x2 = data uji
i = varibel data
d = jarak
p = dimensi data
Yang dimaksud dengan bobot field (µk) adalah ukuran kemampuan suatu field ke-k dalam
mempengaruhi jarak antara kedua point. Semakin besar nilai µ k, akan semakin besar pula
pengaruhnya terhadap jarak antara kedua point, dan sebaliknya semakin kecil nilai µ k, akan
semakin kecil pengaruhnya terhadap jarak antara ke dua point.
27
Gambar 3. 2. Ilustrasi 3.2
• Partitional Clustering : Tipe cluster yang benar-benar terpisah antara sekelompok objek
dengan sekelompok objek lainnya.
• Hierarchical clustering : Sekelompok cluster yang terorganisasi sebagai suatu pohon
hirarki (hierarchical tree)
1. Well-Separate Clusters
Cluster adalah sekelompok point dimana tiap point dalam cluster memiliki kesamaan
yang lebih (more similar) dengan setiap point lainnya di dalam cluster daripada tiap
28
point yang tidak berada dalam cluster tersebut. Dapat dikatakan bahwa setiap point
yang berada dalam satu cluster akan memiliki jarak yang lebih dekat dibandingkan
point-point pada cluster lain.
2. Center-besed
Cluster adalah sekumpulan objek dimana tiap objek pada cluster memiliki kemiripan
yang lebih dengan pusat (center) cluster lainnya.
Pusat (center) dari cluster disebut dengan centroid, rata-rata dari tiap point pada
cluster atau medoid merupakan point yang dapat mewakili point-point lain dari cluster
tersebut (Representative Point)
3. Contigous Cluster (Nearest Neighbor or Transitive)
Cluster adalah sekumpulan poin dimana tiap point dalam cluster memiliki kesamaan
yang lebih (more similar) dengan satu point atau lebih lainnya di dalam cluster
daripada tiap point yang tidak berada dalam cluster tersebut
4. Density-based
Cluster adalah suatu are populasi point yang memisahkan antar tingkat populasi point
rendah dengan tingkat populasi point yang tinggi
• Pengenalan pola
• Analisa data spasial (spatial data)
Membuat Map GIS (Geogrphic Information System)
Mendeteksi cluster spasial dan menjelaskannya pada data mining spasial
• Memproses image tertentu
• Ilmu Pengetahuan Ekonomi (analisa pasar)
Contoh penggunaan aplikasi cluster:
• Marketing : Membantu para pelaku pasar menemukan kelompok tertentu pada basis
customer mereka dan menggunakan pengetahuan tersebut untuk mengembangkan
program terget marketing mereka
• Land use : Mengidentifikasi setiap area yang ada di permukaan bumi untuk keperluan
obesrvasi pada database.
29
• Insurance : Mengidentifikasi sekelompok pemegang polis asuransi yang memiliki tingkat
biaya klaim rata-rata tertentu.
• City Planning : Mengidentifikasi sekelompok rumah berdasar tipe, nilai serta letak
geografinya
• Earth-quake Studies : mengobservasi berbagai macam titik episentrum gempa bumi
yang terjadi pada berbagai benua.
Ide dasar dari density-based clustering berkaitan dengan beberapa definisi baru
1. Neighborhood dengan radius Eps dari suatu obyek disebut Eps-neighborhood dari
suatu obyek tersebut.
30
3. Diberikan set obyek D, obyek p dikatakan directly density-reachable (kepadatan
terjangkau langsung) dari obyek q jika p termasuk dalam Eps-neighborhood dari q dan
q adalah core objek.
31
Gambar 3. 6. Ilustrasi 3.6
Eps =4
MinPts =4
32
Tabel 3. 1. Tabel Ilustrasi 3.1
Node (x,y ) dari table diatas direfresentasikan dengan gambar dibawah ini :
33
Iterasi 1
Dengan titik tengah (4,4) maka point yang menjadi anggota adalah 5 point yaitu B, C, D, F,
G. Untuk lebih jelasnya dapat dilihat pada tabel berikut :
34
Iterasi 2
Dengan titik tengah (4,7) maka point yang menjadi anggota adalah 4 point yaitu A, D, F, K.
Untuk lebih jelasnya dapat dilihat pada tabael berikut :
35
Iterasi 3
Dengan titik tengah (6,9) maka point yang menjadi anggota adalah 6 point yaitu D, G, L,
Q, S dan T. Untuk lebih jelasnya dapat dilihat pada tabael berikut:
36
Iterasi 4
Dengan titik tengah (7,12) maka point yang menjadi anggota adalah 7 point yaitu O, P, Q,
S dan W. Untuk lebih jelasnya dapat dilihat pada tabel berikut :
37
Iterasi 5
Dengan titik tengah (16,7) maka point yang menjadi anggota adalah 5 point yaitu D, I, M
dan N. Untuk lebih jelasnya dapat dilihat pada tabel berikut :
38
Iterasi 6
Dengan titik tengah (19,8) maka point yang menjadi anggota adalah 5 point yaitu H,I, J, M,
P dan R. Untuk lebih jelasnya dapat dilihat pada tabael berikut :
39
Iterasi 7
Dengan titik tengah (20,10) maka point yang menjadi anggota adalah 4 point yaitu I, J, M,
N. Untuk lebih jelasnya dapat dilihat pada tabael berikut :
40
Iterasi 8
Dengan titik tengah (15,21)maka point yang menjadi anggota adalah 2 point yaitu. Untuk
lebih jelasnya dapat dilihat pada tabael berikut :
41
Hasil
3.5 K-MEANS
K-Means Termasuk partitioning clustering yang memisahkan data ke k daerah bagian
yang terpisah. K-means algorithm sangat terkenal karena kemudahan dan kemampuannya
untuk mengklaster data besar dan data outlier dengan sangat cepat. Sesuai dengan
karakteristik partitioning clustering, Setiap data harus termasuk ke cluster tertentu, dan
Memungkinkan bagi setiap data yang termasuk cluster tertentu pada suatu tahapan proses,
pada tahapan berikutnya berpindah ke cluster yang lain.
42
Contoh Kasus K-Means :
Using K-means algorithm find the best groupings and means of two clusters of the 2D data
below. Show all your work, assumptions, and regulations. M1 = (2, 5.0), M2 = (2, 5.5), M3 =
(5, 3.5), M4 = (6.5, 2.2), M5 = (7, 3.3), M6 = (3.5, 4.8), M7 = (4, 4.5)
Asumsi:
M1 = (2, 5.0), M2 = (2, 5.5), M3 = (5, 3.5), M4 = (6.5, 2.2), M5 = (7, 3.3), M6 = (3.5,
4.8), M7 = (4, 4.5)
43
Iterasi 1
a. Menghitung Euclidean distance dari semua date ke tiap titik pusat pertama
Dengan cara yang sama hitung jara tiap titik ke titik pusat ke dan kita akan mendapatkan
D21= 4.12, D22=4.27, D23= 1.18, D24= 1.86, D25=1.22, D26=2.62, D27=2.06
jarak ke
➔ {M1, M2, M6, M7} anggota C1 and {M3, M4, M5} anggota C2
44
Iterasi 2
a. Hitung Euclidean distance dari tiap data ke titik pusat yang baru Dengan cara yang
sama dengan iterasi pertama kita akan mendapatkan perbandingan sebagai berikut:
M1 M2 M3 M4 M5 M6 M7
Jarak
b. Dari perbandingan tersebut kira tahu bahwa {M1, M2, M6, M7} anggota C1 dan {M3, M4,
M5} anggota C2
c. Karena anggota kelompok tidak ada yang berubah maka titik pusat pun tidak akan
berubah.
Kesimpulan
M1, M2, M6, M7} anggota C1 dan {M3, M4, M5} anggota C2
3.6 E-Mediods
Algoritma k-medoids adalah algoritma clustering yang berkaitan dengan algoritma
k-means dan algoritma medoidshift. Baik k-means dan algoritma k-medoids adalah
teknik partisi (memecah dataset ke dalam kelompok) dan keduanya berusaha untuk
meminimalkan square error (jarak antara titik berlabel berada dalam cluster dan titik
yang ditunjuk sebagai pusat cluster tersebut). Berbeda dengan algoritma k-means, k-
medoids memilih data points sebagai pusat (medoids atau eksemplar).
k-medoid lebih kuat terhadap noise dan outliner dibandingkan dengan k-means
karena meminimalkan jumlah dari ketidaksamaan bukannya meminimalkan jumlah
kuadrat jarak Euclidean.
45
medoid dapat didefinisikan sebagai objek cluster, yang rata-rata perbedaan
untuk semua objek dalam suatu cluster minimal yaitu merupakan titik paling pusat dari
data yang diberikan.
Realisasi yang paling umum dari clustering k-medoid adalah Partition Around
Medoids (PAM) dan algoritma adalah sebagai berikut :
Klasterisasi data set yang terdiri dari sepuluh objek menjadi 2 cluster, anggaplah data set
nya adalah dalam 2 dimensi sebagai berikut :
X1 2 6
X2 3 4
X3 3 8
X4 4 7
X5 6 2
X6 6 6
46
X7 7 3
X8 7 4
X9 8 5
X10 7 6
Langkah Pertama
• Inisialisasi pusat k
Jadi kita sekarang memiliki c 1 dan c2 sebagai medoid, berikutnya kalkulasi jarak
menggunakan rumus jarak minkowski dengan p = 1
𝑛
1
∑(|𝑥𝑖 − 𝑦𝑖 |𝑝 )𝑝
𝑖=1
47
Untuk point pertama data objek (2,6) sedangkan data pusat adalah (3,4) jadi total
jarak yang didapat adalah
Dan untuk titik-titik yang lain maka akan mendapatkan jarak sebagai berikut
Cost
c1 Data objects (Xi)
(distance)
3 4 2 6 3
3 4 3 8 4
3 4 4 7 4
3 4 6 2 5
3 4 6 6 5
3 4 7 3 5
3 4 8 5 6
3 4 7 6 6
Tugasi setiap objek ke objek perwakilan terdekat Menggunakan L1 Metric (Manhattan), kami
membentuk Cluster berikut:
48
Sehingga sekarang cluster menjadi
Cluster1 = {(3,4)(2,6)(3,8)(4,7)}
Cluster2 = {(7,4)(6,2)(6,4)(7,3)(8,5)(7,6)}
𝑐𝑜𝑠𝑡(𝑥, 𝑐) = ∑|𝑥 − 𝑐 |
𝑖=1
Dimana
c = adalah medoid
Total cost adalah perhitungan total dari setiap cost yang dimiliki dalam sebuah cluster
dimana untuk c1 dan c2 total cost adalah
= (3 + 4 + 4) + (3 + 1 + 1 + 2 + 2)
= 20
49
Gambar 3. 19. Ilustrasi 3.19
Langkah Kedua
Pemilihan nonmedoid O’ secara acak
Mari kita asumsikan O’= (7,3) (ada di c2 maka kita akan tukar c2 dengan O’)
Maka sekarang medoids yang ada adalah c1 (3,4) dan O’(7,3)
Jika c1 dan O’ adalah medoids baru, hitung biaya total yang terlibat
3 4 2 6 3
3 4 3 8 4
3 4 4 7 4
3 4 6 2 5
3 4 6 4 3
3 4 7 4 4
50
3 4 8 5 6
3 4 7 6 6
7 3 2 6 8
7 3 3 8 9
7 3 4 7 7
7 3 6 2 2
7 3 6 4 2
7 3 7 4 1
7 3 8 5 3
7 3 7 6 3
Dengan menggunakan rumus yang sama dengan langkah pertama maka didapatkat
Total cost’ = 3 + 4 + 4 + 2 + 2 + 1 + 3 + 3
Total cost’ = 22
S = 22 – 20 = 2
Karena 2 > 0 maka didapatkan kesimpulan bahwa medoid yang baru tidak lebih baik dari
medoid yang lama, berikut adalah hasil klasterisasi setelah langkah kedua dilakukan
51
Gambar 3. 20. Ilustrasi 3.20
Lakukanlah langkah 1 dan 2 terus menerus (mengulang langkah 2 sampai 5 pada k-medoid)
sampai akhirnya mendapatkan medoid yang paling bagus (medoid tidak dirubah lagi) dan
algoritma ini pun akan dihentikan.
52
MODUL IV
1. Klik dua kali file executable dari weka 3.9.2 (.exe) seperti pada Gambar 4.1
2. Kemudian akan muncul jendela seperti pada Gambar 4.2, selanjutnya pilih
next.
53
Gambar 4. 2. Ilustrasi 4.2
3. Kemudian akan muncul jendela Licene Agreement seperti pada Gambar 4.3, lalu
pilih I Agree.
Selanjutnya akan muncul jendela seperti pada Gambar 4.4, pada bagian select type of
install pilih full, untuk menginstall seluruh komponen yang diperlukan untuk menjalankan
apilkasi, kemudian pilih next.
54
Gambar 4. 4. Ilustrasi 4.4
4. Selanjutnya seperti pada Gambar 4.5, tentukan dimana ingin menyimpan file hasil
proses instalasinya, setelah selesai menentukan direktori kemudian pilih next
55
Gambar 4. 6. Ilustrasi 4.6
6. Maka proses instalasi akan dilakukan. Setelah proses instalasi selesai kemudian
klik next seperti pada Gambar 4.7.
7. Selanjutnya klik finish, apabila ingin menjalankan aplikasi weka maka tandai pilih
Start Weka seperti yang ditunjukkan pada Gambar 4.8.
56
Gambar 4. 8. Ilustrasi 4.8
Tampilan awal ketika apliaksi weka dijalankan maka terlihat seperti pada Gambar
4.9, pada tampilan awal weka terdapat empat menu utama diantaranya program,
visualisation, tools, dan help serta lima tombol diantaranya explorer, experimenter,
knowledgeflow, woekbench, dan simple CLI.
1. Program
57
a. LogWindow (Shortcut CTRL+L)
Sub menu LogWindow digunakan untuk menampilkan log yang merekap semua
yang tercetak untuk stdout dan stderr.
b. Memory usage (Shortcut CTRL+M)
Sub menu memory usage digunakan untuk menampilkan penggunaan memori
pada saat aplikasi weka digunakan.
c. Setting
Sub menu setting digunkaan untuk mengatur tampilan pada user interface.
d. Exit (Shortcut CTRL+E)
Submenu exit digunakan untuk keluar dari aplikasi weka.
2. Visualisation
Menu visualisation merupakan sarana yang digunakan untuk memvisualisasikan data
dengan aplikasi weka. Menu ini mempunyai lima submenu, diantaranya:
a. Plot (Shortcut CTRL+P)
Sub menu plot digunakan untuk menampilkan plot 2D dari sebuah dataset.
Sub menu ROC digunakan untuk menampilkan kurva ROC yang telah disimpan
sebelumnya.
c. TreeVisualizer (Shortcut CTRL+T)
Sub menu TreeVisualizer digunakan untuk menampilkan graf berarah, contohnya:
decision tree.
d. Graph Visualizer (Shortcut CTRL+G)
Sub menu graph visualizer digunakan untuk memvisualisasikan format grafik XML,
BIF, atau DOT, contohnay sebuah jaringan bayesian.
e. Boundary Visualizer (Shortcut CTRL+B)
Sub menu boundary visualizer bertugas untuk mengizinkan visualisasi dari batas
keputusan classifier dalam plot 2D.
3. Tools
Menu tools menampilkan aplikasi lainnya yang berguna bagi pengguna. Pada menu ini
terdapat empat sub menu, yaitu:
a. Package Manager (Shortcut CTRL+U)
58
b. ArffViewer (Shortcut CTRL+A)
Sebuah aplikasi MDI yang menampilkan file Arff dalam format spreadsheet.
Merepresentasikan sebuah lembar kerja SQL, untuk melakukan query database via
JDBC.
d. Bayes net editor (Shortcut CTRL+N)
Sebuah apliksi untuk mengedit, memvisualisasikan dan mempelajari bayes net.
4. Help
Tools yang dapat digunakan untuk preprocessing dataset membuat pengguna dapat
berfokus pada algoritma yang digunakan tanpa terlalu memperhatikan detail seperti
pembacaan data dari file-file, penyediaan kode untuk evaluasi hasil, dan implementasi
algoritma filtering. Untuk melakukan pengujian maka perlu memahami beberapa tombol GUI
yang ada di weka, diantaranya:
a. GUI Explorer
GUI Explorer merupakan GUI yang menyediakan semua fitur weka dalam bentuk tombol
dan tampilan visualisasi yang menarik dan lengkap. GUI Explorer adalah GUI yang paling
mudah digunakan. Preprocess, asosiasi,klasifikasi, clustering, select atribut, dan
visualize dapat dilakukan dengan mudah. Tampilan weka expoler dapat dilihat pada
Gambar 4.10.
59
Gambar 4. 10. Ilustrasi 4.10
b. GUI Experimenter
GUI experimenter biasanya digunakan untuk klasifikasi dan regresi. GUI experimenter
dapat memudahkan perbandingan performansi skema-skema pembelajaran yang
berbeda. Hasil dari perbandingan tersebut dapat dituliskan dalam database atau file.
Dalam Weka tersedia pilihan evaluasi yaitu learning curve, cross-validation, hold-out.
Pengguna juga dapat melakukan iterasi menurut beberapa setting parameter yang
berbeda. GUI experimenter dapat dilihat pada Gambar 4.11.
60
Gambar 4. 11. Ilustrasi 4.11
Tab setup yang muncul saat dibuka experimenter memungkinkan user memilih dan
mengkonfigurasi eksperimen yang dilakukan. Setelah menyimpan definisi eksperimen
yang dilakukan pengguna dapat memulai eksperimen dari tab run dan mengklik tombol
start. Hasilnya akan disimpan dalam format CSV dan dapat dibuka dalam bentuk
spreadsheet.
Tab Analize, dapat digunakan untuk menganalisa hasil eksperimen yang dikirim ke weka,
Jumlah baris hasil ditunjukkan pada panel source. Hasilnya dapat di-load dalam format
.arff maupun dari basis data
c. GUI Knowledge Flow
GUI knowledge flow merupakan GUI yang ada dalam weka yang merupakan antarmuka
Java-Beans-Based untuk melakukan setting dan menjalankan percobaan-percobaan
macine learning. Tampilan GUI Weka knoledge flow dapat dilihat pada Gambar 4.12..
Knowledge flow dapat menangani data secara incremental maupun dalam batches
(Explorer hanya menangani data batch). Tentunya diperlukan sebuah classifier yang dapat
diupdate instance per instance untuk pembelajaran dari data secara incremental
61
4.3 Rapid Miner
RapidMiner merupakan perangkat lunak yang bersifat open source untuk melakukan
analisis data mining, text mining, dan analisis prediksi. Operator data mining yang terdapat
pada RapidMiner diantaranya operator untuk input, output, visualisasi, dan data
preprocessing. RapidMiner ditulis menggunakan bahasa java sehingga bisa bekerja di
semua sistem operasi. Sebelumnya RapidMiner bernama Yet Another Learning
Environment (YALE), dimana versi awalnya mulai dikembangkan pada tahun 2001 oleh
RalfKlinkenberg, Ingo Mierswa, dan Simon Fischer di Artificial Intelligence Unit dari
University of Dortmund. RapidMiner didistribusikan di bawah lisensi GNU Affero General
Public License (AGPL) versi 3. Hingga saat ini ribuan aplikasi telah dikembangkan
menggunakan RapidMiner di lebih dari 40 negara. Sebagai software open source untuk data
mining, RapidMiner tidak perlu diragukan lagi karena software ini sudah terkemuka di dunia.
Peringkat pertama software data mining pada polling oleh KDnuggets, sebuah portal data
mining pada 2010-2011 ditempati oleh RapidMiner.
1. Klik dua kali file executable dari RapidMiner 5.3.000x32-install(.exe) seperti pada
Gambar 4.13.
62
2. Jendela yang muncul pada Gambar 4.14, pilih next.
4. Selanjutnya akan menampilkan form seperti pada Gambar 4.16 untuk menentukan
tempat penyimpanan file hasil proses instalasi, setelah selesai menentukan direktori
kemudian pilih install
63
Gambar 4. 16. Ilustrasi 4.16
5. Setelah proses instalasi selesai kemudian klik next seperti pada Gambar 4.17.
64
6. Selanjutnya klik finish pada Gambar 4.18 untuk mengakhiri proses instalasi.
1. Welcome Perspective
Ketika membuka aplikasi maka akan tampil seperti pada Gambar 4.19.
65
Gambar 4. 19. Ilustrasi 4.19
a. New
New digunakan untuk memulai proses analisis baru. Untuk memulai
proses analisis, pertama-tama harus menentukan nama dan lokasi
proses serta data repository.
b. Open Recent Process
Open recent process digunakan untuk membuka proses yang baru saja
ditutup. Selain itu, dapat digunakan untuk membuka proses yang baru
ditutup dengan mengeklik dua kali dari salah satu daftar yang ada pada
recent process maka tampilan welcome persective akan otomatis
beralih ke design perspective.
c. Open Process
Open process digunakan untuk membuka repository browser yang berisi
daftar proses.
d. Open Template
Open template digunakan untuk menunjukkan pilihan lain yang sudah
ditentukan oleh proses analisis.
66
e. Online Tutorial
Online tutorial digunakan untuk memulai tutorial secara online dengan
catatan komputer harus terhubung dengan internet. Tutorial yang
didapat secara langsung dari rapid miner berupa perkenalan tentang
konsep data mining.
2. Design Perspective
Design perspective merupakan lembar kerja pada RapidMiner yang
digunakan untuk membuat dan mengelola proses analisis dari konsep data
mining. Seperti yang ditunjukkan pada Gambar 4.20 yang mempunyai
beberapa view.
a. Operator View
Operator view merupakan salah satu view yang paling penting karena
semua operator dari RapidMiner disajikan dalam bentuk hierarki
sehingga operator-operator tersebut dapat digunakan pada proses
analisis data mining.
b. Process View
Process view merupakan halaman yang digunakan untuk menunjukkan
langkah-langkah dalam proses analisis data mining dengan
menggunakan komponen-komponen yang ada pada operator view.
67
c. Parameter View
Beberapa operator dalam RapidMiner membutuhkan satu atau lebih
parameter agar dapat didefinisikan sebagai fungsionalitas yang benar.
Namun terkadang parameter tidak mutlak dibutuhkan, meskipun
eksekusi operator dapat dikendalikan dengan menunjukkan nilai
parameter tertentu.
d. Repository View
Repository view merupakan komponen utama dalam design
perspective. Repository view digunakan untuk mengelola dan menata
proses analisis data mining.
e. Problem View
Problem view merupakan komponen yang sangat berharga dan
merupkan sumber bantuan bagi pengguna selama merancang proses
analisis, karena apabila ada kesalahan dalam proses analisis maka
akan ada pemberitahuan pada halaman problem view.
f. Help dan Comment View
Help view digunakan untuk memberi penjelasan singkat mengenai
fungsi operator dalam satu atau beberapa kalimat. Sedangkan comment
view merupakan area bagi pengguna menuliskan komentar pada proses
analisis data mining.
3. Result Perspective
Result perspective merupakan tampilan yang digunakan untuk
menampilkan hasil dari proses analisis data mining, seperti yang
ditunjukkan pada Gambar 4.21.
68
Gambar 4. 21. Ilustrasi 4.21
69
DAFTAR PUSTAKA
70