Unsupervised Machine Learning
Dr. Sutikno
Jenis-Jenis Machine Learning
Supervised Learning
• Salah satu paradigma dalam machine learning di mana
algoritma belajar dari data yang telah "diberi label".
supervised learning - Klasifikasi
• Klasifikasi adalah tugas di mana output yang
diprediksi adalah kelas atau label yang diskrit.
Contoh Regression
• Regresi adalah tugas di mana output yang
diprediksi adalah nilai kontinu.
Unsupervised Learning
• Paradigma dalam machine learning di mana algoritma harus
mengidentifikasi pola atau struktur yang tersembunyi dalam data yang
tidak memiliki label atau anotasi yang jelas.
Klasifikasi vs Klasterisasi
• Klasifikasi: Mengelompokan data berdasarkan kesamaan label
• Klasterisasi: teknik analisis data untuk mengelompokkan objek
ke dalam beberapa grup (cluster).
Clustering
• Cluster analysis (clustering) adalah teknik analisis data untuk
mengelompokkan objek ke dalam beberapa grup (cluster).
• Objek dalam satu cluster memiliki kemiripan tinggi,
sedangkan antar-cluster berbeda satu sama lain.
• Merupakan bagian penting dari exploratory data analysis dan
digunakan di berbagai bidang seperti:
– Pattern recognition
– Image analysis
– Information retrieval
– Bioinformatics
– Machine learning
Karakteristik dan Prinsip
• Konsep umum cluster:
– Objek dengan jarak kecil antar-anggota,
– Area padat dalam ruang data,
– Distribusi statistik tertentu.
• Hasil clustering bergantung pada:
– Jenis algoritma,
– Parameter (fungsi jarak, jumlah cluster, ambang kepadatan),
– Karakteristik data.
Proses Clustering
• Bersifat iteratif dan eksploratif, tidak otomatis.
• Melibatkan penyesuaian parameter dan pra-
pemrosesan data hingga hasil sesuai harapan.
• Dapat dianggap sebagai multi-objective
optimization problem.
Model-Model Cluster Umum
• Connectivity Models
– Berdasarkan jarak antar data.
– Contoh: Hierarchical Clustering.
• Centroid Models
– Mewakili setiap cluster dengan satu mean vector.
– Contoh: K-Means.
• Distribution Models
– Menggunakan distribusi statistik (mis. multivariate normal).
– Contoh: Expectation-Maximization (EM).
• Density Models
– Cluster = area padat yang saling terhubung.
– Contoh: DBSCAN, OPTICS.
• Subspace Models
– Pertimbangkan anggota dan atribut relevan secara bersamaan.
– Contoh: Biclustering atau Co-clustering.
• Group Models
– Hanya memberikan hasil pengelompokan tanpa model matematis lanjutan.
• Graph-based Models
– Cluster = clique atau quasi-clique dalam grafik.
– Contoh: HCS Algorithm.
• Signed Graph Models
– Berdasarkan teori keseimbangan (balance theory), menghasilkan beberapa subgraf positif.
• Neural Models
– Berdasarkan jaringan saraf tak terawasi, seperti Self-Organizing Map (SOM).
K-Means Clustering
• Metode clustering yang membagi n data menjadi k
cluster, dimana setiap data masuk ke cluster dengan
rata-rata (centroid) terdekat.
• Prinsip Kerja:
– Menghitung jarak (Euclidean) antara data dan centroid.
– Meminimalkan variasi dalam cluster
– Membentuk batas wilayah di ruang data
K-Means Clustering
• Termasuk metode heuristik, bersifat iteratif dan
cepat konvergen ke optimum lokal.
• Menghasilkan cluster dengan ukuran serupa.
• K-Means ≠ K-Nearest Neighbor (KNN)
– K-Means: metode unsupervised (tanpa label) untuk
pengelompokan.
– KNN: metode supervised (berlabel) untuk klasifikasi.
Algoritma K-means Clustering
(Jain dkk, 1999)
1. Inisialisasi titik pusat cluster (centroid)
– Pilih k titik awal secara acak dari data atau tentukan titik secara manual.
– Titik ini menjadi pusat awal cluster.
2. Hitung jarak setiap data ke setiap centroid
– Umumnya menggunakan jarak Euclidean.
– Setiap data akan ditugaskan ke cluster dengan jarak terdekat.
3. Perbarui centroid
– Setelah semua data diberi label cluster, hitung kembali posisi centroid baru
sebagai rata-rata dari semua titik dalam cluster tersebut.
4. Ulangi proses
– Ulangi langkah 2–3 sampai terjadi konvergensi, yaitu:
• Tidak ada lagi perpindahan anggota cluster, atau
• Perubahan posisi centroid sangat kecil (di bawah ambang batas tertentu).
Menentukan Kemiripan
• Mengukur jarak
– Dengan Eucliden Distance
Contoh Penerapan Algoritma K-means Clustering
Tedapat 4 titik data dua dimensi (x, y).
Tujuan: membuat 2 cluster (k = 2).
Titik x y
A 1 2
B 1 4
C 5 2
D 5 4
Contoh Penerapan Algoritma K-means Clustering
Langkah 1: Inisialisasi Centroid
• Pilih dua titik awal secara acak sebagai pusat cluster (centroid):
– C₁ (Cluster 1) = (1, 2)
– C₂ (Cluster 2) = (5, 4)
Langkah 2 — Hitung jarak setiap titik ke masing-masing centroid, Gunakan jarak
Euclidean:
Titik ke C₁ (1,2) ke C₂ (5,4) Cluster
A(1,2) 0 4.47 C₁
B(1,4) 2 4 C₁
C(5,2) 4 2 C₂
D(5,4) 4.47 0 C₂
Contoh Penerapan Algoritma K-means Clustering
Titik ke C₁ (1,2) ke C₂ (5,4) Cluster
A(1,2) 0 4.47 C₁
B(1,4) 2 4 C₁
C(5,2) 4 2 C₂
D(5,4) 4.47 0 C₂
Langkah 3 — Perbarui posisi centroid
Centroid baru C₁ = rata-rata titik dalam cluster C₁ (A dan B):
Centroid baru C₂ = rata-rata titik dalam cluster C₂ (C dan D):
Langkah 4 — Ulangi perhitungan dengan centroid baru
Titik ke C₁ (1,3) ke C₂ (5,3) Cluster
A(1,2) 1 4.12 C₁
B(1,4) 1 4.12 C₁
C(5,2) 4.12 1 C₂
D(5,4) 4.12 1 C₂
Tidak ada perubahan cluster → konvergen.
Hasil Akhir
•Cluster 1 (C₁): A(1,2), B(1,4)
•Cluster 2 (C₂): C(5,2), D(5,4)
•Centroid akhir:
• C₁ = (1,3)
• C₂ = (5,3)
Contoh 2
Contoh 2: 6 data, 3 fitur, K=2
Segementasi pelanggan
Fitur: (Umur, Pengeluaran per bulan (juta),
Kunjungan/bulan)
• Data (6 pelanggan):
– P1 = (25, 4, 8)
– P2 = (30, 5, 6)
– P3 = (22, 3, 9)
– P4 = (45, 12, 2)
– P5 = (50, 11, 3)
– P6 = (43, 10, 4)
Contoh 2: 6 data, 3 fitur, K=2
Segementasi pelanggan
• Inisialisasi centroid (dipilih dari data)
– 𝐶1 = 𝑃1 = 25 4 8
– 𝐶2 = 𝑃5 = 50 11 3
Iterasi 1 — hitung jarak Euclidean ke masing-masing centroid
Pelanggan ke (C_1) ke (C_2) Pilih cluster
Hasil sementara:
P1 (25,4,8) 0.0000 26.4386 C1 •Cluster 1: P1, P2, P3
P2 (30,5,6) 5.4772 21.0950 C1 •Cluster 2: P4, P5, P6
P3 (22,3,9) 3.3166 29.7321 C1
P4 (45,12,2) 22.3607 5.1962 C2
P5 (50,11,3) 26.4386 0.0000 C2
P6 (43,10,4) 19.3907 7.1414 C2
Contoh 2: 6 data, 3 fitur, K=2
Segementasi pelanggan
• Hitung centroid baru (rata-rata fitur tiap cluster)
– Cluster 1 (P1,P2,P3):
Cluster 2 (P4,P5,P6):
Contoh 2: 6 data, 3 fitur, K=2
Segementasi pelanggan
Iterasi 2 — cek jarak ke centroid baru
Pelanggan ke (C_1') ke (C_2') Pilih cluster Hasil cluster tetap sama ⇒
P1 0.7454 22.6936 C1 konvergen.
P2 4.7493 17.3494 C1
P3 4.0277 26.0000 C1
P4 21.6769 1.7321 C2
P5 25.7466 4.0000 C2
P6 18.7053 3.3166 C2
Hasil akhir & interpretasi
Cluster 1 (C1') = P1, P2, P3
Karakteristik: lebih muda, kunjungan tinggi, pengeluaran relatif kecil → pelanggan a
berpengeluaran moderat/ rendah.
Cluster 2 (C2') = P4, P5, P6
Karakteristik: lebih tua, pengeluaran tinggi, kunjungan rendah → pelanggan bernila
Soal 1
Gunakan algoritma K-Means Clustering dengan K = 2 untuk mengelompokkan
siswa. Tentukan hasil cluster setelah iterasi pertama.
1. Gunakan inisialisasi centroid awal 𝐶1 = 𝐴 80 85 dan 𝐶2 = 𝐶 60 55 .
2. Hitung jarak Euclidean setiap data ke kedua centroid.
3. Tentukan anggota tiap cluster dan hitung centroid baru.
4. Lakukan satu kali iterasi.
Siswa Nilai Matematika Nilai Bahasa Inggris
A 80 85
B 78 82
C 60 55
D 58 52
Soal 2
Sebuah perusahaan otomotif ingin mengelompokkan jenis kendaraan berdasarkan karakteristik
performa dan harga untuk menentukan strategi pemasaran.
Kendaraan Konsumsi BBM (km/l) Kecepatan Maks (km/jam) Harga (juta rupiah)
V1 20 160 250
V2 18 155 240
V3 10 200 600
V4 12 210 580
V5 25 150 230
V6 9 220 650
Gunakan algoritma K-Means Clustering dengan K = 2 untuk mengelompokkan kendaraan.
Langkah-langkah:
[Link] inisialisasi centroid awal:
• 𝐶1 = (20,160,250)
• 𝐶2 = (10, 200, 600)
[Link] jarak Euclidean setiap data ke kedua centroid.
[Link] anggota masing-masing cluster berdasarkan jarak terdekat.
[Link] centroid baru untuk tiap cluster setelah satu iterasi.
[Link] hasil pengelompokan:
• Cluster 1 mewakili kendaraan hemat dan murah
• Cluster 2 mewakili kendaraan berperforma tinggi dan mahal
TERIMAKASIH