Lia Kamelia, [Link].,M.T.
Fakultas Sains dan Teknologi
UIN Sunan Gunung Djati Bandung
Deep Learning
( Dibahas lebih lanjut di ANN)
▪ Deep Learning (DL) adalah teknik dalam NN
yang menggunakan teknik tertentu untuk
mempercepat proses pembelajaran dalam
NN yang menggunakan lapis yang banyak
atau lebih dari 7 lapis.
▪ Dengan adanya DL, waktu yang dibutuhkan
untuk training akan semakin sedikit karena
masalah hilangnya gradient pada propagasi
balik akan semakin rendah.
Beberapa Istilah
• Dataset: Kumpulan data yang digunakan untuk melatih dan menguji model
klasifikasi. Dataset terdiri dari instance (sampel) yang memiliki fitur (variabel
independen) dan label kelas (variabel dependen).
• Fitur (Feature): Variabel independen yang digunakan untuk memprediksi label
kelas. Fitur-fitur ini dapat berupa atribut-atribut atau karakteristik-karakteristik
dari instance.
• Label Kelas (Class Label): Variabel dependen atau output yang ingin diprediksi
oleh model klasifikasi. Dalam masalah klasifikasi biner, label kelas dapat berupa
dua kelas (positif/negatif, ya/tidak), sedangkan dalam masalah klasifikasi
multikelas, label kelas dapat berupa tiga atau lebih kelas.
• Instance (Sampel): Salah satu entitas atau objek individual dalam dataset. Setiap
instance terdiri dari kumpulan fitur dan label kelas yang terkait.
• Data Latih (Training Data): Subset dari dataset yang digunakan untuk melatih model
klasifikasi. Model belajar dari data latih untuk membuat prediksi pada data uji.
• Data Uji (Testing Data): Subset dari dataset yang digunakan untuk menguji performa
model klasifikasi yang telah dilatih. Data uji tidak digunakan dalam proses pelatihan model,
tetapi digunakan untuk mengukur seberapa baik model dapat menggeneralisasi pada data
baru.
• Pelatihan Model (Model Training): Proses di mana model klasifikasi belajar dari data latih
untuk menyesuaikan parameter atau aturan prediksi yang optimal.
• Evaluasi Model (Model Evaluation): Proses mengukur performa model klasifikasi pada
data uji untuk menilai seberapa baik model dapat menggeneralisasi pada data baru.
Evaluasi dapat dilakukan dengan berbagai metrik, seperti akurasi, presisi, recall, F1-score,
dan lain-lain.
• Validasi Silang (Cross-Validation): Teknik yang digunakan untuk mengukur performa
model klasifikasi dengan membagi data latih menjadi subset yang saling bersilangan untuk
pelatihan dan pengujian model secara bergantian. Ini membantu dalam menghindari
overfitting dan memberikan estimasi yang lebih baik tentang kemampuan model untuk
menggeneralisasi pada data baru.
Training set > Testing set
Reinforcement Learning
Metode machine learning yang satu ini dijalankan dengan menggunakan dataset bersistem
“rewards/punishment” dan menawarkan umpan balik ke algoritma untuk belajar dari pengalamannya
secara coba-coba (random).
Metode “coba-coba” ini hampir sama dengan sistem pemahaman pola yang dilakukan manusia yaitu
belajar dari percobaan.
Hal ini yang lantas membuat metode ini disebut sebagai machine learning dengan tipe penguatan
pembelajaran.
Dari sana nantinya algoritma akan mendapat “rewards” atau “punishment” sebagai impresi positif dan
negatif berdasarkan tindakan percobaannya.
Dalam kasus machine learning pinjaman bank, algoritma reinforcement learning akan mengklasifikasikan
pelanggan berisiko tinggi secara default dan akan mengelompokkan pelanggan yang gagal bayar sebagai
aspek negatif secara otomatis.
Supervised Learning
▪ Lebih Membutuhkan partisipasi manusia.
▪ Disebut dengan pembelajaran yang diawasi.
▪ Komputer akan diberikan data pelatihan dan model yang dirancang secara eksplisit untuk
mengajarkan sistem cara merespon data.
▪ Setelah model dapat diidentifikasi, sistem akan "diberi makan" lebih banyak data untuk melihat
seberapa bagus respon yang dihasilkan sehingga programer atau data scientist dapat mengonfirmasi
prediksi yang akurat atau dapat mengidentifikasi error yang mungkin terjadi.
▪ Cara kerja metode ini adalah memasukkan informasi sebagai input dan data berlabel sebagai hasil
atau output.
Unsupervised Learning
➢ Data tidak memiliki label secara eksplisit dan model mampu belajar dari data dengan
menemukan pola yang implisit.
➢ Jenis learning yang hanya mempunyai variabel input tapi tidak mempunyai variabel output
yang berhubungan.
➢ Tujuan : untuk memodelkan struktur data dan menyimpulkan fungsi yang mendeskripsikan
data tersebut.
➢ Salah satu tipe algoritma machine learning yang digunakan untuk menarik kesimpulan dari
dataset.
➢ Metode ini hanya akan mempelajari suatu data berdasarkan kedekatannya saja atau yang
biasa disebut dengan clustering.
➢ Metode unsupervised learning yang paling umum adalah analisis cluster, yang digunakan
pada analisa data untuk mencari pola-pola tersembunyi atau pengelompokan dalam data.
SUPERVISED LEARNING
KLASIFIKASI
Jenis Supervised Learning
A. Classification
•Tujuan: Memprediksi kelas atau kategori dari data input.
•Output:
•Nilai diskrit (misal: "spam" atau "not spam", 0 atau 1, “sakit” atau
“sehat”).
•Contoh algoritma:
• Decision Tree
• K-Nearest Neighbors (KNN)
• Logistic Regression
• Support Vector Machine (SVM)
• Naive Bayes
• Random Forest
B. Regression
Tujuan: Memprediksi nilai numerik kontinu berdasarkan
input.
•Output:
Nilai kontinu (misal: harga rumah, suhu, jumlah penjualan).
•Contoh algoritma:
• Linear Regression
• Polynomial Regression
• Support Vector Regression (SVR)
• Random Forest Regression
Perbandingan Classification
vs Regression
Aspek Classification Regression
Output Kategori / kelas Nilai kontinu / angka
Logistic Regression, SVM,
Algoritma Linear Regression, SVR, dll
dll
Evaluasi Accuracy, Precision, Recall MAE, MSE, RMSE, R²
2.5 juta rupiah, 28 derajat
Contoh Hasil “Sakit” / “Sehat”
Celsius
Tantangan Supervised
Learning
IMBALANCED CLASS
•Overfitting dan underfitting
•Data tidak seimbang (imbalanced class)
•Kualitas dan jumlah data yang memadai
•Fitur yang relevan
Evaluasi Model
Classification: Regression:
•Confusion Matrix •MAE (Mean Absolute Error)
•Accuracy, Precision, Recall, F1-score •MSE (Mean Squared Error)
•ROC Curve & AUC •RMSE (Root Mean Squared Error)
•R² (Coefficient of Determination)
Metrik Evaluasi Klasifikasi Utama
1. Confusion Matrix
Merupakan tabel yang menggambarkan performa model klasifikasi:
Prediksi Positif Prediksi Negatif
False Negative
Aktual Positif True Positive (TP)
(FN)
Aktual Negatif False Positive (FP) True Negative (TN)
True Positive (TP), False Positive (FP), False
Negative (FN), dan True Negative (TN)
Hasil tes COVID-19. Hasil tes bisa berupa positif (artinya terdeteksi terinfeksi)
atau negatif (tidak terdeteksi terinfeksi).
1. ✅ True Positive (TP) 2. ❌ False Positive (FP)
Artinya: Orang sakit, dan tes menyatakan positif Artinya: Orang sehat, tapi tes menyatakan positif
Contoh: Contoh:
Ali benar-benar terinfeksi COVID-19 → hasil tes Budi tidak terinfeksi COVID-19 → tapi hasil tes
menunjukkan positif menunjukkan positif
✅ Tes berhasil mendeteksi dengan benar ❌ Tes salah memberi hasil positif → false alarm
3. ❌ False Negative (FN)
4. ✅ True Negative (TN)
Artinya: Orang sakit, tapi tes menyatakan negatif
Artinya: Orang sehat, dan tes menyatakan negatif
Contoh:
Contoh:
Citra terinfeksi, tapi hasil tes menunjukkan negatif
Dina tidak terinfeksi → hasil tes menunjukkan negatif
❌ Tes gagal mendeteksi penyakit → ini berbahaya
✅ Tes benar dalam mendeteksi bahwa dia sehat
karena orang sakit dianggap sehat
Prediksi: Positif Prediksi: Negatif
Fakta: Positif ✅ TP ❌ FN
Fakta: Negatif ❌ FP ✅ TN
•TP dan TN menunjukkan sistem bekerja dengan benar.
•FP dan FN menunjukkan sistem membuat kesalahan.
•FP → menyebabkan panik/tindakan tidak perlu
•FN → lebih berbahaya karena bisa menyebabkan penularan yang tidak
terdeteksi
Contoh Soal No Actual Predicted
1 Positif Positif
2 Negatif Negatif
Seorang peneliti ingin
menguji akurasi model 3 Positif Negatif
klasifikasi penyakit. Ia 4 Positif Positif
menguji modelnya
5 Negatif Positif
terhadap 10 pasien.
Hasilnya dibandingkan 6 Negatif Negatif
antara label 7 Positif Positif
sebenarnya (actual)
8 Negatif Negatif
dan hasil prediksi dari
model (predicted): 9 Positif Positif
10 Negatif Positif
No Actual Predicted
1 Positif Positif
2 Negatif Negatif
💡 Hitung total: 3 Positif Negatif
•True Positive (TP): 4 (no 1, 4, 7, 9)
4 Positif Positif
•True Negative (TN): 3 (no 2, 6, 8)
•False Positive (FP): 2 (no 5, 10) 5 Negatif Positif
•False Negative (FN): 1 (no 3) 6 Negatif Negatif
7 Positif Positif
8 Negatif Negatif
9 Positif Positif
10 Negatif Positif
Predicted
Predicted Positif
Negatif
Actual Positif 4 (TP) 1 (FN)
Actual Negatif 2 (FP) 3 (TN)
Latihan soal 1
Fakta
Email Prediksi
Sebuah sistem Sebenarnya
klasifikasi 1 Spam Spam
mendeteksi 2 Spam Bukan Spam
apakah email
adalah spam atau 3 Bukan Spam Bukan Spam
bukan spam 4 Bukan Spam Spam
Pertanyaan: 5 Spam Spam
[Link] confusion matrix-nya!
[Link]: 6 Bukan Spam Bukan Spam
7 Spam Spam
a. Akurasi
b. Presisi 8 Bukan Spam Bukan Spam
c. Recall
d. F1-score
Latihan 2
Pesan Prediksi Fakta
Model AI mencoba
1 Marah Marah
mendeteksi apakah pesan
pengguna mengandung 2 Tidak Marah Marah
emosi marah. 3 Marah Marah
Pertanyaan : 4 Marah Tidak Marah
Hitung TP, FP, FN, TNHitung 5 Tidak Marah Tidak Marah
Akurasi, Presisi, Recall, dan 6 Marah Tidak Marah
F1-score 7 Tidak Marah Marah
8 Marah Marah
Next….
JENIS ALGORITMA : DECISION TREE
Decision Tree adalah algoritma pembelajaran yang menggunakan
struktur pohon (tree-like model) untuk membuat keputusan.
Tipe Tujuan Output
Mengklasifikasikan
Classification Tree Label/kategori
data
Regression Tree Memprediksi nilai Nilai kontinu
Root Node: Node awal yang
merepresentasikan fitur paling penting.
Decision node digunakan untuk membuat
keputusan berdasarkan fitur dari dataset
yang diberikan. Node ini memiliki simpul
cabang, bisa berupa decision node atau
leaf node.
Leaf node digunakan untuk mewakili
keluaran hasil keputusan dari simpul
induknya (decision node). Node ini
tidak memiliki simpul cabang.
Branch: Jalur dari satu node ke node
lainnya berdasarkan keputusan
Decision tree biasanya
meniru kemampuan berpikir
manusia saat membuat
keputusan, sehingga mudah
dimengerti;
Logika dibalik decision tree
dapat dengan mudah dipahami
karena menunjukkan struktur
seperti pohon.
CONTOH KASUS
Cara Kerja
• Memilih fitur terbaik untuk split menggunakan metrik tertentu (misalnya
Gini Index, Entropy, atau Variance Reduction).
• Membagi dataset berdasarkan fitur tersebut.
• Proses diulang secara rekursif hingga mencapai kondisi berhenti (misal:
semua data dalam satu kelas atau tidak ada fitur tersisa).
Matrix Pemilihan Fitur
Kelebihan Decision Tree Kekurangan Decision Tree
• Mudah dipahami dan dijelaskan • Rentan terhadap overfitting.
(interpretable). • Tidak stabil (perubahan kecil pada data
• Tidak memerlukan normalisasi data. bisa menghasilkan struktur pohon yang
• Dapat menangani data numerik dan sangat berbeda).
kategorik. • Bisa jadi kompleks jika pohon terlalu
dalam.
DECISION TREE
MENGGUNAKAN Phyton
RANDOM FOREST
• Random Forest berisi beberapa
decision tree pada berbagai subset
dari dataset tertentu.
• Random Forest mengambil
prediksi dari setiap tree dan
memprediksi hasil akhir
berdasarkan hasil mayoritas dari
prediksi.
• Semakin banyak jumlah tree, maka
akan menghasilkan akurasi yang
semakin tinggi dan mencegah
masalah overfitting.
RANDOM FOREST
• Gabungan dari beberapa decision tree.
• Memiliki dua fase yaitu pertama, menggabungkan sejumlah n decision tree untuk
membuat random forest. Kedua, membuat prediksi untuk setiap tree yang dibuat
pada fase pertama.
• Dapat bekerja pada kedua tugas sekaligus classification dan regression, mampu
menangani data set yang besar, dan meningkatkan akurasi model dan menangani
masalah overfitting
• Cenderung lebih lambat
• Menghasilkan hasil yang lebih akurat
• Dapat bertahan dari overfitting, dan meningkatkan akurasi terutama pada dataset
yang kompleks dan memiliki dimensi yang tinggi. Random forest ini baik digunakan
jika anda memiliki dataset yang besar dan data tersebut memiliki hubungan yang
kompleks antara features dan label.
Naïve Bayes Algorithm
Algoritma Naïve Bayes adalah algoritma yang didasarkan pada teorema Bayes dan
digunakan untuk memecahkan masalah klasifikasi.
Setiap pasangan fitur yang diklasifikasikan tidak bergantung satu sama lain.
Naïve Bayes Classifier adalah salah satu algoritma Klasifikasi yang mudah dan terbaik
yang membantu dalam membangun model pembelajaran mesin cepat yang akan
membuat prediksi cepat.