Supervised Learning pada Machine Learning
Dosen pengampu:
Tjatursari Widiartin, [Link], [Link].
Ditulis oleh:
Nama (NPM)
Nama (NPM)
FAKULTAS TEKNIK
PRODI INFORMATIKA
UNIVERSITAS WIJAYA KUSUMA SURABAYA
2025
KATA PENGANTAR
Puji syukur kami panjatkan kehadirat Tuhan Yang Maha Esa atas berkah dan
karunia-nya kepada semua. Sehingga kami mampu menyelesaikan tugas Keamanan
Data dan Informasi ini dengan sedikit hambatan. Laporan ini kami susun dengan
tujuan untuk memenuhi tugas mata kuliah Machine Learning.
Kami ucapkan terimakasih kepada Ibu Tjatursari Widiartin, [Link].,
[Link].. selaku dosen pengampu mata kuliah Machien Learning, dan juga kami
ucapkan terima kasih kepada orang-orang yang turut mendukung dan membantu
dalam pembuatan laporan ini yang membimbing dan memberi arahan ketika di
dalam maupun di luar kelas, sehingga laporan ini dapat terselesaikan dengan tepat
waktu.
Laporan ini masih jauh dari kata sempurna. Oleh karena itu kami
mengharapkan kepada audiens untuk memberikan kritik dan saran demi
membangun kesempurnaan laporan ini.
1
DAFTAR PUSTAKA
KATA PENGANTAR 1
BAB 1 PENDAHULUAN 3
BAB 2 PEMBAHASAN 5
BAB 3 TOPIK TAMBAHAN 11
BAB 4 KESIMPULAN 12
DAFTAR PUSTAKA 13
2
BAB 1 PENDAHULUAN
1.1 Latar Belakang
Perkembangan teknologi komputasi mendorong munculnya metode analisis
data yang semakin canggih dan adaptif. Salah satu cabang utama dalam bidang
kecerdasan buatan adalah machine learning, yaitu pendekatan komputasional yang
memungkinkan sistem belajar dari data untuk menghasilkan prediksi atau
keputusan secara otomatis. Dalam machine learning, Supervised learning
merupakan pendekatan paling luas digunakan karena kemampuannya mempelajari
pola berdasarkan pasangan data input dan label output. Proses ini memungkinkan
model memprediksi hasil untuk data baru berdasarkan pengetahuan yang diperoleh
dari data pelatihan.
Konsep Supervised learning dibahas secara komprehensif dalam berbagai
literatur, termasuk dokumen mengenai metode klasifikasi [1], catatan kuliah teknik
pembelajaran terawasi [2], tinjauan literatur sistematis [3], serta dokumen
pengantar jaringan saraf tiruan [4]. Keempat dokumen tersebut memberikan
landasan teoritis yang cukup untuk memahami prinsip Supervised learning, jenis
algoritma yang digunakan, tantangan implementasi, serta penerapannya dalam
berbagai studi kasus.
Supervised learning memiliki dua tujuan utama, yaitu melakukan klasifikasi
dan regresi. Banyak algoritma digunakan dalam pendekatan ini, seperti k-nearest
neighbors, support vector machine, decision tree, random forest, naive Bayes, serta
model berbasis jaringan saraf tiruan. Masing-masing algoritma memiliki
karakteristik dan keunggulan yang sesuai dengan kebutuhan data dan konteks
permasalahan. Implementasinya terlihat pada berbagai studi kasus, misalnya pada
tugas klasifikasi teks yang dijelaskan pada dokumen penelitian [1], serta rangkuman
sepuluh studi empiris pada dokumen tinjauan sistematis [3].
Melalui pemahaman teori dan studi kasus tersebut, makalah ini disusun untuk
memberikan gambaran menyeluruh mengenai Supervised learning, mekanisme
kerjanya, algoritma yang digunakan, serta penerapannya dalam konteks nyata.
Pembahasan utama disajikan pada Bab 2 dengan integrasi isi dari keempat dokumen
yang telah disediakan.
3
1.2 Rumusan Masalah
Makalah ini disusun untuk menjawab pertanyaan berikut.
1. Apa konsep dasar Supervised learning dalam machine learning.
2. Algoritma apa saja yang digunakan dalam Supervised learning dan
bagaimana prinsip kerjanya.
3. Bagaimana penerapan Supervised learning pada studi kasus yang terdapat
pada dokumen yang dianalisis.
1.3 Tujuan Pembahasan
Tujuan penyusunan makalah ini meliputi.
1. Menjelaskan konsep dasar Supervised learning dalam machine learning.
2. Mendeskripsikan algoritma yang digunakan pada Supervised learning beserta
prinsip kerjanya.
3. Menganalisis penerapan Supervised learning berdasarkan studi kasus pada
dokumen yang tersedia.
1.4 Manfaat
Makalah ini memberikan manfaat berupa pemahaman teoritis dan praktis
mengenai pembelajaran terawasi yang dapat digunakan sebagai acuan dalam
pembelajaran, penelitian, atau implementasi teknologi berbasis kecerdasan buatan.
4
BAB 2 PEMBAHASAN
2.1 Konsep Dasar Supervised learning
Supervised learning merupakan metode pembelajaran mesin yang
menggunakan pasangan data input dan label output untuk membangun model
prediktif. Model mempelajari pola berdasarkan contoh data berlabel sehingga dapat
melakukan prediksi terhadap data baru dengan tingkat akurasi tertentu [2].
Supervised learning digunakan untuk dua jenis tugas utama, yaitu klasifikasi dan
regresi. Klasifikasi memetakan data ke dalam kategori tertentu, sedangkan regresi
memprediksi nilai numerik berkelanjutan [2].
Supervised learning bekerja melalui proses pelatihan menggunakan data
berlabel, optimisasi fungsi kerugian, dan evaluasi performa menggunakan data uji.
Pelatihan model dilakukan dengan berbagai algoritma seperti Naive Bayes, K-
Nearest Neighbors, Decision Tree, Support Vector Machine, dan Neural Network
[1][2][4]. Proses ini menghasilkan model yang mampu melakukan generalisasi
terhadap data yang belum pernah dilihat sebelumnya.
2.2 Alur Kerja Supervised learning
Alur kerja Supervised learning dimulai dari pengolahan data berlabel,
pembagian data menjadi data pelatihan dan pengujian, pemilihan algoritma,
pelatihan model, evaluasi performa, dan penerapan model pada data baru [2].
Evaluasi model dilakukan menggunakan metrik seperti akurasi, presisi, recall, dan
F1-score untuk memastikan model memiliki kemampuan generalisasi yang baik
[2].
2.3 Tugas pada Supervised learning
2.3.1 Klasifikasi
Klasifikasi digunakan untuk memetakan data ke dalam kelas tertentu. Pendekatan
ini banyak digunakan dalam area seperti pengenalan teks, klasifikasi citra, dan
pengelompokan data berdasarkan kategori. Algoritma yang digunakan dalam
klasifikasi meliputi naive Bayes, k-nearest neighbors, support vector machine,
decision tree, random forest, dan jaringan saraf tiruan [1][2][4].
2.3.2 Regresi
5
Regresi digunakan untuk memprediksi nilai numerik dan menganalisis
hubungan antar variabel. Contoh penerapan regresi dijelaskan menggunakan model
linear regression dan polynomial regression dengan pendekatan minimisasi error
[2].
2.4 Algoritma Supervised learning
2.4.1 K-Nearest Neighbors (KNN)
KNN mengklasifikasikan sebuah data berdasarkan KNN berdasarkan jarak
tertentu. Keputusan kelas ditentukan melalui mayoritas kelas dari tetangga tersebut.
Algoritma ini bersifat non-parametrik dan bekerja efektif pada data dengan struktur
ruang yang jelas [2]. Algoritma ini digunakan sebagai salah satu model pembanding
dalam studi kasus klasifikasi teks [1].
2.4.2 Naïve Bayes
Naive Bayes merupakan algoritma probabilistik yang menggunakan teorema
Bayes dengan asumsi independensi antar fitur. Metode ini banyak digunakan dalam
klasifikasi teks karena efisiensi komputasi dan kemampuan menangani data
berdimensi tinggi [1]. Analisis beberapa penelitian dalam tinjauan literatur juga
menunjukkan bahwa Naive Bayes sering digunakan dalam berbagai kasus
klasifikasi [3].
2.4.3 Support Vector Machine (SVM)
SVM bekerja dengan mencari hyperplane yang memaksimalkan margin antar
kelas. Algoritma ini efektif digunakan pada data berdimensi tinggi seperti data teks
[1]. Variasi metode seperti SVM-HR juga digunakan untuk meningkatkan performa
klasifikasi [1]. Catatan teori klasifikasi menjelaskan konsep margin, hyperplane,
dan pemisahan linear sebagai inti metode SVM [2].
2.4.4 Decision Tree dan Random Forest
Decision tree membuat model berdasarkan aturan pemisahan data
menggunakan fitur tertentu. Random forest membangun kumpulan decision tree
yang digabungkan untuk meningkatkan kestabilan prediksi. Kedua metode ini
termasuk dalam algoritma klasifikasi yang sering digunakan dalam penelitian
empiris [2][3].
2.4.5 Logistic Regression
6
Logistic regression merupakan metode klasifikasi yang memetakan input ke
peluang kelas menggunakan fungsi logistik [2]. Model ini digunakan pada masalah
klasifikasi biner dengan hubungan linier antara fitur dan log-odds. Parameter model
dipelajari melalui optimisasi likelihood agar prediksi peluang menjadi akurat.
Pendekatan ini banyak digunakan sebagai baseline dalam tugas klasifikasi karena
stabilitasnya [2].
2.4.6 Linear Discriminant Analysis (LDA)
LDA melakukan klasifikasi dengan membangun fungsi diskriminan
berdasarkan distribusi probabilistik yang diasumsikan normal [2]. Model ini
memaksimalkan rasio perbedaan antar kelas dan meminimalkan variasi dalam
kelas. Pendekatan ini digunakan ketika fitur antar kelas memiliki struktur distribusi
yang relatif seragam. Teknik ini bekerja optimal pada data dengan asumsi
kovariansi yang sama antar kelas [2].
2.4.7 Quadratic Discriminant Analysis (QDA)
QDA merupakan variasi LDA yang memperbolehkan setiap kelas memiliki
matriks kovariansi berbeda [2]. Model ini memberikan fleksibilitas lebih besar
dalam memisahkan kelas yang tidak linier. Pendekatan ini dapat menghasilkan
performa lebih tinggi ketika distribusi antar kelas tidak homogen. Kompleksitas
model yang lebih besar membuatnya rentan terhadap overfitting pada data
berukuran kecil [2].
2.4.8 Decision Tree
Decision tree membangun model klasifikasi menggunakan struktur pohon
yang memisahkan data berdasarkan nilai fitur tertentu [2]. Setiap pemisahan
dilakukan untuk memaksimalkan homogenitas kelas dalam cabang pohon. Model
ini mudah diinterpretasikan karena mengikuti aturan yang jelas. Algoritma ini
muncul dalam beberapa penelitian yang diringkas dalam tinjauan literatur [3].
2.4.9 Random Forest
Random forest merupakan metode ansambel yang menggabungkan banyak
decision tree untuk meningkatkan akurasi dan stabilitas prediksi [2]. Setiap pohon
dilatih pada subset data yang berbeda sehingga mengurangi varians model.
Pendekatan ini menghasilkan performa lebih baik dibandingkan satu decision tree.
Metode ini termasuk salah satu teknik ansambel yang banyak digunakan dalam
7
aplikasi klasifikasi [2].
2.4.10 AdaBoost
AdaBoost membangun model dengan menggabungkan beberapa weak learner
menggunakan mekanisme pembobotan kesalahan [2]. Model memberi bobot lebih
besar pada sampel yang salah diklasifikasikan untuk meningkatkan performa pada
iterasi berikutnya. Pendekatan ini menghasilkan classifier yang lebih kuat dari
gabungan model-model sederhana. Algoritma ini efektif untuk memperbaiki
kesalahan klasifikasi pada model dasar [2].
2.4.11 Gradient Boosting
Gradient boosting membangun model secara bertahap dengan meminimalkan
fungsi kerugian menggunakan pendekatan gradien [2]. Setiap model baru dilatih
untuk mengoreksi residu dari model sebelumnya. Pendekatan ini menghasilkan
performa tinggi pada hubungan yang kompleks dan non-linier. Model ini menjadi
salah satu metode boosting yang paling banyak digunakan dalam klasifikasi modern
[2].
2.4.12 Perceptron
Perceptron merupakan model linear yang membangun keputusan
berdasarkan fungsi aktivasi dari kombinasi bobot dan fitur [4]. Model ini digunakan
sebagai dasar pembentukan jaringan saraf tiruan. Proses pembelajaran dilakukan
dengan memperbarui bobot berdasarkan kesalahan prediksi. Algoritma ini
digunakan sebagai salah satu model dalam studi kasus klasifikasi teks [1].
2.4.13 Feedforward Neural Network
Feedforward neural network merupakan jaringan saraf dengan aliran
informasi satu arah dari input menuju output [4]. Model ini memungkinkan
pemetaan non-linier yang lebih kompleks dibandingkan perceptron tunggal.
Pembelajaran dilakukan melalui minimisasi loss pada seluruh lapisan jaringan.
Arsitektur ini menjadi salah satu bentuk umum dari model supervised learning
berbasis neural network [4].
2.4.14 Backpropagation
Backpropagation merupakan algoritma pembelajaran neural network yang
menghitung gradien error dari output menuju lapisan sebelumnya [4]. Proses ini
digunakan untuk memperbarui bobot jaringan secara efisien. Pendekatan ini
8
menjadi inti dari pelatihan jaringan saraf modern. Mekanisme ini memungkinkan
jaringan mempelajari pola yang kompleks dalam data [4].
2.4.15 Gradient Descent (GD, SGD, Mini-batch)
Gradient descent merupakan metode optimisasi untuk meminimalkan loss
function pada model supervised learning [4]. Variasi stochastic gradient descent dan
mini-batch digunakan untuk meningkatkan efisiensi komputasi. Proses optimisasi
dilakukan secara bertahap berdasarkan kemiringan fungsi kerugian. Teknik ini
menjadi metode utama dalam pelatihan model neural network [4].
2.5 Evaluasi Model Supervised learning
Evaluasi model dilakukan menggunakan data pengujian dengan tujuan
menilai kemampuan generalisasi model. Metrik yang digunakan antara lain akurasi,
presisi, recall, dan F1-score [2]. Pada studi kasus klasifikasi teks, akurasi menjadi
metrik utama untuk membandingkan performa algoritma [1].
2.6 Studi Kasus
2.6.1 Klasifikasi Teks menggunakan Dataset 20 Newsgroups
Studi kasus klasifikasi teks dilakukan dengan menerapkan beberapa
algoritma seperti naive Bayes, SVM, SVM-HR, KNN, dan perceptron [1]. Proses
klasifikasi mencakup ekstraksi fitur teks, pelatihan model dengan berbagai
algoritma, pengujian performa, dan analisis hasil klasifikasi. SVM dan variasinya
menunjukkan performa tertinggi pada data teks dengan dimensi besar [1].
2.6.2 Ringkasan Sepuluh Penelitian pada Tinjauan Literatur Sistematis
Tinjauan literatur merangkum sepuluh penelitian yang menggunakan
algoritma pembelajaran mesin. Lima penelitian menggunakan Supervised learning
dengan algoritma seperti KNN, naive Bayes, SVM, dan decision tree [3]. Ringkasan
ini menunjukkan bahwa Supervised learning digunakan secara luas dalam konteks
klasifikasi data pendidikan, evaluasi akademik, dan analisis data kategori lain [3].
2.6.3 Contoh Konseptual pada Catatan Kuliah
Catatan kuliah memberikan contoh penerapan Supervised learning pada
masalah klasifikasi dan regresi dalam konteks ilustratif, seperti prediksi nilai
numerik dan pemisahan data berdasarkan kelas tertentu [2].
2.6.4 Mekanisme Pembelajaran pada Neural Network
9
Penjelasan mengenai mekanisme pembelajaran neural network seperti
propagasi maju, fungsi aktivasi, dan algoritma backpropagation memberikan
gambaran teknis terkait algoritma berbasis jaringan saraf pada Supervised learning
[4].
10
BAB 3 TOPIK TAMBAHAN
11
BAB 4 KESIMPULAN
Supervised learning merupakan pendekatan pembelajaran mesin yang
menggunakan data berlabel untuk membangun model prediktif yang mampu
melakukan klasifikasi dan regresi secara akurat [2]. Berbagai algoritma digunakan
dalam pendekatan ini, mulai dari metode regresi, model probabilistik, algoritma
berbasis jarak, pohon keputusan, metode ansambel, sampai jaringan saraf tiruan,
masing-masing dengan karakteristik, kelebihan, dan konteks penggunaan yang
berbeda [1][2][4]. Pembahasan teori yang berasal dari empat dokumen
menunjukkan bahwa supervised learning memiliki struktur kerja yang sistematis
melalui proses pelatihan model, evaluasi metrik performa, dan generalisasi terhadap
data baru. Studi kasus klasifikasi teks serta rangkuman penelitian lain
memperlihatkan bahwa algoritma seperti SVM, Naive Bayes, KNN, Decision Tree,
dan Perceptron diterapkan secara efektif dalam berbagai konteks aplikasi [1][3].
Makalah ini memberikan gambaran menyeluruh mengenai konsep, algoritma, alur
kerja, dan penerapan supervised learning sebagai salah satu pendekatan utama
dalam pembelajaran mesin modern.
12
DAFTAR PUSTAKA
[1] J. BA, Supervised Machine Learning Methods for Classification. n.p., 2023.
[2] Uppsala University, Supervised Machine Learning. Uppsala: Department of
Information Technology, 2019.
[3] R. S. Nurhalizah, R. Ardianto, and Purwono, “Analisis Supervised dan
Unsupervised Learning pada Machine Learning: Systematic Literature Review,”
Jurnal Ilmu Komputer dan Informatika (JIKI), vol. 4, no. 1, pp. 61–72, 2024.
[4] A. St-Aubin, Introduction to Supervised Machine Learning. n.p., 2021.
13