MAKALAH

KLASIFIKASI SINDROM METABOLIK MENGGUNAKAN METODE

KNN DAN NAÏVE BAYES

DOSEN PENGAMPU
Dr. Juni Wijayanti Puspita, S. Si., M. Si.

MATA KULIAH
Data Mining

DISUSUN OLEH
KELOMPOK 9

Musdalifa G 201 22 017

Aulia Insani Palupi Basri G 201 22 021
Riana Rombe G 201 22 046

PROGRAM STUDI MATEMATIKA

JURUSAN FISIKA DAN MATEMATIKA
FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM
UNIVERSITAS TADULAKO

OKTOBER 2024
 BAB I

PENDAHULUAN

1.1 Latar Belakang

Metabolic syndrome atau sindrom metabolik merupakan faktor risiko yang
meningkatkan risiko penyakit kardiovaskular, diabetes, stroke, dan masalah
kesehatan lainnya ( Ayunin dkk dalam Sholekhah dkk. 2024). Jika mengalami
beberapa gejala dari komponen bisa dikatakan menderita sindrom metabolik
seperti hipertensi, kolestrol, obesitas. Obesitas sentral, kadar trigliserida (TG)
yang tinggi, hipertensi (HI), kadar lipoprotein densitas tinggi (HDL) yang
rendah, dan tingginya kadar glukosa darah puasa (GDP) adalah semua gejala
dari sindrom metabolik ( Listyandini dkk dalam Sholekhah dkk., 2024).

Sindrom metabolik terjadi ketika tubuh tidak seimbang dalam beberapa

bagian penting dari kesehatan. Misalnya, tubuh mungkin kesulitan mengelola
gula darah, tekanan darah naik, dan kadar kolesterol yang tidak sehat. Jika
faktor-faktor ini digabungkan, ini dapat meningkatkan risiko penyakit serius
seperti jantung dan diabetes. Oleh karena itu, diperlukan adanya model yang
dapat digunakan untuk menentukan diagnosis sindrom metabolik.

Berdasarkan hasil penelitan terdahulu bahwa klasifikasi algoritma Naïve

Bayes dan K-Nearest Neighbors (KNN) merupakan alternatif solusi yang
dapat memanfaatkan data tentang sindrom metabolik untuk digali informasi
atau pengetahuan baru di dalamnya, sehingga dapat dimanfaatkan untuk
membangun model baru dalam mengklasifikasi pasien guna mengetahui
apakah pasien tersebut menderita sindrom metabolik atau tidak (Sholekhah
dkk, 2024).

KNN merupakan algoritma yang sederhana untuk diimplementasikan

tetapi menghasilkan akurasi yang baik (Ramdhani dkk dalam Sholekhah dkk,
2024). Semakin banyak data maka waktu proses membandingkannya akan
semakin lama, sehingga akan sangat sulit mendapatkan proses real-time untuk
kasus klasifikasi (Wahyono dalam Sholekhah dkk, 2024). Naïve Bayes
Classifier adalah algoritma pembelajaran Bayesian yang paling cepat dan
 sederhana (Arifin dan Ariesta dalam Sholekhah dkk, 2024). Sedangkan,
metode KNN merupakan suatu algoritma dari metode supervised dimana
hasil dari query instance dapat diklasifikasikan berdasarkan mayoritas dari
label class pada KNN (Kartarina dkk dalam Sholekhah dkk, 2024).

Banyak penelitian yang telah membandingkan kedua metode tersebut.

Oleh karena itu, penelitian ini membandingkan dua algoritma sekaligus, KNN
dan Naïve Bayes. Tujuan dari penelitian ini adalah untuk menentukan
algoritma model mana yang memiliki nilai akurasi yang lebih tinggi.

1.2 Rumusan Masalah

Seberapa tinggi akurasi algoritma Naïve Bayes dan KNN dalam
memprediksi risiko sindrom metabolik?

1.3 Tujuan
Untuk mendapatkan akurasi algoritma Naïve Bayes dan KNN dalam
memprediksi risiko sindrom metabolik.
 BAB II

METODE

2.1 Metodologi
Data sindrom metabolik yang didapatkan diolah dengan menerapkan
metode klasifikasi. Pendekatan yang digunakan adalah evaluasi matematis
untuk mendapatkan tingkat akurasi dari dua algoritma, KNN dan Naïve
Bayes, dalam mengidentifikasi individu dengan sindrom metabolik. Berikut
alur metode yang digunakan seperti yang terlihat pada gambar di bawah ini.

Bagan 2.2.1 . Alur Metode

2.1.1 Pengumpulan Data
Data yang digunakan berasal dari dataset Metabolic Syndrome
yang tersedia di platform Kaggle dan terdiri dari 2401 entri data,
masing-masing dengan 15 fitur yang menjelaskan berbagai aspek
yang terkait dengan sindrom metabolik. Dataset ini terakhir diperbarui
pada tahun 2023.
2.1.2 Preprocessing
Pada tahap ini data yang akan diolah bertujuan untuk
menghindarkan dari data yang mengganggu (noise) atau data yang
tidak konsisten (Ghifari dalam Sholekhah dkk, 2024). Proses
preprocessing mencakup tiga tahapan (Suryanegara, Adiwijaya dan
Purbolaksono, 2021), yaitu :
1) Data Cleaning : yaitu menghapus atau mengisi nilai kosong untuk
seluruh kumpulan data dengan nilai rata-rata dari tiap kolom pada
nilai yang kosong
2) Data Tranformation : yaitu mengubah data untuk mendapatkan
data yang lebih baik dilakukan untuk mengubah data yang akan
dianalisis sehingga dapat menghasilkan nilai yang lebih relevan.
3) Normalization : yaitu merupakan proses transformasi skala atribut
numerik ke dalam bentuk lebih sederhana seperti 0 hingga 1.
2.1.3 Splitting Data
Pada proses ini data dibagi menjadi dua bagian, yaitu data latih dan
data uji, dengan perbandingan 80:20, yang berarti 80% dari total data
digunakan untuk pelatihan model, sementara 20% sisanya digunakan
untuk menguji kinerja model tersebut. Menurut Bugis (2022),
Pembagian dataset dengan perbandingan 80:20 dapat memberikan
performa model yang terbaik (Riany dan Testiana, 2023).
2.1.4 Algoritma
Dua algoritma klasifikasi yang digunakan dalam penelitian ini
adalah KNN dan Naïve Bayes. KNN menggunakan data latih terdekat
untuk mengklasifikasikan data uji, sementara Naïve Bayes
menggunakan prinsip probabilitas untuk menentukan kelas instance.
2.1.5 Evaluasi
Pada tahap ini, evaluasi dilakukan untuk mengukur kinerja
algoritma KNN dan Naïve Bayes. Evaluasi ini akan membandingkan
nilai akurasi yang dihasilkan oleh kedua algoritma dengan
menggunakan dataset yang sama dan menerapkan tahapan splitting
data yang identik, yaitu 80:20.
2.2 Materi
2.2.1 K-Nearest Neighhbors (KNN)
KNN merupakan metode klasifikasi yang menentukan kategori
berdasarkan mayoritas kategori pada KNN (Putra dalam Kurniawan
dan Irsyad 2022). Klasifikasi didasarkan pada objek latih yang paling
dekat dengan objek uji. KNN dapat menangani data campuran dalam
bentuk polinomial dan numerik (Hidayatullah dalam Kurniawan dan
Irsyad 2022).

Tahapan proses klasifikasi KNN adalah sebagai berikut :

1. Tentukan nilai k.
2. Hitung jarak antara data uji dan semua data latih.
3. Perhitungan jarak antara data uji dengan semua data latih
diurutkan berdasarkan jarak terkecil.
4. Bentuklah kelompok berdasarkan nilai dengan nilai jarak.
5. Pilih nilai (kategori) yang paling sering muncul.

Cara kerja metode KNN adalah menentukan kelas objek baru

tersebut dengan mengukur jarak antara objek baru dengan objek lama
(Juditha dalam Kurniawan dan Irsyad 2022).

2.2.2 Naïve Bayes

Naive Bayes Classifier (NBC) adalah metode pada probabilistic
reasoning yang menghitung sekumpulan probabilitas dengan
menambahkan kombinasi frekuensi dan nilai dalam kumpulan data
yang diberikan. NBC adalah algoritma klasifikasi yang sangat efektif
(untuk mendapatkan hasil yang benar) dan efisien (proses penalaran
menggunakan input yang ada dengan cara yang relatif cepat).
Algoritma NBC dirancang untuk mengklasifikasikan kategori data
tertentu. Berikut algoritma Naïve Bayes :
1. Menghitung peluang prior masing-masing kelas P(C i)
2. Menghitung nilai peluang data baru 𝑋 = {𝑥1, 𝑥2, … , 𝑥𝑛}
untuk setiap kelas-i P ( x k ∨C i ), 𝑘 = 1, … , 𝑛.
3. Menghitung nilai akumulasi peluang dari setiap kelas P ( X ∨Ci )
4. Menghitung nilai P ( X ∨Ci ) . P(Ci )
5. Menetapkan kelas data baru berdasarkan nilai peluang terbesar

Dimana terdapat aturan Bayes :

Misalkan terdapat dua peristiwa yaitu 𝑋 dan C
 Misalkan { C 1 , C 2 , … , C n } adalah partisi dari ruang sampel dan 𝑋
adalah kejadian yang terobservasi. Peluang kejadian C j diberikan
𝑋 adalah
P ( X∨C j ) . P(C j )
P ( C j∨ X )= n

∑ P ( X∨C i ) . P (Ci )
i=1

dimana P ( C j∨ X )adalah peluang posterior, P ( X ∨C j ) adalah

likelihood atau kemiripan antara data dan variabel yang akan
diestimasi, sedangkan P(C j ) adalah peluang prior yang
menggambarkan derajat kepercayaan.
 Misalkan { X n , X n , … , X n
1 2 Ni } adalah himpunan training data yang
digunakan untuk masing-masing atribut dengan N i adalah
banyaknya training data kelas i. Maka peluang prior untuk
masing-masing kelas adalah
Ni
P ( Ci ) = n

∑ Nk
k=1

n
 P ( X ∨Ci ) =∏ P ( x k ∨C i )
k=1

 Formula Bayes
P ( X ∨Ci ) . P(C i)
P ( Ci ∨X ) =
P(X)
n
Dimana P ( X )=∑ P ( X∨C i ) . P(C i ) selalu tetap untuk setiap
i=1

kelas.
 BAB III

HASIL DAN PEMBAHASAN

3.1 Pengumpulan Data

Tahap pertama pengumpulan data diambil dari situs kaggle yang
menunjukkan sebanyak 2401 data dengan total 15 atribut yang terdiri dari
seqn, age, sex, marital, income, race, WaistCirc, BMI, albuminuria, UrAlbCr,
UricAcid, BloodGlucose, HDL, Triglycerides, dan MetabolicSyndrome
(dengan variabel biner yang menunjukkan ada (1) atau tidak adanya (0)
sindrom metabolik). Pada Tabel 3.1 diperoleh sebanyak 822 menderita
sindrom metabolik dan 1579 tidak menderita sindrom metabolik.

Metab
olic
No seqn Age Sex Marital …. HDL Triglycerides
Syndro
me
1 62161 22 Male Single …. 41 84 0
2 62164 44 Female Married …. 28 56 0
3 62169 21 Male Single …. 43 78 0
…. …. …. …. …. …. …. …. ….
2401 71915 60 Male Single …. 36 226 1
Table 3.1 Data Metabolik Sindrom

Di bawah ini adalah penjelasan singkat tentang masing-masing fitur:

1. seqn: adalah identifikasi unik untuk setiap subjek dalam dataset.
2. Age: usia subjek dalam tahun.
3. Sex: jenis kelamin subjek (pria atau wanita).
4. Marital: status pernikahan.
5. Income: tingkat pendapatan.
6. Race: kategori ras.
7. WaistCirc: lingkar pinggang.
8. BMI: Indeks Massa Tubuh subjek (BMI).
9. Albuminuria: tingkat albuminuria dalam urin subjek.
10. UrAlbCr: rasio albumin terhadap kreatin dalam tubuh subjek.
11. UricAcid adalah tingkat asam urat yang ditemukan dalam darah subjek.
12. BloodGlucose: Nilai glukosa darah dari subjek.
13. HDL adalah subjek kolesterol lipoprotein tinggi densitas.
 14. Triglycerides: Jumlah trigliserida yang ditemukan dalam darah subjek.
15. MetabolicSyndrome: Kondisi subjek sindrom metabolik.

3.2 Preprocessing Data

Pada tahap preprocessing data, di mana outliers pada kumpulan data
ditangani melalui normalisasi data menggunakan Robust Scaling. Fokus
penanganan outliers adalah Sex, WaistCirc, BMI, BloodGlucose, HDL,
Triglycerides.

3.3 Splitting Data

Spliting data ini membagi data menjadi 80:20, 80% dari total data
digunakan sebagai data latih dengan jumlah data 1608, sementara 20%
digunakan sebagai data uji dengan jumlah data 401. Metode ini
memungkinkan eksplorasi kinerja model dalam berbagai skenario pembagian
data latih dan uji. Data yang telah melalui tahap ini kemudian diuji
menggunakan algoritma K-Nearest Neighbors dan Naïve Bayes untuk
mengevaluasi kinerja model.

3.4 Algoritma
Berdasarkan hasil penelitan klasifikasi algoritma Naïve Bayes dan KNN
pada penelitian terdahulu didapatkan bahwa metode KNN dengan K=5
memiliki nilai akurasi tertinggi sebesar 90%, sedangkan metode Naïve Bayes
memiliki nilai akurasi sebesar 80% (Amien dkk dalam Sholekhah dkk, 2024).

3.4.1 KNN
Hasil yang diperoleh menunjukkan bahwa akurasi KNN adalah
sebesar 86,53%, ini berarti dari seluruh prediksi yang dilakukan oleh
model KNN pada data uji yang dibagi dengan skema 80:20, sekitar
86,53% dari prediksi tersebut benar. Diperoleh juga presisi sebesar
82,39% yang menunjukkan bahwa dari seluruh prediksi positif yang
dibuat oleh model, sekitar 82,39% benar-benar positif. Artinya, model
 cukup baik dalam menghindari false positives (kesalahan saat
memprediksi suatu kasus sebagai positif, padahal sebenarnya negatif).
Recall 80,14% ini menunjukkan bahwa dari seluruh kasus positif yang
sebenarnya ada di data, sekitar 80,14% dapat terdeteksi oleh model.
Artinya, ada sekitar 19,86% dari kasus positif yang terlewat (false
negatives).

3.4.2 Naïve Bayes

Hasil yang diperoleh menunjukkan bahwa Akurasi Naïve Bayes
78.80%, presisi 78,50% dan recall 57,53% dengan skema 80:20.

Figure 3.4 . Visualisasi KNN dan Naïve Bayes

3.5 Evaluasi

Berdasarkan Confusion Matrix untuk kedua model, KNN dan Naïve

Bayes, terlihat bahwa KNN memiliki True Negative sebanyak 230 dan True
Positive sebanyak 117, dengan False Positive sebanyak 25 dan False
Negative sebanyak 29. Sementara itu, Naïve Bayes memiliki True Negative
sebanyak 232 dan True Positive sebanyak 84, dengan False Positive
sebanyak 23 dan False Negative sebanyak 62. Hal ini menunjukkan bahwa
KNN lebih baik dalam mendeteksi kelas positif (lebih sedikit false
negative), sedangkan Naïve Bayes lebih akurat dalam memprediksi kelas
negatif (lebih sedikit false positive). Secara keseluruhan, KNN lebih cocok
untuk meningkatkan recall dalam mendeteksi kelas positif, sedangkan Naïve
Bayes unggul dalam presisi kelas negatif.
 BAB IV

PENUTUP

4.1 Kesimpulan
Penelitian yang dilakukan pada dataset Metabolic Syndrome yang diambil
dari Kaggle, yang terdiri dari 2401 data, menemukan bahwa penggunaan
dua algoritma, KNN dan Naïve Bayes, dengan skema pembagian data
80:20. Dengan parameter K = 5, akurasi sebesar 86,53%, presisi sebesar
82,39%, dan recall 80,14% pada KNN. Naïve Bayes menunjukkan hasil
dengan nilai akurasi 78.80%, presisi 78,50% dan recall 57,53%.

Berdasarkan hasil penelitian, dapat disimpulkan bahwa algoritma K-NN

mencapai tingkat akurasi tertinggi, yaitu sebesar 86,53%. Hasil ini
menunjukkan bahwa dalam situasi di mana dataset Metabolic Syndrome
digunakan, KNN dengan pembagian data 80:20 efektif dalam memprediksi
dan mengklasifikasikan hasil. Berdasarkan pemodelan, KNN lebih baik
dalam mendeteksi kelas positif, sedangkan Naïve Bayes lebih akurat dalam
memprediksi kelas negatif (lebih sedikit false positive).

4.2 Saran
Berdasarkan hasil penelitian yang menunjukkan bahwa algoritma KNN
memberikan kinerja yang lebih baik dibandingkan dengan Naïve Bayes
dalam mengklasifikasikan dataset Metabolic Syndrome, beberapa saran
untuk pengembangan lebih lanjut dapat dipertimbangkan. Pertama, penting
untuk menguji berbagai nilai K pada algoritma KNN untuk menemukan
nilai optimal yang dapat meningkatkan akurasi, menggunakan teknik
validasi silang untuk menentukan nilai yang paling efektif. Selanjutnya,
menerapkan metode seperti Random Forest atau Gradient Boosting dapat
menggabungkan kekuatan beberapa model untuk meningkatkan akurasi
keseluruhan. Selain KNN dan Naïve Bayes, eksplorasi algoritma lain seperti
Support Vector Machines (SVM), Decision Trees, atau Neural Networks
juga dapat memberikan wawasan lebih lanjut mengenai performa klasifikasi
pada dataset ini. Terakhir, melakukan pengujian model dengan data yang
lebih baru atau berbeda untuk menguji model, memastikan bahwa model
tetap efektif dalam berbagai kondisi dan tidak mengalami overfitting
terhadap data pelatihan. Dengan mempertimbangkan saran-saran ini,
diharapkan model dapat ditingkatkan lebih lanjut untuk mencapai kinerja
yang lebih baik dalam memprediksi dan mengklasifikasikan hasil pada
dataset Metabolic Syndrome.
 DAFTAR PUSTAKA

Kurniawan, C. dan Irsyad, H. (2022) “Perbandingan Metode K-Nearest Neighbor

Dan Naïve Bayes Untuk Klasifikasi Gender Berdasarkan Mata,” Jurnal
Algoritme, 2(2), hal. 82–91. Tersedia pada:
[Link]
Riany, A.F. dan Testiana, G. (2023) “Penerapan Data Mining untuk Klasifikasi
Penyakit Stroke Menggunakan Algoritma Naïve Bayes,” Jurnal
SAINTEKOM, 13(1), hal. 42–54. Tersedia pada:
[Link]
Sholekhah, F. et al. (2024) “Perbandingan Algoritma Naïve Bayes dan K-Nearest
Neighbors untuk Klasifikasi Metabolik Sindrom,” MALCOM: Indonesian
Journal of Machine Learning and Computer Science, 4(2), hal. 507–514.
Tersedia pada: [Link]
Suryanegara, G.A.B., Adiwijaya dan Purbolaksono, M.D. (2021) “Peningkatan
Hasil Klasifikasi pada Algoritma Random Forest untuk Deteksi,” Jurnal
RESTI (Rekayasa Sistem dan Teknologi Informasi), 1(10), hal. 114–122.