Klasifikasi Data dengan Pohon Keputusan
Klasifikasi Data dengan Pohon Keputusan
20 – 28
(2021)
1
Departemen TI, Sekolah Tinggi Teknik Informatika Akre, Universitas Politeknik Duhok, Duhok, Wilayah
Kurdistan, Irak, [Link]@[Link]
2
Kepresidenan Universitas Politeknik Duhok, Duhok, Wilayah Kurdistan, Irak, [Link]@[Link]
*Korespondensi: [Link]@[Link]
Abstrak
Pengklasifikasi pohon keputusan dianggap menonjol dari metode yang paling terkenal untuk representasi klasifikasi data
pengklasifikasi. Peneliti yang berbeda dari berbagai bidang dan latar belakang telah mempertimbangkan masalah memperluas
pohon keputusan dari data yang tersedia, seperti studi mesin, pengenalan pola, dan statistik. Di berbagai bidang seperti
analisis penyakit medis, klasifikasi teks, klasifikasi smartphone pengguna, gambar, dan banyak lagi pekerjaan pengklasifikasi
pohon Keputusan telah diusulkan dalam banyak cara. Makalah ini memberikan pendekatan terperinci terhadap pohon
keputusan. Selanjutnya, spesifikasi makalah, seperti algoritma/pendekatan yang digunakan, dataset, dan hasil yang dicapai,
dievaluasi dan diuraikan secara komprehensif. Selain itu, semua pendekatan yang dianalisis dibahas untuk menggambarkan
tema penulis dan mengidentifikasi pengklasifikasi yang paling akurat. Akibatnya, penggunaan berbagai jenis himpunan data
dibahas dan temuannya dianalisis.
Diterima: 11 Januari th, 2021 / Diterima: Maret 15 th, 2021 / Online: Maret 24 th, 2021
1
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
I. SAYANTRODUKSI Proses pelatihan [15 - 17]. Jumlah data yang diperoleh di
Saat ini teknologi sudah banyak berkembang, terutama lingkungan penambangan data sangat besar [18 - 20].
di bidang Machine Learning (ML) yang berguna untuk Jika kumpulan data diklasifikasikan dengan benar dan
mengurangi pekerjaan manusia. Di bidang kecerdasan berisi jumlah minimum node, maka menggunakan
buatan, ML mengintegrasikan statistik dan ilmu metode pohon keputusan optimal [21 - 23].
komputer untuk membangun algoritma yang menjadi
Pohon keputusan adalah teknik berbasis pohon di mana
lebih efisien ketika mereka tunduk pada data yang
setiap jalur yang dimulai dari akar dijelaskan oleh urutan
relevan daripada diberi instruksi khusus. Selain
pemisah data sampai hasil Boolean pada simpul daun
pengenalan suara, deteksi gambar, pelokalan teks, dll.
tercapai [24 - 27]. Ini adalah contoh hierarkis dari
ML adalah studi tentang algoritma komputasi yang
hubungan pengetahuan yang berisi node dan koneksi.
ditingkatkan dari pengalaman secara otomatis. Ini
Ketika hubungan digunakan untuk mengklasifikasikan,
dianggap sebagai subset kecerdasan buatan [1, 2]. Tertib
node mewakili tujuan [28 - 31].
untuk menghasilkan ramalan atau keputusan tanpa
diprogram secara khusus untuk melakukannya, Dalam makalah ini, tinjauan komprehensif dilakukan
algoritme ML membuat populasi model berdasarkan untuk pendekatan terbaru dan paling efisien yang telah
sampel, yang didefinisikan sebagai 'data pelatihan' [3, 4]. dilakukan oleh para peneliti dalam tiga tahun terakhir
Di area aplikasi yang luas, seperti pemfilteran email dan tentang pohon keputusan di berbagai bidang
visi komputer, algoritme ML digunakan di tempat yang pembelajaran mesin. Selain itu, rincian metode ini,
sulit atau tidak praktis untuk membuat algoritme seperti menggunakan algoritma/pendekatan, dataset,
tradisional untuk mengimplementasikan fungsi yang dan temuan yang dicapai dirangkum. Selain itu,
diperlukan [5]. Untuk ML, ada banyak kegunaan, yang penelitian ini menyoroti pendekatan yang paling umum
paling menonjol adalah penambangan data prediktif. digunakan dan metode akurasi tertinggi yang dicapai.
Dua mekanisme utama dapat dipecah menjadi evaluasi
Organisasi makalah yang tersisa adalah sebagai berikut:
ML [6, 7].
Bagian II berisi algoritma pohon keputusan yang
Menggunakan set atribut yang sama, setiap instance di menyebutkan jenis, manfaat, dan kekurangannya;
setiap himpunan data yang digunakan oleh algoritma ML Bagian III memberikan Tinjauan Pustaka tentang
dijelaskan. Atributnya bisa kontinu, kategoris, atau biner Algoritma Pohon Keputusan; Bagian IV perbandingan
[8, 9]. Jika kasus dikenali dengan label yang diakui dan pembahasan tentang pohon keputusan, dan bagian
(output yang benar), maka pembelajaran disebut terakhir berisi kesimpulan.
diawasi [10, 11]. Supervised Learning adalah peran
menyimpulkan suatu fungsi dari data pelatihan rahasia II. DECISION TREE ALGORITHM
adalah machine learning. Ini juga menganalisis data Salah satu teknik yang banyak digunakan dalam
pengujian dan membuat tugas turunan yang dapat penambangan data adalah sistem yang membuat
digunakan untuk contoh baru untuk memetakan [12, pengklasifikasi [32]. Dalam penambangan data,
13]. Setiap objek input data, bagaimanapun, memiliki algoritma klasifikasi mampu menangani sejumlah besar
label kelas yang telah ditetapkan sebelumnya. Fungsi informasi. Ini dapat digunakan untuk membuat asumsi
utama dari algoritma yang diawasi adalah untuk mengenai nama kelas kategoris, untuk
mempelajari model yang menciptakan pelabelan yang mengklasifikasikan pengetahuan berdasarkan set
sama lebih disukai untuk data yang ditawarkan dan pelatihan dan label kelas, dan untuk mengklasifikasikan
mempopulerkan dengan baik pada data yang tidak data yang baru diperoleh [33]. Algoritma klasifikasi
terlihat. Ini adalah tujuan utama algoritma untuk dalam pembelajaran mesin mengandung beberapa
klasifikasi [14]. algoritma, dan dalam karya ini, makalah berfokus pada
algoritma pohon keputusan secara umum. Gambar 1
Klasifikasi mencoba memprediksi kelas tujuan dengan
mengilustrasikan struktur DT.
presisi tertinggi. Algoritma klasifikasi mengetahui
hubungan antara atribut input dan atribut output untuk
membangun model yang merupakan
20 dua: 10.38094/jastt20165
2
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
A. Jenis Algoritma Pohon Keputusan
Ada beberapa Jenis algoritma DT seperti: Iterative
Dichotomies 3 (ID3), Penerus ID3 (C4.5), Classification
And Regression Tree(CART) [44], CHi-squared Automatic
Interaction Detector(CHAID) [45], Multivariate Adaptive
Regression Splines (MARS) [46], Generalized, Unbiased,
Interaction Detection and Estimation (GUIDE),
Conditional Inference Trees (CTREE) [47],[48], Aturan
Klasifikasi dengan Unbiased Interaction Selection and
Estimation (CRUISE), Pohon Statistik Cepat, Tidak Bias,
dan Efisien (QUEST) [49], [50]. Tabel I menunjukkan
Sekar1. Pohon Keputusan [34] perbandingan antara algoritma yang sering digunakan
ang.
untuk pohon keputusan [51].
Pohon keputusan adalah salah satu metode ampuh yang
biasa digunakan di berbagai bidang, seperti B. Entropi dan Perolehan Informasi
pembelajaran mesin, pemrosesan gambar, dan Entropi digunakan untuk mengukur pengotor atau
identifikasi pola [35]. DT adalah model berturut-turut keacakan himpunan data [52], [53]. Nilai entropi selalu
yang menyatukan serangkaian tes dasar secara efisien terletak antara 0 dan 1. Nilainya lebih baik ketika sama
dan kohesif di mana fitur numerik dibandingkan dengan dengan 0 sementara itu lebih buruk ketika sama dengan
nilai ambang batas dalam setiap tes [36]. Aturan 0, yaitu semakin dekat nilainya dengan 0 semakin baik.
konseptual jauh lebih mudah dibangun daripada bobot Seperti yang ditunjukkan pada "Gambar 3". Jika
numerik dalam jaringan saraf koneksi antar node [37, targetnya adalah G dengan nilai atribut yang berbeda,
38]. Terutama untuk tujuan pengelompokan, DT entropi klasifikasi himpunan S sehubungan dengan
digunakan. Selain itu, DT adalah model klasifikasi yang keadaan c [54], [55]. Seperti yang ditunjukkan dalam
biasanya digunakan dalam Data Mining [39]. Node dan "persamaan (1)".
cabang terdiri dari setiap pohon. Setiap node mewakili
fitur dalam kategori yang akan diklasifikasikan dan setiap
subset mendefinisikan nilai yang dapat diambil oleh Entropi( S ) = ∑ci=1 Pi log 2Pi (1)
node [40, 41]. Karena analisisnya yang sederhana dan
presisinya pada berbagai bentuk data, pohon keputusan
telah menemukan banyak bidang implementasi [42]. Di mana P i adalah rasio jumlah sampel subset dan nilai
Gambar 2 menunjukkan contoh DT. atribut ke-i.
3
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
Variabel input Kategoris/ Kontinu Kategoris/ Kontinu Kategoris/ Kontinu Kategoris/ Kontinu
Gbr.3. Nilai entropi [56] TABEL II: BENEFITS DAN DRAWBACKS DARI DT
Manfaat Kekurangan
memperkirakan keakuratan model untuk setiap digit data mereka diperiksa. Pendekatan Kaplan-Meier telah
dari 0 hingga 9. Fitur kaggle meliputi 42.000 baris dan digunakan untuk menentukan kelangsungan hidup (OS)
720 kolom yang digunakan untuk pelatihan mesin, fitur secara keseluruhan. Ini melibatkan total 100 pasien.
vektor digunakan untuk piksel gambar digital. Mereka 76,4% dan 71,3% adalah poin OS 5 tahun dan 7 tahun.
menggunakan bahasa yang sangat efisien bernama Usia, komorbiditas, ukuran tumor, klasifikasi Tumor
"pemrograman python" untuk penerapan algoritma Klinis (CT), dan klasifikasi simpul klinis adalah variabel
pembelajaran mesin untuk memetakan grafik tingkat prediktif penting untuk komposisi pohon (CN). Hasil
keberhasilan pengklasifikasi dalam realisasi digit tulisan penelitian menunjukkan bahwa tingkat kelangsungan
tangan. Temuan menunjukkan bahwa akurasi 83,4% hidup tertinggi terdapat pada pasien usia lanjut dengan
dan pengklasifikasi pohon keputusan berdampak pada ukuran tumor kurang dari 5 cm dan pasien di bawah usia
pengenalan angka tulisan tangan. 65 tahun yang memiliki cT3. Pohon keputusan adalah
cara untuk mendapatkan pengambilan keputusan
De Felice et al. [66] menyarankan algoritma pohon
praktik klinis yang lebih baik, berdasarkan kumpulan
keputusan untuk mengenali indikasi klinis yang diketahui
data yang luas.
dan baru sebelum pengobatan untuk bertahan hidup di
BehavDT memberikan keputusan yang komprehensif
serta keputusan khusus konteks. Eksperimen
Sarker et al. [67] mempresentasikan Pohon Keputusan
dilakukan pada kumpulan data smartphone nyata dari
Perilaku bernama struktur sadar konteks "BehavDT"
pengguna individu melalui efisiensi model BehavDT.
yang memperhitungkan generalisasi berorientasi
Hasil penelitian menunjukkan bahwa model sadar
perilaku konsumen sesuai dengan tingkat pilihan
konteks Behav DT, yang akurasinya hingga 90%, adalah
pribadi. Dalam kasus asosiasi yang luar biasa, model
5
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
model yang paling energik dibandingkan dengan gambar DXA berbeda dengan gambar fotografi. Untuk
model pembelajaran mesin konvensional lainnya. menentukan set fitur terbaik untuk model, PLDT
menghasilkan tujuh set fitur baru dan menggunakan
Hu et al. [68] mengilustrasikan algoritma praktis
Global Threshold (GT), Region Growing Threshold (RGT),
pertama untuk mengoptimalkan pohon keputusan
dan Artificial Neural Networks (ANN). Hasilnya
untuk variabel biner. Algoritma adalah desain bersama
mengungkapkan bahwa dalam segmentasi gambar DXA,
batas analitis yang melibatkan pustaka vektor bit
PLDT melebihi teknik partisi konvensional lainnya. Untuk
khusus dan struktur data yang meminimalkan area
setiap algoritma seperti PLDT ini, akurasinya 91,4%, GT
pencarian dan teknologi aplikasi saat ini. Mereka
68,4%, RGT 76%, dan ANN 84,4%.
menggunakan metode Binary Optimal Classification
Trees (BinOCT), yang merupakan metode yang Linty et al. [71] mengusulkan pendekatan baru yang
tersedia untuk umum saat ini, untuk menilai akurasi memengaruhi amplitudo sinyal dari Sistem Satelit
dan membandingkannya dengan Optimal Sparse Navigasi Global (GNSS) dan digunakan untuk mendeteksi
Decision Trees (OSDT). Serta mereka menggunakan peristiwa scintillation ionik yang berkaitan dengan
himpunan data teks dari University of California, akurasi, keandalan, dan kesiapan. Kumpulan luas data
Repositori Pembelajaran Mesin Irvine (UCI) dan pasca-korelasi 50 Hz disediakan oleh penerima GNSS.
himpunan data numerik dari himpunan data Hasilnya menunjukkan bahwa metode ini, dalam hal
ProPublica COMPAS lainnya. Temuan menunjukkan akurasi dan skor-F, melebihi teknik canggih dan dapat
bahwa ketika himpunan data COPAS, pohon keputusan mencapai standar yang digerakkan oleh manusia, yang
optimal yang dihasilkan oleh OSDT, akurasinya 66,90%. merupakan tingkat anotasi manual. Ini meningkat pesat
Selain itu, ketika BinOCT dan OSDT menghasilkan karena memperoleh 98% identifikasi, sangat mirip
himpunan data UCI, pohon keputusan, akurasinya dengan klasifikasi yang digerakkan oleh manusia buatan
masing-masing adalah 76,722%, 82,881%. tangan.
Patil dan Kulkarni [69] memperkenalkan Distributed Kuang et al. [72] Mengusulkan struktur berdasarkan
Spark Tree (DST) untuk mengeksekusi algoritma DT pohon keputusan bernama Screen Content Coding ( SCC)
dengan lebih baik dalam hal waktu konstruksi model untuk membuat keputusan cepat dalam situasi dengan
tanpa kehilangan akurasi. Selain itu, mereka menguji fitur mereka yang berbeda dalam set pelatihan.
menyarankan untuk menggunakannya di iklim Spark. Selain itu, untuk mencegah proses pencarian
Data dalam arsitektur bersama Spark tidak melakukan menyeluruh, pengaturan berurutan dari pohon
eksekusi paralel horizontal. Spark berfungsi dengan baik keputusan diilustrasikan. Selain itu, SCB digunakan
dan koheren dalam komputasi dalam memori, RDD, dan sebagai himpunan data untuk menyeimbangkan SCC
pengurangan peta. Himpunan data yang digunakan dari dengan mode Intra Block Copy (IBC) dan PaLeTte (PLT).
repositori UCI ML dan empat kelas dipilih. File data yang Hasil penelitian menunjukkan bahwa sistem SCC
luas digunakan untuk menguji kinerja terkait waktu menawarkan penurunan rata-rata 47,62% dalam
pembuatan model untuk DST, PySpark (PT), dan MLLib kompleksitas komputasi, dengan 1,42% kecil di
(MLT). Temuan menunjukkan bahwa dari segi akurasi, Bjøntegaard delta bitrate (BDBR).
kinerja DST lebih baik dari PT maupun MLT, karena nilai
Ramadhan et al. [73] Mendemonstrasikan analisis
terendahnya adalah 81,445 % dan tertinggi menurut
komparatif akurasi dan panjang proses untuk setiap
skala dataset adalah 99,9 %.
algoritma yang dilakukan menggunakan algoritma K-
Hussain et al. [70] menawarkan pendekatan modern, Nearest Neighbor (KNN) dan Decision Tree (DT) untuk
yaitu Pixel Label Decision Tree (PLDT), dan memeriksa mendeteksi serangan DDoS. Selain itu, mereka
apakah itu dapat mencapai efisiensi segmentasi tulang menggunakan dataset CICIDS2017 yang terdiri dari
paha yang lebih rinci dalam pencitraan DXA. PLDT serangan terbaru dan paket global, adalah standar dan
meliputi ekstraksi dan pemilihan sifat. PLDT digunakan berlaku untuk data dunia nyata dalam format PCAP. Hasil
untuk mengungkap pola rahasia yang ditemukan dalam penelitian menunjukkan bahwa akurasi DT untuk
6
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
mendeteksi serangan DDoS lebih tinggi dari nilai KNN, adalah sebagai berikut: DT adalah 99,93 persen, KNN
akurasi DT sebesar 99,91 %, dan akurasi KNN sebesar adalah 99,93%, LR adalah 93,13%, SVM adalah 90,76 %
98,94 %. dan NB adalah 79,52 %.
Batitis et al. [74] mempresentasikan sistem untuk Taloba dan Ismail [77] mengembangkan pendekatan
mengidentifikasi hingga 10 sel darah merah tidak teratur pembelajaran mesin baru untuk pohon keputusan
dan untuk mengetahui tingkat akurasi untuk semua sel hibrida dan algoritma genetika yang dikenal sebagai
darah merah abnormal. Selain itu, Untuk mendeteksi sel GADT untuk deteksi spam. Algoritma yang paling
darah merah yang tidak teratur, mereka menggunakan signifikan untuk meningkatkan efisiensi pohon
algoritma DT dalam pemrosesan gambar dan keputusan adalah algoritma genetika. Juga, ini efisien
menggunakan bingkai mantan pasien untuk skema di dan dapat diandalkan untuk klasifikasi teks. Algoritma
rumah sakit. Selain itu, kamera digunakan untuk genetika telah menggunakan elemen kepercayaan yang
memasukkannya ke dalam perangkat lunak untuk mengatur pemangkasan pohon keputusan untuk
menangkap slide. Hasil penelitian menunjukkan bahwa mengoptimalkan dan mendeteksi nilai optimalnya.
tingkat akurasi rata-rata 89,31% dan tingkat kesalahan Mereka menggunakan himpunan data spam UCI
rata-rata 10,69%. Selanjutnya, ketidakteraturan sentral Machine Learning Store. Selain itu, mereka
pucat Codocyte ditemukan menjadi penyebab kesalahan menggunakan mekanisme Analisis Komponen Prinsip
dalam klasifikasi sel darah merah abnormal. (PCA) utama untuk menghapus fitur yang tidak sesuai
untuk konten pesan email dan memprosesnya lebih
Zhang et al. [75] Mengusulkan model berdasarkan
jarang. Hasil penelitian menunjukkan bahwa setelah
algoritma pembelajaran mesin pohon keputusan
menggunakan PCA, pendekatan GADT campuran
bernama Extreme Gradient Boosting (XGBoost) untuk
memiliki akurasi 93,4% sebelum menggunakan PCA dan
prediksi waktu merokok reguler. Selanjutnya, untuk
akurasi 95,5%. Ini menyiratkan bahwa ekstraksi
membuat kumpulan data simulasi untuk data waktu
karakteristik yang tidak tepat memiliki dampak besar
merokok, Pusat Pengendalian dan Pencegahan Penyakit
pada PCA.
China mengumpulkan informasi orang dari perokok.
Juga, mereka menggunakan modul untuk mengekstrak Arowolo et al. [78] menerapkan algoritma ekstraksi fitur
informasi fitur. Untuk melihat outputnya dalam modul Principle Component Analysis (PCA) untuk mengurangi
ekstraksi fitur, mereka menggunakan modul pohon dimensi dan menunjukkan dimensi tinggi menganalisis
keputusan (XGBoost) dan algoritma pembelajaran mesin bukti pada ekspresi gen. Klasifikasi KNN dan algoritma DT
Random Forest. Hasil penelitian menunjukkan bahwa digunakan untuk mendeteksi berbagai struktur biologis
efisiensi DT lebih tinggi dari RF, mencapai 84,11% dengan dan untuk Menawarkan resolusi nilai yang lebih baik
akurasi DT, sedangkan 58,11% dengan akurasi RF. serta untuk mendeteksi gen malaria baru dan tes
prediksi. Pengurutan asam ribonukleat (RNA-seq) juga
Nandhini dan K.S [76] membahas metode yang efektif
digunakan sebagai pengumpulan data. Hasil penelitian
untuk mengembangkan model pembelajaran mesin
menunjukkan bahwa kinerja klasifikasi KNN lebih baik
menggunakan beberapa algoritma umum yang dapat
daripada klasifikasi DT dalam ekstraksi fitur PCA. Akurasi
membedakan apakah email adalah spam atau ham. Toko
KNN mencapai 86,7% sedangkan DT mencapai 83,3%.
Machine Learning UCI digunakan sebagai himpunan data
untuk Spambase. Selain itu, mereka mengevaluasi Pathan et al. [79] mengusulkan teknik baru yang
output dari Logistic Regression (LR), DT, Naïve Bayes mengenali dan menghilangkan arteri darah untuk
(NB), KNN, dan Support Vector Machine (SVM) untuk segmentasi yang benar dari Optic Disc (OD). Ini dilakukan
membangun model pembelajaran mesin yang efisien dengan dua cara. Pertama, filter directional digunakan
untuk spam. Menggunakan alat Weka untuk melatih dan untuk membangun algoritma identifikasi dan eksklusi
mengevaluasi pengumpulan data. Hasil penelitian pembuluh darah yang efisien. Pada langkah kedua, untuk
menunjukkan bahwa kinerja DT sebanding dengan dan mendeteksi kontur cakram optik, pengklasifikasi pohon
lebih baik dari kinerja KNN, dan akurasi untuk keduanya keputusan digunakan untuk mencapai ambang adaptif.
7
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
Serta, dua database terpisah digunakan, termasuk 300 dengan menggunakan himpunan data CICIDS2017 untuk
gambar fundus yang diperoleh dari Kasturba Medical menganalisis IDS bersaksi tentang dominasi mereka
College (KMC) Manipal dan juga database RIM-ONE yang dalam hal akurasi, tingkat identifikasi, tingkat alarm
dapat diakses publik. Hasil penelitian menunjukkan palsu, dan overhead waktu relatif terhadap skema
bahwa teknik segmentasi OD yang sepenuhnya otomatis canggih saat ini. Secara menyeluruh, dengan 94,457%,
yang menggunakan pengklasifikasi pohon keputusan model kami memiliki DR tertinggi, presisi tertinggi
untuk mencapai ambang segmentasi meningkatkan dengan 96,665%, dan FAR terendah dengan 1,145%,
ketahanan algoritma bahkan untuk gambar yang meskipun waktu komputasinya yang rendah
mengandung eksudat, atrofi vesikel, dan pembalikan, membuatnya dengan cepat diimplementasikan ke dalam
Oleh karena itu, menghasilkan fraksinasi OD yang sesuai. sistem real-time yang lembut.
Studi matematika menunjukkan efek pretreatment. Oleh
Li et al. [82] memberikan pohon keputusan pembuktian
karena itu, nilai rata-rata akurasi yang diperoleh untuk
untuk mengklasifikasikan kumpulan data fuzzy dan
gambar KMC adalah 99,61% dan untuk database RIM-
entropi ding telah digunakan sebagai indikator aturan
ONE, nilai rata-rata akurasi yang diperoleh adalah
partisi untuk konstruksinya. Selain itu, Basic Belief
99,15%.
Assignment (BBAs) dari Iris dan wine Datasets digunakan
Nagra et al. [80] memperkenalkan Self-Inertia Weight untuk menghitung fitur pemisahan yang optimal.
Adaptive Particle Swarm Optimization dengan Semakin rendah entropi Deng, semakin efektif fitur
pendekatan pemilihan fitur Gradient Base Local Search tersebut untuk mengkarakterisasi sampel. Berbeda
(SIW-APSO-LS) dimodifikasi untuk melakukan pemilihan dengan aturan campuran standar yang digunakan untuk
fitur dan metode pohon keputusan C4.5 digunakan kombinasi BBA, DT bukti dapat diperluas secara khusus
sebagai pengklasifikasi untuk menentukan sub-set fitur ke klasifikasi. Temuan menunjukkan bahwa penerapan
yang diberikan. Saat membandingkan algoritma dalam DT pembuktian berdasarkan entropi keyakinan secara
masalah pemilihan fitur, 16 himpunan data dari efektif mengurangi kompleksitas klasifikasi data fuzzy
Repositori Pembelajaran Mesin UCI digunakan untuk apakah pasien dipengaruhi oleh jenis kanker Malign atau
eksperimen. Hasil eksperimen menunjukkan bahwa SIW- Benign. Himpunan data Kanker Payudara Wisconsin,
APSO-LS menyederhanakan pengumpulan fitur dengan yang berisi 32 atribut dan 569 data, digunakan. Mereka
secara efektif mengurangi jumlah fitur yang dipilih, menggunakan uji validasi silang 10 kali lipat untuk
sehingga mempertahankan presisi terbaik dibandingkan mengidentifikasi dan menganalisis algoritma. Akurasinya
dengan pendekatan pemilihan literatur lainnya untuk adalah 95% saat menggunakan himpunan data Wine,
fungsi pengujian yang sama. Pada bidang pengumpulan tetapi akurasi yang diperoleh oleh himpunan data Iris
atribut, temuan eksperimen menunjukkan bahwa adalah 98%.
pendekatan yang diusulkan berguna dan akurasi
Sathiyanarayanan et al. [83] menggunakan algoritma DT
tertinggi yang diperoleh dari total 16 dataset adalah
di bawah mekanisme pembelajaran yang diawasi untuk
99,88%
mengungkapkan kanker payudara. Identifikasi kanker
Ahmim et al. [81] mengusulkan Intrusion Detection payudara dilakukan di sini dan difokuskan pada data,
System (IDS) baru yang menggabungkan beragam sistem yang memisahkan data untuk proses persiapan dan
klasifikasi yang berbasis DT dan konsep berbasis aturan, pengujian. Hasil yang diperoleh dengan demikian
yaitu pohon REP, algoritma JRip, dan Forest PA. Secara kontras antara algoritma KNN dan DT. Hasil penelitian
spesifik, pendekatan pertama dan kedua mengambil mengungkapkan bahwa akurasi yang diperoleh KNN
fitur kumpulan data sebagai input dan mengkategorikan adalah 97%, sedangkan DT mencapai akurasi maksimal
lalu lintas jaringan sebagai Attack/Benign. Dibandingkan 99%. Oleh karena itu, algoritma pohon keputusan yang
dengan hasil pengklasifikasi pertama dan kedua untuk berada di bawah metode pembelajaran yang diawasi
referensi, pengklasifikasi ketiga menggunakan atribut memprediksi jenis kanker.
pengumpulan data asli. Temuan penelitian yang dicapai
8
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
9
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
10
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
[27] A. S. Eesa, Z. Orman, dan A. M. A. Brifcani, "Pendekatan pemilihan [42] J. Mrva, Š. Neupauer, L. Hudec, J. Shevcech, dan P. Kapec,
"Keputusan
fitur baru berdasarkan algoritma optimasi sotong untuk sistem
Support in Medical Data Using 3D Decision Tree Visualisation," dalam
deteksi intrusi," Expert Systems with Applications, vol.
2019 E-Health and Bioengineering Conference (EHB), November
42, tidak. 5, hlm. 2670–2679, April 2015, dua:
10.1016/[Link].2014.11.009. 2019, hlm. 1–4, doi: 10.1109/EHB47216.2019.8969926.
[28] A. Shamim, H. Hussain, dan Maqbool Uddin Shaikh, "A framework for [43] Y. Bengio, O. Delalleau, dan C. Simard, "POHON KEPUTUSAN LAKUKAN
generation of rules from decision tree and decision table," dalam TIDAK MENGGENERALISASI KE VARIASI BARU," COMPUTATIONAL
International Conference on Information and Emerging Technologies INTELLIGENCE, HLM. 19.
2010, Juni 2010, hlm. 1–6, doi: 10.1109/ICIET.2010.5625700. [44] C. E. Brodley dan P. E. Utgoff, "Pohon keputusan multivariat,"
[29] A. Suresh, R. Udendhran, dan M. Balamurgan, "Hybridized neural Pembelajaran mesin, vol. 19, no. 1, hlm. 45–77, 1995.
network and decision tree based classifier for prognostic decision
[45] G. K. F. Tso dan K. K. W. Yau, "Predicting electricity energy
making in breast cancers," Soft Computing, vol. 24, no. 11, hlm. 7947– consumption: A comparison of regression analysis, decision tree and
7953, 2020. neural networks," Energy,
vol. 32, no. 9, hlm. 1761–1768,
[30] Priyanka dan D. Kumar, "Pengklasifikasi pohon keputusan: survei
Sep. 2007, doi: 10.1016/[Link].2006.11.010.
terperinci," Jurnal Internasional Ilmu Informasi dan Keputusan, vol. 12,
[46] S. Singh dan P. Gupta, "Studi komparatif ID3, gerobak dan C4. 5
no. 3, hlm. 246–269, 2020.
algoritma pohon keputusan: survei," International Journal of
[31] A. S. Eesa, A. M. Abdulazeez, dan Z. Orman, "A DIDS Based on The
Combination of Cuttlefish Algorithm and Decision Tree," Science Advanced Information Science and Technology (IJAIST), vol. 27, no.
Journal of University of Zakho, vol. 5, no. 4, hlm. 313–318, 2017. 27, hlm. 97– 103, 2014.
[32] R. Kumar dan R. Verma, "Classification algorithms for data mining: A [47] L. Rokach dan O. Maimon, "Top-Down Induction of Decision Trees
survey," International Journal of Innovations in Engineering and
Classifiers—A Survey," Systems, Man, and Cybernetics, Part C:
Technology (IJIET), vol. 1, no. 2, hlm. 7–14, 2012.
Applications and Reviews, IEEE Transactions on, vol. 35, hlm. 476– 487,
[33] S. S. Nikam, "Studi komparatif teknik klasifikasi dalam algoritma Desember 2005, doi: 10.1109/TSMCC.2004.843247.
penambangan data," Oriental journal of computer science & [48] T.-S. Lim, W.-Y. Loh, dan Y.-S. Shih, "Perbandingan akurasi prediksi,
technology, vol. 8, no. 1, hlm. 13–19, 2015. kompleksitas, dan waktu pelatihan dari tiga puluh tiga algoritma
[34] C. Z. Janikow, "Pohon keputusan fuzzy: masalah dan metode," IEEE klasifikasi lama dan baru," Pembelajaran mesin, vol. 40, no. 3, hlm.
Transaksi pada Sistem, Manusia, dan Sibernetika, Bagian B 203– 228, 2000.
(Sibernetika) , vol. 28, no. 1, hlm. 1–14, 1998. [49] W.-Y. Loh, "Lima Puluh Tahun Pohon Klasifikasi dan Regresi," Tinjauan
[35] G. Stein, B. Chen, A. S. Wu, dan K. A. Hua, "Pengklasifikasi pohon Statistik Internasional, vol. 82, Juni 2014, doi: 10.1111/insr.12016.
keputusan untuk deteksi intrusi jaringan dengan pemilihan fitur [50] S. R. Jiao, J. Song, dan B. Liu, "A Review of Decision Tree Classification
berbasis GA," dalam Prosiding konferensi regional Tenggara tahunan Algorithms for Continuous Variables," dalam Journal of Physics:
ke-43Volume 2, 2005, hlm. 136–141. Conference Series, 2020, vol. 1651, no. 1, hlm. 012083.
[36] I. S. Damanik, A. P. Windarto, A. Wanto, S. R. Andani, dan W. Saputra, [51] Y.-Y. Song dan Y. Lu, "Metode pohon keputusan: aplikasi untuk
"Optimasi Pohon Keputusan di C4. 5 Algoritma Menggunakan
klasifikasi dan prediksi," Arsip psikiatri Shanghai, vol. 27, hlm. 130–5,
Algoritma Genetika," dalam Journal of Physics: Conference Series,
April 2015, doi: 10.11919/[Link].1002-0829.215044.
2019, vol. 1255, no. 1, hlm. 012012.
[52] RekhaMolala, "Entropi, Perolehan Informasi dan Indeks Gini; inti dari
[37] R. Barros, M. Basgalupp, A. de Carvalho, dan A. Freitas, "A Survey of Pohon Keputusan," Medium, 23 Maret 2020.
Evolutionary Algorithms for Decision-Tree Induction," IEEE [Link]
Transactions on Systems, Man, and Cybernetics, Part C: Applications giniindex-the-crux-of-a-decision-tree-99d0cdc699f4 (diakses pada 28
and Reviews, vol. 42, hlm. 291–312, Januari 2012, doi: Desember 2020).
10.1109/TSMCC.2011.2157494. [53] V. Cheushev, D. A. Simovici, V. Shmerko, dan S. Yanushkevich,
[38] G. Gupta, "A self explanatory review of decision tree classifiers," "Entropi fungsional dan pohon keputusan," dalam Prosiding.
dalam konferensi Internasional tentang kemajuan dan inovasi 1998 Simposium Internasional IEEE ke-28 tentang Logika Bernilai
terbaru dalam bidang teknik (ICRAIE-2014), 2014, hlm. 1–7.
Ganda (Cat. No. 98CB36138), 1998, hlm. 257–262.
[39] S. S. Gavankar dan S. D. Sawarkar, "Pohon keputusan yang [54] X. Chen, Z. Yang, dan W. Lou, "Fault Diagnosis of Rolling Bearing Based
bersemangat," dalam 2017 2nd International Conference on the Permutation Entropy of VMD and Decision Tree," dalam 2019
3rd International Conference on Electronic Information Technology and
for Convergence in Technology (I2CT), Mumbai,
Computer Engineering (EITCE), Xiamen, China, Oktober
April 2017, hlm. 837–840, doi: 10.1109/I2CT.2017.8226246.
2019, hlm. 1911–1915, doi:
[40] P. H. Swain dan H. Hauska, "Pengklasifikasi pohon keputusan: Desain
10.1109/EITCE47263.2019.9095187.
dan potensi," Transaksi IEEE tentang Elektronika Geosains, vol. 15, no. [55] C. Shang, M. Li, S. Feng, Q. Jiang, dan J. Fan, "Pemilihan fitur melalui
3, hlm. 142–147, 1977. memaksimalkan perolehan informasi global untuk klasifikasi teks,"
[41] A. Dey, "Machine learning algorithms: a review," International Journal Sistem Berbasis Pengetahuan, vol. 54, hlm. 298–309, Desember
of Computer Science and Information Technologies, vol. 7, no. 3, 2013, doi: 10.1016/[Link].2013.09.019.
hlm. 1174–1179, 2016.
11
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
[56] T. Maszczyk dan W. Duch, "Perbandingan entropi Shannon, [70] D. Husain, M. A. Al-Antari, M. A. Al-Masni, S.-M. Han, dan T.-S.
Renyi dan Tsallis yang digunakan dalam pohon keputusan," dalam Kim, "Femur segmentation in DXA imaging using a machine learning
Konferensi Internasional tentang Kecerdasan Buatan dan Komputasi decision tree," Journal of X-ray Science and Technology, vol. 26, no.
Lunak, 2008, hlm. 643–651. 5, hlm. 727–746, 2018.
[57] L. E. Raileanu dan K. Stoffel, "Perbandingan Teoritis antara [71] N. Linty, A. Farasin, A. Favenza, dan F. Dovis, "Detection of GNSS
Gini Index and Information Gain Criteria," Annals of Mathematics and Ionospheric Scintillations Based on Machine Learning Decision Tree,"
Artificial Intelligence, vol. 41, no. 1, hlm. 77–93, Mei 2004, doi: IEEE Transactions on Aerospace and Electronic Systems, vol. 55, no.
10.1023/B:AMAI.0000018580.96245.c6. 1, hlm. 303–317, Februari 2019, doi:
[58] Y. Liu, L. Hu, F. Yan, dan B. Zhang, "Kenaikan Informasi dengan Pohon 10.1109/TAES.2018.2850385.
Keputusan Berbasis Berat Badan untuk Peramalan Pekerjaan [72] W. Kuang, Y. Chan, S. Tsang, dan W. Siu, "Machine Learning-Based Fast
Sarjana," dalam Konferensi Internasional IEEE 2013 tentang Komputasi Intra Mode Decision for HEVC Screen Content Coding via Decision
dan Komunikasi Hijau dan Internet of Things IEEE dan Trees," IEEE Transactions on Circuits and Systems for Video
IEEE Cyber, Physical and Social Computing, Beijing, China, Agustus
Technology, vol. 30, no. 5, hlm. 1481–1496, Mei 2020,
2013, hlm. 2210–2213, doi: 10.1109/GreenCom-
doi: 10.1109/TCSVT.2019.2903547.
iThingsCPSCom.2013.417.
[73] I. Ramadhan, P. Sukarno, dan M. A. Nugroho, "Analisis Komparatif K-
[59] R. L. De Mántaras, "A distance-based attribute selection measure for Nearest Neighbor dan Decision Tree dalam Mendeteksi Terdistribusi
decision tree induction," Machine learning, vol. 6, no. 1, hlm. 81–92, Denial of Service," dalam 8th International Conference on Information
1991. and Communication Technology (ICoICT) ke-8 tahun 2020,
[60] S. Taneja, C. Gupta, K. Goyal, dan D. Gureja, "Algoritma k-nearest Yogyakarta,
neighbor yang ditingkatkan menggunakan gain dan clustering Indonesia, Jun. 2020, pp. 1–4, doi:
informasi," dalam Konferensi Internasional Keempat 2014 tentang 10.1109/ICoICT49345.2020.9166380.
Teknologi Komputasi & Komunikasi Canggih, 2014, hlm. 325–329. [74] V. M. E. Batitis, Tn. J. G. Caballes, A. A. Ciudad, M. D. Diaz, R. D.
[61] Y. Zhao dan Y. Zhang, "Perbandingan metode pohon keputusan untuk Flores, dan E. R. E. Tolentin, "Klasifikasi Gambar Merah Abnormal
menemukan objek aktif," Advances in Space Research, vol. 41, no. 12, Sel Darah Menggunakan Algoritma Pohon Keputusan," dalam
hlm. 1955–1959, 2008. Konferensi Internasional Keempat 2020 tentang Metodologi dan
[62] K. Mittal, D. Khanduja, dan P. C. Tewari, "An insight into 'Decision Tree Komunikasi Komputasi (ICCMC), Maret 2020, hlm. 498–504,
Analysis'"," World Wide Journal of Multidisciplinary Research and doi: 10.1109/[Link]-00093.
Development, vol. 3, no. 12, hlm. 111–115, 2017. [75] Y. Zhang, J. Liu, Z. Zhang, dan J. Huang, "Prediksi Perilaku Merokok
[63] Priyanka dan D. Kumar, "Pengklasifikasi pohon keputusan: survei Harian Berdasarkan Pembelajaran Mesin Pohon Keputusan
Algoritma," dalam IEEE 9th International Conference on Electronics
terperinci," Jurnal Internasional Ilmu Informasi dan Keputusan, vol. 12,
no. 3, hlm. 246–269, 2020. Information and Emergency Communication (ICEIEC) 2019, Juli
[64] Q. Zou, K. Qu, Y. Luo, D. Yin, Y. Ju, dan H. Tang, "Memprediksi diabetes 2019, hlm. 330–333, doi: 10.1109/ICEIEC.2019.8784698.
mellitus dengan teknik pembelajaran mesin," Frontiers in genetics, vol. [76] S. Nandhini dan J. M. K.S, "Evaluasi Kinerja Mesin
9, hlm. 515, 2018. Mempelajari Algoritma untuk Deteksi Spam Email," pada tahun 2020
[65] T. A. Assegie dan P. S. Nair, "Handwritten digits recognition with International Conference on Emerging Trends in Information
decision tree classification: a machine learning approach," Technology and Engineering (ic-ETITE), Februari 2020, hlm. 1–4, doi:
International Journal of Electrical and Computer Engineering, vol. 9, 10.1109/ic-ETITE47903.2020.312.
no. 5, hlm. 4446, 2019. [77] A. I. Taloba dan S. S. I. Ismail, "An Intelligent Hybrid Technique of
[66] F. De Felice dkk. , "Algoritma pohon keputusan pada kanker stadium Decision Tree and Genetic Algorithm for E-Mail Spam Detection,"
lanjut lokal: contoh interpretasi berlebihan dan penyalahgunaan dalam 2019 Ninth International Conference on Intelligent Computing
pendekatan pembelajaran mesin," Journal of Cancer Research and
and Information Systems (ICICIS),Desember 2019, hlm. 99–
Clinical Oncology, vol. 146, no. 3, hlm. 761–765, 2020.
104, doi: 10.1109/ICICIS46948.2019.9014756.
[67] I. H. Sarker, A. Colman, J. Han, A. I. Khan, Y. B. Abushark, dan K. Salah,
[78] M. O. Arowolo, M. Adebiyi, A. Adebiyi, dan O. Okesola, "Model
"Behavdt: a behavioral decision tree learning to build usercentric
PCA Untuk Klasifikasi Data Vektor Malaria RNA-Seq Menggunakan KNN
context-aware predictive model," Mobile Networks and Applications, Dan Algoritma Pohon Keputusan," dalam Konferensi Internasional
vol. 25, no. 3, hlm. 1151–1161, 2020. 2020 dalam Matematika, Teknik Komputer dan Ilmu Komputer
[68] X. Hu, C. Rudin, dan M. Seltzer, "Pohon keputusan jarang yang (ICMCECS) , Maret. 2020, hlm. 1–8, dua:
optimal," dalam Advances in Neural Information Processing Systems, 10.1109/ICMCECS47690.2020.240881.
2019, hlm. 7267– 7275. [79] S. Pathan, P. Kumar, R. Pai, dan S. V. Bhandary, "Deteksi otomatis
[69] S. Patil dan U. Kulkarni, "Prediksi Akurasi untuk Didistribusikan kontur cakram optik dalam gambar fundus menggunakan
Pohon Keputusan menggunakan pendekatan Machine Learning," pengklasifikasi pohon keputusan," Biocybernetics and Biomedical
dalam 3rd International Conference on Trends in Electronics and
Engineering, vol. 40, no. 1, hlm. 52–64, 2020.
Informatics (ICOEI) 2019, April. 2019, hlm. 1365–
1371, doi: [80] A. A. Nagra dkk. , "Pengoptimalan kawanan partikel adaptif self-inertia
hibrida dengan pencarian lokal menggunakan C4. 5 pengklasifikasi
10.1109/ICOEI.2019.8862580.
pohon keputusan untuk masalah pemilihan fitur," Ilmu Koneksi, vol.
32, no. 1, hlm. 16–36, 2020.
12
Tipis & Abdulazeez / Jurnal Tren Sains dan Teknologi Terapan Vol. 02, No. 01, hlm. 20 – 28 (2021)
13