MACHINE LEARNING
NAIVE BAYES
Disusun Oleh :
Putu Teddy Candra Prayoga 20102089
I Made Arya Waras Arimbawa 20102086
I Gede Mahendra Dutha Wachika 19102121
INSTITUT BISNIS DAN TEKNOLOGI INDONESIA
SEMESTER GANJIL
TAHUN AJARAN
2022
PENDAHULUAN
Latar Belakang
Pada kehidupan sehari-hari kita sebenarnya dapat melihat mesin ada di kehidupan kita
sehar-harii. Dari beberapa model yang sangat konkret seperti pengenalan suara, pengenalan sidik
jari dan pengenalan [Link] ini perkembangan pembelajaran mesin sudah sangat pesat dan
juga berbagai penelitian banyak dilakukan untuk membangun mesin yang lebih cerdas. Model
mesin mutakhir yang dapat kita lihat adalah Asimo, robot cerdas Honda yang dapat mengetahui
pemilik serta mengenal emosi. Sebuah robot cerdas seperti Asimo dapat dihasilkan perlu
beberapa teknik AI diaplikasikan didalamnya, seperti kemiripan pengenalan suara, pengenalan
wajah pemilik serta mengenali sebuah ruangan.
Machine Learning berawal dari abad 20 yaitu ditemukan oleh Torres y Quevedo di
Spanyol. Setelah ditemukan komputer digital pada dasarnya machine learning komputer yang
belajar dari data. Menurut Arthur 1959, komputer mampu melakukan pembelajaran secara
terprogram tanpa harus menjelaskan. Menurut Tom Mitchel 1997, komputer mampu melakukan
tugas dan meningkatkan kinerja dengan belajar dari pengalaman. Menurut Budiharto 2016,
kemampuan dan kecerdasan buatan untuk belajar dari data.
Machine Learning juga bisa menjadi metode analisis untuk meng-otomatisasi model
analitis. Machine Learning berfokus besar menganalisa pola kompleks sehingga bisa membuat
sistem cerdas dari data sebuah data. Definisi Machine Learning memberi sebuah program
kemampuan belajar secara nyata diprogram.
Pengenalan Naive Bayes
Naive Bayes Algoritma adalah sebuah metoda klasifikasi probabilitas dan statistic yang
ditemukan oleh Thomas Bayes Ilmuan dari Inggris. Naïve Bayes juga dikenal sebagai Teorema
Bayes karena dapat memprediksi peluang di masa depan berdasarkan pengalaman di masa
sebelumnya. Naïve Bayes juga algoritma yang merupakan bagian analisis independent yang
mengasumsikan faktor-faktor dan ciri khas dari Naïve Bayes ini memiliki asumsi yang sangat
kuat. Naïve bayes didefinisikan sebagai model pembelajaran mesin dalam genre pembelajaran
terawasi dalam berbagai kasus penggunaan klasifikasi. Karena diasumsikan bahwa naif
detempatkan di depan nama algoritma fitur yang masuk ke model tidak bergantungan satu sama
lain, perubahan ini dilakukan pada satu variabel dan tidak berpengaruh ke variabel lainnya.
Naive Bayes itu algoritma yang sederhana dan sangat kuat, karena kompleksitasnya yang rendah,
jadi salah satu algoritma yang melakukan perhitungan untuk memberikan wawasan dasar dan itu
kuat dari data. Naïve Bayes memiliki keuntungan yaitu dalam proses pengklasifikasiannya hanya
membutuhkan data pelatihan yang kecil untuk menentukan estimasi parameter yang di perlukan.
Naive Bayes juga menyediakan mekanisme untuk menggunakan informasi data sampel
untuk memperkirakan probabilitas posterior P(y | x) dari setiap kelas y yang diberikan objek x,
untuk memperkirakan dapat menggunakan klasifikasi atau aplikasi pendukung keputusan
lainnya. Fitur Naïve Bayes :
Efisiensi komputasi yaitu waktu pelatihan linier terhadap kedua jumlah, seperti pelatihan
dan jumlah atribut yang berhubungan tidak terpengaruh dengan jumlah contoh lainnya.
Varians rendah karena tidak menggunakan pencarian
Pembelajaran tambahan yang beroperasi dari perkiraan probabilitas rendah dari data
pelatihan dan dapat mudah diperbarui sebagai pelatihan baru.
Ketangguhan menghadapi kebisingan dengan menggunakan semua atribut untuk semua
prediksi dan relatif tidak sensitive terhadap kebisingan dalam pelatihan data.
Ketangguhan dalam menghadapi nilai-nilai yang hilang karena selalu menggunakan
semua atribut untuk semua prediksi, jika satu hilang maka informasi dari atribut yang lain
masih digunakan.
Tipe Naïve Bayes Classifier :
Multinomial Naïve Bayes
Naive Bayes adalah Multinomial yang digunakan untuk mengklasifikasi kategori
dokumen. Sebuah dokumen dapat dikategorikan bertema olahraga, politik, teknologi,
atau lain-lain berdasarkan frekuensi kata-kata yang muncul dalam dokumen.
Bernoulli Naïve Bayes
Tipe Bernoulli ini lebih berfokus pada hasil ya/tidak. Prediktor yang di-input adalah
variabel boolean. Misalnya, prediksi atas sebuah kata muncul dalam teks atau tidak.
Gaussian Naïve Bayes
Gaussian adalah asumsi pendistribusian nilai kontinu yang terkait dengan setiap fitur
berisi nilai numerik. Ketika diplot, akan muncul kurva berbentuk lonceng yang simetris
tentang rata-rata nilai fitur.
Langkah-langkah Naive Bayes
Menentukan Objek sebagai penilaian.
Menentukan data sebagai atribut atau karakteristik dari objek tersebut
Menentukan kelas seperti benar dan salah
Menentukan data objek tersebut
Hasil dari kelas jika umur A nilai hasil = “Benar” lebih rendah dari “Salah”, maka Umur
A Benar.
Contoh-Contoh Naïve Bayes
Klasifikasi Kendaraan Roda Empat Menggunakan Metode Naive Bayes.
Klasifikasi dan mempartisi Penjurusan Mahasiswa INSTIKI INDONESIA Menggunakan Algoritma
Naive Bayes.
Klasifikasi Serabut Kelapa Dengan Menggunakan Algoritma Naive Bayes Classification.
Penerapan Algoritma Naive Bayes Dalam Mengklasifikasi Pola Kelulusan Mahasiswa INSTIKI
INDONESIA
Memprediksi Masa Studi Mahasiswa Sistem Komputer S1 Fakultas Teknik Komputer INSTIKI
INDONESIA menggunakan Algoritma Naive Bayes.
Menetukan Kesiapan Mahasiswa INSTIKI INDONESIA Dalam Menghadapi UAS Dengan
Mengimplementasikan Algoritma Naive Bayes.
Penggunaan Algoritma Naive Bayes Dalam Menetukan Kelayakan Calon Tenaga Kerja yang akan
diperkerjakan di Luar Negeri.
Penggunaan Metode Naive Bayes dan SVM Dalam Menganalisis Sentimen Data Mahasiswa
INSTIKI INDONESIA
Penerapan Teknik Data Mining dan Algoritma Naive Bayes Dalam Klasifikasi Ketepatan Waktu
Lulus Mahasiswa INSTIKI INDONESIA
Mengklasifikasi Artikel Berita Otomatis Dalam Bahasa Indonesia Dengan Menggunakan
Algoritma Naive Bayes Classifier.
Mengklasifikasikan Data Nasabah Bank Berdasarkan Penghasilan Terendah Dengan
Menggunakan Algoritma Naive Bayes.
Memprediksi Penyakit COVID-19 Dengan Komparasi Metode Klasifikasi Data Mining Algortima
C4.5 Dengan Algortima Naive Bayes.
Penerapan Algoritma Naive Bayes Dalam Mengklasifikasi Mahasiswa yang bermasalah pada
proses Registrasi.
Mengetahui Minat Baca Mahasiwa INSTIKI INDONESIA Dengan Menerapkan Data Mining
Algoritma Naive Bayes.
Implementasi Algoritma Naive Bayes Dalam Menentukan Calon Mahasiswa INSTIKI INDONESIA
Penerimaan Program Beasiswa Pemerintah.
Diagnosa Penyakit Kanker Menggunakan Algoritma Naive Bayes.
Penggunaan Algoritma Naive Bayes Klasifikasi Dalam Proses Analisis Sentimen Dengan
Memanfaatkan Saran Kuesioner Evaluasi Pembelajaran.
Penerapan Algoritma Naive Bayes Dalam Memprediksi Besarnya Penggunaan Air Rumah Tangga
Selama 1 Bulan.
Kelebihan Naïve Bayes
Kelebihan utama Naïve Bayes itu model yang sederhana tapi dapat bersaing dengan
model algoritma lainnya. Implementasinya juga tidak terlalu rumit dan cocok untuk
mengevaluasi probabilitas bersyarat. Penerapan pada Naïve Bayes juga sangat cepat dan ada
iterasi, karena probabilitas dapat langsung dihitung. Algoritma ini memiliki kecepatan pelatihan
yang tinggi saat kita membutuhkannya. Terlebih jika asumsi independensi berlaku akan
memberikan hasil yang bagus. Kelebihan lainnya seperti bisa menangani kuantitatif dan data
diskrit, kokoh untuk titik noise yang diisolasi, jumlah data pelatihan yang kecil untuk
mengestimasi parameter, menangani nilai yang hilang dengan mengabaikan instansi selama
perhitungan estimasi peluang, cepat dan juga efisiensi ruang.
Kekurangan Naïve Bayes
Naïve Bayes ini menerapkan asumsi independensi yang bersyarat, karena hal ini tidak
selalu berlaku. Naïve Bayes juga memiliki masalah probabilitas nol, pada saat kita menemukan
kata-kata dalam data pengujian untuk kelas tertentu yang tidak ada dalam data pelatihan.
Kemungkinan kita akan berakhir dengan probabilitas “Zero Frequency”. Probabilitas nol juga
bisa diatasi dengan Teknik penghalusan dengan cara menambahkan factor penghalusan pada
pembilang dan penyebut probabilitas akan menghindari munculnya nilai nol. Naïve Bayes juga
memiliki estimator yang buruk dan dalam situasi nyata rangkaian fitur independent ini sulit
ditemukan.
Implementasi Naïve Bayes Python
Disini kami menggunakan data game player yang akan di implementasikan menggunakan
algoritma Naïve Bayes Gaussian Python, berikut langkah-langkahnya :
Pertama buat data di Exel
Setelah membuat data, kemudian masuk ke Python, disini kami mengunakan Jupyter
Notebook
Setelah itu buat lembaran baru dengan memilih menu New dan bahasa Python3
Setelah itu import library yang digunakan
Setelah import library, bisa di import data pada excel tadi ke jupyter notebook
Ketikan perintah dataset, maka akan muncul semua data yang kita buat di excel
Ketikan perintah seperti berikut untuk membuat variable x ( fitur ) dan y ( dependent
variable ) dan menggunakan fungsi iloc untuk memindahkan berdasarkan indexnya
Hasil variable x
Hasil variabel y
Kemudian di dalam data ada jenis numerical data dan kategori data, ketikan perintah
LabelEncoder dari library sklearn
Kemudia liat hasilnya
Kemudian perintah untuk kategori data dan hasilnya
Split Data untuk membagi x dan y menjadi x_test dan x_train sama juga dengan y
Hasil dari (x_train)
Hasil dari (x_test)
Feature Scaling untuk membuat nilai (scale) yang sama
Training Naïve Bayes dan menggunakan tipe Gaussian
Predict Result untuk melihat hasilnya
Evaluasi pada model data untuk mengetahui akurasi
Daftar Pustaka
[Link]
[Link]
[Link]
[Link]
[Link]
[Link]
links/5cab15724585157bd32a75b6/[Link]
[Link]
[Link]