MINI RISET

JUDUL : ALGORITMA K-NEAREST NEIGHBOR (KNN)

OLEH KELOMPOK 8
No Nama Nim
1. Christina Amanda Surbakti 4231260016
2. Junitro Simanullang 4233260031
3. Togi Sianturi 4233560011

Kelas : PSS 23 B
Mata Kuliah : Algoritma dan Bahasa Pemrograman
Dosen Pengampuh : Dian Septiana, [Link].,[Link]

PROGRAM STUDI STATISTIKA

FAKULTAS MATEMATIKA DAN ILMU PENGETAHUAN ALAM

UNIVERSITAS NEGERI MEDAN

2024

i
 KATA PENGANTAR

Puji syukur kami panjatkan kepada Tuhan Yang Maha Esa karena berkat dan
rahmatnyalah kami kelompok 8 dapat menyelesaikan tugas mini riset mata kuliah
Algoritma dan Pemrograman yang diberikan oleh Ibu Dian selaku dosen
pengampu mata kuliah ini.
Berdasarkan hasil diskusi bersama oleh kelompok 8 pada tugas mini riset kali
ini kami sepakat untuk memilih Algoritma K-Nearest Neighbor sebagai judul
yang akan kami bahas lebih lanjut dihalaman utama. Kami berharap tugas mini
riset ini dapat memberikan manfaat bagi kelompok kami dan juga para pembaca
lainnya.
Kami menyadari bahwa masih banyak kekurangan pada tugas mini riset ini.
Jikalau terdapat kesalahan, kelompok kami siap menerima kritikan dan saran yang
membangun kesempurnaan mini riset ini.

Medan, 11 Mei 2024

Kelompok 8

ii
 DAFTAR ISI

KATA PENGANTAR.............................................................................................ii
DAFTAR ISI..........................................................................................................iii
BAB I PENDAHULUAN........................................................................................1
A. Latar Belakang.................................................................................................1
B. Rumusan Masalah............................................................................................1
C. Tujuan Penulisan.............................................................................................1
BAB II PEMBAHASAN.........................................................................................2
A. Pengertian Algoritma K-Nearest Neighbor.....................................................2
B. Langkah-Langkah Algoritma K-NN................................................................3
C. Bentuk Flowchart dan Pseudocode..................................................................5
BAB III PENUTUP.................................................................................................6
A. Kesimpulan......................................................................................................6
B. Saran................................................................................................................6
DAFTAR PUSTAKA..............................................................................................7

iii
 BAB I PENDAHULUAN

A. Latar Belakang
Algoritma adalah serangkaian langkah-langkah logis dan terstruktur yang
digunakan untuk memecahkan suatu masalah atau melakukan tugas tertentu.
Terdapat banyak jenis algoritma yang berkaitan dengan statistika, diantaranya : K-
Mean Clustering, Last Mean Square, Maximum likelihood, K-Nearest Neighbor
(KNN) dan yang lainnya.
Melalui mini riset ini akan dibahas mengenai Algoritma K-Nearest Neighbor
(KNN), sehingga dapat diketahui bersama bagaimana bentuk dari Algoritma ini
serta proses kerjanya.

B. Rumusan Masalah
1. Apa itu Algoritma K-Nearest Neighbor ?
2. Bagaimana cara kerja Algoritma K-Nearest Neighbor ?
3. Bagaimana bentuk Flowchart dan Pseudocode dari Algoritma K-Nearest
Neighbor ?

C. Tujuan Penulisan
1. Untuk mengetahui apa itu Algoritma K-Nearest Neighbor
2. Untuk menganalisis proses kerja Algoritma K-Nearest Neighbor
4. Untuk memaparkan bentuk Flowchart dan Pseudocode dari Algoritma K-
Nearest Neighbor

1
 BAB II PEMBAHASAN

A. Pengertian Algoritma K-Nearest Neighbor

Algoritma K-NN (K-Nearest Neighbors) termasuk kedalam salah satu jenis
algoritma yang digunakan dalam ilmu komputer dan pembelajaran mesin
( machine learning). Algoritma K-Nearest Neighbor adalah algoritma supervised
learning dimana hasil dari instance yang baru diklasifikasikan mayoritas dari
kategori K- tetangga terdekat. Secara simpel kita dapat menarik pengertian dari K-
Nearest Neighbor dimana Near dalam bahasa inggris artinya adalah dekat dan
Neighbor adalah tetangga.
K- Nearest Neighbors merupakan sebuah metode untuk klasifikasi terhadap
objek berdasarkan data training yang jaraknya terdekat. Klasifikasi adalah proses
kategorisasi data dengan memasukkan data tersebut ke dalam kategori tertentu
dari kategori yang tersedia. Teknik dalam klasifikasi ialah melakukan kategorisasi
data training untuk membuat suatu model untuk melakukan kategorisasi pada data
testing yang tersedia Tujuan dari Algoritma K-NN untuk mengklasifikasi objek
baru berdasarkan berdasarkan mayoritas dari kategori K-Nearest Neighbors.
Sebagai contoh :

Perhatikan gambar diatas. Katakanlah kita telah memplot titik data dari set
training kita pada ruang fitur 2 dimensi. Terdapat 6 titik data (3 merah dan 3 biru)
Titik data merah milik ‘kelas 1’ dan titik data biru milik ‘kelas 2’, dan titik data
kuning di ruang fitur mewakili titik baru yanag kelasnya akan diprediksi. Dari
gambar sudah dapat kita prediksi bahwa titik kuning adalah milik ‘kelas 1’ (titik
merah). Hal ini dikarenakan tetangga terdekatnya termasuk dalam kelas tersebut.
Inilah prinsip di balik K_Nearest Neighbor, di sini tetangga terdekat adlah titik

2
data yang memiliki jarak minimum dalam ruang fitur dari titik data baru. Dan K
adalah jumlah titik data yang dipertimbangkan dalam implementasi algoritma.
Oleh karena itu, metrik jarak dan nilai K merupakan dua pertimbangan penting
saat menggunakan algoritma KNN. Jarak Euclidean adalah metrik jarak yang
populer.

Jarak Euclidean adalah penggunaan ukuran jarak yang paling umum. Dalam
kebanyakan kasus, ketika orang mengatakan tentang jarak, mereka akan mengacu
pada jarak euclidean. Jarak Euclidean juga dikenal sebagai jarak sederhana. Jarak
Euclidean antara dua titik adalah panjang lintasan yang menghubungkan kedua
titik tersebut.
B. Langkah-Langkah Algoritma K-NN
1. Menentukan nilai K (jumlah tetangga paling dekat). Nilai K dapat dihitung
menggunakan persamaan berikut ini :
k =√ N dimana N adalah banyaknya sampel pada data training

2. Melakukan perhitungan nilai jarak (euclidean distance) terhadap masing-

masing objek data yang diberikan. Rumus untuk menghitung euclidean
distance dapat dilihat pada persamaan berikut :

√∑
n
d ( x , y )= ¿¿¿
i=1

d ( x , y )= √ ¿ ¿
Dimana :

3
 d ( x , y )= jarak euclidean
x i=data training
y i=data testing

3. Melakukan pengelompokkan data (pengurutan) sesuai dengan perhitungan

jarak (Euclidean distance)
4. Melakukan pengelompokkan data sesuai dengan nilai tetangga terdekat
(nearest neighbor) atau berdasarkan data yang mempunyai jarak Euclidean
terkecil
5. Memilih nilai mayoritas dari tetangga terdekat sebagai hasil klasifikasi

Penerapan sederhana algoritma knn dalam menentukan ukuran baju wanita

dengan bantuan software R

4
 C. Bentuk Flowchart dan Pseudocode
Mulai
Flowchart

Data training(N),
Data Testing,
Size, Cluster

Input data training Perhitungan jarak nilai k terdekat

Tetapkan nilai k

k=√ N UrutkaJarak terdekat hingga

jarak terjauh
Menghitung jarak Euclidean

√∑
n
d ( x , y )= ¿¿¿
i=1

Perhitungan jarak nilai k terdekat

Tentukan cluster sesuai jarak minimum

berdasarkan pendekatan nilai K

Tampilkan hasil clustering

data

Selesai

Pseudocode

- Start
- Write Data training dan data testing
Compute k ← k=√ N
-

√∑
n
- Compute jarak Euclidean ←d ( x , y )= ¿¿¿
i=1
- Compute jarak nilai K terdekat
- Determine Cluster
- Print cluster

5
- End

6
 BAB III PENUTUP

A. Kesimpulan
Algoritma K-Nearest Neighbor (KNN) merupakan algoritma machine
learning sederhana dan mudah diterapkan yang dapat digunakan untuk
menyelesaikan masalah klasifikasi dan regresi. Algoritma ini termasuk
dalam jenis supervised learning. Algoritma K-Nearest Neighbor (KNN)
adalah algoritma machine learning yang bersifat non-parametric dan lazy
learning. Metode yang bersifat non-parametric memiliki makna bahwa
metode tersebut tidak membuat asumsi apa pun tentang distribusi data
yang mendasarinya. Dengan kata lain, tidak ada jumlah parameter atau
estimasi parameter yang tetap dalam model, terlepas data tersebut
berukuran kecil ataupun besar. Dalam kasus terburuk, KNN membutuhkan
lebih banyak waktu untuk memindai semua titik data. Proses ini juga akan
membutuhkan lebih banyak memori untuk menyimpan data training. K-
Nearest Neighbor termasuk salah satu algoritma paling sederhana yang
digunakan dalam machine learning untuk regresi dan klasifikasi. KNN
mengikuti strategi “bird of a feather” dalam menentukan di mana data baru
sebaiknya ditempatkan. Algoritma KNN mengasumsikan bahwa sesuatu
yang mirip akan ada dalam jarak yang berdekatan atau bertetangga.
Artinya data-data yang cenderung serupa akan dekat satu sama lain.

B. Saran
Algoritma K-NN dapat kita gunakan untuk menyelesaikan masalah
masalah klasifikasi dan regresi. Melalui mini riset ini kami berharap
banyak diantara kita yang mendapatkan informasi mengenai Algoritma K-
NN dan dapat menerapkannya untuk menyelesaikan suatu masalah.

Demikianlah makalah Mini Riset ini kami buat, kami menyadari

terdapat banyak kekurangan dalam tugas mini riset kami ini terutama pada
bagian flowchart dan Pseudocenya, kami berharap setiap kritikan dan
saran yang membangun baik dari ibu dosen maupun teman - teman
sekalian dapat disampaikan kepada kami agar kami dapat mengetahui apa
saja yang menjadi kekurangan dalam makalah mini riset ini.

7
 DAFTAR PUSTAKA

Kusuma, J., Rosnelly, R., & Hayadi, B. H. (2023). Klasifikasi Penyakit

Daun Pada Tanaman Jagung Menggunakan Algoritma
Support Vector Machine, K-Nearest Neighbors dan
Multilayer Perceptron. Journal of Applied Computer
Science and Technology, 4(1), 1-6.

Fasnuari, HAD, Yuana, H., & Chulkamdi, MT (2022). Penerapan

Algoritma K-Nearest Neighbor Untuk Klasifikasi Penyakit
Diabetes Melitus. ANTIVIRUS: Jurnal Ilmiah Teknik
Informatika , 16 (2), 133-142.

Alkhussayid, M. D., & Ferdiansyah, F. (2022). Implementasi Algoritma

K-Nearest Neighbors Pada Penentuan Jurusan Siswa. Jurnal
Sistem Komputer dan Informatika (JSON), 4(1), 25-36.

Prasetya, C. S. D. (2017). Sistem Rekomendasi Pada E-Commerce

Menggunakan K-Nearest Neighbor. Jurnal Teknologi
Informasi dan Ilmu Komputer (JTIIK) p-ISSN, 2355, 7699.

[Link]
neighbor-k-nn-389297de543e

[Link]
implementation-in-python/

[Link]

[Link]
and-implementation-of-knn-algorithm/

[Link]
pengertian-dan-penerapan/

8
Mulai

Tb, Bb, Size