Regresi linear adalah 2.

Langkah-langkah:
• teknik dalam machine learning yang digunakan untuk memahami hubungan linier antara • Mengukur tekanan sebenarnya menggunakan alat kalibrasi yang akurat pada beberapa titik yang
variabel dependen (target) dan satu atau lebih variabel independen (fitur). telah ditentukan.
• Tujuan utama regresi linear adalah untuk menghasilkan model prediksi yang dapat digunakan • Merekam nilai output sensor yang sesuai dengan tekanan tersebut.
untuk memprediksi nilai variabel dependen berdasarkan nilai variabel independen. • Membangun model regresi linear untuk memodelkan hubungan antara output sensor dan
tekanan sebenarnya.
Implementasi dan Interpretasi hasil LR. Implementasi: 3. Implementasi:
• Menggunakan teknik regresi linear pada data untuk membangun model prediksi. • Variabel Input (X): Nilai output sensor (misalnya, tegangan atau nilai digital).
• Menyesuaikan model dengan data menggunakan teknik seperti metode kuadrat terkecil • Variabel Output (y): Nilai tekanan yang sebenarnya (dalam satuan yang sesuai).
(ordinary least squares). • Melakukan pengolahan data dan fitting model regresi linear:

Interpretasi: 4. Interpretasi Hasil:

• Koefisien regresi: Menunjukkan seberapa besar pengaruh variabel independen terhadap • Setelah model regresi linear dibangun, kita dapat menggunakan model tersebut untuk
variabel dependen. memprediksi nilai tekanan berdasarkan nilai output sensor yang diukur.
• Intercept: Nilai prediksi variabel dependen ketika semua variabel independen adalah nol. • Dengan demikian, sensor dapat dikalibrasi untuk memberikan pembacaan tekanan yang lebih
• Evaluasi model: Menggunakan metrik evaluasi seperti R-squared untuk mengukur seberapa baik akurat.
model linear cocok dengan data. • Dalam contoh ini, regresi linear digunakan untuk memodelkan hubungan antara output sensor
(variabel input) dengan nilai tekanan sebenarnya (variabel output) sehingga sensor dapat
Evaluasi Kinerja Model Regresi diandalkan untuk memberikan pembacaan yang tepat dalam berbagai kondisi.
• Mean Squared Error (MSE): Mengukur rata-rata dari kuadrat perbedaan antara nilai aktual dan
nilai prediksi dari model. KLASIFIKASI DAN REGRESI LOGISTIK
• R-squared (R2): Mengukur seberapa baik variabilitas dari variabel dependen dapat dijelaskan • Machine Learning: Machine Learning (ML) adalah cabang dari kecerdasan buatan yang
oleh model. Nilai R2 berkisar antara 0 hingga 1, di mana nilai yang lebih tinggi menunjukkan memungkinkan komputer untuk belajar dari data tanpa pemrograman eksplisit.
model yang lebih baik cocok dengan data. • Dengan kata lain, algoritma machine learning memungkinkan komputer untuk belajar dari
pengalaman (data) dan meningkatkan kinerjanya seiring waktu.
• Tujuan utama dari machine learning adalah untuk membuat model atau sistem yang dapat
mengidentifikasi pola dalam data dan membuat keputusan atau prediksi berdasarkan pola-pola
tersebut
• Klasifikasi: Klasifikasi adalah tugas dalam machine learning di mana kita mencoba untuk
memprediksi kelas atau label dari suatu data berdasarkan fitur-fiturnya.
• Dalam konteks klasifikasi, kita memiliki sejumlah contoh data yang sudah diberi label, dan tujuan
kita adalah untuk mengembangkan model yang dapat mempelajari pola dari data latih ini
sehingga dapat melakukan prediksi yang akurat pada data baru yang belum dilihat sebelumnya.
• Regresi Logistik: Regresi logistik adalah metode dalam statistik yang digunakan untuk melakukan
klasifikasi, yaitu memprediksi probabilitas bahwa suatu instance termasuk dalam suatu kelas
tertentu.
• Regresi logistik sering digunakan untuk masalah klasifikasi biner di mana kita ingin memprediksi
apakah suatu instance termasuk dalam kelas positif atau kelas negatif berdasarkan fitur-fiturnya.
• Dengan memahami konsep-konsep dasar machine learning seperti klasifikasi dan regresi logistik,
kita dapat membangun model yang dapat membantu dalam pengambilan keputusan, analisis
data, dan pemecahan masalah dalam berbagai bidang seperti keuangan, kesehatan, perbankan,
dan lain-lain.

Definisi Klasifikasi:
• Klasifikasi merupakan salah satu tugas utama dalam machine learning yang bertujuan untuk
memprediksi kelas atau label dari suatu data berdasarkan fitur-fiturnya.
• Dalam konteks klasifikasi, kita memiliki kumpulan data yang terdiri dari beberapa instance atau
contoh, di mana setiap instance memiliki satu atau lebih fitur yang menggambarkan
karakteristiknya.
• Fitur-fitur ini dapat berupa atribut numerik atau kategori yang digunakan untuk membedakan
satu instance dari yang lain.

Contoh Aplikasi Klasifikasi:

• Pengenalan Tulisan Tangan: Membedakan antara angka yang ditulis dengan tangan.
• Deteksi Penipuan: Mengidentifikasi transaksi yang mencurigakan dalam keuangan.
• Diagnosis Medis: Membedakan antara pasien yang sehat dan yang sakit berdasarkan gejala dan
riwayat kesehatan mereka

Algoritma Klasifikasi:
• Ada berbagai algoritma yang dapat digunakan untuk tugas klasifikasi, termasuk:
• Decision Trees: Membagi ruang fitur menjadi beberapa bagian berdasarkan aturan keputusan.
• Support Vector Machines (SVM): Mencari hyperplane pemisah yang optimal antara kelas-kelas
data.
• K-Nearest Neighbors (KNN): Menyimpulkan kelas dari instance baru berdasarkan mayoritas
kelas-kelas tetangga terdekatnya.

Evaluasi Klasifikasi
• Untuk mengevaluasi kinerja model klasifikasi, kita menggunakan berbagai metrik seperti akurasi,
presisi, recall, dan F1-score.
• Akurasi mengukur seberapa sering model benar memprediksi kelas, sedangkan presisi dan recall
memberikan informasi tentang seberapa baik model dalam memprediksi kelas positif dan
menemukan semua instance positif dalam data, secara berturut-turut.
• Dengan pemahaman tentang konsep klasifikasi, kita dapat memilih dan menerapkan algoritma
yang tepat untuk masalah yang dihadapi dan mengevaluasi kinerja model dengan benar untuk
memastikan hasil yang akurat dan dapat diandalkan.

• Setiap jenis regresi linear memiliki karakteristik dan kegunaan yang berbeda tergantung pada Definisi Regresi Logistik
dataset dan masalah yang dihadapi. • Regresi logistik adalah metode statistik yang digunakan dalam machine learning untuk
• Pemilihan model regresi yang tepat sangat penting untuk mendapatkan hasil prediksi yang melakukan klasifikasi.
akurat dan generalisasi yang baik pada data baru • Tujuan utama dari regresi logistik adalah memprediksi probabilitas bahwa suatu instance
termasuk dalam suatu kelas tertentu berdasarkan fitur-fiturnya.
Contoh • Meskipun namanya mengandung kata "regresi", regresi logistik sebenarnya digunakan untuk
• Dalam bidang instrumentasi atau sensor, regresi linear dapat digunakan untuk memodelkan tugas klasifikasi, bukan regresi.
hubungan antara variabel input dari sensor dengan variabel output yang diamati atau diukur.
• Berikut adalah contoh penerapan regresi linear dalam bidang instrumentasi atau sensor: Output dari Regresi Logistik
Kalibrasi sensor tekanan. • Keluaran atau output dari regresi logistik adalah probabilitas bahwa suatu instance termasuk
1. Deskripsi Masalah: dalam kelas positif.
Sebuah sensor tekanan digunakan untuk mengukur tekanan dalam sebuah tangki. Namun, • Probabilitas ini dinyatakan sebagai angka antara 0 dan 1, di mana nilai yang lebih dekat ke 1
respons sensor tidak selalu linier terhadap tekanan sebenarnya. Diperlukan kalibrasi untuk menunjukkan probabilitas yang lebih tinggi bahwa instance termasuk dalam kelas positif,
mengonversi nilai output sensor menjadi nilai tekanan yang sebenarnya. sedangkan nilai yang lebih dekat ke 0 menunjukkan probabilitas yang lebih rendah.
Interpretasi Koefisien
• Koefisien 𝛽0 adalah intercept yang menunjukkan titik di mana fungsi logistik melintasi sumbu
𝑦.
• Koefisien 𝛽1 menunjukkan kekuatan dan arah hubungan antara variabel independen 𝑥 dengan
probabilitas kelas positif.
• Dengan pemahaman tentang konsep regresi logistik, kita dapat membangun dan
mengevaluasi model regresi logistik untuk melakukan klasifikasi dengan akurat.
• Hal ini memungkinkan kita untuk membuat prediksi probabilitas dari kelas tertentu
berdasarkan fitur-fitur yang diamati.

Implementasi Regresi Logistik

• Data Preprocessing: Langkah awal dalam implementasi regresi logistik adalah mempersiapkan
data. Ini termasuk pembersihan data, pengkodean kategori (jika ada), dan normalisasi fitur
jika diperlukan. Data harus dipersiapkan agar sesuai untuk digunakan dalam model.
• Pembagian Data: Setelah data dipersiapkan, langkah berikutnya adalah membaginya menjadi
set latih, set validasi, dan set uji. Set latih digunakan untuk melatih model, set validasi
digunakan untuk mengevaluasi kinerja model selama proses pelatihan, dan set uji digunakan
untuk menguji kinerja model yang telah dilatih.
• Pembangunan Model: Setelah data dibagi, langkah terakhir adalah membangun model regresi
logistik menggunakan algoritma yang sesuai. Model ini akan diberikan data latih untuk
melatihnya dan belajar pola dalam data, sehingga nantinya dapat digunakan untuk membuat
prediksi pada data baru.
Kurva ROC (Receiver Operating Characteristic)
Evaluasi Model Klasifikasi
• ROC Curve: ROC curve adalah plot dari True Positive Rate (TPR) vs False Positive Rate (FPR)
• Confusion Matrix: Confusion matrix adalah tabel yang digunakan untuk mengevaluasi kinerja
pada berbagai threshold. TPR adalah jumlah instance positif yang diprediksi dengan benar
model klasifikasi. Ini menggambarkan jumlah prediksi yang benar dan salah yang dibuat oleh
dibagi oleh jumlah instance positif sebenarnya. FPR adalah jumlah instance negatif yang salah
model pada data uji. Confusion matrix memiliki empat sel: True Positive (TP), True Negative
diprediksi sebagai positif dibagi oleh jumlah instance negatif sebenarnya.
(TN), False Positive (FP), dan False Negative (FN).
• Area Under Curve (AUC): AUC adalah ukuran kinerja keseluruhan model. Ini mengukur
• Accuracy: Accuracy adalah rasio prediksi yang benar dari semua prediksi yang dibuat oleh
keseluruhan kemampuan model untuk membedakan antara kelas positif dan negatif. Semakin
model. Ini dihitung dengan rumus:
dekat AUC ke 1, semakin baik modelnya dalam membedakan antara kelas

Overfitting:
• Definisi: Overfitting terjadi ketika model machine learning terlalu rumit dan "menghafal" data
latih dengan baik, tetapi tidak dapat menggeneralisasi dengan baik pada data baru. Dalam kasus
overfitting, model menangkap noise dan detail kecil dari data latih yang seharusnya diabaikan.
• Penyebab: Overfitting dapat disebabkan oleh berbagai faktor, termasuk jumlah fitur yang terlalu
besar, jumlah sampel data yang terlalu kecil, atau kompleksitas model yang berlebihan.
• Dampak Negatif: Overfitting dapat menyebabkan kinerja model menurun saat diterapkan pada
data baru yang tidak terlihat sebelumnya. Hal ini dapat menghasilkan prediksi yang tidak akurat
dan tidak dapat diandalkan.

Regularisasi
• Definisi: Regularisasi adalah teknik yang digunakan dalam machine learning untuk mencegah
overfitting dengan menambahkan penalitas pada parameter model. Tujuannya adalah untuk
mendorong model untuk menjadi lebih sederhana dan mengurangi kompleksitasnya.
• Metode Regularisasi: Beberapa metode regularisasi yang umum digunakan termasuk:
• Ridge Regression (L2 Regularization): Menambahkan penalti kuadrat dari norma L2 dari
koefisien model ke fungsi tujuan.
• Lasso Regression (L1 Regularization): Menambahkan penalti nilai absolut dari koefisien
model ke fungsi tujuan.
• Elastic Net: Kombinasi dari Ridge dan Lasso regularization.

• Tujuan: Tujuan utama dari regularisasi adalah untuk membatasi kelebihan kompleksitas model
dan mendorong model untuk lebih umum. Ini membantu mencegah model dari overfitting pada
data latih dan meningkatkan kinerjanya pada data baru.
• Penyesuaian Parameter Regularisasi: Parameter regularisasi (seperti alpha pada Ridge dan
Lasso regression) harus disesuaikan dengan baik untuk mencapai keseimbangan yang tepat
antara kompleksitas model dan kemampuan generalisasinya.

• CLUSTERING adalah teknik dalam unsupervised learning yang digunakan untuk

mengelompokkan data ke dalam kelompok atau klaster berdasarkan kemiripan antar data.
• Tidak seperti supervised learning, di mana model dilatih dengan data yang diberi label, clustering
bekerja dengan data tanpa label dan mencoba menemukan struktur atau pola dalam data.
• Tujuan Clustering: Mengelompokkan data yang memiliki karakteristik serupa. • Mengidentifikasi
struktur tersembunyi dalam data. • Mengurangi kompleksitas data untuk analisis lebih lanjut

• UNSUPERVISED LEARNING adalah jenis machine learning di mana algoritma belajar dari data
yang tidak memiliki label atau output yang diketahui.
• Tujuan utamanya adalah untuk menemukan pola atau kelompok dalam data.

Aplikasi Clustering
• Segmentasi Pelanggan: Mengelompokkan pelanggan berdasarkan perilaku belanja mereka
untuk strategi pemasaran yang lebih efektif.
• Deteksi Anomali: Mengidentifikasi pola yang tidak biasa atau mencurigakan dalam data.
• Pengelompokkan Dokumen: Mengelompokkan artikel atau dokumen berdasarkan topik atau • Hierarchical clustering mengelompokkan titik-titik data ke dalam sebuah hierarki cluster.
konten. • Ada dua teknik untuk melakukan pengelompokan ini yaitu teknik pengelompokan hirarkis yang
• Analisis Gambar: Mengelompokkan gambar berdasarkan fitur visual seperti warna dan tekstur. bersifat membagi dan aglomeratif. Kedua teknik ini melibatkan penggabungan atau pembagian
cluster secara berulang.
Metode Clustering • Pengelompokan hirarki aglomeratif melibatkan mulai dengan setiap titik data sebagai cluster
• K-Means Clustering yang terpisah dan kemudian secara bertahap menggabungkan cluster sesuai dengan kesamaan
• Hierarchical Clustering untuk membentuk hirarki cluster
• DBSCAN (Density-Based Spatial Clustering of Applications with Noise)

K-Means Clustering
• K-Means clustering adalah algoritma unsupervised learning yang dipakai untuk
mengelompokkan dataset yang belum dilabel ke dalam kluster yang berbeda.
• Simbol K pada K-means clustering menandakan jumlah kluster yang digunakan
• Kluster mengacu pada kumpulan titik data yang dikumpulkan bersama karena kesamaan
tertentu. Jika K = 2, maka akan ada 2 kluster, dan jika K = 3 maka terdapat 3 kluster, begitu
seterusnya.
• Dengan demikian K-means clustering dapat didefinisikan sebagai algoritma iteratif yang
membagi kumpulan data (dataset) yang tidak berlabel menjadi k kluster yang berbeda
sedemikian rupa sehingga setiap kumpulan data hanya dimiliki oleh satu kelompok yang
memiliki properti serupa.

• Pengelompokan hirarkis terbagi melibatkan permulaan dengan satu klaster yang berisi semua
titik data dan kemudian secara metodis membaginya menjadi sub-klaster yang lebih kecil dan
lebih kecil lagi.
• Pembagian ini didasarkan pada ketidaksamaan antara titik-titik di dalam klaster. Ketidaksamaan
ini dapat dikuantifikasi dengan berbagai ukuran jarak seperti jarak Euclidean, Manhattan atau
Chebyshev

CARA KERJA
• Algoritma ini didesain untuk memungkinkan kita mengelompokkan data ke dalam grup yang
berbeda dengan cara yang lebih mudah berdasarkan variabel tertentu tanpa perlu melakukan
proses training.
• k-means clustering merupakan algoritma unspervised learning berbasis centroid, dimana
setiap cluster diasosiasikan dengan centroid.
• Tujuan utama dari algoritma ini adalah untuk meminimalkan jumlah jarak antara titik data dan
cluster yang sesuai.
• Algoritma K-means mengambil dataset yang tidak berlabel sebagai input, kemudian membagi Hierarchical Clustering:
dataset menjadi sejumlah k cluster, dan mengulangi proses tersebut sampai tidak • Proses:
menemukan cluster terbaik. Nilai k harus ditentukan sebelumnya dalam algoritma ini. ❖Agglomerative: Mulai dari setiap data sebagai klaster terpisah dan gabungkan klaster
• Algoritma k-means clustering melakukan dua tugas utama, yakni: yang paling mirip hingga semua data tergabung dalam satu klaster besar.
• Menentukan nilai terbaik untuk titik pusat K atau centroid dengan proses iteratif (perulangan). ❖Divisive: Mulai dari satu klaster besar yang berisi semua data dan bagi klaster menjadi
[Link] setiap titik data ke pusat k terdekat. Titik-titik data yang dekat dengan pusat-k lebih kecil secara rekursif.
tertentu, kemudian dibuatkan sebuah kluster • Kelebihan:
❖Tidak memerlukan penentuan jumlah klaster sebelumnya.
❖Memberikan dendrogram yang menunjukkan struktur hierarkis data.
• Kekurangan:
❖Tidak efisien untuk data berukuran besar.
❖Sensitif terhadap outlier.

K-Means Clustering:
• Proses:
❖Tentukan jumlah klaster 𝑘k.
❖Inisialisasi pusat klaster secara acak.
❖Atribusikan setiap data ke pusat klaster terdekat.
❖Perbarui pusat klaster dengan menghitung rata-rata posisi data dalam setiap klaster.
❖Ulangi langkah atribusi dan pembaruan hingga pusat klaster konvergen.
• Kelebihan:
❖Mudah diimplementasikan dan cepat.
❖Bekerja baik untuk data berukuran besar.
• Kekurangan:
❖Memerlukan penentuan jumlah klaster 𝑘k sebelumnya.
❖Sensitif terhadap inisialisasi awal pusat klaster.
❖Tidak cocok untuk klaster dengan bentuk yang tidak bulat atau ukuran yang berbeda.

Hierarchical Clustering DBSCAN (Density-Based Spatial Clustering of

• K-Means dan hierarchical clustering sama-sama merupakan Teknik untuk mengelompokkan titik- Applications with Noise):
titik data berdasarkan kemiripannya. • DBSCAN adalah algoritma pengelompokan yang digunakan untuk mengelompokkan titik-titik
• Namun, perbedaan antara K-Means clustering dan hierarchical clustering terletak pada data berdasarkan kepadatannya di dalam lingkungan yang ditentukan.
bagaimana mereka melakukan proses pengelompokan titik-titik data tersebut. • Algoritma ini mengklasifikasikan titik-titik menjadi titik inti, titik perbatasan, dan titik noise. Ini
sangat efektif untuk menemukan cluster dengan bentuk yang berubah-ubah dalam data spasial.
DBSCAN (Density-Based Spatial Clustering of Applications with ✓Ini dilakukan dengan mentransformasikan data ke ruang berdimensi lebih rendah, sambil tetap
Noise): mempertahankan informasi yang paling penting.
• Proses:
❖Mengelompokkan data berdasarkan kepadatan dan jarak antar titik data. Pentingnya Dimensi Reduksi
❖Mengidentifikasi klaster sebagai area dengan kepadatan tinggi yang dipisahkan oleh area 1. Mempermudah visualisasi data: Data dengan dimensi yang tinggi sulit untuk divisualisasikan dan
dengan kepadatan rendah. dianalisis. Dimensi reduksi dapat membantu dalam visualisasi data dengan mereduksi jumlah
• Kelebihan: variabel ke jumlah yang lebih mudah dikelola.
❖Dapat menemukan klaster berbentuk arbitrer. 2. Meningkatkan performa model: Jumlah fitur yang besar dapat berakibat pada overfitting, di
❖Tidak memerlukan penentuan jumlah klaster sebelumnya. mana model belajar dengan baik pada data pelatihan, tetapi tidak pada data baru. Dimensi
reduksi dapat membantu dalam mengurangi overfitting dengan memilih subset fitur yang paling
❖Robust terhadap outlier.
relevan.
• Kekurangan:
3. Mengurangi waktu komputasi: Model dengan banyak fitur membutuhkan waktu yang lama
❖Sensitif terhadap parameter epsilon dan minPts.
untuk dilatih dan diprediksi. Dimensi reduksi dapat membantu dalam mengurangi waktu
❖Tidak cocok untuk data dengan kepadatan variabel yang tinggi.
komputasi dengan mereduksi jumlah fitur yang perlu diproses.
4. Memperjelas hubungan antar variabel: Dimensi reduksi dapat membantu dalam
Evaluasi Kinerja Clustering
mengidentifikasi variabel yang paling penting dan hubungan antar variabel.
• Evaluasi kinerja clustering bertujuan untuk menilai seberapa baik klaster yang dihasilkan oleh
algoritma.
Pemilihan Teknik Dimensi Reduksi, tergantung pada beberapa faktor, seperti:
• Beberapa metrik dan metode yang umum digunakan untuk evaluasi clustering adalah: • Jenis data: Beberapa teknik lebih cocok untuk data numerik, sedangkan yang lain lebih cocok
• Inertia (Sum of Squared Errors - SSE):
untuk data kategorikal.
➢Mengukur total jarak kuadrat antara setiap titik data dan pusat klasternya. • Ukuran dataset: Beberapa teknik lebih efisien untuk dataset yang besar.
➢Semakin kecil nilai inertia, semakin baik klaster tersebut. • Tujuan analisis: Teknik yang dipilih tergantung pada tujuan analisis, seperti visualisasi data,
➢Cocok digunakan untuk K-Means Clustering. klasifikasi, atau regresi.
• Silhouette Score:
➢Mengukur seberapa dekat titik data dengan klasternya sendiri dibandingkan dengan klaster Definisi PCA
terdekat berikutnya. • Principal Component Analysis (PCA) adalah teknik analisis statistik multivariat yang digunakan
➢Nilai Silhouette Score berkisar dari -1 hingga 1, dengan nilai yang lebih tinggi menunjukkan untuk menyederhanakan data dengan mereduksi jumlah variabelnya. Teknik ini mengubah
klaster yang lebih baik. variabel asli yang saling berkorelasi menjadi variabel baru (komponen utama) yang tidak
➢Cocok untuk membandingkan berbagai jumlah klaster. berkorelasi (ortogonal) dengan jumlah yang lebih sedikit.
• Elbow Method: • Komponen utama diurutkan berdasarkan variansinya, dengan komponen utama pertama
➢Digunakan untuk menentukan jumlah klaster optimal dalam K-Means Clustering. memiliki variansi terbesar, dan seterusnya. Tujuannya adalah untuk menangkap sebanyak
mungkin variabilitas dalam data dengan menggunakan jumlah komponen utama yang minimal.
➢Grafik inertia diplot sebagai fungsi dari jumlah klaster. Titik di mana penurunan inertia
melambat (membentuk "siku") adalah jumlah klaster yang optimal
Tujuan Utama PCA
• Davies-Bouldin Index:
• Tujuan utama PCA adalah untuk menemukan fitur baru yang saling orthogonal dan menjelaskan
➢Mengukur rata-rata kesamaan antara setiap klaster dan klaster yang paling mirip.
varians data secara maksimal.
➢Nilai yang lebih rendah menunjukkan klaster yang lebih baik.
• Fitur baru yang saling orthogonal: Ini berarti bahwa komponen utama tidak berkorelasi satu
• Calinski-Harabasz Index: sama lain. Hal ini memudahkan interpretasi dan analisis data.
➢Mengukur rasio antara total dispersal antara klaster dan dispersal dalam klaster. • Menjelaskan varians data secara maksimal: Tujuannya adalah untuk memilih subset komponen
➢Nilai yang lebih tinggi menunjukkan klaster yang lebih baik. utama yang menangkap sebagian besar variabilitas dalam data. Hal ini memungkinkan
representasi data yang lebih ringkas dan efisien.

ALGORITMA DIMENSI REDUKSI: PRINCIPAL COMPONENT ANALYSIS (PCA)

KONSEP DAN PENERAPANNYA

• Principal Component Analysis (PCA) adalah teknik analisis statistik multivariat yang digunakan
untuk menyederhanakan data dengan mereduksi jumlah variabelnya.
• PCA mengubah variabel asli yang saling berkorelasi menjadi variabel baru yang tidak
berkorelasi (komponen utama) dengan jumlah yang lebih sedikit.
• Komponen utama diurutkan berdasarkan variansinya, dengan komponen utama pertama
memiliki variansi terbesar, dan seterusnya.
• Tujuannya adalah untuk menangkap sebanyak mungkin variabilitas dalam data dengan
menggunakan jumlah komponen utama yang minimal.

ALGORITMA PCA
Proses Pca Melibatkan Beberapa Langkah:
1. Standarisasi data: Pastikan semua variabel memiliki skala yang sama.
2. Menghitung matriks kovarian: Matriks ini menunjukkan bagaimana variabel-variabel
berkorelasi satu sama lain.
3. Mencari nilai eigen dan vektor eigen: Nilai eigen menunjukkan variabilitas yang ditangkap oleh
komponen utama, sedangkan vektor eigen menunjukkan arah komponen utama.
4. Memilih komponen utama: Pilih komponen utama yang menjelaskan sebagian besar
variabilitas dalam data.
5. Transformasi data: Proyeksikan data asli ke ruang komponen utama menggunakan vektor
eigen yang dipilih.

PENERAPAN PCA
PCA memiliki banyak aplikasi dalam berbagai bidang, termasuk:
1. Visualisasi data: PCA dapat digunakan untuk mereduksi dimensi data sehingga dapat
divisualisasikan dengan mudah, seperti dengan scatter plot atau grafik batang.
2. Kompresi data: PCA dapat digunakan untuk mengurangi ukuran data tanpa kehilangan informasi
yang penting.
3. Pemilihan fitur: PCA dapat membantu dalam mengidentifikasi variabel yang paling penting
dalam menjelaskan variabilitas dalam data.
4. Deteksi anomali: PCA dapat digunakan untuk mendeteksi data yang tidak sesuai dengan pola
umum dalam data.
5. Pembelajaran mesin: PCA dapat digunakan sebagai langkah awal dalam berbagai algoritma
pembelajaran mesin, seperti regresi linier dan klasifikasi.

KELEMAHAN DAN BATASAN PCA

• Interpretasi: Komponen utama tidak selalu memiliki interpretasi yang mudah.
• Kehilangan informasi: PCA dapat menyebabkan hilangnya informasi jika tidak dilakukan dengan
hati-hati.
• Penerapan pada data non-linier: PCA tidak efektif untuk data nonlinier.

Dimensi Reduksi dalam Machine Learning

✓ Dimensi reduksi dalam machine learning adalah teknik untuk mengurangi jumlah variabel dalam
suatu dataset.