AI VS ML VS DL gradien ditransmisikan kembali ke lapisan-
AI mengacu pada mesin yang mampu mengerjakan lapisan sebelumnya dengan aturan rantai.
pekerjaan-pekerjaan yang membutuhkan kepintaran 3. Parameter Update, memperbarui bobot dan
manusia. Cth: Smart Assistants, Self-driving car. bias menggunakan aturan optimisasi
ML merupakan subset dari AI yang berfokus pada (misalnya gradien descent).
system yang mampu belajar dari data dan algoritma. L1/L2 Regularization
ML dibagi 3: Regularization merupakan teknik yang digunakan
- Supervised Learning (label) untuk mencegah atau menghindari overfitting.
- Unsupervised Learning (unlabel) - L1 (Lasso): mendorong parameter model
- Reinforcement Learning (trial and error). (bobot) menjadi lebih sparse (sederhana). L1
cenderung melakukan seleksi fitur untuk
DL merupakan subset dari ML yang menggunakan menghilangkan bobot yang kurang penting.
neural network untuk mengerjakan pekerjaan ataupun - L2 (Ridge): mendorong parameter model
patterns yang kompleks. Cth: Face Recognition, (bobot) menjadi lebih kecil (mendekati nol)
Speech to text, Natural Language Translation. tetapi tidak nol. L2 mencegah parameter
Fungsi Aktivasi model menjadi terlalu besar, yang dapat
Fungsi Aktiviasi adalah fungsi matematika yang menyebabkan overfitting.
digunakan dalam jaringan saraf tiruan untuk L1 cenderung menghasilkan model yang lebih
mengubah output dari suatu neuron menjadi input spartan (sederhana) dan memungkinkan seleksi fitur,
untuk neuron berikutnya. Fungsi Aktivasi sementara L2 menghasilkan model dengan bobot
memungkinkan jaringan saraf tiruan untuk yang lebih merata. Secara probabilistik, L1 terkait
mempelajari pola yang lebih kompleks dan dengan distribusi Laplace, sedangkan L2 terkait
meningkatkan akurasi prediksi dengan dengan distribusi Gaussian.
menambahkan non-linearitas pada output dari suatu Dropout
neuron. Dropout digunakan untuk mengurangi overfitting dan
meningkatkan kinerja model. Tujuan dropout adalah
Jenis Fungsi Aktivasi: mencegah ketergantungan yang terlalu tinggi antara
1. Sigmoid: hasil keluaran antara 0 dan 1 unit-unit dalam jaringan. Dropout juga dapat
2. Tanh: hasil keluaran antara -1 dan 1 meningkatkan kecepatan pelatihan.
3. Softsign: hasil keluaran dlm rentang -1 hingga
1 Epoch
4. ReLU (Rectified Linear Unit): hasil keluaran 1 Epoch = 1 kali pelatihan penuh
positif, 0 untuk negative Noted: Terlalu banyak epoch bisa menyebabkan
5. Softplus: hasil keluaran bilangan riil yg selalu overfitting, terlalu sedikit bisa underfitting.
positif
6. Softmax: hasil keluaran bentuk vector
probabilitas yang jumlah selalu 1
BackPropagation
BackPropagation digunakan untuk melatih neural
network. BackPropagation memiliki 3 fase, yaitu:
1. Forward Propagation, menggunakan fungsi
aktivasi untuk meneruskan hasil ke neuron
berikutnya. Output berupa prediksi.
2. Backward Propagation, dimulai dengan
menghitung gradien kesalahan. Kemudian,
Tensorflow & MindSpore Contoh:
Agen: Robot Vacuum Cleaner
Kasus: Masalah, data, metode ML/DL
Prosessor AI
- CPU (Central Processing Unit) => Otak Komputer
- GPU (Graphics Processing Unit) => Nvidia, AMD
- TPU (Tensor Processing Unit) => Google
- NPU (Neural Processing Unit)
- Ascend AI Processor => Huawei
- FPGA (Field Programmable Gate Array) => Intel
- ASIC (Application-Specific Integrated Circuit)
GAN
Terdiri dari 2 jaringan neural yang saling
berkompetisi :
1. Generator (G)
- Bertugas menghasilkan data “palsu” yang
mirip dengan data asli
- Menerima input berupa noise acak dan
mengubahnya menjadi output yang
diiinginkan.
2. Diskriminator (D)
- Berperan sebagai “penilai” yang mencoba
membedakan antara data asli dan data palsu
dari generator
- Menerima input baik dari data asli maupun
data palsu, dan mengeluarkan probabilitas
input tersebut asli atau palsu.
Reinforcement Learning
PEAS (Performance, Environment, Actuator, Sensor)
Note: Actuator (Komponen yang melakukan aksi)