NAMA :
KHUSNUL MEILANI PUTRI
NIM : 2110031802127
MATAKULIAH : KECERDASAN BUATAN
TUGAS : RIVIEW JURNAL DEEP LEARNING
JURNAL 1
Judul Artikel MESIN PENTERJEMAH BAHASA INDONESIA-BAHASA
SUNDA MENGGUNAKAN RECURRENT NEURAL
NETWORKS
Author Yustiana Fauziyah1), Ridwan Ilyas2), Fatan Kasyidi3)
Nama Jurnal JURNAL TEKNOINFO
URL Jurnal [Link]
Vol. No. Volume 16, Nomor
Bulan dan Tahun Terbit 2, Juli2022
ISSN ISSN: 1693-0010(Print), ISSN: 2615-224X(Online)
Abstrak Penterjemah merupakan suatu proses dimana suatu bahasa diubah
ke dalam bahasa lain. Penterjemah pada Penelitian lalu dilakukan
dengan menggunakan pendekatan Phrase-based Statistical
Machine Translation (PSMT). Penelitian ini membangun sebuah
penerjemah Bahasa Indonesia ke Bahasa Sunda. Adapun tahapan
yang digunakan dimulai dari pra proses menggunakan text
preprocessing dan word embedding Word2Vecdan pendekatan yang
digunakan yaitu Neural Machine Translation(NMT)dengan
arsitektur Encoder-Decoderyang didalamnya terdapat sebuah
Recurrent Neural Network(RNN). Pengujian pada penelitian
menghasilkan nilai optimal oleh GRU sebesar 99,17%. Model
dengan menggunakan Attentionmendapat 99.94%. Penggunaan
model optimasi mendapat hasil optimal oleh Adam 99.35% dan
hasil BLEU Scoredengan optimal bleu 92.63% dan
brievitypenalty0.929. Hasil dari mesin penterjemah menghasilkan
prediksi pelatihan dari Bahasa Indonesia ke Bahasa Sunda apabila
input kalimat sesuai dengan korpusdan hasil terjemahan kurang
sesuai ketika input kalimat berbeda dari [Link] Kunci:mesin
penterjemah, NMT, RNN, SeqToSeq, Attention.
Masalah yang diteliti MESIN PENTERJEMAH BAHASA INDONESIA-BAHASA
SUNDA
Latar Belakang Negara Indonesia memiliki bahasa nasional yaituBahasa Indonesia
Masalah yang digunakan dalam keseharian oleh mayoritas masyarakatnya,
disamping bahasa nasional Indonesia juga memiliki bahasa daerah,
salah satunya yaitu Bahasa Sunda yang ada di Jawa Barat. Menutur
penelitian terdahulu, penutur Bahasa Sunda mengalami penurunan
dari tahun ke tahun dan juga banyak karya ataupun sastra yang
ditulis dalam Bahasa Sunda, namun tidak semua mengerti mengenai
Bahasa Sunda, sehingga dibutuhkan suatu penterjemahan dalam
lingkup Bahasa Sunda. Penterjemahan termasuk pada kategori
Natural Language Processing(NLP) atau pemrosesan bahasa
alami[3], dalam bidangnya yang disebut dengan
MachineTranslation(MT) atau mesin penterjemah. MT melakukan
sebuah konversi dari bahasa sumber atau bahasa yang digunakan ke
bahasa target organisasi atau bahasa tujuan[4], banyak pendekatan
yang dilakukan dalam MT yaitu Statistical Machine
Translation(SMT), Rule-based Machine Translation(RMT), Phrase-
based Machine Translation(PMT) dan Neural Machine
Translation(NMT)[5]. Penelitian terdahulu mengenai penterjemahan
Bahasa Sunda ke Bahasa Indonesia dilakukan dengan
menggunakan pendekatan Phrase-based Statistical Machine
Translation(PSMT).
Tujuan Penelitian Untuk menerjemah bahasa indonesia ke suna dengan NMT
Metode yang Penelitian ini mengusulkan pendekatan NMT pada mesin
Digunakan penterjemahkan kalimat Bahasa Indonesia ke Bahasa Sunda
menggunakan arsitektur Encoder-Decoderdengan penggunaan
metode RNN LSTM untuk memproses kata masukan pada mesin
penterjemah dan mekanisme tambahan yaitu
AttentionMechanism, selanjutnya dilakukan pengujian untuk
pengukuran akurasi model dengan
BilingualEvaluationUnderstudy(BLEU)
Implementasi Metode DatasetData yang digunakan pada penelitian ini berasal dari
terhadap Kasus atau penelitian terdahulu yang merupakan korpus low-resource Bahasa
Penyelesaian Masalah Sunda loma
dengan Metode Praproses DataPraproses data dilakukan untuk mengolah data agar
siap digunakan di tahap proses pembelajaran pada model NMT
mesin penterjemah
Recurrent Neural NetworksRNN merupakan merupakan suatu
metode dalam deep learning yang digunakan untuk memproses data
sekuensial dengan pemanggilan berulang. Pada arsitektur RNN
memiliki beberapa jaringan neuron yang berbalik dari dirinya
sendiri atau ke neurondi layer inputsehingga jaringan dapat
menyimpan nilai yang memberi dampak pada cara inputuntuk
menghasilkan nilai sebelumnya ke dalam jaringan
Sequence to SequenceDalam mesin penterjemah terdapat suatu
pemetaan dari urutan kata input ke urutan kata output. Namun
dalam bentuk nyata penterjemahan urutan kata input terkadang
berbeda dengan kata ruang output, selain itu panjang ukuran input
terkadang tidak sama dengan panjang ukuran outputdan letak urutan
yang dihasilkan
Hasil Penelitian dan Dalam penelitian ini terdapat beberapa pengujian yang dilakukan
Pembahasan yaitu pengujian arsitektur RNN, pengujian model NMT dengan
Attention dan tanpa Attention, pengujian model optimasi dan
pengujian BLEU [Link] yang digunakan berasal dari
pengembangan data dengan penggunaan Bahasa Sunda jenis loma
dengan jumlah 3496 data. Untuk melihat optimal model
pembelajaran yang digunakan, pengujian dilakukan dengan
menggunakandua arsitektur model variasi dari Recurrent Neural
Network untuk dilakukan perbandingan yaitu LSTM dan GRU
dengan nilai pembelajaran 0.001 dengan 100 epochpada masing-
masing arsitektur.
Kesimpulan Penelitian ini mengusulkansistem mesin penterjemah Bahasa
Indonesia ke Bahasa Sunda dengan menggunakan pendekatan
Neural Machine Translation dengan aristektur Encoder-Decoder
dimana terdapatRNNdi dalamnya. Data yang digunakan pada mesin
penerjemah sebanyak 3496 paralel korpus Bahasa Indonesia dan
Bahasa Sunda. Pada pengujian dari mesin penerjemah dilakukan
beberapa pengujian diantaranya : pengujian arsitektur RNN,
pengujian model NMT dengan Attention dan tanpa Attention,
pengujian model optimasi dan pengujian BLEU Score. Hasil yang
didapatkan pada penelitian ini pada pengujian pertama arsitektur
model variasi dari RNNdidapatkan nilai optimal oleh GRU akurasi
sebesar 99.17%. Pengujian kedua menghasilkan nilai optimal oleh
model dengan menggunakan Attention dengan nilai akurasi 99.94%.
Pengujian ketiga dalam perbandingan model optimasi dimana Adam
mendapat hasil optimal dengan nilai akurasi 99.35%. Pengujian
terakhir yaitu BLEU Score dimana menghasilkan nilai optimal bleu
92.63%dengan brievity penalty0.929. Penelitian ini menggunakan
kategori Bahasa Sunda loma atau bahasa sunda yang digunakan
untuk percakapan sebaya, mesin penterjemah menghasilkan prediksi
pelatihan yang sesuai dimana data korpus menghasilkan keluaran
yang sesuai
Saran dari Author Adapun saran untuk penelitian selanjutnya yaitu melakukan
mengembangan data yang lebih banyak untuk menghasilkan
variasi predict yang lebih baik pada model NMT sehingga akan
lebih mudah untuk mengenali kata-kata yang lebih banyak saat
pelatihan dalam model bahasa dan dapat menerapkan penggunaan
Transformer Neural Network untuk language model pada mesin
penterjemah
Menurut anda, Membuat langsung aplikasinya
pengembangan apa
yang bisa dilakukam
terhadap penelitian ini
JURNAL 2
Judul Artikel SISTEM PERINGKAS OTOMATIS ABSTRAKTIF DENGAN
MENGGUNAKAN RECURRENT NEURAL NETWORK
Author Kuncoro Yoko, Viny Christanti M, Janson Hendryli
Nama Jurnal Journal of Computer Science and Information Systems
URL Jurnal [Link]
Vol. No. Volume 2 no 1
Bulan dan Tahun Terbit 2018
ISSN ISSN:2715-906X
Abstrak Peringkas teks otomatis berusaha untuk membuat teks lebih
pendek sambil mempertahankan [Link] ini
menggunakan Recurrent Neural Network (RNN) untuk membuat
ringkasan dari teks Bahasa Indonesia. Korpus yang digunakan
didapatkan dari situs [Link] dan [Link].
Word2vec digunakan untuk membuat word embedding dari korpus
kemudian data set dilatih dengan RNN untuk membuat sebuah
model. Model ini digunakan untuk membuat berita. Model
terbaik dicari dengan mengganti ukuran hidden state
word2vec dan RNN. Pengujian sistem dan Q&A Evaluation
digunakan untuk mengevaluasi model. Pengujian sistem
menunjukkan model dengan 6457 data set, word2vec
berukuran 200, dan hidden state RNN berukuran 256
memberikan akurasi terbaik yaitu 99.8810%. Model ini
kemudian dievaluasi dengan Q&A Evaluation. Q&A Evaluation
menunjukkan model memberikan akurasi sebesar 46.65%.Kata
kunci—Information Retrieval, Peringkas Teks Otomatis,
Peringkas Teks Abstraktif, Reccurent Neural Network, RNN
Encoder-Decoder
Masalah yang diteliti PERINGKAS OTOMATIS ABSTRAKTIF
Latar Belakang Kegiatan membaca adalah salah satu hal yangsering
Masalah dilakukan oleh [Link] teknologi
menyebabkan melimpahnya berita, artikel, dan bacaan lainnya
yang dapat dicari. Hal ini dapat menghabiskan banyak waktu
untuk membaca bacaan-bacaan [Link] adalah suatu
cara yang efektif untuk menyajikan suatu karangan yang panjang
dalam waktu yang singkat. Oleh sebab itu, ringkasan dapat
mempermudah untuk mengambil inti dari suatu bacaan.
eringkasan terdiri dari dua tipe yaitu ekstraktif dan abstraktif.
Ekstraktif meringkas suatu dokumen dengan memilih sebagian
dari kalimat yang ada dalam dokumen asli. Abstraktif
melakukan peringkasan dengan cara menginterpretasi teks asal
melalui proses transformasi suatu kalimat asli
Tujuan Penelitian untuk menghitung akurasi dari metode RNN Encoder-Decoder
dan mencari dan mendapatkan nilai optimal dari variabel-
variabel yang terdapat pada RNN Encoder-Decoderdan
Word2vec. Variabel-variabel yang diteliti yaitu jumlah hidden
stateWord2vecdan jumlah hidden stateRNN Encoder-Decoder.
Metode yang MENGGUNAKAN RECURRENT NEURAL NETWORK
Digunakan
Implementasi Metode Data yang diperlukan dalam penelitian ini adalah koleksi
terhadap Kasus atau berita dan koleksi ringkasan. Berita dikumpulkan dari situs
Penyelesaian Masalah [Link] 180 berita atau disebut dengan
dengan Metode koleksi berita kompas dan [Link] 6273 berita
atau disebut dengan koleksi berita detik. Total berita yang
dikumpulkan adalah 6453 berita. Kedua koleksi berita tersebut
dikumpulkan dengan menggunakan program scraperyang dapat
mengumpulkan berita tanpa perlu menerima seluruh taghtml-
[Link] Word2vec dalam penelitian ini menggunakan data
latih berupa koleksi berita detik dan koleksi berita kompas.
Hasil dari pelatihan Word2vec adalah 61497 token untuk
koleksi berita detik dan 6197 token untuk koleksi berita
kompas dengan vektor word embedding-nya. Word
embeddingini digunakan sebagai bobot sebuah kata di dalam
koleksi [Link] pertanyaan yang digunakan untuk Q&A
berjumlah 250 pertanyaan. Pertanyaan-pertanyaan ini terdiri
dari lima pertanyaan untuk lima puluh berita data uji. Data
uji ini terdiri dari 70% data latih dan 30% data dari luar data
[Link] sistem dilakukan dengan menggunakan data kompas
dan data detik. Ringkasan asli dari data latih dibandingkan
dengan ringkasan sistem. Jika semua token dari ringkasan
sistemsama dengan ringkasan asli maka jumlah ringkasan
benar bertambah satu. Akurasi dari model adalah jumlah
ringkasan benar dibagi dengan jumlah seluruh ringkasan dikalikan
dengan 100.
Hasil Penelitian dan Pembahasan dibagi menjadi dua yaitu pembahasan pengujian
Pembahasan sistem dan pembahasan pengujian Q&A Evaluation.
Pembahasan dilakukan dengan membandingkan berita dengan
ringkasan sistem.
Kesimpulan Berikut beberapa hal yang dapatdisimpulkan dari penelitian
sistem peringkas otomatis abstraktif dengan RNN yang telah
dilakukan, antara lain:
[Link] menunjukkan bahwa model terbaik diperoleh dengan
jumlah word2vecsebanyak 200 dan jumlah hidden statesebanyak
256 dengan losssebesar0.0006654 dan akurasi sebesar
99.8810% untuk pengujian sistem dan akurasi sebesar 46,65%
untuk pengujian Q&A Evaluation.
[Link] dapat menghasilkan ringkasan yang baik jika topik dari
berita yang diringkas mirip dengan topik berita yang berada di
dalam data latih walaupun kata-kata pada berita berbeda dengan
data latih.
[Link] yang dibuat sistem berupa ringkasan dengan kata-kata
yang berhubungan subjek atau lokasi dari berita.
Saran dari Author -
Menurut anda, Meluncurkan aplikasi nya atau web nya
pengembangan apa
yang bisa dilakukam
terhadap penelitian ini
JURNAL 3
Judul Artikel ANALISIS SENTIMEN PADA BPJS KESEHATAN
MENGGUNAKAN RECURRENT NEURAL NETWORK
Author Faisal Faturohman1, Budhi Irawan, [Link]., M.T.2, Casi
Setianingsih, S.T., M.T.3
Nama Jurnal e-Proceeding of Engineering
URL Jurnal [Link]
Vol. No. Vol.7, No.2
Bulan dan Tahun Terbit Agustus 2020
ISSN ISSN : 2355-9365
Abstrak Twitter merupakan media sosial yang digunakan untuk
menyampaikan opini, bertukar informasi, mengunggah video dan
foto. Pada media sosial Twitter pertukaran informasi yang
cepat menjadi kelebihan, sehingga sering digunakan dalam
menyampaikan berita maupun opini berupa kritik dan saran
seperti kepada lembaga pemerintah, contohnya setiap ada isu
kenaikan iuran pada BPJS Kesehatan selalu menjadi perang
opini antara masyarakat. BPJS Kesehatanmerupakan lembaga
pemerintah yangmenjamin kesehatan masyarakat indonesia,
dalam hal ini pekerja negeri sipil maupun pekerja swasta
diwajibkan untuk mendaftar asuransi tersebut, serta adanya
asuransi untuk masyarakat yang tidak mampu. Perang opini
terkaitisu kenaikan iuran BPJS Kesehatanantara masyarakat
tersebut berupa opini positif maupun negatif, maka akan dibuat
sebuah sistem analisis sentimen dengan metode klasifikasi
Recurrent Neural Network. Dengan adanya sistem tersebut
dapat membantu menganalisis opini berdasarkan perspektif
masyarakat pada media sosial Twitter. Dari hasil penelitian
pada tugas akhir ini dalam analisis sentimen pada pengguna
Twitter mendapatkan accuracy sebesar 86.67%, precision
sebesar 87%, recall sebesar 86.66%, dan F1 score sebesar
86.63%.Kata kunci : BPJS Kesehatan, Sentiment analysis,
Twitter, Recurrent Neural Network.
Masalah yang diteliti ANALISIS SENTIMEN PADA BPJS KESEHATAN
Latar Belakang Masalah Badan Penyelenggara Jaminan Sosial (BPJS) Kesehatan
bukanlah merupakan lembaga yang baru, lembaga ini sudah
dibentuk pada tahun 1968 dengan nama yang berbeda. Banyak
orang yang mengenalnya dengan nama PT Askes [1]. Namun
sekarang berganti nama menjadi Badan Penyelenggara Jaminan
Sosial (BPJS) Kesehatan sejak tahun 2014 [1]. Melalui
Program Jaminan Kesehatan Nasional-Kartu Indonesia
Sehat (JKN-KIS) yang diselenggarakan oleh BPJS Kesehatan,
negara hadir untuk memastikan seluruh masyarakat Indonesia
terlindungi oleh jaminan kesehatan yang komprehensif, adil, dan
merata tersebu. Perang opini terkait isu kenaikan iuran BPJS
Kesehatan antara masyarakat tersebut dapat berupa opini positif
maupun negatif, maka akan dibuat sebuah sistem analisis
sentimen dengan metode klasifikasi menggunakan
RecurrentNeural Network. Dengan adanya sistem tersebut
dapat membantu menganalisis opini berdasarkan perspektif
masyarakat terkait kebijakan BPJS Kesehatan pada media sosial
Twitter. Algoritma Recurrent Neural Network (RNN) dipilih
karena dapat memproses data yangbersambung (sekuensial),
selain itu algoritma ini juga dapat menyimpan informasi dari cell
sebelumnya, hal ini menjadi bukti kuat jika algoritma tersebut
cocok untuk pemrosesan teks khususnya sentiment analysis
Tujuan Penelitian mendapatkan hasil accuracy yang tinggi yaitu 91.01% pada
data testing [6]. Adanya fitur ekstraksi Word2Vec yang
digunakan akan menjadi fitur optimasi metode klasifikasi
RNN tersebut. Dengan adanya sistem ini, diharapakan bisa
membantu pengklasifikasian teks sesuai kelas sentimen
Metode yang Digunakan Recurrent Neural Network (RNN)
Implementasi Metode Gambaran Umum SistemDatasetyang akan diolah diambil pada
terhadap Kasus atau tweet pengguna Twitter. Pengambilan data didapatkan dengan
Penyelesaian Masalah librarypython GetOldTweets3 format data yang diambil adalah
dengan Metode format JSON (Java Script Object Notation) lalu diubah ke dalam
bentuk CSV. Setelah data diambil masuk ke dalam tahap Pre-
Processingagar data siap untuk proses klasifikasi. Selanjutnya
akan dilakukan pembobotan dengan Word2Vec dimana setiap
kata mempunyai nilai vectormasing –masing. Setelah setiap kata
mempunyai bobot akan dilakukan proses klasifikasi dengan
metode LSTM. Hasil dari klasifikasi akan berbentuk prediksi
tentang opini pengguna Twitter apakah bernilai sentimen positif
atau negatif, dan juga akan menggambarkan berapa persentase
positif dan negatif.
Perancangan SistemSistem analisis sentimen yang dibuat pada
penelitian tugas akhir merupakan sistem berbasis web. Data yang
digunakan sebesar 1400 data dengan 700 data berlabel positif
dan 700 berlabel negatif. Dan telah tervalidasi Balai Bahasa Jawa
Barat. Perancangan sistem dalam bentuk dokumentasi unified
modelling languageterdiri dari use case diagram, sequence
diagram
Hasil Penelitian dan Pengujian Partisi Data
Pembahasan Pengujian ini bertujuan untuk mengetahui partisi data mana
yang terbaik. Partisi dilakukan sebanyak 9 kali dengan membagi
data uji dan data latih dengan porsi yang berbeda.
PengujianLearning Rate
Pada pengujian sebelumnya proses partisi data didapatkan porsi
paling optimal yaitu dengan 90% data latih dan 10% data uji,
maka untuk proses pengujian learning rate akan memakai partisi
data tersebut untuk melihat learning rate mana yang terbaik
berdasarkan accuracy, precisiondanrecall.
Pengujian Epoch
Setelah dilakukan pengujian learning rate, maka selanjutnya
dilakukan pengujian parameter epoch untuk menguji kembali
apakah terdapat perubahan kenaikan pada accuracy, precision
danrecall.
Pengujian Batch Size
Setelah dilakukan pengujian epoch, maka selanjutnya dilakukan
pengujian parameter batch sizeuntuk menguji kembali apakah
terdapat perubahan pada accuracy, precisiondan recall.
Kesimpulan [Link] analisis sentimen dalam Bahasa Indonesia pada tweet
pengguna BPJS Kesehatan menggunakan metode klasifikasi
Recurrent NeuralNetwork berbasis web berhasil
mengklasifikasikan komentar Twitter penggunaBPJS Kesehatan
berupa 55.1% negatif dan44.9% positif.
[Link] performansi sistem diperoleh model dengan partisi data
90% data latih dan 10% data uji dengan nilai rata-rata parameter
precision, recall, dan f-1 score sebesar 86.66% dan accuracy
sebesar86.67%.
[Link] pengujian beta dapat disimpulkan jika web
Analisis Sentimen pada BPJS Kesehatan telah valid dan
reliablesehingga user dapat mengetahui hasil analisis sentimen
Saran dari Author Ditambahkan proses clustering agar dapat mengetahui topik yang
dibicarakan
Menurut anda, Menambahkan bentuk permasalaahan yang ada
pengembangan apa yang
bisa dilakukam terhadap
penelitian ini