09
NATURAL LANGUAGE
PROCESSING
GRAMMAR DAN PARSING
Fakultas
AFIYATI SSi., MT.
FAKULTAS ILMU
KOMPUTER
Program Studi
INFORMATIKA
MATERI
1. Pengenalan NLP
2. Pre-processing
3. Word Embedding
4. Klasifikasi teks dengan perceptron
5. Pemodelan bahasa (dasar dan lanjut)
6. Part-of-speech tagging
7. Context Free Grammar dan Parsing
8. Neural Network (NN) / Recurrent Neural Network (RNN)
9. Named Entity Recognition (NER)
[Link] Summarization
[Link] Short-Term Memory (LSTM)
[Link] Final Project
GRAMMAR
Grammar adalah suatu aturan yang menentukan bagaimana
suatu kalimat dalam suatu bahasa dibentuk. Grammar berisi
kumpulan sintax yang baku/benar dari suatu bahasa.
Contoh :
Dalam bahasa Indonesia, suatu kalimat biasanya terdiri dari
Subject-Predikat-Object-Keterangan
PARSER
Parsers adalah suatu metode atau suatu program (sering
disebut suatu mesin) yang dapat memproduksi/
menghasilkan kalimat atau bahasa yang sesuai dengan
Grammar yang sudah ditentukan atau diinginkan.
Parsers juga dapat memeriksa apakah suatu kalimat yang
dimasukkan sesuai dengan Grammar atau tidak.
JENIS PARSERS
Parsers terdiri dari dua jenis, yaitu :
1. Top-Down Parsing
memulai proses parsing dari simbol start dan
menggunakan aturan grammar sampai simbol-simbol
terminal pada tree terhubung ke komponen kalimat
yang di parsing
2. Bottom-Up Parsing
memulai proses parsing dari kalimat yang akan di
parsing dan menggunakan aturan grammar secara
terbalik untuk memproduksi kata menjadi terminal,
terminal menjadi kalimat sampai tree/ pohon lengkap
dan simbol start tercapai
TUJUAN PARSER
Tugas pertama dari NLP adalah membaca teks atau
melakukan ‘parse’ pada teks.
Parsing tergantung pada ti ga komponen
dari bahasa yaitu :
1. Lexicon
2. Categorization
3. Grammar Rules
LEXICON
stench | breeze | glitter | nothing | wumpus | pit | pits | gold | east | ..
is | see | smell | shoot | feel | stinks | go | grab | carry | kill | turn | …
right | left | east | south | back | smelly | …
here | there | nearby | ahead | right | left | east | south | back | …
me | you | I | it | S=HE | Y’ALL …
John | Mary | Boston | UCB | PAJC | …
the | a | an | …
to | in | on | near | …
and | or | but | …
0|1|2|3|4|5|6
|7|8|9
7
CATEGORIZATION
Noun > stench | breeze | glitter | nothing | wumpus | pit | pits | gold | east | ..
Verb > is | see | smell | shoot | feel | stinks | go | grab | carry | kill | turn | …
Adjective > right | left | east | south | back | smelly | …
Adverb > here | there | nearby | ahead | right | left | east | south | back | …
Pronoun > me | you | I | it | S=HE | Y’ALL …
Name > John | Mary | Boston | UCB | PAJC | …
Article > the | a | an | …
Preposition > to | in | on | near | …
Conjunction > and | or | but | …
Digit > 0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9
8
GRAMMAR RULES
• “Mangga itu kuning”
• Kalimat diatas dapat di parse oleh sistem NLP
jika mempunyai susunan Grammar yaitu :
Subjek – Predikat – Objek – Keterangan
• Jika sistem dapat memberikan kalimat
yang mempunyai pola sesuai dengan
aturan Grammar maka kalimat tersebut
tidak dapat di ‘parse”
MAKA …
• Parsing adalah proses dari penggunaan
aturan Grammar untuk menentukan
apakah kalimat yang diberikan benar
atau salah,
• Dan untuk menentukan Syntactic
Tree-nya.
7
SYNTACTIC TREE
sentenc
e
Noun verb
phrase phrase
Articl adjective nou Ver noun
e n b phrase
Articl adjective noun
e
Th larg ca eat the smal rat
e e t s l
1
1
EVALUASI PARSING
Dua cara paling dasar dan paling sering digunakan
untuk mengevaluasi parsing:
1
2
PRECISION, RECALL, AND F1-SCORE
Perhitungannya dilihat dari tabel berikut ini:
1
3
Terima Kasih
AFIYATI SSi., MT.