Text Mining
Preprocessing teks, BoW, TF-IDF, embedding, klasifikasi, topic modeling, dan NLP modern, pakai contoh ulasan produk berbahasa Indonesia.
Isi materi
- Apa itu Text Mining
- Text Preprocessing
- Bag-of-Words & TF-IDF
- Word Embeddings
- Text Classification
- Evaluation Metrics
- Topic Modeling
- Sentiment Analysis
- Modern NLP
- Decision Guide
- Pitfalls
Istilah penting
- Text Mining
- Proses menggali informasi/pola berguna dari data teks tidak terstruktur.
- NLP (Natural Language Processing)
- Cabang ilmu komputer yang memproses & memahami bahasa manusia.
- Corpus
- Kumpulan dokumen teks yang dipakai sebagai bahan analisis/training.
- Token
- Unit terkecil hasil pemecahan teks, biasanya berupa kata.
- Tokenization
- Proses memecah teks mentah menjadi token-token (kata/subword).
- Stopword
- Kata sangat umum (yang, di, dan, dst.) yang biasanya dibuang karena minim makna pembeda.
- Stemming
- Memotong imbuhan kata supaya bentuk berbeda dari akar kata yang sama dianggap satu token.
- Bag-of-Words
- Representasi teks sebagai kumpulan kata beserta frekuensinya, tanpa memperhatikan urutan.
- TF-IDF
- Bobot kata yang naik kalau sering muncul di satu dokumen, tapi turun kalau muncul di hampir semua dokumen.
- N-gram
- Urutan n kata berurutan, dipakai supaya konteks urutan kata ikut tertangkap.
- Word Embedding
- Representasi kata sebagai vektor angka, kata dengan makna mirip punya vektor yang berdekatan.
- Cosine Similarity
- Ukuran kemiripan dua vektor berdasarkan sudut di antara keduanya, bukan panjangnya.
- Naive Bayes
- Model klasifikasi probabilistik berbasis teorema Bayes dengan asumsi fitur saling independen.
- Precision
- Dari semua yang diprediksi positif, berapa persen yang benar-benar positif.
- Recall
- Dari semua yang sebenarnya positif, berapa persen yang berhasil terprediksi positif.
- F1-Score
- Rata-rata harmonik precision dan recall, dipakai saat butuh satu angka ringkasan.
- Confusion Matrix
- Tabel yang membandingkan label aktual vs prediksi untuk tiap kelas.
- Topic Modeling
- Teknik menemukan kelompok topik laten dari kumpulan dokumen secara tidak terawasi.
- LDA (Latent Dirichlet Allocation)
- Algoritma topic modeling probabilistik yang mengasumsikan tiap dokumen campuran beberapa topik.
- Sentiment Analysis
- Klasifikasi teks berdasarkan polaritas opini: positif, negatif, atau netral.
- NER (Named Entity Recognition)
- Mendeteksi & melabeli entitas dalam teks, misal nama orang, lokasi, organisasi.
- Transformer
- Arsitektur deep learning berbasis attention, dasar model NLP modern seperti BERT dan GPT.
- Attention
- Mekanisme yang membiarkan model "fokus" ke bagian input yang paling relevan saat memproses tiap kata.
- BERT
- Model bahasa berbasis Transformer yang dilatih dua arah (bidirectional) untuk memahami konteks kata.
- IndoBERT
- Varian BERT yang dilatih khusus pada korpus Bahasa Indonesia.
- Fine-tuning
- Melatih lanjutan model yang sudah dipretrain supaya cocok untuk tugas spesifik.
- Class Imbalance
- Kondisi jumlah data antar kelas timpang jauh, bisa membuat model bias ke kelas mayoritas.