Minggu lalu saya ikut kuliah Math for Machine Learning and Deep Learning. Kuliah ini bagian dari kuliah bulanan IAIS, kali ini pematerinya M Ghiffari, Head of AI Bukalapak. Ada 2 paradigma besar AI:
- Symbolic AI
- Statistical AI
Symbolic AI:
- Intelligence didapat dari manipulasi simbol abstrak
- Knowledge direpresentasikan sebagai kalimat dari simbol, contohnya logik formal
- Knowledge diturunkan dari proses logic reasoning
- desain top-down (deductive): a. spesifikasi knowledge (oleh domain expert ; b. knowledge representation; c. inferencing dengan symbol processing
- Contohnya: sistem pakar, pemrograman logik, ontology, jaringan semantik, Algoritma pencarian klasi
Statistical AI
- Intelligence sebai manipulasi sinyal numerik
- knowledge direpresentasikan sebagai struktur dari nilai numerik
- Knowledge diturunkan dari reasoning numerik
- Desain Bottom-Up (Inductive): a. data sebagai contoh (bukan high level knowledge); b. Membangun model representasi data; c. Menggunakan model untuk menyelesaikan tugas intelegen seperti klasifikasi dan regresi
- Contoh: Bayesian probabilistic reasoning, neural network, komputer evolusi (algoritma genetik, swarm inteligen), Fuzzy logik, clustering
Machine learning (ML) adalah sebuah pendekatan modern dari Statistical AI. ML berguna bila:
- Orang yang ahli gak ada
- Ahli tidak bisa menjelaskan keahliannya
- Model dibangun berbasis data dalam jumlah besar
Tidak berguna bila:
- Pengetahuan dapat didefinisikan dalam rule yang jelas
- Pengetahuannya statis
Contoh orang tidak bisa menjelaskan keahliannya adalah bagaimana orang mengenali angka. Beberapa contoh kasus ML
- Pengenalan Pola: wajah, ekspresi, tulisan tangan, kata yang diucapkan, gambar medis, natural language
- Membuat pola: Gambar dan urutan gerak
- Mengenali anomali: deteksi fraud, pola tidak lazim pada pembacaan sensor di pembangkit nuklir
- Forecasting
Tipe-tipe Learning:
- Supervised : Mesin diberikan data training dan labels (output yang diinginkan)
- Unsupervised: diberikan training data tanpa output yang diinginkan
- Semi-supervised Learning: diberikan training data dan beberapa output yang diinginkan (label)
- Reinforcement Learning: reward dari sekumpulan aksa
Framework Supervised Learning:
Contoh Loss Function:
Regresi Linear:
Sampai disini dulu, nanti saya lanjutkan pada tulisan berikutnya insyaallah
Referensi:
https://mml-book.github.io/#:~:text=We%20wrote%20a%20book%20on,to%20read%20those%20other%20books
https://cs.nyu.edu/~mohri/mlbook/
https://stanford.edu/~shervine/teaching/cs-229/refresher-algebra-calculus