Matematika untuk machine learning


Minggu lalu saya ikut kuliah Math for Machine Learning and Deep Learning. Kuliah ini bagian dari kuliah bulanan IAIS, kali ini pematerinya M Ghiffari, Head of AI Bukalapak. Ada 2 paradigma besar AI:

  • Symbolic AI
  • Statistical AI

Symbolic AI:

  • Intelligence didapat dari manipulasi simbol abstrak
  • Knowledge direpresentasikan sebagai kalimat dari simbol, contohnya logik formal
  • Knowledge diturunkan dari proses logic reasoning
  • desain top-down (deductive): a. spesifikasi knowledge (oleh domain expert ; b. knowledge representation; c. inferencing dengan symbol processing
  • Contohnya: sistem pakar, pemrograman logik, ontology, jaringan semantik, Algoritma pencarian klasi

Statistical AI

  • Intelligence sebai manipulasi sinyal numerik
  • knowledge direpresentasikan sebagai struktur dari nilai numerik
  • Knowledge diturunkan dari reasoning numerik
  • Desain Bottom-Up (Inductive): a. data sebagai contoh (bukan high level knowledge); b. Membangun model representasi data; c. Menggunakan model untuk menyelesaikan tugas intelegen seperti klasifikasi dan regresi
  • Contoh: Bayesian probabilistic reasoning, neural network, komputer evolusi (algoritma genetik, swarm inteligen), Fuzzy logik, clustering

Machine learning (ML) adalah sebuah pendekatan modern dari Statistical AI. ML berguna bila: 

  • Orang yang ahli gak ada
  • Ahli tidak bisa menjelaskan keahliannya
  • Model dibangun berbasis data dalam jumlah besar

Tidak berguna bila:

  • Pengetahuan dapat didefinisikan dalam rule yang jelas
  • Pengetahuannya statis

Contoh orang tidak bisa menjelaskan keahliannya adalah bagaimana orang mengenali angka. Beberapa contoh kasus ML

  • Pengenalan Pola: wajah, ekspresi, tulisan tangan, kata yang diucapkan, gambar medis, natural language
  • Membuat pola: Gambar dan urutan gerak
  • Mengenali anomali: deteksi fraud, pola tidak lazim pada pembacaan sensor di pembangkit nuklir
  • Forecasting

Tipe-tipe Learning:

  • Supervised : Mesin diberikan data training dan labels (output yang diinginkan)
  • Unsupervised: diberikan training data tanpa output yang diinginkan
  • Semi-supervised Learning: diberikan training data dan beberapa output yang diinginkan (label)
  • Reinforcement Learning: reward dari sekumpulan aksa

Framework Supervised Learning:

Contoh Loss Function:

Regresi Linear:

Sampai disini dulu, nanti saya lanjutkan pada tulisan berikutnya insyaallah

Referensi:

https://mml-book.github.io/#:~:text=We%20wrote%20a%20book%20on,to%20read%20those%20other%20books

https://cs.nyu.edu/~mohri/mlbook/

https://stanford.edu/~shervine/teaching/cs-229/refresher-algebra-calculus


Silahkan tuliskan tanggapan, kritik maupun saran