Saya nemu tulisan menarik dari mas Hatma tentang XAI : Explainable Artificial Intelligence. Jadi Machine Learning dan Artificial Intelligence saat ini udah mulai banyak dipake. Misalnya untuk deteksi orang pake masker atau gak dari kamera, atau untuk baca plat nomor mobil dari kamera, sampai untuk prediksi tren harga saham dll.
Nah teknologi ML dan AI ini ada banyak banget, mulai dari yang sederhana sampe yang kompleks. Cuman semakin canggih algoritma yang digunakan kadang semakin sulit untuk dijelaskan atau dipahami. Misalnya kita bikin sistem ML untuk prediksi kanker dari sebuah hasil Scan. Nah mesin biasanya dikasi sejumlah gambar hasil scan beserta labelnya misalnya kanker atau bukan kanker. Kemudian si mesin akan mencari pola yang bisa ngebedain antara kanker dan bukan. Sehingga dia bisa melakukan model untuk melakukan klasifikasi.
Cuman semakin kompleks sistem ML misalnya pake deep learning, maka biasanya semakin sulit hasil klasifikasinya dapat dipahami atau dijelaskan ke orang. Kenapa gambar A itu kanker, kenapa yang B bukan kanker misalnya.
Nah disinilah muncul XAI (explainable machine learning). XAI ini berusaha bikin model AI yang keputusan atau klasifikasinya bisa dijelaskan/dipahami. Mas Hatma dari ITS di tulisannya cerita panjang lebar tentang apa itu XAI. Disana dia jelasin tentang apa itu transparansi algoritma, penjelasan global dan penjelasan lokal.
Kemudian dia cerita juga Model AI mana yang memiliki transparansi tinggi, dan model mana yang kompleks. Kemudian untuk yang kompleks ada beberapa metode XAI yang bisa digunakan diantaranya:
- Partial Dependence Plot (PDP)
- Individual Conditional Expectation (ICE)
- Feature Interaction
- Local Interpretable Model Agnostic Explanation (LIME)
- Scoped Rules (Anchors)
- SHAP (SHapley Addictive exPlanations
Tulisan lengkapnya bisa dilihat disini:
Tentang buku interpretable machine learning:
https://interpretable-ml.keamanansiber.id
Video demo tentang XAI dari mas Hatma dan Pruf Mushashi:
Semoga Bermanfaat!