Pada tulisan sebelumnya telah dibahas mengenai teknik EM (Expectation Maximization). Teknik ini dapat digunakan pada Bayesian Network untuk memprediksi variabel yang tidak diketahui. Sekarang akan diberikan contoh menggunakan Expectation Maximization pada Naive Bayes Classifier untuk memprediksi data yang belum diketahui labelnya. Contoh berikut dikutip dari kuliah Tom Mitchell:

Pada graph terlihat Y adalah parent dari X1,x2,x3,x4. Pada tabel diatas ada dua nilai Y yang tidak diketahui. Maka menggunakan EM kita akan mulai menghitung dengan nilai Y random kemudian menghitung expected value E berikut:

kemudian melakukan estimasi seperti MLE:

Secara MLE menjadi:

EM ini hanya digunakan bila ada variabel tidak diketahui, namun bila semua variabel tidak diketahui maka persoalannya menggunakan algoritma clustering.

Sampai disini dulu. Pada tulisan berikutnya akan dibahas tentang penggunaan EM untuk klasifikasi dokumen. Semoga Bermanfaat!

Referensi:

Mitchell, Tom. “Machine learning.” (1997): 870-877.