Kategori: machine learning

  • Pembelajaran Mesin Probabilistik

    Saya lagi baca buku Machine Learning: A Probabilistic Perspective karya Kevin Murphy. Buku ini menjelaskan tentang Pembelajaran Mesin dengan pendekatan Probabilistik. Jadi sekarang ini kan era Big Data. Konon katanya Saking banyaknya data ini, kita gak akan kerepotan untuk melakukan analisa data tersebut secara manual. Sehingga dikembangkan lah machine learning. Machine learning bisa dibilang sebagai…

  • Naive Bayes

    Naive Bayes adalah sekumpulan algoritma klasifikasi dalam mesin learning yang menggunakan teori Bayes. Naive Bayes tidak hanya sebuah algoritma, namun sekumpulan algortima yang menggunakan asumsi yang sama. Yaitu nilai semua fitur independen terhadap fitur yang lain. Contoh fiturnya, buah dapat diklasifikasikan sebagai apel bila merah, bulat dan memiliki diameter 7,5 cm. Klasifier naive bayes menganggap…

  • Independence event – probabilitas

    Dalam ilmu probabilitas, dua event (kejadian) disebut independence bila kejadin pada satu event tidak mempengaruhi probabilitas pada kejadian yang lain. Contohnya misalnya kita melempar dua dadu secara bersamaan. Peluang kejadian sebuah dadu tidak akan mempengaruhi peluang kejadian pada dadu lainnya. Namun pada kejadian dependent, probabilitas suatu kejadian mempengaruhi probabilitas kejadian yang lain. Contohnya misalnya kita…

  • Algoritma Chow-Liu

    Pada tulisan sebontihelumnya telah dibhas tentang Bayesian Network, kemudian tentang structured learning menggunakan algoritma Chow-Liu. Berikut ini adalah contoh pencarian tree terbaik menggunakna algoritma chow-liu dengaan greedy algoritma untuk mencari max-spanning tree. Misalnya diperoleh dari perhitungan chow lie diperoleh nilai bobot antar edge sebagai berikut: Pada gambar diatas terdapat 7 variabel, A-G. Harusnya memang fully…

  • Pembelajaran struktur Bayes Net

    Pada tulisan sebelumnya telah dipelajari tentang Bayesian Netwok pada kasus struktur dan variabelnya lengkap. Kemudian pada kasus dimana ada variabel yang tidak lengkap, yaitu menggunakan EM (Expectation maximization). Sekarang akan dibahas tentang pembelajaran struktur bayes net, yaitu kasus dimana datanya diketahui tapi struktur graphnya tidak diketahui. Secara umum untuk mempelajari struktur graph diperlukan data yang…

  • Expectation Maximization untuk Klasifikasi Dokumen

    Pada tulisan sebelumnya telah dibahas tentang teknik Expectation Maximization. Pada tulisan ini dibahas tentang penggunaan teknik Expectation maximization untuk klasifikasi dokumen. Contohnya dari penelitian Nigam et.al tahun 2000. Sebagai input adalah sekumpulan dokumen teks yang memiliki label (Dl) namun ada juga dokumen yang tidak memiliki label (Du). Kemudian dibangun klasifier Bayes dari dokumen yang memiliki…

  • Bayesian Network – Expectation Maximization

    Pada tulisan sebelumnya telah dipaparkan tentang proses pembelajaran pada Bayesian Network, contohnya pada kasus dimana struktur graph diketahui dan datanya fully observed yaitu dengan menggunakan perhitungan MLE (maximum likelihood estimate). Namun bagaimana bila ada nilai variabel yang tidak diketahui? Contohnya pada graph berikut, nilai Sinus tidak diketahui, nilai variabel lainnya diketahui. Untuk memudahkan perhitungan kita…

  • Decision Tree – ID3

    Kemaren dapet PR buat bikin Decision Tree dari tabel berikut: Langkah buat bikin decision tree nya: Hitung entropy sistem Hitung entropy masing2 atribut Hitung information gain & Gain masing2 atribut Pilih atribut tertinggi buat jadi root Bikin tabel pemilahan data Mulai lagi dari poin 1 untuk bikin simpul dan cabang Untuk perhitungan entropi pake rumus:…

  • Pengenalan Machine Learning-1

    Machine Learning (ML) adalah salah satu teknologi yang sedang berkembang pesat. Contohnya ML digunakan oleh email untuk melakukan filtering spam. ML digunakan juga oleh google maupun amazon untuk memberikan rekomendasi atau saran kepada kita mengenai buku yang sesuai dengan minat kita. ML digunakan juga untuk melakukan pengenalan wajah. ML juga digunakan google translate untuk menerjemahkan…

  • Materi Kuliah Deep Learning

    Kemaren ada temen yang share materi kuliah Deep Learning di grup. Materi ini adalah materi kuliahnya UC Berkeley, dosennya Alexander Smola dan Mu Li. Materinya cukup lengkap mulai dari dasar Deep Learning, multilayer perceptron, backpropagation, automatic differentiation, dan stochastic gradient descent. Kemudian ada juga materi convolutional networks untuk image processing,mulai dari arsitektur LeNet, ResNet dan…