-
Pemodelan ketidakpastian dalam prediksi – SSL
Tulisan ini lanjutan tulisan sebelumnya tentang self-supervised learning Pada tulisan sebelumnya telah diceritakan tantangan penerapan SSL pada komputer vision adalah tentang pemodelan ketidakpastian. Untuk memahami tentang tantangan ini, kita perlu memahami prediksi dari ketidakpastian dan bagaimana dia dimodelkan di NLP dibandingkan dengan pada Vision. Di NLP, melakukan prediksi kata yang hilang melibatkan penghitungan skor prediksi…
-
Self Supervised Learning adalah predictive learning
Tulisan ini adalah bagian kedua bahasan tentang Self Supervised Learning (SSL) dari blognya Yann Lecun dan Ishan Misra, bagian pertama bisa dilihat disini. SSL mendapatkan supervisory signal (label output yang diinginkan) dari dataset, seringkali memanfaatkan struktur yang ditemukan pada data. Teknik SSL yang umum adalah untuk memprediksi bagian yang tidak teramati atau tersembunyi dari input…
-
Self-supervised learning- Yann Lecun & Ishan Misra
Saya lagi baca tulisan menarik dari Yann LeCun dan Ishan Misra dari tim Facebook tentang Self-supervised learning. Berikut ini saya terjemahkan dan rangkum isi tulisan tersebut: Artificial intelligence (AI) telah mengalami perkembangan yang pesat. Perkembangan ini mengandalkan proses AI yang belajar dari data yang banyak dan telah diberi label. Teknik ini disebut supervised learning (SL).…
-
Expectation Maximization pada Naive Bayes Classifier
Pada tulisan sebelumnya telah dibahas mengenai teknik EM (Expectation Maximization). Teknik ini dapat digunakan pada Bayesian Network untuk memprediksi variabel yang tidak diketahui. Sekarang akan diberikan contoh menggunakan Expectation Maximization pada Naive Bayes Classifier untuk memprediksi data yang belum diketahui labelnya. Contoh berikut dikutip dari kuliah Tom Mitchell: Pada graph terlihat Y adalah parent dari…
-
Kumpulan materi Self-supervised learning
Saya lagi belajar tentang self supervised learning, ini metode machine learning baru. Pertama denger pas ngikutin presentasi Yann LeCun. Jadi machine learning sekarang masih bergantung dengan metode supervised learning. Cuman tantangan dari metode Supervised ini adalah pada proses labeling data. Menurut Yann LeCun solusinya adalah dengan self supervised learning (SSL). Metode ini bisa memberi label…
-
Data Science with Python-praktek
Pada post sebelumnya saya share tentang training data science with python hari pertama, sekarang saya lanjutkan share training hari kedua. Hari kedua materinya praktek pertama pak budi cerita tentang Logistik regression. Pertama kita dikasi sebuah dataset berikut: https://drive.google.com/file/d/16ZTyRB7p-HJOo6C-UZoJOJ-jzgcvoQvQ/view?usp=sharing Kemudian kita diminta menghitung regresi linear dari dataset tersebut. Kode yang dipake adalah berikut ini: import numpy…
-
Training Data science with python
Minggu lalu saya ikutan training data science with python, training ini diselenggarakan oleh Bandung Digital Valley dengan mentor Ibu Marisa Paryasto dan Pak Budi Rahardjo. Pada bagian pengantar pak Budi bercerita menurut Wikibrand Data science merupakan bagian penting dari 30 Emerging Technology. Dia memberi contoh data science bahkan digunakan oleh tim Formula 1 untuk merancang…
-
Materi kuliah Machine Learning
Buat yang tertarik belajar tentang machine learning, berikut ini ada materi kuliah machine learning dari beberapa kampus keren: Kuliah machine learning dari Stanford University Kuliah tentang dari UC Berkeley Full Stack Deep Learning Kuliah tentang deep learning dari TU munchen – Introduction to Deep Learning (I2DL) Kuliah tentang komputer vision dari NUS “ Kuliah tentag…
-
Machine Learning Static Malware Analysis-Shalaginov-Paper Review
Paper Title:Machine Learning Aided Static Malware Analysis: A Survey and Tutorial Authors: Andrii Shalaginov, Sergii Banin, Ali Dehghantanha, Katrin Franke Venue: Springer, Advances in Information Security , vol 70, p7-45 URL: https://arxiv.org/abs/1808.01201 Problem:Malware masih menjadi ancaman nomer satu bagi pengguna Windows. Jumlah malware juga terus bertambah. Analisa malware terdiri dari 2 cara static dan dinamis. Analisa dinamis membutuhkan…
-
Supervised Contrastive Learning-Khosla- Paper Review
Paper Title:Supervised Contrastive Learning Authors: Prannay Khosla, Piotr Teterwak, Chen Wang, Aaron Sarna, Yonglong Tian, Phillip Isola, Aaron Maschinot, Ce Liu, Dilip Krishnan Venue: 34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada. URL: https://arxiv.org/pdf/2004.11362v5.pdf Problem: Contrastive learning banyak digunakan pada self-supervised learning. Pada prakteknya sebagian besar model tidak bekerja lebih baik pada dataset besar seperti ImageNet,…