-
Materi kuliah Applied Deep Learning
Saya baru dengerin presentasi tentang Deep Learning dari Prof Maziar Raissi dari University of Colorado. Di slidenya dia share materi kuliah applied deep learning yang dia ampu di Universitas Colorado. Kuliahnya dia bagi jadi 2 semester. Semester pertama materinya tentang Computer Vision: ada image classification, image transformation, object detection, face recognition dll. Semester kedua materinya…
-
Buku Gratis tentang Machine Learning
Machine Learning (ML) sekarang lagi trending. Hampir semua teknologi canggih ada ML didalamnya. Facebook pake algoritma ML untuk fitur face recognition, FB juga pake algoritma ML untuk filter konten. Nah, cuman untuk belajar ML perlu banyak skill kayak matematika, statistik, coding dll. Buat yang pengen belajar tentang ML ternyata ada beberapa buku gratis tentang machine…
-
Menghitung Correlation Matrix
Habis Summercourse saya dapat PR banyak, diantaranya menghitung correlation matrix pake python. Misalnya ada sebuah tabel yang berisi berbagai variabel. Yang dimaksud correlation matrix adalah menghitung hubungan antar variabel. Nilai korelasi berkisar antara -1 sampe 1. Korelasi 1 berarti kedua variabel tersebut sangat berhubungan. Misalnya ada variabel A dan B. Kalo nilai A naik maka…
-
Topology optimization
Saya lagi ikut summer course MDOML (Multi Disciplinary Optimization Optimization and Machine Learning) yang diadakan FTMD ITB. Materinya seru2. Walaupun rada roaming tapi banyak dapet ilmu tentang machine learning. Hari ini materinya tentang topology optimization. Maksudnya gimana bikin struktur yang optimal. Misalnya jembatan, gimana caranya bikin struktur jembatan yang kuat nahan beban, tapi gak boros…
-
Self Supervised Learning – Weng
Saya lagi baca tulisan Lilian Weng tentang Self-Supervised Learning. Berikut beberapa rangkuman dari tulisan tersebut. Bila kita memliki data yang banyak dan berlabel, supervised learning dapat menyelesaikan berbagai task dengan baik. Namun melakukan labeling data secara manual sangat mahal, contohnya Imagenet. Padahal ada banyak sekali data yang tersedia dan belum memiliki label, contohnya teks, dan…
-
SSL untuk komputer vision
Tulisan ini merupakan lanjutan bahasan tentang self-supervised learning. Pada tulisan sebelumnya telah dibahas tentang metode non-contrastive energy based SSL. Sekarang akan dibahas metode terbaru SSL untuk komputer vision. Facebook baru saja mengembangkan metode SEER, metode yang menggunakan milaran parameter ini dapat bekerja pada gambar yang kompleks dengan dimensi tinggi secara efisien. Metode ini adalah pengembangan metode…
-
Non contrastive energy based ssl
Pada tulisan sebelumnya telah dibahas tentang Self Supervised Learning, energy based model dan metode contrastive. Namun metode contrastive memiliki masalah yaitu tidak efisien untuk training. Pada tulisan ini saya lanjutkan pembahasan tentang non-contrastive energy based SSL. Metode non-contrastive yang diterapkan pada arsitektur joint embedding saat ini adalah salah satu topik terhangat di SSL untuk komputer…
-
Model prediksi Latent Variable
Tulisan ini merupakan lanjutan pembahasan tentang SSL. Pada tulisan sebelumnya telah diterangkan tentang kesulitan penerapan SSL pada komputer vision, salah satu ide untuk mengatasi permasalahan tersebut adalah dengan arsitektur prediksi latent-variable. Model prediksi latent-variable memiliki variabel input tambahan (z). Disebut latent karena nilainya tidak pernah diamati. Dengan model yang terlatih dengan baik, variabel laten bervariasi…
-
SSL metode contrastive berbasis energi
Pada tulisan sebelumnya telah dibahas bahwa ada 2 metode untuk mencegah collapse yaitu metode contrastive dan regularization. Collapse terjadi bila energi yang dihasilkan pada kasus x dan y tidak match tidak lebih besar bila dibandingkan pada kasus x dan y match. Metode contrastive Metode Contrastive dibangun berdasarkan ide sederhana untuk membangun pasangan x dan y…
-
Metode Self Supervised
Ada pandangan untuk menempatkan SSL dalam Framework terpadu model berbasis energi (energy-based model/EBM). EBM adalah sistem yang dapat dilatih dengan 2 input x dan y, dapat memberitahukan seberapa tidak cocok (kompatibel) keduanya. Contohnya x dapat berupa video klip pendek dan y adalah video klip yang diusulkan. Mesin dapat memberitahukan sejauh mana y adalah kelanjutan dari…