Tag: ssl

  • Performa SwAV – Ishan Misra

    Mari kita lanjutkan pembahasan kuliah tentang SSL dari Ishan Misra. Pada tulisan sebelumnya telah dibahas tentang proses training pada SwAV. Hari ini kita lanjutkan tentang bagaimana performa SwAV. Performa SwAV dilakukan dengan melakukan transfer learning, seperti pada label berikut: Transfer learning bisa dievaluasi dengan dua task berikut: klasifikasi dengan linear classifier dan fiturnya udah fixed,…

  • Training SwAV – Ishan Misra

    Saya lanjutkan bahasan tentang kuliah Ishan Misra tentang Self-supervised. Pada tulisan sebelumnya telah dibahas tentang soft-assignment. Kali ini kita lanjutkan bahasan tentang bagaimana proses training di SwAV (swapping Assignment between views). Swav ini salah satu metode clustering. 2 potongan (crop) dari sebuah gambar diteruskan (feed-forward) melalui jaringan f(theta) untuk menghitung embeddingnya, yang biru. Kemudian dihitung…

  • Self Supervised dengan Fast.ai

    Buat yang lagi belajar tentang self-supervised learning (SSL), saya baru nemu tutorial menarik tentang SSL. Tutorial ini isinya beberapa kode algoritma SSL dari Kerem Turgutlu. Ada beberapa algoritma SSL yang dibahas, diantaranya: SimCLR v1 & SimCLR v2 MoCo v1 & MoCo v2 BYOL SwAV Barlow Twins DINO Paper tentang algoritma diatas bisa dilihat, tinggal klik nama algoritmanya aja. Ada…