Buat yang lagi belajar tentang self-supervised learning (SSL), saya baru nemu tutorial menarik tentang SSL. Tutorial ini isinya beberapa kode algoritma SSL dari Kerem Turgutlu. Ada beberapa algoritma SSL yang dibahas, diantaranya:

• SimCLR v1 & SimCLR v2
• MoCo v1 & MoCo v2
• BYOL
• SwAV
• Barlow Twins
• DINO

Paper tentang algoritma diatas bisa dilihat, tinggal klik nama algoritmanya aja. Ada juga yang menggunakan SSL dan multimodal

• CLIP
• CLIP-MoCo (ini ide Kerem, belum ada papernya.)

Bisa dilihat disini tutorialnya:

https://keremturgutlu.github.io/self_supervised/

atau di githubnya:

https://github.com/keremturgutlu/self_supervised/tree/main

Menurut Kerem, algoritma diatas udah diuji di ImageWang Leaderboard. Hasilnya peringkatnya kayak gini:

1. SwAV
2. MoCo
3. BYOL
4. SimCLR

thx banget om Kerem, semoga bermanfaat!