Mari kita lanjutkan bahasan tentang paper Big Self-Supervised Models Advance Medical Image Classification, karya Azizi dkk. Pada tulisan sebelumnya telah dibahas tentang proses pre-training metode MICLe. Kali ini saya lanjutkan bahasan tentang fine-tuning yang dilakukan. Pada saat finetuning, model ditraining menggunakan weight yang didapat pada saat pretraining. Model ditraining untuk downstream task menggunakna SimCLR. Training dilakukan…

Saya coba lanjutkan pembahasan paper Big Self-Supervised Models Advance Medical Image Classification, karya Azizi dkk. Pada tulisan sebelumnya telah dibahas tentang metode pengujian. Kali ini saya lanjutkan bahasan tentang pre-training yang dilakukan. Untuk menguji keefektifan proses pre-training self-supervised, Azizi mencoba arsitektur ResNet-50 (1×), ResNet-50 (4×), and ResNet-152 (2×) sebagai basis jaringan enkoder. Setelah SimCLR, dua layer…

Mari kita lanjutkan pembahasan paper Big Self-Supervised Models Advance Medical Image Classification, karya Azizi dkk. Pada tulisan sebelumnya telah dibahas tentang metode Multi Instance Contrastive Learning (MICLe). Kali ini saya lanjutkan bahasan tentang pengujian yang dilakukan. Pengujian MICLe dilakukan pada 2 task image medis populer. Yang pertama adalah identifikasi penyakit kulit dari gambar yang diambil dengan…

Saya lanjutkan pembahasan paper Big Self-Supervised Models Advance Medical Image Classification, karya Azizi dkk. Pada tulisan sebelumnya telah dibahas tentang metode yang digunakan serta tentang transfer learning. Kali ini saya lanjutkan bahasan tentang teknik self-supervised di medis. Penelitian awal di bidang self-supervised fokus pada masalah mempelajari embedding tanpa label namun biasa mencapai akurasi tinggi. Berbagai pendekatan…

Hari ini saya lagi baca paper Big Self-Supervised Models Advance Medical Image Classification, karya Azizi dkk. Paper ini cerita tentang percobaan mereka yang menggunakan self-supervised untuk klasifikasi gambar medis. Percobaannya dilakukan pada 2 task: Klasifikasi foto penyakit kulit dari kamera digital Klasifikasi foto X-ray dada multilabel pada 5 kondisi patologi dari dataset CheXpert Menurut mereka…

Saya lanjutkan pembahasan tentang paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang macam-macam teknik learning feature pada image, diantaranya dengan Perbandingan metode Self-supervised. Sekarang kita lanjutkan tentang future direction alias masa depan self-supervised pada vision. Learning feature dari Data Sintetik Ada…

Mari kita lanjutkan pembahasan tentang paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang macam-macam teknik learning feature pada image, diantaranya dengan metode Free Semantic Label Feature Learning. Sekarang kita lanjutkan tentang perbandingan performa berbagai metode feature learning pada gambar dengan self-supervised.…

Saya lanjutkan pembahasan paper Self Supervised Visual Feature dari Jing dan Tian. Sebelumnya telah dibahas tentang context based image feature learning. Sekarang saya lanjutkan tentang free semantic label. Free semantic label adalah label yang didapat tanpa proses pelabelan manual. Secara umum label free semantic seperti segmentation masks, depth images, optic flows, dan surface normal dari…

Saya lanjutkan pembahasan tentang paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang macam-macam teknik learning feature pada image, diantaranya dengan metode Image Generation dengan Colorization. Sekarang kita lanjutkan tentang metode context based image feature learning. Pretext task berbasis konteks menggunakan fitur…

Saya baru nemu github kumpulan paper tentang self-supervised learning. Github ini disusun sama Cho Sungman. Buat yang pengen belajar tentang sul-supervised, dia bikin timeline nya juga, jadi perkembangan penelitian tentang self-supervised dari tahun 2018-2021. Domain penelitiannya ada yang di Vision, Speech, dan NLP. Tasknya dia kelompokan menjadi: Image transformation Mutual Information Adversarial Contrastive Transformer Distillation…