Tag: ssl

  • Image Generation with Inpainting

    Saya lanjutkan pembahasan tentang paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang macam-macam teknik learning feature pada image, diantaranya dengan metode image generation dengan GAN. Sekarang kita lanjutkan tentang metode image generation dengan inpainting. Image inpainting adalah sebuah task untuk memprediksi…

  • Image Feature Learning

    Saya lanjutkan pembahasan tentang paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang macam-macam dataset yang bisa digunakan di Downstream Task untuk pengujian model SSL.  Sekarang kita lanjutkan tentang metode feature learning pada image. Di paper dibahas 3 metode feature learning pada image yaitu:…

  • Downstream Task untuk Pengujian – 2

    Saya lanjutkan pembahasan paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang Pretext Task dan Downstream Task. Downstream task yang sudah dibahas adalah segmentasi semantik dan deteiksi obyek. Hari ini kita coba lanjutkan dengan klasifikasi image. Klasifikasi image adalah task untuk…

  • Downstream Task untuk Pengujian

    Mari kita lanjutkan pembahasan paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang Pretext Task. Hari ini kita coba lanjutkan dengan Downstream Task Untuk menguji kualitas fitur pada gambar dengan metode self-supervised, parameter yang dipelajari digunakan sebagai model pre-training dan kemudian…

  • Pretext dan Downstream task

    Saya lanjutkan pembahasan paper Self-Supervised Visual Feature Learning with Deep Neural Network : A Survey karya Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang berbagai arsitektur Deep learning. Kali ini kita akan lanjutkan bahasan tentang Pretext dan Downstream Task. Skema Fitur learning pada metode Self-supervised dapat dilihat pada gambar diatas. ConvNet ditraining…

  • Self Supervised – Jing & Tian

    Saya lanjutkan pembahasan paper Self-supervised Visual Feature Learning karya Jing & Tian. Pada tulisan sebelumnya sudah dijelaskan tentang diagram sistem self-supervised learning. Ada beberapa istilah baru disana yaitu: pseudo label adalah label yang digenerate automatik berdasarkan atribut data pada waktu pretext task. Pretext-task adalah task yang dirancang untuk diselesaikan oleh jaringan untuk mempelakari visual fitur.…

  • Self-Supervised visual Feature learning – Jing & Tian

    Saya lagi baca paper menarik, judulnya Self-supervised visual feature learning with deep neural network: A survey, karya longlong jing dan yingli tian. Deep Neural network banyak dipake untuk aplikasi vision seperti deteksi obyek, segmentasi semantik, image captioning dll, karena kemampuannya untuk mengenali berbagai level berbeda fitur visual. Model ditraining menggunakan dataset besar seperi ImageNet banyak…

  • SSL Vision Ishan

    Saya lanjutkan pembahasan kuliah Ishan Misra tentang Self Supervised Learning pada komputer vision. Sebelumnya telah dibahas tentang teknik Barlow Twin. Sekarang saya bahas tentang sesi diskusi dari kuliah Ishan Misra. Question(Q): Ada banyak metode dalam SSL. Apa Blueprint yang harus diikuti bila kita ingin membangun model SSL? Model apa yang cocok untuk task apa? Answer…

  • Barlow Twins – 3 – Ishan

    Saya lanjutkan pembahasan tentang metoda Barlow Twins dari kuliah Ishan Misra. Barlow Twins dapat mencegah solusi trivial tanpa melihat sampel negatif. Pada setiap titik proses embedding hanya memperhatikan sampel positif. Sekarang kita mencoba mencegah solusi trivial tanpa melakukan Asymmetric learning. Ishan menampulkan perbandingan Barlow twins dengan metoda lain seperti swav, byol, dan simsian. Pada Swav…

  • Lanjutan Barlow Twins – Ishan Misra

    Pada tulisan sebelumnya telah dibahas tentang teknik Barlow Twins. Berikut ini adalah penjelasan lanjutan tentang Barlow Twins dari Ishan Misra. Hipotesis tentang efficient coding diajukan olah Horace Barlow pada tahun 1961 sebagai model teoritis dari pengkodean sensor pada otak. neuron pada otak kita saling berkomunikasi dengan mengirimkan impuls elektrik yang disebut spike. Menurut Barlow, spikes…