-
Inside the lab – Multilanguage translation
Saya lanjutkan catatan dari webinar inside the lab dari Meta AI. Presenter berikutnya adalah Angela Fan. Dia bercerita tentang multi language translation. Ada banyak banget bahasa di dunia. Menurut Angela saat ini sistem penerjemahan saat ini baru mencakup 100 bahasa. Estimasi dari Meta masih ada 4,2 milliar orang yang bahasanya belum terjangkau oleh sistem translasi…
-
Inside the lab – Self supervised vision
Saya lanjutkan bahasan tentang webinar inside the lab dari meta AI. Selanjutnya jerome cerita tentang tim Responsible AI (RAI) dari Meta. RAI ini melakukan riset tentang gimana ngembangin sistem AI yang responsible, maksudnya yang peduli juga tentang privacy preserving AI. Selain itu tim RAI juga melakukan publikasi sistem ranking di Instagram (pre-ranking filtering system). Terus…
-
Inside the Lab Meta -embodiment robotik
Saya lanjutkan bahasan tentang webinar inside the lab yang diselenggarakan oleh Meta AI. Joelle pineau Presenter berikutnya adalah joelle. Dia cerita klo di AR modality data nambah ada movement, hand faces, body menjadi vektor data baru. Nanti bakal ada World model. Model ini gak cuman prediction, tapi juga model ini akan role membandingkan alternative aksi…
-
SEER – SElf SupERvised – Ishan
Saya lanjutkan pembahasan tentang kuliah tentang SSL dari Ishan Misra. Pada tulisan sebelumnya telah dibahas tentang SwAV dan perbedaan antara data pada dunia nyata dengan dataset ImageNet. Hari ini kita akan bahas tentang SEER. SEER: Learning from uncharted Images Dibandingkan dengan dataset Imagenet, pada dunia sebenernya gambar dapat memiliki distribusi yang berbeda, dan bisa saja…
-
Machine Learning Crash course- Google
Hari ini saya nyoba Machine learning crash course nya google. Isinya kumpulan kuliah tentang machine elearning. Materinya dibagi 3: Konsep ML Teknik ML ML di dunia nyata Untuk konsep ML ada banyak sub materi lagi diantaranya tentang: regresi linear Loss Tensor Flow Generalisasi pembagian training set dan tes set validasi set representasi regularisasi logistik regression…
-
Google Teachable Machine
Buat yang pengen mengenal tentang machine learning, ada tools baru dari google namanya Google Teachable machine. Di web ini kita bisa ngebangun model Machine learning tanpa perlu ngoding. Kita gak perlu tau teori tentang machine learning, matematika dan statistik juga. Cukup klak klik doang. Webnya ada disini: https://teachablemachine.withgoogle.com Dengan web ini kita bisa melakukan klasifikasi…
-
Kelebihan metode SwAV – Ishan Misra
Saya lanjutkan pembahasan kuliah SSL oleh Ishan Misra. Pada kuliah sebelumnya telah dibahas tentang performa SwAV. Hari ini kita lanjutkan dengan pembahas tentang kelebihan metoda SwAV. Keuntungan pertama Swav adalah lebih cepat konvergence dibandingkan metoda contrastive learning seperti SimCLR dan MoCov. Pada SwAV, penghitungan similarity dilakukan pada code space, tidak dilakukan perbandingan embedding secara langsung.…
-
Kumpulan project Self-supervised learning
Buat yang lagi belajar tentang self-supervised learning, berikut ini ada beberapa project open source tentang self-supervised learning: Self-Supervised Vision Transformers with DINO https://github.com/facebookresearch/dino 2. SIMCLR: A Simple Framework for Contrastive Learning of Visual Representations https://github.com/google-research/simclr 3. SwinTransformer : Self-Supervised Learning with Vision Transformers https://github.com/SwinTransformer/Transformer-SSL 4. Lightly: computer vision framework for self-supervised learning https://github.com/lightly-ai/lightly 5. MMSelfSup:…
-
Performa SwAV – Ishan Misra
Mari kita lanjutkan pembahasan kuliah tentang SSL dari Ishan Misra. Pada tulisan sebelumnya telah dibahas tentang proses training pada SwAV. Hari ini kita lanjutkan tentang bagaimana performa SwAV. Performa SwAV dilakukan dengan melakukan transfer learning, seperti pada label berikut: Transfer learning bisa dievaluasi dengan dua task berikut: klasifikasi dengan linear classifier dan fiturnya udah fixed,…
-
Training SwAV – Ishan Misra
Saya lanjutkan bahasan tentang kuliah Ishan Misra tentang Self-supervised. Pada tulisan sebelumnya telah dibahas tentang soft-assignment. Kali ini kita lanjutkan bahasan tentang bagaimana proses training di SwAV (swapping Assignment between views). Swav ini salah satu metode clustering. 2 potongan (crop) dari sebuah gambar diteruskan (feed-forward) melalui jaringan f(theta) untuk menghitung embeddingnya, yang biru. Kemudian dihitung…