Saya lanjutkan pembahasan paper Self-Supervised Visual Feature Learning with Deep Neural Network: A Survey dari Longlong Jing dan Yingli Tian. Pada tulisan sebelumnya telah dibahas tentang  Downstream Task. Sekarang saya lanjutkan tentang macam-macam dataset yang bisa digunakan di Downstream Task untuk pengujian model SSL. Berikut ini beberapa dataset image: ImageNet Dataset ImageNet memiliki 1,3 juta gambar yang…

Presenter berikutnya adalah Alborz Geramifard tentang Cairaokee – personal asisten yang cerdas. Cairokee ini model convAI (conversational AI) yang dibangun dengan 4 teknologi dasar, Natural language understanding (BART), Dialog state tracking, Dialog policy management (blender bot) dan natural language generation (GPT-2). Menurut Alborz, personal asisten masa depan itu ditanam di Smart glasses, dia bisa ngelihat…

Saya lanjutkan catatan dari webinar inside the lab dari Meta AI. Presenter berikutnya adalah Angela Fan. Dia bercerita tentang multi language translation. Ada banyak banget bahasa di dunia. Menurut Angela saat ini sistem penerjemahan saat ini baru mencakup 100 bahasa. Estimasi dari Meta masih ada 4,2 milliar orang yang bahasanya belum terjangkau oleh sistem translasi…

Hari ini saya nyoba Machine learning crash course nya google. Isinya kumpulan kuliah tentang machine elearning. Materinya dibagi 3: Konsep ML Teknik ML ML di dunia nyata Untuk konsep ML ada banyak sub materi lagi diantaranya tentang: regresi linear Loss Tensor Flow Generalisasi pembagian training set dan tes set validasi set representasi regularisasi logistik regression…

Buat yang pengen mengenal tentang machine learning, ada tools baru dari google namanya Google Teachable machine. Di web ini kita bisa ngebangun model Machine learning tanpa perlu ngoding. Kita gak perlu tau teori tentang machine learning, matematika dan statistik juga. Cukup klak klik doang. Webnya ada disini: https://teachablemachine.withgoogle.com Dengan web ini kita bisa melakukan klasifikasi…

Hari ini nemu web yang ngumpulin berbagai tutorial pytorch. Ada tutorial, paper, project maupun communities tentang pytorch. Ada tentang vision, speech maupun NLP disana. Ada task tentnag object detection, classification, face recognition dll. Linknya bisa dilihat disini: https://www.ritchieng.com/the-incredible-pytorch/ Atau bisa juga dilihat di github nya ritchi eng berikut ini: https://github.com/ritchieng/the-incredible-pytorch Buat yang lagi belajar machine…

Saya akan lanjutkan pembahasan tentang kuliah Self-Supervised Learning dari Ishan Misra. Pada tulisan sebelumnya telah dibahas tentang teknik clustering, contohnya dengan SwAV. Namun ternyata teknik clustering ini masih rentan terhadap solusi trivial. Untuk menangani solusi trivial pada clustering ada 2 solusi yang bisa dilakukan yaitu Equipartition constraint dan Soft Assignment. Equipartition constraint Dari N sampel…

Di grup ada yang baru share 15 best machine learning cheat sheets. Cheat sheet ini klo diterjemahin contekan kali ya :) Karena link2nya keren2 saya simpan disini deh. 1- Supervised Learning https://github.com/afshinea/stanford-cs-229-machine-learning/blob/master/en/cheatsheet-supervised-learning.pdf 2- Unsupervised Learning https://github.com/afshinea/stanford-cs-229-machine-learning/blob/master/en/cheatsheet-unsupervised-learning.pdf 3- Deep Learning https://github.com/afshinea/stanford-cs-229-machine-learning/blob/master/en/cheatsheet-deep-learning.pdf 4- Machine Learning Tips and Tricks https://github.com/afshinea/stanford-cs-229-machine-learning/blob/master/en/cheatsheet-machine-learning-tips-and-tricks.pdf 5- Probabilities and Statistics https://github.com/afshinea/stanford-cs-229-machine-learning/blob/master/en/refresher-probabilities-statistics.pdf 6- Comprehensive Stanford…

Saya lanjutkan bahasan tentang kuliah Ishan Misra tentang berbagai metode Self-Supervised Learning (SSL). Pada tulisan sebelumnya kita telah mengenal tentang permasalahan solusi trivial pada pretext task, serta 2 metode SSL yang digunakan untuk mengatasinya yaitu maximize similarity dan redundance reduction. Kemudian telah dibahas juga tentang metode contrastive learning (CL), seperti PIRL, SimCLR, memory bank dan…

Saya lanjutkan pembahasan materi kuliah SSL dari Ishan Misra. Pada tulisan sebelumnya telah dibahas tentang SimCLR dan Memory Bank. Sekarang kita akan bahas teknik berikutnya dari contrastive learning yaitu MoCo atau Momentum Contrast. MoCo, atau, Momentum Contrast, adalah sebuah metode contrastive method yang menggunakan sebuah memory bank untuk menjaga sebuah momentum aktivass. Metode ini menggunakan…