GAN pada Deep Learning – Shams


Hari ini saya baca paper dengan judul Why are Generative Adversarial Networks vital for Deep Learning Networks? A case study on Covid-19 chest X-ray Image karya Shams et.al.

Pada penelitian ini Shams mencoba menggunakan gambar X-Ray dada pasien dengan Deep Learning untuk mendeteksi Covid-19. Namun Deep Learning membutuhkan dataset yang besar, sementara hanya tersedia gambar X-Ray yang terbatas. Untuk itu dia menggunakan Generative Adverasrial Network untuk mengggenerate dataset pada pre-processing. Menurut Shams, kombinasi GAN-DNN ini sanggup mendeteksi covid dengan loss function yang minimum. Untuk optimasi digunakan Stochastic gradient descent (SGD) dad Improved Adam (IAdam) pada saat training.

GAN adalah jaringan yang biasanya digunakan untuk augmentasi data untuk memperkirakan model generative dengan proses adversarial. Model yang ditraining akan digenerate secara simultan dengan menangkap distribusi data dan model diskriminatif untuk memperkirakan probabilitas data training. 

GAN adalah metode untuk melakukan training model generative. Framework GAN terdiri dari 2 jaringan: model generatif G yang menangkap distribusi data dan sebuah model diskriminatif D yang membedakan antara sampel yang diambil dari G dan gambar dari data training. 

Tipe augmentasi data lainnya berbasis GAN adalah deep convolutional GAN oleh Radford et.al untuk unsupervised learning. Makhzani et.al mengajukan adverasrial auto-encoder (AAE). Information maximizing GAN (InfoGAN) diteliti oleh Chen et.al

Stochastic Gradient Decent (SGD) optimizer digunakan untuk memiminalkan waktu komputasi per iterasi, sebuah langkah adaptif untuk memprediksi detail penting dari gambar X-Ray COVID berbasis ukuran daerah kemiripan dari konten gambar dan model transformasi yang diteliti oleh Klein et.al. menggunakan jaringan RelU. 

Improved Adam Optimizer

Bock et.al mengajukan sistem ini berbasis ukuran langkah adaptove dengan mengubah weights dan momentum untuk mendapatkan konvergensi dari jaringan neural.

Untuk membangun model GAN, diperlukan struktur jaringan, termasuk layer dari unit generator dan unit diskriminator. Kemudian tentukan nilai hyper parameter untuk training seperti epoch, iterasi, ukuran batch dan learning rate.  Selanjutnnya generator dan model diskrimantor melakukan konstruksi weight awal secara random. 

Hasil pengujian didapatkan GAN efektif untuk menghasilkan model generativ. Kalau kita tidak memiliki cukup data, GAN dapat digunakan untuk melakukan generate data dibandingkan augmentasi data. 

referensi:

Shams, M. Y., O. M. Elzeki, Mohamed Abd Elfattah, T. Medhat, and Aboul Ella Hassanien. “Why Are Generative Adversarial Networks Vital for Deep Neural Networks? A Case Study on COVID-19 Chest X-Ray Images.” In Big Data Analytics and Artificial Intelligence Against COVID-19: Innovation Vision and Approach, pp. 147-162. Springer, Cham, 2020.

 


Silahkan tuliskan tanggapan, kritik maupun saran