DERİN ÖĞRENME TABANLI KENAR REHBERLİ GÖRÜNTÜ İÇ BOYAMA

Abstract

Görüntü iç boyama, hasarlı veya eksik bölgelerin, mevcut görüntü bilgilerinden yararlanarak yeniden inşa edilmesi işlemidir. Derin öğrenme tekniklerinin gelişmesiyle birlikte bu alanda önemli ilerlemeler kaydedilmiş olsa da ciddi düzeyde hasarlı görüntülerin yapısal ve dokusal özelliklerini doğru bir şekilde yeniden oluşturmak hâlâ büyük bir zorluk teşkil etmektedir. Bu çalışmada Koşullu Doku ve Yapı Çift Üretimi (CTSDG) mimarisine dayalı görüntü iç boyama performansını iyileştiren geliştirmeler sunulmaktadır. Baz alınan mimari yapısal ve dokusal olmak üzere iki ayrı akışa sahiptir. Yapısal akış, görüntünün genel düzenini ve yapısını yakalamaya odaklanırken, dokusal akış detaylı doku sentezini gerçekleştirmektedir. İki akış arasındaki ilişkiyi güçlendirmek için çeşitli yeni modüller kullanılmıştır. Bunlardan çift yönlü sıkma ve uyarım ağı içeren geçitli özellik füzyonu her iki yöndeki sıkma ve uyarım işlemleriyle özellik birleştirme sürecini iyileştirmektedir. İyileştirilmiş bağlamsal özellik toplama modülü ise çok ölçekli özellikleri toplayarak çıktıları geliştirmektedir. Buna ek olarak Seçici Çekirdek Özellik Birleştirme ile entegre edilmiş Çift Dikkat Mekanizması birbirini tamamlayıcı özellikleri bir araya getirmektedir. Bu sayede hasarlı girdilerden daha tutarlı yapı ve doku elde edilebilmektedir. Yapılan nicel deneyler PSNR değerinde %0-20 maskeler için %2,69, SSIM değerinde %40-60 maskeler için %1.43 oranında iyileşme göstermiştir. Nitel sonuçlar ise, ciddi düzeyde hasarlı görüntülerin eksik bölgelerinin çok daha yüksek görsel kalitede yeniden yapılandırılabildiğini ortaya koymuştur