Adversarial robustness and generalization
Tezin Türü: Yüksek Lisans
Tezin Yürütüldüğü Kurum: Boğaziçi Üniversitesi, FEN BİLİMLERİ ENSTİTÜSÜ, FEN BİLİMLERİ ENSTİTÜSÜ, Türkiye
Tezin Onay Tarihi: 2023
Tezin Dili: İngilizce
Öğrenci: DUYGU SERBES
Danışman: İNCİ MELİHA BAYTAŞ
Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu
Özet:Derin öğrenme ağlarının hasmane ataklara karşı hassas ve kırılgan olduğuna dair bulgular derin öğrenmede bu ataklara karşı güçlü modellere ihtiyacı ortaya koymuştur. Hasmane eğitim, bu tür saldırılara karşı savunmada en etkili yaklaşımlardan biri olarak kabul edilir. Ancak, dayanıklılık ve genelleme arasında bir denge sağlamak, hasmane eğitimin temel bir zorluğudur. Ayrıca hasmane eğitiminde genelleme yeteneği, atakların belirli örüntülere ezberlemesine sebep olabileceğinden kullanılan atakların çeşitliliğinden etkilenir. Öte yandan daha güçlü saldırılar sağlamlığı arttırsa da, temiz görüntülerin sınıflandırılmasında performans düşüşüne neden olabilir. Bu tezde hasmane eğitiminin başarısını etkileyen faktörler incelenerek bu faktörleri destekleyecek çözümler önerilir. Bu bağlamda atak yönünü birden fazla yönde çoğaltan ve fazladan geri yayılım operasyonu gerektirmeyen bir hasmane eğitim yöntemi önermekteyiz. Bu hasmane eğitim yaklaşımı, öz nitelik saçılma olarak bilinen hasmane eğitimden esinlenilerek, atak yönü eğitim kümesindeki atağa uğramış örnekler arasındaki mesafeye dayanarak belirlenir. Ana hasmane yönden maksimum 45 derece olacak şekilde yeni hasmane yönleri elde edilir. Çeşitli popüler veri kümelerinde yapılan deneysel sonuçlar, bu yöntemin doğal doğruluğu kaybetmeden hasmane dayanıklılık doğruluğunu tutarlı bir şekilde artırdığını göstermektedir. Ayrıca, bu tezde litarütürde genelleşme konusunda başarı sağlamış yöntemler hasmane eğitim yönteminin geliştirilmesi amacıyla incelenmiştir. Bu bağlamda, mixup ve kaydırmaya dayanıklılık yaklaşımlarının önerilen hasmane eğitim yöntemi ile birleştirilmesi önerilmektedir. Önerilerimiz, hasmane eğitimde veri temsilinin kalitesini arttırmayı ve modelleri küçük kaydırmalara karşı duyarsız hale getirerek genelleme performansının yanı sıra hasmane dayanıklılığını da art- trmayı amaçlamaktadır. Önerilerimizin etkinliği beyaz kutu saldırılarına karşı değerlendirilmiştir.