Multi-model multi-agent defense against LLM jailbreak attacks

---

Tezin Türü: Yüksek Lisans

Tezin Yürütüldüğü Kurum: Boğaziçi Üniversitesi, FEN BİLİMLERİ ENSTİTÜSÜ, MÜHENDİSLİK BİLİMLERİ ANABİLİM DALI, Türkiye

Tezin Onay Tarihi: 2025

Tezin Dili: İngilizce

Öğrenci: ARJEN AYKAN KILIÇ

Danışman: FATİH ALAGÖZ

Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu

Özet:

Büyük Dil Modellerinin (LLM'ler) jailbreak (hapisten kaçış) gibi saldırılara karşı dayanıklılığı, özellikle hassas alanlarda güvenli bir şekilde kullanılmaları açısından kritik önem taşımaktadır. Bu saldırılar, LLM'lerin esnekliğini kullanarak güvenlik protokollerini aşmakta ve zararlı, yanıltıcı veya yetkisiz çıktılar üretmektedir. Mevcut tek ajanlı ve statik savunma mekanizmaları, dinamik ve gelişen jailbreak açıklarını ele almakta genellikle yetersiz kalmaktadır. Bu çalışma, LLM'lere yönelik jailbreak saldırılarına karşı savunma amacıyla tasarlanmış Çok Modelli Çok Ajanlı (MAMAD) bir savunma sistemi önermektedir. Önerilen mimari, farklı LLM'lerin birbirinden farklı güçlü yönlerini kullanan özelleşmiş ajanları kullanır. Özelleşmiş ajanlar girdi analizi, niyet analizi ve çıktı analizi yaparak ortak karar almaktadır. Alınan kararın sonucuna göre girdiler zararlı ise elimine edilir. Sistem, snowball saldırıları, kodlanmış metin saldırıları ve rol yapma teknikleri gibi çeşitli saldırı vektörlerine karşı tespit doğruluğunda önemli iyileştirmeler sağlamaktadır. Değerlendirme sonuçları, MAMAD sisteminin %94 tespit doğruluğuna ulaştığını ve LLM'lerin yanı sıra tek modelle çalışan çok ajanlı sistemleri geride bıraktığını göstermektedir. Ayrıca, bu çalışma LLM'ler ile çok ajanlı savunma mimarileri arasında hesaplama gücü ve gecikme maliyetleri ile sistem verimliliği arasındaki dengeyi de araştırmaktadır. Bulgular, çok ajanlı sistemlerin LLM uygulamalarının güvenliğini ve güvenilirliğini artırdığını gösterirken, minimal yalancı pozitif oranları ve yüksek ölçeklenebilirlik sağladığını ortaya koymaktadır.