Analysis of word dependency relations and subword models in abstractive text summarization


Tezin Türü: Yüksek Lisans

Tezin Yürütüldüğü Kurum: Boğaziçi Üniversitesi, FEN BİLİMLERİ ENSTİTÜSÜ, FEN BİLİMLERİ ENSTİTÜSÜ, Türkiye

Tezin Onay Tarihi: 2021

Tezin Dili: İngilizce

Öğrenci: AHMET BEKA ÖZKAN

Danışman: TUNGA GÜNGÖR

Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu

Özet:

Soyutlamalı metin özetleme, doğal dil işlemede önemli bir alandır. Dijital dünyada daha önce eşi görülmemiş bir hızla çok fazla metin materyalleri oluşturulduğundan, insanlar bu tür metinlerden yalnızca gerekli bilgileri içeren bir biçimde özet elde etmek için otomatik metin özetleme sistemlerine ihtiyaç duymaya başladılar. Derin öğrenme metotlarındaki son gelişmelerle birlikte, soyutlamalı metin özetleme araştırmacılar tarafından daha da fazla ilgi görmeye başlamıştır. Dikkat temelli diziden diziye modeller bu alana uyarlanabilmekte ve bu tip modeller oldukça başarılı sonuçlar vermektedir. Bunlarla beraber, işaretçi/üretici ve kapsam gibi birkaç ek mekanizma sıklıkla kullanılmaktadır. Bu mekanizmalar, başarılarından dolayı soyutlamalı özetleme modelleri için birer standart haline gelmiştir. Bu tezde söz konusu teknikler ile kelime bağlılık ilişkileri kullanımı bütünleştirilmiş ve modellere olan etkileri analiz edilmiştir. Bağlılık ilişkilerini entegre etmenin performansı artırdığı gösterilmiştir. Doğal dil işleme görevleri için tasarlanmış birçok yeni model, alt sözcükler kullanmakta ve oldukça başarılı sonuçlar elde etmektedir. Bu tezdeki modellerde üç farklı alt sözcük modeli kullanılarak soyutlamalı özetleme alanındaki etkileri incelenmiştir. Alt sözcük kullanımının da bu tür soyutlamalı özetleme modellere dahil edilebilecek uygun bir seçenek olduğu gösterilmiştir.