Retorik Hamle Tespiti için Derin Öğrenme
Sociedade Brasileira de Computação · Sep 2025
Portekizce bilimsel özetlerde retorik hamleleri belirlemek için CorpusDT derlemi üzerinde BERTimbau'nun damıtılmış bir sürümüne ince ayar yapıldı ve cümle sınıflandırmada 0,94 F1 puanına ulaşıldı. NLP'nin Portekizce akademik yazımın kalitesini artırma potansiyelini gösteriyor.
Vaka analizi
0,94 F1 · 93,97 % doğruluk · 6 retorik sınıf · 52 özet → 1.409 örnek
Sorun
Portekizce, bilimsel yazımı destekleyecek araçlardan yoksun. Swales'in retorik hamleleri (bağlam, boşluk, amaç, yöntem, sonuç ve çıkarım) genellikle sezgisel olarak yapılandırılıyor ve araştırma boşluğu çoğu zaman örtük kalıyor. Portekizce için önceki referans sınıflandırıcı AZPort, Naive Bayes yaklaşımıyla 72 % doğruluğa ulaşıyordu.
Kısıt
Portekizce'de bulunan az sayıda etiketli derlemden biri olan CorpusDT, yalnızca 52 bilimsel özet içeriyor; bu, bir Transformer'ı doğrudan ince ayardan geçirmek için fazlasıyla az.
Yaklaşım
Her cümlenin retorik anlamını koruyan bir veri çoğaltma hattı kurdum: geri çeviri (PT→EN→PT), eşanlamlı değişimi, rastgele ekleme ve yer değiştirme ile düzenlileştirme olarak rastgele silme; bunlar olasılıksal biçimde ve azınlık sınıflarına doğru yanlı uygulandı. Bu, 52 özeti 1.409 dengeli cümle örneğine genişletti (katmanlı 80/20 bölünmesi). Bu küme üzerinde BERTimbau'nun damıtılmış sürümü olan distilbert-portuguese-cased modeline 6 sınıflı bir sınıflandırma başlığı, sınıf ağırlıklı çapraz entropi, karma hassasiyet (FP16), kosinüs zamanlayıcılı AdamW ve doğrulama F1'i üzerinde erken durdurma ile ince ayar yaptım.
Sonuç
Nihai sınıflandırıcı, doğrulama kümesinde 0,94 ağırlıklı F1 (0,9403 makro) ve 93,97 % doğruluğa ulaştı; bu, Portekizce'de retorik hamle tespiti için bilinen en iyi sonuç. Hata analizi, yanlış sınıflandırmaların anlamsal olarak komşu hamleler arasında yoğunlaştığını gösterdi (örneğin, Sonuç cümlelerinin yüzde 7,7'si Yöntem olarak okunuyor); insan etiketleyiciler için bile ince bir sınır. Hatalar rastgele değil, mantıksal bir örüntü izliyor.