Uczenie głębokie do wykrywania ruchów retorycznych
Sociedade Brasileira de Computação · Sep 2025
Dostrojenie destylowanej wersji BERTimbau na korpusie CorpusDT do rozpoznawania ruchów retorycznych w portugalskich streszczeniach naukowych, z wynikiem F1 na poziomie 0,94 w klasyfikacji zdań. Pokazuje potencjał NLP w podnoszeniu jakości tekstów akademickich po portugalsku.
Studium przypadku
0,94 F1 · 93,97 % dokładności · 6 klas retorycznych · 52 streszczenia → 1 409 przykładów
Problem
Portugalski nie ma narzędzi wspierających pisanie naukowe. Ruchy retoryczne Swalesa (kontekst, luka, cel, metoda, wynik i wniosek) są zwykle porządkowane intuicyjnie, a luka badawcza często pozostaje niejawna. Poprzedni referencyjny klasyfikator dla portugalskiego, AZPort, osiągał 72 % dokładności przy podejściu Naive Bayes.
Ograniczenie
CorpusDT, jeden z niewielu dostępnych po portugalsku korpusów z adnotacjami, zawiera zaledwie 52 streszczenia naukowe, zbyt mało, by bezpośrednio dostroić Transformer.
Podejście
Zbudowałem potok augmentacji danych, który zachowuje znaczenie retoryczne każdego zdania: tłumaczenie zwrotne (PT→EN→PT), podmiana synonimów, losowe wstawianie i zamiana oraz losowe usuwanie jako regularyzacja, stosowane stochastycznie i z przesunięciem w stronę klas mniejszościowych. Rozszerzyło to 52 streszczenia do 1 409 zbalansowanych przykładów zdań (stratyfikowany podział 80/20). Na tym zbiorze dostroiłem distilbert-portuguese-cased, destylowaną wersję BERTimbau, z głowicą klasyfikacyjną na 6 klas, entropią krzyżową ważoną klasami, mieszaną precyzją (FP16), AdamW z harmonogramem cosinusowym i wczesnym zatrzymaniem na F1 walidacji.
Wynik
Końcowy klasyfikator osiągnął ważone F1 na poziomie 0,94 (0,9403 macro) i 93,97 % dokładności na zbiorze walidacyjnym, najlepszy znany wynik w wykrywaniu ruchów retorycznych po portugalsku. Analiza błędów pokazała, że pomyłki koncentrują się między semantycznie sąsiadującymi ruchami (na przykład 7,7 % zdań Wyniku odczytanych jako Metoda), subtelna granica nawet dla ludzkich adnotatorów. Błędy układają się w logiczny wzorzec, a nie losowy.