Deep Learning per il rilevamento dei movimenti retorici
Sociedade Brasileira de Computação · Sep 2025
Fine-tuning di una versione distillata di BERTimbau sul corpus CorpusDT per identificare i movimenti retorici negli abstract scientifici in portoghese, raggiungendo un F1-score di 0,94 nella classificazione delle frasi. Evidenzia il potenziale dell’NLP per migliorare la qualità della scrittura accademica in portoghese.
Caso di studio
F1 0,94 · 93,97% di accuratezza · 6 classi retoriche · 52 abstract → 1.409 esempi
Il problema
Il portoghese manca di strumenti a supporto della scrittura scientifica. I movimenti retorici di Swales (contesto, lacuna, scopo, metodo, risultato e conclusione) vengono di solito strutturati in modo intuitivo, e la lacuna di ricerca resta spesso implicita. Il precedente classificatore di riferimento per il portoghese, AZPort, raggiungeva il 72% di accuratezza con un approccio Naive Bayes.
Il vincolo
CorpusDT, uno dei pochi corpora annotati disponibili in portoghese, contiene appena 52 abstract scientifici, troppo pochi per fare fine-tuning diretto di un Transformer.
L’approccio
Ho costruito una pipeline di data augmentation che preserva il significato retorico di ogni frase: back-translation (PT→EN→PT), sostituzione di sinonimi, inserimento e scambio casuali e cancellazione casuale come regolarizzazione, applicati in modo stocastico e sbilanciati verso le classi minoritarie. Questo ha espanso i 52 abstract in 1.409 esempi di frasi bilanciati (split stratificato 80/20). Su questo insieme ho fatto il fine-tuning di distilbert-portuguese-cased, una versione distillata di BERTimbau, con un head di classificazione a 6 classi, cross-entropy pesata per classe, precisione mista (FP16), AdamW con scheduler coseno ed early stopping sull’F1 di validazione.
Il risultato
Il classificatore finale ha raggiunto un F1 pesato di 0,94 (0,9403 macro) e il 93,97% di accuratezza sul set di validazione, il miglior risultato noto per il rilevamento dei movimenti retorici in portoghese. L’analisi degli errori ha mostrato che le classificazioni errate si concentrano tra movimenti semanticamente adiacenti (per esempio, il 7,7% delle frasi di Risultato lette come Metodo), un confine sottile persino per gli annotatori umani. Gli errori seguono uno schema logico, non casuale.