Dyp læring for gjenkjenning av retoriske trekk
Sociedade Brasileira de Computação · Sep 2025
Finjusterte en destillert versjon av BERTimbau på CorpusDT-korpuset for å identifisere retoriske trekk i portugisiske vitenskapelige sammendrag, med en F1-score på 0,94 i setningsklassifisering. Fremhever potensialet i NLP for å forbedre kvaliteten på akademisk skriving på portugisisk.
Casestudie
0,94 F1 · 93,97 % nøyaktighet · 6 retoriske klasser · 52 sammendrag → 1 409 eksempler
Problemet
Portugisisk mangler verktøy som støtter vitenskapelig skriving. Swales' retoriske trekk (kontekst, gap, formål, metode, resultat og konklusjon) struktureres vanligvis intuitivt, og forskningsgapet blir ofte stående implisitt. Den forrige referanseklassifisereren for portugisisk, AZPort, nådde 72 % nøyaktighet med en Naive Bayes-tilnærming.
Begrensningen
CorpusDT, et av de få annoterte korpusene som finnes på portugisisk, inneholder bare 52 vitenskapelige sammendrag, for lite til å finjustere en Transformer direkte.
Tilnærmingen
Jeg bygde en pipeline for dataaugmentering som bevarer den retoriske betydningen av hver setning: tilbakeoversettelse (PT→EN→PT), synonymsubstitusjon, tilfeldig innsetting og ombytting, og tilfeldig sletting som regularisering, anvendt stokastisk og med skjevhet mot minoritetsklassene. Dette utvidet de 52 sammendragene til 1 409 balanserte setningseksempler (stratifisert 80/20-splitt). På dette settet finjusterte jeg distilbert-portuguese-cased, en destillert versjon av BERTimbau, med et klassifiseringshode for 6 klasser, klassevektet kryssentropi, blandet presisjon (FP16), AdamW med en kosinusplanlegger og tidlig stopp på validerings-F1.
Resultatet
Den endelige klassifisereren nådde en vektet F1 på 0,94 (0,9403 makro) og 93,97 % nøyaktighet på valideringssettet, det beste kjente resultatet for gjenkjenning av retoriske trekk på portugisisk. Feilanalysen viste at feilklassifiseringene konsentrerer seg mellom semantisk nærliggende trekk (for eksempel ble 7,7 % av resultatsetningene lest som metode), en subtil grense selv for menneskelige annotører. Feilene følger et logisk mønster, ikke et tilfeldig.