Deep learning til detektion af retoriske træk
Sociedade Brasileira de Computação · Sep 2025
Finjusterede en destilleret version af BERTimbau på CorpusDT-korpuset for at identificere retoriske træk i portugisiske videnskabelige abstracts og opnåede en F1-score på 0,94 i sætningsklassificering. Fremhæver potentialet i NLP til at forbedre kvaliteten af akademisk skrivning på portugisisk.
Casestudie
0,94 F1 · 93,97 % præcision · 6 retoriske klasser · 52 abstracts → 1.409 eksempler
Problemet
Portugisisk mangler værktøjer til at støtte videnskabelig skrivning. Swales' retoriske træk (kontekst, hul, formål, metode, resultat og konklusion) struktureres sædvanligvis intuitivt, og forskningshullet efterlades ofte implicit. Den tidligere referenceklassificer for portugisisk, AZPort, nåede 72 % præcision med en Naive Bayes-tilgang.
Begrænsningen
CorpusDT, et af de få annoterede korpora, der findes på portugisisk, indeholder kun 52 videnskabelige abstracts, for lidt til at finjustere en Transformer direkte.
Tilgangen
Jeg byggede en data-augmenteringspipeline, der bevarer den retoriske betydning af hver sætning: tilbageoversættelse (PT→EN→PT), synonymsubstitution, tilfældig indsættelse og ombytning samt tilfældig sletning som regularisering, anvendt stokastisk og med bias mod minoritetsklasserne. Det udvidede de 52 abstracts til 1.409 balancerede sætningseksempler (stratificeret 80/20-split). På det sæt finjusterede jeg distilbert-portuguese-cased, en destilleret version af BERTimbau, med et klassifikationshoved til 6 klasser, klassevægtet cross-entropy, blandet præcision (FP16), AdamW med en cosinus-scheduler og early stopping på validerings-F1.
Resultatet
Den endelige klassificer nåede en vægtet F1 på 0,94 (0,9403 makro) og 93,97 % præcision på valideringssættet, det bedste kendte resultat for detektion af retoriske træk på portugisisk. Fejlanalysen viste, at fejlklassificeringer koncentrerer sig mellem semantisk beslægtede træk (for eksempel blev 7,7 % af Resultat-sætningerne læst som Metode), en subtil grænse selv for menneskelige annotatorer. Fejlene følger et logisk mønster snarere end et tilfældigt.