Apprentissage profond pour la détection des mouvements rhétoriques
Sociedade Brasileira de Computação · Sep 2025
Affinage d’une version distillée de BERTimbau sur le corpus CorpusDT pour identifier les mouvements rhétoriques dans des résumés scientifiques en portugais, atteignant un score F1 de 0,94 en classification de phrases. Cela met en évidence le potentiel du TAL pour améliorer la qualité de l’écriture académique en portugais.
Étude de cas
0,94 F1 · 93,97 % d’exactitude · 6 classes rhétoriques · 52 résumés → 1 409 exemples
Le problème
Le portugais manque d’outils pour accompagner l’écriture scientifique. Les mouvements rhétoriques de Swales (contexte, lacune, objectif, méthode, résultat et conclusion) sont généralement structurés de façon intuitive, et la lacune de recherche reste souvent implicite. Le classificateur de référence précédent pour le portugais, AZPort, atteignait 72 % d’exactitude avec une approche Naive Bayes.
La contrainte
CorpusDT, l’un des rares corpus annotés disponibles en portugais, ne contient que 52 résumés scientifiques, trop peu pour affiner un Transformer directement.
L’approche
J’ai construit un pipeline d’augmentation de données qui préserve le sens rhétorique de chaque phrase : rétro-traduction (PT→EN→PT), substitution de synonymes, insertion et permutation aléatoires, et suppression aléatoire comme régularisation, appliqués de façon stochastique et biaisés vers les classes minoritaires. Cela a étendu les 52 résumés à 1 409 exemples de phrases équilibrés (découpage stratifié 80/20). Sur cet ensemble, j’ai affiné distilbert-portuguese-cased, une version distillée de BERTimbau, avec une tête de classification à 6 classes, une entropie croisée pondérée par classe, la précision mixte (FP16), AdamW avec un ordonnanceur cosinus et un arrêt anticipé sur le F1 de validation.
Le résultat
Le classificateur final a atteint un F1 pondéré de 0,94 (0,9403 macro) et 93,97 % d’exactitude sur l’ensemble de validation, le meilleur résultat connu pour la détection de mouvements rhétoriques en portugais. L’analyse des erreurs a montré que les confusions se concentrent entre des mouvements sémantiquement adjacents (par exemple, 7,7 % des phrases de Résultat lues comme Méthode), une frontière subtile même pour des annotateurs humains. Les erreurs suivent un schéma logique plutôt qu’aléatoire.