Aprendizaje profundo para la detección de movimientos retóricos
Sociedade Brasileira de Computação · Sep 2025
Hice un ajuste fino de una versión destilada de BERTimbau sobre el corpus CorpusDT para identificar movimientos retóricos en resúmenes científicos en portugués, alcanzando un F1-score de 0,94 en la clasificación de oraciones. Destaca el potencial del PLN para mejorar la calidad de la escritura académica en portugués.
Estudio de caso
F1 0,94 · 93,97 % de precisión · 6 clases retóricas · 52 resúmenes → 1.409 ejemplos
El problema
El portugués carece de herramientas para apoyar la escritura científica. Los movimientos retóricos de Swales (contexto, laguna, propósito, método, resultado y conclusión) suelen estructurarse de forma intuitiva, y la laguna de investigación a menudo queda implícita. El clasificador de referencia anterior para el portugués, AZPort, alcanzaba un 72 % de precisión con un enfoque Naive Bayes.
La restricción
CorpusDT, uno de los pocos corpus anotados disponibles en portugués, contiene solo 52 resúmenes científicos, demasiado poco para hacer un ajuste fino de un Transformer directamente.
El enfoque
Construí un pipeline de aumento de datos que preserva el significado retórico de cada oración: retrotraducción (PT→EN→PT), sustitución de sinónimos, inserción y permuta aleatorias, y eliminación aleatoria como regularización, aplicado de forma estocástica y sesgado hacia las clases minoritarias. Esto amplió los 52 resúmenes a 1.409 ejemplos de oraciones equilibrados (partición estratificada 80/20). Sobre ese conjunto hice un ajuste fino de distilbert-portuguese-cased, una versión destilada de BERTimbau, con una cabeza de clasificación de 6 clases, entropía cruzada ponderada por clase, precisión mixta (FP16), AdamW con un scheduler coseno y parada temprana según el F1 de validación.
El resultado
El clasificador final alcanzó un F1 ponderado de 0,94 (0,9403 macro) y un 93,97 % de precisión en el conjunto de validación, el mejor resultado conocido para la detección de movimientos retóricos en portugués. El análisis de errores mostró que las clasificaciones erróneas se concentran entre movimientos semánticamente adyacentes (por ejemplo, el 7,7 % de las oraciones de Resultado leídas como Método), una frontera sutil incluso para anotadores humanos. Los errores siguen un patrón lógico, no aleatorio.