Deep Learning zur Erkennung rhetorischer Moves
Sociedade Brasileira de Computação · Sep 2025
Fine-Tuning einer destillierten Version von BERTimbau auf dem CorpusDT-Korpus zur Identifikation rhetorischer Moves in portugiesischen wissenschaftlichen Abstracts, mit einem F1-Score von 0,94 bei der Satzklassifikation. Zeigt das Potenzial von NLP zur Verbesserung der Qualität wissenschaftlichen Schreibens auf Portugiesisch.
Fallstudie
0,94 F1 · 93,97 % Genauigkeit · 6 rhetorische Klassen · 52 Abstracts → 1.409 Beispiele
Das Problem
Dem Portugiesischen fehlen Werkzeuge zur Unterstützung wissenschaftlichen Schreibens. Die rhetorischen Moves nach Swales (Kontext, Lücke, Zweck, Methode, Ergebnis und Schluss) werden meist intuitiv strukturiert, und die Forschungslücke bleibt oft implizit. Der bisherige Referenzklassifikator für Portugiesisch, AZPort, erreichte 72 % Genauigkeit mit einem Naive-Bayes-Ansatz.
Die Einschränkung
CorpusDT, eines der wenigen annotierten Korpora im Portugiesischen, enthält nur 52 wissenschaftliche Abstracts, zu wenig, um einen Transformer direkt zu fine-tunen.
Der Ansatz
Ich baute eine Pipeline zur Daten-Augmentierung, die die rhetorische Bedeutung jedes Satzes erhält: Rückübersetzung (PT→EN→PT), Synonymersetzung, zufälliges Einfügen und Vertauschen sowie zufälliges Löschen als Regularisierung, stochastisch angewendet und in Richtung der Minderheitsklassen gewichtet. So wurden aus den 52 Abstracts 1.409 ausgewogene Satzbeispiele (stratifizierte 80/20-Aufteilung). Auf diesem Datensatz habe ich distilbert-portuguese-cased, eine destillierte Version von BERTimbau, fine-getunt, mit einem Klassifikationskopf für 6 Klassen, klassen-gewichteter Cross-Entropy, gemischter Präzision (FP16), AdamW mit Cosine-Scheduler und Early Stopping auf dem Validierungs-F1.
Das Ergebnis
Der finale Klassifikator erreichte einen gewichteten F1 von 0,94 (0,9403 makro) und 93,97 % Genauigkeit auf dem Validierungssatz, das beste bekannte Ergebnis für die Erkennung rhetorischer Moves im Portugiesischen. Die Fehleranalyse zeigte, dass sich Fehlklassifikationen zwischen semantisch benachbarten Moves konzentrieren (zum Beispiel werden 7,7 % der Ergebnis-Sätze als Methode gelesen), eine feine Grenze selbst für menschliche Annotatoren. Die Fehler folgen einem logischen Muster, nicht einem zufälligen.