修辞ムーブ検出のための深層学習
Sociedade Brasileira de Computação · Sep 2025
CorpusDT コーパス上で BERTimbau の蒸留版をファインチューニングし、ポルトガル語の科学論文要旨における修辞ムーブを識別。文分類で F1 スコア 0.94 を達成。ポルトガル語の学術的文章の品質向上における NLP の可能性を示す。
ケーススタディ
F1 0.94 · 精度 93.97% · 6 つの修辞クラス · 52 本の要旨 → 1,409 件の例
課題
ポルトガル語には科学論文の執筆を支援するツールが不足しています。Swales の修辞ムーブ(背景、課題、目的、方法、結果、結論)は通常直感的に構成され、研究課題は暗黙のままにされることが多いです。ポルトガル語における従来の参照分類器 AZPort は、ナイーブベイズのアプローチで 72% の精度にとどまっていました。
制約
CorpusDT はポルトガル語で利用できる数少ない注釈付きコーパスの一つで、科学論文の要旨をわずか 52 本しか含んでおらず、Transformer を直接ファインチューニングするには少なすぎます。
アプローチ
各文の修辞的な意味を保つデータ拡張パイプラインを構築しました。逆翻訳(PT→EN→PT)、同義語置換、ランダム挿入とスワップ、正則化としてのランダム削除で、確率的に適用し、少数クラスに偏らせました。これにより 52 本の要旨を 1,409 件のバランスの取れた文例(層化 80/20 分割)に拡張しました。そのデータセット上で、BERTimbau の蒸留版である distilbert-portuguese-cased をファインチューニングしました。6 クラス分類ヘッド、クラス重み付き交差エントロピー、混合精度(FP16)、コサインスケジューラ付き AdamW、検証 F1 での早期終了を用いています。
結果
最終的な分類器は検証セットで重み付き F1 0.94(マクロ 0.9403)、精度 93.97% を達成し、ポルトガル語の修辞ムーブ検出における既知の最高結果となりました。誤り分析では、誤分類は意味的に隣接するムーブ間に集中していました(例えば結果の文の 7.7% が方法として読まれる)。人間の注釈者にとっても微妙な境界です。誤りはランダムではなく論理的なパターンに従っています。