Глибоке навчання для визначення риторичних ходів
Sociedade Brasileira de Computação · Sep 2025
Тонко налаштував дистильовану версію BERTimbau на корпусі CorpusDT для визначення риторичних ходів у португаломовних наукових анотаціях, досягнувши F1-оцінки 0,94 у класифікації речень. Показує потенціал NLP для підвищення якості академічного письма португальською.
Кейс
F1 0,94 · точність 93,97 % · 6 риторичних класів · 52 анотації → 1 409 прикладів
Проблема
Португальській мові бракує інструментів для підтримки наукового письма. Риторичні ходи за Swales (контекст, прогалина, мета, метод, результат і висновок) зазвичай структуруються інтуїтивно, а дослідницька прогалина часто залишається неявною. Попередній еталонний класифікатор для португальської, AZPort, досягав 72 % точності з наївним байєсівським підходом.
Обмеження
CorpusDT, один із небагатьох розмічених корпусів, доступних португальською, містить лише 52 наукові анотації, чого замало для прямого тонкого налаштування Transformer.
Підхід
Я побудував конвеєр доповнення даних, який зберігає риторичний зміст кожного речення: зворотний переклад (PT→EN→PT), заміна синонімів, випадкові вставлення й перестановки та випадкове видалення як регуляризація, застосовані стохастично зі зміщенням у бік міноритарних класів. Це розширило 52 анотації до 1 409 збалансованих прикладів речень (стратифікований поділ 80/20). На цьому наборі я тонко налаштував distilbert-portuguese-cased, дистильовану версію BERTimbau, з головою класифікації на 6 класів, зваженою за класами крос-ентропією, змішаною точністю (FP16), AdamW із косинусним планувальником і ранньою зупинкою за F1 на валідації.
Результат
Фінальний класифікатор досяг зваженої F1 0,94 (0,9403 макро) і точності 93,97 % на валідаційному наборі, найкращий відомий результат для визначення риторичних ходів португальською. Аналіз помилок показав, що хибні класифікації зосереджені між семантично суміжними ходами (наприклад, 7,7 % речень класу «Результат» прочитані як «Метод»), це тонка межа навіть для людських анотаторів. Помилки підпорядковуються логічній закономірності, а не випадковій.