การเรียนรู้เชิงลึกสำหรับการตรวจจับการเคลื่อนวาทกรรม
Sociedade Brasileira de Computação · Sep 2025
ปรับจูนเวอร์ชันกลั่นของ BERTimbau บนคลังข้อมูล CorpusDT เพื่อระบุการเคลื่อนวาทกรรมในบทคัดย่องานวิจัยภาษาโปรตุเกส ทำได้คะแนน F1 0.94 ในการจำแนกประโยค แสดงให้เห็นศักยภาพของ NLP ในการยกระดับคุณภาพการเขียนเชิงวิชาการในภาษาโปรตุเกส
กรณีศึกษา
F1 0.94 · ความแม่นยำ 93.97% · 6 คลาสวาทกรรม · 52 บทคัดย่อ → 1,409 ตัวอย่าง
ปัญหา
ภาษาโปรตุเกสขาดเครื่องมือที่ช่วยสนับสนุนการเขียนเชิงวิทยาศาสตร์ การเคลื่อนวาทกรรมตามแนวคิดของ Swales (บริบท ช่องว่างทางวิจัย วัตถุประสงค์ วิธีการ ผลลัพธ์ และบทสรุป) มักถูกจัดโครงสร้างตามสัญชาตญาณ และช่องว่างทางวิจัยมักถูกทิ้งไว้เป็นนัย ตัวจำแนกอ้างอิงตัวก่อนหน้าสำหรับภาษาโปรตุเกสอย่าง AZPort ทำความแม่นยำได้ 72% ด้วยวิธี Naive Bayes
ข้อจำกัด
CorpusDT หนึ่งในคลังข้อมูลที่ติดป้ายกำกับไม่กี่แห่งที่มีในภาษาโปรตุเกส มีบทคัดย่องานวิจัยเพียง 52 ชิ้น ซึ่งน้อยเกินกว่าจะปรับจูน Transformer ได้โดยตรง
แนวทาง
ผมสร้างไปป์ไลน์การเพิ่มข้อมูลที่รักษาความหมายเชิงวาทศิลป์ของแต่ละประโยค ได้แก่ การแปลย้อนกลับ (PT→EN→PT) การแทนที่ด้วยคำพ้อง การแทรกและสลับแบบสุ่ม และการลบแบบสุ่มเพื่อใช้เป็น regularization โดยใช้แบบสุ่มและเอนเอียงไปทางคลาสส่วนน้อย สิ่งนี้ขยาย 52 บทคัดย่อเป็น 1,409 ตัวอย่างประโยคที่สมดุล (แบ่งแบบ stratified 80/20) บนชุดนั้นผมปรับจูน distilbert-portuguese-cased ซึ่งเป็นเวอร์ชันกลั่นของ BERTimbau ด้วยหัวจำแนก 6 คลาส cross-entropy ถ่วงน้ำหนักตามคลาส ความแม่นยำแบบผสม (FP16) AdamW พร้อม cosine scheduler และ early stopping บน F1 ของชุดตรวจสอบ
ผลลัพธ์
ตัวจำแนกสุดท้ายทำได้ F1 แบบถ่วงน้ำหนัก 0.94 (macro 0.9403) และความแม่นยำ 93.97% บนชุดตรวจสอบ ซึ่งเป็นผลลัพธ์ที่ดีที่สุดเท่าที่ทราบสำหรับการตรวจจับการเคลื่อนวาทกรรมในภาษาโปรตุเกส การวิเคราะห์ข้อผิดพลาดพบว่าการจำแนกผิดกระจุกตัวอยู่ระหว่างการเคลื่อนวาทกรรมที่อยู่ใกล้กันเชิงความหมาย (ตัวอย่างเช่น 7.7% ของประโยค Result ถูกอ่านเป็น Method) ซึ่งเป็นเส้นแบ่งที่ละเอียดอ่อนแม้สำหรับผู้ติดป้ายที่เป็นมนุษย์ ข้อผิดพลาดเป็นไปตามรูปแบบเชิงตรรกะ ไม่ใช่แบบสุ่ม