การศึกษาโมเดลแบบทรานสฟอร์มเมอร์สำหรับการจำแนกความรู้สึก

Abstract

การวิเคราะห์ความรู้สึกเป็นประโยชน์สำหรับการดำเนินการทางธุรกิจเป็นอย่างมาก เพราะการประเมินความรู้สึกของลูกค้าที่มีต่อสินค้าและบริการนั้น สามารถนำมาใช้ประโยชน์อย่างมาก จากการศึกษาที่ผ่านมาพบว่า กระบวนการในการจำแนกความรู้สึกสามารถแบ่งออกเป็น 3 ประเภท ได้แก่ กระบวนการที่ใช้คำศัพท์ (Lexicon‑based Approaches) กระบวนการที่ใช้อัลกอริทึมการเรียนรู้ของเครื่อง (Machine Learning‑based Approaches) และกระบวนการที่ใช้อัลกอริทึมการเรียนรู้เชิงลึก (Deep Learning‑based Approaches) แต่เทคนิคเหล่านี้มองข้ามข้อมูลของอารมณ์จากการพิจารณาบริบทในบทวิจารณ์ ดังนั้นเวกเตอร์ที่สร้างขึ้นมาอาจจะเป็นเพียงเวกเตอร์ของคำ ซึ่งเป็นสาเหตุของจำแนกข้อมูลที่ผิดพลาด (Misclassification) ไม่กี่ปีที่ผ่านมามีงานวิจัยด้านการจำแนกความรู้สึก ได้ประยุกต์นะเอากระบวนการแบบทรานสฟอร์มเมอร์ (Transformer-based Approach) มาใช้ ซึ่งเป็นกระบวนการที่มีการพิจารณาโครงสร้างและความหมายของคำควบคู่กับการวิเคราะห์อารมณ์ในบริบทของข้อมูลเนื่องจากโมเดลแบบทรานสฟอร์มเมอร์ (Transformer Model) ที่พัฒนาด้วยโครงข่ายประสาทเทียมด้วยโครงสร้างแบบ Encoder-Decoder ที่เรียนรู้บริบทและความหมายแบบ Self-Attention ที่จะวิเคราะห์และเปรียบเทียบข้อมูลอินพุตทั้งหมดในลักษณะการวิเคราะห์แบบ Sequence-to-Sequence และโมเดลแบบทรานสฟอร์มเมอร์ ยังสามารถนำมาใช้กับงานทางด้านการประมวลผลภาษาธรรมชาติ (Natural Language Processing : NLP) ได้หลากหลาย ดังนั้นโครงงานฉบับนี้จึงได้นำเสนอโมเดลการวิเคราะห์ความรู้สึกที่ผ่านการ Fine-tuning ด้วยข้อมูลบทวิจารณ์โรงแรมภาษาอังกฤษ กับ Pre-trained Model อย่างโมเดลทรานสฟอร์มเมอร์แบบ BERT-base ภายใต้แนวคิดของการวิเคราะห์ความรู้สึก (Sentiment Classification) ด้วยการประมวลผลภาษาธรรมชาติ และการจำแนกเอกสารข้อความ (Text Classification)