Sentiment Analysis on Social Media using Bidirectional Encoder from Transformers (Case Study : Covid – 19 Omicron)
Abstract
Indonesia tercatat sebagai negara dengan jumlah pengguna internet terbesar di Dunia, sehingga adanya perubahan komunikasi dimasyarakat. Kemajuan jaman membuat interaksi manusia banyak dihabiskan pada media sosial, diantaranya Instagram, facebook, twitter (X) dan Tiktok mendominasi ruang digital. Tingginya interaksi pada sosial media, tidak bisa dipungkiri kerap kali bias, menimbulkan banyak persepsi baik karena subjektivitas, pandangan pribadi, maupun emosi sesaat. Pandemi Covid-19 memaksa pemerintah mencari solusi untuk berbagai masalah yang muncul, namun kebijakan yang diambil seringkali memicu gejolak di dunia maya. Penelitian ini bertujuan untuk melihat seberapa baik performa BERT dalam mengklasifikasikan komentar, BERT (Bidirectional Encoder Representations from Transformers) memanfaatkan pendekatan word embedding untuk memahami konteks kata dalam dua arah. Arsitektur BERT menggunakan transformers, mekanisme yang memberikan makna kontekstual pada kata, membantu BERT dalam mengklasifikasikan komentar. Keunggulan BERT terletak pada pemahaman konteks kata yang mendalam melalui embedding kontekstual, dengan encoder transformers yang membaca kalimat dua arah.. Data yang digunakan adalah komentar pada instagram dan facebook didapatkan data sebanyak 3.522 data. Fokus penelitian ini adalah Covid – 19 varian omicron, topik ini diambil karena polaritas reaksi pada masyarakat. Model pada penelitian ini menggunakan 4 proporsional dataset, untuk melihat kontribusi data latih untuk model yang dikembangkan, sedangkan untuk evaluasi menggunakan dataset yang dilabeli secara manual. Penelitian ini mengungkapkan bahwa BERT dapat digunakan untuk mengklasifikasikan sentimen dengan hasil yang baik, model yang dibangun mendapatkan rentang efisiensi pada epoch 3 sampai 5, meskipun nilai terbaik berada epoch 8, dengan akurasi sebesar 90%. Mayoritas sentimen menunjukkan sentimen negatif ditengarai timbul panik dimasyarakat terkait penanganan Pandemi Covid – 19.
References
Chinnasamy, P., Suresh, V., Ramprathap, K., Jebamani, B. J. A., Srinivas Rao, K., & Shiva Kranthi, M. (2022). COVID-19 vaccine sentiment analysis using pub- lic opinions on Twitter. Materials Today: Proceedings, 64, 448–451. https://doi.org/10.1016/j.matpr.2022.04.809
Devlin, J., Chang, M.-W., Lee, K., & Toutanova, K. (2019). BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Proceedings of the 2019 Conference of the North, 4171–4186. https://doi.org/10.18653/v1/N19-1423
Jason Brownlee. (2019, August 12). Overfitting and Underfitting With Machine Learning Algorithms.
Jalaj Thanaki. (2017). Python Natural Language Processing: Advanced machine learning and deep learning techniques for natural language processing (1st ed.).
Kurniasari, I., Kusrini, K., & Fatta, H. Al. (2021). Analysis of Public Opinion Sen- timent on Instagram regarding Covid-19 with SVM. JTECS : Jurnal Sistem Telekomunikasi Elektronika Sistem Kontrol Power Sistem Dan Komputer, 1(1), 67. https://doi.org/10.32503/jtecs.v1i1.1416
Lin, S.-Y., Kung, Y.-C., & Leu, F.-Y. (2022). Predictive intelligence in harmful news identification by BERT-based ensemble learning model with text senti- ment analysis. Information Processing & Management, 59(2), 102872. https://doi.org/10.1016/j.ipm.2022.102872
Naufaldi Hafidhigbal, Siti Ummi Masruroh, & Nenny Anggraini. (2024). Imple- mentasi model indobert untuk klasifikasi jenis tindak pidana korupsi berbasis web application. UIN Syarif Hidayatullah Jakarta.
Nugroho, K. S., Sukmadewa, A. Y., Wuswilahaken DW, H., Bachtiar, F. A., & Yudistira, N. (2021). BERT Fine-Tuning for Sentiment Analysis on Indone- sian Mobile Apps Reviews. 6th International Conference on Sustainable In- formation Engineering and Technology 2021, 258–264. https://doi.org/10.1145/3479645.3479679
Prof. Dr. Sugiyono. (2018). Metode penelitian kuantitatif, kualitatif dan kombinasi (mixed methods) (2nd ed., Vol. 10). Bandung : Alfabeta, 2018.
Ray, B., Garain, A., & Sarkar, R. (2021). An ensemble-based hotel recommender system using sentiment analysis and aspect categorization of hotel reviews. Applied Soft Computing, 98, 106935. https://doi.org/10.1016/j.asoc.2020.106935
Samsir, S., Ambiyar, A., Verawardina, U., Edi, F., & Watrianthos, R. (2021). Ana- lisis Sentimen Pembelajaran Daring Pada Twitter di Masa Pandemi COVID- 19 Menggunakan Metode Naïve Bayes. JURNAL MEDIA INFORMATIKA BUDIDARMA, 5(1), 157. https://doi.org/10.30865/mib.v5i1.2580
Selvakumar, B., & Lakshmanan, B. (2022). Sentimental analysis on user’s reviews using BERT. Materials Today: Proceedings, 62, 4931–4935. https://doi.org/10.1016/j.matpr.2022.03.678
Singh, M., Jakhar, A. K., & Pandey, S. (2021). Sentiment analysis on the impact of coronavirus in social life using the BERT model. Social Network Analysis and Mining, 11(1), 33. https://doi.org/10.1007/s13278-021-00737-z
Sudharsan Ravichandiran. (2021). Getting Started with Google BERT: Build and train state-of-the-art natural language processing models using BERT (1st ed.).
Syukur, M., Salam, M. N., & Junaidi, M. I. (2021). Dampak Pandemi Covid-19 ter- hadap Perekonomian Indonesia: Analisis terhadap Sektor Domestik dan Stabil- itas Inflasi. TRILOGI: Jurnal Ilmu Teknologi, Kesehatan, Dan Humaniora, 2(3), 382–388. https://doi.org/10.33650/trilogi.v2i3.3082
Tabinda Kokab, S., Asghar, S., & Naz, S. (2022). Transformer-based deep learning models for the sentiment analysis of social media data. Array, 14, 100157. https://doi.org/10.1016/j.array.2022.100157
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kai- ser, L., & Polosukhin, I. (2017). Attention Is All You Need.
Vidya Chandradev, I Made Agus Dwi Suarjaya, & I Putu Agung Bayupati. (2023). Analisis Sentimen Review Hotel Menggunakan Metode Deep Learning BERT. Jurnal Buana Informatika, 14(02), 107–116. https://doi.org/10.24002/jbi.v14i02.7244
Zhang, Y., Chen, K., Weng, Y., Chen, Z., Zhang, J., & Hubbard, R. (2022). An in- telligent early warning system of analyzing Twitter data using machine learn- ing on COVID-19 surveillance in the US. Expert Systems with Applications, 198, 116882. https://doi.org/10.1016/j.eswa.2022.116882
Copyright (c) 2024 INFORMASI (Jurnal Informatika dan Sistem Informasi)
This work is licensed under a Creative Commons Attribution 4.0 International License.
Tanggunjawab Penulis
- Penulis menyajikan artikel penelitian atau hasil pemikiran secara jelas, jujur, dan tanpa plagiarisme.
- Penulis harus menunjukkan rujukan dari pendapat dan karya orang lain yang dikutip.
- Penulis bertanggungjawab atas konfirmasi yang diajukan atas artikel yang telah ditulis.
- Penulis harus menulis artikel secara etis, jujur, dan bertanggungjawab, sesuai dengan peraturan penulisan ilmiah yang berlaku.
- Penulis tidak keberatan jika artikel mengalami penyuntingan tanpa mengubah substansi
