Model prediktif mendeteksi potensi propaganda ekstremis di media sosial

Kelompok militan ISIS, atau ISIS, kehilangan wilayah fisiknya pada tahun 2019, namun mereka tetap menjadi kekuatan aktif di media sosial, menurut para peneliti dari Penn State College of Information Sciences and Technology, yang bertujuan untuk lebih memahami strategi online kelompok tersebut. .

Dalam karyanya yang dimuat di jurnal Analisis dan Penambangan Media Sosialpara peneliti menganalisis kumpulan data besar aktivitas di X—sebelumnya dikenal sebagai Twitter—untuk mengembangkan model prediktif guna mendeteksi pengguna dan konten yang terkait dengan ekstremis ISIS.

Mereka mengidentifikasi potensi pesan propaganda dan karakteristiknya serta mengembangkan pengklasifikasi gambar untuk menemukan kategori gambar yang paling sering dilampirkan pada tweet tentang ISIS. Mereka selanjutnya mengumpulkan kumpulan data tweet dari calon pendukung ISIS untuk menyelidiki aktivitas terbaru mereka.

“Kelompok ISIS dan afiliasinya, simpatisan dan pengikutnya terus memanipulasi komunitas online untuk menyebarkan propaganda ekstremis,” kata Younes Karimi, seorang mahasiswa pascasarjana yang sedang mengejar gelar doktor di bidang informatika dan penulis pertama makalah tersebut.

“Dengan mempelajari pola perilaku dan strategi mereka serta memantau kehadiran online mereka, kami dapat membantu perusahaan media sosial mengidentifikasi dan pada akhirnya membatasi akun-akun tersebut dengan cara yang lebih tepat waktu dan mengurangi dampaknya terhadap komunitas online.”

Menurut Karimi, kelompok ISIS semakin mengandalkan media sosial untuk menyebarkan propaganda, melemahkan saingannya dan merekrut simpatisan, meskipun ada tindakan balasan dari situs seperti X untuk membatasi aktivitas online mereka. Jam tangan ISIS—saluran online yang menerbitkan pembaruan harian tentang konten teroris yang dilarang di layanan pesan instan lintas platform Telegram—melaporkan penghapusan hampir 5.000 bot dan saluran teroris dalam 11 hari pertama tahun 2024.

Kumpulan data para peneliti mencakup jutaan tweet, mulai dari tahun 2009 hingga 2021, yang terkait dengan kelompok ISIS dan propagandanya.

“Perspektif longitudinal dari kumpulan data ini penting karena mencakup data dari sebelum dan sesudah tahun 2015, ketika tindakan keras besar-besaran yang dilakukan Twitter menghapus akun pengguna dan konten yang melibatkan kelompok ISIS,” kata Karimi. “Sebagai tanggapannya, para ekstremis harus mengubah strategi daring mereka dan beralih ke platform lain, dan hanya sedikit yang diketahui tentang keberadaan daring mereka sejak tindakan keras tersebut.”

Untuk mengidentifikasi calon pendukung ISIS, para peneliti memulai dengan membangun pengklasifikasi pengguna menggunakan dataset lama. Akun ISIS yang diidentifikasi sebelum tahun 2015 berfungsi sebagai data berlabel untuk pengguna ISIS dalam penelitian tersebut. Para peneliti menggunakan pembelajaran mesin dan teknik pemrosesan bahasa alami untuk membedakan jenis pengguna yang berbagi konten kelompok ekstremis.

“Pengguna dalam kumpulan data kami berkisar dari anggota kelompok ISIS yang dikenal hingga yang me-retweet dan mengutip hingga menyebut ISIS,” kata Karimi.

“Kami percaya bahwa pengguna yang me-retweet atau mengutip konten kelompok ISIS lebih cenderung menjadi afiliasi atau simpatisan, sedangkan mereka yang hanya menyebut konten tersebut cenderung menjadi pendukung. Namun, tweet yang diposting oleh penyebutan masih sangat mungkin terkait dengan ISIS dan berisi topik yang mirip dengan tweet ISIS, sehingga penyebutannya cocok untuk dianggap sebagai pengguna non-ISIS dan mitra non-sepele bagi pengguna ISIS.”

Para peneliti kemudian menganalisis tweet tersebut untuk mengidentifikasi apa yang mereka sebut sebagai “propaganda kandidat”. Mereka membandingkan topik yang digunakan oleh akun-akun kelompok ISIS sebelum tahun 2015 dalam kumpulan data lama dengan konten yang diposting setelah tahun 2015 oleh calon afiliasi dan pendukung dalam kumpulan data terbaru mereka.

Mereka mengkaji tweet tersebut dari tiga sudut. Yang pertama, keterlibatan abnormal, mengidentifikasi konten yang tersebar luas dan berkelanjutan dalam cara konten tersebut dibagikan.

“Kami merumuskan dan menggunakan metode untuk secara otomatis mendeteksi potensi pesan propaganda yang disebarluaskan dalam skala besar,” kata Karimi. “Metode kami mengidentifikasi pengguna dalam kumpulan data yang memiliki sedikit pengikut namun kontennya tersebar luas melalui retweet dan suka.”

Sudut pandang kedua mengkaji kata-kata dan gambar berbasis ideologi, yang menurut para peneliti sering kali dirancang untuk menimbulkan respons emosional dan memengaruhi khalayak luas.

Sudut ketiga peneliti untuk memeriksa konten melibatkan hashtag.

“Pendukung dan afiliasi kelompok ISIS merekrut orang-orang untuk me-retweet hashtag guna menciptakan ide-ide yang sedang tren, seperti referensi agama yang kuat, dan menyusun pesan kelompok untuk meningkatkan branding kelompok tersebut dan memastikan pesannya bertahan lama,” kata Karimi.

Di antara tagar yang paling banyak digunakan dalam tweet ISIS adalah “Negara Islam”, “Berita Khilafah”, “Mendesak”, “Negara Kekhalifahan”, dan “ISIS”.

Karena pendekatan ini berfokus pada pengguna dan konten pengguna, para peneliti mengatakan pendekatan ini dapat diterapkan pada platform media sosial lain di luar X.

“Studi kami dapat membantu tim keamanan media sosial melacak akun-akun yang berpotensi menjadi ekstremis, mengidentifikasi pendukung dan pendukungnya, serta mencegah penyebaran propaganda yang mereka perlukan untuk mengembangkan komunitas mereka,” kata Karimi. “Melakukan hal ini pada waktu yang tepat dapat membantu penegak hukum dan lembaga pemerintah dalam upaya intervensi mereka melawan ekstremisme.”