Cara mengenali deepfake

Di dunia di mana Anda dapat membuat tiruan virtual seseorang dalam hitungan menit, bagaimana kita tahu apa yang nyata? Ini mungkin terdengar seperti fiksi ilmiah distopia, namun deepfake adalah kenyataan yang menyebabkan kerugian sosial, finansial, dan pribadi yang serius.

Deepfake adalah media sintetis yang dihasilkan menggunakan kecerdasan buatan (AI), termasuk gambar, video, audio, dan bahkan teks. Umumnya, deepfake adalah video atau gambar orang yang telah dimanipulasi secara digital oleh penyerang dunia maya untuk menyesatkan. Deepfake dapat menggambarkan orang mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah mereka lakukan.

Karena kemajuan terkini dalam AI yang digunakan untuk membuat deepfake, dan semakin banyaknya generator deepfake yang murah dan mudah digunakan, Anda mungkin melihat deepfake yang lebih realistis bermunculan di feed media sosial Anda. Atau mungkin, yang lebih memprihatinkan… Anda belum menyadarinya.

Bagaimana deepfake dibuat?

Deepfake yang “dalam” berasal dari pembelajaran mendalam, jenis AI yang digunakan untuk menciptakannya. Pembelajaran mendalam mengajarkan komputer untuk memproses data dan membuat prediksi dengan cara yang terinspirasi oleh otak manusia.

Hingga saat ini, banyak deepfake yang dibuat menggunakan jenis model yang disebut Generative Adversarial Network (atau GAN). GAN dilatih dengan mengadu dua jaringan saraf satu sama lain: yang satu menghasilkan konten dan yang lainnya mengevaluasinya, sehingga menghasilkan keluaran yang semakin realistis melalui persaingan.

Dalam video deepfake yang dibuat dengan model GAN, manipulasi diterapkan pada bagian tertentu dari rekaman tersebut, misalnya mulut. Hal ini menghasilkan pemalsuan seperti ini di mana kemiripan Twiggy Forest, Gina Reinhardt dan Dick Smith digunakan untuk menipu warga Australia agar berinvestasi dalam skema palsu.

Sejak booming AI generatif pada tahun 2023, terjadi peningkatan model difusi deepfake. Model difusi membawa kita lebih dari sekedar menempelkan wajah seorang selebriti ke tubuh seorang aktor, atau membuat mulut mengucapkan kata-kata baru. Mereka mengizinkan deepfake dibuat dari awal, tanpa mengedit konten asli.

Pakar keamanan siber kami sedang meneliti perubahan cepat dalam lanskap deepfake. Dr. Sharif Abuadbba mengatakan selain meningkatnya realisme, ledakan AI generatif juga menyebabkan pembuatan deepfake lebih murah dan lebih mudah diakses.

“Sekitar satu tahun yang lalu, teknologi ini hanya dapat diakses oleh para peretas dan ahli yang ahli. Sekarang, siapa pun yang memiliki ponsel atau komputer dapat membuat deepfake. Semudah membuka toko aplikasi, mengunduh salah satu dari banyak aplikasi secara gratis atau a biaya berlangganan yang kecil, dan Anda siap berangkat,” kata Sharif.

“Yang mengerikan, sekarang membuat deepfake yang menargetkan orang tertentu menjadi mudah. ​​Penyerang pemula dapat mengakses generator dan membuatnya tanpa pengetahuan sebelumnya hanya dalam beberapa detik. Peretas yang terampil dapat membuat deepfake yang sangat realistis hanya dalam hitungan detik. beberapa jam hingga sehari.”

Mengapa orang membuat deepfake?

Sayangnya, sebagian besar deepfake menargetkan wanita dan digunakan dalam pornografi. Namun, penggunaan deepfake lainnya semakin meningkat, banyak di antaranya bersifat jahat. Mereka telah digunakan untuk mengganggu pemilu, penipuan identitas, upaya penipuan, dan menyebarkan berita palsu. Tahun lalu, pasar saham anjlok akibat foto deepfake realistis yang menunjukkan Pentagon sedang terbakar.

Pakar kami baru-baru ini berkolaborasi dengan peneliti dari Universitas Sungkyunkwan di Korea Selatan untuk mengumpulkan dan mempelajari kumpulan data deepfake nyata yang terbesar dan paling beragam di dunia. Ini terdiri dari 2.000 deepfake dari 21 negara dalam bahasa Inggris, Rusia, Mandarin, dan Korea. Deepfake tersebut bersumber dari Youtube, TikTok, Reddit, dan platform berbagi video Tiongkok Bilibili.

Analisis mereka menemukan bahwa deepfake dalam kategori hiburan—seperti tarian Robert Pattinson—meningkat dua kali lipat setiap tahun dari tahun 2019 hingga 2021. Terdapat juga pertumbuhan substansial dalam deepfake yang bersifat politis dan penipuan.

Sharif mengatakan penggunaan deepfake menjadi semakin umum dan menjadi ancaman keamanan siber yang serius.

“Deepfakes semakin canggih dalam realismenya sehingga berpotensi menargetkan sistem pengenalan wajah yang semakin banyak digunakan untuk mengamankan akun online Anda seperti perbankan,” katanya.

Gartner memperkirakan deepfake dapat menghancurkan kepercayaan terhadap autentikasi biometrik bagi 30% perusahaan pada tahun 2026. Ada juga kekhawatiran yang meningkat mengenai kemampuan membuat klon suara untuk meretas akun online yang dilindungi suara atau hal-hal seperti asisten Google.

Cara mengenali deepfake

Mengingat maraknya video deepfake di media sosial dan potensinya untuk menimbulkan dampak buruk, penting bagi kita untuk mengetahui cara mengenalinya.

Pakar kami Dr. Kristen Moore mengatakan ada beberapa ciri berbeda yang harus diwaspadai yang dapat mengungkap kebohongan.

“Jika itu video, Anda dapat memeriksa apakah audionya disinkronkan dengan benar dengan gerakan bibir. Apakah kata-katanya cocok dengan mulut? Hal lain yang perlu diperiksa adalah kedipan atau kedipan yang tidak wajar di sekitar mata, pencahayaan atau bayangan yang aneh, dan ekspresi wajah yang tidak sesuai. tidak cocok dengan nada emosional pidatonya,” kata Kristen.

“Gambar deepfake yang dibuat dari model difusi biasanya dapat dilihat dengan mencari asimetri, seperti anting-anting yang berbeda di setiap sisinya, atau satu mata sedikit lebih besar dari yang lain. Hal lain yang saat ini mereka hadapi adalah tangan—jadi periksalah yang benar jumlah jari, dan ukuran serta realisme tangan.

“Untuk deepfake yang menggunakan metode pertukaran wajah, terkadang Anda dapat melihat titik di mana mereka memadukan wajah ke dahi asli. Terkadang ada perbedaan tekstur atau warna, atau mungkin garis rambutnya terlihat sedikit melenceng.”

Namun, dia juga memperingatkan bahwa deepfake mungkin tidak akan terdeteksi oleh siapa pun kecuali para ahli yang paling terlatih.

“Peningkatan kemampuan setelah diperkenalkannya model GPT di ruang teks benar-benar mengejutkan semua orang. AI generatif berubah dari tidak terlalu canggih menjadi sesuatu yang kini digunakan banyak orang setiap hari… sungguh fenomenal,” kata Kristen.

“Seiring dengan kemajuan pesat dalam generator, kami mendorong masyarakat untuk bersikap skeptis terhadap konten yang mereka lihat online. Periksa fakta konten dengan membandingkan media yang dipermasalahkan dengan media dari sumber tepercaya lainnya, dan selalu mencari sumber asli konten tersebut. “

Bagaimana melindungi diri Anda dari deepfake

Peneliti keamanan siber kami termasuk Sharif, Kristen, dan Dr. Shahroz Tariq di Data61 sedang mengerjakan metode digital untuk memerangi serangan deepfake, termasuk memberi watermark pada konten asli dan meningkatkan akurasi pendeteksi deepfake otomatis yang didukung AI. Namun masih ada beberapa cara yang harus dilakukan sebelum metode digital dapat mendeteksi deepfake yang sebenarnya dengan andal.

Mengingat hal ini, penting bagi kita untuk mengambil langkah-langkah untuk melindungi diri kita sendiri. Shahroz mengatakan mencegah pembuatan deepfake secara teknis tidak mungkin dilakukan oleh selebriti atau tokoh masyarakat mengingat banyaknya video dan gambar yang mereka buat secara online. Namun ada beberapa langkah yang dapat diambil masyarakat untuk menghindari pemalsuan informasi secara mendalam.

“Anda dapat melindungi diri Anda sampai batas tertentu dengan menjadikan profil sosial Anda pribadi. Dengan cara ini hanya teman dan pengikut Anda yang dapat melihat konten Anda,” kata Shahroz.

“Hal ini tidak hanya membatasi ketersediaan gambar Anda secara online secara umum, namun secara signifikan meningkatkan potensi menemukan penyerang jika seseorang membuat deepfake tentang Anda.”

Sharif mengatakan organisasi-organisasi di industri yang mengumpulkan data identifikasi individu juga sangat rentan dan harus proaktif untuk mengatasi ancaman tersebut.

“Jika Anda bekerja di industri seperti berita dan hiburan, perekrutan (di mana kita melihat peningkatan lamaran pekerjaan melalui video), media sosial, perbankan, dan institusi yang menggunakan pengenalan wajah… deepfake akan datang kepada Anda atau sudah ada di sana. ,” kata Syarif.

“Kami ingin bekerja sama dengan industri dalam mengatasi masalah ini dan mendorong siapa pun yang tertarik untuk berkolaborasi dengan kami untuk menghubungi kami.”