Deepfake Kelabui Jutaan Calon Pemilih di Asia Jelang Pemilu

"Dalam lingkungan, di mana misinformasi sudah lazim, konten yang dihasilkan AI dapat semakin mengubah persepsi publik dan memengaruhi perilaku memilih," tambah Jalli, yang juga asisten profesor di sekolah media Oklahoma State University.

Deepfake untuk propaganda politik

Gambar dan video deepfake yang dihasilkan oleh aplikasi AI generatif diketahui muncul menjelang pemilu di Selandia Baru, Turki, dan Argentina tahun lalu.

AI membuat penciptaan dan penyebaran disinformasi menjadi lebih cepat, lebih murah, dan efektif, kata Freedom House, organisasi nirlaba dari Amerika Serikat, dalam sebuah laporan baru-baru ini.

Perusahaan media sosial yang berinvestasi besar-besaran telah mengubah prioritas mereka. "Saya memperkirakan akan terjadi tsunami misinformasi," kata Oren Etzioni, pakar kecerdasan buatan dan profesor emeritus di Universitas Washington.

"Saya tidak bisa membuktikannya. Saya harap saya salah. Tapi bahan-bahannya ada, dan saya benar-benar khawatir."

Gambar dan video yang dimanipulasi seputar pemilu bukanlah hal baru, namun tahun 2024 akan menjadi pemilu presiden AS pertama, di mana alat AI canggih yang dapat menghasilkan gambar-gambar palsu yang meyakinkan hanya dalam hitungan detik hanya dengan beberapa klik digunakan secara luas.

"Anda bisa melihat kandidat politik seperti Presiden Biden dilarikan ke rumah sakit," katanya. "Anda bisa melihat seorang kandidat mengatakan hal-hal yang sebenarnya tidak pernah dia katakan," ujar Profesor Etzioni.

Di Bangladesh, muncul video deepfake yang menampilkan sejumlah politisi perempuan dari pihak oposisi, Rumin Farhana, dalam balutan bikini dan Nipun Roy di kolam renang. Meski terbantahkan dengan cepat, konten tersebut masih beredar.

Bahkan konten deepfake berkualitas buruk pun menyesatkan orang, kata Sayeed Al-Zaman, asisten profesor jurnalisme di Universitas Jahangirnagar Bangladesh, yang mempelajari media sosial. "Tetapi pemerintah tampaknya tidak khawatir," katanya.

Sinyal berbahaya

Setidaknya 500.000 video dan audio deepfake telah dibagikan di situs media sosial secara global pada 2023, demikian menurut perkiraan DeepMedia, perusahaan yang mengembangkan alat untuk mendeteksi media sintetis.

Namun platform media sosial terlihat kewalahan untuk mengatasi hal ini. Meta, yang memiliki Facebook, Instagram dan WhatsApp, mengatakan pihaknya akan menghapus media sintetis jika "manipulasinya tidak terlihat dan dapat menyesatkan, terutama dalam kasus konten video."

Google, pemilik YouTube, pada bulan November mengatakan bahwa platform berbagi video tersebut mengharuskan kreator untuk mengungkapkan konten yang terlihat realis padahal telah dialterasi atau dibuat, termasuk menggunakan alat AI. Pihaknya juga akan memberi tahu pengguna tentang konten tersebut lewat label.

Namun negara-negara termasuk India, Indonesia, dan Bangladesh baru-baru ini mengeluarkan undang-undang untuk mengawasi konten online yang lebih ketat dan menjatuhi sanksi situs media sosial untuk konten yang dianggap misinformasi, kata Raman Jit Singh Chima, direktur kebijakan Asia di lembaga advokasi Access Now.

Di negara-negara ini, "siklus pemilu kali ini sebenarnya lebih buruk dibandingkan siklus sebelumnya – platform tidak dibentuk untuk menangani masalah, dan mereka tidak cukup responsif dan proaktif. Dan itu adalah sinyal yang sangat berbahaya," jelasnya.

"Ada bahaya bahwa perhatian dunia hanya tertuju pada pemilu AS. Akan tetapi standar yang diterapkan di sana, upaya yang dilakukan di sana, juga bisa dilakukan di mana pun," katanya.

ae/hp (Thomson Reuters Foundation, AP)

Jangan lewatkan konten-konten eksklusif berbahasa Indonesia dari DW. Ayo berlangganan gratis newsletter mingguan Wednesday Bite. Recharge pengetahuanmu di tengah minggu, biar topik obrolan makin seru!