Deepfake Kelabui Jutaan Calon Pemilih di Asia Jelang Pemilu

Divyendra Singh Jadoun tengah sibuk membuat efek visual dan klon suara berbasis kecerdasan buatan atau artificial intelligence (AI) untuk film dan televisi di India.

Saat itu, dia mulai mendapat telepon dari para politisi yang menanyakan apakah ia bisa membuat video AI, atau deepfake, untuk kampanye pemilu mereka?

November lalu, pemilu lokal di negara bagian tempat ia dilahirkan, Rajasthan, India, penuh persaingan ketat.

Pemilu nasional India yang dijadwalkan pada Mei 2024 membuka peluang besar bagi perusahaannya, The Indian Deepfaker. Namun Jadoun enggan melakukannya.

"Teknologi untuk membuat deepfake saat ini sangat bagus, ini dapat dilakukan dalam waktu singkat, dengan sedikit usaha, dan orang tidak dapat mengetahui apakah itu asli atau palsu," kata Jadoun, 30 tahun.

"Tidak ada pedoman mengenai deepfake, dan itu mengkhawatirkan karena berpotensi memengaruhi cara seseorang memilih," katanya kepada Thomson Reuters Foundation.

Reel Instagram yang menampilkan Perdana Menteri India Narendra Modi bernyanyi dalam bahasa daerah baru-baru ini menjadi viral.

Sementara di Indonesia, video TikTok yang menampilkan calon presiden Prabowo Subianto dan Anies Baswedan berbicara dalam bahasa Arab dengan fasih juga viral.

Padahal semua itu palsu, dibuat dengan AI, dan diposting tanpa label.

Deepfake tumbuh subur jelang pemilu

Dengan adanya pemilu yang akan diadakan di India, Indonesia, Bangladesh dan Pakistan dalam beberapa minggu mendatang, misinformasi tersebar luas di platform media sosial.

Deepfake, yakni video atau audio yang dibuat menggunakan AI dan disiarkan sebagai informasi asli, menjadi hal yang sangat mengkhawatirkan, kata para pakar dan otoritas teknologi.

Di India, dengan lebih dari 900 juta pemilih, PM Narendra Modi mengatakan video deepfake adalah “kekhawatiran besar”. Pihak berwenang pun memperingatkan platform media sosial bahwa mereka bisa kehilangan status safe-harbour yang melindungi mereka dari tanggung jawab atas konten yang diposting pihak ketiga di situs mereka, jika mereka tidak bertindak.

Di Indonesia, lebih dari 200 juta pemilih akan memberikan suara pada 14 Februari dalam pemilu presiden dan pemilu leislatif.

Informasi palsu mengenai ketiga kandidat presiden dan pasangannya beredar secara online, dan berpotensi memengaruhi hasil pemilu, kata Nuurrianti Jalli, yang mempelajari misinformasi dan media sosial.

"Dari penargetan mikro terhadap pemilih dengan menggunakan disinformasi, hingga menyebarkan narasi palsu dengan skala dan kecepatan yang tidak dapat dicapai oleh manusia, alat-alat AI ini dapat secara signifikan memengaruhi persepsi dan perilaku pemilih," ujar Jalli.