Mulai dari chatbot hingga gambar kekanak-kanakan, artificial intelligence (AI) atau kecerdasan buatan digunakan dan disalahgunakan beberapa orang untuk tujuan politik jelang Pilpres dan Pileg 14 Februari 2024. Untungnya, tipu muslihat itu tidak membuat sebagian pemilih tertarik.
Warganet mungkin pernah melihat Capres Prabowo Subianto Calon dalam sebuah video terlihat fasih berbahasa Arab. Ada pula video mantan Presiden Soeharto yang sudah lama meninggal dunia memuji petahana. Muncul pula video seorang calon presiden dimarahi oleh salah satu pendukung politiknya.
Klip audio dan video ini telah beredar di media sosial Indonesia menjelang pemilu 14 Februari, dan dibagikan dalam jumlah yang tak terhitung melalui platform pesan populer. Sekilas video ini terlihat sangat nyata. Namun jika diamati lebih dekat – dengan bantuan sejumlah besar situs web dan aplikasi gratis – hal tersebut terungkap sebagai deepfake, yang dibuat atau dimodifikasi menggunakan kecerdasan buatan (AI).
Mengutip laporan Channel News Asia (CNA), di seluruh dunia, penggunaan AI telah berkembang sejak hadirnya model AI teks-ke-gambar seperti Dall E pada tahun 2021, dan chatbots, termasuk ChatGPT pada tahun 2022. Ukuran pasar kecerdasan buatan global bernilai US$196,6 miliar pada 2023 dan diproyeksikan akan meningkat pada tingkat pertumbuhan tahunan gabungan sebesar 37,3 persen dari tahun 2023 hingga 2030, berdasarkan studi yang dilakukan oleh Grand View Research.
Seiring dengan meningkatnya popularitas AI, para peserta Pilpres dan Pileg di Indonesia telah terjun ke dunia AI. Mereka termasuk tim kampanye calon presiden, Prabowo Subianto dan Ganjar Pranowo, yang mengatakan kepada CNA bahwa mereka menggunakan AI untuk memenangkan hati dan pikiran 200 juta pemilih yang memenuhi syarat memilih di Indonesia.
Kandidat presiden lainnya, mantan Gubernur Jakarta Anies Baswedan yang berpasangan dengan Muhaimin Iskandar, belum menggunakan AI sebagai bagian dari kampanyenya, kata timnya kepada CNA.
Namun para analis mengkritik penggunaan AI untuk tujuan politik, dan memperingatkan bahwa hal ini juga dapat menyebabkan penyebaran disinformasi dan kampanye hitam, yaitu strategi politik yang menyebarkan tuduhan palsu terhadap lawan. Bahkan sebelum popularitas AI meningkat, disinformasi telah tersebar luas di Indonesia, terutama menjelang pemilihan presiden tahun 2019 yang menyebabkan negara berpenduduk lebih dari 270 juta orang ini terpecah belah berdasarkan garis politik. Para pakar khawatir dengan adanya AI, disinformasi semacam itu akan semakin meluas dan berdampak buruk.
Contoh paling awal dari disinformasi yang bermuatan politik dan disebabkan oleh AI terkait pemilu ini terjadi pada bulan Oktober tahun lalu ketika sebuah video muncul di YouTube yang memperlihatkan presiden saat ini, Joko Widodo, yang dikenal sebagai Jokowi.
Video aslinya diambil dari pidato Presiden pada tahun 2015 pada jamuan makan malam di Amerika Serikat. Jokowi menyampaikan pidatonya dalam bahasa Inggris, namun isinya diolah menggunakan AI sehingga seolah-olah ia sedang berbicara bahasa Mandarin.
Meskipun video berdurasi satu menit 20 detik itu segera dihapus, salinannya menyebar dengan cepat di layanan pesan, khususnya di kalangan orang-orang yang kritis terhadap presiden yang ingin menggambarkan Jokowi sebagai orang yang pro-Tiongkok dan membangkitkan sentimen anti-Tiongkok di kalangan konservatif dan nasionalis.
Pada akhir bulan Januari, Anies menjadi korban disinformasi terbaru ketika sebuah video muncul di media sosial yang berisi rekaman suara Ketua Partai Nasional Demokrat (Nasdem) Surya Paloh yang memarahi Anies atas kinerjanya dalam Pilpres baru-baru ini. “Anies, surveimu selalu di bawah. Kami para pemimpin partai sedang pusing. Koalisi juga sedang pusing. Apa pendapatmu tentang ini?” kata Surya Paloh.
“Saya telah mencoba yang terbaik. Saat debat, saya juga bekerja keras untuk menarik perhatian masyarakat,” jawab Anies di video AI itu. Nasdem adalah partai terbesar kelima di Indonesia di parlemen dan salah satu pendukung politik awal pencalonan Anies sebagai presiden.
Para ahli menunjukkan bahwa meskipun suaranya mirip dengan Surya dan Anies, pilihan kata, pengucapan, dan ungkapan mereka terasa tidak wajar dan di luar karakter kedua tokoh itu. “Kita harus kritis, karena sekarang sudah ada teknologi AI yang bisa menghasilkan (konten) audio atau visual yang tampak nyata,” kata Anies pada kampanye di Yogyakarta pada 23 Januari, tak lama setelah video tersebut muncul.
Harus Menjadi Perhatian Pemerintah
Khoirunnisa Nur Agustyati, direktur eksekutif Perkumpulan Pemilu dan Demokrasi (Perludem) mengatakan bahwa pemerintah harus bertindak cepat untuk menghilangkan disinformasi dan menghentikan penyebarannya. “Disinformasi dapat digunakan untuk menyerang kandidat tertentu dan hal ini dapat menyebabkan perpecahan dalam masyarakat kita,” katanya kepada CNA.
Ia mengatakan bahkan tanpa penggunaan AI, disinformasi merajalela selama pemilu 2019 ketika Jokowi berhadapan dengan Prabowo, yang menyebabkan perpecahan politik mendalam yang berlanjut bahkan setelah Jokowi memenangkan pemilu dengan selisih 11 persen. Kini, dengan AI yang menyediakan alat yang dapat diakses untuk menyebarkan disinformasi dan perpecahan politik, para analis khawatir dampaknya bisa menjadi jauh lebih buruk.
Undang-undang pemilu tahun 2017 melarang seorang kandidat menyerang lawannya. Namun, kecuali para pejabat dapat membuktikan bahwa kampanye hitam yang dihasilkan oleh AI ini dibuat dan disebarkan oleh individu yang memiliki hubungan langsung dengan tim kampanye, maka undang-undang tersebut tidak dapat diterapkan. “Namun, ada undang-undang lain yang dapat menghukum pelakunya,” kata Khoirunnisa.
Di antara peraturan tersebut adalah undang-undang informasi dan transaksi elektronik serta hukum pidana yang mengkriminalisasi pencemaran nama baik, fitnah, dan disinformasi. Namun tidak semua disinformasi bersifat antagonis. Terkadang hal ini dapat membantu meningkatkan profil kandidat.
Pada bulan November, dua video deepfake muncul pada waktu yang hampir bersamaan di media sosial, salah satunya adalah milik Prabowo dan yang lainnya adalah milik Anies. Keduanya ditampilkan berbicara dalam bahasa Arab yang fasih, bahasa yang tidak mereka gunakan sama sekali. Kemunculan video tersebut membuat banyak pendukung mereka percaya bahwa kandidat pilihan mereka adalah intelektual multi-bahasa dengan kredibilitas Islam yang kuat.
Dua bulan kemudian, politisi Partai Golkar Erwin Aksa mengunggah video yang menampilkan kemiripan dengan mendiang Presiden Soeharto, yang meninggal pada tahun 2008. Dalam video tersebut, Soeharto, mendesak masyarakat Indonesia untuk memilih calon legislatif dari Golkar, yang didirikan oleh mendiang presiden kedua itu sebagai partai politik pada tahun 1964 dan menjadi kendaraan politik utamanya selama 32 tahun pemerintahannya di Indonesia.
Video yang dibuat oleh AI tersebut kemudian memuji Jokowi dan pendahulunya, Susilo Bambang Yudhoyono, karena telah menjalankan visi Soeharto dalam membangun bangsa. Baik Partai Golkar maupun Partai Demokrat yang mengusung Yudhoyono mendukung pencalonan Prabowo sebagai presiden. Pasangan Prabowo, Gibran adalah putra sulung Jokowi.
Titi Anggraeni, pakar hukum pemilu di Universitas Indonesia, mengatakan bahwa undang-undang tersebut tidak jelas terkait dengan disinformasi semacam ini. “Undang-undang hanya melarang materi yang mencemarkan nama baik kandidat lain, memicu kerusuhan sipil, (atau) mengandung ancaman kekerasan dan sebagainya,” katanya.
“Konten-konten tersebut memang disinformasi. Namun mereka tidak memfitnah atau menyerang siapa pun. Kita harus mengakui bahwa undang-undang belum siap untuk menghadapinya,” tambahnhya kepada CNA.
Rahmat Bagja, ketua Badan Pengawas Pemilu (Bawaslu) mengatakan pihaknya bekerja sama dengan Kementerian Komunikasi dan Informatika serta berbagai media sosial dan platform pesan untuk memastikan bahwa segala bentuk disinformasi terkait pemilu mendatang pemilu dengan cepat dibatalkan. “Bawaslu bekerja keras memantau video terkait pemilu dan memutuskan mana yang hoaks dan mana yang tidak,” katanya kepada CNA.
Pada 22 Desember, Kementerian Komunikasi mengeluarkan surat edaran kepada perusahaan-perusahaan teknologi yang mengerjakan alat AI di negara tersebut untuk mewaspadai potensi dampak negatif dari produk yang mereka kembangkan. Peraturan yang mengatur bagaimana rata-rata pengguna harus memanfaatkan teknologi ini secara etis dan bertanggung jawab, masih dalam proses penyusunan.
Bagaimana Capres Menggunakan AI
Tim kampanye ketiga calon presiden membantah bahwa mereka menggunakan AI untuk menyebarkan disinformasi yang dapat menguntungkan diri mereka sendiri atau mencemarkan nama baik lawan mereka. Sebaliknya, mereka yang mendukung Prabowo dan Ganjar mengatakan bahwa mereka menggunakan AI untuk memberikan pengalaman baru kepada pendukung mereka dengan cara yang kreatif.
Tim kampanye Prabowo misalnya telah menggunakan AI untuk menghasilkan citra kandidat presiden yang kekanak-kanakan, sehingga purnawirawan jenderal berusia 72 tahun itu memiliki kepribadian yang lebih lembut dan mudah didekati. Tokoh kartun gemuk dan ceria yang dijuluki “gemoy” yang artinya menggemaskan ini telah muncul di spanduk, poster, dan kaos resmi kampanye Prabowo.
“AI digunakan untuk membuat gambar ini yang tidak mencerminkan Prabowo yang sebenarnya. Pada awalnya orang-orang menyukai gambar baru ini, namun sentimen ini anjlok ketika orang-orang melihat warna asli Prabowo selama debat,” kata analis media sosial Ismail Fahmi kepada CNA.
Ismail mengacu pada tiga debat calon presiden yang dilangsungkan selama musim kampanye yang menunjukkan bahwa Prabowo melontarkan komentar-komentar berapi-api dan tampak marah ketika ia dikritik oleh para pesaingnya. Tim juga telah menciptakan alat AI generatif yang dapat membuat pengguna seolah-olah sedang berfoto selfie bersama Prabowo dan pasangannya, Gibran Rakabuming Raka dengan berbagai latar belakang dan pose.
Sementara itu, para pendukung Ganjar telah menggunakan AI untuk menghasilkan gambar mantan gubernur Jawa Tengah berusia 55 tahun itu dengan pakaian trendi, sehingga membuat calon presiden tersebut tampil lebih muda dan trendi. Tim Ganjar telah menggunakan beberapa gambar yang dihasilkan AI sebagai bahan kampanye mereka.
Baik Prabowo maupun Ganjar telah menciptakan chatbot mereka sendiri agar terlihat bahwa pengguna sedang mengobrol dengan kandidat masing-masing. “Kami menggunakan AI untuk mempelajari bagaimana Ganjar merespons dan pengguna dapat memperoleh jawaban atas pertanyaan mereka sebagaimana Ganjar menjawabnya,” kata Pangeran Siahaan, juru bicara tim kampanye Ganjar-Mahfud, kepada CNA.
Di sisi lain, Anies memilih untuk tidak menggunakan AI sebagai bagian dari strategi kampanyenya karena sifatnya yang artifisial, kata Angga Putra Fidrian, juru bicara tim kampanye Anies-Muhaimin Iskandar. “(Anies) lebih menyukai dialog nyata dengan konstituennya dan membiarkan publik melihat siapa dirinya sebenarnya,” kata Angga kepada CNA.
Ismail mempertanyakan keefektifan strategi kampanye berbasis AI ini dengan alasan bahwa sifat buatan dari AI adalah kelemahan teknologi ini. “Pada awalnya, ada kegemparan terhadap AI dan semua orang berlomba menemukan cara untuk menggunakannya. Namun seiring berjalannya waktu, masyarakat mulai bosan karena AI tidak bisa mewakili kebenaran. Ia tidak dapat mewakili seseorang, ide seseorang, dan karakter kompleksnya. Itu tidak menggantikan keterlibatan manusia,” katanya.
Sebaliknya, kehadiran AI justru membuat pejabat pemilu, tim kampanye, dan masyarakat sipil khawatir akan potensi yang dapat menyesatkan masyarakat, lanjut Ismail, baik disengaja atau tidak. Chatbots yang dikembangkan oleh tim kampanye Prabowo dan Ganjar, misalnya, berpotensi menyebarkan kebenaran. “Mereka diciptakan agar masyarakat bisa bertanya tentang program (para kandidat). Tapi Anda tidak bisa mengetahui apa yang sebenarnya ditanyakan orang,” katanya.
Ismail bercerita, dirinya pernah mencoba bertanya kepada salah satu chatbot tersebut tentang sila ketujuh Pancasila, padahal falsafah negara Indonesia hanya ada lima sila. “Chatbot secara keliru memunculkan prinsip keenam dan ketujuh meskipun prinsip tersebut tidak ada. Hal seperti ini bisa merusak kredibilitas seorang kandidat,” ujarnya.
Ismail mengatakan bahwa AI juga memberdayakan apa yang disebut “buzzer”, yaitu troll internet yang dibayar untuk menghasilkan konten untuk pengaruh politik di media sosial dan situs berita. “Sebelum adanya AI, buzzer perlu memformulasi postingan atau komentarnya sendiri secara manual. Dengan AI, Anda hanya perlu memasukkan prompt dan dapat menghasilkan ratusan respons dalam hitungan detik,” ujarnya.
Namun AI juga dapat membantu menyederhanakan proses pemilu. Kantor Komisi Pemilihan Umum (KPU) di Kabupaten Sukoharjo, Jawa Tengah, mengatakan pada bulan Desember bahwa mereka berencana menggunakan AI untuk mempercepat proses penghitungan suara. Meski hasil resmi pemilu presiden dan parlemen masih mengandalkan penghitungan suara secara manual di setiap surat suara, namun data yang diolah dengan teknologi tersebut, kata kantor tersebut, akan membantu mengidentifikasi apakah ada kesalahan dan anomali.
Kantor KPU lainnya, termasuk kantor pusatnya di Jakarta, belum mengindikasikan akan mengikuti rencana KPU Sukoharjo ini. Selain memilih presiden berikutnya, lebih dari 204 juta masyarakat Indonesia akan datang ke tempat pemungutan suara pada 14 Februari untuk menentukan anggota parlemen tingkat nasional, regional, dan kota.