Kementerian Komunikasi kemudian Informatika () mengantisipasi adu domba dengan menggunakan video kecerdasan buatan () dalam tempat momen .
Penggunaan AI dalam masa kampanye pemilihan umum 2024 memang menjadi keresahan berbagai pihak. Pasalnya, teknologi ini diprediksi dapat menyebabkan disinformasi lalu hoaks semakin merajalela.
“Ini sedang mengkaji bagaimana artificial intelligence nanti kan ke depannya makin canggih. Jangan-jangan Bu Vero (Ketua Dharma Pertiwi) mukanya disamarin berantem deh identik tetangga. Diedit diadu domba seperti itu, diedit gitu doang. Makanya kami sedang mengkaji etik untuk AI oleh sebab itu ini penting,” ujar Menkominfo Budi Arie Setiadi, ketika ditanya tentang prospek hoaks AI saat pemilu, Jakarta, Kamis (19/10).
Budi menyebut AI miliki kemungkinan kebermanfaatan yang digunakan mana sangat besar. Namun, teknologi ini juga miliki kemungkinan merusak yang digunakan mana sejenis besarnya.
“Iya, apalagi nanti pemilu. Orang mampu berantem sebab AI. Yang tadi saya contohin, coba suara, muka kamu difitnah. Berantem enggak? Padahal hasil AI,” tuturnya.
Untuk mengawal prospek tersebut, Budi mengaku pihaknya tengah melakukan kajian terkait regulasi yang digunakan mungkin dihadirkan, mulai dari dampak AI hingga etika penggunaannya.
Sebelum regulasi yang mana rampung, ia mengimbau umum untuk berhati-hati terhadap hoaks, fitnah, serta ujaran kebencian.
Hoaks atau misinformasi pada masa pada masa kini hadir dalam bentuk yang itu sangat canggih, salah satunya deepfake. Deepfake adalah teknik manipulasi konten video kemudian pernyataan yang dimaksud dimaksud mengandalkan kecerdasan buatan.
Menurut perusahaan keamanan siber Kaspersky dalam keterangan resminya, teknologi ini kemungkinan besar diprediksi calon digunakan untuk mempengaruhi situasi lalu juga opini rakyat jelang pilpres 2024.
Penelitian Kasperksy juga mengungkap terdapat permintaan yang hal tersebut signifikan terhadap deepfake. Dalam beberapa kasus, terdapat kemungkinan permintaan deepfake dari individu terhadap target tertentu seperti selebriti atau tokoh politik.
Menurut Head of Government Affairs and Public Policy for Asia-Pacific, Japan, Middle East, Turkey and Africa Regions Kaspersky Genie Sugene Gan, teknologi deepfake sebetulnya tiada berbahaya, namun di area area tangan penipu, teknologi ini sanggup menjadi alat kejahatan. Maka dari itu, ia mengajak seluruh pihak membangun kesadaran lalu kewaspadaan terhadap teknologi deepfake lalu kemungkinan eksploitasinya.
Sebagai contoh, beberapa waktu lalu menyebar kata-kata mirip Presiden Joko Widodo (Jokowi) menyanyikan lagu ‘Asmalibrasi’ milik band Soegi Bornean. Suara yang digunakan terdengar dalam video hal hal itu dinilai mirip dengan kata-kata asli Jokowi.
Raksasa teknologi Microsoft juga mewanti-wanti kemungkinan bahaya AI pada pemilihan umum 2024. Salah satunya adalah pemakaian AI yang tersebut itu dapat menimbulkan disinformasi menyebar luas.
Panji Wasmana, National Technology Officer Microsoft Indonesia mengungkap AI dapat sekadar dipakai untuk “tujuan yang bukan baik” seperti memunculkan disinformasi selama pemilihan umum 2024.
“Kalau menggunakan beberapa tools seperti llm (large language models), search engine atau apa pun, coba ketik siapa pemenang presiden, bagaimana menjadi presiden 2024, akan keluar sebuah informasi. Dan kita akan mudah melakukan disinformasi dalam area dalamnya. Itu kemungkinan sanggup jadi terjadi dengan melakukan teknologi AI,” kata Panji dalam kantor Microsoft Indonesia, Jakarta, Rabu (18/10).
“Kita sanggup menggunakan teknologi AI untuk targeted campaign bahkan,” ujarnya menambahkan.
