Bukti baru mengungkapkan proliferasi gambar-gambar seksualisasi anak muda yang dihasilkan oleh kecerdasan buatan dan kurangnya undang-undang untuk menghentikannya, Dana Anak-Anak PBB (UNICEF) memperingatkan pada hari Rabu.
“Kerugian dari penyalahgunaan deepfake itu nyata dan mendesak,” kata badan PBB itu dalam sebuah pernyataan. “Anak-anak tidak bisa menunggu hukum untuk mengejar ketinggalan.”
Setidaknya 1,2 juta anak muda telah mengungkapkan bahwa gambar mereka telah dimanipulasi menjadi deepfake yang eksplisit secara seksual dalam setahun terakhir, menurut sebuah studi di 11 negara yang dilakukan oleh badan PBB, badan kepolisian internasional, INTERPOL, dan jaringan global ECPAT yang bekerja untuk mengakhiri eksploitasi seksual anak-anak di seluruh dunia.
Di beberapa negara, ini mewakili satu dari 25 anak atau setara dengan satu anak di kelas biasa, menurut studi tersebut.
Alat ‘Nudifikasi’
Deepfake – gambar, video, atau audio yang dihasilkan atau dimanipulasi dengan AI dan dirancang agar terlihat nyata – semakin banyak digunakan untuk menghasilkan konten seksual yang melibatkan anak-anak, termasuk melalui apa yang disebut “nudifikasi”.
“Ketika gambar atau identitas seorang anak digunakan, anak tersebut secara langsung menjadi korban. Bahkan tanpa korban yang dapat diidentifikasi, materi pelecehan seksual anak yang dihasilkan AI menormalisasi eksploitasi seksual anak, memicu permintaan akan konten yang kasar, dan menghadirkan tantangan signifikan bagi penegak hukum dalam mengidentifikasi dan melindungi anak-anak yang membutuhkan bantuan,” kata UNICEF.
