Darilaut – UNICEF (United Nations Children’s Fund) memperingatkan eksploitasi gambar jutaan anak muda yang telah dimanipulasi menjadi deepfake.
Deepfake merujuk pada gambar, video, atau audio yang telah dimanipulasi atau dihasilkan menggunakan teknologi AI.
Melansir UN News, alat kecerdasan buatan (AI) digunakan untuk menanggalkan atau mengubah pakaian dalam foto untuk membuat gambar telanjang atau seksual palsu.
Badan Perserikatan Bangsa-Bangsa (PBB) untuk melindungi hak-hak anak-anak di seluruh dunia itu menyerukan tindakan segera untuk menghadapi ancaman yang semakin meningkat.
Menurut UNICEF pemerintah perlu memperluas definisi materi pelecehan seksual anak mencakup konten yang dihasilkan AI mengkriminalisasi pembuatan, pengadaan, kepemilikan, dan distribusinya.
Pengembang AI harus menerapkan pendekatan keamanan sejak tahap perancangan dan pengamanan yang kuat untuk mencegah penyalahgunaan model AI, kata UNICEF.
UNICEF meminta perusahaan digital harus mencegah peredaran materi pelecehan seksual anak yang dihasilkan AI, bukan hanya menghapusnya, dan memperkuat moderasi konten dengan investasi dalam teknologi deteksi,
Deepfake merujuk pada gambar, video, atau audio yang telah dimanipulasi atau dihasilkan menggunakan teknologi AI.
Bukti baru mengungkapkan proliferasi gambar-gambar seksualisasi anak muda yang dihasilkan oleh kecerdasan buatan dan kurangnya undang-undang untuk menghentikannya, Dana Anak-Anak PBB (UNICEF) memperingatkan pada hari Rabu.
“Kerugian dari penyalahgunaan deepfake itu nyata dan mendesak,” kata badan PBB itu dalam sebuah pernyataan. “Anak-anak tidak bisa menunggu hukum untuk mengejar ketinggalan.”
Setidaknya 1,2 juta anak muda telah mengungkapkan bahwa gambar mereka telah dimanipulasi menjadi deepfake yang eksplisit secara seksual dalam setahun terakhir, menurut sebuah studi di 11 negara yang dilakukan oleh badan PBB, badan kepolisian internasional, INTERPOL, dan jaringan global ECPAT yang bekerja untuk mengakhiri eksploitasi seksual anak-anak di seluruh dunia.
Di beberapa negara, ini mewakili satu dari 25 anak atau setara dengan satu anak di kelas biasa, menurut studi tersebut.
Alat ‘Nudifikasi’
Deepfake – gambar, video, atau audio yang dihasilkan atau dimanipulasi dengan AI dan dirancang agar terlihat nyata – semakin banyak digunakan untuk menghasilkan konten seksual yang melibatkan anak-anak, termasuk melalui apa yang disebut “nudifikasi”.
“Ketika gambar atau identitas seorang anak digunakan, anak tersebut secara langsung menjadi korban. Bahkan tanpa korban yang dapat diidentifikasi, materi pelecehan seksual anak yang dihasilkan AI menormalisasi eksploitasi seksual anak, memicu permintaan akan konten yang kasar, dan menghadirkan tantangan signifikan bagi penegak hukum dalam mengidentifikasi dan melindungi anak-anak yang membutuhkan bantuan,” kata UNICEF.
Perlindungan yang Kuat
Badan PBB tersebut mengatakan pihaknya sangat menyambut upaya para pengembang AI yang menerapkan pendekatan “keamanan sejak tahap desain” dan pengamanan yang kuat untuk mencegah penyalahgunaan sistem mereka.
Namun, respons sejauh ini masih belum merata, dan terlalu banyak model AI yang tidak dikembangkan dengan perlindungan yang memadai.
Risiko dapat meningkat ketika alat AI generatif disematkan langsung ke platform media sosial tempat gambar yang dimanipulasi menyebar dengan cepat.
“Anak-anak sendiri sangat menyadari risiko ini,” kata UNICEF, menambahkan bahwa di beberapa negara yang diteliti, hingga dua pertiga anak muda mengatakan mereka khawatir bahwa AI dapat digunakan untuk membuat gambar atau video seksual palsu.
Ancaman yang Berkembang Pesat
“Tingkat kekhawatiran sangat bervariasi antar negara, yang menggarisbawahi kebutuhan mendesak akan kesadaran, pencegahan, dan langkah-langkah perlindungan yang lebih kuat.”
Untuk mengatasi ancaman yang berkembang pesat ini, badan PBB tersebut mengeluarkan pedoman tentang AI dan Anak-Anak 3.0 pada bulan Desember dengan rekomendasi untuk kebijakan dan sistem yang menjunjung tinggi hak-hak anak.