Darilaut – UNICEF (United Nations Children’s Fund) memperingatkan eksploitasi gambar jutaan anak muda yang telah dimanipulasi menjadi deepfake.
Deepfake merujuk pada gambar, video, atau audio yang telah dimanipulasi atau dihasilkan menggunakan teknologi AI.
Melansir UN News, alat kecerdasan buatan (AI) digunakan untuk menanggalkan atau mengubah pakaian dalam foto untuk membuat gambar telanjang atau seksual palsu.
Badan Perserikatan Bangsa-Bangsa (PBB) untuk melindungi hak-hak anak-anak di seluruh dunia itu menyerukan tindakan segera untuk menghadapi ancaman yang semakin meningkat.
Menurut UNICEF pemerintah perlu memperluas definisi materi pelecehan seksual anak mencakup konten yang dihasilkan AI mengkriminalisasi pembuatan, pengadaan, kepemilikan, dan distribusinya.
Pengembang AI harus menerapkan pendekatan keamanan sejak tahap perancangan dan pengamanan yang kuat untuk mencegah penyalahgunaan model AI, kata UNICEF.
UNICEF meminta perusahaan digital harus mencegah peredaran materi pelecehan seksual anak yang dihasilkan AI, bukan hanya menghapusnya, dan memperkuat moderasi konten dengan investasi dalam teknologi deteksi,
Deepfake merujuk pada gambar, video, atau audio yang telah dimanipulasi atau dihasilkan menggunakan teknologi AI.
