Perlindungan yang Kuat
Badan PBB tersebut mengatakan pihaknya sangat menyambut upaya para pengembang AI yang menerapkan pendekatan “keamanan sejak tahap desain” dan pengamanan yang kuat untuk mencegah penyalahgunaan sistem mereka.
Namun, respons sejauh ini masih belum merata, dan terlalu banyak model AI yang tidak dikembangkan dengan perlindungan yang memadai.
Risiko dapat meningkat ketika alat AI generatif disematkan langsung ke platform media sosial tempat gambar yang dimanipulasi menyebar dengan cepat.
“Anak-anak sendiri sangat menyadari risiko ini,” kata UNICEF, menambahkan bahwa di beberapa negara yang diteliti, hingga dua pertiga anak muda mengatakan mereka khawatir bahwa AI dapat digunakan untuk membuat gambar atau video seksual palsu.
Ancaman yang Berkembang Pesat
“Tingkat kekhawatiran sangat bervariasi antar negara, yang menggarisbawahi kebutuhan mendesak akan kesadaran, pencegahan, dan langkah-langkah perlindungan yang lebih kuat.”
Untuk mengatasi ancaman yang berkembang pesat ini, badan PBB tersebut mengeluarkan pedoman tentang AI dan Anak-Anak 3.0 pada bulan Desember dengan rekomendasi untuk kebijakan dan sistem yang menjunjung tinggi hak-hak anak.
