Penggunaan lain yang dilarang termasuk pemindaian wajah oleh polisi di depan umum menggunakan sistem “identifikasi biometrik” jarak jauh yang didukung AI, kecuali untuk kejahatan serius seperti penculikan atau terorisme.
AI Generatif
Rancangan awal undang-undang tersebut berfokus pada sistem AI yang melaksanakan tugas-tugas terbatas, seperti pemindaian resume dan lamaran pekerjaan.
Meningkatnya model AI untuk keperluan umum, seperti yang dicontohkan oleh ChatGPT OpenAI, membuat para pembuat kebijakan di Uni Eropa berupaya keras untuk mengikutinya.
Mereka menambahkan ketentuan yang disebut model AI generatif, yaitu teknologi yang mendasari sistem chatbot AI yang dapat menghasilkan respons, gambar, dan banyak lagi yang unik dan tampak nyata.
Pengembang model AI – mulai dari perusahaan rintisan di Eropa hingga OpenAI dan Google – harus memberikan ringkasan terperinci tentang teks, gambar, video, dan data lain di internet yang digunakan untuk melatih sistem serta mengikuti undang-undang hak cipta UE.
Gambar, video, atau audio deepfake yang dihasilkan oleh AI dari orang, tempat, atau peristiwa yang ada harus diberi label sebagai buatan.
Ada pengawasan ekstra terhadap model AI terbesar dan terkuat yang menimbulkan “risiko sistemik,” yang mencakup GPT4 OpenAI – sistemnya yang paling canggih – dan Gemini dari Google.
