Darilaut – Parlemen Uni Eropa telah menyetujui rancangan undang-undang penting yang mengatur penggunaan kecerdasan artifisial atau kecerdasan buatan (artificial intelligence, AI).
Aturan AI pertama di dunia tersebut dicetuskan parlemen Eropa dan mendapatkan persetujuan akhir dari anggota parlemen.
Melansir Nippon Hoso Kyokai (NHK) dan The Associated Press (AP) usulan tersebut disahkan badan legislatif Uni Eropa pada hari Rabu dengan suara mayoritas 523 berbanding 46 dan 49 abstain. Peraturan tersebut akan mulai berlaku pada akhir tahun ini.
Sebelum pemungutan suara, dua anggota yang memimpin pembahasan RUU tersebut mengadakan konferensi pers.
Salah satu dari mereka, anggota parlemen Italia Brando Benifei, menggambarkan peraturan ini sebagai “peraturan pertama di dunia yang memberikan jalur jelas menuju pengembangan AI yang aman dan berpusat pada manusia.”
Jika peraturan ini berlaku, sistem AI akan diklasifikasikan berdasarkan risiko.
Sistem yang penggunaannya akan dilarang mencakup evaluasi atau klasifikasi orang atau kelompok dengan skor sosial, dan sistem lain untuk menilai kemungkinan seseorang melakukan kejahatan.
AI berisiko tinggi mencakup sistem untuk mengevaluasi orang-orang dalam ujian masuk sekolah dan perekrutan pekerjaan, serta sistem untuk menilai kelayakan kredit seseorang.
Peraturan tersebut mengharuskan sistem tersebut diberi data pembelajaran yang tepat dan meminta manusia mengawasinya saat digunakan, untuk mencegah mereka mengambil keputusan yang salah.
Untuk memastikan transparansi, wajib untuk mengungkapkan bahwa gambar, audio, dan jenis konten lain yang dibuat oleh AI yang mirip dengan manusia sebenarnya adalah hasil buatan.
Pelanggar akan dikenakan dengan hukuman berat. Mereka akan menghadapi denda hingga sebesar 35 juta euro atau sekitar 38 juta dolar, atau hingga 7 persen dari omset tahunan perusahaan.
Undang-undang ini diharapkan mulai berlaku setelah adanya kesepakatan dari negara-negara anggota UE.
Undang-undang AI ini diharapkan dapat menjadi petunjuk global bagi negara-negara lain yang berupaya mengatur teknologi yang berkembang pesat ini.
Berpusat Pada Manusia
“Undang-undang AI telah mendorong masa depan AI ke arah yang berpusat pada manusia, ke arah di mana manusia mengendalikan teknologi dan di mana teknologi membantu kita memanfaatkan penemuan-penemuan baru, pertumbuhan ekonomi, kemajuan masyarakat, dan membuka potensi manusia,” kata Dragos Tudorache, seorang anggota parlemen Rumania yang merupakan salah satu pemimpin negosiasi Parlemen mengenai rancangan undang-undang tersebut, sebelum pemungutan suara.
Perusahaan-perusahaan teknologi besar umumnya mendukung perlunya regulasi AI sambil melakukan lobi untuk memastikan peraturan apa pun menguntungkan mereka.
CEO OpenAI, Sam Altman, menimbulkan kehebohan kecil tahun lalu ketika menyarankan pembuat ChatGPT untuk keluar dari Eropa jika tidak dapat mematuhi Undang-Undang AI – sebelum mundur dengan mengatakan tidak ada rencana untuk keluar.
Aturan AI Komprehensif
Seperti banyak peraturan UE, UU AI pada awalnya dimaksudkan sebagai undang-undang keselamatan konsumen, dengan menerapkan “pendekatan berbasis risiko” terhadap produk atau layanan yang menggunakan kecerdasan buatan.
Semakin berisiko suatu aplikasi AI, semakin banyak pengawasan yang dihadapinya. Sebagian besar sistem AI diperkirakan memiliki risiko rendah, seperti sistem rekomendasi konten atau filter spam. Perusahaan dapat memilih untuk mengikuti persyaratan sukarela dan kode etik.
Penggunaan AI yang berisiko tinggi, seperti pada perangkat medis atau infrastruktur penting seperti jaringan air atau listrik, menghadapi persyaratan yang lebih ketat seperti penggunaan data berkualitas tinggi dan memberikan informasi yang jelas kepada pengguna.
Beberapa penggunaan AI dilarang karena dianggap menimbulkan risiko yang tidak dapat diterima, seperti sistem penilaian sosial yang mengatur perilaku orang, beberapa jenis sistem pengawasan prediktif dan pengenalan emosi di sekolah dan tempat kerja.
Penggunaan lain yang dilarang termasuk pemindaian wajah oleh polisi di depan umum menggunakan sistem “identifikasi biometrik” jarak jauh yang didukung AI, kecuali untuk kejahatan serius seperti penculikan atau terorisme.
AI Generatif
Rancangan awal undang-undang tersebut berfokus pada sistem AI yang melaksanakan tugas-tugas terbatas, seperti pemindaian resume dan lamaran pekerjaan.
Meningkatnya model AI untuk keperluan umum, seperti yang dicontohkan oleh ChatGPT OpenAI, membuat para pembuat kebijakan di Uni Eropa berupaya keras untuk mengikutinya.
Mereka menambahkan ketentuan yang disebut model AI generatif, yaitu teknologi yang mendasari sistem chatbot AI yang dapat menghasilkan respons, gambar, dan banyak lagi yang unik dan tampak nyata.
Pengembang model AI – mulai dari perusahaan rintisan di Eropa hingga OpenAI dan Google – harus memberikan ringkasan terperinci tentang teks, gambar, video, dan data lain di internet yang digunakan untuk melatih sistem serta mengikuti undang-undang hak cipta UE.
Gambar, video, atau audio deepfake yang dihasilkan oleh AI dari orang, tempat, atau peristiwa yang ada harus diberi label sebagai buatan.
Ada pengawasan ekstra terhadap model AI terbesar dan terkuat yang menimbulkan “risiko sistemik,” yang mencakup GPT4 OpenAI – sistemnya yang paling canggih – dan Gemini dari Google.
UE mengatakan mereka khawatir bahwa sistem AI yang kuat ini dapat “menyebabkan kecelakaan serius atau disalahgunakan untuk serangan siber yang luas.”
Mereka juga khawatir AI generatif dapat menyebarkan “bias berbahaya” di banyak aplikasi dan berdampak pada banyak orang.
Perusahaan yang menyediakan sistem ini harus menilai dan memitigasi risiko; melaporkan setiap kejadian serius, seperti malfungsi yang menyebabkan kematian seseorang atau bahaya serius terhadap kesehatan atau harta benda; menerapkan langkah-langkah keamanan siber; dan mengungkapkan berapa banyak energi yang digunakan model mereka.
Sumber: NHK dan AP