Menurut Wijaya, AI memiliki potensi besar sekaligus risiko tinggi, sehingga penggunaannya harus dikendalikan dalam kerangka kebijakan yang mengutamakan peran manusia.
“AI bukan subjek utama. Manusia harus tetap menjadi subjek dan objek utama dalam tata kelola teknologi ini,” kata Wijaya.
Wijaya menjelaskan kerangka human-centric harus mengacu pada prinsip trustworthy AI atau AI yang dapat dipercaya, dengan nilai-nilai bermartabat, berkeadilan, inklusif, dan transparan. Pemerintah, lanjutnya, tidak memandang AI semata untuk kepentingan komersial, melainkan sebagai alat yang perlu dikendalikan agar tidak menimbulkan manipulasi dan penyalahgunaan seperti deepfake atau disinformasi visual.
Dalam konteks hukum, Wijaya menjelaskan bahwa AI wajib tunduk pada ketentuan perundang-undangan yang berlaku, termasuk Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta Undang-Undang Perlindungan Data Pribadi (UU PDP).
“AI tidak boleh menggunakan data pribadi tanpa izin, baik data umum seperti NIK dan nama, maupun data khusus seperti biometrik atau rekam medis,” ujarnya.
Pemerintah juga mewaspadai praktik entitas bisnis yang bertindak seolah pengendali data dengan meminta publik menyerahkan data biometrik untuk kepentingan komersial. Pelanggaran atas ketentuan ini dikenai sanksi tegas.
