Lokapalanews.id | Jakarta – Komisi I DPR RI meminta pemerintah bertindak tegas terhadap penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence/AI), khususnya Grok AI, yang digunakan untuk memproduksi konten pornografi palsu atau deepfake. Praktik manipulasi identitas visual tanpa persetujuan ini dinilai sebagai bentuk kekerasan berbasis teknologi yang melanggar hak asasi manusia.
Anggota Komisi I DPR RI, Amelia Anggraini, menegaskan bahwa fenomena ini bukan sekadar persoalan kesusilaan biasa, melainkan pelanggaran berat terhadap privasi dan perlindungan data pribadi. Menurutnya, manipulasi wajah seseorang ke dalam konten asusila tanpa izin adalah perampasan hak individu atas citra dirinya.
“Tindakan tersebut berpotensi menimbulkan kerugian psikologis, sosial, hingga reputasional yang sangat dalam bagi para korban,” ujar Amelia dalam keterangan resminya, Jumat (9/1/2026).
Soroti Celah Keamanan Grok AI
Berdasarkan temuan awal Direktorat Jenderal Pengawasan Ruang Digital Kementerian Komunikasi dan Digital (Kemkomdigi), Grok AI terindikasi belum memiliki pengaturan yang memadai untuk mencegah produksi pornografi berbasis foto nyata. Amelia mendesak Kemkomdigi untuk proaktif melakukan langkah pencegahan sebelum kasus tersebut meluas di masyarakat.
Politisi Fraksi Partai NasDem ini menekankan bahwa sesuai dengan Undang-Undang Pelindungan Data Pribadi (UU PDP), identitas visual seperti wajah dan video merupakan data pribadi sensitif. Oleh karena itu, penyedia layanan AI wajib menerapkan standar kepatuhan yang ketat dan dapat diuji secara publik.
“Negara harus memastikan adanya mekanisme takedown cepat serta pencegahan unggah ulang untuk melindungi korban di ruang siber,” kata legislator asal Jawa Tengah tersebut.
Implementasi KUHP Baru 2026
Amelia juga mengingatkan bahwa sejak 2 Januari 2026, Kitab Undang-Undang Hukum Pidana (KUHP) Nasional telah resmi berlaku. Regulasi tersebut mengatur sanksi pidana terkait konten pornografi melalui Pasal 172 dan Pasal 407, yang mempertegas bahwa ruang digital memiliki konsekuensi hukum yang nyata.
Ia mendorong agar Penyelenggara Sistem Elektronik (PSE), termasuk Platform X yang mengintegrasikan Grok AI, menerapkan sistem moderasi yang transparan dan dapat diaudit. Menurutnya, kegagalan sistem dalam menyaring permintaan konten seksual harus menjadi tanggung jawab penuh penyedia teknologi melalui prinsip prevention by design.
“Jika platform AI lain mampu memasang pembatasan yang jelas, tidak ada alasan bagi Grok untuk tidak melakukan hal yang sama,” tegasnya.
Pengawasan Ketat Parlemen
Sebagai bagian dari fungsi pengawasan, Komisi I DPR RI berkomitmen mengawal penanganan penyalahgunaan teknologi ini. DPR menuntut kejelasan mengenai indikator kepatuhan, tenggat waktu perbaikan sistem, serta konsekuensi hukum yang tegas bagi platform yang abai.
Langkah ini diharapkan dapat memberikan perlindungan nyata bagi warga negara sekaligus mendorong ekosistem digital yang lebih aman. Amelia menekankan pentingnya sinergi antara kebijakan administratif dari kementerian dengan penegakan hukum pidana guna memastikan perlindungan publik yang komprehensif. *R103
