Lokapalanews.id | Jakarta – Pemerintah Indonesia mengambil langkah tegas untuk membendung penyebaran konten asusila berbasis kecerdasan buatan (AI). Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi memutus akses sementara terhadap aplikasi Grok, sebuah platform AI yang terintegrasi dengan media sosial X. Kebijakan ini diambil sebagai respons atas meningkatnya risiko penyalahgunaan teknologi untuk menciptakan konten pornografi palsu atau deepfake.
Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan bahwa tindakan ini merupakan upaya preventif negara dalam melindungi masyarakat, khususnya kelompok rentan seperti perempuan dan anak-anak. Menurutnya, keberadaan deepfake seksual non-konsensual telah mencapai tahap yang mengkhawatirkan karena melanggar hak asasi manusia serta merusak martabat warga negara di ekosistem digital.
“Pemerintah memandang praktik ini sebagai pelanggaran serius terhadap keamanan warga di ruang siber,” ujar Meutya dalam keterangan resminya di Jakarta, Sabtu (10/1/2026).
Desak Klarifikasi Platform X
Selain melakukan pemblokiran terhadap Grok, Kemkomdigi juga telah melayangkan panggilan kepada pengelola Platform X. Pemerintah meminta manajemen perusahaan milik Elon Musk tersebut untuk segera memberikan klarifikasi mendalam mengenai dampak negatif yang ditimbulkan oleh penggunaan fitur AI mereka di wilayah Indonesia.
Hingga saat ini, pemerintah masih menunggu respons resmi dari pihak X terkait mekanisme penyaringan konten dan perlindungan pengguna dari ancaman manipulasi gambar berbasis AI. Langkah pemutusan akses ini bersifat sementara hingga terdapat jaminan keamanan dan kepatuhan dari pihak penyelenggara sistem elektronik terhadap regulasi yang berlaku.
Landasan Hukum dan Kewajiban PSE
Secara regulasi, tindakan pemutusan akses ini berpijak pada aturan hukum yang kuat. Pemerintah merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Berdasarkan Pasal 9 dalam beleid tersebut, setiap PSE memiliki kewajiban mutlak untuk memastikan bahwa sistem elektronik yang mereka kelola tidak memfasilitasi, memuat, atau menyebarluaskan dokumen elektronik yang bersifat ilegal atau dilarang oleh undang-undang. Dengan ditemukannya potensi penyebaran konten pornografi palsu melalui Grok, pemerintah menilai platform tersebut gagal memenuhi kewajiban hukum yang diamanatkan.
Ancaman Deepfake di Indonesia
Fenomena deepfake seksual non-konsensual menjadi tantangan baru bagi penegakan hukum digital di tanah air. Teknologi ini memungkinkan seseorang mengubah wajah individu dalam video atau foto asusila dengan tingkat kemiripan yang sangat tinggi, yang sering kali digunakan untuk tujuan pelecehan, pemerasan, atau pencemaran nama baik.
Pakar keamanan digital menilai bahwa tanpa sistem briefing dan dukungan manajemen yang kuat dari pihak penyedia platform, teknologi AI seperti Grok dapat dengan mudah disalahgunakan oleh pengguna yang tidak bertanggung jawab. Dalam konteks ini, pemerintah menegaskan bahwa kegagalan sistem dalam menyaring konten berbahaya adalah tanggung jawab penuh penyelenggara aplikasi, bukan sekadar kesalahan individu pengguna.
Langkah Kemkomdigi ini diharapkan menjadi sinyal kuat bagi seluruh perusahaan teknologi global yang beroperasi di Indonesia untuk lebih serius dalam melakukan moderasi konten. Pemerintah menegaskan akan terus memantau perkembangan teknologi AI dan siap mengambil tindakan lebih lanjut jika ditemukan pelanggaran serupa pada platform lain demi menjaga kedaulatan ruang digital nasional.
Pihak kementerian juga mengimbau masyarakat untuk melaporkan jika menemukan penyalahgunaan konten AI melalui kanal pengaduan resmi pemerintah guna mempercepat proses penanganan di lapangan. *R106
