Lokapalanews.id | Jakarta – Kementerian Komunikasi dan Digital (Kemkomdigi) secara resmi menindaklanjuti indikasi penyalahgunaan Grok AI untuk konten asusila di platform media sosial X. Teknologi kecerdasan buatan tersebut diduga kuat telah dimanfaatkan untuk memproduksi serta mendistribusikan material pornografi, termasuk rekayasa foto pribadi sensitif tanpa izin pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil investigasi awal menunjukkan kelemahan sistem pada fitur milik Elon Musk tersebut. Grok AI dinilai belum memiliki protokol keamanan yang memadai untuk menyaring atau mencegah pembuatan konten pornografi yang menggunakan basis identitas visual nyata warga negara Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Risiko Pelanggaran Hak Citra Diri dan Privasi
Alexander menekankan bahwa praktik penyalahgunaan Grok AI untuk konten asusila bukan sekadar pelanggaran norma kesusilaan. Tindakan manipulasi digital ini merupakan bentuk perampasan kedaulatan individu atas identitas visual mereka yang berdampak pada kerusakan reputasi, beban psikologis, hingga dampak sosial yang luas.
Sebagai langkah mitigasi, Kemkomdigi tengah melakukan koordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE). Pemerintah mendesak penguatan moderasi konten, pencegahan teknologi deepfake asusila, serta penyediaan kanal laporan cepat bagi korban pelanggaran privasi.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Sanksi Pemutusan Akses X dan Grok AI
Kemkomdigi memberikan peringatan keras bahwa seluruh penyedia layanan digital yang beroperasi di Indonesia wajib tunduk pada regulasi domestik. Jika platform X dan layanan kecerdasan buatannya terbukti tidak kooperatif atau gagal memenuhi standar keamanan, pemerintah tidak ragu untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan secara total di Indonesia.
Langkah tegas ini didasari oleh berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) per 2 Januari 2026. Di dalam beleid baru tersebut, fenomena penyalahgunaan Grok AI untuk konten asusila dapat dijerat melalui Pasal 172 yang mendefinisikan konten eksploitasi seksual, serta Pasal 407.
Berdasarkan Pasal 407 KUHP, pelaku yang memproduksi atau menyebarkan konten tersebut terancam hukuman penjara mulai dari 6 bulan hingga maksimal 10 tahun, atau denda sesuai ketentuan yang berlaku. Kemkomdigi mengimbau masyarakat yang menjadi korban manipulasi foto atau deepfake segera melapor ke aparat penegak hukum atau kanal pengaduan resmi kementerian.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum,” tutup Alexander. *R106
