Lokapalanews.id | Jakarta – Direktorat Tindak Pidana Siber Bareskrim Polri tengah melakukan akselerasi kajian hukum terkait fenomena penyalahgunaan kecerdasan buatan (artificial intelligence/AI) untuk memproduksi konten asusila. Langkah ini diambil merespons maraknya pemanfaatan platform digital, termasuk Grok AI, yang dialihfungsikan oleh pihak tidak bertanggung jawab untuk menciptakan materi pornografi melalui rekayasa visual di media sosial.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, mengungkapkan bahwa meski kemajuan teknologi merupakan keniscayaan, manipulasi digital yang merugikan martabat seseorang dapat dikategorikan sebagai pelanggaran hukum serius. Fokus utama kepolisian saat ini adalah menyinkronkan tindakan penyimpangan tersebut dengan delik pidana yang berlaku dalam ruang siber nasional.
“Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” tegas Himawan di Mabes Polri, Jakarta, Rabu (7/1/2026). Ia menekankan bahwa penyalahgunaan AI untuk konten pornografi kini masuk dalam radar prioritas penanganan Direktorat Siber guna memitigasi kerusakan moral di masyarakat.
Ancaman Deepfake dan Penyalahgunaan AI untuk Konten Pornografi
Kepolisian mengidentifikasi bahwa teknologi pemelajaran mesin seperti deepfake sering kali disalahgunakan untuk mengubah foto atau video seseorang menjadi konten vulgar tanpa konsensus korban. Dalam pantauan Bareskrim, platform media sosial X menjadi salah satu ruang di mana fitur Grok AI digunakan secara masif untuk memerintahkan sistem mengubah visual individu menjadi bentuk yang melanggar norma kesusilaan.
Himawan menjelaskan bahwa praktik penyalahgunaan AI untuk konten pornografi ini tidak hanya sekadar isu teknologi, melainkan ancaman nyata terhadap privasi dan kehormatan warga negara. Manipulasi visual yang dihasilkan sering kali tampak sangat realistis, sehingga potensi dampak sosial dan psikologis bagi korban menjadi sangat destruktif.
“Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” jelasnya. Hal inilah yang mendorong Bareskrim untuk melakukan pendalaman komprehensif dari aspek legalitas guna menjerat para pelaku manipulasi digital tersebut.
Penguatan Regulasi Menghadapi Evolusi Siber
Penyelidikan siber saat ini berfokus pada pelacakan akun-akun yang terdeteksi memberikan instruksi (prompt) spesifik pada mesin kecerdasan buatan untuk menghasilkan konten pornografi. Bareskrim menilai perlunya interpretasi hukum yang tajam agar instrumen perundang-undangan mampu menjangkau modus operandi baru yang menggunakan perantara teknologi otomasi visual.
Langkah pengkajian pemidanaan ini diharapkan dapat memberikan kepastian hukum dan perlindungan bagi masyarakat dari ancaman kekerasan seksual berbasis elektronik. Polri mengimbau pengguna internet untuk tetap etis dalam mengeksplorasi teknologi baru dan mengingatkan bahwa setiap aktivitas digital yang mengandung unsur manipulasi data elektronik memiliki konsekuensi hukum yang nyata.
Hingga saat ini, tim Siber Bareskrim terus mengumpulkan data dan bukti digital terkait pola persebaran konten hasil AI tersebut di berbagai platform sebagai dasar penindakan di masa mendatang. *R103
