Jakarta – Bareskrim Polri tengah mengkaji kemungkinan penerapan pemidanaan terhadap penyalahgunaan teknologi kecerdasan buatan (artificial intelligence/AI), termasuk aplikasi Grok, yang digunakan untuk membuat konten pornografi dan asusila di berbagai platform media sosial.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol Himawan Bayu Aji, menyatakan bahwa penggunaan AI untuk manipulasi konten digital semakin marak terjadi belakangan ini, namun belum sepenuhnya diiringi dengan sanksi hukum yang tegas. “Sepanjang penggunaan AI tersebut dapat diklasifikasikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana,” paparnya saat di Mabes Polri, Jakarta, Rabu (7/1/2026).
Himawan menambahkan bahwa perkembangan AI adalah bagian dari kemajuan teknologi, namun penggunaannya tidak boleh disalahgunakan untuk aktivitas yang merugikan moral masyarakat. “Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk deepfake. Dalam praktiknya, teknologi ini kerap disalahgunakan untuk membuat konten negatif, palsu, dan manipulasi visual,” jelasnya.
Lebih lanjut, Brigjen Himawan mengungkapkan bahwa penyimpangan tersebut biasanya berupa manipulasi foto atau gambar individu sehingga menampilkan visual dengan muatan asusila dan pornografi tanpa persetujuan pihak terkait.
“Atas dasar itu, kami melakukan pendalaman secara hukum. Penanganan penyalahgunaan AI ini menjadi salah satu fokus Direktorat Tindak Pidana Siber,” tambahnya.
Bareskrim juga mencatat bahwa di platform media sosial X, Grok AI digunakan secara masif oleh sejumlah akun untuk memanipulasi gambar atau foto individu. Dalam beberapa kasus, perintah yang diberikan kepada AI tersebut mengarah pada perubahan visual menjadi konten vulgar dan bernuansa pornografi.
Upaya Kajian Hukum ini menegaskan langkah kepolisian dalam mengantisipasi dan menindak penyalahgunaan teknologi terbaru demi melindungi masyarakat dari dampak negatif.
