Grok AI Tak Punya Sistem Cegah Konten Asusila, Komdigi Ancam Akan Putus Akses X

Hal itu sesuai dengan aturan Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407.

Pasal 172 menjelaskan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.

Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.

Sanksi tersebut diberlakukan jika pengguna terbukti memproduksi, menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak.

Alexander mengatakan masyarakat yang menjadi korban, baik manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri, dapat menempuh upaya hukum.

Masyarakat dapat melaporkan kepada aparat penegak hukum dan pengaduan kepada Komdigi.

Bareskrim: Deepfake Bisa Dipidana

Bareskrim Polri menjawab fenomena manipulasi foto pribadi seseorang yang dijadikan konten asusila melalui fitur Grok AI di media sosial X.

Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Himawan Bayu Aji menegaskan aksi pengeditan foto itu merupakan bentuk deepfake.

Jika dinilai ada unsur merugikan, bisa diberlakukan pidana kepada pengguna.

"Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI, karena itu memang kita sedang melakukan penyelidikan ke arah sana."

"Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana," kata Himawan dalam keterangannya, Kamis (8/1/2026).

(Tribunnews.com/Galuh Widya Wardani/Abdi Ryanda Shakti)