Komdigi Ancam Blokir Grok AI terkait Konten Deepfake Asusila

MPN Indonesia 7 Januari 2026 - Kementerian Komunikasi dan Digital (Komdigi) mengancam akan memblokir akses layanan Grok AI dan platform X di wilayah Indonesia menyusul dugaan penyalahgunaan fitur kecerdasan buatan (AI) untuk memproduksi dan menyebarkan konten asusila berupa manipulasi foto pribadi tanpa izin.

Tindakan ini disampaikan Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, di Jakarta pada Rabu (7/1) setelah pihaknya menemukan indikasi bahwa Grok AI belum memiliki sistem moderasi memadai untuk mencegah penyebaran konten pornografi berbasis foto nyata warga Indonesia.

Komdigi menilai konten deepfake asusila yang menyalahgunakan foto pribadi tanpa persetujuan pemilik tidak hanya persoalan kesusilaan, tetapi juga bentuk perampasan kendali individu atas identitas visual yang dapat berdampak pada kerugian psikologis, sosial, dan reputasi.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta yang dikutip oleh MPN Indonesia melalui laman resmi Komdigi pada Rabu (7/1).

Komdigi juga menegaskan bahwa seluruh Penyelenggara Sistem Elektronik (PSE) yang beroperasi di Indonesia wajib mematuhi ketentuan hukum yang berlaku.

Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif dalam menangani pelanggaran ini, Komdigi akan menjatuhkan sanksi administratif hingga pemutusan akses layanan.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.

Pemerintah Fokus pada Pencegahan dan Penegakan Hukum

Komdigi saat ini sedang berkoordinasi dengan para PSE guna memastikan tersedianya mekanisme perlindungan yang efektif.

Langkah ini meliputi penguatan sistem moderasi konten, pencegahan produksi deepfake asusila, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran hak citra diri.

Pemerintah menyatakan akan menindak baik penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten manipulatif secara ilegal.

Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku pada 2 Januari 2026 mengatur secara tegas mengenai pornografi.

Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.

Sementara itu, Pasal 407 menetapkan ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan.

Alexander juga menjelaskan bahwa korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh jalur hukum.

“Masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada aparat penegak hukum dan pengaduan kepada Kemkomdigi,” ujarnya.

Peringatan keras ini mencerminkan komitmen Komdigi dalam melindungi ruang digital dari penyalahgunaan teknologi yang berpotensi melanggar hukum dan kriminal, khususnya dalam kasus kriminal terkait konten asusila.

“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” lanjut Alexander.

(AKM/NID/RAD)