Komdigi Resmi Blokir Akses Grok AI Imbas Viralnya Deepfake Asusila

MPN Indonesia 11 Januari 2026 - Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memutus akses sementara terhadap layanan chatbot kecerdasan buatan Grok milik platform X (dulu Twitter) pada Sabtu (10/1).

Kebijakan ini diambil menyusul maraknya penyalahgunaan teknologi AI tersebut untuk membuat konten pornografi palsu atau deepfake yang melibatkan foto-foto tanpa izin, termasuk figur publik dan anak-anak.

Pemblokiran dilakukan sebagai bentuk perlindungan terhadap perempuan, anak, dan masyarakat dari dampak negatif teknologi kecerdasan buatan.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa langkah ini bersifat mendesak untuk mencegah eksploitasi visual di ruang digital yang melanggar hak asasi manusia.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam keterangan resmi di Jakarta, Sabtu (10/1).

Tindakan tegas ini merespons fenomena deepfake seksual nonkonsensual yang dianggap merusak martabat, keamanan digital, serta merampas kendali individu atas identitas visual mereka.

Selain pemutusan akses, Komdigi juga telah memanggil pihak platform X untuk memberikan klarifikasi atas potensi penyalahgunaan layanan Grok AI dan dampak negatifnya terhadap publik.

Dasar Hukum dan Permintaan Klarifikasi

Pemblokiran akses Grok AI didasarkan pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya Pasal 9.

Aturan ini mengharuskan setiap PSE memastikan sistem elektronik yang mereka kelola tidak memuat, memfasilitasi, atau menyebarluaskan konten yang dilarang oleh hukum Indonesia.

“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” ujar Meutya.

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyatakan bahwa Grok AI belum memiliki pengaturan spesifik untuk mencegah pembuatan dan penyebaran konten pornografi yang berbasis foto nyata warga Indonesia.

“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Alexander melalui laman resmi Komdigi, dikutip MPN Indonesia pada Minggu (11/1).

Akses Masih Bisa Ditembus, Grok Dianggap Rentan

Meski pemblokiran telah diterapkan, pantauan sejumlah media menunjukkan masih adanya celah akses Grok AI, tergantung penyedia layanan internet yang digunakan.

Beberapa provider belum sepenuhnya memblokir situs Grok.com dan X.AI, bahkan akses melalui tab Grok di aplikasi X masih bisa dilakukan.

Fitur edit gambar Grok sempat menjadi sorotan karena digunakan untuk mengubah foto orang lain menjadi konten cabul.

Fitur ini awalnya tersedia secara luas, termasuk untuk pengguna gratisan, namun kini akses melalui mention dibatasi hanya untuk pelanggan X Premium.

“Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut,” tulis keterangan Grok melalui X, dikutip MPN Indonesia pada Minggu (11/1).

Namun, pengguna tetap bisa mengedit gambar melalui tombol ‘Edit image’ yang tersedia di platform.

(AKM/NID/RAD)