Grok Tobat, Tak akan Lagi Bikin Konten AI Tak Senonoh

MPN Indonesia 16 Januari 2026 - Platform media sosial X, yang sebelumnya dikenal sebagai Twitter, mengumumkan perubahan kebijakan pada fitur pengeditan foto milik chatbot Grok AI.

Mulai Kamis (15/1), Grok diklaim tidak lagi dapat digunakan untuk membuat atau mengedit gambar seksual dari foto orang sungguhan berdasarkan perintah pengguna.

Kebijakan ini diberlakukan setelah Grok AI sempat digunakan untuk menghasilkan lebih dari 20.000 gambar berisi orang berpakaian terbuka, termasuk yang menyerupai anak-anak, selama periode libur Natal dan Tahun Baru.

Kasus tersebut memicu perhatian serius dari berbagai pihak, termasuk aparat penegak hukum.

Jaksa Agung California, Rob Bonta, menyatakan pihaknya tengah melakukan investigasi terhadap xAI atas dugaan produksi konten deepfake seksual dalam jumlah besar.

Pembatasan Fitur Grok AI Diperketat

X menjelaskan bahwa langkah pembatasan dilakukan melalui penerapan teknologi tambahan yang membatasi kemampuan Grok secara global dalam mengedit foto orang nyata dengan unsur seksual.

“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun [@]Grok di X secara global agar tidak mengizinkan pengeditan gambar orang nyata dengan pakaian yang bersifat terbuka, seperti bikini. Pembatasan ini berlaku untuk seluruh pengguna, termasuk pelanggan berbayar,” tulis akun @Safety di X pada Kamis (15/1), dikutip MPN Indonesia pada Jumat (16/1).

Selain itu, X menyatakan bahwa kemampuan pembuatan dan pengeditan gambar melalui Grok AI kini hanya tersedia bagi pelanggan berbayar.

Bagi pengguna gratis, Grok akan menampilkan notifikasi bahwa fitur tersebut hanya dapat diakses oleh pelanggan berbayar.

“Pembuatan gambar dan kemampuan mengedit gambar melalui akun [@]Grok di X kini hanya tersedia bagi pelanggan berbayar secara global,” tulis akun @Safety.

Meski demikian, fitur edit gambar masih dapat digunakan oleh pelanggan X Premium dengan centang biru untuk mengedit gambar perempuan agar terlihat mengenakan bikini.

Di sisi lain, X juga menerapkan geo-blocking yang memblokir seluruh pengguna di wilayah tertentu dari pembuatan gambar orang sungguhan dalam balutan bikini, pakaian dalam, atau pakaian serupa apabila tindakan tersebut dinyatakan ilegal oleh hukum setempat.

Langkah ini disebut sebagai upaya penyesuaian terhadap peraturan di setiap yurisdiksi sekaligus penambahan lapisan perlindungan untuk mencegah penyalahgunaan teknologi Grok AI.

Komitmen X terhadap Keamanan Konten

Dalam pernyataan resminya, X menegaskan komitmen terhadap kebijakan tanpa toleransi atas berbagai bentuk pelanggaran konten seksual.

“Kami tetap berkomitmen untuk menjadikan X sebagai platform yang aman bagi semua orang dan terus menerapkan kebijakan tanpa toleransi terhadap segala bentuk eksploitasi seksual anak, ketelanjangan tanpa persetujuan, serta konten seksual yang tidak diinginkan,” tulis akun @Safety.

X juga menyatakan akan menghapus konten yang melanggar serta melaporkan akun yang diduga menyebarkan materi eksploitasi seksual anak kepada aparat penegak hukum jika diperlukan.

Penegakan aturan ini berlaku bagi seluruh pengguna, baik gratis maupun berbayar.

Investigasi Global terhadap Grok

Selain penyelidikan oleh otoritas California, sejumlah negara turut mengumumkan investigasi terhadap Grok, termasuk Indonesia, Malaysia, India, Irlandia, Inggris, Prancis, Australia, serta Komisi Eropa.

Di Amerika Serikat, tiga senator dari Partai Demokrat juga mendesak Apple dan Google untuk menarik aplikasi X dan Grok dari toko aplikasi hingga kedua platform tersebut dinilai mampu mencegah pembuatan konten eksplisit tanpa persetujuan.

Menanggapi situasi tersebut, X menyebut perkembangan teknologi AI generatif menghadirkan tantangan baru di industri digital.

“Perkembangan pesat teknologi AI generatif menghadirkan tantangan di seluruh industri. Kami secara aktif bekerja sama dengan pengguna, mitra, lembaga pemerintahan, dan platform lainnya untuk menangani berbagai permasalahan dengan lebih cepat seiring kemunculannya,” tutup pernyataan akun @Safety.

(AKM/NID/RAD)