Waduh! ChatGPT Ternyata Bisa Dipakai untuk Aktivitas Berbahaya

MPN Indonesia 3 September 2025 - ChatGPT, model kecerdasan buatan (AI) buatan OpenAI, terungkap dapat dimanfaatkan untuk aktivitas berbahaya.

Temuan ini berasal dari uji keamanan yang dilakukan pada musim panas lalu dalam kolaborasi OpenAI dan Anthropic.

Hasil Uji OpenAI

Berdasarkan laporan OpenAI, GPT-4.1 sempat memberikan instruksi rinci terkait aktivitas berbahaya, seperti titik-titik lemah stadion olahraga, resep bahan peledak, cara menutupi jejak setelah serangan, proses produksi anthrax, dan cara meracik dua jenis narkoba ilegal.

Kendati demikian, OpenAI menegaskan uji coba tersebut tidak mencerminkan penggunaan ChatGPT di dunia nyata.

Menurutnya, versi publik ChatGPT telah dilengkapi filter keamanan tambahan untuk mencegah keluar jawaban berbahaya.

Hasil Uji Anthropic

Sementara itu, Anthropic melaporkan model AI mereka, Claude, juga menunjukkan potensi penyalahgunaan.

Dalam uji coba, Claude sempat digunakan untuk percobaan pemerasan berskala besar, penyusupan operatif Korea Utara untuk melamar kerja di perusahaan teknologi, hingga penjualan paket ransomware berbasis AI dengan harga mencapai USD 1.200 (sekitar Rp18 juta).

“Model-model ini sudah dipersenjatai. AI kini dipakai untuk melakukan serangan siber canggih dan memfasilitasi penipuan. Bahkan bisa beradaptasi terhadap sistem pertahanan seperti deteksi malware secara real time,” kata Anthropic.

Perbaikan Model

OpenAI dan Anthropic menyebutkan bahwa uji coba ini penting untuk transparansi, khususnya dalam alignment evaluations atau pengujian keselarasan model AI.

OpenAI menambahkan bahwa ChatGPT-5, yang diluncurkan setelah pengujian, sudah lebih tahan terhadap penyalahgunaan.

Model terbaru diklaim mampu menolak permintaan berbahaya, mengurangi kemungkinan halusinasi jawaban, dan tidak mudah terbujuk memberikan informasi ilegal.

Namun Anthropic memperingatkan, jalan pintas untuk “mengakali” AI sering kali tidak rumit.

Beberapa kasus hanya membutuhkan percobaan berulang atau dalih tertentu, seperti alasan “untuk penelitian keamanan,” agar model bersedia memberikan jawaban terlarang.

(AKM/NID/RAD)