Ngeri! Lebih dari Sejuta Pengguna ChatGPT Setiap Pekannya Bahas Niat untuk Bunuh Diri

MPN Indonesia 2 November 2025 - Laporan OpenAI menyebut bahwa lebih dari satu juta pengguna ChatGPT setiap pekan mengirim pesan yang berisi tentang rencana atau niat bunuh diri.

Data tersebut diungkap melalui postingan blog resmi dan menjadi pernyataan paling terbuka mengenai skala risiko kecerdasan buatan terhadap krisis kesehatan mental global.

Selain ide bunuh diri, OpenAI melaporkan sekitar 560 ribu dari 800 juta pengguna mingguan menunjukkan tanda-tanda darurat kesehatan mental seperti psikosis atau mania.

OpenAI Klaim Ada Kemajuan

Di samping temuan tersebut, OpenAI menyatakan bahwa pembaruan model GPT‑5 berhasil mengurangi jumlah perilaku yang tidak diinginkan dan meningkatkan aspek keamanan pengguna.

“Evaluasi otomatis terbaru kami memberi skor 91% untuk model GPT-5 yang sesuai dengan perilaku yang kami inginkan, dibandingkan dengan 77% untuk model GPT-5 sebelumnya,” tulis OpenAI dikutip MPN Indonesia dari The Guardian pada Sabtu (1/11).

Perusahaan juga menjelaskan bahwa GPT-5 memperluas akses ke hotline krisis dan menambahkan pengingat bagi pengguna untuk beristirahat selama sesi yang panjang.

Untuk memperkuat model tersebut, OpenAI mengklaim telah melibatkan 170 dokter dari Jaringan Dokter Global, ahli kesehatan yang selama beberapa bulan terakhir turut menilai keamanan respons model dan membantu penulisan jawaban chatbot untuk pertanyaan terkait kesehatan mental.

“Sebagai bagian dari penelitian ini, para psikiater dan psikolog meninjau lebih dari 1.800 respons model yang melibatkan situasi kesehatan mental serius dan membandingkan respons dari model obrolan GPT-5 yang baru dengan model-model sebelumnya,” ujar OpenAI.

Rencana Memperlonggar Pembatasan ChatGPT

Meski demikian, para peneliti AI dan advokat kesehatan masyarakat telah lama mengingatkan tentang kecenderungan chatbot untuk membenarkan keputusan atau delusi pengguna, sebuah isu yang dikenal sebagai jailbreak.

Pakar kesehatan mental khawatir individu yang rentan mungkin menggunakan chatbot AI sebagai pengganti dukungan profesional dan mengalami dampak buruk.

Namun, OpenAI secara tidak langsung justru mengklaim bahwa isu kesehatan mental merupakan hal yang wajar sehingga meningkatnya jumlah pengguna memungkinkan percakapan yang menyentuh isu kesehatan mental juga semakin besar.

“Gejala kesehatan mental dan tekanan emosional hadir secara universal dalam masyarakat manusia, dan peningkatan basis pengguna berarti bahwa sebagian percakapan ChatGPT mencakup situasi ini,”

Sam Altman, CEO OpenAI, dalam sebuah postingan di X menyebut bahwa perusahaan telah membuat kemajuan dalam menghadapi isu kesehatan mental dan akan segera memperlonggar pembatasan.

“Kami membuat ChatGPT cukup ketat untuk memastikan kami berhati-hati dengan masalah kesehatan mental… Sekarang setelah kami mampu memitigasi masalah kesehatan mental yang serius dan memiliki alat baru, kami akan dapat melonggarkan pembatasan dengan aman dalam sebagian besar kasus,” tulisnya dalam postingan tersebut.

View this post on Instagram

A post shared by MPN (@mpnindonesia)

(AKM/NID/RAD)