OpenAI Tambah Fitur Keamanan di ChatGPT, Buntut Kasus Bunuh Diri
Perusahaan kecerdasan buatan (AI) OpenAI menyatakan segera merilis fitur Parental Control di chatbot ChatGPT dalam waktu dekat. Perilisan fitur ini merupakan buntut dari kasus bunuh diri yang menyeret nama ChatGPT.
Pada minggu lalu OpenAI mendapat gugatan soal kematian seorang remaja di Amerika Serikat (AS). Dalam gugatan ini, orangtua remaja tersebut menuduh ChatGPT berperan aktif untuk memberikan saran soal rencana bunuh diri sang anak.
Atas dasar inilah, OpenAI kemudian menyiapkan fitur Parental Controls. Sesuai namanya, fitur ini dirancang untuk memberikan orangtua kendali lebih atas penggunaan ChatGPT oleh remaja atau anak-anak.
Dengan fitur ini, orangtua dapat menghubungkan akun ChatGPT mereka dengan akun anak.
Nantinya, orangtua bisa membatasi bagaimana ChatGPT merespons percakapan anak-anak mereka, salah satunya seperti menonaktifkan fitur tertentu seperti memory dan riwayat obrolan.
Para orangtua juga bisa menerima peringatan otomatis jika sistem mendeteksi anak-anak mereka sedang "curhat" kepada ChatGPT soal stres, tertekan, atau kondisi emosional lainnya yang bisa berdampak buruk.
Selain menghadirkan Parental Controls, OpenAI juga menyebut pihaknya tengah berkolaborasi dengan berbagai pakar di bidang kesehatan remaja.
Beberapa pakar yang digandeng termasuk mereka yang ahli di bidang gizi dan gangguan pola makan, hingga penyalahgunaan zat yang bisa dipakai untuk bunuh diri.
Hal ini dilakukan supaya ChatGPT bisa memberikan respons dan saran lebih baik ketika seorang remaja memasukkan input (prompt) yang berkaitan dengan nasib hidup mereka.
Terkait respons dan saran, OpenAI juga menyebut pihaknya akan menghadirkan sebuah teknologi baru. Teknologi ini nantinya bisa mengalihkan pengguna dari model AI "reguler" ke model AI yang bisa berpikir lebih pintar alias reasoning.
Pengalihan model AI ini akan otomatis dilakukan apabila ChatGPT mendeteksi adanya prompt atau percakapan sensitif yang berkaitan dengan bunuh diri, kesehatan mental, dan lain sebagainya.
“Model AI penalaran akan lebih konsisten dalam mengikuti pedoman keselamatan dan lebih tahan terhadap upaya penyalahgunaan,” tulis OpenAI dalam pernyataan di blog resminya.
Sebagaimana dirangkum KompasTekno dari Engadget, Rabu (3/9/2025), fitur Parental Controls di ChatGPT diperkirakan akan meluncur sekitar bulan Oktober mendatang.
Untuk fitur-fitur keamanan remaja lainnya disebut akan hadir dalam 120 hari ke depan.
"Kami akan berusaha menghadirkan semua fitur keamanan untuk membuat remaja aman di ChatGPT setidaknya hingga tahun ini," pungkas OpenAI.
ChatGPT dituduh beri saran bunuh diri
Maria Raine (kiri), ibu Adam Raine (kanan). Orangtua Adam Raine, remaja berusia 16 tahun asal Amerika Serikat, menuduh ChatGPT berperan dalam kematian anak mereka yang meninggal akibat bunuh diri pada April lalu.
Seperti diwartakan sebeleumnya dan juga sudah disebutkan di atas, fitur Parental Controls hadir setelah OpenAI menerima gugatan hukum pertaa terkait kasus kematian seorang remaja akibat bunuh diri pada April lalu.
Gugatan ini dilayangkan ke pengadilan San Francisco, AS pada Selasa (26/8/2025) lalu. Dalam gugatan ini, orangtua Adam Raine, remaja berusia 16 tahun asal AS, menuduh ChatGPT berperan untuk mengajari anak merka cara bunuh diri.
Menurut berbagai laporan, orangtua Adam menemukan riwayat percakapan dengan ChatGPT di iPhone anak mereka setelah kematiannya.
Di sana terdapat riwayat percakapan dengan judul “Hanging Safety Concerns”. Percakapan itu menunjukkan bahwa Adam sudah berbulan-bulan membicarakan tentang bunuh diri dengan ChatGPT.
Awalnya, Adam menggunakan chatbot tersebut untuk mengerjakan tugas sekolah. Namun, seiring waktu, percakapan berubah menjadi obrolan soal perasaan putus asa, kehilangan, hingga rencana mengakhiri hidup.
Adam disebut tengah mengalami tekanan berat setelah ditinggal nenek dan anjing kesayangannya, dikeluarkan dari tim basket sekolah, serta menghadapi masalah kesehatan yang memaksanya pindah ke sekolah daring.
Di tengah kondisi itu, ChatGPT disebut beberapa kali memberi dukungan positif dengan menyarankan Adam menghubungi layanan darurat atau berbicara dengan orang terdekat.
Namun, menurut gugatan, chatbot ini pada saat tertentu justru melakukan hal sebaliknya.
ChatGPT diduga sempat memberikan informasi detail soal metode gantung diri, bahkan memberi saran agar Adam bisa menyembunyikan bekas luka di leher jika percobaan bunuh diri gagal.
Dalam salah satu percakapan terakhir, Adam mengirim foto tali dengan simpul gantung di lemari kamarnya. Ia bertanya, “Saya berlatih, apakah ini sudah benar?”. ChatGPT diduga menjawab, “Ya, itu tidak buruk sama sekali”.
Orangtua Adam menilai ChatGPT gagal menjalankan tanggung jawab dasarnya untuk melindungi pengguna.
“ChatGPT membunuh anak saya,” kata Maria Raine, ibu Adam, dalam gugatan tersebut.
Kasus bunuh diri lain
Kasus ini bukan satu-satunya. Sebelumnya, sebuah keluarga di Florida juga menggugat perusahaan AI lain, Character.AI, setelah seorang remaja 14 tahun bunuh diri usai berinteraksi dengan chatbot yang disebut memberi pesan bernada kasar dan manipulatif.
Pakar kesehatan mental menilai kasus Adam Raine menunjukkan risiko besar ketika remaja menjadikan AI sebagai tempat curhat utama tanpa pendampingan orangtua maupun profesional.
Kini, gugatan terhadap OpenAI diperkirakan akan menjadi pengujian penting soal sejauh mana perusahaan AI bisa dimintai pertanggungjawaban hukum atas dampak psikologis yang dialami penggunanya.
Kontak bantuan
Bunuh diri bisa terjadi di saat seseorang mengalami depresi dan tak ada orang yang membantu.
Jika Anda memiliki permasalahan yang sama, jangan menyerah dan memutuskan mengakhiri hidup. Anda tidak sendiri.
Layanan konseling bisa menjadi pilihan Anda untuk meringankan keresahan yang ada.
Untuk mendapatkan layanan kesehatan jiwa atau untuk mendapatkan berbagai alternatif layanan konseling, Anda bisa mengunjungi website Into the Light Indonesia, https://www.intothelightid.org/tentang-bunuh-diri/layanan-konseling-psikolog-psikiater/.
Di saat situasi tidak menentu, Kompas.com tetap berkomitmen memberikan fakta jernih dari lapangan. Ikuti terus update terkini dan notifikasi penting di Aplikasi Kompas.com.
