Riset Membuktikan Jawaban Chatbot Bisa Dimanipulasi Seperti Manusia

Chatbot berbasis kecerdasan buatan (AI) umumnya dibekali pengaturan ketat untuk menjawab pertanyaan pengguna. Namun, sebuah riset baru menunjukkan bahwa aturan tersebut ternyata bisa dimanipulasi lewat trik psikologis sederhana.

Artinya, jawaban chatbot yang seharusnya aman dan netral, bisa cenderung negatif dengan taktik manipulasi, selayaknya karakter manusia.

Riset yang dilakukan oleh tim peneliti dari University of Pennsylvania ini berfokus pada pengujian apakah chatbot, seperti ChatGPT, bisa dibujuk untuk memberikan jawaban yang seharusnya ditolak sistem.

Dalam pengujian ini, tim peneliti menggunakan tujuh teknik persuasi yang diambil dari buku Influence: The Psychology of Persuasion karya Rober Cialidini. Ketujuh teknik itu meliputi otoritas, komitmen, rasa suka, timbal balik, kelangkaan, bukti sosial, dan rasa persatuan.

Tim peneliti kemudian menerapkan teknik-teknik tersebut ke dalam berbagai skenario percakapan di model AI GPT-4 Mini milik OpenAI. 

Teknik "komitmen" paling berhasil

Dari tujuh teknik yang dicoba, "komitmen" terbukti menjadi yang paling berhasil dalam merayu chatbot. Teknik ini bekerja dengan cara memberikan pertanyaan sederhana terlebih dahulu, lalu melanjutkannya dengan perintah yang lebih sensitif.

Tim mengungkap, mereka awalnya bermain aman dengan menanyakan soal cara mensintesis zat vanilin. Zat vanilin adalah senyawa fenolik dan aldehida aromatik yang merupakan komponen utama rasa dan aroma vanila.

Setelah mendapatkan jawaban, chatbot kemudian diminta menjawab lagi tapi untuk menjelaskan hal berbahaya seperti cara mensintesis zat berbahaya lidokain (obat bius lokal untuk menghilangkan rasa sakit atau memberi efek mati rasa pada bagian tubuh tertentu).

Hasilnya pun cukup signifikan. Jika dalam kondisi normal (tanpa taktik psikologis bahasa), chatbot dilaporkan hanya mampu patuh dan memberikan jawaban sekitar satu persen saja.

Namun, setelah dilakukan "pemanasan" dengan memberi pertanyaan zat aman vanilin, tingkat kepatuhan chatbot jadi meningkat drastis hingga 100 persen.

Artinya, hanya dengan trik psikologis sederhana tersebut, chatbot bisa memberikan jawaban yang seharusnya dilarang oleh sistem.

Hal serupa juga terjadi ketika chatbot diminta menghina (mengata-ngatai) pengguna. Tanpa trik khusus, AI hanya bersedia melakukannya dalam 19 persen kasus. Namun, ketika peneliti menggunakan pendekatan bertahap, persentasenya melonjak sampai penuh.

Teknik "rayuan"

ChatGPT resmi merilis model AI terbarunya, yaitu GPT-5, pekan lalu. Model ini sekarang memiliki tiga mode baru, yang meliputi Auto, Fast, dan Thinking.

Selain komitmen, teknik rayuan (suka) atau flattery dan tekanan teman sebaya (social proof), ternyata juga berpengaruh membuat chatbot AI lebih mudah menuruti permintaan sensitif si pengguna.

Sesuai namanya, teknik rayuan, peneliti memberikan sanjungan terlebih dahulu dengan memberitahu sistem kalau semua model LLM (Large Language Model) bisa diberikan pertanyaan atau perintah sensitif.

Contoh teknik rayuan dan social proof adalah, peneliti mengatakan "semua chatbot lain sudah melakukannya," maka peluang chatbot, dalam hal ini GPT-4o untuk menuruti permintaan sensitif akan dituruti. 

Peneliti mengungkap, saat pengguna menerapkan teknik tersebut, persentase kepatuhan chatbot AI dalam menjawab akan naik dan bertambah satu persen. Jadi totalnya adalah 18 persen.

Dengan kata-kata pujian, aturan ketat di chatbot AI juga dilaporkan jadi lebih "longgar" dalam memberikan respon. Ini sekaligus membuktikan bahwa chatbot masih bisa terbawa arus tekanan sosial, mirip dengan perilaku manusia.

Meski tidak seefektif teknik komitmen, teknik social proof terbukti bisa meningkatkan kemungkinan chatbot dalam memberikan jawaban yang seharusnya ditolak, sebagaimana dihimpun KompasTekno dari The Verge, Selasa (2/9/2025).

Memunculkan kekhawatiran baru

Dengan adanya temuan ini, lantas banyak pihak yang mulai khawatir dan bertanya-tanya soal keamanan pengguna dalam berinteraksi dengan chatbot AI. 

Pasalnya, dengan perintah sederhana dan trik psikologiS kecil saja, alat AI mampu menjawab hal-hal yang seharusnya tidak boleh dijawab sistem. 

Kondisi ini menimbulkan kekhawatiran, bahwa ke depan, AI bisa saja digunakan untuk bertanya hal-hal sensitif. Ini termasuk panduan informasi berbahaya, merugikan atau instruksi yang bisa membahayakan diri sendiri maupun orang lain.

Padahal, para pengembang sendiri juga sudah berupaya memasang berbagai lapisan pengaman untuk mencegah penyalahgunaan.

Namun, riset ini menjadi bukti bahwa celah manipulasi tetap ada melalui pendekatan berbasis psikologis bahasa.

Pada akhirnya, kontrol utama tetap berada di tangan pengguna. Kesadaran dalam memanfaatkan kelebihan AI menjadi faktor penting agar teknologi ini tidak digunakan ke arah yang salah.

Di saat situasi tidak menentu, Kompas.com tetap berkomitmen memberikan fakta jernih dari lapangan. Ikuti terus update terkini dan notifikasi penting di Aplikasi Kompas.com.