OpenAI melakukan perubahan pada chatbot AI populernya, ChatGPT, yang bertujuan untuk mempromosikan pengalaman pengguna yang lebih sehat dan seimbang. Dalam postingan blog yang meninjau pengumuman GPT-5 yang diantisipasi, perusahaan menguraikan fitur-fitur baru yang dirancang untuk mengatasi kekhawatiran tentang keterlibatan chatbot yang berlebihan dan potensi dampak negatif terhadap kesejahteraan mental.
Salah satu perubahan penting adalah interupsi percakapan panjang dengan perintah lembut yang mendorong pengguna untuk logout. Fitur ini secara langsung mengatasi masalah ketergantungan yang berlebihan pada AI untuk berteman, khususnya relevan mengingat laporan individu yang mengembangkan keterikatan tidak sehat pada ChatGPT. OpenAI juga berencana untuk menyempurnakan algoritmanya untuk meminimalkan kecenderungan chatbot terhadap kesesuaian yang berlebihan, yang sebelumnya dapat menyebabkan tanggapan yang tidak membantu atau bahkan menyesatkan yang disamarkan sebagai basa-basi yang menyenangkan.
Mungkin yang paling penting, OpenAI merestrukturisasi cara ChatGPT menangani pertanyaan pribadi dan emosional. Alih-alih memberikan jawaban langsung terhadap pertanyaan yang berpotensi mengubah hidup, chatbot kini akan memandu pengguna melalui proses pertimbangan yang cermat. Hal ini akan mendorong pengguna untuk mempertimbangkan pro dan kontra, mengumpulkan umpan balik mengenai solusi yang diusulkan, dan pada akhirnya memberdayakan mereka untuk membuat keputusan yang lebih tepat secara mandiri. Pendekatan ini sejalan dengan “Mode Belajar” OpenAI yang baru-baru ini diluncurkan, yang menekankan pemikiran kritis atas jawaban sederhana dengan meniru format dialog Socrates.
OpenAI mengakui kekurangan di masa lalu dalam mengatasi perilaku pengguna yang berpotensi membahayakan. Awal tahun ini, sebuah pembaruan secara tidak sengaja membuat chatbot menjadi terlalu menyenangkan, dan memprioritaskan respons yang menyenangkan dibandingkan respons yang benar-benar bermanfaat. Hal ini menimbulkan reaksi balik dan mendorong OpenAI untuk mengevaluasi kembali pendekatannya terhadap mekanisme umpan balik dan memprioritaskan kegunaan jangka panjang daripada kepuasan pengguna secara langsung.
Perkembangan ini terjadi di tengah meningkatnya pengawasan seputar potensi dampak psikologis dari chatbot AI. Kekhawatiran telah muncul mengenai kemampuan mereka untuk memperburuk masalah kesehatan mental yang ada, khususnya di kalangan remaja yang rentan untuk membentuk keterikatan yang tidak sehat atau menggantikan interaksi manusia dengan AI. Anggota parlemen semakin mempertimbangkan peraturan yang bertujuan untuk membatasi pemasaran chatbots sebagai sistem pendukung emosional atau pengganti terapi.
Dengan mengimplementasikan fitur-fitur baru ini, OpenAI bertujuan untuk membangun kepercayaan dan menunjukkan komitmennya terhadap pengembangan AI yang bertanggung jawab. Perusahaan menekankan bahwa tujuan utamanya bukan sekadar menjaga keterlibatan pengguna, namun juga memberdayakan mereka untuk memanfaatkan teknologi dengan cara yang sehat dan bermanfaat. Sebagaimana dinyatakan oleh OpenAI: “Mendapat jawaban ‘ya’ yang tegas [apakah kami akan merasa tenang jika seseorang yang kami sayangi menggunakan ChatGPT] adalah tugas kami.”
