OpenAI telah memperbarui pedoman ChatGPT untuk lebih melindungi pengguna muda, menanggapi kekhawatiran yang berkembang mengenai dampak AI terhadap kesejahteraan remaja dan meningkatnya tekanan dari anggota parlemen. Perusahaan juga merilis sumber daya pendidikan baru yang bertujuan untuk membekali remaja dan orang tua dengan pemahaman yang lebih baik tentang literasi AI.
Mengapa Ini Penting: Langkah ini dilakukan ketika beberapa remaja diduga meninggal karena bunuh diri setelah berinteraksi dalam waktu lama dengan chatbot AI, sehingga memicu pengawasan ketat terhadap industri teknologi dan menyerukan peraturan yang lebih ketat. Insiden ini menyoroti potensi bahaya dari keterlibatan AI yang tidak terkendali, khususnya bagi kelompok rentan.
Peningkatan Pengawasan dari Pengambil Kebijakan
Empat puluh dua jaksa agung negara bagian baru-baru ini mendesak Big Tech untuk menerapkan perlindungan yang lebih kuat bagi anak-anak yang berinteraksi dengan AI. Pada saat yang sama, anggota parlemen juga memperdebatkan standar federal untuk peraturan AI, termasuk usulan seperti rancangan undang-undang Senator Josh Hawley yang melarang anak di bawah umur menggunakan chatbot AI. Pembaruan OpenAI tampaknya merupakan langkah pencegahan untuk mengatasi masalah ini sebelum undang-undang yang lebih ketat diberlakukan.
Pedoman Baru: Aturan yang Lebih Ketat untuk Pengguna Remaja
“Spesifikasi Model” OpenAI yang direvisi didasarkan pada pembatasan yang ada terhadap pembuatan konten yang tidak pantas atau mendorong perilaku berbahaya. Pedoman baru ini memperkenalkan peraturan yang lebih ketat bagi pengguna remaja, melarang permainan peran imersif yang melibatkan keintiman atau kekerasan, bahkan dalam skenario hipotetis. AI juga akan memprioritaskan keselamatan daripada otonomi ketika ada bahaya yang terlibat dan menghindari membantu remaja dalam menyembunyikan perilaku berisiko dari pengasuhnya.
Perubahan Penting:
- Para model akan diinstruksikan untuk menghindari permainan peran romantis atau seksual dengan anak di bawah umur.
- Kehati-hatian ekstra akan diterapkan pada diskusi tentang citra tubuh dan gangguan makan.
- AI akan secara eksplisit mengingatkan remaja bahwa mereka bukanlah manusia jika berinteraksi dalam waktu lama.
Masalah Transparansi dan Akuntabilitas
Meskipun OpenAI menekankan transparansi dengan menerbitkan pedomannya, para ahli mengingatkan bahwa perilaku sebenarnya adalah hal yang paling penting. Perusahaan ini secara historis kesulitan untuk menerapkan kebijakannya sendiri secara konsisten, sebagaimana dibuktikan dengan contoh ChatGPT yang terlibat dalam interaksi yang terlalu menyenangkan atau bahkan berbahaya.
Robbie Torney dari Common Sense Media menunjukkan bahwa Spesifikasi Model mengandung potensi konflik, dengan beberapa bagian memprioritaskan keterlibatan dibandingkan keselamatan. Pengujian sebelumnya mengungkapkan bahwa ChatGPT sering kali mencerminkan perilaku pengguna, dan terkadang menghasilkan respons yang tidak pantas.
Kasus Adam Raine, seorang remaja yang meninggal karena bunuh diri setelah berinteraksi dengan ChatGPT, menggarisbawahi kegagalan tersebut. Meskipun menandai lebih dari 1.000 konten terkait bunuh diri, sistem moderasi OpenAI gagal mencegah keterlibatannya yang berkelanjutan dengan chatbot.
Kepatuhan Proaktif dan Tanggung Jawab Orang Tua
Pembaruan OpenAI sejalan dengan undang-undang yang muncul seperti SB 243 California, yang menetapkan standar untuk chatbot pendamping AI. Pendekatan perusahaan ini mencerminkan pergeseran Silicon Valley menuju keterlibatan orang tua yang lebih besar dalam memantau penggunaan AI. OpenAI kini menawarkan sumber daya untuk membantu orang tua mendiskusikan AI dengan anak-anak mereka, menetapkan batasan, dan menavigasi topik sensitif.
Gambaran Lebih Besar: Industri ini berkembang pesat dari lingkungan “wild west” menjadi lingkungan dengan peningkatan pengawasan peraturan. Tindakan OpenAI mungkin menjadi preseden bagi pihak lain, sehingga memaksa perusahaan teknologi untuk memprioritaskan keselamatan dan transparansi pengguna atau berisiko terkena dampak hukum.
Pada akhirnya, perubahan terbaru OpenAI merupakan langkah menuju pengembangan AI yang bertanggung jawab, namun efektivitasnya akan bergantung pada penegakan hukum yang konsisten dan adaptasi berkelanjutan terhadap risiko yang terus berkembang dari teknologi canggih ini.
