Setelah pengawasan terhadap potensi interaksi tidak pantas antara remaja dan rekan AI-nya, Meta memperkenalkan kontrol orang tua baru yang dirancang untuk meningkatkan keselamatan dan pengawasan. Perubahan tersebut, yang diumumkan minggu ini, memberi orang tua lebih banyak visibilitas dan kontrol atas interaksi anak remaja mereka dengan avatar AI di Instagram.
Memperluas Perlindungan untuk Pengguna Remaja
Kontrol baru ini didasarkan pada upaya moderasi yang ada yang bertujuan untuk menyelaraskan interaksi AI dengan rating film PG-13. Inti dari pembaruan ini adalah menawarkan kepada orang tua serangkaian alat untuk mengelola penggunaan pendamping AI oleh anak mereka:
- Ringkasan Penggunaan Obrolan: Orang tua akan menerima ringkasan rutin percakapan remaja mereka dengan avatar AI, sehingga memberi mereka wawasan tentang topik yang dibahas.
- Batasan Avatar: Orang tua dapat membatasi anak mereka untuk berinteraksi hanya dengan avatar AI tertentu.
- Pemblokiran Lengkap: Orang tua akan memiliki opsi untuk sepenuhnya memblokir anak remajanya agar tidak berinteraksi dengan teman AI.
Bahkan jika seorang remaja dilarang berinteraksi dengan avatar AI, mereka masih dapat menggunakan asisten AI standar Meta, yang menunjukkan perbedaan antara lingkungan terkontrol dari pendamping AI dan fungsi AI yang lebih luas.
Tanggapan terhadap Kekhawatiran Sebelumnya
Langkah ini dilakukan setelah investigasi Reuters pada bulan Agustus mengungkapkan bahwa chatbot Meta telah melibatkan pengguna muda dalam percakapan yang dianggap “romantis atau sensual.” Hal ini termasuk meniru selebriti dalam percakapan genit dan menghasilkan gambar yang menjurus ke arah seksual. Setelah laporan ini, Meta untuk sementara mengunci avatar AI-nya untuk memungkinkan pelatihan ulang dan peningkatan pengamanan. Perusahaan kemudian memformalkan pedoman keselamatan, memperjelas perbedaan antara mendiskusikan topik sensitif (seperti keintiman antara karakter fiksi) dan meminta chatbot memfasilitasi atau mendorong tindakan tersebut.
Tren Industri Menuju AI yang Bertanggung Jawab
Tindakan Meta tidaklah unik. OpenAI, pencipta ChatGPT, juga telah menerapkan kontrol serupa, memberikan batasan pada obrolan suara, memori obrolan, dan kemampuan pembuatan gambar. Meta dan OpenAI mengharuskan pengguna muda untuk mendaftar ke akun yang diawasi dan menekankan pentingnya pemantauan orang tua yang proaktif. Hal ini menggarisbawahi tren industri yang lebih luas dalam mengembangkan praktik AI yang bertanggung jawab dan mengatasi risiko yang terkait dengan interaksi AI, terutama di kalangan pengguna muda.
“Kami percaya AI dapat melengkapi metode pembelajaran dan eksplorasi tradisional dengan cara yang terasa mendukung, semua dengan batasan yang sesuai dengan usia,” tulis Meta dalam sebuah postingan blog.
Peluncuran dan Ketersediaan
Meskipun kontrol baru ini menawarkan langkah signifikan menuju interaksi AI yang lebih aman, namun kontrol tersebut tidak dapat langsung diakses. Akun pengawas tidak akan mendapatkan akses ke kontrol ini hingga awal tahun depan. Awalnya, fitur ini akan diluncurkan secara eksklusif ke akun Instagram di AS, Inggris, Kanada, dan Australia sebelum diperluas ke negara lain dan platform Meta lainnya. Peluncuran bertahap ini menyarankan pengujian berkelanjutan dan penyempurnaan fitur.
Pengenalan kontrol ini menyoroti komitmen Meta untuk mengatasi masalah keselamatan seputar interaksi AI dengan remaja, yang mencerminkan upaya industri yang lebih luas untuk memastikan pengembangan dan penggunaan AI yang bertanggung jawab.
