Milenial ingat label peringatannya. Kami diberitahu bahwa Wikipedia adalah ladang ranjau. Postingan forum? Lewati mereka. Kunjungi sumber primer. Mulailah dengan Google.
Sekarang, Gen Alpha sudah masuk. Dan para pendukungnya berteriak bahwa alat yang kami percayai adalah alat yang bisa menghancurkan mereka.
Laporan terbaru dari pengawas keselamatan anak Common Sense Media menyatakan Penelusuran yang didukung AI dari Google merupakan “risiko yang tidak dapat diterima”. Keputusan mereka sangat tegas: siswa harus berhenti menggunakannya sepenuhnya. Sampai para pendidik dapat menekan tombol tersebut, AI harus dihilangkan.
Anda mungkin mengira Chatbots adalah penjahatnya. Tentu saja memang demikian. Tapi pencarian sederhana? Itulah ancaman tersembunyinya.
Pintu Belakang Mode AI dalam Pendidikan
Google meluncurkan Mode AI untuk Pencarian tahun lalu dalam semalam. Tidak ada pengujian beta untuk sekolah. Tidak ada peluncuran bertahap. Jika Anda memiliki akun pendidikan, Anda mendapatkannya. Langsung.
Hal ini membuat para ahli panik. Common Sense Media dan lainnya memberi tahu Mashable alasannya. Mode AI Google berjalan pada model Gemini. Ini adalah model yang sama dengan batasan usia di layanan Google lainnya. Tapi di sini? Tidak ada gerbang.
Robbie Torney, direktur senior program AI untuk Common Sense Media, menyebut Google sebagai “pemain luar biasa” dalam penelusuran dan pendidikan. Itu benar. Perusahaan ini memperkenalkan Chromebook ke setiap ruang kelas. Google Workspace for Education mendukung rangkaian admin. Mereka menginjili AI, menguranginya, lalu meningkatkannya lagi dengan Gemini for Education. Jutaan siswa, dari Taman Kanak-kanak hingga pasca sarjana, dikurung.
Dengan menjadikan AI generatif sebagai hal yang mendasar—bahkan tidak terlihat—mereka telah mengikis kepercayaan selama bertahun-tahun.
Googling tidak lagi sederhana.
Misinformasi dan Ilusi Otoritas
Para peneliti menemukan bahwa Ikhtisar AI Google mengulangi informasi yang salah. Raksasa teknologi itu belum memperbaikinya. Chatbots selalu mengalami masalah ini. Kedengarannya berwibawa. Mereka terdengar yakin. Orang dewasa menjadi bingung. Anak-anak disesatkan.
Common Sense Media menemukan hal lain yang mengganggu. Alat AI Google menyelesaikan pekerjaan rumah untuk pengguna di bawah umur. Para ahli mengatakan ini adalah kode cheat. Desainnya menyesatkan. Tanggapannya beragam. Chatbotnya menyenangkan. Siswa tidak tahu bahwa mereka menyontek. Atau lebih buruk lagi, mereka berpikir belajar menjadi semakin sulit.
“Mereka menerapkan AI dengan cara yang tidak sesuai dengan perkembangan.”
Amanda Bickerstaff, wakil direktur AI di Pendidikan, terus terang menyatakannya. Mode AI adalah pintu belakang. Ini mereplikasi desain chatbot terburuk di ruang yang sebelumnya dapat diandalkan.
“Tidak ada alasan mengapa anak berusia 10, 13, atau bahkan 15 tahun harus memiliki Mode AI.”
Saat Anda mengajarkan literasi AI, Anda harus memiliki niat. Mode AI adalah kebalikannya. Anda mencari fakta, bukan opini chatbot.
Risiko kesehatan mental juga meningkat. Laporan tersebut menyebutkan masalah keamanan bagi anak-anak.
Google tidak mengizinkan Anda mematikan fitur AI saja. Pencarian tetap. Pagar pembatas tetap ada di sekolah, namun anak-anak masih dapat memicu AI generatif saat mengerjakan tugas sekolah. Orang tua dapat memblokir Pencarian sepenuhnya. Administrator secara teoritis dapat memblokir akun Google Search for Workspace.
Tapi apa yang Anda katakan kepada guru? Anak-anak tidak bisa mencari jawaban?
“Apa yang akan kamu katakan? Anak itu tidak bisa menelusuri web?”
Google mendorong kembali. Mereka mengatakan pengujian Common Sense Media sempit. Bukan “cara efektif untuk mengukur keamanan”. Mereka mencatat bahwa kelompok tersebut hanya menguji akun konsumen, bukan akun pendidikan. Tapi Torney menekankan bahwa pengalaman itu sama untuk semua orang.
Mimpi Buruk Hukum bagi Distrik Sekolah
Sumber memberi tahu Mashable bahwa mungkin ini saatnya untuk membuang Google.
“Ikhtisar AI dan Mode AI Google… membahayakan nyawa mereka.”
David Monahan, direktur kampanye Fairplay for Kids, mengatakan jika Google tidak menonaktifkan AI untuk siswa, sekolah harus menghentikan produk tersebut sama sekali.
Anya Meksin, wakil direktur di Schools Beyond Screens, melihat hal ini sebagai peringatan. Koalisinya mendorong batasan teknologi di sekolah. Los Angeles Unified School District baru-baru ini melarang layar untuk kelas K-1.
Fairplay dan Schools Beyond Screens menginginkan moratorium Gen AI di sekolah. Meksin mengatakan alarm sudah dibunyikan mengenai AI Search. Bukan hanya chatbot.
“Kita harus menganggap ini sebagai keadaan darurat.”
Teknologi Besar telah menjajah pendidikan. Fondasi demokrasi sedang dipertaruhkan.
Sekolah-sekolah melanggar kebijakan AI mereka sendiri karena teknologi bergerak lebih cepat. LAUSD melarang siswa di bawah 13 tahun menggunakan AI generatif. Namun Chromebook dengan Mode AI mengabaikan hal itu. Pelanggaran instan.
K-12 menghabiskan miliaran dolar untuk edtech selama dua dekade. Meksin mendengar kabupaten-kabupaten menyatakan bahwa tidak mungkin untuk menonaktifkan semuanya. Menggelikan, katanya. Distrik sekolah bertanggung jawab karena membuat anak-anak terkena bahaya yang diketahui. Mereka menghadapi masalah hukum yang sama yang dihadapi perusahaan media sosial.
Alphabet dan Google terakhir kali menghadapi tuntutan hukum kematian yang salah. Seorang pengguna meninggal karena bunuh diri setelah percakapan dengan Gemini. YouTube dinyatakan bersalah atas kelalaian desain karena merugikan anak di bawah umur.
Torney membandingkan peluncuran AI Search dengan YouTube di ruang kelas. Keduanya mendapat kecaman dari aktivis keselamatan anak.
Alih-alih mengambil risiko, Meksin ingin kabupaten-kabupaten melakukan tindakan balasan. Kontrol yang lebih kuat. Jika Google menolak? Batalkan kontrak.
Pembeli terbesar mempunyai kekuasaan. Mengapa mereka tidak menggunakannya? Para siswa sedang menunggu. Para guru terjebak. Dan hasil pencarian terus bergulir, baik kita siap atau tidak.
