Google menggandakan kecerdasan buatan dalam hiburan anak-anak, meskipun ada kritik yang terus berlanjut terhadap platformnya yang menampung konten berbahaya yang dihasilkan oleh AI. Raksasa teknologi ini mengumumkan investasi sebesar $1 juta di Animaj, sebuah perusahaan media anak-anak yang didukung AI, melalui akselerator AI Future Funds miliknya. Langkah ini memberi Animaj akses eksklusif ke alat AI Google, termasuk Veo dan Imagine, sehingga meningkatkan kekhawatiran tentang kualitas dan dampak perkembangan konten anak-anak berbasis AI di YouTube.
Masalah AI Slop
YouTube telah lama berjuang melawan penyebaran video berkualitas rendah yang dihasilkan oleh AI yang menargetkan pemirsa muda. Video-video ini, yang sering digambarkan sebagai “AI slop”, dirancang untuk memaksimalkan interaksi melalui visual yang memukau dan konten yang berulang, yang berpotensi menggantikan aktivitas pembangunan yang penting. Meskipun Google telah berupaya untuk mendemonetisasi akun-akun tersebut, penelitian menunjukkan bahwa algoritma YouTube terus merekomendasikan penggunaan AI kepada anak-anak. Platform tersebut saat ini tidak memerlukan pelabelan AI pada video animasi, sehingga menyulitkan orang tua untuk membedakan asal konten.
Pendukung Keselamatan Anak Menanggapi
Rachel Franz, direktur program Fairplay for Kids’ Young Children Thrive Offline, mengkritik tajam investasi tersebut. “Ini tidak seperti Google yang mencoba mengalihkan perhatian dari masalah sebenarnya: kecerobohan AI merajalela di YouTube dan YouTube Kids, yang menempatkan anak-anak dalam masa pertumbuhan dalam risiko bahaya,” katanya. Franz berpendapat bahwa mengatasi masalah yang ada—jutaan video buatan AI yang dirancang untuk memaksimalkan waktu pemakaian perangkat—harus menjadi prioritas, dibandingkan berinvestasi pada lebih banyak konten berbasis AI.
Strategi Animaj
Animaj berfokus pada peningkatan kekayaan intelektual (IP) anak-anak yang ada seperti Pocoyo dan Rabbids menggunakan alat AI miliknya. Perusahaan ini bertujuan untuk mendistribusikan konten “di mana pun anak-anak berada, kapan pun mereka menginginkannya,” termasuk melalui saluran YouTube yang berafiliasi seperti Hey Kids, yang memiliki lebih dari 4 juta pelanggan dan menghasilkan lebih dari 22 miliar penayangan pada tahun 2025. Meskipun pendekatan Animaj mungkin berbeda dari pendekatan AI yang lebih kacau yang ditemukan di tempat lain di YouTube, para pendukungnya memperingatkan bahwa konten AI berkualitas tinggi pun masih dapat menimbulkan dampak buruk pada perkembangan anak usia dini.
Kekhawatiran yang Lebih Luas
Para ahli menekankan bahwa masalahnya bukan hanya pada kualitas konten AI. American Academy of Pediatrics tidak menyarankan video yang dibuat oleh AI untuk anak kecil, dan sebagai gantinya merekomendasikan konten yang lebih panjang dan interaktif. Desain YouTube, dengan fitur-fitur seperti pengguliran tanpa akhir dan putar otomatis, juga dianggap tidak sesuai dengan perkembangan. Franz memperingatkan bahwa normalisasi AI di media anak-anak dapat memperburuk masalah yang ada, terutama bagi bayi yang otaknya masih berkembang.
Google membela investasinya sebagai “cetak biru untuk masa depan,” namun para kritikus berpendapat bahwa platform tersebut harus mengatasi masalah mendasarnya terlebih dahulu sebelum memperkenalkan lebih banyak konten berbasis AI. Sebelum YouTube memperbaiki desain dan kebijakan penegakan hukumnya, konten AI yang dikurasi tidak akan benar-benar memberikan manfaat bagi anak-anak.
