Google verdubbelt de inzet van kunstmatige intelligentie in kinderentertainment, ondanks aanhoudende kritiek op zijn platforms die schadelijke, door AI gegenereerde inhoud hosten. De technologiegigant kondigde via zijn AI Future Funds-accelerator een investering van $ 1 miljoen aan in Animaj, een door AI aangedreven mediabedrijf voor kinderen. Deze stap geeft Animaj exclusieve toegang tot de AI-tools van Google, waaronder Veo en Imagine, wat aanleiding geeft tot bezorgdheid over de kwaliteit en ontwikkelingsimpact van AI-gestuurde kinderinhoud op YouTube.
Het AI-slop-probleem
YouTube kampt al lang met de verspreiding van door AI gegenereerde video’s van lage kwaliteit, gericht op jonge kijkers. Deze video’s, vaak omschreven als ‘AI-slop’, zijn ontworpen om de betrokkenheid te maximaliseren door middel van betoverende beelden en repetitieve inhoud, waardoor mogelijk kritische ontwikkelingsactiviteiten worden vervangen. Hoewel Google heeft geprobeerd dergelijke accounts te demonetiseren, tonen onderzoeken aan dat AI-slop nog steeds aan kinderen wordt aanbevolen door de algoritmen van YouTube. Het platform vereist momenteel geen AI-labeling op geanimeerde video’s, waardoor het voor ouders moeilijk wordt om de oorsprong van de inhoud te onderscheiden.
Voorstanders van kinderveiligheid reageren
Rachel Franz, directeur van het Fairplay for Kids’ Young Children Thrive Offline-programma, had scherpe kritiek op de investering. “Het is niet anders dan Google dat probeert de aandacht af te leiden van het echte probleem: AI-slop is wijdverbreid op YouTube en YouTube Kids, waardoor kinderen in ontwikkeling het risico lopen schade te lijden”, aldus ze. Franz stelt dat het aanpakken van het bestaande probleem – miljoenen door AI gegenereerde video’s die zijn ontworpen om de schermtijd te maximaliseren – de prioriteit zou moeten zijn, in plaats van te investeren in meer AI-gestuurde inhoud.
De strategie van Animaj
Animaj richt zich op het opschalen van bestaande intellectuele eigendommen (IP) van kinderen, zoals Pocoyo en Rabbids, met behulp van haar eigen AI-tools. Het bedrijf streeft ernaar om inhoud te verspreiden “waar kinderen ook zijn, wanneer ze maar willen”, onder meer via aangesloten YouTube-kanalen zoals Hey Kids, dat in 2025 meer dan 4 miljoen abonnees heeft en ruim 22 miljard views genereerde. Hoewel de aanpak van Animaj kan verschillen van de meer chaotische AI-slop die elders op YouTube te vinden is, waarschuwen voorstanders dat zelfs AI-inhoud van hoge kwaliteit nog steeds schadelijke gevolgen kan hebben voor de ontwikkeling van jonge kinderen.
De bredere zorgen
Deskundigen benadrukken dat het probleem verder reikt dan de kwaliteit van AI-inhoud. De American Academy of Pediatrics raadt AI-gegenereerde video’s voor jonge kinderen af, maar beveelt in plaats daarvan langere, interactieve inhoud aan. Het ontwerp van YouTube, met functies als eindeloos scrollen en automatisch afspelen, wordt ook gezien als ontwikkelingsongepast. Franz waarschuwt dat het normaliseren van AI in de kindermedia de bestaande problemen kan verergeren, vooral voor baby’s van wie de hersenen nog in ontwikkeling zijn.
Google verdedigt zijn investering als een ‘blauwdruk voor de toekomst’, maar critici beweren dat het platform eerst de onderliggende problemen moet aanpakken voordat het meer AI-gestuurde inhoud introduceert. Totdat YouTube zijn ontwerp- en handhavingsbeleid heeft aangepast, zal geen enkele hoeveelheid samengestelde AI-inhoud kinderen echt ten goede komen.
