Google posiluje svou pozici v oblasti umělé inteligence v obsahu pro zábavu pro děti, a to navzdory pokračující kritice ohledně hostování škodlivého obsahu generovaného umělou inteligencí na jeho platformách. Tento technologický gigant oznámil investici ve výši 1 milionu dolarů do Animaj, dětské mediální společnosti s umělou inteligencí, v rámci svého akcelerátoru AI Future Funds. Tento krok dává Animaj exkluzivní přístup k nástrojům AI od Googlu, včetně Veo a Imagine, což vyvolává obavy ohledně kvality a dopadu obsahu AI na vývoj dětí na YouTube.
Problém AI Garbage
YouTube se dlouhodobě potýká s rozšiřováním nekvalitních videí generovaných umělou inteligencí zaměřených na mladé publikum. Tato videa, která se často označují jako „odpad AI“, jsou navržena tak, aby maximalizovala zapojení prostřednictvím hypnotických vizuálů a opakujícího se obsahu, což potenciálně vytlačuje důležité činnosti potřebné pro vývoj. Ačkoli se Google pokusil demonetizovat takové účty, výzkumy ukazují, že algoritmy YouTube dětem stále doporučují „odpad AI“. Platforma v současné době nevyžaduje označení AI pro animovaná videa, takže je pro rodiče obtížné určit zdroj obsahu.
Zastánci bezpečnosti dětí reagují
Rachel Franz, ředitelka programu Fairplay for Kids Young Children’s Thrive Offline, investici odsoudila. „Není žádným překvapením, že se Google snaží odvrátit pozornost od skutečného problému: na YouTube a YouTube Kids se množí nevyžádaná umělá inteligence a ohrožuje vyvíjející se děti,“ řekla. Franz tvrdí, že prioritou by mělo být řešení aktuálního problému – miliony videí generovaných umělou inteligencí navržených tak, aby maximalizovaly čas strávený na obrazovce – než investovat do ještě více obsahu založeného na umělé inteligenci.
Strategie Animaj
Animaj se zaměřuje na škálování stávajících dětských intelektuálních vlastností (IP), jako jsou Pocoyo a Rabbids, pomocí vlastních nástrojů AI. Cílem společnosti je distribuovat obsah „kdekoli jsou děti, kdykoli to chtějí“, a to i prostřednictvím přidružených kanálů YouTube, jako je Hey Kids, který má v roce 2025 více než 4 miliony odběratelů a více než 22 miliard zhlédnutí. I když se přístup Animaj může lišit od chaotičtějšího „nevyžádaného obsahu AI“, který se vyskytuje jinde na YouTube, zastánci varují, že i raný vývoj vysoce kvalitního obsahu může mít negativní dopad na děti.
Širší obavy
Odborníci zdůrazňují, že problém přesahuje kvalitu obsahu AI. Americká akademie pediatrů nedoporučuje videa generovaná umělou inteligencí pro malé děti, místo toho navrhuje delší a interaktivnější obsah. Design YouTube s funkcemi, jako je nekonečné posouvání a automatické přehrávání, je také považován za nevhodný pro věk. Franz varuje, že normalizace umělé inteligence v dětských médiích by mohla zhoršit stávající problémy, zejména u dětí, jejichž mozek se stále vyvíjí.
Google svou investici obhajoval jako „budoucí projekt“, ale kritici tvrdí, že platforma musí nejprve vyřešit své hlavní problémy, než zavede více obsahu řízeného umělou inteligencí. Dokud YouTube neopraví své zásady pro návrh a moderování, žádné množství obsahu spravovaného umělou inteligencí nebude pro děti skutečně přínosné.
