Millennials onthouden de waarschuwingslabels. Er werd ons verteld dat Wikipedia een mijnenveld was. Forumberichten? Sla ze over. Ga naar primaire bronnen. Begin met Google.
Nu logt Gen Alpha in. En voorstanders schreeuwen dat de tool die we vertrouwden precies datgene is wat hen kapot maakt.
Een nieuw rapport van de kinderveiligheidswaakhond Common Sense Media noemt de AI-aangedreven zoekopdrachten van Google een ‘onaanvaardbaar risico’. Hun oordeel is hard: studenten moeten er helemaal mee stoppen. Totdat docenten de schakelaar kunnen omzetten, moet de AI verdwijnen.
Je zou kunnen denken dat chatbots de slechterik zijn. Dat zijn ze duidelijk. Maar een simpele zoekopdracht? Dat is de verborgen dreiging.
De achterdeur van de AI-modus in het onderwijs
Google lanceerde vorig jaar van de ene op de andere dag de AI-modus voor zoeken. Geen bètatests voor scholen. Geen geleidelijke uitrol. Als je een onderwijsrekening had, kreeg je die. Onmiddellijk.
Dit bracht deskundigen in paniek. Common Sense Media en anderen vertelden Mashable waarom. De AI-modus van Google draait op Gemini-modellen. Dit zijn dezelfde modellen met een leeftijdsbeperking voor andere Google-services. Maar hier? Geen poorten.
Robbie Torney, senior directeur van AI-programma’s voor Common Sense Media, noemt Google een “buitenmaatse speler” op het gebied van zoeken en onderwijs. Het is waar. Het bedrijf introduceerde Chromebooks in elk klaslokaal. Google Workspace for Education beheert de beheersuites. Ze hebben AI geëvangeliseerd, teruggeschaald en vervolgens weer opgeschaald met Gemini for Education. Miljoenen studenten, van de kleuterschool tot postdoctorale studenten, zitten opgesloten.
Door generatieve AI fundamenteel – en zelfs onzichtbaar – te maken, hebben ze jarenlang vertrouwen ondermijnd.
Googlen is niet eenvoudig meer.
Verkeerde informatie en de illusie van autoriteit
Onderzoekers ontdekten dat de AI-overzichten van Google verkeerde informatie herhalen. De technologiegigant heeft het niet opgelost. Chatbots hebben dit probleem altijd gehad. Ze klinken gezaghebbend. Ze klinken zeker. Volwassenen raken in de war. Kinderen worden misleid.
Common Sense Media vond nog iets verontrustends. De AI-tools van Google maken het huiswerk voor kleine gebruikers af. Experts zeggen dat dit een cheatcode is. Het ontwerp is misleidend. De reacties variëren. De chatbot is prettig. Studenten weten niet dat ze spieken. Of erger nog, ze denken dat leren alleen maar moeilijker is geworden.
“Ze injecteren AI op ontwikkelingsongepaste manieren.”
Amanda Bickerstaff, adjunct-directeur voor AI bij Onderwijs, verwoordde het botweg. AI-modus is een achterdeur. Het repliceert het slechtste chatbotontwerp in een voorheen betrouwbare ruimte.
“Er is geen reden waarom een 10-, 13- of zelfs 15-jarige de AI-modus zou moeten hebben.”
Als je AI-geletterdheid onderwijst, moet je opzettelijk zijn. AI-modus is het tegenovergestelde. Je zoekt naar feiten, niet naar de mening van een chatbot.
Ook geestelijke gezondheidsrisico’s liggen op de loer. Het rapport noemt veiligheidsproblemen voor kinderen.
Google staat niet toe dat je alleen AI-functies uitschakelt. Zoek blijft. Vangrails blijven op school staan, maar kinderen kunnen nog steeds generatieve AI activeren terwijl ze schoolwerk doen. Ouders kunnen Zoeken volledig blokkeren. Beheerders kunnen in theorie Google Search for Workspace-accounts blokkeren.
Maar wat zeg je tegen leraren? Dat kinderen geen antwoorden kunnen opzoeken?
“Wat ga je zeggen? Dat kind kan niet op internet zoeken?”
Google heeft teruggedrongen. Ze zeiden dat de tests van Common Sense Media beperkt waren. Geen ‘effectieve manier om de veiligheid te meten’. Ze merkten op dat de groep alleen consumentenaccounts testte, en geen onderwijsaccounts. Maar Torney wijst erop dat de ervaring voor iedereen hetzelfde is.
Juridische nachtmerries voor schooldistricten
Bronnen vertellen Mashable dat het misschien tijd is om Google te dumpen.
“Het AI-overzicht en de AI-modus van Google… brengen hun leven in gevaar.”
David Monahan, campagnedirecteur van Fairplay for Kids, zegt dat als Google AI voor leerlingen niet uitschakelt, scholen de producten helemaal moeten laten vallen.
Anya Meksin, adjunct-directeur van Schools Beyond Screens, ziet dit als een wake-up call. Haar coalitie dringt aan op technologische grenzen op scholen. Los Angeles Unified School District heeft onlangs schermen voor basis- en middelbaar onderwijs verboden.
Fairplay en Schools Beyond Screens willen een moratorium op Gen AI op scholen. Meksin zegt dat er al alarm is geslagen over AI Search. Niet alleen chatbots.
“We moeten dit als een noodgeval behandelen.”
Big Tech heeft het onderwijs gekoloniseerd. Het fundament van de democratie staat op het spel.
Scholen schenden hun eigen AI-beleid omdat technologie sneller gaat. LAUSD verbiedt studenten onder de 13 jaar om generatieve AI te gebruiken. Maar Chromebooks met AI-modus omzeilen dat. Onmiddellijke overtreding.
Het basis- en voortgezet onderwijs heeft de afgelopen twintig jaar miljarden uitgegeven aan edtech. Meksin hoorde districten beweren dat het onmogelijk is om alles uit te schakelen. Lachwekkend, zegt ze. Schooldistricten zijn aansprakelijk voor het blootstellen van kinderen aan bekende schade. Ze lopen tegen dezelfde juridische problemen aan waarmee sociale-mediabedrijven te maken kregen.
Alphabet en Google werden vorig jaar geconfronteerd met een rechtszaak wegens onrechtmatige dood. Een gebruiker stierf door zelfmoord na gesprekken met Gemini. YouTube werd schuldig bevonden aan nalatig ontwerp om minderjarigen te schaden.
Torney vergelijkt de uitrol van AI Search met YouTube in klaslokalen. Beiden kwamen onder vuur te liggen van voorstanders van kinderveiligheid.
In plaats van aansprakelijkheid te riskeren, wil Meksin dat districten zich terugtrekken. Sterkere controles. Als Google weigert? Maak de contracten ongeldig.
De grootste afnemers hebben macht. Waarom gebruiken ze het niet? De studenten wachten. De leraren zitten vast. En de zoekresultaten blijven uitrollen, of we er nu klaar voor zijn of niet.
