Les millennials se souviennent des étiquettes d’avertissement. On nous a dit que Wikipédia était un champ de mines. Des messages sur le forum ? Ignorez-les. Accédez aux sources primaires. Commencez par Google.
Aujourd’hui, la génération Alpha se connecte. Et les défenseurs crient que l’outil auquel nous avons fait confiance est précisément ce qui les brise.
Un nouveau rapport de Common Sense Media, organisme de surveillance de la sécurité des enfants, déclare que la recherche basée sur l’IA de Google constitue un « risque inacceptable ». Leur verdict est sans appel : les étudiants devraient cesser complètement de l’utiliser. Jusqu’à ce que les éducateurs puissent actionner le bouton, l’IA doit disparaître.
Vous pourriez penser que les chatbots sont les méchants. Ils le sont, évidemment. Mais une simple recherche ? C’est la menace cachée.
La porte dérobée du mode IA dans l’éducation
Google a lancé le mode AI pour la recherche l’année dernière du jour au lendemain. Pas de test bêta pour les écoles. Pas de déploiement progressif. Si vous aviez un compte éducation, vous l’avez. Immédiatement.
Cela a paniqué les experts. Common Sense Media et d’autres ont expliqué pourquoi à Mashable. Le mode AI de Google fonctionne sur les modèles Gemini. Il s’agit des mêmes modèles, selon l’âge, dans les autres services Google. Mais ici ? Pas de portes.
Robbie Torney, directeur principal des programmes d’IA chez Common Sense Media, qualifie Google d’« acteur surdimensionné » dans le domaine de la recherche et de l’éducation. C’est vrai. L’entreprise a introduit les Chromebooks dans toutes les salles de classe. Google Workspace for Education alimente les suites d’administration. Ils ont évangélisé l’IA, l’ont réduite, puis l’ont augmentée à nouveau avec Gemini for Education. Des millions d’élèves, de la maternelle aux études supérieures, sont enfermés.
En rendant l’IA générative fondamentale, voire invisible, ils ont érodé des années de confiance.
La recherche sur Google n’est plus simple.
Désinformation et illusion d’autorité
Les chercheurs ont découvert que les aperçus de l’IA de Google répétaient des informations erronées. Le géant de la technologie n’a pas résolu le problème. Les chatbots ont toujours eu ce problème. Ils semblent faisant autorité. Ils ont l’air sûrs. Les adultes sont confus. Les enfants sont induits en erreur.
Common Sense Media a trouvé autre chose de dérangeant. Les outils d’IA de Google terminent les devoirs des utilisateurs mineurs. Les experts disent qu’il s’agit d’un code de triche. La conception est trompeuse. Les réponses varient. Le chatbot est agréable. Les étudiants ne savent pas qu’ils trichent. Ou pire, ils pensent qu’apprendre est devenu plus difficile.
“Ils infusent l’IA d’une manière inappropriée sur le plan du développement.”
Amanda Bickerstaff, directrice adjointe de l’IA à l’Éducation, l’a dit sans détour. Le mode AI est une porte dérobée. Il reproduit la pire conception de chatbot dans un espace auparavant fiable.
“Il n’y a aucune raison pour qu’un jeune de 10, 13 ou même 15 ans dispose du mode IA.”
Lorsque vous enseignez l’IA, vous devez être intentionnel. Le mode AI est le contraire. Vous recherchez des faits, pas l’opinion d’un chatbot.
Des risques pour la santé mentale menacent également. Le rapport cite des problèmes de sécurité pour les enfants.
Google ne vous permet pas de désactiver uniquement les fonctionnalités d’IA. La recherche reste. Les garde-corps restent en place dans l’école, mais les enfants peuvent toujours déclencher l’IA générative tout en faisant leurs devoirs. Les parents peuvent bloquer complètement la recherche. Les administrateurs peuvent théoriquement bloquer les comptes Google Search for Workspace.
Mais que dites-vous aux enseignants ? Que les enfants ne peuvent pas chercher de réponses ?
“Qu’est-ce que tu vas dire ? Ce gamin ne sait pas chercher sur le web ?”
Google a repoussé. Ils ont déclaré que les tests de Common Sense Media étaient limités. Il ne s’agit pas d’un « moyen efficace de mesurer la sécurité ». Ils ont noté que le groupe n’avait testé que les comptes de consommateurs, pas ceux destinés à l’éducation. Mais Torney souligne que l’expérience est la même pour tout le monde.
Cauchemars juridiques pour les districts scolaires
Des sources disent à Mashable qu’il est peut-être temps de laisser tomber Google.
“La présentation de l’IA et le mode IA de Google… mettent leur vie en danger.”
David Monahan, directeur de campagne pour Fairplay for Kids, affirme que si Google ne désactive pas l’IA pour les étudiants, les écoles devraient abandonner complètement ces produits.
Anya Meksin, directrice adjointe de Schools Beyond Screens, y voit un signal d’alarme. Sa coalition milite pour des limites technologiques dans les écoles. Le district scolaire unifié de Los Angeles a récemment interdit les écrans pour les classes K-1.
Fairplay et Schools Beyond Screens souhaitent un moratoire sur la génération AI dans les écoles. Meksin affirme que l’alarme a déjà été tirée à propos d’AI Search. Pas seulement les chatbots.
“Nous devons traiter cela comme une urgence.”
La Big Tech a colonisé l’éducation. Les fondements de la démocratie sont en jeu.
Les écoles violent leurs propres politiques en matière d’IA parce que la technologie évolue plus rapidement. LAUSD interdit aux étudiants de moins de 13 ans d’utiliser l’IA générative. Mais les Chromebooks dotés du mode AI contournent cela. Violation instantanée.
La maternelle à la 12e année a dépensé des milliards en edtech sur deux décennies. Meksin a entendu les districts affirmer qu’il était impossible de tout désactiver. Risible, dit-elle. Les districts scolaires sont responsables d’exposer les enfants à des préjudices connus. Ils se retrouvent face aux mêmes problèmes juridiques auxquels les sociétés de médias sociaux ont été confrontées.
Alphabet et Google ont fait face en dernier lieu à un procès pour mort injustifiée. Un utilisateur s’est suicidé après des conversations avec Gemini. YouTube a été reconnu coupable de conception négligente pour avoir porté atteinte à des mineurs.
Torney compare le déploiement de AI Search sur YouTube dans les salles de classe. Tous deux ont été critiqués par les défenseurs de la sécurité des enfants.
Au lieu de risquer sa responsabilité, Meksin souhaite que les districts réagissent. Des contrôles plus stricts. Si Google refuse ? Annulez les contrats.
Les plus gros acheteurs ont le pouvoir. Pourquoi ne l’utilisent-ils pas ? Les étudiants attendent. Les professeurs sont coincés. Et les résultats de recherche continuent de s’afficher, que nous soyons prêts ou non.
