A geração do milênio se lembra dos rótulos de advertência. Disseram-nos que a Wikipédia era um campo minado. Postagens no fórum? Ignore-os. Vá para fontes primárias. Comece com o Google.
Agora, a Geração Alfa está se conectando. E os defensores estão gritando que a ferramenta em que confiamos é exatamente a que os quebra.
Um novo relatório da agência de segurança infantil Common Sense Media declara a Pesquisa com tecnologia de IA do Google um “risco inaceitável”. O veredicto deles é severo: os estudantes deveriam parar totalmente de usá-lo. Até que os educadores possam ligar o interruptor, a IA precisa ser desativada.
Você pode pensar que os Chatbots são os vilões. Eles são, obviamente. Mas uma simples pesquisa? Essa é a ameaça oculta.
O backdoor do modo AI na educação
O Google lançou o AI Mode for Search no ano passado durante a noite. Nenhum teste beta para escolas. Sem implementação gradual. Se você tivesse uma conta educacional, você conseguiu. Imediatamente.
Isso deixou os especialistas em pânico. A Common Sense Media e outros disseram ao Mashable o porquê. O modo AI do Google funciona em modelos Gemini. Esses são os mesmos modelos com restrição de idade em outros serviços do Google. Mas aqui? Sem portões.
Robbie Torney, diretor sênior de programas de IA da Common Sense Media, chama o Google de “jogador descomunal” em busca e educação. É verdade. A empresa colocou os Chromebooks em todas as salas de aula. O Google Workspace for Education capacita os pacotes de administração. Eles evangelizaram a IA, reduziram-na e depois ampliaram-na novamente com o Gemini for Education. Milhões de estudantes, do jardim de infância à pós-graduação, estão presos.
Ao tornar a IA generativa fundamental – até mesmo invisível – eles corroeram anos de confiança.
Pesquisar no Google não é mais simples.
Desinformação e a ilusão de autoridade
Os pesquisadores descobriram que as visões gerais de IA do Google repetem informações incorretas. A gigante da tecnologia não consertou isso. Os chatbots sempre tiveram esse problema. Eles parecem autoritários. Eles parecem seguros. Os adultos ficam confusos. As crianças são enganadas.
A Common Sense Media achou outra coisa perturbadora. As ferramentas de IA do Google terminam o dever de casa para usuários menores. Os especialistas dizem que este é um código de trapaça. O design é enganoso. As respostas variam. O chatbot é agradável. Os alunos não sabem que estão colando. Ou pior, eles acham que aprender ficou mais difícil.
“Eles estão infundindo IA de maneiras inadequadas em termos de desenvolvimento.”
Amanda Bickerstaff, vice-diretora de IA da Educação, foi franca. O modo AI é um backdoor. Ele replica o pior design do chatbot em um espaço anteriormente confiável.
“Não há razão para que uma criança de 10, 13 ou mesmo 15 anos deva ter o Modo IA.”
Ao ensinar alfabetização em IA, você precisa ser intencional. O modo AI é o oposto. Você procura fatos, não a opinião de um chatbot.
Os riscos para a saúde mental também se aproximam. O relatório cita preocupações de segurança para crianças.
O Google não permite que você desative apenas os recursos de IA. A pesquisa fica. As grades de proteção permanecem na escola, mas as crianças ainda podem acionar a IA generativa enquanto fazem os trabalhos escolares. Os pais podem bloquear totalmente a Pesquisa. Os administradores podem, teoricamente, bloquear contas do Google Search for Workspace.
Mas o que você diz aos professores? Que as crianças não conseguem procurar respostas?
“O que você vai dizer? Aquela criança não consegue pesquisar na web?”
O Google recuou. Eles disseram que os testes da Common Sense Media foram restritos. Não é uma “maneira eficaz de medir a segurança”. Eles observaram que o grupo testou apenas contas de consumidores, não de educação. Mas Torney ressalta que a experiência é igual para todos.
Pesadelos legais para distritos escolares
Fontes dizem ao Mashable que talvez seja hora de abandonar o Google.
“A Visão Geral da IA e o Modo IA do Google… estão colocando suas próprias vidas em risco.”
David Monahan, diretor de campanha do Fairplay for Kids, diz que se o Google não desativar a IA para os alunos, as escolas deveriam abandonar completamente os produtos.
Anya Meksin, vice-diretora da Schools Beyond Screens, vê isso como um alerta. Sua coalizão pressiona por limites tecnológicos nas escolas. O Distrito Escolar Unificado de Los Angeles proibiu recentemente telas para turmas de ensino fundamental e médio.
Fairplay e Schools Beyond Screens querem uma moratória sobre Gen AI nas escolas. Meksin diz que o alarme já foi disparado sobre o AI Search. Não apenas chatbots.
“Temos que tratar isso como uma emergência.”
A Big Tech colonizou a educação. Os alicerces da democracia estão em jogo.
As escolas estão a violar as suas próprias políticas de IA porque a tecnologia avança mais rapidamente. LAUSD proíbe estudantes menores de 13 anos de usar IA generativa. Mas os Chromebooks com modo AI ignoram isso. Violação instantânea.
O ensino fundamental e médio gastou bilhões em edtech ao longo de duas décadas. Meksin ouviu distritos afirmarem que é impossível desativar tudo. Risível, ela diz. Os distritos escolares são responsáveis por expor as crianças a danos conhecidos. Eles estão enfrentando os mesmos problemas jurídicos que as empresas de mídia social enfrentaram.
A Alphabet e o Google enfrentaram um processo por homicídio culposo por último. Um usuário morreu por suicídio após conversas com Gemini. O YouTube foi considerado culpado de design negligente para prejudicar menores.
Torney compara a implementação do AI Search ao YouTube nas salas de aula. Ambos foram criticados por defensores da segurança infantil.
Em vez de arriscar a responsabilidade, Meksin quer que os distritos recuem. Controles mais fortes. Se o Google recusar? Anular os contratos.
Os maiores compradores têm poder. Por que eles não estão usando isso? Os alunos estão esperando. Os professores estão presos. E os resultados da pesquisa continuam aparecendo, estejamos prontos ou não.
