Los millennials recuerdan las etiquetas de advertencia. Nos dijeron que Wikipedia era un campo minado. ¿Publicaciones del foro? Sáltelos. Ir a fuentes primarias. Comience con Google.
Ahora, la Generación Alfa está iniciando sesión. Y los defensores gritan que la herramienta en la que confiamos es precisamente lo que los está rompiendo.
Un nuevo informe del organismo de vigilancia de la seguridad infantil Common Sense Media declara que la Búsqueda impulsada por IA de Google es un “riesgo inaceptable”. Su veredicto es claro: los estudiantes deberían dejar de usarlo por completo. Hasta que los educadores puedan accionar el interruptor, la IA debe funcionar.
Se podría pensar que los Chatbots son el villano. Lo son, obviamente. ¿Pero una simple búsqueda? Ésa es la amenaza oculta.
La puerta trasera del modo IA en la educación
Google lanzó el modo AI para búsqueda el año pasado de la noche a la mañana. No hay pruebas beta para las escuelas. Sin implementación gradual. Si tenías una cuenta educativa, la tienes. Inmediatamente.
Esto asustó a los expertos. Common Sense Media y otros le dijeron a Mashable por qué. El modo AI de Google se ejecuta en los modelos Gemini. Estos son los mismos modelos con restricción de edad en otros servicios de Google. ¿Pero aquí? Sin puertas.
Robbie Torney, director senior de programas de inteligencia artificial de Common Sense Media, llama a Google un “jugador de gran tamaño” en búsqueda y educación. Es cierto. La empresa introdujo Chromebooks en todas las aulas. Google Workspace for Education potencia las suites de administración. Evangelizaron la IA, la redujeron y luego la ampliaron nuevamente con Gemini for Education. Millones de estudiantes, desde jardín de infantes hasta posgrado, están encerrados.
Al hacer que la IA generativa sea fundamental, incluso invisible, han erosionado años de confianza.
Buscar en Google ya no es sencillo.
Desinformación y la ilusión de autoridad
Los investigadores descubrieron que las descripciones generales de IA de Google repiten información errónea. El gigante tecnológico no lo ha solucionado. Los chatbots siempre han tenido este problema. Suenan autoritarios. Parecen seguros. Los adultos se confunden. Los niños se dejan engañar.
Common Sense Media encontró algo más inquietante. Las herramientas de inteligencia artificial de Google terminan la tarea de los usuarios menores. Los expertos dicen que se trata de un código de trampa. El diseño es engañoso. Las respuestas varían. El chatbot es agradable. Los estudiantes no saben que están haciendo trampa. O peor aún, piensan que aprender se ha vuelto más difícil.
“Están introduciendo IA de maneras inapropiadas para el desarrollo”.
Amanda Bickerstaff, subdirectora de IA en Educación, lo expresó sin rodeos. El modo AI es una puerta trasera. Replica el peor diseño de chatbot en un espacio que antes era confiable.
“No hay ninguna razón por la que un niño de 10, 13 o incluso 15 años deba tener el modo IA”.
Cuando se enseña alfabetización en IA, hay que ser intencional. El modo AI es todo lo contrario. Buscas hechos, no la opinión de un chatbot.
Los riesgos para la salud mental también acechan. El informe cita preocupaciones de seguridad para los niños.
Google no te permite desactivar sólo las funciones de IA. La búsqueda se queda. Las barreras de seguridad permanecen en la escuela, pero los niños aún pueden activar la IA generativa mientras hacen las tareas escolares. Los padres pueden bloquear la búsqueda por completo. En teoría, los administradores pueden bloquear la Búsqueda de Google para las cuentas de Workspace.
¿Pero qué les dices a los profesores? ¿Que los niños no pueden buscar respuestas?
“¿Qué vas a decir? ¿Ese niño no puede buscar en la web?”
Google retrocedió. Dijeron que las pruebas de Common Sense Media fueron limitadas. No es una “forma eficaz de medir la seguridad”. Señalaron que el grupo solo probó cuentas de consumidores, no cuentas educativas. Pero Torney señala que la experiencia es la misma para todos.
Pesadillas legales para los distritos escolares
Las fuentes le dicen a Mashable que podría ser el momento de deshacerse de Google.
“La descripción general de la IA y el modo IA de Google… están poniendo sus vidas en riesgo”.
David Monahan, director de campaña de Fairplay for Kids, dice que si Google no desactiva la IA para los estudiantes, las escuelas deberían abandonar los productos por completo.
Anya Meksin, subdirectora de Schools Beyond Screens, ve esto como una llamada de atención. Su coalición presiona para que se pongan límites a la tecnología en las escuelas. El Distrito Escolar Unificado de Los Ángeles prohibió recientemente las pantallas en las clases K-1.
Fairplay y Schools Beyond Screens quieren una moratoria sobre la generación de IA en las escuelas. Meksin dice que ya se dio la alarma sobre la búsqueda por IA. No sólo chatbots.
“Tenemos que tratar esto como una emergencia”.
Las grandes tecnologías han colonizado la educación. Los cimientos de la democracia están en juego.
Las escuelas están violando sus propias políticas de IA porque la tecnología avanza más rápido. LAUSD prohíbe a los estudiantes menores de 13 años utilizar IA generativa. Pero los Chromebook con modo AI evitan eso. Violación instantánea.
K-12 gastó miles de millones en tecnología educativa durante dos décadas. Meksin escuchó a los distritos afirmar que es imposible desactivarlo todo. Es ridículo, dice. Los distritos escolares son responsables de exponer a los niños a daños conocidos. Se están metiendo en los mismos problemas legales que enfrentaron las empresas de redes sociales.
Alphabet y Google se enfrentaron por última vez a una demanda por muerte por negligencia. Un usuario se suicidó tras conversaciones con Géminis. YouTube fue declarado culpable de diseño negligente por dañar a menores.
Torney compara la implementación de AI Search con YouTube en las aulas. Ambos fueron criticados por los defensores de la seguridad infantil.
En lugar de correr el riesgo de asumir responsabilidades, Meksin quiere que los distritos retrocedan. Controles más estrictos. ¿Si Google se niega? Anular los contratos.
Los mayores compradores tienen poder. ¿Por qué no lo usan? Los estudiantes están esperando. Los profesores están estancados. Y los resultados de la búsqueda siguen apareciendo, estemos listos o no.
