I Millennial ricordano le etichette di avvertimento. Ci è stato detto che Wikipedia era un campo minato. Post del forum? Saltateli. Vai alle fonti primarie. Inizia con Google.
Ora, la Gen Alpha sta effettuando l’accesso. E i sostenitori stanno urlando che lo strumento di cui ci fidavamo è proprio quello che li distrugge.
Un nuovo rapporto dell’organismo di vigilanza sulla sicurezza dei bambini Common Sense Media dichiara la ricerca basata sull’intelligenza artificiale di Google un “rischio inaccettabile”. Il loro verdetto è severo: gli studenti dovrebbero smettere del tutto di usarlo. Fino a quando gli educatori non potranno azionare l’interruttore, l’intelligenza artificiale dovrà sparire.
Potresti pensare che i Chatbot siano il cattivo. Lo sono, ovviamente. Ma una semplice ricerca? Questa è la minaccia nascosta.
La backdoor della modalità AI nell’istruzione
Google ha lanciato la modalità AI per la ricerca l’anno scorso da un giorno all’altro. Nessun beta testing per le scuole. Nessuna implementazione graduale. Se avessi un account Education, lo avresti. Immediatamente.
Ciò ha spaventato gli esperti. Common Sense Media e altri hanno spiegato a Mashable il perché. La modalità AI di Google funziona sui modelli Gemini. Questi sono gli stessi modelli soggetti a limiti di età in altri servizi Google. Ma qui? Nessun cancello.
Robbie Torney, direttore senior dei programmi di intelligenza artificiale per Common Sense Media, definisce Google un “attore fuori misura” nel campo della ricerca e dell’istruzione. È vero. L’azienda ha introdotto i Chromebook in ogni classe. Google Workspace for Education è alla base delle suite di amministrazione. Hanno evangelizzato l’intelligenza artificiale, l’hanno ridimensionata, quindi l’hanno nuovamente ampliata con Gemini for Education. Milioni di studenti, dalla scuola materna ai laureati, sono rinchiusi.
Rendendo fondamentale l’intelligenza artificiale generativa, addirittura invisibile, hanno eroso anni di fiducia.
Cercare su Google non è più semplice.
Disinformazione e illusione dell’autorità
I ricercatori hanno scoperto che le panoramiche AI di Google ripetono informazioni errate. Il gigante della tecnologia non ha risolto il problema. I chatbot hanno sempre avuto questo problema. Sembrano autorevoli. Sembrano sicuri. Gli adulti si confondono. I bambini vengono ingannati.
Common Sense Media ha trovato qualcos’altro di inquietante. Gli strumenti di intelligenza artificiale di Google completano i compiti per gli utenti minorenni. Gli esperti dicono che questo è un cheat code. Il design è fuorviante. Le risposte variano. Il chatbot è gradevole. Gli studenti non sanno che stanno imbrogliando. O peggio, pensano che imparare sia diventato più difficile.
“Stanno infondendo l’intelligenza artificiale in modi inappropriati dal punto di vista dello sviluppo.”
Amanda Bickerstaff, vicedirettore per l’intelligenza artificiale presso l’Istruzione, lo ha detto senza mezzi termini. La modalità AI è una backdoor. Replica il peggior design di chatbot in uno spazio precedentemente affidabile.
“Non c’è motivo per cui un bambino di 10, 13 o anche 15 anni dovrebbe avere la modalità AI.”
Quando insegni l’alfabetizzazione all’intelligenza artificiale, devi essere intenzionale. La modalità AI è l’opposto. Cerchi fatti, non l’opinione di un chatbot.
Incombono anche rischi per la salute mentale. Il rapporto cita problemi di sicurezza per i bambini.
Google non ti consente di disattivare solo le funzionalità AI. La ricerca resta. I guardrail restano montati nella scuola, ma i bambini possono comunque attivare l’intelligenza artificiale generativa mentre fanno i compiti. I genitori possono bloccare completamente la Ricerca. Gli amministratori possono teoricamente bloccare gli account Google Search for Workspace.
Ma cosa dite agli insegnanti? Che i bambini non riescono a cercare le risposte?
“Che cosa dirai? Quel ragazzo non può effettuare ricerche sul Web?”
Google ha respinto. Hanno detto che i test di Common Sense Media erano ristretti. Non è un “modo efficace per misurare la sicurezza”. Hanno notato che il gruppo ha testato solo i conti dei consumatori, non quelli dell’istruzione. Ma Torney sottolinea che l’esperienza è la stessa per tutti.
Incubi legali per i distretti scolastici
Le fonti dicono a Mashable che potrebbe essere il momento di abbandonare Google.
“La panoramica AI e la modalità AI di Google… stanno mettendo a rischio le loro stesse vite.”
David Monahan, direttore della campagna per Fairplay for Kids, afferma che se Google non disabiliterà l’intelligenza artificiale per gli studenti, le scuole dovrebbero abbandonare del tutto i prodotti.
Anya Meksin, vicedirettrice di Schools Beyond Screens, vede questo come un campanello d’allarme. La sua coalizione spinge per limiti tecnologici nelle scuole. Il distretto scolastico unificato di Los Angeles ha recentemente vietato gli schermi per le classi K-1.
Fairplay e Schools Beyond Screens vogliono una moratoria sull’intelligenza artificiale nelle scuole. Meksin afferma che l’allarme è già stato lanciato su AI Search. Non solo chatbot.
“Dobbiamo trattare questa come un’emergenza.”
La Big Tech ha colonizzato l’istruzione. Sono in gioco le fondamenta della democrazia.
Le scuole stanno violando le proprie politiche sull’intelligenza artificiale perché la tecnologia si muove più velocemente. LAUSD vieta agli studenti sotto i 13 anni di utilizzare l’intelligenza artificiale generativa. Ma i Chromebook con modalità AI lo ignorano. Violazione istantanea.
K-12 ha speso miliardi in edtech per due decenni. Meksin ha sentito i distretti affermare che è impossibile disabilitare tutto. Ridicolo, dice. I distretti scolastici sono responsabili di esporre i bambini a danni noti. Stanno affrontando gli stessi problemi legali affrontati dalle società di social media.
Alphabet e Google hanno dovuto affrontare per ultime una causa per omicidio colposo. Un utente è morto suicida dopo aver parlato con Gemini. YouTube è stato giudicato colpevole di progettazione negligente per aver danneggiato minori.
Torney confronta l’implementazione di AI Search con YouTube nelle aule. Entrambi sono stati criticati dai sostenitori della sicurezza dei bambini.
Invece di rischiare la responsabilità, Meksin vuole che i distretti reagiscano. Controlli più forti. Se Google rifiuta? Annullare i contratti.
I maggiori acquirenti hanno il potere. Perché non lo usano? Gli studenti stanno aspettando. Gli insegnanti sono bloccati. E i risultati della ricerca continuano a essere pubblicati, che siamo pronti o meno.
