Mileniálové si pamatují varovné štítky. Bylo nám řečeno, že Wikipedie je minové pole. fóra? Nestojí za to. Hledejte primární zdroje. Začněte s Googlem.
Nyní přichází generace Alfa online. A ochránci jejich práv křičí, že nástroj, kterému jsme věřili, se stává příčinou jejich zničení.
Nová zpráva organizace Common Sense Media pro bezpečnost dětí prohlašuje vyhledávač umělé inteligence Google za „nepřijatelné riziko“. Jejich verdikt je krutý: studenti by se ho měli úplně vyvarovat. Dokud se učitelé nenaučí tyto funkce spravovat, měl by být přístup k AI zablokován.
Možná si říkáte, že tím padouchem jsou chatboti. Oni jsou darebáci, evidentně. Ale jednoduché hledání? Toto je skrytá hrozba.
Režim AI jako mezera ve vzdělávání
Google vydal režim AI pro vyhledávání minulý rok jedním tahem. Žádné beta testování pro školy. Žádný postupný úvod. Pokud jste měli vzdělávací účet, máte ho. Okamžitě.
To vyvolalo u odborníků paniku. Common Sense Media a další organizace vysvětlily své obavy Mashable. Režim Google AI funguje na modelech Gemini. Jedná se o stejné modely, které jsou věkově omezeny v jiných službách Google. Ale tady? Neexistují žádná omezení.
Robbie Torney, hlavní ředitel programů umělé inteligence ve společnosti Common Sense Media, nazývá Google „hráčem s příliš velkým vlivem“ ve vyhledávání a vzdělávání. To je pravda. Společnost implementovala Chromebooky do každé třídy. Administrativní balíčky spravuje Google Workspace for Education. Propagovali umělou inteligenci, pak ji zmenšili a pak ji zase zvýšili pomocí Gemini for Education. Miliony studentů, od mateřských škol po postgraduální studenty, jsou v pasti.
Tím, že se generativní umělá inteligence stala základní a dokonce neviditelnou součástí procesu, podkopali roky důvěry.
Vyhledávání na Googlu už není tak snadné.
Dezinformace a iluze autority
Výzkumníci zjistili, že recenze AI od Googlu opakují dezinformace. Technologický gigant tento problém nevyřešil. Chatboti měli vždy tento problém: znějí přesvědčivě. Znějí sebevědomě. Dospělí jsou zavádějící. Děti dostávají nepravdivé informace.
Common Sense Media objevil něco ještě alarmujícího. Nástroje umělé inteligence od Googlu dělají domácí úkoly pro nezletilé uživatele. Odborníci říkají, že jde o “cheat code”. Design je zavádějící. Odpovědi se různí. Chatbot má tendenci souhlasit. Studenti nechápou, že podvádějí. Nebo, což je ještě horší, si myslí, že učení se stalo obtížnějším.
“Implementují AI způsoby, které nejsou vhodné pro jejich věkově specifickou psychologii.”
Emma Bickerstaff, zástupkyně ředitele AI ve vzdělávání, to vyjádřila na rovinu. Režim AI je mezera. Replikuje nejhorší design chatbota v dříve důvěryhodném prostoru.
“Není důvod, proč by 10, 13 nebo dokonce 15 let mělo mít přístup k režimu AI.”
Když učíte digitální gramotnost a porozumění tomu, jak AI funguje, musíte být záměrní. Režim AI je přesný opak. Hledáte fakta, ne názor chatbota.
Existují také rizika pro duševní zdraví. Zpráva uvádí obavy o bezpečnost dětí.
Google vám neumožňuje vypnout pouze funkce umělé inteligence. Hledání zůstává. Ve školní síti zůstávají omezení, ale děti mohou stále aktivovat generativní umělou inteligenci při plnění školních úkolů. Rodiče mohou vyhledávání úplně zablokovat. Správci by teoreticky mohli úplně deaktivovat Vyhledávání Google pro účty Workspace.
Ale co říkáte učitelům? Že děti neumějí hledat odpovědi online?
“Co chceš říct? Že děti neumějí používat vyhledávání na webu?”
Google odpověděl, že testování Common Sense Media bylo omezené. Toto není „efektivní způsob měření bezpečnosti“. Poznamenali, že skupina testovala pouze spotřebitelské účty, nikoli vzdělávací. Thorney ale poznamenává, že zážitek je pro všechny stejný.
Právní noční můry pro školní obvody
Zdroje告知nebo Mashable, že by mohl být čas zbavit se Googlu.
“Recenze AI a režim AI společnosti Google… ohrožují jejich životy.”
David Monahan, ředitel kampaně Fairplay for Kids, říká, že pokud Google studentům AI nevypne, měly by školy přestat produkty úplně používat.
Anya Meksin, zástupkyně ředitele Schools Beyond Screens, to považuje za červenou vlajku. Její koalice prosazuje omezení technologií ve školách. Školní čtvrť v Los Angeles (LAUSD) nedávno zakázala používání obrazovek pro studenty 1. stupně (K-1).
Fairplay for Kids a Schools Beyond Screens obhajují moratorium na používání generativní umělé inteligence ve školách. Meksin říká, že už byl spuštěn poplach ohledně AI ve vyhledávání. Nejen chatboti.
“Měli bychom to považovat za nouzovou situaci.”
Velké technologické společnosti kolonizovaly vzdělávání. V sázce je základ demokracie.
Školy porušují své vlastní zásady AI, protože technologie jsou napřed. LAUSD zakazuje studentům mladším 13 let používat generativní umělou inteligenci. Chromebooky s režimem AI však toto omezení obejdou. Okamžité porušení.
Školy K-12 utratily za dvě desetiletí miliardy dolarů za vzdělávací technologie. Mexine slyšelo, jak kraje říkají, že nemohou zavřít všechno najednou. Zní to absurdně, říká. Školní obvody jsou odpovědné za vystavení dětí známým nebezpečím. Jdou stejnou cestou právních výzev, jakou šly společnosti sociálních médií.
Alphabet a Google minulý týden čelily soudnímu sporu o neoprávněnou smrt. Uživatel po rozhovoru s Gemini spáchal sebevraždu. YouTube byl shledán vinným z nedbalého návrhu za ublížení nezletilým.
Torney srovnává implementaci vyhledávání AI s YouTube ve třídách. Obě technologie byly kritizovány obhájci bezpečnosti dětí.
Spíše než riskovat právní odpovědnost Mexin chce, aby se kraje bránily. Přísnější kontroly. Co když Google odmítne? Ukončit smlouvy.
Největší kupci mají moc. Proč to nepoužívají? Studenti čekají. Učitelé jsou zaražení. A výsledky vyhledávání se stále zobrazují, ať už jsme na to připraveni nebo ne.
