Millenialsi pamiętają etykiety ostrzegawcze. Powiedziano nam, że Wikipedia to pole minowe. Fora? Nie warto. Poszukaj pierwotnych źródeł. Zacznij od Google’a.
Teraz pokolenie Alpha wkracza do sieci. A obrońcy ich praw krzyczą, że narzędzie, któremu zaufaliśmy, staje się przyczyną ich zagłady.
W nowym raporcie organizacji zajmującej się bezpieczeństwem dzieci Common Sense Media uznano, że wyszukiwarka Google oparta na sztucznej inteligencji stanowi „niedopuszczalne ryzyko”. Ich werdykt jest surowy: uczniowie powinni całkowicie unikać jego używania. Dopóki nauczyciele nie nauczą się zarządzać tymi funkcjami, dostęp do AI powinien być blokowany.
Być może myślisz, że głównym złoczyńcą są chatboty. To oni są oczywiście złoczyńcą. Ale proste wyszukiwanie? To jest ukryte zagrożenie.
Tryb AI jako luka w edukacji
W zeszłym roku Google za jednym zamachem udostępniło tryb AI dla wyszukiwarki. Brak beta testów dla szkół. Bez stopniowego wprowadzania. Jeśli miałeś konto edukacyjne, to je masz. Natychmiast.
Wywołało to panikę wśród ekspertów. Common Sense Media i inne organizacje wyjaśniły swoje obawy Mashable. Tryb Google AI działa na modelach Gemini. Są to te same modele, które podlegają ograniczeniom wiekowym w innych usługach Google. Ale tutaj? Nie ma żadnych ograniczeń.
Robbie Torney, starszy dyrektor programów sztucznej inteligencji w Common Sense Media, nazywa Google „graczem o zbyt dużym wpływie” na wyszukiwanie i edukację. To prawda. Firma wdrożyła Chromebooki w każdej klasie. Google Workspace for Education zarządza pakietami administracyjnymi. Promowali sztuczną inteligencję, następnie ją zmniejszyli, a następnie ponownie powiększyli dzięki Gemini for Education. Miliony uczniów, od przedszkoli po studentów, są w pułapce.
Czyniąc generatywną sztuczną inteligencję podstawową, a nawet niewidoczną częścią procesu, podważyli lata zaufania.
Wyszukiwanie w Google nie jest już takie proste.
Dezinformacja i iluzja władzy
Badacze odkryli, że recenzje Google dotyczące sztucznej inteligencji powtarzają dezinformację. Technologiczny gigant nie naprawił tego problemu. Chatboty zawsze miały ten problem: brzmią przekonująco. Brzmią pewnie. Dorośli wprowadzają w błąd. Dzieci otrzymują fałszywe informacje.
Common Sense Media odkryło coś bardziej niepokojącego. Narzędzia Google AI odrabiają pracę domową za nieletnich użytkowników. Eksperci twierdzą, że to „oszukańczy kod”. Projekt wprowadza w błąd. Odpowiedzi są różne. Chatbot zwykle się zgadza. Studenci nie rozumieją, że oszukują. Albo, co gorsza, uważają, że nauka stała się trudniejsza.
„Wdrażają sztuczną inteligencję w sposób, który nie jest odpowiedni dla ich psychologii specyficznej dla wieku”.
Emma Bickerstaff, zastępca dyrektora ds. sztucznej inteligencji w edukacji, ujęła to bez ogródek. Tryb AI to luka. Replikuje najgorszy projekt chatbota w wcześniej zaufanej przestrzeni.
„Nie ma powodu, dla którego 10, 13, a nawet 15-latek miałby mieć dostęp do trybu AI”.
Kiedy uczysz umiejętności cyfrowych i zrozumienia, jak działa sztuczna inteligencja, musisz działać celowo. Tryb AI jest całkowitym przeciwieństwem. Szukasz faktów, a nie opinii chatbota.
Istnieją również zagrożenia dla zdrowia psychicznego. W raporcie przytoczono obawy dotyczące bezpieczeństwa dzieci.
Google nie pozwala na wyłączenie samych funkcji AI. Pozostaje poszukiwanie. W sieci szkolnej nadal obowiązują ograniczenia, ale dzieci nadal mogą aktywować generatywną sztuczną inteligencję podczas wykonywania zadań szkolnych. Rodzice mogą całkowicie zablokować wyszukiwanie. Administratorzy mogliby teoretycznie całkowicie wyłączyć wyszukiwarkę Google dla kont Workspace.
Ale co powiesz nauczycielom? Że dzieci nie potrafią szukać odpowiedzi w internecie?
“Co powiesz? Że dzieci nie mogą korzystać z wyszukiwarki internetowej?”
Firma Google odpowiedziała, że testowanie Common Sense Media jest ograniczone. Nie jest to „skuteczny sposób pomiaru bezpieczeństwa”. Zauważyli, że grupa testowała jedynie konta konsumenckie, a nie edukacyjne. Thorney zauważa jednak, że doświadczenie jest takie samo dla wszystkich.
Prawne koszmary okręgów szkolnych
Sources告知lub Mashable, że może nadszedł czas, aby porzucić Google.
„Recenzje sztucznej inteligencji i tryb AI Google… narażają ich życie na ryzyko”.
David Monahan, dyrektor kampanii Fairplay for Kids, twierdzi, że jeśli Google nie wyłączy sztucznej inteligencji dla uczniów, szkoły powinny całkowicie zaprzestać korzystania z tych produktów.
Anya Meksin, zastępca dyrektora Schools Beyond Screens, postrzega to jako sygnał ostrzegawczy. Jej koalicja opowiada się za ograniczaniem technologii w szkołach. Okręg szkolny Los Angeles (LAUSD) niedawno zakazał używania ekranów uczniom pierwszej klasy (K-1).
Fairplay for Kids i Schools Beyond Screens opowiadają się za moratorium na stosowanie generatywnej sztucznej inteligencji w szkołach. Meksin twierdzi, że podniesiono już alarm w związku z poszukiwaniami AI. Nie tylko chatboty.
„Powinniśmy potraktować tę sytuację jako sytuację awaryjną”.
Wielkie firmy technologiczne skolonizowały edukację. Podstawy demokracji są zagrożone.
Szkoły naruszają własne zasady dotyczące sztucznej inteligencji, ponieważ technologia wyprzedza konkurencję. LAUSD zabrania uczniom poniżej 13 roku życia korzystania z generatywnej sztucznej inteligencji. Ale Chromebooki z trybem AI obchodzą to ograniczenie. Natychmiastowe naruszenie.
W ciągu dwóch dekad szkoły K-12 wydały miliardy dolarów na technologie edukacyjne. Mexine słyszało, jak władze hrabstw mówiły, że nie mogą zamknąć wszystkiego na raz. Brzmi to absurdalnie – mówi. Okręgi szkolne są odpowiedzialne za narażanie dzieci na znane zagrożenia. Podążają tą samą ścieżką wyzwań prawnych, którą podążają firmy z mediów społecznościowych.
W zeszłym tygodniu Alphabet i Google stanęły przed sądem dotyczącym śmierci bezprawnej. Użytkownik popełnił samobójstwo po rozmowie z Gemini. YouTube został uznany winnym zaniedbania projektowego i wyrządzenia krzywdy nieletnim.
Torney porównuje wdrażanie wyszukiwania AI do YouTube w klasach. Obie technologie zostały skrytykowane przez zwolenników bezpieczeństwa dzieci.
Zamiast narażać się na odpowiedzialność prawną, Mexin chce, aby hrabstwa walczyły. Bardziej rygorystyczne kontrole. A co jeśli Google odmówi? Rozwiązać umowy.
Najwięksi nabywcy mają władzę. Dlaczego z tego nie korzystają? Studenci czekają. Nauczyciele są zaskoczeni. Wyniki wyszukiwania nadal się pojawiają, niezależnie od tego, czy jesteśmy na to gotowi, czy nie.
