Millennials erinnern sich an die Warnhinweise. Uns wurde gesagt, Wikipedia sei ein Minenfeld. Forumbeiträge? Überspringe sie. Gehen Sie zu Primärquellen. Beginnen Sie mit Google.
Jetzt meldet sich die Generation Alpha. Und Befürworter schreien, dass das Werkzeug, dem wir vertraut haben, genau das ist, was sie kaputt macht.
Ein neuer Bericht der Kindersicherheitsbehörde Common Sense Media erklärt Googles KI-gestützte Suche zu einem „inakzeptablen Risiko“. Ihr Urteil ist eindeutig: Studierende sollten ganz aufhören, es zu nutzen. Bis Pädagogen den Schalter umlegen können, muss die KI gehen.
Man könnte meinen, Chatbots seien der Bösewicht. Das sind sie offensichtlich. Aber eine einfache Suche? Das ist die versteckte Bedrohung.
Die Hintertür des KI-Modus in der Bildung
Google hat letztes Jahr über Nacht den KI-Modus für die Suche eingeführt. Kein Betatest für Schulen. Kein schrittweiser Rollout. Wenn Sie ein Bildungskonto hatten, haben Sie es bekommen. Sofort.
Dies versetzte Experten in Panik. Common Sense Media und andere erklärten Mashable, warum. Der KI-Modus von Google läuft auf Gemini-Modellen. Hierbei handelt es sich um dieselben Modelle, die auch bei anderen Google-Diensten altersabhängig sind. Aber hier? Keine Tore.
Robbie Torney, leitender Direktor für KI-Programme bei Common Sense Media, nennt Google einen „übergroßen Akteur“ in den Bereichen Suche und Bildung. Es ist wahr. Das Unternehmen hat Chromebooks in jedes Klassenzimmer eingeführt. Google Workspace for Education unterstützt die Admin-Suites. Sie propagierten die KI, verkleinerten sie und steigerten sie dann mit Gemini for Education wieder. Millionen von Schülern, vom Kindergarten bis zum Postgraduierten, sind eingesperrt.
Indem sie generative KI grundlegend – sogar unsichtbar – gemacht haben, haben sie jahrelanges Vertrauen untergraben.
Googeln ist nicht mehr einfach.
Fehlinformationen und die Illusion der Autorität
Forscher fanden heraus, dass die KI-Übersichten von Google Fehlinformationen wiederholen. Der Technologieriese hat das Problem nicht behoben. Chatbots hatten schon immer dieses Problem. Sie klingen maßgeblich. Sie klingen sicher. Erwachsene sind verwirrt. Kinder werden in die Irre geführt.
Common Sense Media fand noch etwas anderes Beunruhigendes. Die KI-Tools von Google erledigen die Hausaufgaben für minderjährige Nutzer. Experten sagen, dass es sich dabei um einen Cheat-Code handelt. Das Design ist irreführend. Die Reaktionen variieren. Der Chatbot ist angenehm. Die Schüler wissen nicht, dass sie betrügen. Oder schlimmer noch, sie glauben, dass das Lernen jetzt schwieriger geworden ist.
„Sie injizieren KI auf entwicklungstechnisch unangemessene Weise.“
Amanda Bickerstaff, stellvertretende Direktorin für KI im Bildungswesen, brachte es auf den Punkt. Der KI-Modus ist eine Hintertür. Es repliziert das schlechteste Chatbot-Design in einem zuvor zuverlässigen Bereich.
„Es gibt keinen Grund, warum ein 10-, 13- oder sogar 15-Jähriger den KI-Modus haben sollte.“
Wenn Sie KI-Kenntnisse vermitteln, müssen Sie zielstrebig vorgehen. Der KI-Modus ist das Gegenteil. Sie suchen nach Fakten, nicht nach der Meinung eines Chatbots.
Auch psychische Gesundheitsrisiken drohen. Der Bericht führt Sicherheitsbedenken für Kinder an.
Bei Google können Sie nicht nur KI-Funktionen deaktivieren. Suche bleibt. Die Leitplanken bleiben in der Schule bestehen, aber Kinder können beim Erledigen von Schulaufgaben weiterhin generative KI auslösen. Eltern können die Suche vollständig blockieren. Administratoren können theoretisch die Google-Suche für Workspace-Konten blockieren.
Aber was sagen Sie Lehrern? Dass Kinder keine Antworten nachschlagen können?
„Was willst du sagen? Dieses Kind kann nicht im Internet suchen?“
Google hat zurückgedrängt. Sie sagten, die Tests von Common Sense Media seien eng gefasst. Keine „effektive Methode zur Messung der Sicherheit“. Sie stellten fest, dass die Gruppe nur Verbraucherkonten testete, keine Bildungskonten. Aber Torney weist darauf hin, dass die Erfahrung für alle gleich ist.
Legale Albträume für Schulbezirke
Quellen sagen Mashable, dass es an der Zeit sein könnte, Google den Rücken zu kehren.
„Googles KI-Übersicht und KI-Modus … gefährden ihr Leben.“
David Monahan, Kampagnenleiter von Fairplay for Kids, sagt, wenn Google KI für Schüler nicht deaktiviert, sollten Schulen die Produkte ganz einstellen.
Anya Meksin, stellvertretende Direktorin von Schools Beyond Screens, sieht darin einen Weckruf. Ihre Koalition drängt auf technische Beschränkungen in Schulen. Der Los Angeles Unified School District hat kürzlich Bildschirme für K-1-Klassen verboten.
Fairplay und Schools Beyond Screens wollen ein Moratorium für Gen-KI in Schulen. Meksin sagt, dass die KI-Suche bereits Alarm geschlagen habe. Nicht nur Chatbots.
„Wir müssen das als Notfall behandeln.“
Big Tech hat die Bildung kolonisiert. Das Fundament der Demokratie steht auf dem Spiel.
Schulen verstoßen gegen ihre eigenen KI-Richtlinien, weil sich die Technologie schneller weiterentwickelt. LAUSD verbietet Schülern unter 13 Jahren die Nutzung generativer KI. Aber Chromebooks mit AI-Modus umgehen das. Sofortiger Verstoß.
K-12 gab über zwei Jahrzehnte hinweg Milliarden für Bildungstechnologie aus. Meksin hörte, wie Bezirke behaupteten, es sei unmöglich, alles außer Gefecht zu setzen. Lächerlich, sagt sie. Schulbezirke haften dafür, dass Kinder bekannten Schäden ausgesetzt werden. Sie geraten in die gleichen rechtlichen Schwierigkeiten, mit denen Social-Media-Unternehmen konfrontiert waren.
Alphabet und Google standen zuletzt vor einer Klage wegen unrechtmäßiger Tötung. Ein Benutzer starb nach Gesprächen mit Gemini durch Selbstmord. YouTube wurde der fahrlässigen Absicht, Minderjährige zu schädigen, für schuldig befunden.
Torney vergleicht die Einführung der KI-Suche mit der Einführung von YouTube in Klassenzimmern. Beide gerieten unter Beschuss von Befürwortern der Kindersicherheit.
Anstatt eine Haftung zu riskieren, möchte Meksin, dass die Bezirke Widerstand leisten. Stärkere Kontrollen. Wenn Google ablehnt? Machen Sie die Verträge ungültig.
Die größten Abnehmer haben Macht. Warum nutzen sie es nicht? Die Schüler warten. Die Lehrer stecken fest. Und die Suchergebnisse werden immer weiter angezeigt, egal ob wir bereit sind oder nicht.
