Поколение миллениалов помнит предупреждающие этикетки. Нам говорили, что Википедия — это минное поле. Форумы? Не стоит. Ищите первоисточники. Начинайте с Google.
Теперь в сеть заходит поколение Альфа. И защитники их прав кричат о том, что инструмент, которому мы доверяли, становится причиной их разрушения.
Свежий отчет организации Common Sense Media, занимающейся вопросами безопасности детей, объявляет поисковую систему Google с искусственным интеллектом «неприемлемым риском». Их вердикт суров: учащимся следует полностью отказаться от его использования. Пока преподаватели не научатся управлять этими функциями, доступ к ИИ нужно заблокировать.
Возможно, вы думаете, что злодей здесь — чат-боты. Они и есть злодей, очевидно. Но простой поиск? Вот это и есть скрытая угроза.
Режим ИИ как лазейка в образовании
Google выпустила режим ИИ для Поиска в прошлом году одним махом. Никакого бета-тестирования для школ. Никакого постепенного внедрения. Если у вас был образовательный аккаунт, вы получили его. Мгновенно.
Это привело экспертов в панику. Common Sense Media и другие организации объяснили изданию Mashable свои опасения. Режим ИИ Google работает на моделях Gemini. Это те же самые модели, которые ограничены по возрасту в других сервисах Google. Но здесь? Ограничений нет.
Робби Торни, старший директор по программам искусственного интеллекта в Common Sense Media, называет Google «игроком, имеющим слишком большое влияние» в сфере поиска и образования. Это правда. Компания внедрила Chromebooks в каждый класс. Google Workspace for Education управляет административными пакетами. Они продвигали ИИ, затем сокращали масштаб, а потом снова развернули его с помощью Gemini for Education. Миллионы учащихся, от детей детского сада до аспирантов, оказались в ловушке.
Сделав генеративный ИИ фундаментальной и даже невидимой частью процесса, они подорвали годы доверия.
Поиск в Google больше не так прост.
Дезинформация и иллюзия авторитета
Исследователи обнаружили, что ИИ-обзоры Google повторяют дезинформацию. Технологический гигант не исправил эту проблему. У чат-ботов всегда была такая проблема: они звучат убедительно. Они звучат уверенно. Взрослые вводят в заблужение. Дети получают ложные сведения.
Common Sense Media обнаружила нечто более тревожное. Инструменты ИИ Google выполняют домашнее задание для несовершеннолетних пользователей. Эксперты говорят, что это «чит-код». Дизайн вводит в заблужение. Ответы варьируются. Чат-бот склонен соглашаться. Учащиеся не понимают, что списывают. Или, что еще хуже, они думают, что учиться стало сложнее.
«Они внедряют ИИ способами, которые не соответствуют их возрастной психологии».
Эмма Бикерстафф, заместитель директора по ИИ в сфере образования, высказалась прямо. Режим ИИ — это лазейка. Он воспроизводит худший дизайн чат-бота в ранее надежном пространстве.
«Нет никакой причины, по которой 10-, 13- или даже 15-летний ребенок должен иметь доступ к Режиму ИИ».
Когда вы учите цифровой грамотности и пониманию принципов работы ИИ, вы должны действовать целенаправленно. Режим ИИ — это полная противоположность. Вы ищете факты, а не мнение чат-бота.
Существуют и риски для ментального здоровья. В отчете упоминаются проблемы безопасности для детей.
Google не позволяет отключать только функции ИИ. Поиск остается. Ограничения сохраняются в школьной сети, но дети все еще могут активировать генеративный ИИ во время выполнения школьных заданий. Родители могут полностью заблокировать Поиск. Администраторы могут теоретически полностью отключить Google Search для учетных записей Workspace.
Но что вы скажете учителям? Что дети не могут искать ответы в сети?
«Что вы собираетесь сказать? Что дети не могут пользоваться веб-поиском?»
Google ответила, что тестирование Common Sense Media было ограниченным. Это не «эффективный способ измерения безопасности». Они noted, что группа тестировала только потребительские аккаунты, а не образовательные. Но Торни отмечает, что опыт одинаков для всех.
Правовые кошмары для школьных округов
Источники告知или Mashable, что, возможно, пришло время отказаться от Google.
«ИИ-обзоры и Режим ИИ Google… ставят их жизни под угрозу».
Дэвид Монахан, директор кампании Fairplay for Kids, говорит, что если Google не отключит ИИ для учащихся, школы должны полностью прекратить использование этих продуктов.
Аня Мексин, заместитель директора в Schools Beyond Screens, видит в этом сигнал тревоги. Ее коалиция выступает за ограничение технологий в школах. Школьный округ Лос-Анджелеса (LAUSD) недавно запретил использование экранов для учеников 1-го класса (K-1).
Fairplay for Kids и Schools Beyond Screens выступают за мораторий на использование генеративного ИИ в школах. Мексин говорит, что тревога уже была поднята по поводу ИИ в поиске. Не только чат-ботов.
«Мы должны воспринимать это как чрезвычайную ситуацию».
Крупные технологические компании колонизировали образование. Под угрозой лежит основа демократии.
Школы нарушают собственные политики в отношении ИИ, потому что технологии опережают правила. LAUSD запрещает учащимся до 13 лет использовать генеративный ИИ. Но Chromebooks с Режимом ИИ обходят это ограничение. Мгновенное нарушение.
Школы K-12 потратили миллиарды долларов на образовательные технологии на протяжении двух десятилетий. Мексин слышала, как округа заявляли, что невозможно отключить все сразу. Это звучит абсурдно, говорит она. Школьные округа несут ответственность за подвергание детей известным опасностям. Они идут по тому же пути юридических проблем, по которому шли компании социальных сетей.
Alphabet и Google столкнулись с иском о неправомерном прекращении жизни на прошлой неделе. Пользователь покончил с собой после разговоров с Gemini. YouTube был признан виновным в халатном дизайне за причинение вреда несовершеннолетним.
Торни сравнивает внедрение ИИ-поиска с YouTube в классах. Обе технологии подверглись критике со стороны защитников безопасности детей.
Вместо того чтобы рисковать юридической ответственностью, Мексин хочет, чтобы округа оказывали сопротивление. Более строгие меры контроля. Если Google откажется? Расторгните контракты.
Крупнейшие покупатели обладают властью. Почему они не используют ее? Учащиеся ждут. Учителя в тупике. И поисковые результаты продолжают появляться, готовы мы к этому или нет.
