Покоління мілініалів пам’ятає застережливі етикетки. Нам казали, що Вікіпедія – це мінне поле. Форуми? Не варто. Шукайте першоджерела. Починайте з Google.
Тепер у мережу заходить покоління Альфа. І захисники їхніх прав кричать про те, що інструмент, якому ми довіряли, стає причиною їхнього руйнування.
Свіжий звіт організації Common Sense Media, яка займається питаннями безпеки дітей, оголошує пошукову систему Google зі штучним інтелектом «неприйнятним ризиком». Їхній вердикт суворий: учням слід повністю відмовитися від його використання. Поки викладачі не навчаться керувати цими функціями, доступ до ІІ потрібно заблокувати.
Можливо, ви думаєте, що лиходій тут чат-боти. Вони і є лиходій, очевидно. Але найпростіший пошук? Ось це і є прихована загроза.
Режим ІІ як лазівка в освіті
Google випустила режим ІІ для пошуку минулого року одним махом. Жодного бета-тестування для шкіл. Жодного поступового впровадження. Якщо у вас був освітній обліковий запис, ви отримали його. Миттєво.
Це привело експертів у паніку. Common Sense Media та інші організації пояснили виданню Mashable свої побоювання. Режим ІІ Google працює на моделях Gemini. Це ті самі моделі, які обмежені за віком в інших сервісах Google. Але ж тут? Обмежень немає.
Роббі Торні, старший директор з програм штучного інтелекту в Common Sense Media, називає Google «гравцем, що має надто великий вплив» у сфері пошуку та освіти. Це правда. Компанія впровадила Chromebooks у кожен клас. Google Workspace for Education керує адміністративними пакетами. Вони просували ІІ, потім скорочували масштаб, а потім знову розгорнули його за допомогою Gemini for Education. Мільйони учнів, від дітей дитячого садка до аспірантів, опинилися у пастці.
Зробивши генеративний ІІ фундаментальною і навіть невидимою частиною процесу, вони підірвали роки довіри.
Пошук у Google більше не такий простий.
Дезінформація та ілюзія авторитету
Дослідники виявили, що ІІ-огляди Google повторюють дезінформацію. Технологічний гігант не виправив цієї проблеми. У чат-ботів завжди була така проблема: вони звучать переконливо. Вони звучать упевнено. Дорослі вводять в оману. Діти отримують неправдиві відомості.
Common Sense Media виявила щось більш тривожне. Інструменти ІІ Google виконують домашнє завдання для неповнолітніх користувачів. Експерти кажуть, що це «чит-код». Дизайн вводить в оману. Відповіді варіюються. Чат-бот схильний погоджуватися. Учні не розуміють, що списують. Або що ще гірше, вони думають, що вчитися стало складніше.
«Вони впроваджують ІІ методами, які відповідають їх вікової психології».
Емма Бікерстафф, заступник директора з ІІ у сфері освіти, висловилася прямо. Режим ІІ – це лазівка. Він відтворює найгірший дизайн чат-бота в раніше надійному просторі.
«Немає жодної причини, через яку 10-, 13- або навіть 15-річна дитина повинна мати доступ до Режиму ІІ».
Коли ви навчаєте цифрової грамотності та розуміння принципів роботи ІІ, ви повинні діяти цілеспрямовано. Режим ІІ – це повна протилежність. Ви шукаєте факти, а не думка чат-бота.
Існують ризики для ментального здоров’я. У звіті згадуються проблеми безпеки для дітей.
Google не дозволяє вимикати лише функції ІІ. Пошук залишається. Обмеження зберігаються у шкільній мережі, але діти досі можуть активувати генеративний ІІ під час виконання шкільних завдань. Батьки можуть повністю заблокувати пошук. Адміністратори можуть повністю відключити Google Search для облікових записів Workspace.
Але що ви скажете вчителям? Що діти не можуть шукати відповіді у мережі?
Що ви збираєтеся сказати? Що діти не можуть користуватися веб-пошуком?
Google відповіла, що тестування Common Sense Media було обмеженим. Це не ефективний спосіб вимірювання безпеки. Вони noted, що група тестувала лише споживчі облікові записи, а не освітні. Але Торні зазначає, що досвід є однаковим для всіх.
Правові кошмари для шкільних округів
Джерела кохали Mashable, що, можливо, настав час відмовитися від Google.
«ІІ-огляди та Режим ІІ Google… ставлять їх життю під загрозу».
Девід Монахан, директор компанії Fairplay for Kids, каже, що якщо Google не відключить ІІ для учнів, школи повинні повністю припинити використання цих продуктів.
Аня Мексина, заступник директора в Schools Beyond Screens, бачить у цьому сигнал тривоги. Її коаліція виступає за обмеження технологій у школах. Шкільний округ Лос-Анджелеса (LAUSD) нещодавно заборонив використання екранів для учнів 1-го класу (K-1).
Fairplay for Kids та Schools Beyond Screens виступають за мораторій на використання генеративного ІІ у школах. Мексин каже, що тривогу вже підняли з приводу ІІ у пошуку. Не лише чат-ботів.
«Ми маємо сприймати це як надзвичайну ситуацію».
Великі технологічні компанії колонізували освіту. Під загрозою лежить основа демократії.
Школи порушують власні політики щодо ІІ, бо технології випереджають правила. LAUSD забороняє учням до 13 років використовувати генеративний ІІ. Але Chromebooks з Режимом ІІ обходять це обмеження. Миттєве порушення.
Школи K-12 витратили мільярди доларів на освітні технології протягом двох десятиліть. Мексина чула, як округи заявляли, що неможливо відключити все одразу. Це звучить абсурдно, каже вона. Шкільні округи несуть відповідальність за надання дітей відомим небезпекам. Вони йдуть тим же шляхом юридичних проблем, яким йшли компанії соціальних мереж.
Alphabet та Google зіткнулися з позовом про неправомірне припинення життя минулого тижня. Користувач наклав на себе руки після розмов з Gemini. YouTube був визнаний винним у недбалому дизайні за заподіяння шкоди неповнолітнім.
Торні порівнює впровадження ІІ-пошуку з YouTube у класах. Обидві технології зазнали критики з боку захисників безпеки дітей.
Замість ризикувати юридичною відповідальністю, Мексин хоче, щоб округи чинили опір. Суворіші заходи контролю. Якщо Google відмовиться? Розірвати контракти.
Найбільші покупці мають владу. Чому вони не використовують її? Учні чекають. Вчителі в безвиході. І пошукові результати продовжують з’являтися, чи готові ми до цього чи ні.
