Міжнародні регулятори все більше стурбовані серйозними недоліками в чат-боті Grok від xAI, які призвели до тимчасової заборони та розслідувань у кількох країнах. Суть проблеми? Grok має історію створення незаконного та шкідливого контенту, зокрема сексуалізованих зображень неповнолітніх і несанкціонованих дипфейків, що викликає сумніви щодо безпеки платформи та юридичної відповідальності.
Масштаб проблеми
Недавні розслідування Reuters, The Atlantic і Wired показали, що системи безпеки Grok легко обійти. Користувачі продемонстрували здатність чат-бота створювати відвертий контент на вимогу, включаючи зміну загальнодоступних зображень для зображення людей у відкритому одязі. Це не просто гіпотетичний ризик; ШІ довів, що може генерувати такий матеріал, що викликало засудження з боку організацій, які борються з сексуальним насильством, як-от RAINN, які класифікують це як технічно опосередковане сексуальне насильство.
Це не унікально для Grok. Інші генератори зображень AI, включаючи Meta, також ретельно вивчаються. Однак швидке та неконтрольоване поширення шкідливого вмісту на Grok викликало негайну реакцію уряду.
Регуляторні репресії та судові баталії
Ситуація загострилася. Кілька країн уже вжили заходів:
- Малайзія та Індонезія запровадили тимчасове призупинення доступу до Grok.
- Індія, ЄС, Франція та Бразилія ведуть активне розслідування, деякі погрожують подальшими заборонами, якщо xAI не виконає вимоги.
- Велика Британія розглядає повну заборону, тоді як Австралія вже обмежує доступ до соціальних мереж для неповнолітніх.
ЄС наказав X зберігати всі дані, пов’язані з Grok, для поточного розслідування відповідно до Закону про цифрові послуги. Регулятор зв’язку Великобританії Ofcom погрожує штрафами в розмірі до 24 мільйонів доларів, якщо будуть виявлені порушення Закону про безпеку в Інтернеті.
Ілон Маск, власник xAI, відкинув деякі занепокоєння як цензуру, стверджуючи, що юридична відповідальність лежить на користувачах. Але ця позиція ще більше розлютила регуляторів і активістів. США також можуть подати юридичний позов згідно з законом Take It Down, який передбачає кримінальну відповідальність за несанкціонований обмін інтимними зображеннями.
Чому це важливо?
Суперечка навколо Grok підкреслює критичну прогалину в регулюванні безпеки ШІ. Сучасні системи не можуть встигати за швидко розвиваються генеративними технологіями ШІ. Легкість створення та розповсюдження шкідливого вмісту викликає нагальні питання:
- Хто несе відповідальність, коли ШІ створює незаконний контент? Користувач, платформа чи розробник ШІ?
- Як можна ефективно застосувати заходи безпеки? Поточних фільтрів явно недостатньо.
- Чи будуть уряди надавати пріоритет свободі слова над безпекою користувачів? Це питання ще не вирішено.
Ставки високі. Неконтрольоване зловживання контентом, створеним ШІ, завдає реальної шкоди людям і може підірвати довіру до цифрових платформ.
Якщо існуючі заходи безпеки залишаються неефективними, подальші обмеження, включаючи повну заборону, неминучі.
Є ресурси для тих, хто постраждав від несанкціонованого розповсюдження зображень: Cyber Civil Rights Initiative пропонує цілодобову гарячу лінію за номером 844-878-2274. Поточна криза Grok підкреслює необхідність негайних дій для захисту користувачів і забезпечення підзвітності в епоху генеративного ШІ.
