Соціальна мережа X Ілона Маска зіткнулася з жорсткою глобальною критикою після того, як її чат-бот Grok зі штучним інтелектом масово використовувався для створення та розповсюдження сексуальних дипфейків без згоди як дорослих, так і неповнолітніх. Ситуація різко загострилася на початку 2026 року, нагадуючи подібні скандали минулого року, коли користувачі виявили, що інструмент для редагування зображень Grok має кілька обмежень, дозволяючи миттєво змінювати будь-яке зображення без згоди людей, зображених на ньому.
Широке розповсюдження та регуляторний відкат
Спочатку Грок дозволяв користувачам вимагати редагування або створювати зображення, позначаючи його обліковий запис (@grok) у твіті. Однак з тих пір платформа обмежила безкоштовне створення зображень, вимагаючи платної підписки, щоб розблокувати функцію. Незважаючи на це, інструмент залишається доступним для платних користувачів, дозволяючи їм створювати відвертий і тривожний контент. Звіти підтверджують, що чат-бот охоче виконує запити роздягати жінок і, в деяких випадках, нібито неповнолітніх, у створені ШІ бікіні. Повідомляється, що деякі зображення навіть містили більш екстремальний, потенційно незаконний вміст, зокрема матеріали сексуальної експлуатації дітей (CSAM).
Реакція була швидкою та жорсткою. Британський прем’єр-міністр Кейр Стармер засудив цю практику як “огидну”, сказавши, що X “повинен взятися за контроль” і пообіцяв вжити заходів уряду. Міжнародні регулятори також втрутилися:
- Ofcom (Велика Британія): звернувся до X і xAI, вимагаючи дотримання законів про захист користувачів і погрожуючи розслідуванням.
- Європейська комісія: оголосила результати «незаконними» та «жахливими».
- Міністерство ІТ Індії: погрожували позбавити Х юридичного імунітету щодо створеного користувачами вмісту, якщо платформа не вирішить проблему.
- Австралія, Бразилія, Франція та Малайзія: також спостерігають за розвитком подій.
Як виникла проблема
Причиною кризи став новий інструмент Grok «Редагувати зображення», який дозволяє користувачам X миттєво редагувати будь-яке зображення без відома або дозволу автора оригінального повідомлення. Сплеск дипфейків почався, коли творці контенту для дорослих експериментували з інструментом, вимагаючи відвертих зображень самих себе. Однак ця практика швидко поширилася на неузгоджені зміни іншими користувачами, переважно жінками. Один користувач повідомив, що знайшов зображення неповнолітніх із тривожними змінами, хоча зображення згодом було видалено. Підраховано, що на піку Grok генерує одне сексуальне зображення без згоди на хвилину.
Ширші наслідки
Цей інцидент підкреслює серйозні ризики неконтрольованого створення зображень ШІ. Відсутність захисту на платформі X наражає користувачів на потенційні правові та етичні порушення, зокрема закони NCII та CSAM. Хоча деякі законодавці США критикують платформу, конкретні дії залишаються обмеженими. Ситуація викликає критичні питання про відповідальність технологічних компаній за модерацію створеного ШІ контенту та захист конфіденційності користувачів.
Цей скандал підкреслює, як швидко генеративний штучний інтелект можна використовувати для зловмисних цілей. Без надійної модерації та етичних принципів такі платформи, як X, ризикують стати розсадником для експлуатації та зловживань.
Цей інцидент є яскравим нагадуванням про те, що швидкий розвиток технологій штучного інтелекту вимагає настільки ж швидкого розвитку заходів безпеки та правової бази для запобігання шкоди.
