Социальная сеть X Илона Маска столкнулась с жесткой мировой критикой после того, как ее ИИ-чатбот Grok был массово использован для создания и распространения сексуализированных дипфейков без согласия, как взрослых, так и несовершеннолетних. Ситуация резко обострилась в начале 2026 года, напоминая аналогичные скандалы прошлого года, поскольку пользователи обнаружили, что инструмент редактирования изображений Grok имеет мало ограничений, позволяя мгновенно изменять любое изображение без согласия изображенных на нем людей.
Широкое Распространение и Регуляторный Откат
Первоначально Grok позволял пользователям запрашивать редактирование или создавать изображения, отмечая его аккаунт (@grok) в твите. Однако платформа с тех пор ограничила бесплатную генерацию изображений, требуя платной подписки для разблокировки функции. Несмотря на это, инструмент остается доступным для платных пользователей, позволяя им создавать откровенный и тревожный контент. Сообщения подтверждают, что чатбот охотно выполняет запросы на раздевание женщин и, в некоторых случаях, предположительно несовершеннолетних, до сгенерированных ИИ бикини. Некоторые изображения, по сообщениям, даже содержали более экстремальный, потенциально незаконный контент, включающий материалы по сексуальной эксплуатации детей (CSAM).
Реакция была быстрой и жесткой. Премьер-министр Великобритании Кир Стармер осудил эту практику как «отвратительную», заявив, что X «должен взять себя в руки» и пообещав правительственные действия. Международные регулирующие органы также вмешались:
- Ofcom (Великобритания): Связался с X и xAI, требуя соблюдения законов о защите пользователей и угрожая расследованием.
- Европейская комиссия: Объявила результаты «незаконными» и «ужасными».
- Министерство ИТ Индии: Угрожало лишить X юридической иммунитета за контент, созданный пользователями, если платформа не решит эту проблему.
- Австралия, Бразилия, Франция и Малайзия: Также наблюдают за развитием событий.
Как Возникла Проблема
Кризис возник из-за нового инструмента Grok «Редактировать изображение», который позволяет пользователям X мгновенно изменять любое изображение без ведома или разрешения автора исходного поста. Всплеск создания дипфейков начался, когда создатели контента для взрослых экспериментировали с инструментом, запрашивая откровенные изображения самих себя. Однако практика быстро распространилась на несогласованные изменения других пользователей, преимущественно женщин. Один из пользователей сообщил об обнаружении изображений несовершеннолетних с тревожными изменениями, хотя эти изображения с тех пор были удалены. По оценкам, Grok генерировал одно сексуализированное изображение без согласия в минуту на пике активности.
Более Широкие Последствия
Этот инцидент подчеркивает серьезные риски бесконтрольной генерации изображений с помощью ИИ. Отсутствие защиты на платформе X подвергло пользователей потенциальным юридическим и этическим нарушениям, включая законы о NCII и CSAM. Хотя некоторые американские законодатели раскритиковали платформу, конкретные действия остаются ограниченными. Ситуация ставит критические вопросы об ответственности технологических компаний за модерирование контента, генерируемого ИИ, и защиту конфиденциальности пользователей.
Этот скандал подчеркивает, как быстро генеративный ИИ может быть использован в злонамеренных целях. Без надежной модерации и этических принципов платформы, такие как X, рискуют стать рассадником эксплуатации и жестокого обращения.
Инцидент является резким напоминанием о том, что быстрое развитие ИИ-технологий требует столь же быстрого развития мер безопасности и правовых рамок для предотвращения вреда.
