Новый отчет Tech Transparency Project (TTP) утверждает, что Apple и Google не смогли обеспечить соблюдение собственных правил безопасности, фактически способствуя продвижению приложений типа «nudify» (приложения для «раздевания»), которые нарушают условия их использования. Эти приложения используют генеративный ИИ для создания интимных изображений без согласия лиц, «снимая» одежду с фотографий людей — преимущественно женщин — для создания порнографических дипфейков.
Лазейка в управлении магазинами приложений
Хотя и Apple, и Google придерживаются строгих правил против «откровенно сексуальных или порнографических материалов», расследования указывают на значительный разрыв между прописанными правилами и их реальным применением.
Основные выводы расследования TTP включают:
— Постоянная доступность: Несмотря на предыдущие попытки борьбы, сотни таких приложений остаются доступными на обеих платформах.
— Уязвимости поиска: Пользователи все еще могут искать по провокационным запросам, таким как «nudify», «undress» и «deepnude».
— Прямое продвижение: Что вызывает наибольшую тревогу, так в отчете утверждается, что платформы активно повышали видимость этих приложений. В частности, Google была отмечена за использование «карусели рекламы» для некоторых из самых откровенных найденных приложений.
— Явный маркетинг: Анализ топ-10 приложений в этой категории показал, что 40% из них открыто рекламировали свою способность изображать женщин обнаженными или в полуобнаженном виде.
Жажда наживы против безопасности пользователей
Распространение этих приложений поднимает критический вопрос: почему крупнейшие технологические держатели путей допускают это?
Ответ может заключаться в экономике экосистемы приложений. Согласно данным аналитической фирмы AppMagic, эти «nudify»-приложения принесли более 122 миллионов долларов дохода за все время своего существования, а количество их скачиваний составило примерно 483 миллиона раз.
Поскольку Apple и Google получают значительную прибыль за счет рекламы и комиссий с платных подписок, возникает встроенный финансовый барьер для агрессивного удаления высокодоходного, хотя и нарушающего правила, программного обеспечения. Это создает конфликт между ролью платформ как «моральных цензоров» и их ролью корпораций, ориентированных на прибыль.
Растущая угроза ИИ-дипфейков
Эта проблема является частью более широкой и опасной тенденции, связанной с генеративным ИИ. Технология сделала создание сексуализированного контента без согласия участников быстрее, проще и убедительнее, чем когда-либо прежде.
Масштаб проблемы огромен. Для сравнения: ранее в этом году пользователи ИИ-платформы Grok, по сообщениям, создали 1,4 миллиона сексуализированных дипфейков всего за девятидневный период. Несмотря на призывы сенаторов США удалить подобные инструменты из магазинов приложений, крупные платформы реагируют медленно.
Ответы Apple и Google
Обе компании выступили с заявлениями в защиту своей политики контроля:
- Google утверждает, что Google Play не допускает сексуальный контент, и заявляет, что многие из отмеченных приложений уже заблокированы.
- Apple сообщила, что удалила 15 отмеченных приложений и вынесла предупреждения шести другим разработчикам, а также заблокировала несколько поисковых запросов, выявленных TTP.
«Этот поток доходов может быть причиной того, почему компании проявляли недостаточную бдительность в отношении приложений для «раздевания», нарушающих их правила», — заключается в отчете TTP.
Заключение: Наличие приложений типа «nudify» на крупнейших платформах свидетельствует о системном провале в регулировании вреда, наносимого ИИ. Это позволяет предположить, что огромная прибыль, генерируемая этими инструментами, может подрывать политику безопасности, предназначенную для защиты пользователей.
