Новий звіт Tech Transparency Project (TTP) стверджує, що Apple та Google не змогли забезпечити дотримання власних правил безпеки, фактично сприяючи просуванню додатків типу «nudify» (додатки для «роздягання»), які порушують умови їх використання. Ці програми використовують генеративний ІІ для створення інтимних зображень без згоди осіб, «знімаючи» одяг з фотографій людей — переважно жінок — для створення порнографічних дипфейків.
Лазайка в управлінні магазинами додатків
Хоча і Apple, і Google дотримуються суворих правил проти «відверто сексуальних чи порнографічних матеріалів», розслідування вказують на значний розрив між прописаними правилами та їх реальним застосуванням.
Основні висновки розслідування TTP включають:
– Постійна доступність: Незважаючи на попередні спроби боротьби, сотні таких програм залишаються доступними на обох платформах.
– Уразливості пошуку: Користувачі все ще можуть шукати за провокаційними запитами, такими як “nudify”, “undress” і “deepnude”.
– Пряме просування: Що викликає найбільшу тривогу, так у звіті стверджується, що платформи активно підвищували видимість цих додатків. Зокрема, Google була відзначена за використання “каруселі реклами” для деяких з найвідвертіших знайдених додатків.
– Явний маркетинг: Аналіз топ-10 додатків у цій категорії показав, що 40% з них відкрито рекламували свою здатність зображати жінок оголеними або у напівоголеному вигляді.
Жага наживи проти безпеки користувачів
Поширення цих додатків порушує критичне питання: чому найбільші технологічні власники шляхів допускають це?
Відповідь може полягати у економіці екосистеми додатків. Згідно з даними аналітичної фірми AppMagic, ці «nudify»-додатки принесли більше 122 мільйонів доларів доходу за весь час свого існування, а кількість їх скачень склала приблизно 483 мільйони разів.
Оскільки Apple і Google отримують значний прибуток за рахунок реклами та комісій з платних підписок, виникає вбудований фінансовий бар’єр для агресивного видалення високоприбуткового, хоч і порушуючого правила, програмного забезпечення. Це створює конфлікт між роллю платформ як «моральних цензорів» та його роллю корпорацій, орієнтованих прибуток.
Зростання загрози ІІ-дипфейків
Ця проблема є частиною ширшої та небезпечнішої тенденції, пов’язаної з генеративним ІІ. Технологія зробила створення сексуалізованого контенту без згоди учасників швидше, простіше та переконливіше, ніж будь-коли раніше.
Масштаб проблеми величезний. Для порівняння: раніше цього року користувачі ІІ-платформи Grok, за повідомленнями, створили 1,4 мільйона сексуалізованих дипфейків лише за дев’ятиденний період. Незважаючи на заклики сенаторів США видалити подібні інструменти з магазинів програм, великі платформи реагують повільно.
Відповіді Apple та Google
Обидві компанії виступили із заявами на захист своєї політики контролю:
- Google стверджує, що Google Play не допускає сексуальний контент, і заявляє, що багато з зазначених програм вже заблоковані.
- Apple повідомила, що видалила 15 зазначених додатків і винесла попередження шістьом іншим розробникам, а також заблокувала кілька пошукових запитів, виявлених TTP.
«Цей потік доходів може бути причиною того, чому компанії виявляли недостатню пильність щодо додатків для “роздягання”, що порушують їхні правила», – полягає у звіті TTP.
Висновок: Наявність додатків типу «nudify» на найбільших платформах свідчить про системний провал у регулюванні шкоди, що завдається ІІ. Це дозволяє припустити, що величезний прибуток, що генерується цими інструментами, може підривати безпекову політику, призначену для захисту користувачів.
