Un nuevo informe del Proyecto de Transparencia Tecnológica (TTP) alega que Apple y Google no han hecho cumplir sus propias políticas de seguridad, promoviendo efectivamente aplicaciones “nudificadas” que violan sus términos de servicio. Estas aplicaciones utilizan IA generativa para crear imágenes íntimas no consensuales, quitando la ropa de fotografías de personas (predominantemente mujeres) para crear pornografía ultrafalsa.
El vacío legal en la gobernanza de la App Store
Si bien tanto Apple como Google mantienen políticas estrictas contra el “material abiertamente sexual o pornográfico”, las investigaciones sugieren una brecha significativa entre las reglas escritas y su aplicación real.
Los hallazgos clave de la investigación TTP incluyen:
– Disponibilidad persistente: A pesar de medidas enérgicas anteriores, cientos de estas aplicaciones siguen siendo accesibles en ambas plataformas.
– Vulnerabilidades de búsqueda: Los usuarios aún pueden buscar términos provocativos como “nudify”, “undress” y “deepnude”.
– Promoción directa: Lo más preocupante es que el informe afirma que las plataformas han aumentado activamente la visibilidad de estas aplicaciones. Google se destacó específicamente por presentar un “carrusel de anuncios” para algunas de las aplicaciones sexualmente más explícitas descubiertas.
– Marketing explícito: Un análisis de las 10 principales aplicaciones de esta categoría reveló que el 40 % anunciaba explícitamente su capacidad para representar a mujeres desnudas o con poca ropa.
El motivo de lucro frente a la seguridad del usuario
La proliferación de estas aplicaciones plantea una pregunta crítica: ¿Por qué los mayores guardianes tecnológicos del mundo permiten que esto continúe?
La respuesta puede estar en la economía del ecosistema de aplicaciones. Según datos de la firma de análisis AppMagic, estas aplicaciones “nudify” han generado más de 122 millones de dólares en ingresos de por vida y se han descargado aproximadamente 483 millones de veces.
Debido a que Apple y Google obtienen ingresos significativos a través de publicidad y comisiones por suscripciones pagas, existe un desincentivo financiero incorporado para eliminar agresivamente software de alto rendimiento, aunque infrinja las políticas. Esto crea una tensión entre el papel de las plataformas como “guardianes morales” y su papel como corporaciones con fines de lucro.
La creciente amenaza de los deepfakes de IA
Este problema es parte de una tendencia más amplia y peligrosa que involucra la IA generativa. La tecnología ha hecho que la creación de contenido sexual no consensuado sea más rápida, más fácil y más convincente que nunca.
La magnitud del problema es inmensa. A modo de contexto, a principios de este año, los usuarios de la plataforma de inteligencia artificial Grok supuestamente generaron 1,4 millones de deepfakes sexualizados en solo un período de nueve días. A pesar de los llamados de los senadores estadounidenses para eliminar dichas herramientas de las tiendas de aplicaciones, las principales plataformas han tardado en actuar.
Respuestas de Apple y Google
Ambas empresas han emitido declaraciones defendiendo su supervisión:
- Google sostiene que Google Play no permite contenido sexual y afirma que muchas de las aplicaciones marcadas ya han sido suspendidas.
- Apple informó que eliminó 15 aplicaciones marcadas y emitió advertencias a otros seis desarrolladores, al mismo tiempo que bloqueó varios términos de búsqueda identificados por el TTP.
“Este flujo de ingresos puede ser la razón por la que las dos empresas han estado menos vigilantes cuando se trata de nudificar aplicaciones que violan sus políticas”, concluye el informe de TTP.
Conclusión: La presencia de aplicaciones “nudify” en las principales plataformas pone de relieve una falla sistémica para regular los daños causados por la IA, lo que sugiere que los ingresos masivos generados por estas herramientas pueden estar socavando las políticas de seguridad destinadas a proteger a los usuarios.
