Miles de mujeres están siendo víctimas de deepfakes que las colocan a ellas en videos pornográficos sin consentimiento.
La noticia se hizo pública en junio del 2019: un grupo de desarrolladores había lanzado una aplicación que permitía desnudar mujeres utilizando apenas una foto.
La investigación -publicada en la revista Vice- daba cuenta de cómo la app DeepNude utilizaba redes y algoritmos para cambiar la ropa de las mujeres por cuerpos desnudos sumamente realistas. Vale aclarar que la aplicación no funcionaba con fotos de hombres.
24 horas después, el artículo de la revista generó tanta polémica que los creadores de la app tuvieron que darle de baja y asegurar que harían desaparecer esta tecnología.
Sin embargo, el tema persiste. El MIT Technology Review publicó que “una nueva investigación de una empresa de ciberseguridad enfocada en detectar abusos con contenidos manipulados, descubrió que un un algoritmo disponible públicamente en la app de mensajes Telegram está utilizando una tecnología muy similar”.
Esto funciona así: el usuario se descarga Telegram -que es parecido a Whatsapp- y desde allí envía una foto de una mujer a un bot -que es un chat que funciona con inteligencia artificial, es decir que no lo maneja nadie- que a los pocos minutos arroja la misma foto, pero con la mujer desnuda.
Para julio de este año, el sistema ya había desnudado a por lo menos 100 mil mujeres, la mayoría menores de edad y sin consentimiento. Estas imágenes luego se hicieron públicas.
La investigación detalla que la mayoría de los victimarios -un 70%- provienen de Rusia. Mientras que las víctimas son mujeres de Argentina, Italia y Estados Unidos.
En el último año, los deepfake vinculados a pronografía fueron utilizados para intentar silenciar a mujeres periodistas, influencers y youtubers en campañas coordinados de acoso.
El MIT Technology Review advierte que “la tecnología está evolucionando y expandiéndose”. Ahora también está empezando a aplicarse en videos y es probable que estemos observando solo la punta del iceberg.
