TECNO Deepfakes > IA > Wired

EL LADO OSCURO DE LA IA

Deepfakes en el aula: 600 alumnos afectados y una red de abuso con IA que llega a 28 países

WIRED revela una red de abuso con IA en 28 países: adolescentes crean deepfakes de desnudos de sus compañeras. ¿Cómo pueden las escuelas frenar esta epidemia?

Todo empieza con una foto inocente bajada de Instagram o Snapchat. Un grupo de adolescentes descarga imágenes de sus compañeras de escuela y las sube a aplicaciones de “ nudify” o “undress” que usan inteligencia artificial para generar los deepfakes, fotos o videos falsos de desnudos, en cuestión de segundos.

Esas imágenes se comparten después por chats de WhatsApp, Snapchat o grupos de clase y se viralizan dentro del colegio, a veces incluso entre varias escuelas al mismo tiempo.

Las víctimas se sienten violadas, humilladas y viven con el miedo constante de que esas imágenes terminen en internet para siempre.

Según un análisis realizado por WIRED en conjunto con Indicator, desde 2023 se han reportado públicamente incidentes de deepfakes sexuales en casi 90 escuelas de todo el mundo, afectando a más de 600 alumnos. Es la primera revisión global de casos reales documentados y muestra que el problema ya es mundial.

El mapa de la crisis: 1,2 millones de víctimas

El análisis se basa en casos reportados públicamente con detalles concretos (ubicación de las escuelas y cantidad aproximada de víctimas). Los números son alarmantes:

  • América del Norte: casi 30 casos reportados, incluyendo uno con más de 60 víctimas.
  • Europa: más de 20 casos.
  • América del Sur: más de 10 casos.
  • Australia y Asia Oriental: alrededor de una docena de casos combinados.

Se estima que la cifra real es mucho mayor. UNICEF calcula que en 2025 se crearon deepfakes sexuales de 1,2 millones de niños en todo el mundo.

En España, una encuesta de Save the Children reveló que uno de cada cinco jóvenes dijo que le habían creado deepfakes desnudos. Thorn, una organización de protección infantil, encontró que uno de cada ocho adolescentes conoce a alguien que fue víctima.

En casi todos los casos documentados, los responsables son adolescentes varones de secundaria. Las imágenes se crean con herramientas accesibles que no requieren conocimientos técnicos y se distribuyen rápidamente entre compañeros.

"Tengo miedo de que me miren": el trauma que vacía las aulas

Las consecuencias van mucho más allá de la vergüenza momentánea.

Las víctimas describen sentimientos de humillación, violación y desesperanza. Una adolescente de Iowa contó: “Tengo miedo de que cada vez que me miren, vean esas fotos”. En otro caso, la familia de una víctima dijo: “Está llorando todo el tiempo y no come”.

Muchas dejan de asistir a clase. Otras viven con la angustia permanente de que las imágenes lleguen a pedófilos o se difundan para siempre. Algunas familias han tenido que mudarse o cambiar a sus hijas de escuela.

En varios países, las víctimas y sus familias han iniciado acciones legales contra las aplicaciones de nudify.

WIRED menciona que los expertos coinciden en que el daño psicológico es enorme. “El impacto puede ser masivo”, dice Lloyd Richardson, director de tecnología del Canadian Centre for Child Protection.

Deepfakes-adolescentes-U24
Según el análisis de WIRED, la facilidad de acceso a estas herramientas de 'nudify' ha creado una crisis de seguridad digital sin precedentes en las aulas.  

Según el análisis de WIRED, la facilidad de acceso a estas herramientas de 'nudify' ha creado una crisis de seguridad digital sin precedentes en las aulas.

Escuelas sin defensas: ¿por qué la respuesta llega tarde?

Las respuestas de escuelas y fuerzas de seguridad suelen ser insuficientes o tardías. En algunos casos tardaron días en denunciar el hecho a la policía. En otros, las consecuencias para los responsables fueron mínimas: suspensiones cortas o ninguna sanción inmediata.

En algunos países, como Corea del Sur y Australia, escuelas enteras han decidido dejar de publicar fotos de alumnos en sus redes sociales o en los anuarios para evitar que sean usadas para crear deepfakes. Otras han optado por usar solo perfiles laterales, siluetas o fotos grupales lejanas.

Expertos como Evan Harris, fundador de Pathos Consulting Group, advierten que muchas escuelas todavía no están preparadas para enfrentar esta amenaza. “Es esencial darles a los estudiantes las herramientas y el lenguaje para que puedan hablar si sufren deepfakes”, dice Robyn Little, de McDonogh School en Maryland.

¿Por qué lo hacen? El rol de la tecnología y el control social

Los motivos para crear estos deepfakes varían: gratificación sexual, curiosidad, venganza, retos entre amigos o simple deseo de humillar.

Amanda Goharian, de Thorn, explica que no siempre se trata de motivaciones sexuales; muchas veces el objetivo es el control social o la denigración.

Siddharth Pillai, de la RATI Foundation en India, señala que la IA ha bajado drásticamente la barrera técnica: “Lo que cambia es la escala, la velocidad y la accesibilidad. Ahora cualquier adolescente puede crear imágenes convincentes con muy poco esfuerzo”.

Tanya Horeck, profesora de estudios de medios y violencia de género, agrega que no es solo un problema tecnológico: “Se trata también de las dinámicas de género de larga data que facilitan estos crímenes”.

Una alerta urgente ante una crisis que no tiene freno

Los deepfakes sexuales en escuelas ya no son un caso aislado. Son una crisis global que aprovecha la facilidad y velocidad de la IA generativa.

Mientras las herramientas se vuelven más potentes y accesibles, las respuestas de escuelas, padres y gobiernos siguen siendo lentas e insuficientes.

Las víctimas pagan un precio altísimo: vergüenza, miedo y la sensación de que su imagen ya no les pertenece.

Este problema no va a desaparecer solo. Hace falta acción urgente de escuelas, plataformas tecnológicas y legisladores para proteger a los adolescentes antes de que la crisis se vuelva aún más grande.

----------------------------------

Otras noticias de Urgente24

Así son las casas prefabricadas que llegaron de China a Argentina: se arman en 10 horas

Europa se envalentona con 2 planes ante la inestabilidad Trump y la guerra

Telefe en llamas: La feroz interna que sacude a su programa más visto

"Cerramos": El 'espacio de resistencia' creado para las textiles