ANÁLISIS | Los deepfakes pueden causar daños duraderos a los niños

Por Kara Alaimo, CNN

Si tu hijo no ha visto un deepfake de alguien relacionado con su escuela, es probable que un amigo o su maestro sí esté al tanto de alguno.

Los deepfakes son imágenes, videos o grabaciones de audio falsas creadas por inteligencia artificial que parecen reales pero han sido manipuladas digitalmente o falsificadas.

Un 40% de los estudiantes y 29% de los maestros dijeron que estaban al tanto de un deepfake de alguien relacionado con su escuela que fue compartido en el último año escolar, según una encuesta reciente del Centro para la Democracia y la Tecnología, una organización sin fines de lucro que se enfoca en los derechos digitales.

Un 15% de los estudiantes y 11% de los maestros estaban al tanto de deepfakes sobre personas de su escuela que eran íntimos o sexualmente explícitos.

Recientemente vi cómo pueden manifestarse los deepfakes en las escuelas cuando acepté un rol como experta en un caso legal que involucraba a un maestro acusado de crear deepfakes desnudos de sus estudiantes. Según mi investigación, cuando las imágenes de una persona desnuda reales o falsas terminan en línea, la víctima puede estar en mayor riesgo de depresión, suicidio y agresión sexual. También puede dificultar que las víctimas salgan con alguien o encuentren un trabajo, porque estas imágenes podrían aparecer cuando la gente las busca en línea.

Sin embargo, la mayoría de los estudiantes, maestros y padres dijeron que sus escuelas no han compartido políticas y procedimientos sobre imágenes íntimas no consensuadas de deepfakes, incluidos el 57% de los estudiantes de secundaria, el 62% de los maestros de secundaria y el 67% de los padres de estudiantes de secundaria y preparatoria, según la encuesta del Centro para la Democracia y la Tecnología.

En lugar de intentar prevenir estos incidentes, el estudio encontró que las escuelas tienden a actuar una vez que han ocurrido. Luego se centran en castigar a los perpetradores sin brindar el apoyo adecuado a las víctimas, encontró la encuesta.

Entonces, ¿qué deben hacer los padres? Consireando que las escuelas a menudo fallan en tomar medidas para proteger a los estudiantes, los padres deben hablar con sus hijos sobre por qué nunca deben crear o involucrarse con deepfakes íntimos.

Incluso cuando los deepfakes no son reales, los padres deben discutir que sus daños pueden serlo. Lindsay Lieberman, una abogada de la ciudad de Washington, que representa a víctimas de deepfakes, dijo: “La tecnología es tan sofisticada que parece que es mi cliente, y el daño puede ser tan profundo como si realmente fuera el cuerpo de mi cliente”.

Las víctimas a menudo “experimentan daño psicológico, incluyendo angustia significativa, ansiedad, depresión, un sentido de humillación e impotencia, y algunas incluso informan haber sufrido trastorno de estrés postraumático”, advirtió.

También suelen sufrir daños emocionales y sociales. “Este tipo de humillación, ya sea que es su cuerpo o no, puede causar que pierda amigos; puede dañar su reputación”, dijo Lieberman. “Puede hacer que tenga miedo de aparecer en espacios en línea que puede necesitar para sus solicitudes universitarias o para su futura carrera. Algunas víctimas terminan no pudiendo asistir a la escuela porque están sufriendo mucho”.

Las víctimas a menudo enfrentan daños financieros, agregó, porque muchos contratan empresas para intentar eliminar el contenido de Internet.

Por eso necesitamos enseñar a los niños no solo que no deben crear deepfakes, sino también por qué nunca deben involucrarse compartiéndolo o dándoles “me gusta”.

Al tener estas conversaciones, los padres deben inclinarse hacia la empatía al pedir a sus hijos que imaginen cómo se sentirían si les sucediera, dijo la Dra. Devorah Heitner, autora de Chicago de “Growing Up in Public: Coming of Age in a Digital World”. “Todos los jóvenes reconocen que no quieren participar victimizando a otros. No queremos participar haciendo que otras personas se sientan menos seguras”.

Los padres también necesitan educar a sus hijos sobre los riesgos de convertirse en víctimas.

“Siempre animo a los padres a retrasar el uso de redes sociales y teléfonos el mayor tiempo posible”, dijo Lieberman. “Pero si sus hijos están en redes sociales, quieren hablar con ellos sobre la configuración de privacidad y asegurarse de que conocen a cada persona con la que están conectados, y que puede ver su contenido”.

Al compartir contenido de manera privada —solo con las personas que han aceptado como amigos o seguidores— los niños hacen más difícil que extraños o personas que consideran poco confiables accedan a fotos de ellos que podrían ser manipuladas.

Cuando hablo con estudiantes en las escuelas sobre deepfakes y otros peligros que pueden experimentar en redes sociales, también les aconsejo hablar fuera de línea con las personas que les envían solicitudes de amistad o seguimiento para confirmar que son ellos quienes crearon las cuentas.

Lieberman también recomendó que los padres modelen buenas prácticas cibernéticas siendo cuidadosos con lo que comparten en línea. Dijo que los padres deberían asegurarse de que los niños sepan que si ven deepfakes pueden acudir a ellos en busca de ayuda sin preocuparse por ser castigados.

Si bien es importante no minimizar los daños que experimentan las víctimas, Heitner dijo que los padres también deben enseñar a los niños que pueden recuperarse si les sucede. “Tampoco queremos decirles a las chicas: ‘Esto te ha pasado, ahora estás rota. Nunca podrás salir. Nunca podrás avanzar’”, dijo.

Es importante, destacó Heitner, “tratar a las personas sobrevivientes como sobrevivientes y no solo como víctimas, y darles oportunidades para encontrar comunidad, seguir adelante y reconocer su propia fuerza”.

Lieberman dijo que los padres y las víctimas pueden informar incidentes a la policía y al FBI, pero también aconsejó contactar a organizaciones sin fines de lucro para obtener apoyo, incluyendo la Red Nacional de Violación, Abuso e Incesto y el Centro Nacional para Niños Desaparecidos y Explotados.

Los padres pueden contactar a un abogado si ellos o sus hijos son víctimas, y Lieberman dijo que las víctimas no deberían asumir que no pueden pagar un abogado. Muchos abogados —incluyendo a Lieberman— ofrecen consultas gratuitas, y a veces toman casos de contingencia en los que solo se les paga si la víctima recibe una compensación al ganar un juicio o al recibir dinero en un acuerdo.

Si bien las escuelas claramente necesitan educar a los niños sobre deepfakes e implementar políticas para protegerlos de convertirse en víctimas, es esencial que los padres adviertan a los niños sobre cómo pueden protegerse y evitar participar en esta forma de abuso sexual.

The-CNN-Wire
™ & © 2025 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.

Nota del editor: Kara Alaimo es profesora asociada de comunicación en la Universidad Fairleigh Dickinson. Su libro “Over the Influence: Why Social Media Is Toxic for Women and Girls — And How We Can Take It Back” fue publicado recientemente por Alcove Press. Síguela en Instagram, Facebook y Bluesky.