Los deepfakes pueden causar daños duraderos a los niños

Si tu hijo no ha visto un deepfake de alguien relacionado con su escuela, es probable que un amigo o su maestro sí esté al tanto de alguno.

Los deepfakes son imágenes, videos o grabaciones de audio falsas creadas por inteligencia artificial que parecen reales pero han sido manipuladas digitalmente o falsificadas.

Un 40% de los estudiantes y 29% de los maestros dijeron que estaban al tanto de un deepfake de alguien relacionado con su escuela que fue compartido en el último año escolar, según una encuesta reciente del Centro para la Democracia y la Tecnología, una organización sin fines de lucro que se enfoca en los derechos digitales.

Si se aprueba la legislación, los niños menores de 16 años tendrán prohibido utilizar las redes sociales en Australia. Crédito: Matt Cardy/Getty Images.
artículo relacionado
Australia presenta proyecto de ley para limitar el uso de redes sociales en menores de 16 años. Las empresas tecnológicas se enfrentarían a enormes multas

Un 15% de los estudiantes y 11% de los maestros estaban al tanto de deepfakes sobre personas de su escuela que eran íntimos o sexualmente explícitos.

Recientemente vi cómo pueden manifestarse los deepfakes en las escuelas cuando acepté un rol como experta en un caso legal que involucraba a un maestro acusado de crear deepfakes desnudos de sus estudiantes. Según mi investigación, cuando las imágenes de una persona desnuda reales o falsas terminan en línea, la víctima puede estar en mayor riesgo de depresión, suicidio y agresión sexual. También puede dificultar que las víctimas salgan con alguien o encuentren un trabajo, porque estas imágenes podrían aparecer cuando la gente las busca en línea.

Sin embargo, la mayoría de los estudiantes, maestros y padres dijeron que sus escuelas no han compartido políticas y procedimientos sobre imágenes íntimas no consensuadas de deepfakes, incluidos el 57% de los estudiantes de secundaria, el 62% de los maestros de secundaria y el 67% de los padres de estudiantes de secundaria y preparatoria, según la encuesta del Centro para la Democracia y la Tecnología.