La licenciada en Criminología y Seguridad, Lilian Magali Menguez, especialista en prevención de riesgos en entornos digitales, alertó sobre las consecuencias de la utilización de inteligencia artificial para generar imágenes íntimas falsas. La problemática volvió a tomar relevancia tras las denuncias realizadas por alumnas de la Escuela Agrotécnica N.º 24 General San Martín.
A raíz de los hechos denunciados públicamente por alumnas de la Escuela Agrotécnica N.º 24 General San Martín, ubicada en Estancia Grande, quienes manifestaron haber sido víctimas de la creación de imágenes íntimas falsas mediante inteligencia artificial, la licenciada en Criminología y Seguridad, Lilian Magali Menguez, especialista en prevención de riesgos en entornos digitales, brindó un análisis sobre esta problemática que preocupa cada vez más en el ámbito educativo.
La profesional explicó que los denominados deepfakes son imágenes, audios o videos manipulados mediante inteligencia artificial que permiten representar situaciones que nunca ocurrieron, haciendo parecer que una persona dijo, hizo o mostró algo que no sucedió.
Sin embargo, advirtió que el problema trasciende lo tecnológico cuando estas herramientas son utilizadas para humillar, sexualizar, intimidar o extorsionar a otras personas.
En ese sentido, señaló que estas prácticas constituyen una forma de violencia digital que puede provocar graves consecuencias en la intimidad, la reputación, los vínculos personales y la salud mental de las víctimas.
Una problemática que afecta especialmente a adolescentes
Menguez sostuvo que, si bien cualquier persona puede resultar víctima de este tipo de situaciones, las mujeres y las niñas suelen enfrentar consecuencias particularmente graves cuando las imágenes manipuladas tienen contenido sexual.
Además, recordó que en distintas instituciones educativas del país se conocieron episodios similares, entre ellas el Colegio Modelo Lomas, el Colegio Nacional de Buenos Aires y la Escuela Superior de Comercio Carlos Pellegrini.
De acuerdo con un relevamiento de la Defensoría del Pueblo de la Ciudad de Buenos Aires, el 43% de los adolescentes encuestados, de entre 12 y 19 años, recibió imágenes o videos manipulados con inteligencia artificial, mientras que el 13% manifestó conocer casos de deepfakes dentro de su institución educativa.
Asimismo, el 82% consideró que este tipo de contenidos puede generar consecuencias negativas.
Las consecuencias psicológicas y la importancia de evitar la revictimización
La especialista explicó que quienes atraviesan estas situaciones pueden experimentar ansiedad, miedo, vergüenza, aislamiento, pérdida de autoestima y desconfianza hacia sus compañeros.
El impacto puede ser todavía mayor cuando las imágenes falsas presentan contenido íntimo o sexual, debido a que las víctimas pueden sentirse obligadas a demostrar que el material fue manipulado.
Frente a estos casos, Menguez remarcó que las instituciones educativas deben escuchar a las personas afectadas, evitar cuestionamientos o culpabilizaciones, preservar las pruebas y activar los protocolos correspondientes.
También advirtió que compartir, reenviar o difundir este tipo de material contribuye a prolongar el daño sufrido por las víctimas.
Qué establece la legislación argentina
La profesional recordó que Argentina cuenta con la Ley Olimpia N.º 27.736, que incorporó la violencia digital como una modalidad de violencia de género y contempla mecanismos de protección frente a situaciones de difusión no consentida de imágenes íntimas, acoso, amenazas y extorsión digital.
También destacó la existencia de Bájalo Ya!, una herramienta gratuita y confidencial que permite solicitar medidas para limitar la circulación de imágenes o videos íntimos de niños, niñas y adolescentes, incluidos aquellos manipulados mediante inteligencia artificial.
Asimismo, indicó que las familias pueden recurrir a la Línea 102, destinada a la protección de los derechos de niños, niñas y adolescentes, y a la Línea 137 ante situaciones de violencia familiar y sexual.
El rol de las escuelas y las familias
Menguez consideró fundamental que las instituciones educativas incorporen herramientas de prevención y formación sobre el uso responsable de las nuevas tecnologías.
En este sentido, mencionó la Guía EMA, orientada a prevenir, detectar y acompañar situaciones de violencia digital en ámbitos educativos, incluyendo casos de acoso virtual, grooming, sextorsión y deepfakes.
Además, explicó que, junto al abogado especialista en Ciberseguridad y Gobernanza Digital Thomas Parma Zeida, elaboró el libro digital Prevención de Riesgos en Entornos Digitales, que aborda estas problemáticas desde una perspectiva normativa y educativa, e incluye actividades didácticas para desarrollar dentro de las aulas.
Un llamado a actuar con responsabilidad
Finalmente, la licenciada Lilian Magali Menguez subrayó que el avance de la inteligencia artificial exige fortalecer la prevención, el acompañamiento a las víctimas y la formación de estudiantes, docentes y familias.
La especialista remarcó que lo que sucede en internet tiene consecuencias concretas en la vida cotidiana y que la violencia digital no debe minimizarse ni considerarse una simple broma entre compañeros.
Desde esta perspectiva, el caso denunciado por alumnas de la Escuela Agrotécnica N.º 24 de Estancia Grande vuelve a poner en debate la necesidad de garantizar entornos educativos seguros, proteger la intimidad de los menores y establecer respuestas institucionales adecuadas frente a nuevas formas de violencia digital.
Diario Digital Concordia24
