El uso de generadores de imágenes basados en IA en el Colegio Modelo de Lomas de Zamora ha convertido a una práctica de “modificación digital” en un delito sexual que ya afecta a decenas de adolescentes en Argentina, generando una ola de denuncias y una urgente revisión de la normativa escolar.
El 10 de octubre de 2024, tres alumnos de segundo año de secundaria fueron detenidos tras la denuncia de una estudiante que descubrió que su rostro había sido insertado en contenido pornográfico mediante herramientas de IA. Las imágenes, alteradas con software de deepfake, fueron subidas a un sitio web de pago que cobraba entre 5 y 10 dólares por descarga.
Una investigación de la Fiscalía de la Niñez reveló que, entre julio y septiembre del mismo año, se habían registrado al menos 27 casos similares en escuelas de la zona sur del Gran Buenos Aires, involucrando a 42 menores, mayormente niñas de entre 13 y 16 años.
El director del Colegio Modelo, Juan Carlos Méndez, confirmó que la institución no contaba con protocolos claros para detectar o prevenir el uso de IA con fines ilícitos y que, tras el escándalo, se cerró el acceso a la red Wi‑Fi durante 48 horas mientras se implementaban filtros de contenido.
El Ministerio de Educación, a través de la subsecretaría de Tecnologías Educativas, anunció el 12 de octubre de 2024 la creación de una guía nacional que obliga a todas las escuelas a incluir en su currículo una materia obligatoria sobre ciudadanía digital y riesgos de la IA, con sanciones para quienes no la apliquen.
Organizaciones de derechos humanos, como la Comisión Interamericana de Derechos Humanos, advirtieron que la falta de regulación específica sobre deepfakes en entornos educativos podría vulnerar el derecho a la intimidad y a la protección de la infancia, instando a la aprobación de una ley que tipifique este tipo de violencia digital.
Respuesta institucional y medidas preventivas
En respuesta a la presión social, la Secretaría de Educación de la Provincia de Buenos Aires destinó 1,2 millones de pesos para la capacitación de docentes en detección de contenidos manipulados y para la adquisición de software de monitoreo de redes escolares.
Además, la Policía Federal inició una unidad especializada en delitos informáticos que, a partir de noviembre de 2024, trabajará conjuntamente con escuelas para rastrear la procedencia de los archivos y cerrar los servidores que alojan los deepfakes.
Expertos en ciberseguridad, como la investigadora Ana Lucía Fernández del Instituto Nacional de Tecnología, recomiendan a los padres y estudiantes activar la verificación en dos pasos y revisar regularmente los permisos de aplicaciones que acceden a la cámara y al micrófono, como medida mínima de autoprotección.
De acuerdo con información difundida por: C5N
📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.
📝 ¡Gracias por tu lectura!
Tu feedback no solo mejora el contenido, sino que también inspira a otros lectores.