La violencia digital irrumpe en las aulas
Los recientes casos ocurridos en colegios de San Juan y Tucumán encendieron una señal de alarma sobre una nueva forma de violencia digital. Mediante herramientas de inteligencia artificial, estudiantes crearon y difundieron imágenes sexuales falsas de sus compañeras, exponiendo el impacto de los deepfakes en ámbitos escolares. Los episodios reabren el debate sobre la necesidad de fortalecer la educación digital, actualizar los marcos regulatorios y exigir mayores medidas de seguridad en las plataformas y tecnologías de IA para proteger a niñas, niños y adolescentes.
Dos casos de violencia digital hechos con inteligencia artificial encienden alertas. Dos episodios recientes en San Juan y Tucumán revelan un patrón emergente de agresión entre adolescentes mediante el uso de inteligencia artificial, con impacto directo en la intimidad y la salud emocional de las víctimas.
Imagen ilustrativa. La utilización de inteligencia artificial introduce matices complejos: no hay una imagen "real", pero sí una afectación concreta a la dignidad, la identidad y la integridad psíquica de las víctimas, en su mayoría personas menores de edad.
En menos de una semana, dos provincias argentinas vivieron hechos que revelan una nueva modalidad de violencia entre adolescentes: el uso de inteligencia artificial para generar y difundir imágenes íntimas falsas de compañeras de escuela. Los casos de Caucete, San Juan, y del Instituto Pellegrini, en San Miguel de Tucumán, no solo sacudieron a sus comunidades educativas, sino que encendieron una alerta respecto de un fenómeno que crece más rápido que las herramientas legales para abordarlo.
En Caucete empezó a notarse en los pasillos de la escuela y en los teléfonos celulares de los alumnos. Primero fueron comentarios, después mensajes que se propagaban en grupos cerrados, hasta que las imágenes -rostros conocidos en cuerpos intervenidos digitalmente- comenzaron a circular por WhatsApp. El sufrimiento de las alumnas afectadas obligó a las familias a intervenir de manera enérgica. Hubo reuniones, reclamos y finalmente denuncias. Así, la escena se trasladó al ámbito judicial: la directora del establecimiento formalizó la presentación y la UFI de Delitos Informáticos y Estafas quedó a cargo de una investigación que hoy se apoya en pericias técnicas para reconstruir el origen y la cadena de difusión del material.
Imagen ilustrativa. Dos casos de violencia digital hechos con inteligencia artificial encienden alertas.
En Tucumán, el impacto tuvo una dinámica parecida, aunque con una expansión más visible. Las imágenes, una vez descubiertas en el Instituto Pellegrini, provocaron un efecto inmediato: conmoción, ira y miedo. Estudiantes reconocieron sus propias caras en cuerpos desnudos creados mediante inteligencia artificial. Según las denuncias, la circulación no se habría limitado a un grupo reducido; el contenido habría sido compartido en Telegram y replicado rápidamente, incluso fuera del ámbito del colegio. Los padres que llevaron a sus hijas a presentar la denuncia describieron el momento como un "golpe" que les costaba asimilar, señalando la incertidumbre sobre a dónde habían llegado esas imágenes.
En los dos casos, la respuesta de las instituciones combinó acciones internas con la intervención judicial. En San Juan, la investigación apunta a establecer responsabilidades penales concretas; mientras que en Tucumán, el colegio activó protocolos, aplicó sanciones y solicitó frenar la difusión. Pero el punto de contacto más sólido entre ambos episodios no está solo en lo ocurrido, sino en cómo ocurrió: creación digital, viralización casi inmediata y una comunidad que reacciona cuando el daño ya está en circulación.
El fenómeno plantea claros desafíos al derecho. Existen figuras como la violación a la intimidad o la difusión no consentida de material íntimo. Pero la utilización de inteligencia artificial introduce matices complejos: no hay una imagen "real", pero sí una afectación concreta a la dignidad, la identidad y la integridad psíquica de las víctimas, en su mayoría personas menores de edad.
Imagen ilustrativa. Los padres que llevaron a sus hijas a presentar la denuncia describieron el momento como un "golpe" que les costaba asimilar,
Estos hechos muestran, desde la óptica criminológica, una mutación de las formas de agresión. La tecnología facilita la producción del daño, reduce las barreras de acceso y, al mismo tiempo, diluye la percepción de responsabilidad individual. La cadena de difusión, aquel que comparte, reenvía o simplemente no detiene la circulación, se convierte en un eslabón clave del problema.
Lo que pasó en San Juan y Tucumán no son casos aislados. Son escenas de una misma realidad que empieza a repetirse: la violencia digital como extensión del ámbito escolar, donde los límites entre lo público y lo privado se desdibujan con rapidez. Ante esto, la respuesta no puede ser solo reactiva. La prevención, la educación digital y la actualización de los marcos legales aparecen como herramientas indispensables para enfrentar un fenómeno que llegó para quedarse.
Deepfakes sexuales en el aula: cuando la violencia digital deja de ser excepcional
El caso del Instituto Pellegrini expone un cambio de paradigma: la inteligencia artificial como infraestructura de daño y el desafío de regular, prevenir y proteger a niñas, niños y adolescentes.
Lo ocurrido en el Instituto Carlos Pellegrini de Tucumán, donde estudiantes utilizaron inteligencia artificial para crear y difundir imágenes sexuales falsas de sus compañeras, revela un punto de inflexión en la comprensión de la violencia digital. Lejos de tratarse de un hecho aislado, pone en evidencia la consolidación de los deepfakes como una forma de agresión sistemática que amplifica el daño mediante su replicabilidad y permanencia, generando lo que puede definirse como "trauma digital". Este fenómeno desborda la respuesta penal tradicional y exige un enfoque integral basado en la gestión de riesgos, la seguridad por diseño y la protección reforzada de derechos de niñas, niños y adolescentes. Asimismo, interpela a las instituciones educativas, a las familias, a los desarrolladores tecnológicos y al Estado en su conjunto, al evidenciar que la disponibilidad irrestricta de estas herramientas configura un problema estructural de gobernanza y no meramente conductual.
La comunidad educativa del Instituto Carlos Pellegrini, de San Miguel de Tucumán, está viviendo uno de esos casos que dejan un antes y un después
Al menos tres estudiantes de tercer año fueron denunciados por crear y difundir, a través de Telegram, imágenes íntimas falsas de sus compañeras, utilizando herramientas de inteligencia artificial.
Las chicas descubrieron sus propias caras montadas sobre cuerpos desnudos, en escenas sexuales que jamás se realizaron, pero que hoy circulan como si fueran reales, incluso en los celulares de alumnos de otras escuelas.
Imagen ilustrativa. Al menos tres estudiantes de tercer año fueron denunciados por crear y difundir, a través de Telegram,
Fue la madre de una de las adolescentes la que presentó la denuncia, acompañada por otras familias, y el relato es el mismo: angustia generalizada, sensación de vergüenza, de exposición permanente y de pérdida total de control sobre la propia imagen.
El Ministerio de Seguridad, por su parte, anuncia la intervención del equipo de delitos telemáticos, que se rastrearán las IP, que se preservará la prueba digital y vuelve a insistir en la necesidad de que las familias supervisen el uso de los celulares, redes y videojuegos.
Imagen ilustrativa. La madre de una de las adolescentes presentó la denuncia acompañada por otras familias.
Hasta este punto, podríamos pensar que es solo otro "caso grave", una noticia que se agota en el ciclo de indignación y comentarios.
Sin embargo, si hacemos ese recorte, perdemos de vista que este episodio nos revela que los deepfakes sexuales han dejado de ser una curiosidad tecnológica para ser una infraestructura de daño disponible dentro de las aulas.
No solo nos encontramos con estudiantes que "hicieron algo mal", sino que nos enfrentamos a un entorno tecnológico que, con tan solo unos pocos clics, permite fabricar pornografía no consentida, material sintético de abuso sexual infantil entre pares, sextorsión y humillación escolar sin necesidad de tocar el cuerpo de la víctima.
Este es precisamente el cambio de lente que debe proponerse.
En vez de abordar los deepfakes como simples "contenidos falsos", se los debe reconfigurar como un riesgo sistémico que recorre la violencia sexual digital, la salud mental y la protección integral de niñas, niños y adolescentes.
Hablar de "trauma digital" no es un exceso retórico
Siendo permanentes y replicables, estos contenidos construyen una experiencia de amenaza constante: la foto o el video pueden volver a aparecer mañana, en otro grupo, en otra plataforma, en manos de alguien desconocido.
No se necesita contacto físico para generar miedo, retraimiento, vergüenza extrema, abandono escolar o incluso ideación suicida; basta con la certeza de que el propio rostro se ha convertido en material sexualizable, disponible a demanda.
Si nos tomamos en serio esta dimensión, la respuesta no puede quedar en la reacción penal ni en apelar a la "supervisión familiar".
El derecho penal es necesario pero insuficiente: llega tarde, cuando el daño ya está desplegado y la imagen ya circula por circuitos que ningún juzgado puede controlar del todo.
Por eso es necesario desplazar el enfoque hacia la perspectiva basada en riesgos y la seguridad por diseño: no solo sancionar a quien usa mal la herramienta, sino exigir que las herramientas no estén pensadas para facilitar ese uso.
¿Qué significa esto en la práctica?
En primer lugar, las tecnologías de desnudación, de intercambio de rostro o de creación de escenas sexualizadas no deben seguir siendo tratadas como funciones neutras disponibles para cualquiera, en cualquier contexto.
Si el riesgo de abuso con niñas, niños y adolescentes de una capacidad es estructuralmente alto, la conclusión no puede ser solo "usa con responsabilidad"; debe ser, en muchos casos: esta capacidad no se puede ofrecer, o debe ofrecerse bajo condiciones estrictas de acceso y control.
En segundo lugar, los proveedores de modelos de inteligencia artificial y las plataformas que incorporan estas capacidades tienen obligaciones de seguridad desde el diseño.
Dentro de esto entran filtros que impidan prompts orientados a sexualizar cuerpos infantiles, análisis contextual de las imágenes de entrada, clasificación y bloqueo automático de resultados con apariencia infantil, y límites claros a la posibilidad de cargar fotos reales para combinarlas en escenas sexuales.
No es un favor, ni una "mejor práctica voluntaria": es un estándar de cuidado reforzado que se deriva directamente del interés superior del niño.
Imagen ilustrativa. Es necesario desplazar el enfoque hacia la perspectiva basada en riesgos y la seguridad por diseño: no solo sancionar a quien usa mal la herramienta, sino exigir que las herramientas no estén pensadas para facilitar ese uso.
En tercer lugar, los sistemas de protección integral y las escuelas necesitan protocolos específicos para el trauma digital.
No basta con decirle a la víctima que "bloquee al agresor" o que "cierre la cuenta". La escuela debe activar equipos de orientación, frenar la circulación del contenido entre pares, evitar prácticas que revictimicen -como obligar a la estudiante a explicar públicamente lo sucedido- y articular con salud mental y justicia desde una perspectiva centrada en la víctima.
La Ley Olimpia marcó un avance al incluir la violencia digital como una forma de violencia de género, pero todavía queda por articularla con dispositivos específicos para niñas, niños y adolescentes, más allá de la mujer adulta como sujeto típico.
Cuarto, que prevenir no puede significar trasladar toda la carga a las adolescencias.
Imagen ilustrativa. En vez de abordar los deepfakes como simples "contenidos falsos", se los debe reconfigurar como un riesgo sistémico que recorre la violencia sexual digital, la salud mental y la protección integral de niñas, niños y adolescentes.
Decirles que se cuiden, que no manden fotos, que no confíen no solo es ineficaz, sino que refuerza la culpa de las víctimas que ya fueron dañadas.
La prevención pasa por una alfabetización digital y sexual integral que explique qué son los deepfakes, qué implica el consentimiento en entornos digitales y cómo pedir ayuda sin miedo a ser castigadas o ridiculizadas. Pero también por rediseñar el ecosistema tecnológico para que no trate a los cuerpos adolescentes como materia prima programable.
Aquí aparece una idea de fondo que el caso Pellegrini nos obliga a enfrentar: la cultura de los "cuerpos programables".
La expansión de la IA generativa, de los avatares configurables, de los chatbots que raras veces dicen que no, va instalando una experiencia cotidiana donde el otro parece siempre disponible, modificable, maleable.
Cuando esa lógica se lleva al cuerpo real de una compañera, el resultado son estos deepfakes sexuales: escenas donde desaparece la voluntad de la otra persona, reemplazada por la capacidad técnica de manipular su imagen.
La pregunta entonces ya no es solo qué hacemos con estos alumnos denunciados, ni qué sanción corresponde.
Imagen ilustrativa. Dos episodios recientes en San Juan y Tucumán revelan un patrón emergente de agresión entre adolescentes mediante el uso de inteligencia artificial, con impacto directo en la intimidad y la salud emocional de las víctimas.
La pregunta es -incómoda pero inevitable- qué estamos tolerando cuando dejamos que se desplieguen sistemas capaces de producir, con facilidad, material sexualizado de menores sin filtros robustos, sin evaluaciones de impacto en derechos de la infancia y sin límites claros a las funciones que pueden ofrecer.
Si la regulación de la inteligencia artificial no es capaz de evitar razonablemente que niñas, niños y adolescentes sean sexualizados sintéticamente, entonces no estamos ante un problema sectorial sino ante un fracaso de gobernanza en su conjunto.
