Un alarmante caso de abuso tecnológico sacudió a Brasil esta semana, luego de que se conociera la denuncia de un grupo de estudiantes de secundaria que fueron víctimas de suplantación digital mediante inteligencia artificial. Las jóvenes descubrieron que un compañero de colegio habría creado y comercializado imágenes falsas de ellas desnudas, generadas por IA a partir de fotografías extraídas de sus redes sociales.
El hecho ocurrió en el Colegio Santa María Minas, en el estado de Minas Gerais, y fue reportado por el medio local G1, que confirmó que las imágenes, difundidas a través de Telegram, eran completamente falsas, pero altamente realistas. El caso generó tal conmoción que llegó a manos del Ministerio Público de Minas Gerais (MPMG), que ya abrió una investigación para esclarecer lo ocurrido y establecer responsabilidades.
Según la información preliminar, las imágenes fueron creadas manipulando fotos públicas de las estudiantes mediante herramientas de inteligencia artificial generativa, capaces de producir contenido explícito falso con apariencia creíble. Este tipo de tecnología, aunque de acceso abierto, está siendo cada vez más utilizada para fines delictivos como la pornografía no consensuada o el acoso virtual.
“El Colegio Santa Maria Minas desarrolla sistemáticamente actividades educativas centradas en el uso ético y responsable de la tecnología”, afirmó la institución en un comunicado oficial. Además, confirmó que acompañará el proceso legal y colaborará con las autoridades para identificar plenamente al responsable, quien también sería estudiante del mismo colegio.
El caso ha generado una fuerte reacción de padres de familia y legisladores. La Comisión de Educación, Ciencia y Tecnología de la Asamblea Legislativa de Minas Gerais solicitó una investigación formal al MPMG, enfocada en los peligros que representa el mal uso de la inteligencia artificial en entornos educativos.
Expertos y defensores de los derechos digitales han señalado la gravedad de este incidente, que pone en evidencia la vulnerabilidad de los datos personales, especialmente de niños y adolescentes. Las imágenes manipuladas, aunque falsas, pueden tener consecuencias devastadoras en la vida de las víctimas, incluyendo traumas psicológicos, acoso escolar y afectaciones a largo plazo en su reputación.
Este caso se suma a una creciente preocupación global sobre la falta de regulación en el uso de tecnologías de inteligencia artificial, especialmente cuando son utilizadas para cometer delitos digitales. En varios países, incluyendo Colombia, ya se discuten reformas legales para considerar delito la suplantación de identidad mediante IA.
La comunidad educativa y tecnológica advierte que se necesita una respuesta urgente: mayores controles, educación digital desde edades tempranas y una legislación actualizada que proteja a las personas, en particular a menores de edad, de estos nuevos riesgos.
