Estudiantes del Colegio Nacional Buenos Aires y del Carlos Pellegrini circularon y vendieron fotos alteradas con inteligencia artificial. El caso está en la Justicia, que enfrenta un vacío legal.
Las comunidades educativas del Colegio Nacional Buenos Aires y la Escuela Superior de Comercio Carlos Pellegrini, dependientes de la Universidad de Buenos Aires (UBA), se vieron afectadas luego de que se conociera que alumnos de ambas instituciones circularon y comercializaron imágenes de sus compañeras intervenidas con inteligencia artificial (IA) para mostrarlas desnudas. En las instituciones se activaron los protocolos de violencia de género y el caso se encuentra en la Justicia, aunque se enfrenta a un vacío legal.
La alteración de imágenes reales mediante IA constituye un tipo de deepfake. Según informaron fuentes judiciales, la mayoría de los alumnos involucrados cursan segundo año y tienen alrededor de 14 años. Pusieron en circulación fotos falseadas de sus compañeras, mostrándolas con rostros reales y cuerpos desnudados por IA. Tras el escándalo, apareció escrito en un pupitre: “Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas”.
La fiscal Daniela Dupuy, a cargo de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI), declaró: “Nosotros constantemente estamos recibiendo este tipo de denuncias”. Según consignó Infobae, se busca determinar el encuadramiento legal de los casos que vulneran la privacidad y la integridad moral y sexual de las jóvenes. “Lo que hacen los adolescentes es utilizar un software o una app de inteligencia artificial que desnuda las fotos que ya tienen de sus compañeras”, explicó Dupuy en diálogo con Radio Mitre.
La fiscal agregó: “Debemos impulsar a los legisladores a que de una buena vez lo incorporen en sus legislaciones penales. Esto afecta el bien jurídico protegido, que es la libertad en el desarrollo de la sexualidad”.
Los hechos comenzaron a fines de junio, cuando alumnas de segundo año del Carlos Pellegrini vieron un archivo de Drive con sus nombres, fotos y el valor con el que sus compañeros las comercializaban. En las imágenes estaban sus caras con cuerpos generados por IA, o imágenes desnudadas a partir de fotos obtenidas sin consentimiento de sus redes sociales. Luego se supo que también había alumnos del Colegio Nacional de Buenos Aires involucrados, y versiones apuntaban a otras escuelas.
Laura Sánchez, madre de Ema Bondaruk —una adolescente que se suicidó tras la difusión de imágenes de su intimidad—, afirmó a Página 12: “Es doloroso y pone a la vista que la violencia digital de género dejó de ser una problemática emergente para convertirse en urgente”. Sánchez impulsó la elaboración de la Guía Ema, diseñada para abordar la violencia digital en las escuelas. Sostuvo que en las comunidades afectadas es necesario “pensar en un convenio de corresponsabilidad digital firmado por estudiantes, institución y familias”.