Imágenes que muestran rostros de niñas con cuerpos desnudos (deepfake porn) provocaron la salida de los directivos de una escuela privada en Pensilvania, provocaron una protesta estudiantil y desencadenaron una investigación criminal.
Un sospechoso juvenil fue “retirado” de la escuela Lancaster Country Day School y su teléfono celular fue confiscado por investigadores en agosto, informó el martes la detective Laurel Bair del Departamento de Policía Regional de Susquehanna.
Es el último ejemplo de cómo el uso de inteligencia artificial para crear o manipular imágenes de mujeres y generar contenido sexual sin consentimiento se ha convertido en una preocupación, incluso en el ámbito escolar.
Las autoridades estadounidenses han tomado medidas enérgicas contra las representaciones gráficas de niños generadas por computadora, así como contra las fotografías manipuladas de niños reales. El Departamento de Justicia dice que está persiguiendo a quienes explotan las herramientas de inteligencia artificial y los estados se apresuran a promulgar leyes para abordar el problema.
Una nueva ley del estado de Pensilvania que entrará en vigor a fines del próximo mes penaliza explícitamente la producción o difusión de material de abuso sexual infantil generado por inteligencia artificial.
Y la policía de Corea del Sur lleva siete meses luchando contra el contenido deepfake porno, con penas más duras, un mayor uso de agentes encubiertos y una mayor regulación de las redes sociales. Las preocupaciones en Corea del Sur se agudizaron después de que a principios de este año se difundieran listas no confirmadas de escuelas con víctimas.
¿Qué sabemos sobre las imágenes de abuso sexual infantil falso de niñas hechas con IA en Pensilvania?
Como parte de la investigación policial sobre lo que la escuela Lancaster Country Day School describe como “fotografías perturbadoras generadas por inteligencia artificial”, este verano se utilizó una orden de registro para obtener un iPhone 11 vinculado a un adolescente de 15 años, según los registros judiciales. Los registros no identifican al adolescente.
Una mujer dijo a la policía que su hija le contó que un compañero de estudios había estado “tomando fotografías de estudiantes y usando tecnología de Inteligencia Artificial (IA) para retratar a las estudiantes menores de edad como si estuvieran desnudas”, según una declaración jurada de causa probable utilizada para solicitar la orden de allanamiento.
Matt Micciche, entonces director de la escuela, dijo a la policía que la escuela había recibido una denuncia sobre las fotos en noviembre de 2023 a través del programa Safe2Say Something, pero el sospechoso, identificado por sus iniciales, negó las acusaciones, según la declaración jurada de Bair.
Cuando algunos padres y madres de familia se enteraron de las fotos en mayo, escribió Bair, también se enteraron de que las “fotografías de desnudos con IA” habían sido publicadas en una sala de chat.
Bair, quien lidera la investigación porque el sospechoso vive en el territorio del Departamento de Policía Regional de Susquehanna, dijo que en la escuela ha habido conmoción “porque esto esté ocurriendo y que haya sucedido dentro de su pequeña comunidad”. Se negó a decir cuántas niñas habían aparecido en las imágenes, pero agregó que probablemente se hará pública más información sobre el caso en las próximas dos semanas.
Erik Yabor, portavoz de la fiscal de distrito de Lancaster, Heather Adams, dijo el martes que los fiscales del condado de Lancaster no tenían comentarios sobre la investigación en curso.
Un portavoz de la oficina de la fiscal general Michelle Henry dijo que la agencia no pudo hablar sobre pistas o informes específicos realizados a la plataforma Safe2Say Something, que recibe informes anónimos de estudiantes y otras personas sobre amenazas a la seguridad.
“En términos generales, nuestro equipo recibe las pistas y las envía a las autoridades correspondientes o al personal escolar para que las revisen”, dijo Brett Hambright. “Hemos confirmado que se hizo eso con respecto al asunto sobre el que preguntó”.
La LNP de Lancaster informó que la mayoría de los estudiantes de secundaria de Lancaster Country Day hicieron una manifestación el pasado viernes 8 de noviembre, marchando por el campus y cantando: “Escúchennos. Reconózcannos. Véannos”. Las clases se cancelaron el lunes.
LNP dijo que la escuela indicó el viernes que se había “separado” de Micciche y que la presidenta de la junta, Angela Ang-Alhadeff, había renunciado. Associated Press dejó mensajes telefónicos el martes para solicitarles comentarios a ambos. Una carta dirigida el lunes a la comunidad escolar por la Junta de Síndicos de Lancaster Country Day decía que estaba trabajando para reemplazarlos y que estaba “todavía en el proceso de finalizar la resolución del caso”.
“Lo que podemos decir es que durante la semana pasada, la junta recibió información que nos llevó a tomar la decisión de resolver el asunto”, escribió la junta, lo que incluye actuar “en el mejor interés de las niñas que se han visto afectadas y en el mejor interés de la escuela a largo plazo”.
La escuela dijo que se ha ofrecido asesoramiento a los estudiantes y que la institución está revisando los procedimientos de informes, las prácticas de seguridad y otras políticas relacionadas con la seguridad de los estudiantes.