Las adolescentes se enfrentan a una epidemia de desnudos falsos en las escuelas – MundoDaily

Las Escuelas Públicas de Westfield celebraron una reunión ordinaria de la junta directiva a finales de marzo en la escuela secundaria local, un complejo de ladrillos rojos en Westfield, Nueva Jersey, con un marcador en el exterior dando la bienvenida con orgullo a los equipos deportivos visitantes, “Hogar de los Diablos Azules”.

Pero las cosas no fueron como de costumbre para Dorota Mani.

En octubre, algunas niñas de décimo grado en Westfield High School, incluida Francesca, la hija de 14 años de Mani, alertaron a los administradores de que los niños de su clase habían utilizado software de inteligencia artificial para fabricar imágenes sexualmente explícitas de ellas y estaban haciendo circular las falsas imágenes. Cinco meses después, dicen los Manis y otras familias, el distrito ha hecho poco para abordar públicamente las imágenes manipuladas o actualizar las políticas escolares para evitar el uso explotador de la IA.

“Parece que la administración de Westfield High School y el distrito están participando en una clase magistral para hacer que este incidente desaparezca en el aire”, advirtió Mani, fundadora de una escuela preescolar local, a los miembros de la junta durante la reunión.

En un comunicado, el distrito escolar dijo que abrió una “investigación inmediata” al enterarse del incidente, notificó y consultó inmediatamente con la policía y brindó asesoramiento grupal a la clase de segundo año.

«Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y lugar», dijo en el comunicado Raymond González, superintendente de las Escuelas Públicas de Westfield.

Sorprendidas el año pasado por la repentina popularidad de los chatbots impulsados ​​por inteligencia artificial como ChatGPT, las escuelas de todo Estados Unidos se apresuraron a frenar los bots que generan texto en un esfuerzo por evitar que los estudiantes hagan trampa. Ahora, un fenómeno más alarmante de imágenes de IA está sacudiendo las escuelas.

Los niños de varios estados han utilizado aplicaciones de “nudificación” ampliamente disponibles para pervertir fotografías reales e identificables de sus compañeros de clase vestidos, asistiendo a eventos como fiestas de graduación, en imágenes gráficas y de apariencia convincente de niñas con senos y genitales expuestos generados por IA. En algunos casos, los niños compartieron imágenes falsas en la cafetería de la escuela, en el autobús escolar o mediante chats grupales en plataformas como Snapchat e Instagram, según informes de la escuela y la policía.

Estas imágenes alteradas digitalmente, conocidas como “deepfakes” o “deepnudes”, pueden tener consecuencias devastadoras. Los expertos en explotación sexual infantil dicen que el uso de imágenes no consensuadas generadas por IA para acosar, humillar e intimidar a mujeres jóvenes puede dañar su salud mental, reputación y seguridad física, además de plantear riesgos para sus perspectivas universitarias y profesionales. El mes pasado, la Oficina Federal de Investigaciones advirtió que es ilegal distribuir material de abuso sexual infantil generado por computadora, incluidas imágenes de aspecto realista generadas por IA de menores identificables que participan en conductas sexualmente explícitas.

Sin embargo, el uso por parte de los estudiantes de aplicaciones explotadoras de IA en las escuelas es tan nuevo que algunos distritos parecen menos preparados para abordarlo que otros. Esto puede hacer que las salvaguardias para los estudiantes sean precarias.

«Este fenómeno ha surgido muy repentinamente y puede estar dejando a muchos distritos escolares sin preparación y sin saber qué hacer», dijo Riana Pfefferkorn investigador del Observatorio de Internet de Stanford, que escribe sobre Cuestiones legales relacionadas con imágenes de abuso sexual infantil generadas por computadora..

El otoño pasado, en la escuela secundaria Issaquah, cerca de Seattle, un detective de la policía que investigaba quejas de padres sobre imágenes explícitas generadas por IA de sus hijas de 14 y 15 años preguntó a un subdirector por qué la escuela no había informado del incidente a la policía. según un informe del Departamento de Policía de Issaquah. Luego, la empleada de la escuela preguntó “qué debía denunciar”, según el documento policial, lo que llevó al detective a informarle que las escuelas están obligadas por ley a denunciar abusos sexuales, incluido posible material de abuso sexual infantil. Posteriormente, la escuela informó del incidente a los Servicios de Protección Infantil, según el informe policial. (El New York Times obtuvo el informe policial a través de una solicitud de registros públicos).

En un comunicado, el Distrito Escolar de Issaquah dijo que habló con estudiantes, familias y policía como parte de su investigación sobre deepfakes. El distrito también “compartimos nuestra empatía”, decía el comunicado, y brindó apoyo a los estudiantes afectados.

La declaración agregaba que el distrito reportó las “imágenes falsas generadas por IA a los Servicios de Protección Infantil por precaución”, y señaló que “según nuestro equipo legal, no estamos obligados a reportar imágenes falsas a la policía. «

En la escuela secundaria Beverly Vista en Beverly Hills, California, los administradores contactaron a la policía en febrero después de enterarse de que cinco niños habían creado y compartido imágenes explícitas de sus compañeros de clase generadas por IA. Dos semanas después, la junta escolar aprobó la expulsión de cinco estudiantes, según documentos del distrito. (El distrito dijo que el código de educación de California le prohibía confirmar si los estudiantes expulsados ​​eran los estudiantes que fabricaron las imágenes).

Michael Bregy, superintendente del Distrito Escolar Unificado de Beverly Hills, dijo que él y otros líderes escolares querían sentar un precedente nacional de que las escuelas no deberían permitir a los estudiantes crear y difundir imágenes sexualmente explícitas de sus compañeros.

«Esto es un acoso extremo cuando se trata de escuelas», dijo el Dr. Bregy, señalando que las imágenes gráficas eran «perturbadoras y violentas» para las niñas y sus familias. «Es algo que aquí no toleraremos en absoluto».

Escuelas en comunidades pequeñas y ricas Beverly Hills y Westfield estuvieron entre los primeros en reconocer públicamente los incidentes deepfake. Los detalles de los casos—descritos en las comunicaciones del distrito con los padres, reuniones de la junta escolar, audiencias legislativas y expedientes judiciales—ilustran la variabilidad de las respuestas de las escuelas.

El incidente de Westfield comenzó el verano pasado, cuando un estudiante de secundaria pidió ser amigo de una compañera de 15 años en Instagram que tenía una cuenta privada, según una demanda contra el chico y sus padres presentada por la joven y su familia. (Los Manis dijeron que no están involucrados en la demanda).

Después de que ella aceptó la solicitud, el estudiante copió fotos de ella y de varios otros compañeros de sus cuentas de redes sociales, según documentos judiciales. Luego utilizó una aplicación de inteligencia artificial para fabricar imágenes sexualmente explícitas y “totalmente identificables” de las niñas y las compartió con sus compañeros de escuela a través de un grupo de Snapchat, según documentos judiciales.

Westfield High comenzó a investigar a finales de octubre. Mientras los administradores llamaban discretamente a algunos niños para interrogarlos, dijo Francesca Mani, la llamaron a ella y a otras niñas de décimo grado que habían sido sometidas a deepfakes a la oficina de la escuela, anunciando sus nombres por el intercomunicador de la escuela.

Esa semana, Mary Asfendis, directora de Westfield High, envió un correo electrónico a los padres advirtiéndoles sobre “una situación que ha resultado en una desinformación generalizada”. El correo electrónico describía los deepfakes como un «incidente muy grave». También afirmó que, a pesar de las preocupaciones de los estudiantes sobre el posible intercambio de imágenes, el colegio cree que “todas las imágenes creadas han sido eliminadas y no se están difundiendo”.

Dorota Mani dijo que los administradores de Westfield le dijeron que el distrito suspendió al estudiante acusado de fabricar las imágenes durante uno o dos días.

Poco después, ella y su hija comenzaron a hablar públicamente sobre el incidente, instando a los distritos escolares, a los legisladores estatales y al Congreso a promulgar leyes y políticas que prohíban específicamente los deepfakes explícitos.

“Tenemos que empezar a actualizar nuestra política escolar”, dijo Francesca Mani, que ahora tiene 15 años, en una entrevista reciente. «Porque si la escuela tuviera políticas de IA, los estudiantes como yo estarían protegidos».

Los padres, incluida Dorota Mani, también presentaron quejas de acoso ante Westfield High el otoño pasado por las imágenes explícitas. Sin embargo, durante la reunión de marzo, Mani dijo a los miembros de la junta escolar que la escuela aún no había proporcionado a los padres un informe oficial sobre el incidente.

Las Escuelas Públicas de Westfield dijeron que no podían comentar sobre ninguna acción disciplinaria por razones de confidencialidad de los estudiantes. En un comunicado, el Dr. González, el superintendente, dijo que el distrito estaba fortaleciendo sus esfuerzos al “educar a nuestros estudiantes y establecer pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable”.

Las escuelas de Beverly Hills han adoptado una postura pública más firme.

Cuando los administradores se enteraron en febrero de que los niños de octavo grado de la escuela secundaria Beverly Vista habían creado imágenes explícitas de compañeros de clase de 12 y 13 años, rápidamente enviaron un mensaje (asunto: “Terrible mal uso de la inteligencia artificial”) a todos. padres, personal y estudiantes K-12 en el distrito. El mensaje instaba a los miembros de la comunidad a compartir información con la escuela para ayudar a garantizar que el uso «perturbador e inapropiado» de la IA por parte de los estudiantes «se detenga inmediatamente».

También advirtió que el distrito estaba dispuesto a imponer castigos severos. “Cualquier estudiante que cree, difunda o posea imágenes de esta naturaleza generadas por IA se enfrentará a medidas disciplinarias”, incluida una recomendación de expulsión, decía el mensaje.

Bregy, el superintendente, dijo que las escuelas y los legisladores debían actuar rápidamente porque el abuso de la IA hacía que los estudiantes se sintieran inseguros en las escuelas.

«Se oye mucho sobre la seguridad física en las escuelas», dijo. «Pero lo que no se escucha es esta invasión de la seguridad personal y emocional de los estudiantes».