Millones de personas están utilizando robots abusivos de IA ‘Nudify’ en Telegram – MundoDaily

Kate Ruane, directora del proyecto de libertad de expresión del Centro para la Democracia y la Tecnología, dice que la mayoría de las principales plataformas tecnológicas ahora tienen políticas que prohíben la distribución no consensuada de imágenes íntimas, y muchas de las plataformas más grandes acordar principios para combatir los deepfakes. «Yo diría que en realidad no está claro si la creación o distribución no consentida de imágenes íntimas está prohibida en la plataforma», dice Ruane sobre Condiciones de servicio de Telegram que son menos detallados que otras plataformas tecnológicas importantes.

El enfoque de Telegram para eliminar contenido dañino ha sido criticado durante mucho tiempo por grupos de la sociedad civil, y la plataforma históricamente ha alojado a estafadores, grupos de extrema derecha y contenido relacionado con el terrorismo. Desde que el director ejecutivo y fundador de Telegram, Pavel Durov, fue arrestado y acusado en Francia en agosto en relación con una serie de posibles delitos, Telegram ha comenzado a realizar algunos cambios en sus términos de servicio y a proporcionar datos a las agencias encargadas de hacer cumplir la ley.

Realizar el daño

Ajder, el investigador que descubrió los bots deepfake de Telegram hace cuatro años, dice que la aplicación está posicionada casi exclusivamente para el abuso de deepfake. «Telegram proporciona una función de búsqueda que te permite identificar comunidades, chats y bots», dice Ajder. “Proporciona funcionalidad de alojamiento de bots, por lo que es un lugar que proporciona las herramientas necesarias. Así que también es el lugar donde puedes compartirlo y realmente hacer daño en términos del resultado final”.

A finales de septiembre, varios canales deepfake comenzaron a publicar que Telegram había eliminado sus bots. No está claro qué provocó las deportaciones. El 30 de septiembre, un canal con 295.000 suscriptores publicó que Telegram había «prohibido» sus bots, pero publicó un nuevo enlace de bot para que lo usaran los usuarios.

«Una de las cosas que realmente preocupa de aplicaciones como Telegram es que son muy difíciles de rastrear y monitorear, particularmente desde la perspectiva de un sobreviviente», dice Elena Michael, cofundadora y directora de #NotYourPorn, un grupo de campaña que trabaja para proteger gente. de abuso sexual basado en imágenes.

Michael dice que ha sido «notoriamente difícil» discutir cuestiones de seguridad con Telegram, pero señala que ha habido algunos avances por parte de la empresa en los últimos años. Sin embargo, dice que la empresa debería ser más proactiva a la hora de moderar y filtrar su propio contenido.

«Imagínese si fuera un superviviente que tuviera que hacer esto solo, seguramente la carga no debería recaer en una sola persona», dice Michael. «Ciertamente, la carga debería recaer en la empresa para implementar algo que sea proactivo en lugar de reactivo».