X bloquea las búsquedas de Taylor Swift: lo que hay que saber sobre los deepfakes virales de IA – MundoDaily

La plataforma de redes sociales X ha bloqueado las búsquedas de una de las personalidades más populares del mundo, Taylor Swift, después de que imágenes explícitas de inteligencia artificial de la cantautora se volvieran virales.

Los deepfakes han inundado numerosos sitios de redes sociales, desde Reddit hasta Facebook. Esto ha renovado los llamamientos para fortalecer la legislación sobre la IA, especialmente cuando se utiliza indebidamente para el acoso sexual.

Esto es lo que necesita saber sobre el episodio de Swift y la legalidad que rodea a los deepfakes.

¿Qué pasó con Taylor Swift?

El miércoles, imágenes sexualmente explícitas generadas por IA comenzaron a circular en los sitios de redes sociales, ganando terreno particularmente en X. Una imagen de la megaestrella fue vista 47 millones de veces durante las aproximadamente 17 horas que estuvo en vivo en X antes de ser eliminada el jueves.

El grupo de detección de deepfake Reality Defender dijo a la agencia de noticias Associated Press que rastreó docenas de imágenes únicas que se difundieron a millones de personas en Internet antes de ser eliminadas.

X prohibió las búsquedas Swift y las consultas relacionadas con fotografías, mostrando un mensaje de error.

Instagram y Threads, aunque permiten búsquedas de Swift, muestran un mensaje de advertencia al buscar específicamente imágenes.

¿Qué dicen plataformas como Sites X y AI?

El viernes, la cuenta de seguridad de X emitió un comunicado que reiteró la “política de tolerancia cero” de la plataforma respecto a la publicación de imágenes de desnudos no consensuales. Dijo que la plataforma estaba eliminando imágenes y tomando medidas contra las cuentas que violaban la política.

Meta también emitió un comunicado condenando el contenido y agregó que «tomará las medidas apropiadas según sea necesario».

«Estamos monitoreando de cerca la situación para asegurarnos de que cualquier otra infracción se aborde de inmediato y que el contenido se elimine», dijo la compañía.

OpenAI dijo que cuenta con salvaguardias para limitar la generación de contenido dañino en sus plataformas como ChatGPT y rechaza «solicitudes que soliciten el nombre de una figura pública, incluida Taylor Swift».

Microsoft, que ofrece un generador de imágenes basado en parte en el sitio web DALL-E, dijo el viernes que estaba investigando si su herramienta fue mal utilizada.

Kate Vredenburgh, profesora asistente en el Departamento de Filosofía, Lógica y Método Científico de la London School of Economics, destacó que los modelos de negocio de las redes sociales a menudo se basan en compartir contenido y su enfoque suele ser limpiar después de tal evento.

Swift no ha emitido ningún comunicado sobre las imágenes. La estrella del pop fue vista el domingo en un partido de la NFL en Estados Unidos, animando a su novio Travis Kelce mientras sus Kansas City Chiefs avanzaban al Super Bowl.

Publicar imágenes de desnudos no consentidos (NCN) está estrictamente prohibido en X y tenemos una política de tolerancia cero hacia este tipo de contenido. Nuestros equipos están eliminando activamente todas las imágenes identificadas y tomando las medidas adecuadas contra las cuentas responsables de publicarlas. Estamos cerca…

– Seguridad (@Seguridad) 26 de enero de 2024

¿Qué es un deepfake y cómo se puede utilizar indebidamente?

Swift no es la primera figura pública víctima de deepfakes, que son una forma de “medios sintéticos” o medios virtuales manipulados y modificados mediante inteligencia artificial.

Se pueden generar imágenes y videos desde cero, alimentando a las herramientas de inteligencia artificial con instrucciones sobre qué mostrar. Alternativamente, el rostro de alguien en un video o imagen se puede intercambiar con el de otra persona, como el de una figura pública.

Los videos falsos comúnmente se crean de esta manera para mostrar a políticos que respaldan ciertas declaraciones o a personas participando en actividades sexuales que nunca antes habían realizado. Recientemente, en India, deepfakes sexualmente explícitos de la actriz Rashmika Mandanna se volvieron virales en las redes sociales, generando un gran revuelo. Una aplicación de juegos utilizó un deepfake del ícono del cricket Sachin Tendulkar para promocionar su producto. Y en Estados Unidos, la campaña del ex candidato presidencial republicano Ron DeSantis produjo deepfakes que muestran al ex presidente Donald Trump, que lidera la carrera por la nominación presidencial del partido, besando al experto en salud pública Anthony Fauci, una figura odiada por muchos conservadores por su defensa. para mascarillas y vacunas durante la pandemia de COVID-19.

Si bien algunos deepfakes son fáciles de identificar debido a su baja calidad, otros pueden ser mucho más difíciles de distinguir de un vídeo real. Varias herramientas de IA generativa, como Midjourney, Deepfakes web y DALL-E, están disponibles para los usuarios de forma gratuita o a bajo precio.

Más del 96% de las imágenes deepfake actualmente en línea son de naturaleza pornográfica y casi todas están dirigidas a mujeres, según un informe de Sensity AI, una empresa de inteligencia centrada en detectar deepfakes.

¿Existe alguna legislación que pueda proteger a los usuarios en línea?

La legislación que aborda específicamente los deepfakes varía según el país y, por lo general, abarca desde exigir la divulgación de los deepfakes hasta prohibir el contenido dañino o malicioso.

Diez estados de EE. UU., incluidos Texas, California e Illinois, tienen leyes penales contra los deepfakes. Los legisladores están presionando para que se apruebe un proyecto de ley federal similar o más restricciones a la herramienta. La representante estadounidense Yvette Clarke, demócrata de Nueva York, ha presentado una legislación que requeriría que los creadores coloquen una marca de agua digital en el contenido deepfake.

Los deepfakes sexualmente explícitos, cuando no son consensuados, pueden constituir una violación de las leyes más amplias del país. Estados Unidos no penaliza estos deepfakes, pero tiene leyes estatales y federales que apuntan a la privacidad, el fraude y el acoso.

En 2019, China implementó leyes que exigen la divulgación del uso de deepfakes en videos y medios. En 2023, el Reino Unido prohibió compartir pornografía deepfake como parte de su Ley de Seguridad en Línea.

Corea del Sur promulgó en 2020 una ley que penaliza la distribución de deepfakes que causen daño al interés público, imponiendo penas de hasta cinco años de prisión o multas que rondan los 50 millones de wones (43.000 dólares) para impedir su uso indebido.

En India, el gobierno federal emitió en diciembre un aviso a las redes sociales y plataformas de Internet para protegerse contra los deepfakes que violan las reglas de TI de la India. Los deepfakes en sí no son ilegales, pero dependiendo del contenido, pueden violar algunas de las reglas de tecnología de la información de la India.

Las dudas en torno a una regulación más estricta a menudo surgen de la preocupación de que podría frenar el progreso tecnológico.

«Simplemente se supone que no podríamos hacer estos cambios regulatorios o de diseño para reducir esto, al menos significativamente», dijo Vredenburgh. A veces, la actitud social también puede ser la de que estos incidentes son un precio a pagar por tales herramientas, lo que, según Vredenburgh, margina la perspectiva de las víctimas.

«Los retrata como una pequeña minoría de la sociedad que puede verse afectada por el bien de todos», dijo. “Y esa es una posición muy incómoda, socialmente, para todos nosotros”.

¿Cómo está reaccionando el mundo?

La Casa Blanca dijo que estaba “alarmada” por las imágenes, mientras que la base de seguidores de Swift, llamados Swifties, se movilizó para tomar medidas contra ellas.

«Si bien las empresas de redes sociales toman sus propias decisiones independientes sobre la gestión de contenidos, creemos que tienen un papel importante que desempeñar a la hora de hacer cumplir sus propias reglas para evitar la difusión de información errónea e imágenes íntimas y no consensuadas de personas reales», dijo la prensa de la Casa Blanca. secretaria Karine Jean. -Dijo Pierre en rueda de prensa.

Los legisladores estadounidenses también han expresado la necesidad de introducir salvaguardias.

Desde el miércoles, los fans de la cantante se apresuraron a denunciar los informes y lanzar una contraofensiva contra X con el hashtag #ProtectTaylorSwift para inundarlo con más imágenes positivas de Swift.

«A menudo confiamos en los usuarios y en las personas afectadas o en personas que se solidarizan con ellos para que hagan el arduo trabajo de presionar a las empresas», afirmó Vredenburgh, añadiendo que no todos pueden movilizar el mismo tipo de presión y, por tanto, confiar en la indignación. traducirse en un cambio duradero sigue siendo algo de qué preocuparse.