Cómo los deepfakes y los memes de IA afectaron las elecciones mundiales en 2024 – MundoDaily

En enero, miles de votantes de New Hampshire levantaron sus teléfonos para escuchar lo que sonó como si el presidente Biden les dijera a los demócratas que no votaran en las primarias del estado, a pocos días de distancia.

“Sabemos el valor de votar por los demócratas cuando nuestros votos cuentan. Es importante que guardes tu voto para las elecciones de noviembre”, dijo la voz en la línea.

Pero no fue Biden. Fue un deepfake creado con inteligencia artificial, y la manifestación de los temores de que la ola electoral mundial de 2024 estuviera plagada de imágenes, audio y videos falsos, debido a los rápidos avances en la tecnología de inteligencia artificial generativa.

«La situación de pesadilla era que el día anterior, el día de las elecciones, el día después de las elecciones, alguna imagen grandilocuente, algún video o audio grandilocuentes simplemente incendiaría el mundo», dijo Hany Farid, profesor de la Universidad de California. en Berkeley. que estudia los medios manipulados.

El deepfake de Biden acabó siendo encargado por un consultor político demócrata que dijo que lo hizo para crear conciencia sobre la IA. La FCC le impuso una multa de 6 millones de dólares y lo acusó de cargos penales en New Hampshire.

Pero a medida que avanzaba el año 2024, la temida ola de deepfakes engañosos y dirigidos no llegó a materializarse.

«No fue el año electoral de la IA como mucha gente predijo», dijo Zeve Sanderson, que estudia cómo la información digital está cambiando la sociedad en el Centro de Política y Medios Sociales de la Universidad de Nueva York.

En cambio, el uso más visible de la IA en muchos países ha sido la creación de memes y contenidos cuyos orígenes artificiales no han sido disfrazados. A menudo eran abiertamente compartidas por los políticos y sus partidarios.

Farid dijo que este año estaba más preocupado por este tipo de “muerte por mil cortes” que por la bomba de la IA.

“No creo que las imágenes hayan sido diseñadas para ser abiertamente engañosas, sino para promover una narrativa y las obras de propaganda”, dijo. «Creo que hubo una contaminación general del ecosistema de la información, donde la gente empezó a darse por vencida».

Resucitar a un dictador muerto

Tomemos como ejemplo Indonesia, donde el partido político Golkar utilizó IA para revivir a Suharto el dictador que murió en 2008.

“Soy Suharto, el segundo presidente de Indonesia”, dice AI Suharto antes de apoyar a los candidatos del partido, en un vídeo publicado en la red social X por el vicepresidente de Golkar. El falso Suharto dice que los candidatos de Golkar “continuarán mi sueño del progreso de Indonesia”.

Poco después, el yerno de Suharto –que también contaba con el apoyo de Golkar– fue elegido presidente.

Los memes de IA también prevalecieron en India, donde la primavera pasada tuvo lugar el ejercicio democrático más grande del mundo.

En mayo, en un bazar en Jaipur, un comerciante llamado Dilip, que solo tiene un nombre, dijo a que sus amigos le enviaban memes generados por IA en WhatsApp, la popular plataforma de mensajería propiedad de Meta.

Dijo que le gustaban aquellos que se burlaban del líder de la oposición Rahul Gandhi, como uno en el que una versión artificial de Gandhi era retratada como un ladrón sin sentido, imaginando todo el dinero que robaría si ganara.

Aún así, Dilip dijo que a pesar de los memes, ya había decidido por quién votar.

Un artista de IA generativa en la India, que profesionalmente se conoce con el nombre de Sahid SK, dijo que adoptó los memes porque había menos riesgo de ser demandado por difamación por candidatos enojados. Dijo que los memes son un guiño, no una tergiversación total.

“Creo que esa es la única razón por la que no hemos visto muchos deepfakes en estas elecciones. Porque todo el mundo tiene miedo de los avisos legales”, afirmó Sahid SK.

En la India y otros países se han difundido muchas narrativas falsas y engañosas sin el uso de IA, sino a través de vídeos editados y manipulados conocidos como “cheapfakes”.

Musk y Trump adoptan memes generados por IA

En Estados Unidos, los memes políticos y los videos virales han abarcado todo el espectro, desde imágenes retocadas con Photoshop y clips fuera de contexto hasta retratos generados por inteligencia artificial de la vicepresidenta Kamala Harris en traje soviético y de Americanos negros apoyando al expresidente Donald Trump.

En julio, Elon Musk, propietario de X, compartió un anuncio falso en el que un clon de IA La voz de Harris se describe a sí misma como «la mejor contratación de diversidad», sin revelar que el video fue publicado originalmente como una parodia.

Musk y otros partidarios de Trump compartían con frecuencia memes de IA burlándose de Harris y los demócratas y alentando al expresidente.

El propio Trump publicó una imagen de dibujos animados de IA que pretendía mostrar a Taylor Swift apoyándolo, lo cual, para ser claros, ella no lo hizo.

Sanderson dijo que el uso de la IA no pretende cambiar las opiniones de las personas, sino más bien «hacer que su candidato preferido parezca patriótico o noble (o) hacer que su candidato contrario parezca malvado». Señaló que estas manipulaciones podrían realizarse con herramientas tradicionales de edición de fotografías y vídeos, pero «la IA generativa lo hace un poco más fácil».

Sanderson también advirtió que es posible que la IA se haya utilizado de formas menos detectables. «Todavía no creo que tengamos una idea realmente buena y rigurosa de cómo se ha utilizado la IA generativa a escala, por quién y con qué fines», afirmó.

Es más, es difícil trazar una línea directa entre las falsificaciones de IA identificadas este año y la forma en que la gente votó, dice Farid de UC Berkeley.

«¿Creo que cambió el resultado de las elecciones? No», dijo. «¿Creo que ha impactado el pensamiento de la gente? Sí, creo que sí. Y creo que seguirá haciéndolo».