Meta comenzará a etiquetar imágenes generadas por IA en Instagram y Facebook – MundoDaily

Pronto, imágenes similares publicadas en Instagram, Facebook o Threads podrían llevar una etiqueta que revele que fueron producto de sofisticadas herramientas de inteligencia artificial que pueden generar imágenes, videos, audio y texto altamente plausibles a partir de instrucciones simples.

Meta, propietaria de las tres plataformas, dijo el martes que comenzará a etiquetar imágenes creadas con herramientas líderes de inteligencia artificial en los próximos meses. La medida llega en un momento en que las empresas de tecnología –tanto las que crean software de inteligencia artificial como las que albergan sus resultados– están bajo una presión cada vez mayor para abordar el potencial de la tecnología de punta para engañar a las personas.

Estas preocupaciones son particularmente graves ahora que millones de personas votan este año en elecciones de alto perfil en todo el mundo. Expertos y reguladores han advertido que los deepfakes (medios manipulados digitalmente) podrían utilizarse para exacerbar los esfuerzos por engañar, desalentar y manipular a los votantes.

Meta y otras empresas de la industria han estado trabajando para desarrollar marcadores invisibles, incluidas marcas de agua y metadatos, que indiquen que el contenido fue creado por IA. Meta dijo que comenzará a usar estas etiquetas para aplicar etiquetas en múltiples idiomas en sus aplicaciones para que los usuarios de sus plataformas sepan si lo que están viendo es real o falso.

«A medida que la diferencia entre contenido humano y sintético se desdibuja, la gente quiere saber dónde está el límite», escribió Nick Clegg, presidente de asuntos globales de Meta, en una publicación del blog de la empresa. “La gente suele encontrarse por primera vez con contenido generado por IA y nuestros usuarios nos han dicho que aprecian la transparencia en torno a esta nueva tecnología. Por eso es importante que ayudemos a las personas a saber cuándo el contenido fotorrealista que ven se creó utilizando IA”.

Las etiquetas se aplicarán a imágenes de Google, Microsoft, OpenAI, Adobe, Midjourney y Shutterstock, pero sólo cuando estas empresas comiencen a incluir marcas de agua y otros metadatos técnicos en las imágenes creadas por su software. Las imágenes creadas con las propias herramientas de IA de Meta ya están etiquetadas como «Imaginadas con IA».

Esto todavía deja lagunas. Es posible que otros generadores de imágenes, incluidas las plantillas de código abierto, nunca incorporen este tipo de marcadores. Meta dijo que está trabajando en herramientas para detectar automáticamente contenido de IA, incluso si ese contenido no tiene marcas de agua ni metadatos.

Es más, las metaetiquetas sólo se aplican a fotografías estáticas. La compañía dijo que aún no puede etiquetar el audio o video generado por IA de esta manera porque la industria aún no ha comenzado a incluir estos datos en las herramientas de audio y video.

Por ahora, Meta cuenta con los usuarios para llenar el vacío. El martes, la compañía dijo que comenzará a exigir a los usuarios que revelen cuando publiquen “un video o audio fotorrealista con sonido realista que fue creado o alterado digitalmente” y que puede penalizar a las cuentas que no lo hagan.

“Si determinamos que el contenido de imagen, video o audio creado o alterado digitalmente crea un riesgo particularmente alto de engañar materialmente al público sobre un asunto importante, podemos agregar una etiqueta más destacada, si corresponde, para que las personas tengan más información y contexto. » dijo Clegg.

Esto amplía el requisito de Goal, introducido en noviembre, de que los anuncios políticos incluyan una divulgación si generan o alteran digitalmente imágenes, videos o audio.

TikTok y YouTube también exigen que los usuarios revelen cuándo publican contenido realista generado por IA. El otoño pasado, TikTok dijo que comenzaría a realizar pruebas y aplicar etiquetas automáticamente al contenido que detecta que fue creado o editado con IA.