Google se une a esfuerzos para ayudar a identificar contenido creado con IA – MundoDaily

Google, cuyo trabajo en inteligencia artificial ha ayudado a que el contenido generado por IA sea mucho más fácil de crear y difundir, ahora quiere asegurarse de que este contenido también sea rastreable.

El gigante tecnológico dijo el jueves que se uniría a un esfuerzo para desarrollar credenciales para contenido digital, una especie de “etiqueta nutricional” que identifica cuándo y cómo se produjo o modificó una fotografía, video, clip de audio u otro archivo, incluso con IA. colaborará con empresas como Adobe, BBC, Microsoft y Sony para ajustar los estándares técnicos.

El anuncio sigue una promesa similar anunciada el martes por Meta, que, al igual que Google, ha permitido la fácil creación y distribución de contenido generado artificialmente. Meta dijo que promoverá etiquetas estandarizadas que identifiquen este material.

Google, que ha pasado años invirtiendo dinero en sus iniciativas de inteligencia artificial, dijo que exploraría cómo incorporar la certificación digital en sus propios productos y servicios, aunque no especificó su calendario ni su alcance. Su chatbot Bard está conectado a algunos de los servicios al consumidor más populares de la compañía, como Gmail y Docs. En YouTube, que es propiedad de Google y se incluirá en el esfuerzo de acreditación digital, los usuarios pueden encontrar rápidamente videos con avatares digitales realistas que pontifican sobre eventos actuales en voces impulsadas por servicios de texto a voz.

Reconocer de dónde proviene el contenido en línea y cómo cambia es una alta prioridad para los formuladores de políticas y los organismos de control de la tecnología en 2024, cuando miles de millones de personas votarán en elecciones importantes en todo el mundo. Después de años de desinformación y polarización, las imágenes y el audio realistas producidos por inteligencia artificial y herramientas de detección de inteligencia artificial poco confiables han hecho que las personas duden aún más de la autenticidad de las cosas que ven y escuchan en Internet.

Configurar archivos digitales para incluir un registro verificado de su historial podría hacer que el ecosistema digital sea más confiable, según quienes apoyan un estándar de certificación universal. Google se unirá al comité directivo de uno de estos grupos, la Coalición para la Procedencia y Autenticidad del Contenido, o C2PA, o Estándares C2PA, contaron con el apoyo de organizaciones de noticias como The New York Times, así como de fabricantes de cámaras, bancos y agencias de publicidad.

Laurie Richardson, vicepresidenta de confianza y seguridad de Google, dijo en un comunicado que la compañía espera que su trabajo «proporcione un contexto importante para las personas, ayudándolas a tomar decisiones más informadas». Destacó otros esfuerzos de Google para brindar a los usuarios más información sobre el contenido en línea que encuentran, incluido etiquetar material de IA en YouTube y ofrecer detalles sobre imágenes en la Búsqueda.

Los esfuerzos por adjuntar credenciales a los metadatos (la información subyacente incorporada en los archivos digitales) no son perfectos.

OpenAI dijo esta semana que sus herramientas de imágenes de IA pronto agregarían marcas de agua a las imágenes de acuerdo con los estándares C2PA. A partir del lunes, dijo la compañía, las imágenes generadas por su chatbot en línea, ChatGPT, y su tecnología de imágenes autónoma, DALL-E, incluirán una marca de agua visual y metadatos ocultos diseñados para identificarlas como creadas por inteligencia artificial. Sin embargo, el cambio «no es una solución milagrosa para resolver los problemas de procedencia», dijo OpenAI, y agregó que las etiquetas «pueden eliminarse fácilmente de forma accidental o intencionada».

(The New York Times Company está demandando a OpenAI y Microsoft por infracción de derechos de autor, acusando a las empresas de tecnología de utilizar artículos del Times para entrenar sistemas de IA).

Existe «un sentido compartido de urgencia» para reforzar la confianza en el contenido digital, según una publicación de blog el mes pasado de Andy Parsons, director senior de la Iniciativa de Autenticidad de Contenido de Adobe. La compañía lanzó herramientas de inteligencia artificial el año pasado, incluido el software de generación de arte con inteligencia artificial Adobe Firefly y una herramienta de Photoshop conocida como relleno generativo, que utiliza inteligencia artificial para expandir una fotografía más allá de sus fronteras.

“Lo que está en juego nunca ha sido tan grande”, escribió Parsons.