OpenAI derrocará operaciones secretas vinculadas a China – MundoDaily

El uso del chatbot de inteligencia artificial de la compañía para crear documentos internos, así como otra operación china para crear materiales de marketing que promueven su trabajo, ocurre cuando China aumenta sus esfuerzos para influir en la opinión y conducir a la vigilancia en línea.

«Lo que estamos viendo en China es una gama creciente de operaciones secretas que utilizan una gama creciente de tácticas», dijo Ben Nimmo, investigador líder de inteligencia e investigación de OpenAI, sobre una conexión con los periodistas sobre el último informe de amenazas de la compañía.

En los últimos tres meses, Openai dice que ha interrumpido 10 operaciones utilizando sus herramientas de IA de manera maliciosa y ha prohibido las cuentas conectadas con ellas. Cuatro de las operaciones probablemente se originaron en China, dijo la compañía.

Las operaciones vinculadas a China han dirigido muchos países y temas diferentes, incluido un juego de estrategia. Algunos de ellos combinaron elementos de operaciones de influencia, ingeniería social, vigilancia. Y trabajaron en varias plataformas y sitios web diferentes «, dijo Nimmo.

Una operación china, que Openai apeló de «Sneer Review», utilizó ChatGPT para generar comentarios cortos que se publicaron en Tiktok, X, Reddit, Facebook y otros sitios, en inglés, chino y urdu. Los sujetos incluyeron el desmantelamiento de Trump de la agencia estadounidense para el desarrollo internacional, con publicaciones alabando y criticando el cambio, así como las críticas a un juego de Taiwán en el que los jugadores trabajan para derrotar al Partido Comunista Chino.

En muchos casos, la operación generó una publicación y comentarios que respondieron, el informe de comportamiento de OpenAI dijo que «parecía diseñado para crear una falsa impresión de participación orgánica». La operación utilizó ChatGPT para generar comentarios críticos sobre el juego y luego escribir un artículo de formato largo, alegando que el juego ha recibido una reacción generalizada.

Los actores detrás de Sneer Review también utilizaron las herramientas OpenaI para realizar trabajos internos, incluida la creación de «una revisión de rendimiento que describe, en detalle, los pasos que se toman para establecer y ejecutar la operación», dijo OpenAI. «Los comportamientos de las redes sociales que observamos a lo largo de la red reflejaron de cerca los procedimientos descritos en esta revisión».

Otra operación que OpenAi llamó a China se centró en recopilar inteligencia, haciéndose pasar por periodistas y analistas geopolíticos. Utilizó ChatGPT para escribir publicaciones y biografías x -Count, traducir e -sils y mensajes chinos al inglés y analizar datos. Esto incluía «la correspondencia dirigida a un senador estadounidense sobre el nombramiento de un funcionario del gobierno», dijo OpenAi, pero agregó que no pudo confirmar independientemente de si se envió la correspondencia.

«También usaron nuestros modelos para generar lo que parecían materiales de marketing», dijo Nimmo. En estos, la operación dijo que realizó «falsas redes sociales y campañas de redes sociales diseñadas para reclutar fuentes de inteligencia», que se alineó con su actividad en línea, dijo OpenAi en su informe.

En un Informe de amenaza anterior de febrero, Openai identificó una operación de vigilancia vinculada por China que afirmaba monitorear las redes sociales «para alimentar informes de tiempo real sobre protestas en el oeste de los servicios de seguridad chinos». La operación utilizó las herramientas OperaI para purificar el código y escribir descripciones que podrían usarse en lanzamientos de ventas para la herramienta de monitoreo de redes sociales.

En su nuevo informe publicado el miércoles, Openai dijo que también interrumpió las operaciones secretas de influencia que probablemente se originan en Rusia e Irán, una operación de spam atribuida a una empresa de marketing comercial filipino, un golpe de reclutamiento vinculado a Camboya y una campaña de empleo engañosa con las características de las operaciones relacionadas con el norte.

«Vale la pena reconocer la amplia variedad y variedad de tácticas y plataformas que usan estas operaciones, todas juntas», dijo Nimmo. Sin embargo, dijo que las operaciones fueron ampliamente interrumpidas en sus primeras etapas y que no llegaron a un gran público de personas reales.

«Por lo general, no vemos que estas operaciones obtengan más compromiso debido al uso de la IA», dijo Nimmo. «Para estas operaciones, las mejores herramientas no necesariamente significan mejores resultados».