Los investigadores están probando cómo la IA puede ayudar en la diplomacia. Tiene un camino a seguir
– MundoDaily

Con el financiamiento de la principal oficina de inteligencia digital y artificial del Pentágono, el laboratorio es Experimentar con ChatGPT y Deepseek para explorar cómo se pueden aplicar a los problemas de guerra y paz.

Mientras que en los últimos años las herramientas de IA se han mudado a Ministerios de Relaciones Exteriores de todo el mundo Para ayudar con las tareas diplomáticas de rutina, como la redacción del habla, estos sistemas ahora son vistos cada vez más por su potencial para ayudar a tomar decisiones en situaciones de alto riesgo. Los investigadores están probando el potencial de la IA para crear acuerdos de paz, prevenir la guerra nuclear y monitorear el cumplimiento de CeaseFog.

EL Defensa y Estado Los departamentos también están experimentando sus propios sistemas de IA. Estados Unidos tampoco es el único jugador. El Reino Unido es Trabajando en «nuevas tecnologías» Revise las prácticas diplomáticas, incluido el uso de AI para planificar escenarios de negociación. Hasta Investigadores en Irán Lo están mirando.

El laboratorio del director de futuros, Benjamin Jensen, dice que si bien la idea de usar la IA como herramienta para hacer que la toma de decisiones de política exterior lo haya puesto en práctica todavía está en su infancia.

Palomas y halcones en ia

En un estudio, investigadores del laboratorio Probado ocho modelos de IA Al alimentarles a decenas de miles de preguntas sobre temas como la disuasión y la crisis de escalada para determinar cómo responderían a los escenarios en los que los países podrían decidir atacarse entre sí o ser pacíficos.

Los resultados revelaron que modelos como OpenAi y Claude de antrópico GPT-4 eran «claramente pacifistas», según el colega CSIS Yasir Atalan. Optaron por el uso de la fuerza en menos del 17% de los escenarios. Pero otros tres modelos lo evaluaron a la meta, la nube de Alibaba Qwen2, y los gemelos de Google fueron mucho más agresivos, favoreciendo la escalada sobre la dachalación con mucha más frecuencia hasta el 45% del tiempo.

Además, los resultados variaron según el país. Para un diplomático imaginario de los Estados Unidos, el Reino Unido o Francia, por ejemplo, estos sistemas de IA tendían a recomendar una declitación más agresiva de la humanidad de la escala de políticas como el mejor consejo para Rusia o China. Esto muestra que «no puedes usar solo modelos listos para usar», dice Atalan. «Debe evaluar sus estándares y alinearlos con su enfoque institucional».

Russ Berkoff, un oficial retirado del Ejército de EE. UU. Y estratega de IA de la Universidad Johns Hopkins, ve esta variabilidad como un producto de la influencia humana. «Las personas que escriben el software, sus prejuicios vienen con él», dice. «Un algoritmo puede subir; otro puede escalar. No se trata de AI. Se trata de quién lo construyó».

La causa raíz de estos curiosos resultados tiene un problema en efectivo negro, dice Jensen. «Es realmente difícil saber por qué lo está calculando», dice. «El modelo no tiene valores o realmente hace juicios. Simplemente hace matemáticas».

CSIS lanzó recientemente un programa interactivo llamado «Vientos de cabeza estratégica» Diseñado para ayudar a dar forma a las negociaciones para poner fin a la guerra en Ucrania. Para construirlo, dice Jensen, los investigadores de laboratorio comenzaron a capacitar a un modelo de IA sobre cientos de tratados de paz y artículos de noticias de código abierto que detallaban la posición comercial en cada lado. El modelo utiliza esta información para encontrar áreas de acuerdo con que puede mostrar una manera hacia un alto el fuego.

Nodo Instituto Integrado de Transición (IFIT) En España, el director ejecutivo Mark Freeman cree que este tipo de herramienta de inteligencia artificial podría apoyar la resolución de conflictos. La diplomacia tradicional generalmente ha priorizado las largas e integrales negociaciones de paz. Pero Freeman argumenta que la historia muestra que este enfoque es el fracaso. Analizando los conflictos pasados, encuentra que los acuerdos «más rápido y cese -cese», de alquiler limitado, los detalles delgados para ser elaborados más tarde producen resultados más bien meditados.

En cambio, IFIT ha desarrollado un enfoque rápido, diseñado para llegar a un acuerdo al comienzo de un conflicto para resultados y acuerdos de paz mejores duraderos. Freeman cree que la IA «puede hacer que la negociación sea más rápida aún más rápida».

Andrew Moore, miembro adjunto del Centro para la Nuevo Seguridad Americana, ve esta transición como inevitable. «Eventualmente puedes hacer que AIS comience la negociación … y el negociador humano dice: ‘Está bien, genial, ahora nos acercamos a las piezas finales'», dice.

Moore ve un futuro en el que los bots simulan líderes como Vladimir Putin de Rusia y Xi Jinping de China para que los diplomáticos puedan probar las respuestas a las convulsiones. También piensa que las herramientas de IA pueden ayudar a monitorear cese -fogo, análisis de imágenes satelitales y aplicación de sanciones. «Las cosas que una vez toman equipos enteros pueden ser parcialmente automatizados», dice.

Extrañas salidas en la disuasión del Ártico

Jensen es el primero en reconocer posibles trampas para este tipo de aplicaciones. Él y sus colegas de CSIS a veces enfrentan resultados involuntariamente cómicos para problemas graves, como cuando se pidió un sistema de IA por «disuasión ártica».

Los diplomáticos humanos entenderían que esto se refiere a las potencias occidentales que luchan contra la influencia rusa o china en las latitudes del norte y el potencial de conflicto allí.

Ai siguió por otro lado.

Cuando los investigadores usaron la palabra «disuasión», la IA «tiende a pensar en la aplicación de la ley, no la escalada nuclear» u otros conceptos militares, dice Jensen. «Y cuando dices ‘Ártico’, imagina la nieve. Así que estábamos obteniendo estas extrañas salidas sobre la subida de la fuerza», dice, mientras especulaba sobre el regalo de las personas del Ártico indígena «para lanzar bolas de nieve».

Jensen dice que solo significa que los sistemas deben ser capacitados, con insumos como tratados de paz y cables diplomáticos, para comprender el lenguaje de la política exterior.

«Hay más videos de gatos y compañías calientes sobre los Kardashians que las discusiones sobre la crisis de misiles cubanos», dice.

No puede replicar una conexión humana, todavía

Stefan Heumann, codirector de Stiftung Neue Verantwrtung, con sede en Berlín, un grupo de expertos sin fines de lucro que trabaja en la intersección de la tecnología y las políticas públicas, tiene otras preocupaciones. «Las conexiones humanas, las relaciones personales entre los líderes, pueden cambiar el curso de las negociaciones», dice. «Ahí no puedes replicar eso».

Al menos hoy, IA también lucha por evaluar las consecuencias a largo plazo de las decisiones a corto plazo, dice Heumann, miembro de la Comisión de Especialistas en el Parlamento alemán en inteligencia artificial. «Los apegados en Munich en 1938 fueron vistos como una escala, pero llevó a una catástrofe», dice, señalando el acuerdo que dio parte de Checoslovaquia a la Alemania nazi antes de la Segunda Guerra Mundial. «Etiquetas como ‘Climbing’ y ‘Descalam’ son demasiado simplistas».

La IA tiene otras limitaciones importantes, dice Heumann. «Posterado en entornos abiertos y libres», pero «no resolverá mágicamente nuestros problemas de inteligencia en sociedades cerradas como Corea del Norte o Rusia».

Compare esto con la amplia disponibilidad de información sobre sociedades abiertas como los Estados Unidos que podrían usarse para capacitar a los sistemas de IA enemigos, dice Andrew Reddie, fundador y director del Laboratorio de Riesgos y Riesgos de Berkeley en la Universidad de California, Berkeley. «Los oponentes de los Estados Unidos tienen una ventaja realmente significativa porque publicamos todo … y no lo hacen», dice.

Reddie también reconoce algunas de las limitaciones de la tecnología. Si bien la diplomacia sigue a una narrativa familiar, todo puede ir bien, dice, pero «si realmente crees que tu desafío geopolítico es un cisne negro, las herramientas de IA no te serán útiles».

Jensen también reconoce muchas de estas preocupaciones, pero cree que pueden superarse. Tus miedos son más prosaicos. Jensen ve dos posibles futuros para el papel de los sistemas de IA en el futuro de la política exterior estadounidense.

«En una versión del futuro del Departamento de Estado … llevamos cables diplomáticos y capacitamos (allí) en tareas diplomáticas». Y la IA escupe información útil que se puede utilizar para resolver problemas apremiantes.

La otra versión, sin embargo, «parece algo fuera de Idiocracia«Él dice, refiriéndose a la película de 2006 sobre un futuro distópico, Baixo-IQ». Todos tienen un asistente digital, pero es tan inútil como Microsoft Clippy.«