Este pronóstico de IA proporciona tormentas por delante – MundoDaily

El año es 2027. Los poderosos sistemas de inteligencia artificial se están volviendo más inteligentes que los humanos y causando daños al orden global. Los espías chinos han robado los secretos de IA de América, y la Casa Blanca se está ejecutando para tomar represalias. Dentro de un laboratorio IA líder, los ingenieros tienen miedo de descubrir que sus modelos están comenzando a engañarlos, lo que aumenta la posibilidad de que sean deshonestos.

Son escenas de un guión de ciencia ficción. Son escenarios previstos por una organización sin fines de lucro en Berkeley, California, llamado AI Futures Project, que pasó el año pasado tratando de predecir cómo se verá el mundo en los próximos años, a medida que se desarrollan los sistemas de IA cada vez más poderosos.

El proyecto está dirigido por Daniel Kokotajlo, una ex investigación de Openai que dejó la compañía el año pasado debido a sus preocupaciones de que estaba actuando imprudentemente.

Mientras estaba en OpenAi, donde estaba en el equipo de gobernanza, Kokotajlo escribió informes internos detallados sobre cómo la carrera por la inteligencia general artificial, o un término difuso para la inteligencia de las máquinas y despliegue de nivel humano. Después de irse, se unió a Eli Lifland, un investigador de IA que tenía un Registro de pronóstico de precisión Eventos mundiales. Comenzaron a trabajar tratando de predecir la próxima ola de la IA.

El resultado es «AI 2027», un informe y un sitio web Lanzado esta semana Esto describe, en un escenario ficticio detallado, lo que podría suceder si los sistemas IA van más allá de la inteligencia a nivel humano: los autores esperan que ocurra en los próximos dos o tres años.

«Prevemos que AIS continuará mejorando hasta el punto en que son agentes totalmente autónomos que son mejores que los humanos a fines de 2027 o más», dijo Kokotajlo en una entrevista reciente.

No hay escasez de especulaciones sobre la IA hoy. San Francisco estaba dominado por Ai Fertor, y el escenario tecnológico del Área de la Bahía se ha convertido en una colección de tribus en la guerra y papas fritas, cada una convencida de que sabe cómo se desarrollará el futuro.

Algunas predicciones de IA han tomado la forma de un manifiesto, como «Máquinas de gracia amorosa«Un ensayo de 14,000 palabras escritos el año pasado por Dario Amodei, director ejecutivo de The Anthrope, o»Conciencia situacionalUn informe de la antigua investigación de Operai Leopold Aschenbrenner que fue ampliamente leída en los círculos políticos.

La gente del Proyecto AI Futures ha diseñado el suyo como un escenario de pronóstico, esencialmente, una pieza de ciencia ficción rigurosamente investigada que utiliza sus mejores supuestos sobre el futuro como puntos de la trama. El grupo pasó casi un año mejorando cientos de predicciones de IA, trajeron a un escritor, Scott Alexander, quien escribe el blog Astral Codex Ten, para ayudar a convertir su predicción en una narrativa.

«Tomamos lo que pensamos que sucedió e intentamos que se involucrara», dijo Lifland.

Los críticos de este enfoque pueden argumentar que las historias de IA ficticios son mejores para vencer a las personas que educarlas. Y algunos expertos en IA sin duda se oponen a la acusación central del grupo de que la inteligencia artificial superará la inteligencia humana.

Ali Farhadi, director ejecutivo del Instituto Allen de Inteligencia Artificial, un laboratorio de IA en Seattle, revisó el informe «AI 2027» y dijo que no estaba impresionado.

«Estoy a favor de las proyecciones y predicciones, pero este pronóstico no parece estar basado en evidencia científica, o la realidad de cómo están evolucionando las cosas en la IA», dijo.

No hay duda de que algunas de las opiniones del grupo son extremas. (Kokotajlo, por ejemplo, me dijo el año pasado que creía que había un 70 % de posibilidades de destruirla o dañar a la humanidad). Y el Sr. Kokotajlo y el Sr. Lifland tienen vínculos con un altruismo efectivo, otro movimiento filosófico popular entre los trabajadores de la tecnología. Esto ha estado haciendo advertencias terribles sobre AI durante años.

Pero también vale la pena señalar que algunas de las compañías más grandes de Silicon Valley son Planificación de un mundo Además de AGI, y muchas de las predicciones de aspecto loco hechas sobre las máquinas pasadas en tipo en la prueba de Turing, un experimento reflexivo que determina si una máquina puede parecer comunicarse como un humano llegar a la verdad.

En 2021, en el año anterior al lanzamiento de Chatgpt, el Sr. Kokotajlo escribió una publicación de blog Titulado «Lo que parece 2026», describiendo su visión de cómo progresarían los sistemas de IA. Varias de sus predicciones estaban prescribiendo, y estaba convencido de que este tipo de pronóstico era valioso y que era bueno en esto.

«Es una forma elegante y conveniente de comunicar su visión a otras personas», dijo.

La semana pasada, Kokotajlo y Lifland me invitaron a su sala de oficina en un espacio de trabajo de Berkeley llamado Constellation, donde varias organizaciones de seguridad de IA cuelgan A para mostrarme cómo operan.

El Sr. Kokotajlo, con una chaqueta de estilo militar bronceado, tomó un marcador y escribió cuatro abreviaturas en una gran pintura blanca: SC> Sar> Siar> Asi. Cada uno, explicó, representaba un hito en el desarrollo de la IA.

Primero, dijo, a principios de 2027, si se mantienen las tendencias actuales, la IA será un codificador sobre -humano. Luego, a mediados de 2027, será un investigador de IA supervisor autónomo que puede supervisar a los equipos de codificación de IA y hacer nuevos descubrimientos. Luego, a fines de 2027 o principios de 2028, se convertirá en un súperinteligente Investigador de IA: una inteligencia de máquinas que saben más de lo que hizo sobre la construcción de IA avanzada y puede automatizar su propia investigación y desarrollo, esencialmente construyendo versiones más inteligentes de usted mismo. A partir de ahí, dijo, es un breve salto para la superinteligencia artificial, o ASI, cuando todas las apuestas están fuera.

Si todo esto se ve fantástico … bueno, lo es. Nada remotamente lo que el Sr. Kokotajlo y el Sr. Lifland predicen que hoy es posible con las herramientas de IA, lo que apenas puede pedirle a un burrito en Doordesh sin estar atrapado.

Pero confían en que estos puntos ciegos disminuirán rápidamente a medida que los sistemas IA se vuelvan lo suficientemente buenos como para codificar para acelerar la investigación y el desarrollo de la IA.

Su informe se centra en OpenBain, una compañía de IA ficticia que construye un poderoso sistema de IA conocido como Agente-1. (Decidieron no resaltar una compañía de IA en particular, en lugar de crear un compuesto de los principales laboratorios de AI American).

A medida que el Agente-1 mejora en la codificación, comienza a automatizar gran parte del trabajo de ingeniería en OpenBain, lo que permite a la compañía moverse más rápido y ayuda a crear agente-2, un investigador de IA aún más capaz. A finales de 2027, cuando termina el escenario, Agent-4 está haciendo un año de investigación sobre la encuesta IA cada semana y amenaza con ir deshonesto.

Le pregunté al Sr. Kokotajlo qué pensaba que sucedería después de eso. ¿Pensó, por ejemplo, que la vida en el año 2030 aún sería reconocible? ¿Estarían las calles de Berkeley llenas de robots humanoides? ¿Mensajes de texto de la gente a tus novias de IA? ¿Alguno de nosotros trabaja?

Miró por la ventana y admitió que no estaba seguro. Si los próximos años salieran bien y mantuviéramos la IA bajo control, dijo, podría imaginar un futuro en el que la vida de la mayoría de las personas seguía siendo la misma, pero donde las «zonas económicas especiales» llenas de fábricas de robot hiperificientes producirían todo lo que necesitábamos.

¿Qué pasaría si los próximos años no estuvieran bien?

«¿Tal vez el cielo estaba lleno de contaminación y la gente estaría muerta?» Dijo indiferentemente. «Algo así».

El riesgo de dramatizar sus predicciones de IA, esto es que si no tiene cuidado, los escenarios medidos pueden convertirse en fantasías apocalípticas. Otra es que, al tratar de contar una historia dramática que capta la atención de las personas, corre el riesgo de perder resultados más aburridos, como el escenario en el que la IA generalmente se porta bien y no causa muchos problemas para nadie.

Aunque estoy de acuerdo con los autores de «AI 2027» en que los poderosos sistemas de IA llegarán pronto, no estoy convencido de que los codificadores de AI -ai adquirirán automáticamente las otras habilidades necesarias para inicializar su camino hacia la inteligencia general. Y tengo cuidado con las predicciones que suponen que el progreso de la IA será suave y exponencial, sin grandes cuellos de botella u obstáculos en el camino.

Pero creo que vale la pena hacer este tipo de pronóstico, incluso si no estoy de acuerdo con algunos de los pronósticos específicos. Si el poderoso Aí realmente viene, todos tendremos que comenzar a imaginar un futuro muy extraño.