OpenAI y otros gigantes tecnológicos deberán notificar al gobierno de EE. UU. cuando inicien nuevos proyectos de IA – MundoDaily

Cuando ChatGPT de OpenAI tomó al mundo por sorpresa el año pasado, tomó por sorpresa a muchos agentes poderosos en Silicon Valley y Washington, DC. Ahora se debe advertir al gobierno de EE. UU. con anticipación sobre futuros avances en inteligencia artificial que involucran grandes modelos de lenguaje, la tecnología detrás de ChatGPT.

La administración Biden se está preparando para utilizar la Ley de producción de defensa para obligar a las empresas de tecnología a informar al gobierno cuando entrenen un modelo de IA utilizando una cantidad significativa de potencia informática. La norma podría entrar en vigor la próxima semana.

El nuevo requisito dará al gobierno de EE. UU. acceso a información importante sobre algunos de los proyectos más sensibles dentro de OpenAI, Google, Amazon y otras empresas de tecnología que compiten en IA. Las empresas también deberán facilitar información sobre las pruebas de seguridad realizadas a sus nuevas creaciones de IA.

OpenAI se ha mostrado tímido acerca de cuánto trabajo se ha realizado en un sucesor de su oferta insignia actual, GPT-4. El gobierno de EE. UU. puede ser el primero en saber cuándo comienzan realmente el trabajo o las pruebas de seguridad en GPT-5. OpenAI no respondió de inmediato a una solicitud de comentarios.

«Estamos utilizando la Ley de Producción de Defensa, que es una autoridad que tenemos gracias al presidente, para realizar investigaciones que requieran que las empresas compartan con nosotros cada vez que entrenen un nuevo modelo de lenguaje grande y compartan con nosotros los resultados (los datos de seguridad) que Podemos revisarlos”, dijo el viernes Gina Raimondo, secretaria de Comercio de Estados Unidos, en un evento celebrado en la Universidad de Stanford. No dijo cuándo entraría en vigor el requisito ni qué acciones podría tomar el gobierno en función de la información recibida sobre proyectos de IA. Se espera que se anuncien más detalles la próxima semana.

Las nuevas reglas se están implementando como parte de una amplia orden ejecutiva de la Casa Blanca emitida en octubre pasado. oh orden ejecutiva dio al Departamento de Comercio como fecha límite el 28 de enero para elaborar un plan según el cual las empresas estarían obligadas a informar a las autoridades estadounidenses sobre los detalles sobre los nuevos y potentes modelos de IA que se están desarrollando. La orden decía que estos detalles deberían incluir la cantidad de potencia informática utilizada, información sobre la propiedad de los datos introducidos en el modelo y detalles de las pruebas de seguridad.

La orden de octubre exige que se comience a trabajar para definir cuándo los modelos de IA deberían requerir informes al Departamento de Comercio, pero establece un umbral inicial de 100 septillones (un millón de billones de billones o 10²⁶) operaciones de punto flotante por segundo, o fracasos, y 1.000 veces menos para modelos de lenguaje grandes que trabajan con datos de secuenciación de ADN. Ni OpenAI ni Google han revelado cuánta potencia informática utilizaron para entrenar sus modelos más potentes, GPT-4 y Gemini, respectivamente, pero un servicio de investigación del Congreso informe en la orden ejecutiva sugiere que 10²⁶ flops está un poco más allá de lo que se usó para entrenar a GPT-4.

Raimondo también confirmó que el Departamento de Comercio pronto implementará otro requisito de la orden ejecutiva de octubre que exige que los proveedores de computación en la nube como Amazon, Microsoft y Google informen al gobierno cuando una empresa extranjera utiliza sus recursos para entrenar un modelo lingüístico de gran tamaño. Los proyectos extranjeros deben notificarse cuando superen el mismo umbral inicial de 100 septillones de fracasos.