La administración de Biden publica nuevas reglas sobre cómo el gobierno puede usar la IA – MundoDaily

El otoño pasado se publicó un borrador de la guía, antes del viaje del vicepresidente Harris a la primera cumbre mundial de IA en el Reino Unido. Luego, el borrador se abrió para comentarios públicos antes de ser publicado en su forma final el jueves.

Harris dijo que la guía era “obligatoria” y enfatizó la necesidad de que las directrices pongan el interés público en primer lugar a escala global.

“El presidente Biden y yo tenemos la intención de que estas políticas internas sirvan como modelo para la acción global”, dijo Harris en una conferencia telefónica con periodistas el miércoles. «Continuaremos pidiendo a todas las naciones que sigan nuestro ejemplo y antepongan el interés público cuando se trata del uso gubernamental de la IA».

La guía para las agencias intenta lograr un equilibrio entre la gestión de los riesgos de la inteligencia artificial y también el fomento de la innovación.

También requiere que cada agencia nombre un director de inteligencia artificial, un puesto de alto nivel que supervisará la implementación de la IA. Y describe cómo el gobierno está tratando de aumentar la fuerza laboral centrada en la IA, incluida la contratación de al menos 100 profesionales en el campo para este verano.

«El público merece confiar en que el gobierno federal utilizará la tecnología de manera responsable», dijo Shalanda Young, directora de la Oficina de Gestión y Presupuesto (OMB).

Las agencias tienen hasta el 1 de diciembre para implementar salvaguardas de IA

La orientación para las agencias dice que cualquier tecnología de inteligencia artificial que utilicen debe contar con salvaguardias adecuadas antes del 1 de diciembre. Si no pueden brindar estas salvaguardias, tendrán que dejar de usar la tecnología a menos que puedan demostrar que su uso es necesario para la función de la agencia.

Las salvaguardias necesarias incluyen evaluar, probar y monitorear los impactos de la tecnología de IA, pero los detalles del proceso aún no están claros en estas pautas.

Alex Reeve Givens, presidente y director ejecutivo del Centro para la Democracia y la Tecnología, dijo a que todavía tiene preguntas sobre cuáles son los requisitos de prueba y quién en el gobierno tiene la experiencia para dar luz verde a la tecnología.

«Veo esto como el primer paso. Lo que vendrá a continuación serán guías prácticas muy detalladas y expectativas sobre cómo debe ser una auditoría efectiva, por ejemplo», dijo Reeve Givens. «Hay mucho más trabajo por hacer».

Uno de los próximos pasos que Reeve Givens está vigilando es qué orientación publicará la administración sobre el proceso de adquisición y qué requisitos se aplicarán a las empresas cuya tecnología de inteligencia artificial el gobierno pretende comprar.

“Este es realmente el punto de inflexión en el que se pueden tomar muchas decisiones y valores y se pueden realizar muchas pruebas antes de que el gobierno gaste dólares en el sistema”, dijo.

La transparencia de las agencias permitirá un mejor escrutinio

Reeve Givens dijo que la parte de la guía de la OMB sobre transparencia era particularmente notable.

Según las nuevas directrices, las agencias deben compartir en línea cada año un inventario de cómo utilizan la IA y los riesgos asociados, y el inventario debe ser accesible. Esta disposición es “fundamental”, dijo Reeve Givens.

“Entonces podemos hacer preguntas sobre, bueno, ‘¿Qué pruebas te hiciste?’ Puede que haya más atención y más escrutinio público sobre estos casos de uso, pero esto nos da el gancho para iniciar esta conversación pública”, dijo.

Sin embargo, el Departamento de Defensa y las agencias de inteligencia están exentos de compartir el uso de la IA.

La orientación puede ser un “catalizador” para un mayor uso de la IA

La guía de la OMB también tiene como objetivo fomentar la innovación a través de la IA. Ifeoma Ajunwa, profesora de derecho en la Universidad Emory, dijo a que la guía envía una señal a las agencias de que está bien considerar el uso de tecnología de inteligencia artificial.

«Creo que esto será un catalizador para las agencias que pueden haber tenido cierta inquietud o reservas sobre el uso de tecnologías de inteligencia artificial», dijo.

«No quiero que las agencias tomen esto como carta blanca para utilizar tecnologías de inteligencia artificial en todos los casos», añadió Ajunwa. «Pero quiero que vean esto como una apertura, como un catalizador para que puedan usarlo cuando sea apropiado y cuando existan barreras de seguridad».

Varias agencias gubernamentales ya utilizan inteligencia artificial, pero el memorando de la administración Biden describe otras formas en que la tecnología podría tener un impacto, desde predecir eventos climáticos extremos hasta rastrear la propagación de enfermedades y el uso de opioides.