Bajo Trump, los científicos de IA tienen instrucciones de eliminar los ‘prejuicios ideológicos’ de modelos poderosos – MundoDaily

El Instituto Nacional de Estándar y Tecnología (NIST) ha emitido nuevas instrucciones para los científicos en asociación con el Instituto de Seguridad de Inteligencia Artificial de los Estados Unidos (AISI) que eliminan la mención de la «seguridad de la IA», la «AI responsable» y la «equidad de AI», que espera que los miembros humanos y la prioridad humana delgada a los humanos prioricen al «realógico.

La información es como parte de un acuerdo de investigación y desarrollo cooperativo actualizado para los miembros del Consorcio del Instituto de Seguridad de AI, enviado a principios de marzo. Anteriormente, este acuerdo alentó a los investigadores a contribuir al trabajo técnico que podría ayudar a identificar y corregir el comportamiento discriminatorio del género, la raza, la edad o la desigualdad de la riqueza. Tales sesgos son extremadamente importantes porque pueden afectar directamente a los usuarios finales y dañar desproporcionadamente a las minorías y a los grupos económicamente desfavorecidos.

El nuevo contrato elimina la mención del desarrollo de herramientas «para autenticar el contenido y rastrear su procedencia», así como «etiquetar el contenido sintético», lo que indica menos interés en el seguimiento de la desinformación y las falsificaciones profundas. También agrega énfasis en poner a Estados Unidos primero, pedirle a un grupo de trabajo que desarrolle herramientas de prueba «para expandir la posición global de IA de América».

«El gobierno de Trump ha eliminado la seguridad, la justicia, la información errónea y la responsabilidad como las cosas que valora para la IA, que pienso en sí mismo», dice un investigador de la organización que trabaja con el Instituto de Seguridad de la IA, que pidió no ser nombrado por temor a las represalias.

El investigador cree que ignorar estos problemas puede dañar a los usuarios regulares, posiblemente permitiendo que los algoritmos que discriminen en función de los ingresos u otros datos demográficos no están marcados. “A menos que seas un multimillonario de tecnología, conducirá a un futuro peor para ti y las personas que te gustan. Espere que la IA sea injusta, discriminatoria, insegura e irresponsable ”, dice el investigador.

«Es salvaje», dice otro investigador que trabajó con el Instituto de Seguridad de IA en el pasado. «¿Qué significan los humanos?»

Elon Musk, quien actualmente lidera un esfuerzo controvertido para reducir el gasto gubernamental y la burocracia en nombre del presidente Trump, criticó los modelos AI construidos por OpenAI y Google. En febrero pasado, publicó un meme X en el que Géminis y Openai fueron etiquetados como «racistas» y «despertar». El a menudo cuota Un incidente en el que uno de los modelos de Google debatía si sería un error incorporar a alguien, incluso si evitaba un apocalipsis nuclear, un escenario muy poco probable. Además de Tesla y SpaceX, Musk dirige Xai, una compañía de IA que compite directamente con OpenAI y Google. Un investigador que asesora a Xai desarrolló recientemente una nueva técnica para posiblemente cambiar las tendencias políticas de los modelos de idiomas grandes, según lo informado por Wired.

Un creciente cuerpo de investigación muestra que el sesgo político en los modelos de IA puede afectar a los dos liberal y conservadores. Por ejemplo, Un estudio del algoritmo de recomendación de Twitter Publicado en 2021 mostró que los usuarios tenían más probabilidades de mostrarse en la plataforma.

Desde enero, el Departamento de Eficiencia del Gobierno Musk de SO ha estado escaneando al gobierno de los Estados Unidos, despidiendo efectivamente a los funcionarios públicos, deteniendo el gasto y creando un entorno hostil para aquellos que pueden oponerse a los objetivos del gobierno de Trump. Algunos departamentos gubernamentales, como el Departamento de Educación, presentaron y excluyeron documentos que mencionan DEI. Dege también se dirige a NIST, la organización de los padres de AISI en las últimas semanas. Docenas de empleados fueron despedidos.