Legisladores estadounidenses piden al Departamento de Justicia que deje de financiar ciegamente herramientas policiales ‘predictivas’ – MundoDaily

El Departamento de Justicia de Estados Unidos no ha logrado convencer a un grupo de legisladores estadounidenses de que las agencias estatales y locales encargadas de hacer cumplir la ley no reciben subvenciones federales para comprar herramientas «policiales» basadas en inteligencia artificial, que se sabe que son inexactas, si no propensas a exacerbarse. observado desde hace mucho tiempo en las fuerzas policiales estadounidenses.

Siete miembros del Congreso escribieron en una carta al DOJ, que la información que obtuvieron de la agencia solo sirvió para inflamar sus preocupaciones sobre el programa de subvenciones policiales del Departamento de Justicia. Nada en sus respuestas hasta ahora, dijeron los legisladores, indica que la administración se molestó en investigar si los departamentos a los que se otorgaron subvenciones compraron software policial discriminatorio.

«Le pedimos que suspenda todas las subvenciones del Departamento de Justicia para sistemas policiales predictivos hasta que el Departamento de Justicia pueda garantizar que los beneficiarios de las subvenciones no utilizarán dichos sistemas de manera que tengan un impacto discriminatorio», dice la carta. El Departamento de Justicia anteriormente reconoció que no había supervisado si los departamentos de policía estaban utilizando fondos, otorgados en el marco del Programa de Subvenciones de Asistencia Judicial en Memoria de Edward Byrne, para adquirir las llamadas herramientas policiales predictivas.

Dirigidos por el senador Ron Wyden, demócrata de Oregón, los legisladores dicen que la ley exige que el Departamento de Justicia «revise periódicamente» si los beneficiarios de las subvenciones cumplen con el Título VI de la Ley de Derechos Civiles del país. Explican que el Departamento de Justicia tiene claramente prohibido financiar programas que demuestren discriminación por motivos de raza, etnia u origen nacional, ya sea que el resultado sea intencional o no.

Investigaciones de la prensa independiente han descubierto que las populares herramientas policiales “predictivas” basadas en datos históricos sobre delitos a menudo reproducen sesgos de larga data, ofreciendo a las fuerzas del orden en el mejor de los casos un barniz de legitimidad científica al tiempo que perpetúan la vigilancia excesiva en vecindarios predominantemente negros y latinos. . Un titular de octubre de The Markup dice sin rodeos: “El software policial predictivo es terrible para predecir el crimen.” La historia cuenta cómo los investigadores de la publicación examinaron recientemente 23.631 predicciones policiales sobre delitos y descubrieron que eran precisas aproximadamente el 1% de las veces.

“Los sistemas policiales predictivos se basan en datos históricos distorsionados por informes de delitos falsificados y arrestos desproporcionados de personas de color”, escribieron Wyden y otros legisladores, prediciendo: como muchos investigadores—que la tecnología sólo sirve para crear circuitos de retroalimentación “peligrosos”. La declaración señala que “se utilizan predicciones sesgadas para justificar detenciones y detenciones desproporcionadas en barrios minoritarios”, distorsionando aún más las estadísticas sobre dónde ocurren los delitos.

Los senadores Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch y John Fetterman también firmaron la carta, al igual que la representante Yvette Clarke.

Los legisladores han solicitado que un próximo informe presidencial sobre vigilancia e inteligencia artificial investigue el uso de herramientas policiales predictivas en Estados Unidos. «El informe debe evaluar la exactitud y precisión de los modelos policiales predictivos en todas las clases protegidas, su interpretabilidad y su validez», para incluir, agregaron, «cualquier límite en la evaluación de sus riesgos planteado por una falta de transparencia por parte de de las empresas que los desarrollan. «

Si el Departamento de Justicia tiene la intención de seguir financiando la tecnología después de esta evaluación, dicen los legisladores, debería al menos establecer «estándares de evidencia» para determinar qué modelos predictivos son discriminatorios, y luego rechazar el financiamiento para todos aquellos que no los cumplan.