Dirección 

175 Greenwich St, New York, NY 10007

Frente a la vigilancia impulsada por la IA, necesitamos informática confidencial descentralizada

Frente a la vigilancia impulsada por la IA, necesitamos informática confidencial descentralizada – MundoDaily

Cuando el CTO de IA de Oracle, Larry Ellison, compartió su visión de una red de vigilancia global impulsada por IA que mantendría a los ciudadanos alerta. “mejor comportamiento”Los críticos rápidamente hicieron comparaciones con 1984 de George Orwell y describieron su lenguaje empresarial como distópico. La vigilancia masiva es una violación de la privacidad, ha efectos psicológicos negativose intimida a la gente participando en protestas.

Pero lo más inquietante de la visión de Ellison para el futuro es que la vigilancia masiva impulsada por IA ya es una realidad. Durante los Juegos Olímpicos de verano de este año, el gobierno francés subcontrató cuatro empresas de tecnología – Videtics, Orange Business, ChapsVision y Wintics – para llevar a cabo videovigilancia en París, utilizando análisis basados ​​en inteligencia artificial para monitorear el comportamiento y alertar a la seguridad.

La creciente realidad de la vigilancia masiva impulsada por IA

Esta controvertida política fue posible gracias a legislación aprobado en 2023, lo que permitirá que el software de inteligencia artificial recientemente desarrollado analice datos del público. Aunque Francia es la primer país de la unión europea Legalizar la vigilancia impulsada por IA, el análisis de vídeo no es nada nuevo.

El gobierno del Reino Unido primer CCTV instalado en las ciudades durante la década de 1960 y a partir de 2022, 78 de los 179 países de la OCDE estaban utilizando IA para sistemas públicos de reconocimiento facial. Se espera que la demanda de esta tecnología crezca a medida que la IA avance y permita servicios de información más precisos y a mayor escala.

Históricamente, los gobiernos han aprovechado los avances tecnológicos para mejorar los sistemas de vigilancia masiva, a menudo contratando empresas privadas para que hagan el trabajo sucio por ellos. En el caso de los Juegos Olímpicos de París, las empresas de tecnología tuvieron el poder de probar sus modelos de entrenamiento de IA en un evento público a gran escala, obteniendo acceso a información sobre la ubicación y el comportamiento de millones de personas que miraban los juegos y hacían su vida diaria. vida de la ciudad.

Privacidad versus seguridad pública: el dilema ético de la vigilancia mediante IA

Los defensores de la privacidad como yo diríamos que el monitoreo por video impide que las personas vivan libremente y sin ansiedad. Los formuladores de políticas que emplean estas tácticas pueden argumentar que se utilizan en nombre de la seguridad pública; La vigilancia también mantiene a las autoridades bajo control, por ejemplo exigiendo a los agentes de policía que lleven cámaras corporales. La cuestión es si las empresas de tecnología deberían tener acceso a los datos públicos, pero también cuánta información confidencial puede almacenarse y transferirse de forma segura entre múltiples partes.

Lo que nos lleva a uno de los mayores desafíos de nuestra generación: el almacenamiento de información confidencial en línea y la forma en que se gestionan estos datos entre diferentes partes. Cualquiera que sea la intención de los gobiernos o empresas que recopilan datos privados a través de la vigilancia mediante IA, ya sea por motivos de seguridad pública o ciudades inteligentes Es necesario que exista un entorno seguro para el análisis de datos.

Computación confidencial descentralizada: una solución para la privacidad de los datos de la IA

El movimiento por la informática confidencial descentralizada (DeCC) ofrece información sobre cómo abordar este tema. Muchos modelos de entrenamiento de IA, siendo Apple Intelligence un ejemplo, utilizan entornos de ejecución confiables (TEE), que se basan en una cadena de suministro con puntos únicos de falla que requieren la confianza de terceros, desde la fabricación hasta la certificación. DeCC tiene como objetivo eliminar estos puntos únicos de falla mediante el establecimiento de un sistema descentralizado y confiable para el análisis y procesamiento de datos.

Además, DeCC podría permitir el análisis de datos sin descifrar información confidencial. En teoría, una herramienta de análisis de video construida en una red DeCC podría alertar sobre una amenaza a la seguridad sin exponer información confidencial sobre las personas que fueron grabadas para las partes que monitorean con esa herramienta.

Actualmente se están probando varias técnicas informáticas confidenciales descentralizadas, incluidas las pruebas de conocimiento cero (ZKP), el cifrado totalmente homomórfico (FHE) y la informática multipartita (MPC). Básicamente, todos estos métodos intentan hacer lo mismo: verificar información esencial sin revelar información confidencial de ninguna de las partes.

MPC se ha convertido en un pionero en DeCC, permitiendo una liquidación transparente y una divulgación selectiva con mayor poder computacional y eficiencia. Los MPC permiten la construcción de entornos de ejecución multipartita (MXE). Contenedores de ejecución virtuales cifrados donde se puede ejecutar cualquier programa informático de forma totalmente cifrada y confidencial.

En contexto, esto permite tanto el entrenamiento con datos cifrados aislados y altamente confidenciales como la inferencia utilizando datos cifrados y modelos cifrados. Por lo tanto, en la práctica, el reconocimiento facial podría realizarse manteniendo estos datos ocultos a las partes que procesan esta información.

Los análisis recopilados a partir de estos datos podrían luego compartirse entre diferentes partes relacionadas, como las autoridades de seguridad. Incluso en un entorno basado en la vigilancia, es posible, como mínimo, introducir transparencia y rendición de cuentas en la vigilancia llevada a cabo, manteniendo al mismo tiempo la confidencialidad y protección de la mayoría de los datos.

Aunque la tecnología informática confidencial descentralizada aún se encuentra en fase de desarrollo, su aparición saca a la luz los riesgos asociados con los sistemas confiables y ofrece un método alternativo para cifrar datos. En este momento, el aprendizaje automático se está integrando en prácticamente todas las industrias, desde la planificación urbana hasta la medicina, el entretenimiento y más.

Para cada uno de estos casos de uso, los modelos de capacitación dependen de los datos del usuario, y DeCC será fundamental para garantizar la privacidad individual y la protección de datos en el futuro. Para evitar un futuro distópico, necesitamos descentralizar la inteligencia artificial.

MundoDaily – #Frente #vigilancia #impulsada #por #necesitamos #informática #confidencial #descentralizada

Publish: 2024-10-26 09:21:00

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *