La UE inicia una investigación sobre cómo los gigantes tecnológicos están afrontando los riesgos que plantea la IA – MundoDaily

La Comisión Europea ha iniciado una investigación exhaustiva sobre los riesgos que plantea la tecnología de IA generativa en algunas de las plataformas en línea y motores de búsqueda más grandes del mundo.

La solicitud se dirige a ocho servicios en línea: Google Search, Microsoft Bing, Facebook, X, Instagram, Snapchat, TikTok y YouTube.

La Comisión Europea dijo:

«Los problemas se refieren tanto a la difusión como a la creación de contenido generativo de IA».

Se pidió a estas plataformas que proporcionaran información detallada sobre sus estrategias de gestión de riesgos, en particular en relación con las “alucinaciones” inducidas por la IA, la difusión de deepfakes y la manipulación automatizada de contenidos que podrían potencialmente engañar a los votantes.

La investigación de la Comisión cubre un amplio espectro de preocupaciones, incluido el impacto de la IA generativa en la integridad electoral, la difusión de contenidos ilegales, la salvaguardia de los derechos fundamentales, la violencia de género, la protección de los niños y la salud mental. La solicitud cubre tanto la creación como la difusión de contenidos generados por tecnologías de IA.

El enfoque parcial en cuestiones electorales sigue a los esfuerzos más amplios de la agencia para mitigar los riesgos planteados por el aumento de la IA, incluida la introducción de Ley de Servicios Digitales (DSA).

La DSA exige que las plataformas en línea de gran tamaño (VLOP) y los motores de búsqueda en línea de gran tamaño (VLOSE) se adhieran a un conjunto integral de regulaciones diseñadas para combatir la difusión de contenido ilegal y mitigar cualquier efecto adverso sobre los derechos fundamentales, los procesos electorales, el bienestar mental y protección del niño.

Se esperan respuestas en abril

Cada servicio deberá proporcionar la información solicitada sobre las elecciones antes del 5 de abril y deberá proporcionar información sobre las categorías restantes antes del 26 de abril.

No proporcionar información precisa, completa y transparente puede dar lugar a sanciones sustanciales. La Comisión enfatizó su autoridad para imponer multas por cualquier respuesta que se considere incorrecta, incompleta o engañosa.

Además, si las plataformas no responden dentro del plazo estipulado, la Comisión puede imponer el cumplimiento mediante un proceso formal de toma de decisiones, lo que podría dar lugar a nuevas sanciones financieras.

Esta iniciativa marca un paso significativo en la implementación de la DSA y destaca el compromiso de la UE de mitigar los riesgos asociados con las tecnologías digitales y garantizar un entorno en línea seguro.

La noticia llega meses después de informes de una iniciativa separada de la UE llamada Ley de Inteligencia Artificial que prohíbe ciertas aplicaciones biométricas de IA al tiempo que crea excepciones para las fuerzas del orden.