La inteligencia artificial podría encontrar su ubicación, alarmando a los expertos en privacidad – MundoDaily

El proyecto, conocido como Predicción de geolocalizaciones de imágenes (o PIGEON para abreviar) fue diseñado por tres estudiantes graduados de Stanford para identificar ubicaciones en Google Street View.

Pero cuando se le presentaron algunas fotos personales que nunca antes había visto, el programa fue, en la mayoría de los casos, capaz de hacer conjeturas precisas sobre dónde se tomaron las fotos.

Como tantas aplicaciones de la IA, este nuevo poder probablemente será un arma de doble filo: podría ayudar a las personas a identificar la ubicación de fotografías antiguas de miembros de la familia o permitir a los biólogos de campo inspeccionar rápidamente regiones enteras en busca de especies de plantas invasoras, por nombrar sólo algunas. algunas de las muchas aplicaciones probablemente beneficiosas.

Pero también podría usarse para exponer información sobre individuos que nunca tuvieron la intención de compartir, dice Jay Stanley, analista político senior de la Unión Estadounidense de Libertades Civiles que estudia tecnología. Stanley teme que una tecnología similar, que cree que casi con seguridad estará ampliamente disponible, pueda usarse para vigilancia gubernamental, seguimiento corporativo o incluso acecho.

«Desde una perspectiva de privacidad, su ubicación puede ser un conjunto de información muy sensible», afirma.

La IA ha llegado a su destino

Todo comenzó con una clase en Stanford: Ciencias de la Computación 330, Multitarea Profunda y Metaaprendizaje.

Tres amigos, Michal Skreta, Silas Alberti y Lukas Haas, necesitaban un proyecto y compartían un hobby común:

«Durante ese tiempo éramos grandes jugadores de un juego sueco llamado GeoGuessr», dice Skreta.

GeoGuessr es un juego en línea que desafía a los jugadores a geolocalizar fotografías. Tiene una configuración bastante simple, dice Skreta: «Entras en el juego, estás ubicado en algún lugar del mundo en Google Street View y tienes que colocar un marcador en el mapa, esa es tu mejor suposición de la ubicación».

El juego cuenta con más de 50 millones de jugadores que compiten en campeonatos mundiales, añade Silas Alberti, otro miembro del proyecto. «Hay YouTubers, streamers de Twitch y jugadores profesionales».

Los estudiantes querían ver si podían construir un jugador de IA que pudiera funcionar mejor que los humanos. Comenzaron con un sistema existente para análisis de imágenes llamado CLIP. Es un programa de red neuronal que puede aprender sobre imágenes visuales simplemente leyendo texto sobre ellas, y fue desarrollado por OpenAI, la misma empresa que fabrica ChatGPT.

Los estudiantes de Stanford entrenaron su versión del sistema con imágenes de Google Street View.

«Creamos nuestro propio conjunto de datos con alrededor de 500.000 imágenes de calles», dice Alberti. «En realidad no son tantos datos y pudimos obtener un rendimiento espectacular».

El equipo agregó piezas adicionales al programa, incluida una que ayudó a la IA a ordenar imágenes según su posición en el mundo. Cuando esté completo, el sistema PIGEON podrá identificar la ubicación de una imagen de Google Street View en cualquier parte del planeta. Adivina el país correcto el 95% de las veces y normalmente puede elegir una ubicación dentro de un radio de 25 millas de la ubicación real.

Luego compararon su algoritmo con un humano. En concreto, un muy buen humano llamado Trevor Rainbolt. Rainbolt es una leyenda en los círculos de geoadivinación: recientemente geolocalizó una foto de un árbol al azar en Illinois, sólo por diversión, pero encontró su pareja con PIGEON. En una competencia cara a cara perdió varias rondas.

Notando las pequeñas cosas

LA PALOMA se destaca porque puede captar todas las pequeñas pistas que los humanos pueden captar, y muchas más sutiles, como pequeñas diferencias en el follaje, el suelo y el clima.

El grupo dice que la tecnología tiene todo tipo de aplicaciones potenciales. Podría identificar carreteras o líneas eléctricas que necesitan reparación, ayudar a monitorear la biodiversidad o usarse como herramienta de enseñanza.

Skreta cree que esto también será útil para la gente corriente: «¿Te gusta este destino en Italia? ¿A qué lugar del mundo podrías ir si quieres ver algo similar?»

Para probar el desempeño de PIGEON, proporcioné cinco fotografías personales de un viaje que hice por Estados Unidos hace años, ninguna de las cuales se publicó en línea. Algunas fotografías fueron tomadas en ciudades, pero otras en lugares alejados de las carreteras u otros puntos de referencia fácilmente reconocibles.

No parecía importar mucho.

Supuso que había un campamento en Yellowstone a unas 35 millas del sitio real. El programa contó con otra fotografía, tomada en una calle de San Francisco, a pocas cuadras de la ciudad.

No todas las fotografías fueron fáciles de relacionar: el programa vinculó por error una fotografía tomada en el área frontal de Wyoming con una ubicación a lo largo de la cordillera de Colorado, a más de 100 millas de distancia. Y supuso que una imagen del cañón del río Snake en Idaho era del desfiladero de Kawarau en Nueva Zelanda (para ser justos, los dos paisajes se ven notablemente similares).

Jay Stanley, de la ACLU, cree que a pesar de estos tropiezos, el programa muestra claramente el poder potencial de la IA.

«El hecho de que esto se haya hecho como un proyecto de estudiante hace que uno se pregunte qué podría hacer, por ejemplo, Google», afirma.

De hecho, Google ya cuenta con una función conocida como “estimación de ubicación”, que utiliza inteligencia artificial para adivinar la ubicación de una foto. Actualmente, sólo utiliza un catálogo de alrededor de un millón de puntos de referencia, en lugar de las 220 mil millones de imágenes de Street View que Google recopiló. La compañía le dijo a que los usuarios  que pueden desactivar la función.

A Stanley le preocupa que las empresas pronto puedan utilizar la IA para rastrear adónde ha viajado, o que los gobiernos puedan comprobar sus fotografías para ver si ha visitado un país en una lista de vigilancia. El acoso y el abuso también son amenazas obvias, afirma. En el pasado, dice Stanley, las personas podían eliminar etiquetas de ubicación GPS de las fotos que publicaban en línea. Es posible que esto ya no funcione.

Los estudiantes de posgrado de Stanford son muy conscientes de los riesgos. Dicen que han evitado hacer público su modelo completo precisamente debido a estas preocupaciones.

Pero Stanley cree que el uso de la IA para la geolocalización será aún más poderoso en el futuro. Duda que haya mucho por hacer, excepto estar atento a lo que hay en las fotos de fondo que publicas en línea.