Qué significa la llegada de los teléfonos y ordenadores con IA para nuestros datos – MundoDaily

Apple, Microsoft y Google están anunciando una nueva era de lo que describen como teléfonos inteligentes y computadoras con inteligencia artificial. Los dispositivos, dicen, automatizarán tareas como editar fotografías y desearle un feliz cumpleaños a un amigo.

Pero para que esto funcione, estas empresas necesitan algo de usted: más datos.

En este nuevo paradigma, su computadora con Windows tomará una captura de pantalla de todo lo que haga cada pocos segundos. Un iPhone recopilará información de muchas aplicaciones que utilices. Y un teléfono Android puede escuchar una llamada en tiempo real para alertarlo sobre una estafa.

¿Está dispuesto a compartir esta información?

Este cambio tiene implicaciones importantes para nuestra privacidad. Para ofrecer nuevos servicios personalizados, las empresas y sus dispositivos necesitan un acceso más persistente e íntimo a nuestros datos que nunca. En el pasado, la forma en que usábamos aplicaciones y extraíamos archivos y fotografías en teléfonos y computadoras era relativamente aislada. La IA necesita una visión más amplia para conectar los puntos entre lo que hacemos en aplicaciones, sitios web y comunicaciones, dicen los expertos en seguridad.

«¿Me siento seguro al proporcionar esta información a esta empresa?» Cliff Steinhauer, director de la Alianza Nacional de Ciberseguridad, una organización sin fines de lucro centrada en la ciberseguridad, habló sobre las estrategias de IA de las empresas.

Todo esto sucede porque ChatGPT de OpenAI revolucionó la industria tecnológica hace casi dos años. Desde entonces, Apple, Google, Microsoft y otros han renovado sus estrategias de productos, invirtiendo miles de millones en nuevos servicios bajo el término general de IA. Están convencidos de que este nuevo tipo de interfaz informática, que estudia constantemente lo que estás haciendo para brindar asistencia, será indispensable.

El mayor riesgo potencial de seguridad con este cambio surge de un cambio sutil que ocurre en la forma en que funcionan nuestros nuevos dispositivos, dicen los expertos. Dado que la IA puede automatizar acciones complejas (como eliminar objetos no deseados de una fotografía), a veces requiere más potencia informática de la que nuestros teléfonos pueden manejar. Esto significa que es posible que más datos personales tengan que salir de nuestros teléfonos para ser procesados ​​en otros lugares.

La información se transmite a la llamada nube, una red de servidores que procesa las solicitudes. Una vez que la información llega a la nube, otros pueden verla, incluidos empleados de la empresa, malos actores y agencias gubernamentales. Y si bien algunos de nuestros datos siempre se han almacenado en la nube, nuestros datos más personales e íntimos que antes estaban a nuestro alcance (fotos, mensajes y correos electrónicos) ahora pueden ser conectados y analizados por una empresa por su cuenta.

Las empresas de tecnología dicen que han hecho todo lo posible para proteger los datos de las personas.

Por ahora, es importante comprender qué sucederá con nuestra información cuando usemos herramientas de inteligencia artificial, por eso obtuve más información de las empresas sobre sus prácticas de datos y entrevisté a expertos en seguridad. Planeo esperar y ver qué tan bien funcionan las tecnologías antes de decidir si vale la pena compartir mis datos.

Esto es lo que debes saber.

Inteligencia de Apple

Apple anunció recientemente Apple Intelligence, un conjunto de servicios de inteligencia artificial y su primera entrada importante en la carrera de la inteligencia artificial.

Los nuevos servicios de IA se integrarán en los iPhone, iPad y Mac más rápidos a partir de este otoño. Las personas podrán usarlo para eliminar automáticamente objetos no deseados de las fotos, crear resúmenes de artículos web y escribir respuestas a mensajes de texto y correos electrónicos. Apple también está renovando su asistente de voz, Siri, para hacerlo más conversacional y brindar acceso a datos a través de múltiples aplicaciones.

Durante la conferencia de Apple de este mes, cuando presentó Apple Intelligence, el vicepresidente senior de ingeniería de software de la compañía, Craig Federighi, compartió cómo podría funcionar: Federighi recibió un correo electrónico de un colega pidiéndole que pospusiera una reunión, pero se suponía que debía ver una obra de teatro esa noche protagonizada por su hija. Luego, su teléfono abrió su calendario, un documento que contenía detalles sobre la obra y una aplicación de mapas para predecir si llegaría tarde a la obra si aceptaba una fecha posterior.

Apple dijo que se está esforzando por procesar la mayoría de los datos de IA directamente en sus teléfonos y computadoras, lo que evitaría que otros, incluido Apple, accedan a la información. Pero para las tareas que deben enviarse a servidores, dijo Apple, ha desarrollado salvaguardas, incluida la codificación de los datos mediante cifrado y su eliminación inmediata.

Apple también ha implementado medidas para que sus empleados no tengan acceso a los datos, afirmó la compañía. Apple también dijo que permitiría a los investigadores de seguridad auditar su tecnología para garantizar que cumpla sus promesas.

Pero Apple no tiene claro qué nuevas solicitudes de Siri podrían enviarse a los servidores de la compañía, dijo Matthew Green, investigador de seguridad y profesor asociado de ciencias de la computación en la Universidad Johns Hopkins, quien fue informado por Apple sobre su nueva tecnología. Todo lo que sale de tu dispositivo es inherentemente menos seguro, afirmó.

Portátiles con IA de Microsoft

Microsoft está llevando la IA a las computadoras portátiles heredadas.

La semana pasada, comenzó a lanzar computadoras con Windows llamadas Copilot+ PC, que comienzan en $1,000. Las computadoras contienen un nuevo tipo de chip y otros equipos que, según Microsoft, mantendrán sus datos privados y seguros. Las PC pueden generar imágenes y reescribir documentos, entre otras nuevas funciones impulsadas por IA.

La compañía también presentó Recall, un nuevo sistema para ayudar a los usuarios a encontrar rápidamente documentos y archivos en los que trabajaron, correos electrónicos que leyeron o sitios web que navegaron. Microsoft compara Recall con tener una memoria fotográfica integrada en su PC.

Para usarlo, puedes escribir frases informales, como «Estoy pensando en una videollamada que tuve con Joe recientemente cuando sostenía una taza de café que decía ‘Amo Nueva York'». Luego, la computadora recuperará la grabación de la videollamada que contiene estos detalles.

Para lograr esto, Recall toma capturas de pantalla cada cinco segundos de lo que el usuario está haciendo en la máquina y compila estas imágenes en una base de datos con capacidad de búsqueda. Las instantáneas se almacenan y analizan directamente en la PC, por lo que Microsoft no revisa los datos ni los utiliza para mejorar su IA, dijo la compañía.

Aún así, los investigadores de seguridad advirtieron sobre riesgos potenciales y explicaron que los datos podrían exponer fácilmente todo lo que haya escrito o visto si ha sido hackeado. En respuesta, Microsoft, que tenía intención de lanzar Recall la semana pasada, pospuso su lanzamiento indefinidamente.

Las PC vienen equipadas con el nuevo sistema operativo Windows 11 de Microsoft. Tiene múltiples capas de seguridad, dijo David Weston, un ejecutivo de la empresa que supervisa la seguridad.

IA de Google

Google también anunció un conjunto de servicios de inteligencia artificial el mes pasado.

Una de sus mayores revelaciones fue un nuevo detector de estafas para llamadas telefónicas impulsado por inteligencia artificial. La herramienta escucha las llamadas en tiempo real y, si la persona que llama parece ser un posible estafador (por ejemplo, si solicita un PIN bancario), la empresa se lo notificará. Google dijo que la gente tendría que activar el detector de estafas, que se opera completamente desde el teléfono. Esto significa que Google no escuchará las llamadas.

Google anunció otra función, Preguntar fotos, que requiere que se envíe información a los servidores de la empresa. Los usuarios pueden hacer preguntas como «¿Cuándo aprendió mi hija a nadar?» para recuperar las primeras imágenes de su hijo nadando.

Google dijo que sus empleados podrían, en casos excepcionales, revisar las conversaciones de Ask Photos y los datos de las fotografías para abordar abusos o daños, y que la información también podría usarse para ayudar a mejorar su aplicación de fotografías. En otras palabras, su pregunta y la foto de su hijo nadando pueden usarse para ayudar a otros padres a encontrar imágenes de sus hijos nadando.

Google dijo que su nube estaba bloqueada con tecnologías de seguridad como cifrado y protocolos para limitar el acceso de los empleados a los datos.

«Nuestro enfoque para proteger la privacidad se aplica a nuestras capacidades de IA, ya sea que estén activadas en el dispositivo o en la nube», dijo en un comunicado Suzanne Frey, ejecutiva de Google que supervisa la confianza y la privacidad.

Pero Green, el investigador de seguridad, dijo que el enfoque de Google hacia la privacidad de la IA parecía relativamente opaco.

«No me gusta la idea de que mis fotografías e investigaciones muy personales vayan a una nube que no está bajo mi control», dijo.