Los chats privados impulsados ​​por IA se abren en línea: crecientes riesgos para la privacidad de los chatbots convencionales | Tecnología

Los chatbots de IA se han convertido en una parte central de Internet en tan solo unos años. Con su uso generalizado ha llegado el gran pecado original de la privacidad: la publicidad y su seguimiento para conocer mejor los gustos y debilidades de cada usuario. Un nuevo estudio muestra que ChatGPT, Claude, Grok y Perplexity utilizan diferentes tipos de rastreadores de Meta, Google, TikTok y otras empresas. Estas herramientas monitorean nuestra navegación web para conócenos mejor: Ahora también tendrán cierto grado de acceso a nuestros chats privados de IA.

“Los modelos lingüísticos cambiarán la forma en que las personas interactúan con los servicios. en línea y llevar a cabo sus tareas diarias, trabajar o comprar», dice Narseo Vallina, investigador de Imdea Networks y uno de los coautores del artículo. «Nuestros resultados muestran que, si bien los modelos de monetización aún están evolucionando, los proveedores de IA Aceptan modelos de negocio tradicionales tecnologías publicitarias”, añade.

El mayor riesgo que encontró la investigación fue campo de golf Completa chats abiertos con Grok y Perplexity, palabra por palabra. Recopilación de información Lo que hacen las empresas de publicidad con el acceso a estos chatbots entra en muchos detalles. Uno de ellos es conexión conversación. En algunos casos, quien tenía acceso a ese enlace tenía acceso a la conversación completa, y no sólo al título o algún otro detalle, lo que es más habitual: «En Grok o Perplexity, hasta el 3 de abril, estos enlaces eran públicos por defecto (ese día se inició en EE.UU. un proceso contra Perplexity precisamente por instalar rastreadores que retransmitían las conversaciones de los usuarios a Meta y Google en tiempo real), por lo que cualquiera que conociera la URL podía leer el intercambio completo, ya que no había ningún mecanismo de control de acceso. No tenemos constancia de que un tercero haya leído el contenidos de las conversaciones, pero el riesgo está ahí”, explica Guillermo Suárez-Tangil, también coautor e investigador de Imdea Networks.

No todos los chatbots tienen el mismo nivel de riesgo. Por ejemplo, en ChatGPT y Claude, el título de cada conversación se comparte con terceros, lo que también revela información sobre el propósito de la consulta, por ejemplo, sobre temas médicos, fiscales o legales. EL PAÍS ha pedido reacciones a esta investigación a OpenAI, Anthropic, Perplexity y xAI, pero aún no ha obtenido respuesta.

Estas herramientas de seguimiento son extremadamente comunes y han creado el modelo de negocio en línea más exitoso tal como lo conocemos. Ahora su aparición en los chatbots de IA que necesitan urgentemente más ingresos es una gran señal de advertencia: con lo que llamamos IA, el nivel de acceso a la privacidad y la personalización de anuncios subirá varios niveles. El hecho de que todo sea tan nuevo y todo avance tan rápido significa que hasta ahora ha habido poca preocupación e investigación sobre la amenaza a la privacidad: «En parte, esto se debe a que la tecnología es realmente nueva y la conciencia de los riesgos no se ha mantenido al mismo nivel», dice Aniket Girish, también coautora e investigadora de Imdea Networks. «Parte de esto es la naturaleza humana: tendemos a confiar en herramientas que nos parecen útiles y cercanas. La gente subestima el riesgo porque la interfaz parece una conversación más que una página web. Pero debajo se esconde la misma infraestructura publicitaria que nos ha estado siguiendo durante 20 años», añade.

Este riesgo debería analizarse aún más detenidamente, si es posible, en Europa, donde el Reglamento de Protección de Datos protege a los usuarios de este tipo de abuso: «La UE introduce una forma muy específica de informar, especialmente con un procesamiento de datos tan complejo», dice el abogado Jorge García Herrero, que participó en la investigación. “En lugar de cumplir, estas cuatro empresas están abusando de la complejidad de sus políticas de privacidad para abrumarnos con textos largos y generalidades, perdiendo el punto clave: están proporcionando a los gigantes de la publicidad personalizada los temas de sus conversaciones a través de sus chats de IA y, en algunos casos, el texto completo”, añade.

Es aún peor en la UE

García Herrero cree que la advertencia de que nuestra información más íntima podría terminar en manos de la industria publicitaria merece tanta urgencia como el omnipresente “la IA comete errores” que aparece en cada chat para mitigar la responsabilidad si las respuestas son incorrectas.

Los investigadores aún no han analizado la IA de empresas como Meta o Google, puesto que ya cuentan con herramientas de análisis, publicidad y acceso al chat. «Siempre ha estado claro que el propio proveedor de IA procesa sus conversaciones, lo cual es necesario para que el servicio funcione. Nuestra investigación muestra que empresas de publicidad de terceros como Meta y TikTok también reciben datos relacionados con estas conversaciones», dice Suarez-Tangil. Cuando Google recopila datos a través de Gmail o Gemini, es propietario de ese servicio. En este caso, la investigación encontró algo más: los rastreadores de terceros están integrados en plataformas de inteligencia artificial que no les pertenecen, lo que les permite monitorear los datos confidenciales de los usuarios de terceros.