A todos los que usamos internet estamos familiarizados con captcha. Son pequeñas pruebas que demuestran que somos una persona, no bot. Puede haber varias imágenes en las que debamos hacer clic, por ejemplo, aquellas que muestran un autobús o un tractor; a veces es una pieza de rompecabezas que hay que colocar en tu agujero; Otros simplemente nos piden que marquemos una casilla que dice «No soy un robot».
Hay varias empresas que ofrecen un servicio de autenticación que evita que la página web se inunde de tráfico. robots. Pero el principal proveedor de estos rompecabezas es Google. Es por ello que en los últimos meses se ha prestado atención a la empresa. Los desencadenantes fueron un tweet viral y un cambio en los términos y condiciones de Google para los usuarios. captchalo que la llevó a pasar de la función de responsable del tratamiento a la de encargada del tratamiento.
Él piar Esto provocó una avalancha de información en redes sociales y blogs. Describieron cómo Google utilizó los datos de los usuarios para resolver captchas y entrenar su IA. Por ejemplo, seleccionar autobuses de varias imágenes ayuda a etiquetarlos con precisión para que software Descubra qué es un autobús. Esto sería beneficioso para Waymo, la filial de vehículos autónomos de Alphabet que también es la empresa matriz de Google. Pero ¿hasta qué punto es esto cierto?
La disertación circula en Internet desde hace muchos años. Y a esto hay que sumarle las preocupaciones de privacidad de organizaciones como Regulador francés de protección de datos (CNIL), donde Oficina Estatal de Protección de Datos de Bavieraen Alemania. El primero argumentaba que la finalidad del captcha no era sólo la seguridad, mientras que el segundo planteaba dudas sobre la transparencia del tratamiento de esta información.
Dado el valor de los datos generados por los captchas, ¿tiene sentido utilizarlos para entrenar modelos de IA? “La mayoría (captchas) son bases de datos de imágenes relacionadas con el tráfico”, afirma Carina Guibert, profesora de la Universidad Politécnica de Cataluña (UPC) y exdirectora y fundadora del Centro de Investigación en Ciencia de Datos Inteligentes e Inteligencia Artificial. «Están estrechamente relacionados con el reconocimiento de obstáculos, vehículos y señales de tráfico en movimiento. Esto nos vincula en muchos sentidos con todo lo que un coche autónomo necesita ver, comprender e interpretar, que necesita moverse en un entorno en el que se encuentra con otros vehículos o señales de tráfico que necesita interpretar».
El reconocimiento de objetos es uno de los factores más importantes en el desarrollo de los vehículos autónomos. «Cuando se implementa un sistema de conducción autónoma en un entorno del mundo real donde la cámara podría simplemente estar sucia o lloviendo, tener imágenes de una persona marcando un tractor borroso ayuda al sistema a mejorar su capacidad para detectar tractores», explica Jordy Ning, investigador del Instituto de Investigación de Inteligencia Artificial. «El sistema intenta reconocer qué diseño utilizó la persona para marcar el tractor». Y las personas pueden cometer errores a veces, pero con este tipo de etiquetado, la imagen generalmente se muestra a varios usuarios. Si mucha gente indica que está apareciendo un tractor, esto se considera bueno.
Etiquetar correctamente imágenes borrosas o áreas donde un objeto es difícil de percibir permite manejar las excepciones con mayor precisión. «Es necesario disponer de una base de datos muy grande con muchas imágenes que contengan semáforos, y que permita determinar dónde hay semáforos y dónde no», afirma Guibert. «Con toda esta enorme base de datos, entrenas el algoritmo y es capaz de reconocer un semáforo en cualquier posición, en cualquier ángulo, en las nubes, con mucho sol, bajo la lluvia o en la jungla».
Finalidad de los datos captcha
Una de las figuras clave en el surgimiento captcha era guatemalteco Luis von Ahnquien luego cofundaría Duolingo. En la década de 2000 se creó el servicio reCAPTCHA, cuyo propósito original era proteger las páginas web mediante pruebas que un programa informático no podía resolver en ese momento. Así llegó a los bots que ya rondaban por Internet. Además, el sistema captcha tenía otra finalidad: digitalizar libros antiguos. Los acertijos consistían en palabras escritas que, si los usuarios las etiquetaban correctamente, ayudaban al algoritmo a descifrar mejor los textos. Todavía eran los días del ingenio digital, con la brillantez de la pura experimentación y sin cálculo de ganancias.
Google adquirió ReCAPTCHA en 2009, amplió el servicio y lo utilizó para digitalizar millones de libros y periódicos. Esta tarea implicó entrenar algoritmos que leyeran todo tipo de textos con una precisión cada vez mayor. Durante años, la empresa ha afirmado claramente que utiliza captcha para mejorar sus sistemas de inteligencia artificial. EN versión antigua de la página de servicio oficial Destacó el lema «Detener un bot, crear un bot». Luego decía: «Las imágenes de alta calidad etiquetadas por humanos se recopilan en conjuntos de datos que pueden usarse para entrenar sistemas de inteligencia». aprendizaje automático»
Según Google España, esto ya no es así: “En 2018, el rápido desarrollo de la inteligencia artificial y el cambiante panorama de las ciberamenazas marcaron un punto de inflexión.reCAPTCHA v3,Hemos dejado de usar desafíos visuales y ya no usamos respuestas de desafíos reCAPTCHA para entrenar modelos”. Hoy en día, en la página oficial del servicio no aparece ninguna mención a la capacitación del modelo, y la compañía indica que los datos se recopilan solo para mejorar el captcha.
Sin embargo, persisten algunas dudas. Para empezar Muchos sitios utilizan una versión antigua del servicio.que en realidad sirvió para entrenar la IA. Además, reCAPTCHA se divide en dos productos: uno está destinado a empresas cuyos términos y condiciones establecen claramente que los datos recopilados solo se utilizan para mejorar la seguridad, y el otro es gratuito. Hay mucha ambigüedad aquí, ya que la versión gratuita estuvo regulada hasta abril del año pasado. política de privacidad generales y términos de servicio de Google. En algunas páginas web que utilizan este servicio aún se puede leer esta mención. Y los términos de privacidad estipulan que los datos del usuario pueden usarse para mejorar los servicios de Google o desarrollar otros nuevos. Las puertas permanecen abiertas.
En 2023 artículo de la Universidad de California, Irvine señaló que Google usó sus captchas (pre-v3) para obtener imágenes etiquetadas y datos de entrenamiento para su IA. Algunas voces coinciden con las tesis de los investigadores que firman lo anterior papel. «Suponemos que Google los utiliza para entrenar algoritmos que reconocen los elementos del tráfico», afirma Karina Guibert.
«Para entrenar un sistema de visión por computadora, es necesario utilizar algoritmos de aprendizaje supervisado que operen en bases de datos etiquetadas», dice Guibert. «Para entrenarlos, se necesitan muchos datos etiquetados. Y con captchas, se crea una base de datos etiquetada por humanos de muy alta calidad que está en constante crecimiento».
Los expertos coinciden en que los datos generados por los captchas tienen un valor enorme. Y Jordy Ning destaca cómo los datos de entrenamiento de calidad se han convertido en un bien escaso y en un objeto de deseo: «Google te ofrece sus bibliotecas de entrenamiento modelo, incluso te brinda pequeñas instancias gratis para que puedas hacer entrenamiento, tutoriales y entrenamiento. Pero el activo necesario para crear un modelo de la calidad que Google necesita son los datos. Mientras mantengan los datos bajo control, no estás compitiendo con ellos».
El cambio de rol de Google
El 2 de abril, Google cambió oficialmente su papel en el servicio reCAPTCHA. Pasó de responsable del tratamiento a encargado del tratamiento. Como procesador, Google ya no puede decidir unilateralmente qué hacer con la información recopilada. Necesitará las páginas web a las que ofrece el servicio para convertirse en agentes controladores. Además, la prestación del servicio estará sujeta a los términos de Google Cloud Platform, que son más estrictos que la política de privacidad y las condiciones generales de uso.
Guibert se centra en un ámbito diferente. “La consecuencia más importante es que el responsable del tratamiento los transfiere al usuario”, argumenta. «El sitio web que utiliza el captcha ahora tiene poderes de controlador, mientras que Google puede recopilar la información y analizarla. Solo hicieron una declaración de que el responsable del mal uso de los datos es la persona que coloca el captcha en su sitio web». Parece que la incertidumbre aún no ha terminado.
0 Comments