Illinois es la aldea gala de la biométrica
No son pocas empresas las que han utilizado imágenes de personas disponibles en internet para enseñar a las máquinas a través de procesos de machine learning a reconocer personas y muchas otras cosas.
Sin embargo, casi todas desconocen que hay una irreductible aldea en el medio oeste de Estados Unidos en la que esto es ilegal y que se está convirtiendo en la base desde la que activistas lanzan denuncias a empresas que están abusando de este tipo de información biométrica.
De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:
Hace pocos meses FaceApp se volvió viral. Poca gente se resistió a verse con 30 años más, y todo a pesar de los muchos avisos que se lanzaron sobre los riesgos de privacidad asociados a la app.
En realidad, son muchas las empresas que han atraído a usuarios con algún caramelo para intercambiar sus datos o su conocimiento para enseñar las máquinas a leer, reconocer caras o modelar caras entre otras cosas.
En esto hemos pasado de formas bastante benignas de inteligencia colectiva como los captcha, a cosas más turbias como la citada FaceApp, pero hay muchas otras, incluida facebook o google. Con google maps, cedemos datos personales geolocalizados para aprovecharnos de la comodidad de sus mapas y navegadores, pero a cambio los servicios de google han aprendido a hacer predicciones sobre nuestros gustos, lugares que visitamos, nuestra casa… Incluso del presidente de los EEUU.
En todo caso, volvamos al tema de los datos biométricos y concretamente los de nuestra cara. La enorme cantidad de fotografías de personas que hay disponibles en internet, ha hecho de ellas una fuente muy fácil y accesible para que investigadores y empresas de todo el mundo entrenaran a sus sistemas de reconocimiento facial (entre otras cosas) con ellas. Una simple búsqueda en google da millones de resultados con fotografías en las que aparecen imágenes con caras de personas.
Esto es muy sencillo cuando eres muy pequeño y estás «por debajo» del rádar. Haciendo scrapping puedes conseguir muchísimas imágenes pero es muy probable que estés utilizando imágenes con derechos de autor, o simplemente que las leyes locales no te lo permitan. Además, llega un momento en el que quizá necesites imágenes de más calidad o en el que la cara se vea de una determinada forma.
Por eso, en cuanto tienes un cierto tamaño o el proyecto es de cierta ambición, necesitas conseguir imágenes de más calidad, en más cantidad, y que sean los propios usuarios quiénes te las den.
Esta fue la estrategia de FaceApp. Pero algo muy parecido hizo facebook. Con el «caramelo» de poder compartir imágenes fácilmente, luego ser capaz de etiquetar a la gente, y con filtros y demás, ha conseguido que la gente subamos miles de millones de fotografías, y esto es oro puro para los sistemas de reconocimiento facial.
Sin embargo, hay una aldea gala en esto de la biometría, Illinois en Estados Unidos. Resulta que desde 2008, Illinois tiene una ley específica sobre los datos biométricos. Esta ley establece entre otras cosas, que cualquier empresa que quiera recoger datos biométricos de ciudadanos de Illinois, tiene que conseguir su consentimiento de forma expresa.
Así que en base a esta ley, hay varios grupos de activistas que están aprovechando esta ley para mandar un mensaje muy claro a las empresas tecnológicas en cuanto a los derechos digitales.
En esta línea, hace pocos días llegaron a un acuerdo con facebook para que pague 550 millones de dólares de multa por haber recogido, procesado y almacenado imágenes de personas residentes en Illinois sin su permiso.
Hace pocos días han anunciado una nueva demanda ahora contra Clearview. Esta es una startup americana que lleva años hablando de cómo usan scrapping en la web y redes sociales para luego revender esos datos. Entre sus clientes están incluso algunas policías de EEUU.
Todo indica a que Clearview va a tener un problema muy serio porque parece imposible que en ese scrapping indiscriminado que llevan haciendo años no haya un sólo ciudadano de Illinois.
En Europa, la GDPR protege de forma similar los derechos sobre los datos biométricos de sus ciudadanos, sin embargo, aún no hemos visto multas de este tipo a este lado del Atlántico.
Durante algunas semanas se esperó que la UE introdujera una moratoria para la implementación de sistemas de reconocimiento facial. Finalmente parece que no seguirá adelante, pero está claro que esto de los datos biométricos será la nueva gran batalla de la privacidad digital, y no parece que el dejar esto a la autoregulación de la industria sea una buena idea.
Pero ha habido más noticias interesantes en esto de la IA esta semana. En Holanda, un juzgado ha declarado ilegal un sistema por el que la hacienda local realizaba análisis del riesgo que cada ciudadano tiene de defraudar a la seguridad social.
Ha habido bastantes intentos de aplicar la IA a la predicción de crímenes, más o menos graves. En EEUU se ha utilizado por ejemplo para evaluar el riesgo de reincidencia de una persona, y también para predecir el crimen en determinadas zonas.
Todas ellas se han demostrado como sistemas sesgados que siempre perjudican al mismo tipo de personas. Y precisamente por eso el juzgado holandés ha declarado ilegal el sistema
Personalmente pienso que la UE ha perdido una oportunidad al no prohibir sistemas de reconocimiento facial hasta que se tenga un mejor conocimiento de la tecnología. San Francisco lo hizo hace ya tiempo y no parece que haya quejas.
En todo caso, quiero ser optimista, todo esto no son más que «problemas de crecimiento» a medida que aprendemos y nos familiarizamos con una tecnología tan poderosa cómo la Inteligencia Artificial.
@resbla
