Es el momento del realismo en cuanto al reconocimiento facial

A poco que hayas leído un poco este blog, te habrás dado cuenta de que el reconocimiento facial es una tecnología con la que no me siento muy cómodo. Y no soy el único, suele ser protagonista en muchas visiones distópicas del futuro.

Sin embargo, creo que es el momento de un ejercicio de realismo en cuanto al reconocimiento facial, sobre todo, antes de que ya no se le pueda poner límites.

De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

 

La crisis del COVID ha sido la excusa para extender los sistemas de reconocimiento facial en muchos países. China no lo necesitaba puesto que ya tenía un sistema extensísimo, pero otros países con valores democráticos distraídos como Rusia, han aprovechado para extender estos sistemas para «velar mejor» por la seguridad de sus ciudadanos.

Moscú puso en funcionamiento justo al inicio de la crisis un enorme sistema de seguridad con reconocimiento facial con la excusa de poder monitorizar mejor el cumplimiento de las cuarentenas. Al poco tiempo, empezaron a surgir ofertas de personas que decían que podían acceder al sistema y por poco dinero, localizar información sobre la persona que quisieras.

Eso hizo una activista. Pagó algo menos de 200€, entregó una fotografía de la persona sobre la que quería información, y a los pocos días recibió una lista con todos los lugares a los que esa persona había ido en el último mes.

Justo antes del COVID, el reconocimiento facial había sido puesto en cuestión en la mayoría de las democracias occidentales.

En EEUU, varias ciudades prohibieron directamente su uso. En ciudades como San Francisco, Boston o Portland, ningún estamento público puede utilizar la tecnología después de que fueran evidentes algunos de los problemas más serios que tiene este tipo de tecnología, como los enormes sesgos raciales.

Precisamente estos problemas hicieron que grandes empresas como Microsoft, IBM o Amazon anunciaran que no venderían este tipo de tecnologías a fuerzas de seguridad en EEUU.

A este lado del Atlántico, la Unión Europea sopesó una moratoria de 5 años en su uso, que finalmente no confirmó. Aunque ahora parece que se está volviendo a evaluar. Eso sí, estamos lejos de una legislación homogénea en la Unión Europea y la situación es bastante diferente país a país.

 

 

En España, no hay una legislación específica y su uso se enmarca dentro de lo que dice la GDPR. Esto hace que sea muy difícil utilizar técnicas de reconocimiento facial en la vía pública, pero relativamente sencillo hacerlo en entornos privados.

Y es ahí dónde el reconocimiento facial va poco a poco haciéndose más omnipresente. De hecho, el COVID está convirtiéndola en más aceptable para el gran público. Todo lo que ahora nos permita acceder a sitios o poner en marcha cosas sin tocarlas ahora es no sólo aceptable, sino deseable. Apertura de puertas, activar dispositivos, pago «por la cara», cada vez nos parece más normal, y eso lleva implícito que empresas de todo tipo tengan acceso a nuestros datos biométricos.

Esto podría dar para un interesante debate sobre si es más seguro que una aerolínea tenga mis datos biométricos para permitirme subir al avión, o que la policía de un país como España tenga acceso a los de todos los ciudadanos. Pero lo dejaremos para otro día.

Personalmente, y no quiero sonar muy dramático, creo que estamos a punto de pasar el punto de no retorno en cuanto al uso masivo del reconocimiento facial. Pero al mismo tiempo, es ya muy tarde para pararlo. En realidad puede que sea el momento de hacer un ejercicio de realismo y fijar verdaderas líneas rojas en cuanto a su uso.

Es indiscutible que la nueva realidad hará que la percepción general de la tecnología cambie radicalmente. Ya hemos hablado de cómo nos estamos familiarizando en entornos privados o incluso con nuestros teléfonos móviles. Además el COVID hará que muchos consideren que hay que sacrificar privacidad por seguridad.

Además, las empresas de los países dónde se ha utilizado ya de forma masiva la tecnología han conseguido una ventaja que será difícil de cerrar. China es el líder tecnológico indiscutible en reconocimiento facial.

Así que si vamos hacia un mundo tolerante con esta tecnología, debemos ponernos de acuerdo lo antes posible en las líneas rojas. Si no se hace ahora, es probable que todo esto evolucione hasta un punto insoportable del que sería muy difícil volver. Y mucha de la solución a como poner estas líneas rojas, vendrá de la propia tecnología.

De la misma forma que no se pueden escanear o fotocopiar billetes de banco por sistemas de seguridad integrados en las impresoras y software de edición de imágenes, se podrían establecer límites en el diseño de los sistemas en cuanto a qué pueden reconocer las máquina y qué no.

También gracias al edge computing, se pueden diseñar sistemas de reconocimiento facial cuya información más sensible sólo salga de la cámara en determinadas y muy concretas circunstancias, desapareciendo el resto sin posibilidad de recuperación.

De esta misma forma, sistemas que sólo busquen de forma activa, por ejemplo bajo un claro y estricto mandato judicial, frente a sistemas que acumulen información de forma masiva. Algo equivalente a lo que son las escuchas por orden judicial frente a la vigilancia masiva de la NSA americana.

Lo que hay que evitar es que quien tenga capacidad para establecer sistemas de reconocimiento facial público caigan en un «síndrome de Diógenes digital» por el que acumulen datos y datos simplemente por el hecho de que se puede hacer y es muy barato almacenarlos.

Esta lista esta lejos de ser exhaustiva, y por supuesto, viene de alguien que no es experto en el tema. Pero simplemente son una reflexión que espero que sirva para el debate que debemos tener sobre este tema lo antes posible.

Precisamente ayer se presentaba el borrador de la Carta de Derechos Digitales del gobierno, y este tema se queda enterrado en términos genéricos sobre privacidad. Esperemos que cambie en versiones posteriores.

@resbla