Categorías
negocios

Es el momento del realismo en cuanto al reconocimiento facial

A poco que hayas leído un poco este blog, te habrás dado cuenta de que el reconocimiento facial es una tecnología con la que no me siento muy cómodo. Y no soy el único, suele ser protagonista en muchas visiones distópicas del futuro.

Sin embargo, creo que es el momento de un ejercicio de realismo en cuanto al reconocimiento facial, sobre todo, antes de que ya no se le pueda poner límites.

De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2020/11/reconocimiento-facial.mp3?_=1

 

La crisis del COVID ha sido la excusa para extender los sistemas de reconocimiento facial en muchos países. China no lo necesitaba puesto que ya tenía un sistema extensísimo, pero otros países con valores democráticos distraídos como Rusia, han aprovechado para extender estos sistemas para «velar mejor» por la seguridad de sus ciudadanos.

Moscú puso en funcionamiento justo al inicio de la crisis un enorme sistema de seguridad con reconocimiento facial con la excusa de poder monitorizar mejor el cumplimiento de las cuarentenas. Al poco tiempo, empezaron a surgir ofertas de personas que decían que podían acceder al sistema y por poco dinero, localizar información sobre la persona que quisieras.

Eso hizo una activista. Pagó algo menos de 200€, entregó una fotografía de la persona sobre la que quería información, y a los pocos días recibió una lista con todos los lugares a los que esa persona había ido en el último mes.

Justo antes del COVID, el reconocimiento facial había sido puesto en cuestión en la mayoría de las democracias occidentales.

En EEUU, varias ciudades prohibieron directamente su uso. En ciudades como San Francisco, Boston o Portland, ningún estamento público puede utilizar la tecnología después de que fueran evidentes algunos de los problemas más serios que tiene este tipo de tecnología, como los enormes sesgos raciales.

Precisamente estos problemas hicieron que grandes empresas como Microsoft, IBM o Amazon anunciaran que no venderían este tipo de tecnologías a fuerzas de seguridad en EEUU.

A este lado del Atlántico, la Unión Europea sopesó una moratoria de 5 años en su uso, que finalmente no confirmó. Aunque ahora parece que se está volviendo a evaluar. Eso sí, estamos lejos de una legislación homogénea en la Unión Europea y la situación es bastante diferente país a país.

 

 

En España, no hay una legislación específica y su uso se enmarca dentro de lo que dice la GDPR. Esto hace que sea muy difícil utilizar técnicas de reconocimiento facial en la vía pública, pero relativamente sencillo hacerlo en entornos privados.

Y es ahí dónde el reconocimiento facial va poco a poco haciéndose más omnipresente. De hecho, el COVID está convirtiéndola en más aceptable para el gran público. Todo lo que ahora nos permita acceder a sitios o poner en marcha cosas sin tocarlas ahora es no sólo aceptable, sino deseable. Apertura de puertas, activar dispositivos, pago «por la cara», cada vez nos parece más normal, y eso lleva implícito que empresas de todo tipo tengan acceso a nuestros datos biométricos.

Esto podría dar para un interesante debate sobre si es más seguro que una aerolínea tenga mis datos biométricos para permitirme subir al avión, o que la policía de un país como España tenga acceso a los de todos los ciudadanos. Pero lo dejaremos para otro día.

Personalmente, y no quiero sonar muy dramático, creo que estamos a punto de pasar el punto de no retorno en cuanto al uso masivo del reconocimiento facial. Pero al mismo tiempo, es ya muy tarde para pararlo. En realidad puede que sea el momento de hacer un ejercicio de realismo y fijar verdaderas líneas rojas en cuanto a su uso.

Es indiscutible que la nueva realidad hará que la percepción general de la tecnología cambie radicalmente. Ya hemos hablado de cómo nos estamos familiarizando en entornos privados o incluso con nuestros teléfonos móviles. Además el COVID hará que muchos consideren que hay que sacrificar privacidad por seguridad.

Además, las empresas de los países dónde se ha utilizado ya de forma masiva la tecnología han conseguido una ventaja que será difícil de cerrar. China es el líder tecnológico indiscutible en reconocimiento facial.

Así que si vamos hacia un mundo tolerante con esta tecnología, debemos ponernos de acuerdo lo antes posible en las líneas rojas. Si no se hace ahora, es probable que todo esto evolucione hasta un punto insoportable del que sería muy difícil volver. Y mucha de la solución a como poner estas líneas rojas, vendrá de la propia tecnología.

De la misma forma que no se pueden escanear o fotocopiar billetes de banco por sistemas de seguridad integrados en las impresoras y software de edición de imágenes, se podrían establecer límites en el diseño de los sistemas en cuanto a qué pueden reconocer las máquina y qué no.

También gracias al edge computing, se pueden diseñar sistemas de reconocimiento facial cuya información más sensible sólo salga de la cámara en determinadas y muy concretas circunstancias, desapareciendo el resto sin posibilidad de recuperación.

De esta misma forma, sistemas que sólo busquen de forma activa, por ejemplo bajo un claro y estricto mandato judicial, frente a sistemas que acumulen información de forma masiva. Algo equivalente a lo que son las escuchas por orden judicial frente a la vigilancia masiva de la NSA americana.

Lo que hay que evitar es que quien tenga capacidad para establecer sistemas de reconocimiento facial público caigan en un «síndrome de Diógenes digital» por el que acumulen datos y datos simplemente por el hecho de que se puede hacer y es muy barato almacenarlos.

Esta lista esta lejos de ser exhaustiva, y por supuesto, viene de alguien que no es experto en el tema. Pero simplemente son una reflexión que espero que sirva para el debate que debemos tener sobre este tema lo antes posible.

Precisamente ayer se presentaba el borrador de la Carta de Derechos Digitales del gobierno, y este tema se queda enterrado en términos genéricos sobre privacidad. Esperemos que cambie en versiones posteriores.

@resbla

Categorías
innovación

Hype Cycle 2020, ¿qué hay de nuevo?

Aquí llega puntual el nuevo Hype Cycle de Gartner del 2020. Es un Hype Cycle un poco sorprendente, no porque vuelvan a agrupar las 30 tecnologías en 5 grandes tendencias, que son totalmente diferentes a las del 2019, sino porque de esas 30 tecnologías, solo dos aparecían en la del 2019. Además, hay unas cuantas de esas tendencias muy relacionadas con el COVID19. Parece imposible que el Hype Cycle estuviera al margen de la pandemia, pero personalmente no termino de estar muy de acuerdo en que sean tendencias que permanezcan una vez todo esto pase. En todo caso, ¡allá vamos!

 

Cabe recordar que aunque algunas tecnologías «desaparezcan» del Hype Cycle principal, no suelen hacerlo de las curvas que Gartner mantiene para los diferentes verticales. Estas curvas especializadas no son públicas, así que es difícil saber dónde están, pero como decía antes, es sorprendente que prácticamente ninguna haya sobrevivido en la curva principal desde el año pasado.

Menos sorprendente es que Gartner cambie las 5 grandes tendencias en las que agrupan todas las tecnologías. Empecemos a revisarlas:

  • Composite Architectures: Es interesante que Gartner haya dedicado una de las tendencias a tecnologías con potencial impacto en la organización de las empresas, muy concretamente a la parte IT de las organizaciones. Dos tendencias muy relacionadas que están en este grupo son Composable Enterprise y Packaged Business Capabilities que describen una nueva arquitectura IT dentro de las organizaciones mucho más modular, basado en la nube y APIs que responde de forma más ágil a las necesidades del negocio. También en esa línea está Data Fabric, que describe un sistema para gestionar los datos de forma global dentro de las organizaciones. Redes privadas 5G (Private 5G), Low-cost single board computers at the edge, Secure access service edge architecture (SASE) y Embedded AI describen las últimas tendencias en el mundo del IoT y del Edge computing.
  • Algorithm Trust: Gartner considera que existe una importante tendencia hacia dotar las decisiones de las máquinas (IA) de confiabilidad. Una de estas tendencias se llama Authenticated Provenance (ejemplo abajo), una tecnología por la que se asegura que la información que se introduce en blockchain es veraz. También aparece en esta tendencia Explainable AI (que ya estaba en la del año pasado) y Responsible AI, que aglutina los diferentes esfuerzos para hacer la IA más ética. Una nueva incorporación es Differential Privacy, diferentes técnicas por las que se permite compartir datos públicamente haciendo imposible la identificación individual.

  • Beyond Silicon: Si el año pasado teníamos la Computación Postclásica, este año Gartner empieza a hablar de dejar atrás la Era del Silicio. Cierto es que hemos matado la Ley de Moore muchas veces, pero también que cada vez aparecen nuevas tecnologías muy prometedoras. Una de ellas es el almacenamiento y el procesamiento sobre ADN (DNA Computing and Storage), aún muy experimental (ejemplo abajo), de hecho la coloca muy al principio de la curva, pero que Gartner considera relevante. En la línea de sustituir el silicio, vuelven a aparecer los Carbon-Based Transistors en el Hype Cycle, aunque son una gran esperanza desde hace casi tanto tiempo como el grafeno, parece que estamos cerca de verdad de empezarlos a ver en aplicaciones comerciales. Y para el mundo de los sensores, Gartner identifica Biodegradable Sensors también en el Hype Cycle 2020 que serán importantísimos en el futuro de la biotecnología.

  • Formative AI: A medida que métodos más avanzados de machine learning van apareciendo, los sistemas de Inteligencia Artificial se convertirán en más autónomos. Esto les dotará de más flexibilidad para enfrentarse a situaciones para las que no fueron entrenadas inicialmente, y en definitiva, responder mejor a imprevistos. Tendencias como Generative AI, Composite AI, AI-Augmented Design, Generative Adversarial Networks (ejemplo abajo), Adaptive ML, Small Data y Self-Supervising Learning son todas tendencias que aparecen en este grupo que buscan de una manera o de otra, hacer la IA más ágil y menos dependiente de ingentes cantidades de datos, en definitiva, hacerla más humana.

  • Digital Me: Si el año pasado teníamos Augmented Human, este grupo ahora ha evolucionado para incorporar también algunas de las tendencias relacionadas con el COVID19. Tecnologías como el Health Passport o Social Distancing Technologies aparecen en el Hype Cycle 2020 con un plazo de maduración muy corto. Personalmente, dudo si seguirán siendo necesarias después de que lleguen las vacunas. Gartner también las coloca cercanas al Citizen Twin y Digital Twin of the Person, diferentes tipos de representación digital de las personas, en las que potencialmente se pueden mostrar diferentes aspectos de la salud de la persona. Bring Your Own Identity (BYOI) también aparece como forma por la que la identidad digital de una persona está gestionada por terceros que la certifican, algo de lo que se lleva hablando décadas por cierto y que Gartner ve entrando en el Valle de la Desilusión. Lo que no podía dejar fuera son los Bidirectional Brain-Machine Interface, y más cuando en pocos días tendremos más noticias de Neuralink.

 

Como suele ser habitual estos últimos años en el Hype Cycle, Gartner se centra en tecnologías emergentes aún lejos de llegar a la madurez. Puede ser por centrarse en las novedades, o puede ser por jugar sobre seguro con predicciones a largo plazo, el caso es que en la curva de este año sólo hay dos tendencias que Gartner espera que maduren en menos de dos años, y las dos, no es casualidad, son las más relacionadas con el COVID19. Además, coloca una aún en la escalada al Pico, y la otra, justo en el punto más alto, lo cual da idea de lo rápido que ver Gartner la evolución de estas tecnologías.

Personalmente ya he dicho que me cuesta creer que cuando la pandemia pase (y esperamos que sea pronto), queramos seguir utilizando estas tecnologías (al menos en Occidente). Pueden ser una pesadilla para la privacidad, por no hablar de temas éticos aún por resolver.

@resbla

PD: Tengo una charla muy chula, prácticamente sólo con vídeos de ejemplos reales de todas estas tendencias, en la que explico el Hype Cycle y sus implicaciones. Si te interesa, ponte en contacto conmigo

Categorías
negocios

Romper facebook no es suficiente, hay que romper los datos

Cada vez son más las voces que hablan de la necesidad de romper facebook. La serie de escándalos de que la compañía ha protagonizado estos meses ha ido sumando más gente a la causa, pero quizá, que todos esos escándalos no hayan tenido ningún impacto en sus resultados financeros sea lo que más asuste.

Que lo pidan políticos a punto de empezar una campaña electoral es hasta cierto punto normal. Que lo pidan competidores, también. Pero que lo haga uno de tus cofundadores, una de las personas que empezó facebook contigo y con el que trabajaste muchos años, tiene que ser complicado. Pues esto es con lo que desayunó Zuckerberg el pasado jueves, una tribuna de opinión de Chris Hughes en el New York Times.

De esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2019/05/romper-facebook.mp3

Creo que no hace falta hablar mucho sobre todos los enormes escándalos que han tenido a facebook como protagonista. Los hemos seguido aquí bastante de cerca, y también cómo no les ha pasado factura. De hecho, los últimos resultados financieros han sido aún más positivos.

Curiosamente, los resultados de Google se van cada vez deteriorando más, precisamente en dónde compiten con facebook, en la publicidad. Esto es importante, volveremos luego sobre ello.

Pero volviendo a los resultados de facebook, la compañía desveló que reservaba 3000 millones de dólares en previsión de una multa de la FTC americana que estima será entre 3000 y 5000 millones de dólares. La multa, que sería por sus continuos problemas con la seguridad de los datos de sus usuarios, no representa más del 6% de su circulante. Así que cómo castigo, se va a quedar muy pequeño.

De hecho, esto da la sensación de que facebook lo considera un gasto operativo más. Si algo debería asustar a reguladores del mundo, es precisamente esto.

Chris Hughes pasa una parte de su columna explicando por qué facebook es un monopolio. En realidad, creo que poca gente puede dudar ya de ello. Ni tampoco de las prácticas abusivas que la compañía ha ido siguiendo, entre otras, la compra sin ningún escrúpulo de competidores.

Y lo ha hecho impunemente principalmente por un motivo, las regulaciones antimonopolio en todo el mundo están pensadas para proteger a los usuarios de posiciones abusivas que suban el precio de los productos y servicios que consumen. Pero en este caso, siendo un servicio gratuito, ¿cómo se puede argumentar el daño al usuario? Difícil, muy difícil.

Así que facebook compró potenciales competidores delante de todo el mundo, Whatsapp e Instagram por ejemplo. Además copió funcionalidades de competidores sin ningún sonrojo, de SnapChat por ejemplo. Y jugó muy sucio contra el contenido de sus competidores en su plataforma.

Pero todo esto sin que el «precio» subiera para sus usuarios, así que nadie les ha «podido meter mano». De hecho, la multa de la FTC (igual que en la Unión Europea) será (si es) por temas de privacidad. Algo así cómo detener a Al Capone por problemas fiscales y no por asesinatos.

Sin embargo, el artículo de Chris Hughes es el reflejo de un sentimiento creciente que va a desembocar en las elecciones americanas del 2020. Por un lado, los demócratas, están cada vez hablando más de la necesidad de limitar el poder de este tipo de compañías. Lo hacen principalmente desde un punto de vista de problemas con las libertades civiles y la libertad de expresión. Sobre todo, alrededor del impacto que generan las fake news que circulan por estas plataformas sin ningún control.

No hay que olvidar que estas fake news generan tráfico, a veces mucho, así que hay un cierto incentivo perverso para las plataformas que no es sorprendente que hayan arrastrado los pies en este tema.

Pero en el otro lado, los republicanos con Trump a la cabeza, nunca han sido muy amigos de estas empresas de la progresista California que siempre se han mostrado abiertamente anti-Trump.

Así que creo que cada vez es más inevitable que en EEUU las cosas se le pongan difíciles a facebook, y cada vez es menos improbable un escenario en el que se rompa facebook, algo impensable hace pocos años.

Sin embargo, romper facebook no será suficiente. Si cómo propone Hughes, se separara Instagram y WhatsApp de facebook, nada impediría a facebook replicar esos servicios y acabar en el mismo sitio. Cuando facebook compró Instagram y Whatsapp lo compró por sus usuarios (ambas empresas tenían una estructura minúscula con poquísimos ingresos). Ahora, con 2300 millones de usuarios, conseguirían lo mismo en un chasquido de dedos.

Porque no tenemos que olvidar que si la compra fue por los usuarios, mantener Instagram y Whatsapp ahora aporta una profundidad de datos sobre cada usuario enorme, lo cual ayuda a facebook a vender una publicidad mucho más personalizada, por lo tanto eficaz, y por lo tanto más rentable.

Estamos lejos de la Era Industrial dónde las economías de escala venían por los recursos de las empresas. En esta Era Digital, lo primero fue la cantidad de usuarios, pero lo que de verdad manda ahora es la profundidad de los datos de cada usuario, su calidad.

Cuando el gobierno americano decidió romper AT&T en las Baby Bells limitó las operaciones de estos retoños a nivel regional. Puesto que las telecomunicaciones tiene mucho de monopolio natural en el que las economías de escala son enormes, se limitó de forma regulatoria esta capacidad de crecimiento.

En el caso hipotético de una ruptura de facebook, esto no se podría hacer. Sin embargo, algo parecido sería si pudiéramos «romper los datos». De la misma manera que en los mercados eléctricos (también por ser potenciales monopolios naturales) se separa el transporte de la comercialización, algo así deberíamos hacer con el mercado de los datos.

Mi humilde propuesta se articularía definiendo tipos de datos que pueden o no cruzarse, tipos de datos que pueden o no ser asignados a una persona, o tipos de datos que son de «consumo» instantáneo y que no se incorporan a los datos centrales.

Volviendo a Google, parece que está viendo la barbas del vecino… y está haciendo de la necesidad virtud.

En su última convención de desarrolladores, Google sacó pecho en cuanto a su cuidado con la privacidad de sus usuarios. Recordó que habían dejado de utilizar la información de los correos electrónicos en Gmail para generar anuncios personalizados.

Que van a ser extremadamente cuidadosos con quién y para qué accede a la API de Gmail, con especial cuidado para que nadie lo utilice para extraer datos personales. Y además, que guardarán datos durante menos tiempo.

Pero además, y para mi satisfacción personal, hablaron de que en que en algunos productos de su marca Nest, van a procesar cosas como el reconocimiento facial en el propio dispositivo, sin mandar datos a la nube.

Y me hace especial ilusión porque es algo sobre lo que he dado mucho la turra a algunas personas (sabéis quiénes sois, un abrazo :)). Personalmente creo que parte de la solución de la privacidad digital pasa porque muchos procesos relacionados con el tratamiento de nuestros datos ocurran en local, en el dispositivo que tenemos delante, y ocurran sin ser compartidos con la «nube».

Esto hasta hace poco era complicado desde un punto de vista tecnológico y nada recomendable desde un punto de vista de negocios. Me imagino la cara de algún inversor ante un pitch de un producto así.

Pero por un lado, esto que se ha llamado Edge Computing, nos acerca a que dispositivos que han sido tradicionalmente «tontos», sean cada vez lo suficientemente inteligentes cómo para ser «entrenados» por la nube y ser capaces de procesar datos complejos en local.

Y desde el punto de vista de negocio, cómo bien reconoce Google, los usuarios cada vez estamos menos dispuestos a cambiar comodidad por privacidad, y vamos a querer la comodidad pero con seguridad.

No es suficiente con romper facebook, hay que romper los datos.

@resbla

Salir de la versión móvil