Google ha sido bueno (al menos esta vez)

Google tuvo una especie de eslogan corporativo informal durante muchos años que decía “no seas malo” (don’t be evil). La verdad, es que aquí hemos dudado varias veces de si Google seguía remotamente siguiendo ese lema, sin embargo hay que reconocer que la última semana han vuelto a acumular puntos cuando han anunciado que no venderá su tecnología de reconocimiento facial.

De esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

Hace unos pocos días, y de una forma bastante desapercibida, google anunciaba que debido a los posibles usos de la tecnología de reconocimiento facial no alineados a sus principios y valores, han decidido no ofrecer APIs de uso general en su plataforma Google Cloud. 

Esta decisión se anuncia justo cuando aún retumban las últimas noticias sobre facebook y cómo además de sus problemas de seguridad, la compañía tiene un importante problema con la ética

Y ocurre también cuando seguimos con una mezcla de asombro y pánico las noticias que nos llegan del “Crédito Social” que China está implementando masivamente basado en gran parte en tecnología de reconocimiento facial. 

Lo que no sabemos si ha tenido que ver con el anuncio de Google, es que Microsoft hace un par de semanas, Microsoft pidió a la industria autoregularse ante la inacción de los gobiernos. 

En un blog, Brad Smith (presidente de Microsoft) empezaba recordando como su compañía lleva tiempo pidiendo a los gobiernos del mundo una regulación de esta tecnología que impida una “carrera armamentística” que nos lleve a una situación después difícil de revertir. 

Ante la inacción legislativa, Microsoft cree que las empresas deben de tomar el liderazgo en autoregularse y generar seguros en sus desarrollos tecnológicos que impidan el abuso de estas tecnologías. 

Concretamente Microsoft habla de tres grandes riesgos asociados a la tecnología de reconocimiento facial.

Se ha demostrado recientemente y en varios estudios que el estado actual de la tecnología incluye sesgos raciales y de género. Estos sesgos influyen en la toma de decisiones y pueden agravar y sistematizar la discriminación contra esos grupos de personas.

Los evidentes riesgos para que el uso masivo de esta tecnología tiene para la privacidad personal. Microsoft cree que en el uso comercial del reconocimiento facial, debería haber avisos y consentimientos más explícitos a la hora de grabar en sus establecimientos.

Y finalmente, en la defensa de los derechos democráticos y los derechos humanos. Sin mencionar a China, Microsoft cree que la actividad de vigilancia debería estar limitada a determinados individuos a partir de una orden judicial o cuando hay un riesgo inminente, y no hecha de forma indiscriminada. 

Microsoft termina anunciando los 6 principios que utilizará a partir de ahora para dirigir su trabajo en relación al reconocimiento facial. 

List of Microsoft facial recognition principles

Microsoft pide más regulación en este ámbito, pero no se esconde ante la responsabilidad de las empresas y pide a las demás tomar medidas similares. 

Ya hemos visto que Google ha decidido no vender de forma abierta su tecnología, ¿pero qué pasa con el resto?

Casualmente, se ha hecho pública hace unos días una patente que ha registrado Amazon sobre reconocimiento facial

En esta patente, se describe como quiere utilizar Amazon tecnologías de reconocimento facial a timbres para puertas inteligentes de una empresa que compró recientemente, Ring. Pero es que además es que pinta una especie de sistema combinado entre los timbres, alexa y demás dispositivos de Amazon para conseguir un sistema de vigilancia omnipresente en el que se mezcla vídeo, audio y otros sistemas biométricos. 

Este sistema además estaría conectado con la policía de forma constante. Esto aviva la polémica sobre Amazon ya que hace unos meses se supo que había intentado vender su sistema de reconocimiento facial Rekognition al gobierno americano para sus sistemas anti-inmigración. Hay que recordar que se encontraron grandes sesgos raciales en Rekognition hace unos meses, así que es de entender la polémica.

Y cerrando el círculo sobre Google. Justo ayer publicaron algunos detalles sobre los seis primeros meses de aplicación de los 6 Principios de la Inteligencia Artificial que se autoimpusieron para sus desarrollos y relaciones comerciales. 

Google habla de más de 100 proyectos revisados. En esa revisión se estudian los mejores y peores escenarios para los proyectos, y en función de esa revisión se han tomado decisiones sobre limitar o reorientar algunos, mientras que en otros pocos casos, como el de la API genérica de reconocimiento facial con la que empezábamos el artículo, se ha decido dejar de ofrecer. 

Es entre esperanzador y aterrador que estas empresas estén tomando el camino de la autorregulación. Más allá de la acción de los gobiernos en esto, está claro que los peores escenarios de uso de estas tecnologías son aterradoras, y estas grandes empresas que podrían beneficiarse enormemente de ellas, están decidiendo no seguir por ese camino. Mientras esto son buenas noticias, la preocupación debería venir de aquellas que están decidiendo priorizar su negocio frente a estas cuestiones éticas. Es el momento de que además con nuestros votos, utilicemos nuestras carteras para hacer saber a las empresas lo que opinamos sobre estas cosas… Aunque soy pesimista teniendo en cuenta cuál será alguno de los regalos estrella de esta Navidad.

@resbla

Comentarios bienvenidos!

A %d blogueros les gusta esto: