¿Dónde están los humanistas en Google?

Aún estamos con la boca abierta después de la primera demostración pública de Duplex de Google. Duplex es un asistente personal digital basado en la última tecnología de inteligencia artificial y síntesis de voz de la compañía que dirige Sundar Pichai.

Pero esa misma demostración, ahora que se habla tanto de la necesidad de incorporar visiones humanistas al desarrollo tecnológico y que la innovación centrada en la persona con design thinking a la cabeza es tendencia absoluta, ha hecho a muchos sentir escalofríos mientras otros se entregaban al hype.

De esto hablamos en este techno-bits de Capital Radio con Luis Vicente Muñoz:

 

Es difícil que no hayas visto aún la demo en cuestión, pero por si acaso, aquí tienes el vídeo.

 

La demostración ocurre en la conferencia anual de desarrolladores de Google, así que es normal la euforia con la que se observa las conversaciones telefónicas entre Duplex y dos personas reales que no saben que están hablando con una máquina, y aún más importante, no lo saben tampoco al colgar.

Esto significa que de facto, Duplex ha pasado el test de Turing, al menos para el contexto de llamadas telefónicas para hacer reservas

Sinceramente, es difícil recordar un wow-factor tan grande desde alguna presentación de Musk o de Jobs. El que Google haya conseguido un sistema de inteligencia artificial que sea capaz de manejar conversaciones con personas, conversaciones que como se ve en una de las demos no va exactamente como se espera, y lo haga de una forma tan natural es verdaderamente impresionante.

Aunque aún nos sorprende la capacidad de los asistentes digitales que tenemos alrededor nuestro de entendernos e incluso contestarnos, la verdad es que la experiencia que dan es bastante poco satisfactoria.

Duplex parece ese HAL 9000, o ese Jarvis que todos los amantes de la ciencia ficción hemos querido siempre tener en casa. La perspectiva de que estamos a punto de tener un sistema que de verdad se encargue de las tareas más mundanas y administrativas de nuestra vida es algo que era inimaginable hace poco.

Sin duda esta tecnología no se quedará en algo con lo que reservaremos cita en la peluquería y tendrá aplicaciones mucho más ambiciosas. Por ejemplo, la de ayudar a recuperar la voz a enfermos de Esclerosis Lateral Amiotrófica (ELA) como están haciendo desde el proyecto Revoice.

Pero precisamente una de las características que más sorprendió a todos y que hace la conversación de Duplex más real, las muletillas que utiliza durante la conversación, es la que más ha preocupado a mucha gente y que más dudas éticas ha generado.

El sistema está claramente diseñado para engañar a la gente. El objetivo de Google con la charla que mostró el otro día era el de «colar» a una persona una conversación con una máquina sin que esta se diera cuenta. Por eso, para hacerla sonar más humana, Google la ha diseñado con esas muletillas, que en realidad no aportan ningún mensaje, pero añaden el color suficiente a la conversación como para hacerla creíble.

Esto es precisamente lo que los expertos de la ética tecnológica recomiendan no hacer. Organismos como la IEEE o la BSI llevan tiempo avisando contra la antropomorfización innecesaria. Y es que consideran que en la relación entre las máquinas y las personas la transparencia sobre la naturaleza humana es clave para evitar engaños.

La ciencia ficción está plagada de historias sobre los problemas de la antropomorfización. En Blade Runner se encargaban de eliminar replicantes imposibles de distinguir de humanos. Y Asimov obligaba a que todos los robots tuvieran una R delante de su nombre para evitar confusiones.

Más allá de lo ético que nos parezca que un sistema engañe a una peluquera, teniendo en cuenta que ahora nadie se espera que le llame un robot por teléfono, la cosa se empieza a complicar cuando nos imaginamos que a Duplex le podemos hacer hablar como nosotros y empezamos a hacer llamadas a conocidos o familia. ¿Qué joven no delegaría muchas llamadas de sus padres a Duplex?

O cuando además de la voz, podamos personalizar la personalidad de Duplex. Ya hemos vivido lo que la gente hace cuando tiene un nick y un avatar como imagen en chats y redes sociales, qué no haríamos con un Duplex tuneado.

Pero es más, qué efectos legales tendría las acciones de un Duplex altamente automatizado. Imaginemos que delegásemos tareas financieras en nuestro Duplex y este tomara la iniciativa de hablar con nuestro banco realizar diferentes operaciones. ¿De quién sería la responsabilidad?

Lo que está ya claro a estas alturas es que esto es imparable. Estas tecnologías terminan llegando de una manera u otra a nosotros. Y siempre este tipo de grandes cambios tecnológicos traen consigo una parte de excitación y otra de miedo, así que tendremos que hacer lo que hemos hecho en el pasado, aprender a vivir con ellas, intentando maximizar sus beneficios e intentando minimizar los riesgos.

Más allá del uso que hagamos cada uno de nosotros, la propia tecnología también siempre viene al rescate. Ya hay gente trabajando con la misma tecnología que utiliza Duplex para desenmascarar a los replicantes de nuestro mundo. Por ejemplo con XceptionNet, un algoritmo diseñado para encontrar vídeos falsos como este.

Pero los creadores también tienen una gran responsabilidad. En este sentido, Google ya ha anunciado que está diseñando Duplex con algún sistema que avise de que en realidad se trata de un sistema automático. Podría por ejemplo presentarse como el asistente digital de… Esto por supuesto ha soliviantado a los tecnófilos más radicales ya que supondrá hacer el sistema menos ágil.

En todo caso, y teniendo en cuenta que la presentación pública de Duplex fue hace solo unos días, esto se parece de momento demasiado a las Google Glass. Precisamente el producto con el que esos tecnófilos radicales corrieron a sacarse fotos para ponérselas en sus perfiles en las redes sociales como símbolo de modernidad.

Y no parece que ni ellos ni Google hayan aprendido mucho de aquello. Y como decíamos al principio, en estos momentos en el que hablamos tanto de la innovación centrada en la persona (Design Thinking), de que las humanidades están de moda dentro de las tecnológicas, Duplex no parece que encaje.

Se me hace complicado pensar que de un proceso de innovación humanista saliera un producto diseñado para engañar a las personas. En realidad, parece otro ejemplo de innovación centrada en la tecnología y de un producto que es más un ejercicio de estilo que otra cosa. Otra vez, como Google Glass.

Veremos como responde Google, al que sin duda aún hay que darle el beneficio de la duda teniendo en cuenta el contexto de la demostración y de que el producto final debería ser aún muy diferente a lo que hemos visto. Esperemos.

@resbla