Categorías
innovación

¿Máquinas que generan empatía? ¡No, gracias!

Parece que las GAFA no pueden evitar tener ideas pésimas para alrededor de la aplicación de la Inteligencia Artificial. Si la semana pasada ya hablábamos de LaMDA y cómo Google está desarrollando una IA diseñada para hacer creer a los humanos que tiene consciencia, ahora sabemos que Amazon está intentando desarrollar máquinas que generen empatía en sus usuarios.

De todo esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/06/alexa-empatia.mp3?_=1

 

Pero antes, volvamos a LaMDA. Justo después de publicar el artículo sobre el tema, entrevistaron a Lemoine, el ingeniero co-protagonista de la historia, en Bloomberg. La entrevista es interesantísima, y deja intuir también la personalidad de Lemoine. Me atrevo a decir que sus sesgos probablemente le hayan convencido de que LaMDA tiene consciencia y es un ejemplo más de cómo máquinas diseñadas para ello podrían hacernos creer cualquier cosa.

Pero volvamos a Amazon. En su última conferencia anual re:MARS (Machine Learning, Automation, Robotics, Space), entre otras muchas cosas, se habló de Alexa e IA empática. Os dejo el vídeo justo dónde se empieza a hablar de ello.

Personalmente, me parece una película de terror. El presentador, el investigador líder de IA de Amazon presenta el vídeo hablando de cómo Alexa es capaz de generar empatía y afecto en los seres humanos, algo muy necesario después de la pandemia del COVID. En el vídeo, un niño pide a Alexa que acabe el cuento con la voz de su abuela… Hay tantas cosas malas en todo esto.

Se lleva observando y estudiando desde hace tiempo que los seres humanos desarrollan empatía hacia robots humanoides. Es decir, nuestra Roomba no nos genera sentimientos, pero si tuviera forma humana (o animal), probablemente nos sentiríamos mal si la hiciéramos trabajar todo el día o si la pisáramos.

Esto tiene unas implicaciones y ramificaciones muy difíciles de predecir. Quizá me repito demasiado, pero si leemos a Asimov y el universo que creó alrededor de los robots, parece que él anticipó muchas de estas cosas. Mientras que en todo el universo se prohibieron los robots que fueran imposibles de distinguir de un ser humano, en un planeta, Solaria, siguieron fabricándolos y cada vez más perfectos. El resultado fue que los habitantes de Solaria acabaron rodeándose de robots y rechazando el contacto humano.

Sé que la ciencia ficción está llena de predicciones distópicas que no se cumplen, pero no me cuesta imaginarme que máquinas diseñadas para generar emociones y empatías hacia ellas pueden generar comportamientos (e incluso trastornos) muy negativos para sus usuarios y las personas que les rodean.

Por otro lado, la tecnología que presenta Amazon y que potencialmente podría llegar a Alexa es impresionante. Con un minuto de voz de una persona, Alexa será capaz de generar una réplica de alta calidad de esa voz. Con su prosodia, tono, timbre… Pero también, muy peligroso.

Las estafas utilizando deepfakes de voz han ido aumentando últimamente. El caso más sonado fue el robo de 35 millones de dólares en un banco de Hong Kong utilizando esta tecnología. Pero tampoco hay que pensar en grandes delitos. ¿Cuánto tardaría un niño en pedir a Alexa que llame a su profesora poniendo la voz de su madre diciendo que está enfermo? ¿O que llame a un amigo para que le pida con la voz de su hermano que le haga un bizum? Por no pensar en que el bullying con los deepfakes podría ser aún más cruel.

Está claro que tecnologías de voz realista pueden tener usos muy positivos en salud. Pero incluso en usos a priori inocuos, call centers, incluso estos asistentes de voz, creo sinceramente que diseñarlos tan perfectos cómo que la gente se lleve a engaño, y por lo tanto, genere expectativas (o sentimientos) erróneos es algo simplemente poco deseable.

Si la industria no se da cuenta de esto y no empieza rápido a poner salvaguardas para que esto ocurra, será el momento de una regulación dura que seguramente no beneficie a nadie.

Aunque hay otra alternativa, que el público en general acabe tan harto y con tanto miedo de estas tecnologías que genere un rechazo que mande a todo el sector a una suerte de «invierno de la IA«. Lo hemos visto antes, ¿os acordáis de las gafas de Google?

@resbla

Categorías
innovación

Amazon Day 1 Editions, crowdfunding a lo bestia

El crowdfunding ha sido siempre una de las «niñas bonitas» de la innovación. Cualquier presentación con ejemplos sobre formas innovadoras de lanzar nuevos productos siempre incluye ejemplos de micromecenazgo. La realidad, es que más allá de pelotazos únicos, no hay muchos ejemplos de proyectos que hayan generado gran impacto. Sin embargo, esto puede cambiar rápidamente.

De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2021/02/amazon-day-1.mp3?_=2

 

Amazon acaba de anunciar una evolución de su programa Day 1 Editions que se llama Build It. Si en Day 1 Editions se lanzaban productos innovadores de forma limitada con el objetivo de recibir opiniones de un grupo reducido de usuarios (se necesitaba una invitación para comprar los productos), en Build It hablamos de un modelo de crowdfunding muy parecido al de sitios como Kickstarter.

De momento han lanzado tres productos que se conectan a Alexa, un reloj, una báscula y una impresora. A día de hoy, y a falta de un mes para el fin de la campaña, la impresora ya ha cumplido el objetivo, pero dudo que los otros dos no lo consigan. Eso sí, Amazon no da datos sobre unidades objetivo, sólo un porcentaje.

En lo demás, funciona igual que Kickstarter. Si se llega al objetivo se fabrica y los compradores iniciales tienen un descuento sobre el precio final. Si no se llega, pues el diseño se descarta.

Kickstarter e Indiegogo son las dos referencias en el micromecedazgo a nivel mundial. El crowdsourcing es un ejemplo de innovación abierta que permite validar una idea y llevarla a ejecución muy rápidamente ya que los que apoyan el proyecto lo hacen adelantando el dinero. Esto elimina cierto riesgo para los que proponen el proyecto.

Siempre ha sido uno modelo muy utilizado como ejemplo «disruptor» de innovación abierta. Sin embargo, si miramos los mayores éxitos en campañas de crowdsourcing, creo que los resultados son bastante modestos.

Pebble, pionera en relojes inteligentes, aparece varias veces entre las campañas más exitosas y grandes, sin embargo la empresa ya no existe y sólo vivió durante 4 años. Y la verdad, es que el volumen de dinero aportado a proyectos en Kickstarter está lejos de seguir una curva exponencial.

El problema de todos estos proyectos de micromecenazgo, incluso aquellos exitosísimos, es que tienen el producto antes que la empresa, y más importante, el modelo de negocio. Depender de sólo un producto, significa que no hay posibilidad de equivocación. Si tu segundo producto no vuelve a ser otro éxito, la empresa es difícil que sobreviva.

Sin embargo, en el caso de Buit It, por supuesto esto no es así. Poco hay que decir de Amazon, pero es obvio que ya tienen muy claro la cadena de suministro empezando por el OEM que les fabricará esto, y una máquina colosal de marketing, venta y distribución. Amazon puede permitirse muchos fallos para encontrar un diamante en el barro, y esta es la gran diferencia.

Me atrevo a aventurar que esto será un éxito para Amazon a largo plazo y que en breve muchas empresas se preguntarán, ¿por qué no lo hicimos antes?

Hay muy pocos ejemplos de crowdfunding en grandes empresas. Xiaomi o Sony son dos ejemplos, pero son bastante limitados, y en el caso de Sony, es más un marketplace en el que terceros colocan sus proyectos que para productos exclusivamente propios.

Otro ejemplo muy famoso, pero que tampoco es igual que el de Amazon, es Lego Ideas. En este caso, los fans proponen diseños a Lego que si llegan a un suficiente número de apoyos, la compañía puede llegar a producir.

Así que me voy a permitir la licencia de responder a por qué no hay más empresas haciendo esto y por qué creo que lo de Amazon va a ser crowdfunding a lo bestia.

Poco es más sagrado para una empresa que su desarrollo de producto, y es muy razonable. Para empresas exitosas con tradición de productos novedosos e innovadores, su desarrollo de productos es fuente de orgullo, pero este orgullo es fácil que se vuelva en soberbia.

No hay nada más «humillante» para un equipo de producto de una empresa que el que les digan que van a empezar a traer ideas de producto de fuera. Además, integrar los diferentes procesos, es más complicado de lo que parece. Así que resumiendo mucho, para empresas muy orientadas a producto el crowdfunding nunca ha sido una opción interesante.

Pero ahora tenemos una empresa como Amazon, que no puede ser más «despegada» con los productos. Una empresa que juega a la long tail, con cada vez más peso en una marca blanca «muy blanca», y para nada obsesionada por encontrar productos que sean un pelotazo. Además, con una estrategia muy a largo plazo de convertir a Alexa en el centro de los hogares digitales.

Y esto de Alexa es muy importante. Después de pasar rápidamente la fase de los early adopters, todos los fabricantes detrás de los asistentes digitales están buscando maneras de hacer más aceptable estos asistentes y «esconderlos» en dispositivos no exclusivamente dedicados a ellos. ¿Y qué mejor forma de entender qué es aceptable para los usuarios que sean ellos mismos quien nos lo valide?

De momento Amazon no ha lanzado en España Build It, así que me quedo con las ganas de comprar uno de ellos… Y fijaros, soy anti-asistentes digitales pero metería uno de esos chismes alegremente en mi casa. Pero estoy seguro de que estos tres primeros dispositivos son los primeros de muchos.

@resbla

Categorías
innovación

La pesadilla para la privacidad que se nos viene encima

Estamos empezando a ver cómo una nueva generación de dispositivos vestibles (wearables) y de IoT doméstico está empezando a llegar al mercado. Estos nuevos dispositivos son más inteligentes, llevan más sensores, y por supuesto, recogen muchísimos más datos. Y poca sorpresa, las empresas que ya tienen muchos datos sobre nosotros son las que están impulsando estos nuevos dispositivos para tener aún más.

Si te preocupa la privacidad digital, vamos de cabeza a una pesadilla. De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2020/09/nueva-generacion.mp3?_=3

 

Y no es por exagerar, pero cuando se juntan tantas noticias relacionadas en una sola semana, es fácil pensar que hay una tendencia. Empecemos por Amazon que hizo una larga lista de anuncios de dispositivos la semana pasada.

Sorprende poco que haya incluido en todos estos dispositivos Alexa, su asistente digital. Esto por supuesto significa que todos ellos llevan micrófonos incorporados. Por supuesto que hay nuevos Echo, los altavoces inteligentes de Amazon, pero incluso las nuevas alarmas para coche de su subsidiaria Ring, también los llevan.

Uno que no lleva micrófonos, pero que me resulta muy sorprendente es el Mailbox Sensor también de Ring, y es que quién no ha querido recibir un aviso en su móvil cada vez que le dejen una carta en el buzón (físico).  El dispositivo funciona sobre Sidewalk, una red inalámbrica de bajo consumo y largo alcance orientada al mundo IoT. Los dispositivos de Amazon crearán una red compartida extendiendo de una forma muy importante su alcance, ya que si hay unos cuantos vecinos con este tipo de dispositivos, la cobertura podría ser de todo el vecindario, y por supuesto, todo esto se hace para que todos estos dispositivos puedan estar conectados y recogiendo datos incluso cuando no hay wifi cerca.

Obviando que la intención sea recoger aún más datos de todo lo que pasa por el vecindario, y en muchos casos, datos personales de personas que pasen por allí, una red de este tipo podría ser un importante problema de seguridad.

Hablando de Ring, sin duda el anuncio más distópico vino de ellos, y es que anunciaron el Always Home Cam.

El Always Home Cam es un dron de seguridad diseñado para volar dentro de casa siguiendo rutas prediseñadas con el objetivo de vigilar zonas en las que no tengamos cámaras, o simplemente para dar imágenes más cercanas… ¿Qué podría salir mal? A mi yo adolescente se le ocurren una cantidad enorme de trastadas para hacer con un chisme así.

Otro dispositivo que anunció Amazon pero que pasó bastante desapercibido es Halo, una pulsera de monitorización de la salud personal. Entre sus funciones está analizar cómo hablamos. Y es que por supuesto, tiene micrófono. El caso es que Halo será capaz al final del día de decirte el tono con el que hablas. Por ejemplo, a las 3 en punto estabas enfadado y a las 8:30 sonabas feliz. Entre los accesorios no he visto un aparato que produzca calambrazos cuando estés hablando mal, pero podría ser interesante. Ahí lo dejo.

En realidad, no sorprende mucho. Hace un par de años, Amazon patentó un sistema por el que a través de Alexa recomendaría productos en base a las emociones en las voces de sus usuarios. Durante el lanzamiento Amazon negó que utiliza los datos recogidos por Halo para acciones comerciales. Ahora, que no lo haga en el futuro ya es otra cosa.

Esta estrategia de centrarse en la recogida de datos del propio usuario y no de lo que le rodea es también la estrategia que está siguiendo facebook con su proyecto Aria, y quizá, con el acuerdo que acaba de anunciar con RayBan para lanzar unas gafas «smart«.

Empezando por Aria, es un proyecto de investigación de facebook para desarrollar gafas de realidad aumentada. Después del fiasco de las Google Glass, toda la industria se mueve con mucha cautela en este mundo. Todo el mundo sabe que las gafas inteligentes volverán, pero nadie sabe muy bien cómo. Casi todos los gigantes de la tecnología han lanzado algún producto o están trabajando en uno, pero nadie ha conseguido ningún éxito.

El camino (lento) que está siguiendo facebook se parece al de Amazon con Halo, Aura sólo recoge datos de su usuario con el objetivo de ir aprendiendo y poder construir la parte de la realidad aumentada. Se sabe poco sobre las gafas que lanzarán con RayBan, pero teniendo en cuenta que no va a tener pantalla, es muy probable que la parte «smart» vaya también por ahí. Recoger datos del usuario.

No hay que ser muy mal pensado para llegar a la conclusión de que todo esto es una estrategia para normalizar estos dispositivos. Cuando Google lanzó sus Glass, midió mal la reacción tan negativa que iba a tener la gente que estaba alrededor de los que las llevaban. Tener a alguien con una cámara apuntándote todo el rato a la cara no es nada agradable.

Si ahora consiguen que normalicemos todos estos dispositivos con cámaras y micrófonos con la excusa de que son para la monitorización de sus usuarios, su salud, su seguridad o para que hablen de una forma más sosegada, no será muy complicado ir dando pasos para ir capturando más datos de terceros con las mismas excusas.

En definitiva, una pesadilla para la privacidad.

@resbla

Salir de la versión móvil