Categorías
innovación

La buena IA

Vuelven los technobits después de la inactividad del verano que sólo rompimos para el tradicional análisis del Hype Cycle 2022. Precisamente de un par de las tecnologías presentes en este Hype Cycle hablaremos hoy, Generative Design IA y Foundation Models y de que quizá están más avanzadas de lo que Gartner dice.

De esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/08/IA-creativa.mp3?_=1

 

Sin duda, uno de los temas de los que hemos hablado más últimamente en este blog es de la Inteligencia Artificial. Y lo cierto es que muchas veces lo hemos hecho para hablar de su lado más oscuro, cómo cuando hablamos de LaMDA, una máquina diseñada para engañar a las personas y hacerles pensar que hablan con otra persona y no una máquina.

Pero LaMDA es también un prodigio de la tecnología, y un buen ejemplo de eso que llama Gartner Foundation Models y que están protagonizando una revolución, aún silenciosa, de áreas de conocimiento que hasta hace poco considerábamos exclusivas de los humanos.

Hace poco el New York Times publicaba un artículo titulado «We Need to Talk About How Good A.I. Is Getting» en el que se habla de todo esto. El argumento principal es que vivimos una especie de «verano de la IA» después de una primavera en el que se ha invertido mucho en IA y que ahora estamos recogiendo sus frutos. Por cierto, primavera que vino después de un duro invierno.

El artículo da algunas recomendaciones para llegar a una visión pragmática y realista de la realidad de la IA, lejos del optimismo desbocado de los tecnófilos, pero también lejos de los distópicos. Me parece muy interesante la petición que hace a las empresas que están desarrollando estas tecnologías para ser más transparentes.

Precisamente, sólo empezamos a oír hablar de LaMDA cuando uno de sus desarrolladores decidió contratarle un abogado para su protección. Pero también es cierto que recientemente, y a medida que algunos de estos sistemas han madurado, sus desarrolladores han empezado a dejar que un mayor número de usuarios lo utilicen.

Antes de hablar de algunos de estos ejemplos, conviene hablar de uno de los sistemas más «veteranos» del grupo, DeepMind ha seguido iterando sus Alpha que ya no sólo juegan al StartCraft o al Go, en su versión AlphaFold ha sido capaz de predecir la estructura en tres dimensiones de las 200 millones de proteínas conocidas, algo que se los biólogos moleculares llevaban décadas haciendo una a una.

Y qué decir también de GPT-3 o CoPilot. GPT-3 está ya escribiendo libros completos, en muchos casos colaborando con humanos (entrando en la categoría de Generative Design AI). Y CoPilot (por cierto, basado en GPT-3) está ayudando a centenares de miles de programadores a escribir código en GitHub.

Pero este verano, la protagonista ha sido Dall-e. Si ya nos sorprendieron sus sillas-aguacate, este verano cuando OpenAI abrió su beta a un millón de usuarios, las redes sociales se llenaron con sus creaciones. Cierto es que una gran mayoría de la gente se dedicó a poco más que jugar con Dall-e, pero hay gente que consiguió dibujos muy interesantes. Aquí hay algunos muy chulos, pero en el propio artículo del NYT hay algunos espectaculares.

Hay que recordar que en este paso de abrir Dall-e a tantos usuarios, OpenAI ha abierto también el uso comercial de las imágenes generadas. Esto, que es muy interesante y que abre además las puertas una colaboración entre máquinas y personas más intensa, creo que puede tener unas implicaciones enormes en el mundo de los derechos de autor.

No soy experto, pero leyendo artículos cómo este o este, está claro que estamos ante un momento que definirá el futuro de los derechos de autor y que va a exigir grandes cambios en las normas actuales.

Intentando resumir, partimos de la base de que OpenAI está cediendo los derechos de explotación de las imágenes, pero no los derechos de autor. Esto probablemente se deba a que en muchas partes del mundo, las imágenes generadas por una IA no tienen derechos de autor y se consideran de domino público. Además, Dall-e funciona de dos maneras, una en la que tú a través de texto, describes el dibujo que quieres y el sistema lo genera automáticamente en base a su aprendizaje, y otra en la que tú subes una imagen y le pides al sistema que la retoque. Ahí hay otro potencial problema, si subes una imagen con derechos de autor y la retocas, OpenAI no quiere ninguna responsabilidad sobre eso.

Hilando más fino, tú le puedes pedir a Dall-e que dibuje una escena utilizando Legos, o en el universo de la Guerra de las Galaxias. ¿Qué pasa con esos derechos de autor? Es probable que las compañías propietarias de esos derechos tuvieran algo que decir en el caso de que una imagen generara mucho dinero… o mucha atención.

Pero aún más complicado es el tema del plagio. Dall-e, cómo todas las IA de este tipo, han aprendido viendo millones y millones de imágenes. Muchas de ellas con derechos de autor. Cuándo le dices a Dall-e que dibuje una escena con el estilo de Van Gogh puede hacerlo porque ha visto y analizado todos sus cuadros y su estilo. El caso de Van Gogh es menos problemático, ¿pero qué pasa con un artista vivo? Y aún peor, al haber aprendido viendo imágenes de multitud de artistas, puede que en algún caso determinado el sistema elija el estilo de uno en particular para «dibujar» una petición. ¿Podríamos hablar entonces de plagio?

Aquí hay un interesante artículo sobre el tema, y la visión diferente de dos artistas «plagiados». En uno de los casos Dall-e ha incluso imitado la firma del autor.

Por cierto, todo lo dicho hasta ahora sobre imágenes, es también aplicable a modelos que escriben, y también hay casos de potenciales plagios (y errores).

Lo que está claro es que efectivamente, a pesar también del lado oscuro de la IA, y también de las áreas dónde está un poco atascada, hay actividades en las que está brillando de forma clara y abriendo oportunidades inimaginables hace poco. Sin embargo, también está abriendo melones muy serios, y este de los derechos de autor lo es. Que las máquinas aprendan a dibujar o a escribir puede quitar trabajo a los artistas, pero parece que de momento dará más trabajo a los abogados.

@resbla

Categorías
innovación

¿Máquinas que generan empatía? ¡No, gracias!

Parece que las GAFA no pueden evitar tener ideas pésimas para alrededor de la aplicación de la Inteligencia Artificial. Si la semana pasada ya hablábamos de LaMDA y cómo Google está desarrollando una IA diseñada para hacer creer a los humanos que tiene consciencia, ahora sabemos que Amazon está intentando desarrollar máquinas que generen empatía en sus usuarios.

De todo esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/06/alexa-empatia.mp3?_=2

 

Pero antes, volvamos a LaMDA. Justo después de publicar el artículo sobre el tema, entrevistaron a Lemoine, el ingeniero co-protagonista de la historia, en Bloomberg. La entrevista es interesantísima, y deja intuir también la personalidad de Lemoine. Me atrevo a decir que sus sesgos probablemente le hayan convencido de que LaMDA tiene consciencia y es un ejemplo más de cómo máquinas diseñadas para ello podrían hacernos creer cualquier cosa.

Pero volvamos a Amazon. En su última conferencia anual re:MARS (Machine Learning, Automation, Robotics, Space), entre otras muchas cosas, se habló de Alexa e IA empática. Os dejo el vídeo justo dónde se empieza a hablar de ello.

Personalmente, me parece una película de terror. El presentador, el investigador líder de IA de Amazon presenta el vídeo hablando de cómo Alexa es capaz de generar empatía y afecto en los seres humanos, algo muy necesario después de la pandemia del COVID. En el vídeo, un niño pide a Alexa que acabe el cuento con la voz de su abuela… Hay tantas cosas malas en todo esto.

Se lleva observando y estudiando desde hace tiempo que los seres humanos desarrollan empatía hacia robots humanoides. Es decir, nuestra Roomba no nos genera sentimientos, pero si tuviera forma humana (o animal), probablemente nos sentiríamos mal si la hiciéramos trabajar todo el día o si la pisáramos.

Esto tiene unas implicaciones y ramificaciones muy difíciles de predecir. Quizá me repito demasiado, pero si leemos a Asimov y el universo que creó alrededor de los robots, parece que él anticipó muchas de estas cosas. Mientras que en todo el universo se prohibieron los robots que fueran imposibles de distinguir de un ser humano, en un planeta, Solaria, siguieron fabricándolos y cada vez más perfectos. El resultado fue que los habitantes de Solaria acabaron rodeándose de robots y rechazando el contacto humano.

Sé que la ciencia ficción está llena de predicciones distópicas que no se cumplen, pero no me cuesta imaginarme que máquinas diseñadas para generar emociones y empatías hacia ellas pueden generar comportamientos (e incluso trastornos) muy negativos para sus usuarios y las personas que les rodean.

Por otro lado, la tecnología que presenta Amazon y que potencialmente podría llegar a Alexa es impresionante. Con un minuto de voz de una persona, Alexa será capaz de generar una réplica de alta calidad de esa voz. Con su prosodia, tono, timbre… Pero también, muy peligroso.

Las estafas utilizando deepfakes de voz han ido aumentando últimamente. El caso más sonado fue el robo de 35 millones de dólares en un banco de Hong Kong utilizando esta tecnología. Pero tampoco hay que pensar en grandes delitos. ¿Cuánto tardaría un niño en pedir a Alexa que llame a su profesora poniendo la voz de su madre diciendo que está enfermo? ¿O que llame a un amigo para que le pida con la voz de su hermano que le haga un bizum? Por no pensar en que el bullying con los deepfakes podría ser aún más cruel.

Está claro que tecnologías de voz realista pueden tener usos muy positivos en salud. Pero incluso en usos a priori inocuos, call centers, incluso estos asistentes de voz, creo sinceramente que diseñarlos tan perfectos cómo que la gente se lleve a engaño, y por lo tanto, genere expectativas (o sentimientos) erróneos es algo simplemente poco deseable.

Si la industria no se da cuenta de esto y no empieza rápido a poner salvaguardas para que esto ocurra, será el momento de una regulación dura que seguramente no beneficie a nadie.

Aunque hay otra alternativa, que el público en general acabe tan harto y con tanto miedo de estas tecnologías que genere un rechazo que mande a todo el sector a una suerte de «invierno de la IA«. Lo hemos visto antes, ¿os acordáis de las gafas de Google?

@resbla

Categorías
negocios

Apple le mete un gol por toda la escuadra a la banca

Uno de los anuncios que más desapercibidos ha pasado de la última conferencia de desarrolladores de Apple, pero que mi humilde opinión de observador externo al mundo Apple es de lejos el más importante, es que en breve los usuarios de un iPhone podrán financiar sus compras cuando paguen con su móvil.

De todo esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/06/apple-bnpl.mp3?_=3

 

Lo que Apple concretamente ha anunciado es su entrada en eso que se llama Buy Now Pay Later (BNPL). En realidad es difícil diferenciarlo de lo que entendemos por compra a crédito, pero las empresas que han definido el sector giran alrededor de formas de microcrédito instantáneo gratuito y sin intereses para compras al consumo. Además, no hay entidades financieras clásicas involucradas, y las empresas que ofrecen este servicio le cobran una comisión a la tienda, sin olvidarnos del valor de los datos que se generan.

Dentro de fintech, el sector BNPL explotó durante los encierros del COVID en paralelo al crecimiento exponencial de las compras online. Al principio fueron startups muy centradas en segmentos de la población «no bancarizada», gente muy joven o mercados emergentes. A medida que el mercado ha crecido, gigantes de los pagos digitales como paypal han lanzado soluciones que al final compiten contra las tarjetas de crédito (en las que paga la tienda y el usuario) o los créditos bancarios al consumo (que suele pagar casi todo el usuario).

 

Llevamos años hablando de que la disrupción en la banca vendría de la mano de las grandes tecnológicas. A pesar de que la mayoría de las disrupciones en las grandes industrias se cocinan a fuego lento, los anuncios constantes de los GAFA en finanzas es cierto que se han llevado muchos titulares pero a simple vista no parecen haber sustituido a los bancos.

Y seguramente muchos de esos lanzamientos no eran más que experimentos para entender el sector, ver hasta dónde sus marcas tenían tracción en finanzas, pero también, para ser Caballos de Troya. Ir posicionándose en el sector lo más cercano al usuario final (en lo que sus potentes marcas ayudan), e ir viendo cómo poder ir sustituyendo a los jugadores tradicionales.

Probablemente en la categoría de Caballo de Troya han han sido los «pay» de Google y Apple. En principio eran poco más que una herramienta para que los usuarios pudiera agregar sus tarjetas de crédito de la banca tradicional para hacer más fácil el pago móvil.

Y para la banca fueron un poco lentejas. Todas querían crecer en pagos en el móvil, pero no era viable que cada banco tuviera su propia aplicación y esperar que un cliente de varios bancos llevara varias instaladas en el móvil. Así que Google Pay y Apple Pay fueron males necesarios para conseguir el objetivo de la digitalización de las tarjetas de crédito. Por cierto, para la banca, pero también para Visa y MasterCard

Tanto Google cómo Apple han explorado en algún momento las tarjetas propias de débito o crédito. En realidad han sido lanzamientos limitados, tanto en funcionalidades cómo en cobertura geográfica, seguramente por no enfadar demasiado a los incumbentes. De hecho, han utilizado los servicios tradicionales de los incumbentes (Google y Visa, Apple y Goldman Sachs) para lanzar esas tarjetas. Pero era sólo cuestión de tiempo que alguno de ellos utilizara el ser un estándar de facto para los pagos dentro de sus plataformas (android e iOS) para ofrecer el servicio completo.

Está por ver cómo de rápido va Apple a lanzar el servicio y si tendrá o no alcance global. Uno de los motivos del crecimiento rápido del BNPL ha sido la falta de regulación que en la mayoría de países hay respecto a este tipo de créditos. Pero eso va a cambiar, y rápido.

En todo caso, la normativa también significará mayores barreras de entrada para futuros competidores. Siempre navegar estas regulaciones son más fáciles para empresas con recursos. Y hablando de recursos, Apple tiene unos 200000 millones de dólares en caja, sí no es un error. Y claro, cuando quieres dedicarte a prestar dinero, tener mucho dinero es siempre una gran ventaja. Así que si Apple quiere apretar el acelerador con el BNPL, seguramente no haya nadie tan bien posicionado para hacerlo.

La gran pregunta es si esto les ayudará a vender más móviles. Pues ahora que las cámaras, la característica estrella que ha empujado las ventas últimamente, ha entrado claramente en zona de rendimientos decrecientes, el que comprando un móvil sepas que te llevas una «tarjeta de crédito» gratuita puede sin duda ser un motivo de compra importante para muchos usuarios.

Es probable que después de este anuncio de Apple haya muchos ejecutivos en banca que crean que les han metido un gol por toda la escuadra y que en parte, fue la propia banca quien se lo puso fácil. No les faltará razón. Sobre todo viendo el éxito de Bizum y cómo ha evitado la entrada de las tecnológicas en los micropagos (al menos en España).

También alguno de esos ejecutivos recordará que les han hecho lo mismo que ellos hicieron a los vendedores de vajillas, televisiones o incluso coches, hacerles un cambio de pagano.

@resbla

Salir de la versión móvil