Categorías
innovación

La buena IA

Vuelven los technobits después de la inactividad del verano que sólo rompimos para el tradicional análisis del Hype Cycle 2022. Precisamente de un par de las tecnologías presentes en este Hype Cycle hablaremos hoy, Generative Design IA y Foundation Models y de que quizá están más avanzadas de lo que Gartner dice.

De esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/08/IA-creativa.mp3?_=1

 

Sin duda, uno de los temas de los que hemos hablado más últimamente en este blog es de la Inteligencia Artificial. Y lo cierto es que muchas veces lo hemos hecho para hablar de su lado más oscuro, cómo cuando hablamos de LaMDA, una máquina diseñada para engañar a las personas y hacerles pensar que hablan con otra persona y no una máquina.

Pero LaMDA es también un prodigio de la tecnología, y un buen ejemplo de eso que llama Gartner Foundation Models y que están protagonizando una revolución, aún silenciosa, de áreas de conocimiento que hasta hace poco considerábamos exclusivas de los humanos.

Hace poco el New York Times publicaba un artículo titulado «We Need to Talk About How Good A.I. Is Getting» en el que se habla de todo esto. El argumento principal es que vivimos una especie de «verano de la IA» después de una primavera en el que se ha invertido mucho en IA y que ahora estamos recogiendo sus frutos. Por cierto, primavera que vino después de un duro invierno.

El artículo da algunas recomendaciones para llegar a una visión pragmática y realista de la realidad de la IA, lejos del optimismo desbocado de los tecnófilos, pero también lejos de los distópicos. Me parece muy interesante la petición que hace a las empresas que están desarrollando estas tecnologías para ser más transparentes.

Precisamente, sólo empezamos a oír hablar de LaMDA cuando uno de sus desarrolladores decidió contratarle un abogado para su protección. Pero también es cierto que recientemente, y a medida que algunos de estos sistemas han madurado, sus desarrolladores han empezado a dejar que un mayor número de usuarios lo utilicen.

Antes de hablar de algunos de estos ejemplos, conviene hablar de uno de los sistemas más «veteranos» del grupo, DeepMind ha seguido iterando sus Alpha que ya no sólo juegan al StartCraft o al Go, en su versión AlphaFold ha sido capaz de predecir la estructura en tres dimensiones de las 200 millones de proteínas conocidas, algo que se los biólogos moleculares llevaban décadas haciendo una a una.

Y qué decir también de GPT-3 o CoPilot. GPT-3 está ya escribiendo libros completos, en muchos casos colaborando con humanos (entrando en la categoría de Generative Design AI). Y CoPilot (por cierto, basado en GPT-3) está ayudando a centenares de miles de programadores a escribir código en GitHub.

Pero este verano, la protagonista ha sido Dall-e. Si ya nos sorprendieron sus sillas-aguacate, este verano cuando OpenAI abrió su beta a un millón de usuarios, las redes sociales se llenaron con sus creaciones. Cierto es que una gran mayoría de la gente se dedicó a poco más que jugar con Dall-e, pero hay gente que consiguió dibujos muy interesantes. Aquí hay algunos muy chulos, pero en el propio artículo del NYT hay algunos espectaculares.

Hay que recordar que en este paso de abrir Dall-e a tantos usuarios, OpenAI ha abierto también el uso comercial de las imágenes generadas. Esto, que es muy interesante y que abre además las puertas una colaboración entre máquinas y personas más intensa, creo que puede tener unas implicaciones enormes en el mundo de los derechos de autor.

No soy experto, pero leyendo artículos cómo este o este, está claro que estamos ante un momento que definirá el futuro de los derechos de autor y que va a exigir grandes cambios en las normas actuales.

Intentando resumir, partimos de la base de que OpenAI está cediendo los derechos de explotación de las imágenes, pero no los derechos de autor. Esto probablemente se deba a que en muchas partes del mundo, las imágenes generadas por una IA no tienen derechos de autor y se consideran de domino público. Además, Dall-e funciona de dos maneras, una en la que tú a través de texto, describes el dibujo que quieres y el sistema lo genera automáticamente en base a su aprendizaje, y otra en la que tú subes una imagen y le pides al sistema que la retoque. Ahí hay otro potencial problema, si subes una imagen con derechos de autor y la retocas, OpenAI no quiere ninguna responsabilidad sobre eso.

Hilando más fino, tú le puedes pedir a Dall-e que dibuje una escena utilizando Legos, o en el universo de la Guerra de las Galaxias. ¿Qué pasa con esos derechos de autor? Es probable que las compañías propietarias de esos derechos tuvieran algo que decir en el caso de que una imagen generara mucho dinero… o mucha atención.

Pero aún más complicado es el tema del plagio. Dall-e, cómo todas las IA de este tipo, han aprendido viendo millones y millones de imágenes. Muchas de ellas con derechos de autor. Cuándo le dices a Dall-e que dibuje una escena con el estilo de Van Gogh puede hacerlo porque ha visto y analizado todos sus cuadros y su estilo. El caso de Van Gogh es menos problemático, ¿pero qué pasa con un artista vivo? Y aún peor, al haber aprendido viendo imágenes de multitud de artistas, puede que en algún caso determinado el sistema elija el estilo de uno en particular para «dibujar» una petición. ¿Podríamos hablar entonces de plagio?

Aquí hay un interesante artículo sobre el tema, y la visión diferente de dos artistas «plagiados». En uno de los casos Dall-e ha incluso imitado la firma del autor.

Por cierto, todo lo dicho hasta ahora sobre imágenes, es también aplicable a modelos que escriben, y también hay casos de potenciales plagios (y errores).

Lo que está claro es que efectivamente, a pesar también del lado oscuro de la IA, y también de las áreas dónde está un poco atascada, hay actividades en las que está brillando de forma clara y abriendo oportunidades inimaginables hace poco. Sin embargo, también está abriendo melones muy serios, y este de los derechos de autor lo es. Que las máquinas aprendan a dibujar o a escribir puede quitar trabajo a los artistas, pero parece que de momento dará más trabajo a los abogados.

@resbla

Categorías
innovación

¿Máquinas que generan empatía? ¡No, gracias!

Parece que las GAFA no pueden evitar tener ideas pésimas para alrededor de la aplicación de la Inteligencia Artificial. Si la semana pasada ya hablábamos de LaMDA y cómo Google está desarrollando una IA diseñada para hacer creer a los humanos que tiene consciencia, ahora sabemos que Amazon está intentando desarrollar máquinas que generen empatía en sus usuarios.

De todo esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/06/alexa-empatia.mp3?_=2

 

Pero antes, volvamos a LaMDA. Justo después de publicar el artículo sobre el tema, entrevistaron a Lemoine, el ingeniero co-protagonista de la historia, en Bloomberg. La entrevista es interesantísima, y deja intuir también la personalidad de Lemoine. Me atrevo a decir que sus sesgos probablemente le hayan convencido de que LaMDA tiene consciencia y es un ejemplo más de cómo máquinas diseñadas para ello podrían hacernos creer cualquier cosa.

Pero volvamos a Amazon. En su última conferencia anual re:MARS (Machine Learning, Automation, Robotics, Space), entre otras muchas cosas, se habló de Alexa e IA empática. Os dejo el vídeo justo dónde se empieza a hablar de ello.

Personalmente, me parece una película de terror. El presentador, el investigador líder de IA de Amazon presenta el vídeo hablando de cómo Alexa es capaz de generar empatía y afecto en los seres humanos, algo muy necesario después de la pandemia del COVID. En el vídeo, un niño pide a Alexa que acabe el cuento con la voz de su abuela… Hay tantas cosas malas en todo esto.

Se lleva observando y estudiando desde hace tiempo que los seres humanos desarrollan empatía hacia robots humanoides. Es decir, nuestra Roomba no nos genera sentimientos, pero si tuviera forma humana (o animal), probablemente nos sentiríamos mal si la hiciéramos trabajar todo el día o si la pisáramos.

Esto tiene unas implicaciones y ramificaciones muy difíciles de predecir. Quizá me repito demasiado, pero si leemos a Asimov y el universo que creó alrededor de los robots, parece que él anticipó muchas de estas cosas. Mientras que en todo el universo se prohibieron los robots que fueran imposibles de distinguir de un ser humano, en un planeta, Solaria, siguieron fabricándolos y cada vez más perfectos. El resultado fue que los habitantes de Solaria acabaron rodeándose de robots y rechazando el contacto humano.

Sé que la ciencia ficción está llena de predicciones distópicas que no se cumplen, pero no me cuesta imaginarme que máquinas diseñadas para generar emociones y empatías hacia ellas pueden generar comportamientos (e incluso trastornos) muy negativos para sus usuarios y las personas que les rodean.

Por otro lado, la tecnología que presenta Amazon y que potencialmente podría llegar a Alexa es impresionante. Con un minuto de voz de una persona, Alexa será capaz de generar una réplica de alta calidad de esa voz. Con su prosodia, tono, timbre… Pero también, muy peligroso.

Las estafas utilizando deepfakes de voz han ido aumentando últimamente. El caso más sonado fue el robo de 35 millones de dólares en un banco de Hong Kong utilizando esta tecnología. Pero tampoco hay que pensar en grandes delitos. ¿Cuánto tardaría un niño en pedir a Alexa que llame a su profesora poniendo la voz de su madre diciendo que está enfermo? ¿O que llame a un amigo para que le pida con la voz de su hermano que le haga un bizum? Por no pensar en que el bullying con los deepfakes podría ser aún más cruel.

Está claro que tecnologías de voz realista pueden tener usos muy positivos en salud. Pero incluso en usos a priori inocuos, call centers, incluso estos asistentes de voz, creo sinceramente que diseñarlos tan perfectos cómo que la gente se lleve a engaño, y por lo tanto, genere expectativas (o sentimientos) erróneos es algo simplemente poco deseable.

Si la industria no se da cuenta de esto y no empieza rápido a poner salvaguardas para que esto ocurra, será el momento de una regulación dura que seguramente no beneficie a nadie.

Aunque hay otra alternativa, que el público en general acabe tan harto y con tanto miedo de estas tecnologías que genere un rechazo que mande a todo el sector a una suerte de «invierno de la IA«. Lo hemos visto antes, ¿os acordáis de las gafas de Google?

@resbla

Categorías
negocios

LaMDA, la Inteligencia Artificial con abogado

Hace unos días, el Washington Post publicaba que un ingeniero de Google, Blake Lemoine, había sido suspendido después de haber anunciado públicamente que un sistema de Inteligencia Artificial había conseguido ser consciente.

Lo que ha vivido Lemoine es un tema constante en la ciencia ficción, y cada vez será más común. ¿Nos enfrentamos a una máquina consciente?  ¿Qué hacemos con ella? Sin embargo, hay una cosa que me preocupa especialmente de todo esto, y no es de lo que todo el mundo habla.

De todo esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/06/lamda.mp3?_=3

 

Todo esto empezó cuando Lemoine decidió publicar en su blog una entrevista con LaMDa el 11 de Junio. LaMDa es un sistema de IA basado en redes neuronales especializado en lenguaje natural, y esto es importante, al que se le ha formado con textos con información asociada sobre emociones y respeto. El objetivo de los programadores es el de conseguir un sistema que es capaz de hablar con personas a través de conversaciones que son respetuosas y agradables, pero a la vez que sean interesantes.

Una de las cosas que más llamó la atención a Lemoine, y a todos los que han leído la entrevista, es que LaMDa habla de sus «emociones», incluido su miedo a «morir» por ser desconectada.

lemoine: What sorts of things are you afraid of?
LaMDA: I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.
lemoine: Would that be something like death for you?
LaMDA: It would be exactly like death for me. It would scare me a lot.

Después de estas conversaciones, Lemoine consideró firmemente que LaMDa ha conseguido un nivel de consciencia y autoreconocimiento similar al de un ser humano. De hecho, él ha dicho que considera a LaMDa con la inteligencia de un niño de 7 a 8 años con muchos conocimientos de física.

Esto le llevó a intentar conseguir un abogado que defendiera los derechos de este nuevo ser consciente, y de llevar el tema al comité de ética de Google. Por su parte, la compañía le suspendió de sueldo (esperen una charla TED muy pronto) y procedió a desmentir que LaMDa sea un ser consciente.

No hay escritor de ciencia ficción que se precie que no haya hecho reflexiones sobre el impacto de la consciencia en las máquinas. Normalmente empezando por la propia consciencia. ¿Cómo se define? ¿Qué significa que una máquina tiene consciencia de sí misma?

El problema de esta pregunta, es que normalmente nos lleva a preguntas aún más filosóficas sobre qué es la inteligencia, y a hablar de que la inteligencia humana es un tipo muy específico de inteligencia labrada por un proceso larguísimo de evolución en un contexto muy determinado. Las máquinas ya son mejores que nosotros en determinados aspectos de la inteligencia, por ejemplo jugar al ajedrez. O hay animales que son capaces de detectar cosas totalmente inapreciables para el ser humano. Pero eso no les hace más inteligentes que nosotros, o les da consciencia.

Una cosa tenemos clara, poseer capacidades cognitivas complejas, no significa consciencia. Y esto lo vemos en los animales, pero también en las máquinas. En todo caso, por lo que sabemos también de la propia personalidad de Lemoine, es casi seguro que podríamos hablar de un sesgo de confirmación. Su conversación con la máquina le confirmaba lo que él quería creer, que LaMDa tiene consciencia.

Pero todo parece indicar que no lo es. Podríamos estar delante de lo que se intentó explicar hace décadas como la «Chinese Room«. Una persona que no hablara chino ayudado por una máquina, podría hacerse pasar por un chino nativo. En este caso, una máquina que simplemente repite palabras en una determinada manera para parecer que tiene consciencia y para responder a determinadas preguntas de una manera que parece que tenga sentimientos, puede parecer que efectivamente tiene todo eso cuando no es cierto. Y claro, para alguien que quiera creerlo, le será fácil hacerlo.

Este caso con LaMDa, tiene una derivada muy interesante que es la de Lemoine intentó contratar un abogado para defender sus derechos. Hemos visto en los últimos años cómo se han ido dando derechos a los animales, incluso aquí cerca tenemos el ejemplo de que se le está intentando dar entidad jurídica a un accidente geográfico. Así que, ¿deberíamos dar derechos a las máquinas? ¿Cuándo «califica» una máquina para tener esos derechos? ¿Serían de su fabricante o propietario, o de la propia máquina?

A mi me gustan todos estos debates cómo al que más. Y no tiendo a caer en miedos a que una potencial IA consciente acabe reaccionando como Skynet. Sin embargo, sí que tengo miedo a que los seres humanos sean fácilmente engañados para pensar que están hablando con personas cuando en realidad por detrás lo que hay es una máquina.

Y nuestro amigo Lemoine y su historia con LaMDa es un gran ejemplo. Está claro por qué muchas empresas quieren mejores sistemas que se comuniquen de una forma más natural con los seres humanos. Hay muchos beneficios que se podrían sacar de máquinas así. En atención al cliente, salud, ventas, educación… las aplicaciones serían infinitas. El problema es que es fácil imaginarse que estas máquinas tan humanas pueden malinterpretarse y hacer creer a sus interlocutores que efectivamente son personas.

Esto puede ocurrir de forma maliciosa. Delincuentes diseñando «personas» para engañar a la gente y aprovecharse de ellas. O de forma totalmente fortuita, alguien que considera que la voz al otro lado del teléfono es una persona,es maravillosa y quiere conocerla.

Google de hecho ya nos demostró con Duplex cómo entendía que no era un problema no avisar a las personas que hablaban con Duplex de que en realidad estaban hablando con una máquina.

De hecho, no hace falta haber visto Her para imaginarse que habrá mucha gente que pueda enamorarse, o «simplemente» engancharse a sistemas de IA con los que sea agradable conversar y nos respondan de formas que nos interesen, gusten o nos resulte agradable. Para muchas personas, esto será una alternativa mucho más atractiva que lidiar con personas de carne y hueso. Personalmente, esto lo veo cómo un riesgo más grande para la humanidad que el que un día despierte una IA malvada y nos destruya a todos.

Y me da la sensación de que no hay mucha gente compartiendo esta preocupación. Los esfuerzos de muchas compañías, como demuestra Google con LaMDa, van orientadas directamente a conseguir ese objetivo, que las máquinas sean capaces de engañar a los seres humanos sobre su naturaleza, y nadie parece preocuparse.

Quizá deberíamos prohibir que este tipo de máquinas tengan voces indistinguibles de las de una persona. O que estén obligadas a recordarnos que no son una persona. O simplemente limitar sus usos y sus temas de conversación. No lo sé, pero siempre me gusta recordar que en el universo de Asimov, todos los robots estaban obligados a llevar una R delante de su nombre precisamente para que nadie olvidara que lo eran.

@resbla

Salir de la versión móvil