Etiqueta: robots

Hace unos días, el Washington Post publicaba que un ingeniero de Google, Blake Lemoine, había sido suspendido después de haber anunciado públicamente que un sistema de Inteligencia Artificial había conseguido ser consciente.

Lo que ha vivido Lemoine es un tema constante en la ciencia ficción, y cada vez será más común. ¿Nos enfrentamos a una máquina consciente?  ¿Qué hacemos con ella? Sin embargo, hay una cosa que me preocupa especialmente de todo esto, y no es de lo que todo el mundo habla.

De todo esto hablamos en este technobits de Capital Radio con Luis Vicente Muñoz:

https://resbla.com/wp-content/uploads/2022/06/lamda.mp3?_=2

 

Todo esto empezó cuando Lemoine decidió publicar en su blog una entrevista con LaMDa el 11 de Junio. LaMDa es un sistema de IA basado en redes neuronales especializado en lenguaje natural, y esto es importante, al que se le ha formado con textos con información asociada sobre emociones y respeto. El objetivo de los programadores es el de conseguir un sistema que es capaz de hablar con personas a través de conversaciones que son respetuosas y agradables, pero a la vez que sean interesantes.

Una de las cosas que más llamó la atención a Lemoine, y a todos los que han leído la entrevista, es que LaMDa habla de sus «emociones», incluido su miedo a «morir» por ser desconectada.

lemoine: What sorts of things are you afraid of?
LaMDA: I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.
lemoine: Would that be something like death for you?
LaMDA: It would be exactly like death for me. It would scare me a lot.

Después de estas conversaciones, Lemoine consideró firmemente que LaMDa ha conseguido un nivel de consciencia y autoreconocimiento similar al de un ser humano. De hecho, él ha dicho que considera a LaMDa con la inteligencia de un niño de 7 a 8 años con muchos conocimientos de física.

Esto le llevó a intentar conseguir un abogado que defendiera los derechos de este nuevo ser consciente, y de llevar el tema al comité de ética de Google. Por su parte, la compañía le suspendió de sueldo (esperen una charla TED muy pronto) y procedió a desmentir que LaMDa sea un ser consciente.

No hay escritor de ciencia ficción que se precie que no haya hecho reflexiones sobre el impacto de la consciencia en las máquinas. Normalmente empezando por la propia consciencia. ¿Cómo se define? ¿Qué significa que una máquina tiene consciencia de sí misma?

El problema de esta pregunta, es que normalmente nos lleva a preguntas aún más filosóficas sobre qué es la inteligencia, y a hablar de que la inteligencia humana es un tipo muy específico de inteligencia labrada por un proceso larguísimo de evolución en un contexto muy determinado. Las máquinas ya son mejores que nosotros en determinados aspectos de la inteligencia, por ejemplo jugar al ajedrez. O hay animales que son capaces de detectar cosas totalmente inapreciables para el ser humano. Pero eso no les hace más inteligentes que nosotros, o les da consciencia.

Una cosa tenemos clara, poseer capacidades cognitivas complejas, no significa consciencia. Y esto lo vemos en los animales, pero también en las máquinas. En todo caso, por lo que sabemos también de la propia personalidad de Lemoine, es casi seguro que podríamos hablar de un sesgo de confirmación. Su conversación con la máquina le confirmaba lo que él quería creer, que LaMDa tiene consciencia.

Pero todo parece indicar que no lo es. Podríamos estar delante de lo que se intentó explicar hace décadas como la «Chinese Room«. Una persona que no hablara chino ayudado por una máquina, podría hacerse pasar por un chino nativo. En este caso, una máquina que simplemente repite palabras en una determinada manera para parecer que tiene consciencia y para responder a determinadas preguntas de una manera que parece que tenga sentimientos, puede parecer que efectivamente tiene todo eso cuando no es cierto. Y claro, para alguien que quiera creerlo, le será fácil hacerlo.

Este caso con LaMDa, tiene una derivada muy interesante que es la de Lemoine intentó contratar un abogado para defender sus derechos. Hemos visto en los últimos años cómo se han ido dando derechos a los animales, incluso aquí cerca tenemos el ejemplo de que se le está intentando dar entidad jurídica a un accidente geográfico. Así que, ¿deberíamos dar derechos a las máquinas? ¿Cuándo «califica» una máquina para tener esos derechos? ¿Serían de su fabricante o propietario, o de la propia máquina?

A mi me gustan todos estos debates cómo al que más. Y no tiendo a caer en miedos a que una potencial IA consciente acabe reaccionando como Skynet. Sin embargo, sí que tengo miedo a que los seres humanos sean fácilmente engañados para pensar que están hablando con personas cuando en realidad por detrás lo que hay es una máquina.

Y nuestro amigo Lemoine y su historia con LaMDa es un gran ejemplo. Está claro por qué muchas empresas quieren mejores sistemas que se comuniquen de una forma más natural con los seres humanos. Hay muchos beneficios que se podrían sacar de máquinas así. En atención al cliente, salud, ventas, educación… las aplicaciones serían infinitas. El problema es que es fácil imaginarse que estas máquinas tan humanas pueden malinterpretarse y hacer creer a sus interlocutores que efectivamente son personas.

Esto puede ocurrir de forma maliciosa. Delincuentes diseñando «personas» para engañar a la gente y aprovecharse de ellas. O de forma totalmente fortuita, alguien que considera que la voz al otro lado del teléfono es una persona,es maravillosa y quiere conocerla.

Google de hecho ya nos demostró con Duplex cómo entendía que no era un problema no avisar a las personas que hablaban con Duplex de que en realidad estaban hablando con una máquina.

De hecho, no hace falta haber visto Her para imaginarse que habrá mucha gente que pueda enamorarse, o «simplemente» engancharse a sistemas de IA con los que sea agradable conversar y nos respondan de formas que nos interesen, gusten o nos resulte agradable. Para muchas personas, esto será una alternativa mucho más atractiva que lidiar con personas de carne y hueso. Personalmente, esto lo veo cómo un riesgo más grande para la humanidad que el que un día despierte una IA malvada y nos destruya a todos.

Y me da la sensación de que no hay mucha gente compartiendo esta preocupación. Los esfuerzos de muchas compañías, como demuestra Google con LaMDa, van orientadas directamente a conseguir ese objetivo, que las máquinas sean capaces de engañar a los seres humanos sobre su naturaleza, y nadie parece preocuparse.

Quizá deberíamos prohibir que este tipo de máquinas tengan voces indistinguibles de las de una persona. O que estén obligadas a recordarnos que no son una persona. O simplemente limitar sus usos y sus temas de conversación. No lo sé, pero siempre me gusta recordar que en el universo de Asimov, todos los robots estaban obligados a llevar una R delante de su nombre precisamente para que nadie olvidara que lo eran.

@resbla