El verdadero problema con la Inteligencia Artificial

La semana pasada, Lee Sedol anunció su retirada como jugador profesional de Go, esto quizá no les diga mucho, pero se está volviendo a utilizar como un ejemplo más de la continua e inexorable sustitución de las personas por la inteligencia artificial, pero no creo que este sea el verdadero problema con la Inteligencia Artificial.

De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

 

Pero empecemos con Lee Sedol, uno de los mejores jugadores de Go de la historia y que se hizo famoso en Occidente porque fue derrotado por una máquina (AlphaGo) en un campeonato a 5 partidas hace poco más de dos años.

Go fue el último juego de tablero en el que los humanos mantuvimos la supremacía sobre las máquinas. Ganar a un profesional de Go se consideró durante muchos años algo que nunca estaría al alcance de las máquinas. Existen más juegos posibles de Go que número de átomos en el universo observable, y al ser considerado un arte en China, se pensaba que estaría fuera del alcance de la Inteligencia Artificial.

Sin embargo, a pesar de todo, Go es un juego con reglas claras, limitadas y de movimientos replicables y repetitivos. Ahora ya sabemos que ese es el tipo de actividades en la que la Inteligencia Artificial es imbatible.

Lee Sedol se ha retirado diciendo que la «Inteligencia Artificial es un ente que no puede ser derrotado«, y que por lo tanto, no tiene sentido seguir. Para muchos, este es sólo el último ejemplo de cómo las máquinas nos van a sustituir y de cómo mucha gente se va a quedar sin trabajo.

Mientras tanto, los desarrolladores de AlphaGo, DeepMind, propiedad de Google, no han parado. Una prima hermana de AlphaGo, AlphaStar, que ya consiguió batir a jugadores profesionales a StarCraft, un juego de estrategia en tiempo real, ha conseguido llegar al nivel de Grand Master y jugar en la liga profesional de más nivel del juego. 

No es de extrañar que raro es el día que no sale un informe alertándonos de la cantidad de trabajos que la automatización y la robotización eliminarán, este habla de 20 millones. Aunque está claro que a nivel individual (micro) habrá trabajos que desaparezcan de la misma manera que desaparecieron las mecanógrafas, nada parece indicar que en términos agregados (macro) eso vaya a ser así, y cada vez aparecen más estudios que llevan la contraria a los catastrofistas (recibiendo menos visibilidad).

En esta cadena de tweets se citan varios de ellos:

1/Today’s @bopinion post asks: Which is the job-killer, trade or automation?

In other words, who was right, Elizabeth Warren or Andrew Yang?https://t.co/gnBDjpcaXh

— Noah Smith 🐇 (@Noahpinion) 18 de octubre de 2019

Un muy reciente informe del MIT profundiza en esta idea, añadiendo además que esta transición no va a ser muy diferente de las anteriores, y sorpresa, que van a hacer falta muchos trabajos de alta cualificación. De hecho, si se miran las tasas de paro en las principales economías, las que deberían estar automatizando más rápido, es difícil ver que los humanos se estén quedando sin trabajo cuando están en mínimos históricos.

Pero para algunos, las máquinas no sólo nos dejarán sin trabajo, sino que vamos de camino a un futuro distópico en el que un día las máquinas tomen conciencia y se den cuenta de que no nos necesitan.

Precisamente, vestido con una camiseta de Skynet, apareció Pablo Garaizar en nuestro último TEDxUDeustoMadrid. Todavía no están los vídeos de las charlas, pero tenéis un buen resumen de su charla en twitter.

Te cuento mi charla TEDx «¿Debemos temer a la Inteligencia Artificial?» en @TEDxUDeustoMad de ayer en 24 tuits…

Dentro hilo 👇👇👇 pic.twitter.com/7mWyvZ2kKc

— Pablo Garaizar (@PGaraizar) 27 de noviembre de 2019

La charla de Pablo da de lleno en lo que es el verdadero problema de la Inteligencia Artificial actualmente, y no es que nos vaya a dejar sin trabajo ni que se vaya a rebelar con nosotros. El verdadero problema de la Inteligencia Artificial es que pueda convertirse en un instrumento para perpetuar discriminaciones, lo que Pablo llamó lista de «ismos»… sexismo, racismo…

A medida que delegamos más y más decisiones a la Inteligencia Artificial, que esta tenga sesgos va a ser más peligroso. Y esto de los sesgos en la Inteligencia Artificial es algo que sólo estamos empezando a entender.

Hace pocas semanas saltó a las noticias el caso del sesgo de género en la concesión de crédito de las Apple Cards. Varios usuarios, entre ellos Wozniak, contaron cómo les habían concedido 10 veces más crédito a ellos que a sus mujeres cuando comparten el patrimonio de la pareja a partes iguales.

I’m a current Apple employee and founder of the company and the same thing happened to us (10x) despite not having any separate assets or accounts. Some say the blame is on Goldman Sachs but the way Apple is attached, they should share responsibility.

— Steve Wozniak (@stevewoz) 10 de noviembre de 2019

Simplificando mucho, hay dos grandes problemas respecto al tema de los sesgos y la Inteligencia Artificial.

Por un lado, los datos que le damos, cómo decía Pablo, están llenos de «ismos». Los datos pasados están muy sesgados de diferentes formas, y sólo ahora estamos empezando a desarrollar formas de solucionarlo. Aquí hay algunos buenos ejemplos que además ayudan a comprender el problema también más allá de los «ismos».

Y el segundo gran problema es que ahora mismo los sistemas de Inteligencia Artificial son unas cajas negras en las que entran datos y salen decisiones, pero son decisiones que se toman sin «dar explicaciones». Es decir, la máquina aprendió en base a los datos que sus programadores le dieron, pero luego no suele ser fácil entender por qué se toman las decisiones.

Para este problema está apareciendo una nueva tendencia (que por cierto aparece en el Hype Cycle 2019) llamada Explainable AI («IA Explicable»). Estas nuevas técnicas intentan que los sistemas de IA sean transparentes y entendibles por los humanos, o intentan explicar a los humanos sistemas que funcionan cómo cajas negras. Este es un ejemplo de IBM que precisamente analiza un problema como el de las Apple Cards.

 

En todo caso, creo que hay que ser optimistas. Cómo dice HBR sobre este tema, la IA es una buena oportunidad para desterrar muchos sesgos en nuestra sociedad. Mientras que los sesgos en las personas son subjetivos y muy difíciles de combatir, los sesgos en las máquinas son cuantificables, y por lo tanto, mucho más sencillos de erradicar. Así que sinceramente pienso que aunque ahora la IA con sus sesgos es parte del problema, rápidamente se va a convertir en parte de la solución.

Por cierto, aunque Lee Sedol ha anunciado su retirada, también ha anunciado que jugará contra otra máquina el mes que viene. Quizá ha nacido otra profesión, sparring digital.

@resbla