Lazarillos digitales
Los lazarillos digitales ya están aquí. La transformación digital también ha llegado a la picaresca, y aunque nos gusta decir que somos el país del Lazarillo de Tormes, en realidad, los hay por todo el mundo.
De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:
El otro día, nos sorprendía esta noticia y esta fotografía.
Parece ser que en árboles cercanos a diferentes supermercados de Whole Foods (propiedad de Amazon) y alguno de sus centros logísticos, han empezado a «salirles» móviles a los árboles.
La cuestión es que Amazon utiliza una app (Flex) para gestionar los envíos a través de sus repartidores, y la inteligencia artificial detrás de esta app, selecciona a los repartidores en parte por su proximidad al centro de recogida. Así que estos lazarillos digitales, intentan engañar al sistema haciéndole pensar que están muy cerca del punto de recogida y así llevarse más pedidos.
Esto ha hecho que Amazon haya tenido que modificar el sistema de selección de repartidores, creando una especie de zona de exclusión dentro de la cual el sistema no acepta recogidas.
No es la primera vez que los repartidores intentan engañar al sistema, hace unos meses se supo que utilizaban diferentes aplicaciones y bots para recibir más pedidos. Y es que el efecto Cobra también se ha digitalizado, y en estos tiempos de COVID en los que no hay mucho trabajo en uber y lyft, los repartidores de Amazon quieren maximizar sus oportunidades.
Hecha la ley, hecha la trampa. Esto es cierto para todas las épocas, y todas las tecnologías. Si nos vamos a lo que sería la prehistoria digital, una de mis trampas favoritas es la de los phrakers que a principios de los años 60 eran capaces de engañar a las centralitas de las telcos con un silbato de juguete para hacer llamadas de larga distancia. La historia es aún más interesante, porque un niño ciego con oído absoluto, lo descubrió por casualidad silbando en el teléfono.
Pero más recientemente, tenemos también ejemplos muy divertidos. Como los vecinos que se compincharon para engañar a Waze (Google). Todos utilizamos este tipo de app para intentar escapar de atascos. Estos atajos, normalmente nos llevan por calles que normalmente no verían mucho tráfico. Esto pasó en una zona residencial, que ante el aumento del tráfico de usuarios de Waze huyendo de atascos, decidieron empezar a engañar a Google avisando de obras, retenciones y demás problemas en la calle.
Algo parecido hacía este artista con un carrito lleno de móviles para crear atascos falsos en Google Maps. Y claro, esa app que avisa de medusas en la playa en base a los avisos de usuarios, seguro que nadie manda avisos falsos para que vaya menos gente a nuestra playa favorita.
En China mientras tanto, las aseguradoras han empezado a hacer descuentos en las primas de los seguros de salud a la gente que mantiene hábitos saludables, entre ellos el del ejercicio diario, y concretamente, andar más de 10000 pasos diarios. Y claro, ha faltado tiempo para que el ingenio chino se pusiera a trabajar y diseñaran estos dispositivos, que puedes comprar, o que incluso en algunos restaurantes te los dejan para que te tomes unas cervezas tranquilo. Aunque hay más formas.
Sin duda, una de las aplicaciones más potentes de la IA es el reconocimiento facial. También ahí estamos viendo ejemplos de la creatividad humana. Sin duda, todos hemos visto a los manifestantes de Hong Kong utilizando láseres, pero hay otros sistemas aún más ingeniosos.
Están por ejemplo los ataques Black Blox que intentan engañar a los sistemas de redes neuronales. Si hablamos de imágenes por ejemplo, se trata de cambiar el mínimo número de píxeles para conseguir que el sistema clasifique la imagen erróneamente. En este ejemplo, el sistema clasifica esta imagen como guacamole.
En ejemplos más recientes, investigadores han utilizado Redes Generativas Antagónicas (GAN) para generar imágenes digitales que pueden engañar a los sistemas de seguridad de un aeropuerto y dejar pasar a una persona que tenga prohibido volar. Y otros, imprimieron caretas de papel con imágenes generadas para hacer pensar a los sistemas de reconocimiento facial que eran otras personas.
Pero ahora que nuestra vida gira alrededor de videoconferencias, también hay gente que está explorando la picaresca para hacer ver que está en sitios en los que realmente no está, y la normalización de los fondos virtuales en Zoom trae muchas oportunidades. Aquí hay un par de ejemplos, pero qué no estará haciendo la gente para engañar a su jefe:
Zoom pro tip 3: make it a video background to have a convincing loop of you looking engaged https://t.co/qBGZSpLUIF pic.twitter.com/exNM1TXk8I
— David Zhou (@dz) March 18, 2020
La verdad es que las cuestiones éticas de todo esto son de un orden parecido a las de los propios sistemas a los que quieren engañar. Sin embargo, tengo debilidad por todos estos ejemplos de picaresca pensados para engañar a las máquinas. Además, en esto, no parece que las máquinas nos vayan a ganar.
@resbla
