Llegan los algoritmos explicables por imperativo legal

La Comisión Europea acaba de anunciar que incluirá en su futura ley de Servicios Digitales (Digital Services Act) una regulación específica sobre la inteligencia artificial que busca obligar a las grandes empresas tecnológicas a que hagan sus algoritmos explicables.

De todo esto hablamos en este #technobits de Capital Radio con Luis Vicente Muñoz:

 

Hace pocos días, la comisaria europea de Competencia, Margrethe Vestager, habló en un discurso ante AlgorithmWatch de la necesidad de aumentar la responsabilidad de las empresas tecnológicas sobre las decisiones que toman sus algoritmos. La comisaria apuntó que la nueva legislación obligará a las empresas tecnológicas a dar acceso a la forma en que sus algoritmos funciones a las autoridades cuando estas lo requieran. Si esto es cumple, tendremos algoritmos explicables por imperativo legal.

La Inteligencia Artificial Explicable (Explanaible AI) lleva siendo parte de la Hype Cycle desde 2019. De hecho, fue una de las poquísimas tendencias que repitió en la curva de 2020. Y es que la industria reconoce desde hace tiempo que la IA funciona como una caja negra, y eso no es aceptable.

Dentro de esto de la Explanaible AI hay dos tendencias. La de hacer por defecto y desde el diseño inicial algoritmos que expliquen la toma de decisiones, pero también la de sistemas que auditan los algoritmos y explican su proceso de toma de decisiones. Aquí un ejemplo de lo segundo

 

La comisaria está especialmente preocupada por dos aspectos potencialmente negativos del funcionamiento actual de los algoritmos detrás de las grandes plataformas tecnológicas, y quiere que la legislación obligue a sus propietarias a seguir las reglas descritas en la Guía Ética para una IA confiable de la UE.

Por un lado, estos algoritmos de recomendación tienen una enorme influencia en lo que ven, leen y escuchan las personas. Esto les influye, hasta el punto de tener un impacto en las elecciones. Por eso la comisaria habló directamente de que podrían ser un potencial riesgo para la democracia.

Y por otro, los algoritmos pueden perpetuar sesgos y discriminaciones, como ya también se han visto bastante ejemplos, por ejemplo con la esposa de Steve Wozniak, precisamente por la tarjeta de crédito de Apple.

Y todo esto ocurre sin que estas empresas avisen a sus usuarios o a las autoridades de cómo toman las decisiones de lo que muestran o recomiendan. La futura ley obligará a cambiar eso, y el plan es que las grandes tecnológicas tengan que colaborar en este sentido haciendo explicables sus algoritmos a las autoridades, usuarios e investigadores.

Todo esto es probable que coloque a la Unión Europea a la cabeza mundial de la protección digital de los ciudadanos de la misma manera que la GDPR lo hizo en cuanto a la privacidad digital. Sin embargo, al igual que la GDPR, esto sin duda generará un nuevo factor de fricción con EEUU.

Está por ver en qué se materializa las obligaciones para las tecnológicas de las que habla la comisaria, pero los algoritmos son una cosa muy seria en EEUU, ya que a diferencia de en la Unión Europea, allí son patentables.

Es muy probable que las grandes empresas tecnológicas vean cualquier intento por hacer explicables sus algoritmos como un riesgo enorme para su propiedad intelectual, y en definitiva, para una de sus fuentes de ventaja competitiva. La receta de la cocacola del siglo XXI es el algoritmo de Google, y dudo que estén muy contentos si la Comisión Europea les obliga a descubrir parte del secreto para hacerlo explicable.

Cuando escribo esto aún no se sabe quién será el presidente de EEUU. En todo caso, es poco probable que ninguno de los dos candidatos se tomen esto como un ejemplo a seguir, y es casi seguro que para uno de ellos será casi un casus belli para seguir su guerra mundial comercial.

@resbla

Comentarios bienvenidos!

A %d blogueros les gusta esto: