Inteligencia Artificial y la protección de los más desfavorecidos

El debate sobre la implementación de la IA y sus posibles efectos en los diferentes ámbitos de la sociedad no es nuevo.  La crónica de Jaume Ríos de uno de los diálogos en la Fundación Ernest Lluch aclara muchos puntos.

«La vulnerabilidad de algunos sistemas de IA reside en la capacidad de reproducir, al ser programados, prejuicios y sesgos subyacientes en nuestra sociedad»

Un algoritmo, una IA puede ser racista y sexista. Pueden tomar decisiones más rápidas, pero no por eso son más justas. Los humanos son propensos a los errores y a los prejuicios, pero eso no significa que los algoritmos sean necesariamente mejores.

Sobre este tema, en El País se ha publicado un interesante artículo de Marga León sobre el estado de bienestar y el uso de Inteligencia Artificial para espiar al pobre.

«La automatización de los sistemas de protección social los convierten en burocracias sin rostro que provocan ansiedad, miedo y desconfianza en las personas más vulnerables»

Los problemas vinculados a la automatización del Estado de bienestar son básicamente dos: 

1. Éstos nuevos sistemas funcionan con una total falta de transparencia. 
2. La automatización elimina el factor humano en situaciones en las que no cabe una respuesta estandarizada.

«Para qué todo este esfuerzo por criminalizar al pobre cuando el mayor desafío que tienen los Estados de bienestar contemporáneos es cómo conseguir que los más privilegiados contribuyan. Los algoritmos están definitivamente situados en el lugar equivocado»

Para ampliar sobre este tema os recomendamos un libro Automating Inequality de Virginia Eubanks, en el que denuncia la creación de un inquietante sistema de control social punitivo, opaco y altamente invasivo dirigido exclusivamente a personas en situación de extrema vulnerabilidad.