Ageism in AI: nuevas formas de discriminación y exclusión por edad en la era de los algoritmos y la inteligencia artificial
Período: marzo 2023- febrero 2027
Fuente de financiación: Fundación Wolkswagen
Socios: Andrea Rosales (Universitat Oberta de Catalunya), Justyna Stypińska (Centro de Ciencias Sociales de Berlín – Instituto Weizenbaum), Maria Sourbati (Universidad de Brighton), Rüya Gökhan Koçer (Universidad de Leiden)
Descripción:
El sesgo intrínseco de la IA ha comenzado a ganar atención académica y pública después de que varios estudios demostraran sesgos significativos en los sistemas de aprendizaje automático (Machine Learning – ML) y aportaran evidencia sobre cómo la IA puede impactar negativamente a diversidad de grupos marginados. La categoría de edad es fundamental para la inclusión social y la igualdad en nuestras sociedades que envejecen, aunque actualmente se sabe poco sobre el alcance y las diferentes formas de discriminación por edad en la IA. El objetivo del proyecto AGEAI es evaluar críticamente cómo opera la discriminación por edad en los sistemas, productos, servicios e infraestructuras de IA, centrándose en áreas críticas de implementación de la IA (atención médica, empleo, movilidad, servicios financieros o reconocimiento facial). La tecnología de IA desarrollada en esas áreas ha sido reconocida como de “alto riesgo” por la propuesta de Ley de IA de la UE (2021) y deberá ser examinada rigurosamente para cumplir con los estándares de una IA confiable y justa.
Este proyecto tiene cuatro objetivos principales: (1) proponer un marco teórico novedoso para comprender la discriminación por edad y la exclusión en los sistemas de IA; (2) crear un diseño innovador de métodos múltiples para investigar la discriminación por edad en la IA, creando un camino para futuras investigaciones sociales y desarrollo de políticas; (3) generar evidencia empírica de discriminación por edad en las principales áreas de implementación críticas de la IA, y (4) crear herramientas para que las partes interesadas, los profesionales de la IA y los responsables de políticas puedan garantizar el desarrollo de una IA que incluya a todas las edades en Europa.
El proyecto se basa en un enfoque con múltiples métodos, que combina 1) entrevistas semiestructuradas, 2) análisis de discurso y documentos, 3) estudio de expertos Delphi, 4) talleres participativos (ciencia ciudadana) y 5) técnicas experimentales de minería de datos. Al realizar el trabajo de campo en cinco ciudades de cuatro países (Barcelona, Berlín, Brighton, Londres y Varsovia) se refleja una rica heterogeneidad de las poblaciones que envejecen en Europa.