Ageism in AI: noves formes de discriminació i exclusió per edat a l’era dels algorismes i la intel·ligència artificial
Període: març 2023- febrer 2027
Font de finançament: Fundació Wolkswagen
Socis: Andrea Rosales (Universitat Oberta de Catalunya), Justyna Stypińska (Centre de Ciències Socials de Berlín – Institut Weizenbaum), Maria Sourbati (Universitat de Brighton), Rüya Gökhan Koçer (Universitat de Leiden)
Descripció:
El biaix intrínsec de la IA ha començat a guanyar atenció acadèmica i pública després que diversos estudis demostressin biaixos significatius en els sistemes d’aprenentatge automàtic (Machine Learning – ML) i aportessin evidència sobre com la IA pot impactar negativament la diversitat de grups marginats. La categoria d’edat és fonamental per a la inclusió social i la igualtat a les nostres societats que envelleixen, encara que actualment se sap poc sobre l’abast i les diferents formes de discriminació per edat a la IA. L’objectiu del projecte AGEAI és avaluar críticament com opera la discriminació per edat en els sistemes, productes, serveis i infraestructures d’IA, centrant-se en àrees crítiques d’implementació de la IA (atenció mèdica, ocupació, mobilitat, serveis financers o reconeixement facial). La tecnologia d’IA desenvolupada en aquestes àrees ha estat reconeguda com a “alt risc” per la proposta de Llei d’IA de la UE (2021) i haurà de ser examinada rigorosament per complir els estàndards d’una IA fiable i justa.
Aquest projecte té quatre objectius principals: (1) proposar un nou marc teòric per comprendre la discriminació per edat i l’exclusió en els sistemes d’IA; (2) crear un disseny innovador de mètodes múltiples per investigar la discriminació per edat a la IA, creant un camí per a futures investigacions socials i desenvolupament de polítiques; (3) generar evidència empírica de discriminació per edat a les principals àrees d’implementació crítiques de la IA, i (4) crear eines perquè les parts interessades, els professionals de la IA i els responsables de polítiques puguin garantir el desenvolupament d’una IA que inclogui totes les edats a Europa.
El projecte es basa en un enfocament amb múltiples mètodes, que combina 1) entrevistes semiestructurades, 2) anàlisi de discurs i documents, 3) estudi d’experts Delphi, 4) tallers participatius (ciència ciutadana) i 5) tècniques experimentals de mineria de dades . En realitzar el treball de camp a cinc ciutats de quatre països (Barcelona, Berlín, Brighton, Londres i Varsòvia) es reflecteix una rica heterogeneïtat de les poblacions que envelleixen a Europa.