El procés de disseny, desenvolupament i implementació de la intel·ligència artificial (IA) està profundament influït per dinàmiques discriminatòries. La transversalitat dels àmbits d'aplicació d'aquestes tecnologies ens obliga a abordar la complexitat del fenomen des d'una perspectiva crítica i global. En aquest marc, el projecte de Justícia Digital Global, impulsat per Oxfam Intermón i la Direcció de Justícia Global de l'Ajuntament de Barcelona, posa el focus en els impactes de la IA sobre les desigualtats.
Aquesta jornada consta de dos diàlegs que aborden aquesta problemàtica des de perspectives complementàries:
Diàleg 1: Nord i Sud globals, desigualtats en la concepció de la IA
Una conversa entre Paola Ricaurte i Milagros Miceli explorarà com els desequilibris estructurals entre el Nord i el Sud globals influeixen en la configuració d'un model de desenvolupament de la IA que arrossega discriminacions des de la seva base. Es debatrà sobre:
- El rol del model econòmic hegemònic i les grans corporacions tecnològiques.
- Els desequilibris tècnics i econòmics entre diferents geografies.
- L’impacte de les regulacions en la perpetuació d’aquestes dinàmiques.
Aquest diàleg planteja com aquests factors imprimeixen un caràcter discriminatori en els sistemes d'IA ja des de la seva concepció.
Diàleg 2: Discriminacions en els usos de la IA
La segona conversa, reunirà Paola Vila-real, Salmana Ahmed i Afef Abrougui per reflexionar sobre els vectors de discriminació associats als usos concrets de la IA. Es tractaran aspectes com:
- Els conjunts de dades d'entrenament i els biaixos que incorporen.
- Els algorismes i la seva capacitat de reproduir o intensificar discriminacions.
- Els efectes en àmbits com el racisme institucional, la desigualtat de gènere, l'accés a serveis públics o la gestió de l’espai i la mobilitat humana.
Les expertes aprofundiran en com aquestes eines tecnològiques poden esdevenir artefactes tecnosocials que perpetuen desigualtats i agreugen mecanismes de discriminació en múltiples àmbits.
