Algoritmes que es vesteixen de caps

..

L'economia de plataforma és un model econòmic en el qual les transaccions i la creació de valor es duen a terme a través de plataformes digitals. Aquest model ha canviat el panorama de les relacions laborals, en introduir noves formes de treball com el treball independent i la gig economy o treballar per bolos o encàrrecs puntuals.

En els últims anys estem vivint una gran explosió d’aplicacions i serveis digitals que giren al voltant del big data i els sistemes predictius. Sistemes que, secundant-se en algorismes, són capaços de processar grans volums d’informació, aprendre i funcionar de manera autònoma o, directament, indicar-nos què hem de fer davant una determinada situació. La quarta sessió del cicle «IA, Drets i Democràcia» va tractar sobre les transformacions radicals que està patint el món del treball, punta de llança del canvi en les relacions laborals.

El paradigma laboral ha canviat. Ara, són moltes les persones que presten els seus serveis a través de plataformes digitals i tot apunta al fet que cada vegada seran més. L’actual procés ha creat una nova modalitat del capitalisme basada en l’economia digital, noves formes de treball, la deslocalització del treball i la precarització laboral, acompanyada de la vigilància. Estem davant d’una nova reorganització del sistema.

En aquesta economia de plataformes, les plataformes digitals com Uber, Glovo o Deliveroo continuen implantant-se de manera acrítica i sense sobirania digital, absorbint tot el sector públic en una forma de privatització encoberta. I les treballadores? Solen ser contractades com a autònomes o contractistes independents, en lloc d’empleades tradicionals, la qual cosa pot implicar la falta de protecció laboral i vulneració de dret.

Sobre aquestes i d’altres qüestions va tractar la darrera quarta sessió del cicle de conferències «IA, Drets i Democràcia» del Canòdrom – Ateneu d’Innovació Democràtica de Barcelona amb amb l’Anna Ginès Fabrellas, professora del departament de Dret a ESADE i directora de l’Institut d’Estudis Laborals; Sergi Cutillas, economista especialitzat en la política de competència, digitalització i consultoria estratègica, membre de l’Observatori de Treball, Algoritme i Societat, i Daniel Cruz Fuentes, responsable d’Anàlisis i Transformació Digital de CCOO Catalunya.

Control social i monitoreig del procés de treball: riscos i potencialitats

Segons l’estudi «La Plataformització del treball» publicat pel Joint Research Center de la Comissió Europea, es posa de manifest el control a la feina a través de la gestió algorítmica. A  l’estat espanyol afecta a un 35% de les persones, sent gairebé el 20% d’aquestes assignades automàticament a torns de treball o d’altres processos de treball a través d’algoritmes i dispositius digitals.

L’ús de la intel·ligència artificial en les relacions laborals no és ciència ficció. Cada cop trobem més empreses que ja estan fent servir sistemes predictius, que prenen decisions de manera automatizada, que contracten persones o fins i tot les acomiaden. «Personalment crec que l’ús d’aquests sistemes pot portar molts beneficis empresarials, perquè a l’automatitzar algunes decisions les empreses poden prendre decisions organitzatives més ràpides i eficients i millorar la seva competitivitat i productivitat. No obstant això, hem de tenir en compte que presenten uns desafiaments i riscos importants pel que fa als drets fonamentals de les persones», explica l’Anna Ginés Fabrellas, professora del departament de Dret a ESADE i directora de l’Institut d’Estudis Laborals

Al 2017 ja alertava del negatiu impacte de la intel·ligència artificial en els drets fonamentals de les persones. Un d’aquests riscos son la vulneració del dret a la intimitat de les persones. Aquests models implementen forts sistemes de vigilància per poder recollir dades i definir comportaments de les treballadores per poder predir les seves informacions personals. «Les dades més innofensives revel·len informació altament sensible de les persones», afirma Ginés. Només analitzant els likes a Instagram o Facebook podem predir el sexe, l’origen racial, les opinions polítiques, la religió, el grau d’intel·ligència o fins I tot el grau de felicitat.

El segon impacte en l’àmbit laboral és sobre la igualtat i la no discriminació. «És el cas de Siri, l’assitent personal d’Apple, que quan li deies Siri you are a bitch (Siri, ets una puta), responia Em posaria vermella si pogués. No va ser fins al 2019 que l’empresa va modficar la resposta amb un No sé com respondre a això, sense percatar-se que continuava reproduïnt una resposta d’una dona dòcil I submissa que no respón davant els insults», explica Ginés. Altres casos d’aquests trobem per exemples amb sistemes de reconeixement facial amb persones asiàtiques on la màquina els hi demana que obrin més els ulls, perquè consideren que els tenen tancats. Trobem molts estereotips de gènere i biaixos a la indústria tecnològica, per la falta de perspectiva de gènere i racial en el disseny dels productes.

Un tercer impacte fa referència a les discriminacions algoritmiques. Pot tenir el seu orígen en tres elements: en les variables, en les bases de dades o en les variables proxys de l’algoritme. Sobre l’origen en les variables trobem una sentència que diu que l’algoritme de Deliveroo és discriminatori, que premia a aquelles persones que es connecten més en les hores de més demanda i penalitza a les que reserven altres franges horàries menys massificades. Altres algoritmes, com un que Amazon va haver-hi de retirar per a la selecció de noves persones, identificava que els homes eren el millor perfil per exercir la feina, donat que en els darrers 10 anys la major contractació de personal va ser d’homes.

Mediació algorítmica, impacte i regulació

Un sector on podem veure els majors efectes de l’economia de plataformes és el del transport, concretament el del taxi. Al 2014 va aparèixer una nova empresa, Uber, que es presenta com el futur, amb una proposta d’economia col·laborativa, peer to peer. «Darrere d’aquesta idea tan maca, vam comprovar com una empresa multimilionària, que, fent servir un relat progressista, intentava saltant-se totes les regulacions del taxi, disfraçant-ho amb un relat modern», afirma en Sergi Cutillas, economista especialitzat en la política de competència, digitalització i consultoria estratègica, membre de l’Observatori de Treball, Algoritme i Societat (TAS). A partir d’aquí, el sector del taxi es mobilitza i al 2017 el Tribunal de Justícia de la Unió Europea li dona la raó al sector del taxi.

Una de les problemàtiques principals ha estat amb els serveis VTC (Vehicle de Turisme amb Conductor). Aquests serveis ens permeten contractar un trasllat amb cotxe amb xofer des del punt de recollida fins al de destinació. Amb la irrumpció de les plataformes han estat protagonistes de múltiples polèmiques respecte al sector del taxi. No obstant això, a finals de juny d’enguany, el Govern espanyol va aprovar un nou decret llei per a regular la seva activitat, que introdueix criteris mediambientals i de gestió del trànsit per a poder restringir l’atorgament d’aquestes llicències, utilitzades per plataformes com Uber, Cabify o Bolt i beneficiant en declarar-lo en el seu article 151 «servei d’interès públic». La regulació atorga a les Comunitats Autònomes mecanismes per a limitar aquestes llicències.

A Barcelona tenim un cas de relatiu èxit respecte a aquesta qüestió, però actualment ens trobem amb una ofensiva d’aquestes plataformes, que denuncia que Èlite Taxi, l’Associació Professional de Taxi que lluita pels seus drets, és un suposat càrtel que està fent for a a Uber o el cas de la plataforma Free Now, formada per l’AMB i Mercedes que han optat per treballar amb el sector del taxi, presentant-se com la plataforma que respecta els drets dels taxistes. No obstant això, ara ja està alterant les tarifes, dient que són una empresa que pertany a la societat de la informació I que, per tant, no han de complir amb les regulacions del sector del taxi. D’aquesta manera el seu sistema algorítmic ofereix incentius a les treballadores que estan més connectats I compleixen amb el seu model de bon taxista.

Des de l’Observatori TAS estan treballant en tipificar la figura de l’operador digital de transport i introduir aspectes com el de l’explicabilitat. «La lluita sindical és per a reintegrar, perquè aquesta activitat no es pugui desvincular verticalment de l’activitat final», afirma Cutillas.

La resposta del sindicalisme de classe: entre les plataformes digitals i la intel·ligència artificial

Al sindicalisme de classe li ha costat entendre aquest nou model de negoci. Amb l’uberització de la societat i el model d’Amazon s’ha creat una plataformització de l’economia, creant nous àmbits de treball que s’han aprofitat de la situació. CCOO Catalunya identifica tres: els falsos autònoms, que potencien empreses com Uber, Cuideo o Glovo; els freelance a través de plataformes intermediàries de la gig economy com Fiverr, Uptowork o Malt i els professionals autònoms, amb plataformes com TaskRabbit, Abogadea o Top Doctors. «El model que hem d’atacar és el dels falsos autònoms, perquè trenquen amb el model de negoci permés», explica Daniel Cruz Fuentes, responsable d’Anàlisis i Transformació Digital de CCOO Catalunya.

El 54% de les persones reconeixen que tenen fatiga digital. Com afecta la digitalització al món laboral és una feina que s’està treballant des de CCOO Catalunya. «Necessitem aprofundir perquè els convenis pugui regular el dret a la desconexió digital, l’ús de ls dispositius d’empreses per fer altres activitats i els sistemes de geolocalització», afirma Cruz. Els criteris de la directiva de plataformes s’estan discutint des de ja fa dos anys per part de la Comissió Europea, que busca posar fre als abusos de les plataformes digitals i millorar les condicions laborals en les plataformes digitals, però és insuficient.

La proposta actual del text inclou set criteris per a determinar si les persones treballadores de les plataformes són considerades per compte aliena i no autònomes i determina que s’han de donar dels set criteris per a considerar que la plataforma és l’ocupadora de la persona treballadora. «L’acció sindical a Catalunya hem anant fent passes en aquest àmbit. En un primer moment, ens hem apropat a les persones treballadores d’aquestes plataformes, tallers especialitzats, suport en protestes i vagues i ajudar a les eleccions sindicals», explica Cruz.

Alguns reptes pendents

L’horitzó està clar: Hem d’intentar avançar cap a una inteligència artificial ètica i justa. A nivell jurídic, cal donar-li més centralitat a la normativa de protecció de dades, apostar per més transparència i els drets de les persones a ser informades dels comportaments dels algoritmes i incorporar l’obligatrietat d’auditories algoritmiques externes.

A nivell tècnic, necessitem major diversitat en els equips dels dissenys tecnològics, avançar en mesures per eliminar els biaixos i en millorar la transparència i la explicabilitat. A nivell ètic, no hem de caure en el determinisme tecnològic. En l’àmbit laboral s’han de prohibir els sistemes de reconeixement facial, de detecció d’emocions i de l’estat mental de les persones. «Necessitem sistemes de IA més sencills i crear models més simples. Hi ha espai per a una inteligència artificial i justa per respectar els drets fonamentals de les persones», afirma Ginés.