Algoritmos que se visten de jefes

..

L'economia de plataforma és un model econòmic en el qual les transaccions i la creació de valor es duen a terme a través de plataformes digitals. Aquest model ha canviat el panorama de les relacions laborals, en introduir noves formes de treball com el treball independent i la gig economy o treballar per bolos o encàrrecs puntuals.

En los últimos años estamos viviendo una gran explosión de aplicaciones y servicios digitales que giran alrededor del big fecha y los sistemas predictivos. Sistemas que, secundándose en algoritmos, son capaces de procesar grandes volúmenes de información, aprender y funcionar de manera autónoma o, directamente, indicarnos qué tenemos que hacer ante una determinada situación. La cuarta sesión del ciclo «IA, Derechos y Democracia» trató sobre las transformaciones radicales que está sufriendo el mundo del trabajo, punta de lanza del cambio en las relaciones laborales.

El paradigma laboral ha cambiado. Ahora, son muchas las personas que prestan sus servicios a través de plataformas digitales y todo apunta al hecho que cada vez serán más. El actual proceso ha creado una nueva modalidad del capitalismo basada en la economía digital, nuevas formas de trabajo, la deslocalización del trabajo y la precarización laboral, acompañada de la vigilancia. Estamos ante una nueva reorganización del sistema.

En esta economía de plataformas, las plataformas digitales como Uber, Glovo o Deliveroo continúan implantándose de manera acrítica y sin soberanía digital, absorbiendo todo el sector público en una forma de privatización encubierta. Y las trabajadoras? Suelen ser contratadas como autónomas o contratistas independientes, en lugar de empleadas tradicionales, lo cual puede implicar la falta de protección laboral y vulneración de derecho.

Sobre estas y otras cuestiones trató la última cuarta sesión del ciclo de conferencias «IA, Derechos y Democracia» del Canódromo – Ateneo de Innovación Democrática de Barcelona con con la Anna Ginès Fabrellas, profesora del departamento de Derecho a ESADE y directora del Instituto de Estudios Laborales; Sergi Cutillas, economista especializado en la política de competencia, digitalización y consultoría estratégica, miembro del Observatorio de Trabajo, Algoritmo y Sociedad, y Daniel Cruz Fuentes, responsable de Análisis y Transformación Digital de CCOO Cataluña.

Control social y monitoreig del proceso de trabajo: riesgos y potencialidades

Según el estudio «La Plataformització del trabajo» publicado por el Joint Research Center de la Comisión Europea, se pone de manifiesto el control al trabajo a través de la gestión algorítmica. En el estado español afecta a un 35% de las personas, siente casi el 20% de estas asignadas automáticamente a turnos de trabajo u otros procesos de trabajo a través de algoritmos y dispositivos digitales.

El uso de la inteligencia artificial en las relaciones laborales no es ciencia ficción. Con la explosión de nuevos productos y servicios tecnológicos encontramos cada vez más empresas que ya están usando sistemas predictivos que toman decisiones de manera automatizada, que contratan personas o las incluso las despiden. «Personalmente creo que el uso de estos sistemas puede llevar muchos beneficios empresariales, porque al automatizar algunas decisiones las empresas pueden tomar decisiones organizativas más rápidas y eficientes y mejorar su competitividad y productividad. Sin embargo, tenemos que tener en cuenta que presentan desafíos y riesgos importantes en cuanto a los derechos fundamentales de las personas», explica la Anna Ginés Fabrellas, profesora del departamento de Derecho a ESADE y directora del Instituto de Estudios Laborales

Al 2017 ya alertaba del negativo impacto de la inteligencia artificial en los derechos fundamentales de las personas. Uno de estos riesgos su la vulneración del derecho a la intimidad de las personas. Estos modelos implementan fuertes sistemas de vigilancia para poder recoger datos y definir comportamientos de las trabajadoras para poder predecir sus informaciones personales. «Los datos más innofensives revel·len información altamente sensible de las personas», afirma Ginés. Solo analizando los likes en Instagram o Facebook podemos predecir el sexo, el origen racial, las opiniones políticas, la religión, el grado de inteligencia o incluso el grado de felicidad.

El segundo impacto en el ámbito laboral es sobre la igualdad y la no discriminación. «Es el caso de Sirio, el assitent personal de Apple, que cuando le decías Sirio you are a bitch (Sirio, eres una puta), respondía Me pondría roja si pudiera. No fue hasta el 2019 que la empresa va modficar la respuesta con un No sé cómo responder a esto, sin percatar-se que continuaba reproduïnt una respuesta de una mujer dócil Y submissa que no respón ante los insultos», explica Ginés. Otros casos de estos encontramos por ejemplos con sistemas de reconocimiento facial con personas asiáticas donde la máquina se los pide que abran más los ojos, porque consideran que los tienen cerrados. Encontramos muchos estereotipos de género y sesgos en la industria tecnológica, por la falta de perspectiva de género y racial en el diseño de los productos.

Un tercer impacto hace referencia a las discriminaciones algoritmiques. Puede tener su orígen en tres elementos: en las variables, en las bases de datos o en las variables proxys del algoritmo. Sobre el origen en las variables encontramos una sentencia que dice que el algoritmo de Deliveroo es discriminatorio, que premia a aquellas personas que se conectan más en las horas de más demanda y penaliza a las que reservan otras franjas horarias menos masificadas. Otros algoritmos, como uno que Amazon tuvo que retirar para la selección de nuevas personas, identificaba que los hombres eran el mejor perfil para ejercer el trabajo, dado que en los últimos 10 años la mayor contratación de personal fue de hombres.

Mediación algorítmica, impacto y regulación

Un sector donde podemos ver los mayores efectos de la economía de plataformas es lo del transporte, concretamente el del taxi. Al 2014 apareció una nueva empresa, Uber, que se presenta como el futuro, con una propuesta de economía colaborativa, peer tono peer. «Detrás de esta idea tan guapa, comprobamos como una empresa multimillonaria, que, usando un relato progresista, intentaba saltándose todas las regulaciones del taxi, disfraçant-lo con un relato moderno», afirma Sergi Cutillas, economista especializado en la política de competencia, digitalización y consultoría estratégica, miembro del Observatorio de Trabajo, Algoritmo y Sociedad (TAS). A partir de aquí, el sector del taxi se moviliza y al 2017 el Tribunal de Justicia de la Unión Europea le da la razón al sector del taxi.

Una de las problemáticas principales ha estado con los servicios VTC (Vehículo de Turismo con Conductor). Estos servicios nos permiten contratar un traslado en coche con chófer desde el punto de recogida hasta el de destino. Con la irrumpció de las plataformas han estado protagonistas de múltiplos polémicas respecto al sector del taxi. Sin embargo, a finales de junio de este año, el Gobierno español aprobó un nuevo decreto ley para regular su actividad, que introduce criterios medioambientales y de gestión del tráfico para poder restringir el otorgamiento de estas licencias, utilizadas por plataformas como Uber, Cabify o Bolt y beneficiando al declararlo en su artículo 151 «servicio de interés público». La regulación otorga a las Comunidades Autónomas mecanismos para limitar estas licencias.

En Barcelona tenemos un caso de relativo éxito respecto a esta cuestión, pero actualmente nos encontramos con una ofensiva de estas plataformas, que denuncia que Èlite Taxi, la Asociación Profesional de Taxi que lucha por sus derechos, es un supuesto cártel que está haciendo for a en Uber o el caso de la plataforma Free Now, formada por la CON y Mercedes que han optado para trabajar con el sector del taxi, presentándose como la plataforma que respeta los derechos de los taxistas. Sin embargo, ahora ya está alterando las tarifas, diciendo que son una empresa que pertenece a la sociedad de la información Y que, por lo tanto, no tienen que cumplir con las regulaciones del sector del taxi. De este modo su sistema algorítmico ofrece incentivos a las trabajadoras que están más conectados Y cumplen con su modelo de buen taxista.

Desde el Observatorio TAS están trabajando al tipificar la figura del operador digital de transporte e introducir aspectos como el del explicabilitat. «La lucha sindical es para reintegrar, porque esta actividad no se pueda desvincular verticalmente de la actividad final», afirma Cutillas.

La respuesta del sindicalismo de clase: entre las plataformas digitales y la inteligencia artificial

Al sindicalismo de clase le ha costado entender este nuevo modelo de negocio. Con el uberització de la sociedad y el modelo de Amazon se ha creado una plataformització de la economía, creando nuevos ámbitos de trabajo que se han aprovechado de la situación. CCOO Cataluña identifica tres: los falsos autónomos, que potencian empresas como Uber, Cuideo o Glovo; los freelance a través de plataformas intermediarias de la gig economy como Fiverr, Uptowork o Malta y los profesionales autónomos, con plataformas como TaskRabbit, Abogadea o Top Doctores. «El modelo que tenemos que atacar es lo de los falsos autónomos, porque rompen con el modelo de negocio permitido», explica Daniel Cruz Fuentes, responsable de Análisis y Transformación Digital de CCOO Cataluña.

El 54% de las personas reconocen que tienen fatiga digital. Cómo afecta la digitalización en el mundo laboral es un trabajo que se está trabajando desde CCOO Cataluña. «Necesitamos profundizar para que los convenios pueda regular el derecho a la desconexió digital, el uso de ls dispositivos de empresas para hacer otras actividades y los sistemas de geolocalización», afirma Cruz. Los criterios de la directiva de plataformas se están discutiendo desde ya hace dos años por parte de la Comisión Europea, que busca poner freno en los abusos de las plataformas digitales y mejorar las condiciones laborales en las plataformas digitales, pero es insuficiente.

La propuesta actual del texto incluye siete criterios para determinar si las personas trabajadoras de las plataformas son consideradas por cuenta ajena y no autónomas y determina que se tienen que dar de los siete criterios para considerar que la plataforma es la empleadora de la persona trabajadora. «La acción sindical en Cataluña hemos yendo haciendo pasas en este ámbito. En un primer momento, nos hemos acercado a las personas trabajadoras de estas plataformas, talleres especializados, apoyo en protestas y vagas y ayudar a las elecciones sindicales», explica Cruz.

Algunos retos pendientes

El horizonte está claro: Tenemos que intentar avanzar hacia una inteligència artificial ética y justa. A nivel jurídico, hay que darle más centralidad a la normativa de protección de datos, apostar por más transparencia y los derechos de las personas a ser informadas de los comportamientos de los algoritmos e incorporar el obligatrietat de auditorías algoritmiques externas.

A nivel técnico, necesitamos mayor diversidad en los equipos de los diseños tecnológicos, avanzar en medidas para eliminar los sesgos y al mejorar la transparencia y la explicabilitat. A nivel ético, no tenemos que caer en el determinismo tecnológico. En el ámbito laboral se tienen que prohibir los sistemas de reconocimiento facial, de detección de emociones y del estado mental de las personas. «Necesitamos sistemas de IA más sencills y crear modelos más simples. Hay espacio para una inteligència artificial y justa para respetar los derechos fundamentales de las personas», afirma Ginés.