La inteligencia artificial está llegando a todos los rincones de nuestra vida, desde las noticias que leemos hasta las series que nos sugieren ver. Pero, ¿cómo funciona realmente? ¿Cómo se procesan los datos y cómo aprenden a hacerlo mejor?
En el mundo tecnológico en el cual vivimos, estamos en una situación un poco confusa. No entendemos del todo como funciona la inteligencia artificial, por lo tanto, nuestros miedos son abstractos. Es importante que sepamos cómo funcionan las herramientas de generación de textos, imágenes y proceso de datos, que tomemos el control y que participemos en las conversaciones sobre ellas. Antes de que las múltiples posibilidades de la IA se vuelvan inamovibles e indiscutibles, tenemos que experimentar con ellas y pensar en lo que significan.
Sobre esto trató la quinta y última sesión del «Ciclo IA, Derechos, Democracia: Pedagogía crítica para inteligencias artificiales». Tuvo como protagonistas a los miembros del Taller Estampa, un colectivo de programadores, realizadores e investigadores que se sumergen en los mundos del audiovisual y los entornos digitales. Su práctica se caracteriza por un enfoque crítico y arqueológico hacia las tecnologías audiovisuales, la investigación de las herramientas e ideologías de la inteligencia artificial, y el aprovechamiento de los recursos de la animación experimental.
Desmitificando la IA
Desde hace muchos años, el grafista, realizador y filósofo Roc Albalat y el desarrollador Pau Artigas comparten un espacio común a Taller Estampa. Junto con Marcel Pié, Marc Padró y Daniel Pitarch se dedican al diseño de webs interactive, programación, animación y audiovisuales, con la investigación como hilo conductor.
Su perspectiva crítica y arqueológica de la IA búsqueda a abrir la caja, comprender su funcionamiento, usarla y utilizarla más allá de su aplicación normativa en la industria. La IA no es solo un conjunto de técnicas, sino también los discursos que lo rodean y desmitificar-la implica reconocer sus límites. Aunque puede hacer tareas complejas y aprender de grandes cantidades de datos, no es infalible ni omnipotente y su calidad y la ética depende mucho de la información con la cual se entrena y de cómo se implementa. «Tenemos que verla cómo algo en proceso, flexible y lleno de oportunidades por descubrir lo que hay detrás y darle forma al futuro», explica Pau Artigas.
La transparencia en el desarrollo de sistemas de IA, comprender como funcionan los algoritmos, como se toman las decisiones y como se gestionan los datos, contribuye a eliminar la percepción de «caja negra» que a menudo rodea a la inteligencia artificial. Destacar la responsabilidad detrás de las empresas que la crean es un objetivo fundamental para el Taller Estampa. ¡Algo en proceso, flexible y lleno de oportunidades por descubrir juntas lo que hay detrás de este cuento y a darle forma al futuro!
Imágenes del mañana. Experimentos visuales
Desde 2017, este colectivo ha explorado la IA a través de varios proyectos. Para ellos, la IA es la combinación de técnicas y los discursos que lo acompañan. «Durante todo este tiempo, la IA ha sido muchas cosas, desde la ciencia ficción, la literatura al romanticismo o un sueño de la cibernética hasta la influencia del aprendizaje automático en los últimos años», explica en Roc Albalat. Es por eso que tenemos que entender la IA no como una tecnología futurista, sino como un producto de procesos sociales históricos.
Durante la sesión, Taller Estampa compartió sus proyectos destinados a tergiversar los sistemas de IA de lectura, de objetos e imágenes. Un proyecto notable es «El mal alumno», una exploración de como las máquinas pueden aprender nuevas taxonomías de manera no normativa y fuera de la industria convencional. Entrenaron a las máquinas con imágenes del mundo del arte y el cine antiguo, exponiendo las limitaciones y los sesgos presentes en las bases de datos utilizadas.
«Imágenes huéspedes» es otro proyecto fascinante donde abordan las formas emergentes de la visión artificial y su peculiar relación parasitaria con las imágenes digitales. Aquí, las máquinas son entrenadas para generar imágenes según capas específicas de información, ofreciendo una perspectiva única sobre como estas herramientas «ven» el mundo.
En la segunda parte de la sesión, los y las asistentes se sumergieron en la relación entre la IA y la generación de textos a través de los proyectos de Taller Estampa. «Deep Blue Rhapsody» destaca como un experimento poético donde la IA se enfrenta al poeta Josep Pedrals, explorando el juego entre la creatividad humana y la capacidad generativa de las máquinas.
El Taller Estampa no solo analiza la IA desde un punto de vista técnico, sino que también examina sus implicaciones éticas, medioambientales y sociales. Proyectos como «Diario de consumo» revelan el coste energético de entrenar sistemas de IA, destacando la necesidad de reflexionar sobre el impacto de estas tecnologías en nuestra sociedad.
