Amb l’objectiu d’incentivar l’ús de la IA entre les entitats culturals, el Consell d’Innovació Pedagògica de Barcelona (CIP), una xarxa diversa d’entitats i equipaments culturals-educatius, va organitzar la Jornada “IA. Com s’estan transformant les entitats culturals” el passat 8 d’abril. Montserrat Potrony, responsable del CIP, es va encarregar de donar la benvinguda. Actualment, el CIP és un servei de l’Institut de Cultura de Barcelona (ICUB), Ajuntament de Barcelona.
Potrony va presentar dades extretes d’un sondeig fet entre els i les membres de la institució. Els resultats conclouen que el 49% mai usa IA; un 36%, de forma puntual i només el 15% restant, sovint. Davant aquests resultats, Potrony parla “d’una baixa utilització i d’un ús força limitat” en les institucions culturals.
La trobada, que es va dur a terme al Museu d’Art Contemporani de Barcelona, va ser presentada per la periodista Maria Sancho. Hi van participar Lorena Jaume Palasí, experta en IA i fundadora de The Etical Tech Society; Lluís Nacenta, comissari i investigador de la confluència art i tecnologia; i Ester Comenge i Albert Burzon, de Burzon Comenge, un estudi creatiu i d’innovació digital especialitzat en patrimoni cultural.
Per iniciar el debat, la periodista Maria Sancho va dir: “La IA és un dels avenços tecnològics més disruptius dels últims anys. Saber-la integrar, saber-ne potenciar l’aplicació didàctica i alhora ser conscient que hi ha drets i límits digitals és ara mateix repte majúscul”. Però la trobada va posar sobre la taula un munt de condicionats, limitacions i obstacles, des del problema que implica la seva integració a un context d’alta precarietat laboral fins els seus efectes climàtics.
La IA és una promesa del segle XVII
En el que es podria considerar una conferència magistral, Lorena Jaume Palasí va començar contextualitzant què implica la IA des d’un punt de vista humanístic i social. L’experta afirma que: “quan parlem de la IA sembla que sigui extremadament nova i certament és la materialització d’un pensament bastant antic”.
Segons l’experta, aquesta és una promesa “que comença amb Leibniz i la seva màquina de càlcul”. Amb una carta al seu mecenes amb data març de 1673, Leibniz descriu com un aparell pot fer càlculs de manera fàcil, ràpid i segura. Per Leibniz – i això és important, remarca l’experta –, el càlcul representa el treball de la ment, la contemplació, l’atenció i el raonament. Per aquest filòsof, el pensament és càlcul i ell volia fer una màquina que pogués pensar.
Lorena Jaume Palasí recorda també l’esperit del filòsof francès Francis Bacon: la màquina i el pensament mecànic pretenen superar les limitacions que impedeixen a les persones adquirir coneixements. L’experta ens recorda que, segons els pensadors de l’època, es tractava de superar les limitacions degudes a la naturalesa humana, a la imperfecció de la cultura o a l’ús incorrecte del llenguatge. La naturalesa humana és converteix així en un material que pot ser manipulat mecànicament, imitat, millorat, substituït o, inclús, superat per les màquines.
El pensament de Leibniz és el de tota la Il·lustració i va ser emmotllat pel filòsof René Descartes, l’important és alliberar el coneixement de les intuïcions humanes. La subjectivitat era vista com un defecte humà, com irracional, i, per tant, com un obstacle pel procés de pensament, atesa la inestabilitat de les intuïcions i emocions. És a dir, la cerca del coneixement s’havia de guiar per la raó objectiva i, per tant, s’havia de reduir al mínim la subjectivitat.
La tecnologia sempre implica un mode d’existència i d’organització social
Per Lorena Jaume, resulta evident que no hi ha consens, ni a nivell polític ni acadèmic, entorn la definició i significat de la IA. Segons alguns sociòlegs, “la tecnologia és un mode d’existència o un mode d’organització”. Per Úrsula Franklin, una de les primeres dones a rebre una càtedra, “la tecnologia és una pràctica que consisteix en organització, procediments, símbols, noves paraules, equacions i, sobretot, una mentalitat”.
En aquest context, el posicionament de Lorena Jaume Palasí és clar:
- La IA no denota ni descriu una tecnologia concreta sinó que és una projecció cultural.
- La tecnologia s’utilitza per automatitzar processos, fenomen que no és nou.
- La tecnologia no és només una dimensió material sinó un conjunt de pràctiques i formes de pensar.
En definitiva, la tecnologia és quelcom més que una col·lecció de cables, xips, softwares i dades.
Discursos que no són tan nous
En el seu afany per contextualitzar els fonaments teòrics de la IA, Lorena Jaume Palasí continua parlant de Leibniz. La seva iniciativa de crear alguna cosa objectiva, racional i neutral va anar lligada amb una narrativa que ja coneixem, que ens sembla actual però que al segle XVII ja es forjava: “la seva màquina de càlcul havia de ser ‘certa’, havia de produir certesa en el sentit de la veritat i contrast amb la probabilitat (estadística). Mentre no li falti res a la màquina, és impossible que falli i, per tant, no requereix d’una prova”.
El filòsof havia d’optimitzar el pensament humà (càlcul) i, per tant, “tenir un benefici increïble per la comptabilitat, els inventaris, l’art de la mesura, la fortificació, el disseny de vaixells,… De fet, tota la matemàtica i la mecànica, en el món del comerç i les finances, pretenia reduir el treball humà al mínim i també estalviar un nombre innecessari de persones i molts salaris”.
Per Lorena Jaume, és important entendre que aquesta idea mecanicista de crear màquines d’automatització segueix sempre la finalitat d’extingir problemes en determinades àrees. I, en aquest punt, cita a un altre dels pensadors de la Il·lustració, Julien Offray de La Mettrie i el seu llibre icònic “L’Home Màquina”. La Mettrie denega l’ànima o l’espiritualitat i considera que l’únic que existeix és la materialitat i que la materialitat de l’ésser humà és quelcom mecànic. Per ell, l’home és equiparable a una màquina.
Ètica i IA: Repensar el progrés
Però, per la fundadora de The Etical Tech Society, no només és important tenir en compte tot el pensament filosòfic del que prové la IA, sinó també la part material. Per començar, tot allò que requereixen els centres de dades. Lorena Jaume ens explica que els centres de dades a Espanya es concentren a Madrid, Barcelona i Saragossa. L’experta també emfatitza la importància dels recursos humans, ja que aquest tipus de tecnologia requereix d’una important tasca de correcció, d’una gran quantitat de persones esborrant contingut altament traumàtic per netejar les bases de dades generades artificialment.
Lorena Jaume es pregunta si es pot fer una IA ètica, atès que “són tecnologies altament discriminatòries per naturalesa, que no poden fer gran cosa més que discriminar”. Aquests són els seus arguments: la IA és una infraestructura d’escala; les tecnologies digitals i d’IA són tecnologies blanques i patriarcals amb el propòsit d’escalar mitjançant aplicacions transferibles a diferents sectors amb una intencionalitat universalista a la fi d’optimitzar processos de forma eficient i amb això augmentar el consum; són infraestructures que creen dependències així com vulnerabilitats; i el seu impacte va més enllà d’allò individual i s’ha d’entendre en el seu context històric i colonial.
Per Lorena Jaume Palasí, la IA és més que software i hardware: “és un tema ideològic, una forma d’intentar organitzar les societats altament qüestionable. S’ha de tornar a ampliar l’enteniment de la tecnologia i innovació que tenim”. I tot el seu discurs apunta una conclusió clara: “no existeix una IA ètica”.
Al torn de paraules, el públic li va plantejar com es pot treballar des de les institucions culturals tenint en compte tots aquests problemes. Per l’experta, no es tracta de fer servir la IA per imposició: “no es tracta de ser moderns perquè tenim una IA ni tampoc no s’ha d’incorporar perquè és el símbol de la modernitat i del progrés, sinó que es tracta de poder pensar com podem crear una educació i una cultura que sigui dialogant, totalment diferent a una oposició universalista, amb la situació amb la que estem, climàtica i també humana”.
Lorena Jaume parla d’un altre sector, de les Pymes, com a possible referència pràctica. Segons el seu parer, tot i que considera que no s’està invertint en IA pel seu cost elevat, a empreses amb 20 treballadors no té sentit usar la IA. “Les empreses s’han de preguntar com i en què m’ajudarà. La IA no ens fa competitius. El que ens fa competitius és produir amb qualitat i això no depèn de la IA”, diu l’experta.
Segons la fundadora de The Etical Tech Society, és important que tornem a repensar què és la innovació: “la innovació no depèn d’una tecnologia sinó que depèn de la forma que pensem i que organitzem”. Per Lorena Jaume, la universalització és un reclam provincialista típic de l’Occident. El bé comú no és universalitzable. Els drets no són universalitzables. Bé comú per a qui? Des de quina perspectiva? L’ètica va de contextualització: s’ha d’entendre a la persona i les seves circumstàncies.
Les persones creadores i autores han d’assumir les seves responsabilitats
Lluís Nacenta, després d’escoltar Lorena Jaume, comença recomanant de forma categòrica que cal treballar amb IA. En el seu discurs Nacenta recupera la filosofa Marina Garcés i, més concretament, el seu llibre Nova il·lustració radical. D’aquesta lectura, Nacenta n’extreu un aforisme demolidor: “humans estúpids en un món intel·ligent”. “És la utopia perfecta”, ens diu. A partir de les paraules de Garcés, Nacenta reformula la seva recomanació: “Recomano que intentem ser humans intel·ligents en un món estúpid en sentit d’incomprensible, estrany, incommensurable i cruel”.
Nacenta matisa que cal “treballar amb” en lloc de “fer servir”, atès que tothom la fem servir ni que no ens n’adonem. Per l’expert, hem de sortir de la perspectiva moralista segons la qual allò que fem amb les mans és bo i allò que fem amb mitjans digitals és dolent. Per Nacenta, el més important és ser exigents amb el resultat final i assumir la responsabilitat, és a dir, l’autoria: “només els humans som responsables”.
Nacenta usa la IA per escanejar una quantitat excessiva d’informació i per obtenir un resum. Per ell, les feines creatives no estan amenaçades per la IA: “el que està amenaçat és el mercat laboral perquè està molt precaritzat. I això no té a veure amb la creativitat sinó amb la regulació del mercat laboral”. Nacenta explica que els millors estudiants que té utilitzen molt el ChatGPT: “És un assistent personal i l’utilitzen molt bé i l’usen sense mandra. És l’externalització de la seva intel·ligència”.
Iniciatives inspiradores que fan servir IA
Ester Comenge i Albert Burzon, CEOs de Burzon Comenge, tanquen la jornada. Burzon Comenge és un estudi creatiu i d’innovació digital especialitzat en patrimoni cultural, que té com a objectiu buscar noves maneres d’explicar la història, l’art i la cultura. L’estudi desenvolupa noves narratives digitals per a museus, institucions culturals i empreses per connectar amb les seves audiències i generar experiències memorables. Restauren i restitueixen digitalment tècniques en 2D i 3D.
Per Burzon y Comenge, la tecnologia mai ha de fer ombra als continguts, sinó que ha de ser el seu altaveu i enaltir-los. Per ells, la tecnologia pot ajudar a fer projectes educatius, que “permetin experimentar el patrimoni cultural a l’aula de manera vivencial mitjançant la potencialitat que ofereixen les noves tecnologies immersives”.
La jornada es va tancar amb l’exposició de projectes inspiradors, deixant en l’ambient una mica d’optimisme.
