La cultura de dades i del click, els biaixos algorítmics que condicionen el nostre futur, els canvis que la tecnologia està provocant en la creativitat i en les nostres vides en general va ser objecte d’una interessant reflexió crítica duta a terme per Remedios Zafra, investigadora a l’Institut de Filosofia del Consell Superior d’Investigacions Científiques (CSIC). El públic assistent a la seva xerrada del passat 3 de febrer a la Facultat de Medicina i Ciències de la Salut al Campus Clínic de la Universitat de Barcelona (UB) vam tenir molta sort de poder escoltar un discurs ben argumentat entorn els danys i riscos que comporta la cultura algorítmica. Amb una retòrica persuasiva impecable, Zafra va analitzar la cultura que ens rodeja des d’un punt de vista humanista.
Sota el títol “El bucle invisible. Una crítica de la cultura algorítmica”, Zafra va compartir molts dels pensaments que explica al seu llibre “El bucle invisible” (Edicions Nobel, 2022). Aquesta obra parla sobre la transformació de les formes de vida arran de la cultura algorítmica i assenyala els riscos que comportaria un món totalment digitalitzat.
El seu objectiu és remoure consciències i, d’entrada, per a poder seguir el seu relat, va demanar tolerància amb cert grau de “pertorbació”. Seguint les paraules de Frank Kafka, Zafra considera que els llibres que llegim ens han de tocar i si no és així, la lectura no té sentit: “s’han de llegir aquells llibres capaços de transformar la nostra visió del món”. Remedios Zafra intenta incentivar d’aquesta manera el pensament, pertorbar i provocar preguntes entre les persones que l’escolten. Amb un discurs pausat i una reflexió profunda, ho va aconseguir, atès que la seva llista de símptomes de deshumanització no pot deixar a ningú indiferent.
Ara bé, Zafra aclareix que la seva mirada crítica a la cultura algorítmica no neix d’un rebuig a la tecnologia sinó des de l’estima a aquesta. Per la investigadora, en el fons, la tecnologia és una de les millors eines socials: “la tecnologia ens hauria d’ajudar a tenir millors vides”. Però, alhora, proposa pensar sobre el paral·lelisme que hi ha entre patriarcat i tecnocapitalisme.
Remedios Zafra va arrancar la seva exposició agraint les vibracions que es podien percebre a la sala. Zafra valora el contacte humà quan moltes persones estem tantes hores davant de les pantalles.
Algoritmes que assenten prejudicis i clixés que afavoreixen desigualtats
Zafra constata que els algoritmes estructuren la nostra forma de veure el món i, per tant, també la nostra presa de decisions, atès que determinen la informació que ens arriba. La investigadora defineix la cultura actual com un conjunt de pràctiques, valors i algoritmes que es sustenten sobre les lògiques de l’optimització, l’eficàcia i la quantificació de les experiències humanes. En aquest escenari, quan Zafra parla de bucle invisible es refereix a com alguns algoritmes contribueixen a assentar prejudicis i clixés que estimulen el manteniment de desigualtats a una escala global a aquest món connectat. Aquests bucles són cada vegada menys visibles perquè la programació és cada vegada més opaca.
Zafra també insisteix en que erròniament la tecnologia es considera neutral per defecte: “es pensa que no hi ha biaix, ni subjectivitat, ni parcialitat, quan no es ben bé així”. D’alguna manera, les condicions precàries d’acceleració no ens deixen temps per pensar, argumenta Zafra.
El risc de no parar mai: inèrcia i feblesa
Zafra alerta dels riscos de les condicions de vida actuals, com la inèrcia que ens anima a omplir constantment el nostre temps amb tasques, activitats i pantalles, fet que ens impedeix disposar d’un temps reflexiu i ens porta a la repetició mecànica. “Tots els dies són iguals. Però tens la sensació que no pares de fer coses i d’aquí el bucle, estàs actiu però sempre al mateix lloc”, ens recorda Zafra.
Però el bucle invisible apunta també a la crisi de la creació derivada de l’excés de fotografies que caracteritza aquest món connectat. Per Zafra, ara només es possible mirar superficialment, llegir surfejant: ara domina la imatge i es difícil aprofundir. Ara és difícil concentrar-se i, per Zafra, l’efecte és preocupant: quan es dificulta el temps reflexiu s’actua amb inèrcia, les persones són més fàcilment manipulables i tendeixen a repetir el que fan.
Opacitat i poder mercantilista
L’opacitat i la falta de transparència del codi on les pàgines web cada vegada són més hermètiques i més sofisticades, també té a veure amb el bucle. Zafra parla de parcialitat camuflada i de com els equips de programació tenen uns biaixos amb una intencionalitat mercantil o monetària, a vegades de forma inconscient. Per això, Zafra estima oportú reflexionar sobre els que creen o programen tecnologia, ja que insisteix en que les condicions de treball precari fan que els biaixos negatius siguin més habituals. A més, per Zafra, “el poder mercantilista opera com un bucle invisible: la inèrcia tendeix a reproduir el que beneficia al mercat més enllà dels projectes ètics”.
La trampa de l’eficàcia
La part final del seu discurs va estar dedicada a les lògiques del tecnocapitalisme. Aquestes, en paraules de Zafra, afavoreixen la desigualtat i ens orienten a formes precàries, que segueixen sent les dominants, com ara l’excés, la caducitat i l’acceleració. En aquest context, les marques de la veritat queden desdibuixades i la qüestió col·lectiva queda desarticulada.
Zafra té les idees molt clares. La investigadora opina que en la precarietat el valor només pot estar en la quantitat i que el plaer només arriba en “l’acabar per fi”. És com si l’únic plaer possible és el que sorgeix quan anem acabant coses i vam passant etapes. Això implica oblidar, per exemple, que les professions són vocacionals.
Per Zafra, en un entorn de no-precarietat, el valor estaria en la veritat, en el sentit, en el plaer derivat del procés d’atenció i el compromís humà. La investigadora parla de refredament humà. Amb aquesta expressió Zafra es refereix a que l’eficàcia ha substituït l’empatia.
Tecnologia: Velocitat i addicció
Zafra va parlar dels botons i les pastilles com dos artefactes que il·lustren molt bé aquesta època del bucle invisible, atès que ambdós responen a la celeritat amb la que anem, a la necessitat de fer les coses amb un instant. Els botons ens permeten ràpidament comprar, tenir, aconseguir, obrir, bloquejar, evitar allò que ens pertorba,…. I, per la seva banda, les pastilles ens ajuden a aturar l’ansietat i seguir sent productius. Però, i aquesta és l’advertència de Zafra, cada vegada som més addictes a les tecnologies i medicaments.
Combatre el bucle invisible i trobar un temps buit: humanisme i art
La crítica que fa Remedios Zafra a la cultura algorítmica es centra en les seves formes monetàries i com aquestes afavoreixen inèrcies d’addició i deleguen responsabilitats amb lògiques precàries. Tot plegat porta a la dificultat per distingir la veritat en un context d’augment de l’ansietat i de conductes escèptiques i negacionistes. Tot plegat obre camí a la resposta ràpida i massiva, eludint l’enfrontament als temes complexos que requereix temps i atenció.
Remedios Zafra creu en la cultura i les humanitats com a resistència al bucle invisible. Cultura i humanitats permeten recuperar el pacte simbòlic, acotar un espai pel dubte: “la cultura acull sense complexes la possibilitat d’expressar el difícilment narrable, el que no té cabuda en una casella o un dada; també integra el coneixement científic i la història, el treball pensatiu, el desenvolupament imaginatiu; encoratja el pensament propi, la incomoditat reflexiva i l’estranyament enfront de l’opressió simbòlica d’allò massiu i complaent”, ens diu Zafra. La ponent parla també del privilegi de la imaginació, recordant a l’escriptor Percy B. Shelley, qui considerava la imaginació com a bé moral.
L’art ens ajuda a detectar els bucles invisibles per la seva capacitat de modificar els ritmes i ajudar-nos a percebre allò normalitzat. Per Zafra, l’art ens ajuda a recuperar el “temps buit”, que pot estar representat com a casella buida, però que és imprescindible per generar un canvi. El temps buit pot ser on comença la transformació i la consciència ètica. Segons Zafra, és en aquests moments quan es passa del jo al nosaltres de forma contundent.
Aquesta conferència, que també es podia seguir via online, va estar organitzada des del projecte d’investigació “Qüestions bioètiques no resoltes en l’avaluació de la recerca i la innovació en salut basada en intel·ligència artificial, tecnologies genètiques i dades personals” (PID2022-138615OB-I00), amb col·laboració de l’Observatori de Bioètica i Dret, del Màster de Bioètica i Dret i de l’Associació de Bioètica i Dret de la Universitat de Barcelona.
