La rapidesa amb què la intel·ligència artificial transforma l’accés a la informació i les formes de treball planteja dubtes sobre la capacitat de supervisar-la. Les recents propostes de les grans tecnològiques per moderar-ne el desenvolupament reobren el debat sobre qui ha de fixar els límits i garantir que es respectin.
Cristian Canton, director associat del Barcelona Supercomputing Center, va abordar aquestes qüestions en la conferència «Tecnologia, intel·ligència artificial i humanitat: aliats o rivals?», al Palau Macaya. En la sessió, organitzada per l’Escola Europea d’Humanitats i moderada per l’economista Jordi Alberich, Canton va reclamar governança i criteri humà i va advertir dels riscos de concentrar el poder tecnològic en poques empreses.
Alberich va situar la discussió en la capacitat dels poders públics per orientar la transformació tecnològica cap a l’interès general. Va assenyalar que la IA incideix en la manera de pensar i de prendre decisions, amb una velocitat que dificulta l’adaptació social. Canton va compartir aquest diagnòstic, des d’una posició favorable a les possibilitats de la tecnologia, però exigent amb les condicions del seu desenvolupament: la contribució de la IA dependrà de com es construeixi, de qui la controli i dels usos que la societat decideixi acceptar.
IA generativa i informació: el repte de verificar els continguts
Per explicar l’abast del canvi, Canton va descriure el pas dels sistemes especialitzats en tasques de classificació als models generatius. Identificar un objecte en una fotografia o detectar correu brossa permet treballar amb funcions delimitades i comprovar-ne els errors. La generació de continguts amplia les possibilitats d’ús, però també introdueix dificultats per distingir entre una resposta plausible i una informació contrastada.
El ponent va advertir tant de les anomenades al·lucinacions, en què els sistemes generen informació falsa, com de la producció deliberada de continguts destinats a enganyar. La qualitat aparent d’un text o d’un vídeo pot afavorir que l’usuari l’accepti sense comprovar-ne l’origen. Per això, va relacionar l’expansió de la IA amb la necessitat de reforçar la verificació i el pensament crític. Cantón afirma que «hem passat d’una IA que principalment etiquetava i predeia, a una IA que escriure, dibuixa, programa i parla. Aquest canvi és tècnic, però també cultural: la màquina ja no només decideix sobre el món; també contribueix a produir-lo».
Aquesta exigència afecta també el treball professional. Canton va explicar com les eines de generació de codi havien reduït el temps necessari per desenvolupar alguns dels seus projectes. L’experiència li va servir per il·lustrar els guanys de productivitat, alhora que plantejava una dificultat: delegar l’execució d’una tasca exigeix conservar els coneixements necessaris per avaluar-ne el resultat, especialment quan un error pot tenir conseqüències sobre altres persones.
En l’àmbit educatiu, va defensar una alfabetització que inclogui la comprensió dels límits dels sistemes i la capacitat de contrastar-ne les respostes. I com a riscos va apuntar l’adopció superficial, la desigualtat d’ús, la degradació del criteri, la dependència cognitiva, la transformació desigual del treball i la velocitat superior a la capacitat de reacció. I afegeix que «el gran canvi no és que la IA faci demos impressionants, sinó que ja entra a la rutina de treball i de l’aprenentatge. I aquí es on apareixen alhora les grans oportunitats i els riscos més profunds».
Pel director associat de Barcelona Supercomputing Center, «quan la IA deixa de ser només una aplicació i passa a dependre d’infraestructures, xips, dades i plataformes, es converteix en una qüestió de sobirania i de poder».
La IA aliada o rival
Cantón va defensar que serà aliada «si complementa o amplia les capacitats humanes, permet que la ciència creixi i sigui oberta i transparent, que fomenti el pluralisme i autonomia col.lectiva i ens permeti ser millors com a persones». Per potenciar-ho, l’expert proposa construir IA de forma responsable i en tots els esglaons de la cadena». I va constatar que serà rival «si concentra poder, substitueix criteri i accelera una dependència que no sabem governar». Per mitigar-ho aconsellar definir eines que garanteixin un ús correcte en totes les capes on s’empri la IA i mecanismes d’escalat.
IA responsable: prevenir biaixos des del disseny
Canton, que havia treballat durant nou anys a Meta, va recórrer a la seva experiència per explicar com les desigualtats poden incorporar-se als sistemes. Va relatar les dificultats d’un dispositiu de videoconferència per seguir persones de pell fosca en condicions de poca llum, un exemple que va vincular a la representativitat insuficient de les dades i de les situacions previstes durant el desenvolupament.
La responsabilitat, va sostenir, s’ha d’incorporar des de l’inici i mantenir-se durant tot el funcionament de la tecnologia. Això implica protegir la privacitat, examinar els biaixos i permetre que les persones entenguin i qüestionin les decisions automatitzades. També requereix poder interrompre un sistema quan el seu comportament no sigui adequat.
En aquest punt, va explicar la funció dels equips que posen a prova els models per descobrir-ne vulnerabilitats abans que arribin als usuaris. Sotmetre una eina a situacions imprevistes permet detectar errors que poden passar desapercebuts en les proves habituals. Aquesta comprovació resulta especialment rellevant quan els usuaris confien que el sistema funcionarà correctament en qualsevol circumstància.
Governança de la intel·ligència artificial i sobirania tecnològica
La intervenció va ampliar el focus cap a les dependències que es creen quan empreses i institucions incorporen serveis d’IA als seus processos. Canton va advertir que l’accés fàcil a aquestes eines conviu amb una concentració de les infraestructures, les dades i la capacitat de càlcul en un nombre reduït d’actors.
Des d’aquesta perspectiva, la sobirania tecnològica afecta la capacitat de mantenir serveis, escollir proveïdors i decidir sota quines condicions s’utilitzen les dades. El ponent va defensar el desenvolupament de capacitats europees i va presentar les fàbriques d’IA com un instrument perquè les empreses, especialment les petites i mitjanes, puguin accedir a recursos sense haver de dependre exclusivament de les grans plataformes.
La diversitat lingüística va ocupar també un espai en aquesta reflexió. Canton va relacionar el predomini de l’anglès en les dades d’entrenament amb el risc d’una representació cultural desequilibrada i va esmentar iniciatives com AINA i ALIA. La presència de les llengües en el desenvolupament tecnològic forma part, segons va defensar, de la capacitat de preservar la pluralitat cultural.
Les grans tecnològiques proposen moderar el desenvolupament de la IA
Les recents propostes de responsables de grans tecnològiques per moderar el desenvolupament de la IA i reforçar-ne la supervisió recuperen una preocupació present en la conferència: disposar de temps i garanties per avaluar una tecnologia que avança ràpidament. Són plantejaments que han rebut suports diversos, sense constituir un acord general per aturar-ne el desenvolupament.
Al Palau Macaya, Canton va vincular aquesta necessitat de control amb unes normes efectives, una menor concentració del poder tecnològic i una ciutadania preparada per valorar les respostes dels sistemes. En el diàleg amb Alberich, va reconèixer les dificultats d’una regulació global, però va defensar la capacitat d’intervenir i corregir decisions quan apareguin riscos.
Aquesta capacitat de decidir també afecta els usos quotidians. Davant la pressió per incorporar IA a qualsevol activitat, Canton va proposar valorar què aporta en cada cas i conservar el criteri per revisar-ne els resultats. L’autonomia de les persones depèn també de poder escollir quan convé utilitzar-la.
Recuperar la sessió Tecnologia, intel.ligència artificial i humanitat: aliats o rivals?
