El Consell de l’Audiovisual de Catalunya (CAC) va organitzar la I Jornada de la Plataforma per a l’educació mediàtica sota el lema “Desinformació i Intel·ligència Artificial”. L’acte va ser el passat 24 d’octubre a la Biblioteca Montserrat Abelló de Barcelona, posant en valor la importància d’aquests espais culturals i de trobada. Ferran Burguillos, Gerent de Biblioteques de Barcelona, va obrir la jornada afirmant que “les biblioteques públiques són el quilòmetre zero del servei cultural de proximitat de la ciutat (…) infraestructures socials que garanteixen que les fonts siguin equilibrades, sense censura i amb informació contrastada”.
Aquesta jornada s’emmarca en la Setmana Mundial de l’Alfabetització Mediàtica i Informacional de la UNESCO. Dedicada a “Les noves fronteres digitals de la informació: Alfabetització mediàtica i informacional per a la informació d’interès públic”, pretén habilitar a les persones de pensament crític, per tal que puguin avaluar la informació, discernir els fets de la ficció i participar de manera responsable en el discurs en línia.
El punt de partida…
Laura Pinyol, Presidenta de la Plataforma per a l’educació mediàtica (PEM) i vicepresidenta del CAC, va fer una descripció molt completa del sistema comunicatiu actual. El model de les empreses de difusió d’informació – fins ara en dèiem premsa o mitjans de comunicació – ha canviat. Avui són empreses de creació de continguts amb valor periodístic que distribueixen informació, informació patrocinada i també entreteniment. “Estem immersos amb una nova etapa de creació de contingut sovint globals que són fets per periodistes però també per activistes, per influencers i empreses amb l’únic objectiu de generar necessitats i vendre’t com saciar-les. Aquestes veus són cada vegada més influents i convergeixen amb els mitjans de comunicació tradicionals. Algú pot pensar que els periodistes ens queixem perquè hem perdut el patrimoni del tractament de la informació però no és això. Som aquí per donar testimoni que vivim un canvi paradigma i un canvi de cicle. I aquests canvis s’han viscut sempre amb por i desconfiança”.
Laura Pinyol afirma que amb la irrupció de la IA som davant d’una nova tecnologia que, “com tots els canvis de paradigmes, comporta amenaces i oportunitats (…) I és amb aquest propòsit que hem d’estar amatents a la irrupció de la IA i contribuir al seu desenvolupament, perquè esdevingui una aliada contra la desinformació, la propaganda i els discursos d’odi”.
Pinyol és conscient que “la IA aporta noves complexitats al panorama de la informació. Si aquesta eina ja és capaç de generar text, imatges, vídeos molts realistes i els algoritmes enreden els continguts fets per persones i per IA, com a ciutadania requerim de noves habilitats, més vigilància i sobretot molt pensament crític per aprendre a fer-hi front. I aprendre és una paraula adequada en aquest entorn perquè la IA anirà molt més ràpida que no nosaltres, cal aprendre a discernir-la i l’haurem d’usar com una oportunitat”.
La IA pot estar present sense adonar-nos-en!
Xevi Xirgo, president del CAC, va exemplificar les possibilitats de la IA fent servir un discurs amb les 80 primeres paraules redactades amb el ChatGPT. Xirgo, que va aclarir al final el seu joc, va voler demostrar així com la IA pot estar present sense que ens n’adonem. Van quedar clares les avantatges i els riscos de la IA.
Per Xevi Xirgo, el repte al qual ens enfrontem passa per dos termes molt més antics, que són patrimoni de la intel·ligència convencional: “el relat comunicatiu que generi la Intel·ligència Artificial ha de ser veraç i contrastable”. Per Xirgo, veracitat i sinceritat són el mínim exigible i si s’ha fet ús de la IA, això s’ha d’expressar de manera clara i visible. Les persones usuàries ho han de saber. Xirgo és conscient que la desinformació ja fa temps que està inventada, però no dubta quan diu que la IA fa que el combat contra aquesta sigui més complex.
Xevi Xirgo va recordar el padrí de la IA, el britànic Geoffrey Hinton, que acaba de guanyar el Premi Nobel. I, més concretament, va recuperar una de les seves idees: “Fa poc em vaig adonar que el tipus d’intel·ligència digital que estem desenvolupant podria ser una forma d’intel·ligència millor que la dels cervells biològics”. Per tant, a més dels perills imminents, com la desinformació, l’eliminació de certs tipus de treballs o l’augment de la disparitat de la riquesa entre els rics i els pobres, estem davant un problema de caràcter més existencial.
Una crisi de credibilitat informacional que s’agreuja amb la IA
La conferència principal de la jornada, “Desinformació i intel·ligència artificial”,va ser presentada per Sara Suárez-Gonzalo, investigadora del grup CNSC de la Universitat Oberta de Catalunya (UOC). Marta Montagut, professora de la Universitat Rovira i Virgili (URV) i representant de Learn to check a la Plataforma per a l’educació mediàtica, es va encarregar de la seva presentació. Montagut va remarcar que el fet que la IA sigui inevitable pot fer que no siguem conscients de les implicacions i ens manqui una visió crítica.
A partir del fet que la informació viu una crisi de credibilitat en un context complex d’emergències, de recessions, de guerres i de polarització política, Sara Suárez-Gonzalo va encetar el seu discurs apuntant que la IA agreuja la situació. La investigadora reflexiona sobre dos factors relacionats amb el desenvolupament de la IA que, sense el control adequat, contribueixen a l’auge de la desinformació i a l’increment de la desconfiança i del desinterès ciutadà per les noticies: “Per una banda, la recent generalització de les eines de generació artificial de continguts. I, per l’altra, la consolidació de les grans corporacions tecnològiques com a actors centrals de l’ecosistema mediàtic”. Per Sara Suárez-Gonzalo, tot plegat genera noves dinàmiques de generació, difusió i consum d’informació que no només debiliten l’interès informatiu sinó que també fa perdre la confiança en els continguts.
Suárez-Gonzalo recolza el seu discurs en dades que ha tret del Digital News Report 2024 de Reuters:a 6 de cada 10 persones els preocupa la veracitat de les notícies que troben a Internet i, en relació amb les xarxes socials, menys de la meitat de les persones usuàries confia en la seva pròpia capacitat per distingir si les noticies a que s’exposen són fiables o no. A l’Estat Espanyol 4 de cada 10 persones desconfien de les notícies en general i aquesta desconfiança és major quan no s’alineen amb les pròpies idees o valors. La investigadora també assenyala com la sobreexposició informativa pot fer que cada cop més persones eviten les notícies de manera selectiva de forma habitual i també destaca que la meitat de la població considera que els mitjans de comunicació no aporten prou perspectives diferents sobre els temes ni prou informació positiva.
La investigadora de la UOC recorda que rebre informació veraç és un dret fonamental i alhora també posa sobre la taula els diferents aspectes que cal considerar quan es parla de desinformació: “ens referim a informació falsa o deshonesta difosa amb un interès deliberat de confondre o manipular”. Sara Suárez-Gonzalo distingeix entre informació errònia, que és la informació falsa o deshonesta propagada per un agent que és veraç, i informació maliciosa, que és la informació basada en la realitat que es difon amb l’objectiu de fer mal algú. Darrera de la desinformació, diversos interessos poden conviure: promoure una determinada ideologia, guanyar diners i/o aconseguir estatus, acceptació o atenció.
ChatGPT, el salt a la fama de la IA
Suárez-Gonzalo situa el naixement de la IA com a disciplina de coneixement al 1956, amb la creació de màquines que simulaven la intel·ligència humana. La IA té com a objectiu generar sistemes que, partint de dades, produeixin resultats amb certa autonomia, sense necessitat d’una guia humana constant, i amb capacitat d’adaptació en diferents contextos, siguin nous o desconeguts. La investigadora va recordar que els sistemes de la IA s’apliquen a àmbits molt diversos, per diagnosticar malalties, per assignar prestacions socials, per organitzar el transport urbà, per prendre decisions judicials o per decidir quina persona contractar a una empresa.
A grans trets, és considera que un sistema basat en IA és eficaç quan no es pot diferenciar si el seu resultat l’ha produït una màquina o una persona. Suárez-Gonzalo confirma que s’ha avançat molt en els darrers anys, però no és una tasca fàcil: “la principal dificultat per programar aquests sistemes té a veure amb la necessitat de descriure i captar en dades la complexitat d’un món real d’una manera precisa i operativa”.
Malgrat aquest recorregut històric, el “gran salt a la fama de la IA és més recent”, ens diu Suárez-Gonzalo. I aquest canvi ve, en gran part, de la mà de ChatGPT i el seu potencial com a creador de textos. El sistema reprodueix l’aparença dels continguts que ha processat i és capaç de produir escrits amb informació falsa però creïble. “Un text informatiu ha de ser veraç i s’ha de saber d’on provenen les fonts, però un sistema generatiu fruit de la IA no pot interpretar ni saber com són les paraules per dins. Un altre exemple són les deep fakes, continguts falsos en format audiovisual generat amb IA amb resultats creïbles que són molt difícils de diferenciar d’un vídeo real”, explica Suárez-Gonzalo. La investigadora afegeix que “a més de veraços poden semblar creats per professionals a qui se li suposa certs valors de transparència, d’honestedat, de rigor o de compromís amb la veritat que no correspondria a un text d’aquest tipus”.
El model de negoci que hi ha darrera del desenvolupament de la IA
La investigadora de la UOC també col·loca com a part fonamental del debat les grans corporacions tecnològiques, els nous intermediaris de la comunicació: “s’han posicionat així de bé per la recopilació de dades, desenvolupament i explotació de la IA, amb l’objectiu de captar i retenir persones. L’èxit de les corporacions està lligat també a la capacitat de reduir el tràfic cap als mitjans i han atret la major part de la inversió publicitària amenaçant la sostenibilitat dels mitjans de comunicació tradicionals”.
Els hàbits de consum són ja molt evidents. Les xarxes socials, i també els buscadors web, són ara les principals fonts d’informació de la ciutadania. Gairebé la meitat de la població s’informa via les xarxes, especialment les generacions més joves. El 64% de la població espanyola admet que consumeix vídeos curts de notícies almenys un cop a la setmana i constaten que plataformes com YouTube, Tiktok o Instagram els recomanen continguts alineats amb els seus interessos.
Aquesta preferència pel format vídeo augmenta la repercussió de continguts creats per comentaristes partidistes, influencers o celebritats. Sara Suárez-Gonzalo apunta que, davant una crisi informativa, es produeix un rebuig dels formats, actors i dinàmiques que es poden observar com obsoletes i, com a reacció, “guanyen interès alternatives aparentment disruptives que resolen la insatisfacció d’una manera simple”.
La desdibuixada frontera entre informació i opinió, unit a l’èxit de les plataformes tecnològiques com a fonts d’informació, genera un escenari adient, i preocupant, per la proliferació de la desinformació. Davant això, Sara Suárez-Gonzalo insisteix en que hem de trobar la manera de diferenciar entre continguts creats per persones i continguts generats per IA, entre continguts veraços i continguts que no ho son. A més, cal dotar la ciutadania d’informació i d’eines que li permetin contrastar la veracitat de la informació. L’objectiu, remarca la investigadora, ha de ser fomentar les capacitats i garantir les eines necessàries perquè els ciutadans puguin analitzar críticament els interessos que hi hagi darrera les notícies. És fonamental promoure la reflexió i impulsar la l’educació mediàtica i això inclou tenir la capacitat per distingir la informació de la opinió.
Per Sara Suárez-Gonzalo, cal fer una reflexió col·lectiva sobre el desenvolupament d’aquest model de negoci de les grans corporacions tecnològiques i promoure un ús responsable de la tecnologia, participatiu, transparent i guiat pels interessos i necessitats del conjunt de la ciutadania.
La IA i els drets de la ciutadania
Aquesta jornada es va tancar amb la taula rodona “Desinformació i ciutadania”, moderadaper Maria Victoria-Mas, periodista, professora de la Universitat Abat Oliva CEU i membre també de la Plataforma per a l’educació mediàtica. A la sessió hi van participar Xavier Ramon, professor i investigador del Departament de Comunicació de la Universitat Pompeu Fabra (UPF); Susana Pérez-Soler, periodista i professora de Comunicació Digital de la Facultat de Comunicació i Relacions Internacionals Blanquerna de la Universitat Ramon Llull (URL); Francesc Xavier González, president del Col·legi de Bibliotecaris-Documentalistes de Catalunya;
Cristina Pulido, professora i membre del Gabinet de Comunicació i
Educació de la Universitat Autònoma de Barcelona (UAB), i Simona Levi, activista digital i impulsora d’Xnet.
Xavier Ramon considera la desinformació com un problema i com un repte que amenaça el benestar democràtic. Xavier Ramon proposa formació com a solució.
Cristina Pulido va explicar que, des del seu grup de recerca, l’objectiu és definir com es pot aprofitar la IA per millorar el periodisme: “més que mai es necessita un periodisme de qualitat”.
Susana Pérez-Soler fa èmfasi en que la desinformació és un greu problema que ha existit sempre. Pérez-Soler parla de la salut mental del joves arran de l’alta presència de cossos i famílies ideals a Instagram. Per Pérez-Soler les veritables víctimes de la desinformació són les persones més grans, atès que no es plantegen que poden ser manipulades. Pérez-Soler vincula desinformació amb populisme.
Xavier González, qui recorda que la impremta va representar la democratització en l’accés a la cultura, veu ara la IA com una etapa més al camí, i no com un problema. Pel president de Bibliotecaris-Documentalistes de Catalunya, és més fàcil trobar que buscar.
Sobre l’activista digital Simona Levi, si parlem de desinformació, ella pensa que no hi ha cap problema que no tinguéssim abans: “el problema som els humans i els poders de sempre, el fet que la IA només sigui en mans d’unes poques corporacions que decideixen com s’aplica”.
Resum final
A la sessió de la tarda es van presentar experiències sobre desinformació i Intel·ligència Artificial i Maria José Recoder, coordinadora del grup de treball de desinformació de la Plataforma per a l’educació mediàtica, va tancar la jornada amb les conclusions després de 6 hores d’interessants aportacions, debat i reflexions.
Recoder va destacar:
- El rol de les grans corporacions tecnològiques, a les que la ciutadania els hi donem poder oferint-les dades personals.
- El rol dels usuaris i la desconfiança creixent cap als mitjans de comunicació i, ara també, cap a les xarxes.
- Cal tenir present de quina manera s’alimenta la IA. A partir de quina informació genera continguts?
- I, sobretot, davant de la desinformació, Recoder va emfatitzar que és fonamental donar eines senzilles a la ciutadania, que li ajudin a desenvolupar l’esperit crític.
Pots recuperar la Jornada sobre Desinformació i Intel·ligència Artificial: https://www.youtube.com/live/zKQuJtbKh2Q
Vídeo resum: https://www.youtube.com/watch?v=yRDQJzye3Zw
