Por Redacción OCC InCom-UAB
La cultura de datos y del click, los sesgos algorítmicos que condicionan nuestro futuro, los cambios que la tecnología está provocando en la creatividad y en nuestras vidas en general fueron objeto de una interesante reflexión crítica a cargo de Remedios Zafra, investigadora del Instituto de Filosofía del Consejo Superior de Investigaciones Científicas (CSIC). El público asistente en su charla el pasado 3 de febrero en la Facultad de Medicina y Ciencias de la Salud en el Campus Clínico de la Universidad de Barcelona (UB) tuvimos mucha suerte de poder escuchar un discurso bien argumentado alrededor de los daños y riesgos que conlleva la cultura algorítmica. Con una retórica persuasiva impecable, Zafra analizó la cultura que nos rodea desde un punto de vista humanista.
Bajo el título “El bucle invisible. Una crítica de la cultura algorítmica”, Zafra compartió muchos de los pensamientos que explica en su libro “El bucle invisible” (Ediciones Nobel, 2022). Esta obra habla sobre la transformación de las formas de vida a raíz de la cultura algorítmica y señala los riesgos que conllevaría un mundo totalmente digitalizado.
Su objetivo es remover conciencias y, de entrada, para poder seguir su relato, pidió tolerancia con cierto grado de “perturbación”. Siguiendo las palabras de Frank Kafka, Zafra considera que los libros que leemos nos deben tocar y si no es así, la lectura no tiene sentido: “se deben leer aquellos libros capaces de transformar nuestra visión del mundo”. Remedios Zafra intenta incentivar de esta forma el pensamiento, perturbar y provocar preguntas entre las personas que la escuchan. Con un discurso pausado y una reflexión profunda, lo consiguió: su lista de síntomas de deshumanización no puede dejar a nadie indiferente.
Ahora bien, Zafra aclara que su mirada crítica a la cultura algorítmica no nace de un rechazo a la tecnología sino desde la estima a esta. Para la investigadora, en el fondo, la tecnología es una de las mejores herramientas sociales: “la tecnología nos debería ayudar a tener mejores vidas”. Pero, a la vez, propone pensar sobre el paralelismo que hay entre patriarcado y tecnocapitalismo.
Remedios Zafra arrancó su exposición agradeciendo las vibraciones que se podían percibir en la sala. Zafra valora cada vez más el contacto humano cuando muchas personas estamos acostumbradas a pasar muchas horas delante de las pantallas. Algoritmos que asientan prejuicios y clichés que favorecen desigualdades.
Zafra constata que los algoritmos estructuran nuestra forma de ver el mundo y, por tanto, también nuestra toma de decisiones, ya que determinan la información que nos llega. La investigadora define la cultura actual como un conjunto de prácticas, valores y algoritmos que se sustentan sobre las lógicas de la optimización, la eficacia y la cuantificación de las experiencias humanas. En este escenario, cuando Zafra habla de bucle invisible se refiere a cómo algunos algoritmos contribuyen a asentar prejuicios y clichés que estimulan el mantenimiento de desigualdades a una escala global en este mundo conectado. Estos bucles son cada vez menos visibles porque la programación es cada vez más opaca.
Zafra también insiste en que erróneamente la tecnología se considera neutral por defecto: “se piensa que no hay sesgo, ni subjetividad, ni parcialidad, cuando no es así”. De alguna manera, las condiciones precarias de aceleración no nos dejan tiempo para pensar, argumenta Zafra.

El riesgo de no parar nunca: inercia y debilidad
Zafra alerta de los riesgos de las condiciones de vida actuales, como la inercia que nos anima a llenar constantemente nuestro tiempo con tareas, actividades y pantallas, hecho que nos impide disponer de un tiempo reflexivo y nos lleva a la repetición mecánica. “Todos los días son iguales. Pero tienes la sensación de que no paras de hacer cosas y de aquí el bucle, estás activo pero siempre en el mismo lugar”, nos recuerda Zafra.
Pero el bucle invisible apunta también a la crisis de la creación derivada del exceso de fotografías que caracteriza este mundo conectado. Para Zafra, ahora solo es posible mirar superficialmente, leer surfeando: ahora domina la imagen y es difícil profundizar. Ahora cuesta concentrarse y, para Zafra, el efecto es preocupante: cuando se dificulta el tiempo reflexivo se actúa con inercia, las personas son más fácilmente manipulables y tienden a repetir lo que hacen.
Opacidad y poder mercantilista
La opacidad y la falta de transparencia del código donde las páginas web cada vez son más herméticas y más sofisticadas, también tienen que ver con el bucle. Zafra habla de parcialidad camuflada y de cómo los equipos de programación tienen unos sesgos con una intencionalidad mercantil o monetaria, a veces de forma inconsciente. Por eso, Zafra considera oportuno reflexionar sobre los que crean o programan tecnología, ya que insiste en que las condiciones de trabajo precarias hacen que los sesgos negativos sean más habituales. Además, para Zafra, “el poder mercantilista opera como un bucle invisible: la inercia tiende a reproducir lo que beneficia al mercado más allá de los proyectos éticos”.
La trampa de la eficacia
La parte final de su discurso estuvo dedicada a las lógicas del tecnocapitalismo. Estas, en palabras de Zafra, favorecen la desigualdad y nos orientan a formas precarias, que siguen siendo las dominantes, como ahora el exceso, la caducidad y la aceleración. En este contexto, las marcas de la verdad quedan desdibujadas y la cuestión colectiva queda desarticulada.
Zafra tiene las ideas muy claras. La investigadora opina que en la precariedad el valor sólo puede estar en la cantidad y que el placer sólo llega en “el acabar por fin”. Es como si el único placer posible es el que surge cuando vamos terminando cosas y van pasando etapas. Esto implicar olvidar, por ejemplo, que las profesiones son vocacionales.
Para Zafra, en un entorno de no-precariedad, el valor estaría en la verdad, en el sentido, en el placer derivado del proceso de atención y el compromiso humano. La investigadora habla de enfriamiento humano. Con esta expresión Zafra se refiere a que la eficacia ha sustituido la empatía.
Tecnología: Velocidad y adicción
Zafra habló de los botones y las pastillas como dos artefactos que ilustran muy bien esta época del bucle invisible, ya que los dos responden a la celeridad con la que vamos, a la necesidad de hacer las cosas en un instante. Los botones nos permiten rápidamente comprar, tener, conseguir, abrir, bloquear a golpe de click, evitar aquello que nos perturba… Y, por su lado, las pastillas nos ayudan a parar la ansiedad y seguir siendo productivos. Pero, y esta es la advertencia de Zafra, cada vez somos más adictos a las tecnologías y medicamentos.
Combatir el bucle invisible y encontrar un tiempo vacío: humanismo y arte
La crítica que hace Remedios Zafra a la cultura algorítmica se centra en sus formas monetarias y como estas favorecen inercias de adición y delegan responsabilidades con lógicas precarias. Todo ello lleva a la dificultad para distinguir la verdad en un contexto de aumento de la ansiedad y de conductas escépticas y negacionistas. Eso abre camino a la respuesta rápida y masiva, eludiendo los enfrentamientos a los temas complejos, que requieren tiempo y atención.
Remedios Zafra cree en la cultura y las humanidades como resistencia al bucle invisible. Cultura y humanidades permiten recuperar el pacto simbólico, acotar un espacio para la duda: “la cultura acoge sin complejos la posibilidad de expresar lo difícilmente narrable, lo que no tiene cabida en una casilla o en un dato; también integra el conocimiento científico y la historia, el trabajo pensativo, el desarrollo imaginativo; alienta el pensamiento propio, la incomodidad reflexiva y el extrañamiento frente a la opresión simbólica de aquello masivo y complaciente”, nos dice Zafra, que habla también del privilegio de la imaginación, recordando al escritor Peter B. Shelley, quien consideraba la imaginación como bien moral.
El arte nos ayuda a detectar los bucles invisibles por su capacidad de modificar los ritmos y ayudarnos a percibir aquello normalizado. Para Zafra, el arte nos ayuda a recuperar el “tiempo vacío”, que puede estar representado por una casilla vacía, pero que es imprescindible para generar un cambio. El tiempo vacío puede ser donde empieza la transformación y la consciencia ética. Según Zafra, es en estos momentos cuando se pasa del yo al nosotros de forma contundente.
Esta conferencia, que también se pudo seguir vía online, se organizó desde el proyecto de investigación “Cuestiones bioéticas no resueltas en la evaluación de la investigación y la innovación en salud basada en inteligencia artificial, tecnologías genéticas y datos personales” (PID2022-138615OB-I00), en colaboración con el Observatorio de Bioética y Derecho, del Máster de Bioética y Derecho y de la Asociación de Bioética y Derecho de la Universidad de Barcelona.