Por Redacción OCC InCom-UAB
Sin duda alguna los algoritmos están cambiando la manera en que nos comportamos; es evidente que influyen en nuestra vida. Pero, ¿los algoritmos están para ayudarnos y hacernos la vida más fácil? O, más bien, ¿nos la complican? ¿Qué poder tienen los algoritmos?
Sobre este eje de reflexión giró el debate “El algoritmo sin empatía. ¿Por qué se equivocan los algoritmos?”, desarrollado dentro del programa “El sesgo de los algoritmos”, organizado por el Observatorio Social de la Fundació La Caixa bajo la dirección científica de la escritora y periodista Carmen Domingo. El encuentro se desarrolló el 22 septiembre de 2022 en el Palau Macaya (Barcelona).
En esta sesión, la principal ponente fue la economista Lucía Velasco, exdirectora del Observatorio Nacional de Tecnología y Sociedad del Gobierno de España (ONTSI) y autora del libro ¿Te va a sustituir un algoritmo? El futuro del Trabajo en España (2021). Con su retórica, Lucía Velasco consiguió la absoluta atención por parte de toda la audiencia.
La sesión la presentó Esther Grávalos, periodista experta en comunicación y apasionada de la tecnología. Grávalos es también profesora asociada en la Facultad de Comunicación y Relaciones Internacionales Blanquerna, de la Universitat Ramon Llull.
“La inteligencia artificial (IA) no es una cosa del futuro, es el presente. Está aquí. Y seguro que ya has interactuado con algún algoritmo”, explicó Lucía Velasco. Según la experta, debemos ser conscientes que esto ya está en nuestras vidas. Y, para ilustrar su idea, explicó un ejemplo: Netflix utiliza entre 15 y 20 algoritmos que analizan las preferencias y las búsquedas de sus usuarios. Saben cuándo paramos la reproducción o la avanzamos, que días vemos cada cosa, en qué fechas, a qué horas, qué contenidos se abandonan más, las puntuaciones que otorgamos, las búsquedas que hacemos y seguramente saben mucho más.
Los algoritmos no tienen sensibilidad
Grávalos desarrolló la sesión apuntando estas ideas. El poder que tienen los algoritmos en la publicidad es cada vez mayor hasta el punto que pueden llegar a adaptar el producto que nos muestra según el comportamiento que tenemos en redes. Los algoritmos nos recomiendan qué serie ver, qué productos comprar o dónde viajar. Saben las páginas que visitamos e intuyen los temas que nos interesan. Cada vez que navegamos dejamos unas huellas que los algoritmos van siguiendo para conocer nuestras preferencias. “Pero, los algoritmos no son sensibles, no tienen empatía y pueden cometer errores”, recordó Esther Grávalos, quien continúo apuntando lo siguiente. Los algoritmos influyen también en nuestros sentimientos y en el estado de ánimo. Igual que en la vida analógica nos influye un comentario de algún amigo, en las redes el número de likes se esperan con cierta ansiedad. Cuantos más likes tenemos, más populares somos. Según como escribimos, según qué palabras usamos, el algoritmo también puede interpretar nuestro estado de ánimo. Los humanos somos emocionales por naturaleza. E, incluso, los algoritmos pueden cambiar nuestras opiniones sin necesidad de una reflexión. ¿Se podrá sustituir la empatía por un algoritmo? Grávalos es de la opinión que esto será difícil.
La participación de la sociedad en el debate sobre el avance tecnológico puede contribuir a hacer desaparecer las desigualdades
Lucía Velasco: “La mayoría de las personas que trabajamos en el ámbito tecnológico sin ser ingenieras lo hacemos porque pensamos que el futuro será mejor y la tecnología lo hará posible”. Ahora bien, “es muy importante la perspectiva crítica. No podemos seguir fomentado un avance tecnológico sin hacernos preguntas. Además, es importante abrir la conversación a todo el mundo y no solo a las personas que técnicamente saben de estos temas”, reflexiona Velasco. Para la experta, “es fundamental hacer partícipe a la sociedad de lo que son los algoritmos y cómo están impactando en nuestra vida. Todas las opiniones cuentan, no solo las de los que saben”.
¿Y cómo vemos los algoritmos? Velasco considera que ahora mismo estamos en un momento de tensión: ellos (los robots) contra nosotros (los humanos), que hace que tengamos lo que se conoce como “ansiedad tecnológica” y que no estemos tranquilos con la tecnología. Y esto está tan extendido que “existe una percepción cada vez más contundente sobre el efecto del cambio tecnológico sobre la desigualdad social”. Velasco añade que “las mujeres percibimos que estamos menos preparadas para afrontarnos a esta tecnología, que tampoco conocemos bien del todo. También somos más reticentes al uso de la tecnología: no vemos claro su uso en la medicina, en los espacios laborales…”. Y, a partir de aquí, Velasco advierte que de nada sirven estos avances, si las personas tenemos miedo de las máquinas y pensamos que generarán un futuro peor para nosotros. Velasco considera que alguna cosa estamos haciendo mal y no la estamos abordando.
Lucía Velasco describió así el perfil standard de los programadores de los códigos de los algoritmos: hombres (de momento es una industria masculina), blancos, jóvenes y con una elevada formación universitaria como ingenieros, matemáticos… Es decir, esta es una tarea asumida por una pequeña parte de la población. Cuando estas personas programan algoritmos, ¿qué saben de la gente mayor? O ¿a qué valores asocian las personas con piel negra? La experta admite que todo esto es un problema muy grave.
La influencia de los algoritmos en nuestra salud mental
Si te recomiendan un contenido que no te gusta, en principio no pasa nada. El problema es que los algoritmos están cambiando cómo nos comportamos y están influyendo en nuestra vida y esto – según Velasco – sí que es grave. A raíz de la gran interacción permanente que permiten las redes sociales, que están diseñadas para crear adictos, están cambiando muchos comportamientos hasta el punto que hay adolescentes que van al médico diciendo: “Doctor, quiero parecerme a mi selfie”. “Y tu selfie no tiene nada que ver contigo porque el algoritmo te ha cambiado el color de la piel, la nariz, ha generado pestañas más largas y, ¡no eres tú!”, dialoga Velasco con el público.
Estos trastornos en la autopercepción cuando la construcción de la personalidad está en proceso puede tener un gran impacto, sobre todo en las niñas. Tenemos ya muchos estudios que admiten que redes como Instagram interfieren en la autoestima corporal, sobre todo entre las adolescentes. Velasco explica que esto conlleva riesgos muy peligrosos, ya que puede destruirlas emocionalmente.
“Los algoritmos que ahora están diseñados para las redes sociales tiene efectos en la calidad del sueño, la autopercepción e imagen del cuerpo o acoso online”, explica Velasco, quien considera que se ha dado “un aumento muy preocupante de la depresión entre la juventud y, sobre todo, entre las chicas. Hay estudios que relacionan el tiempo dedicado a las redes sociales con un aumento de suicidio”. Un tema tabú del que no se habla.
“Los algoritmos se están utilizando para viralizar toxicidad. Y esto es un tema que nos afecta a todos: estamos creando sociedades enfermas a través de contenido tóxico. Y por eso necesitamos entender lo que está pasando”, remarca la economista.
“Es imposible crear sociedades inclusivas y que integren al diferente si estamos constantemente recibiendo mensajes de perfección y de homogeneidad. Es muy importante el mundo que vemos y cómo lo vemos. Por eso, cada ciudadano debe entender qué son los algoritmos y qué nos están haciendo. Se perpetúan los errores y aquí está el riesgo”, explica la experta, quien parece percibir que los sistemas en los que confiamos no siempre funcionan bien, ni siempre aciertan.
¿Qué debemos hacer?
Para terminar la sesión con un tono optimista, pero realista, la exdirectora de la ONTSI da seis claves para ayudar a entender los algoritmos como sociedad. Se necesita:
- desmitificar la inteligencia artificial.
- abrir un debate sin limitaciones ni prejuicios.
- una alfabetización digital extensiva (educar, alfabetizar, compartir y explicarlo a los niños y niñas en las escuelas y a los más grandes) porque todos somos parte de la sociedad.
- regular de forma inteligente, rápida y ágil.
- diversidad cultural en los equipos de diseñadores e igualdad en la industria.
- creación de sistemas de control, de auditoría, de ensayos y de transparencia.
Lecturas recomendadas:
Amparo Huertas Bailén reseña el libro de Geert Lovink (2019): Tristes por diseño. Las redes sociales como ideología. Bilbao: Editorial Consonni (traducción de Matheus Calderón Torres) https://incom.uab.cat/portalcom/es/una-sociedad-atrapada-en-un-presente-perpetuo/?hilite=amparo+huertas
David García Puertas (2020): Influencia del uso de Instagram sobre la conducta alimentaria y trastornos emocionales. Revisión sistemática. REVISTA ESPAÑOLA DE COMUNICACIÓN EN SALUD, 11(2), 244-254. https://doi.org/10.20318/recs.2020/5223
Imagen de Gerd Altmann en Pixabay
