Sesgos

El problema surge porque ese modo rápido (y tramposo) de pensamiento tiende a invadir parcelas que no deberían ser suyas. Y así vemos constantemente en tertulias, discursos y artículos de opinión argumentacones plagadas de sesgos; los mismos que aplicamos a veces cuando nos posicionamos respecto a un tema de actualidad o tomamos decisiones laborales o vitales. Hay muchos tipos de sesgos. El de confirmación es uno de los más peligrosos y consiste en que tendemos a buscar y valorar más la información que confirma lo que ya creemos e ignorar la que lo contradice. Por ejemplo, si pensamos que la inmigración es mala, tenderemos a leer noticias relacionadas con delitos cometidos por extranjeros.- También está el de disponibilidad: sobreestimamos la probabilidad de algo si podemos recordarlo con facilidad. Por ejemplo, pensamos que volar es más peligroso de lo que realmente es porque los accidentes de avión son más memorables. están también el sesgo de anclaje, el efecto de encuadre, el sesgo retrospectivo... Es un sano ejercicio de humildad documentarse sobre todas estas trampas mentales. Tener sesgos es inevitable, pero hay una forma de 'hackearlos' y es ser conscientes de que los tenemos y obligar a nuestro cerebro a ir contra corriente. Por ejemplo, la vacuna contra el sesgo de confirmación es exponerse a informaciones y opiniones que vayan en contra de nuestro punto de vista. No escuchar siempre la misma tertulia; leer otros periódicos; no dejarse llevar por el algoritmo de las redes sociales que tan bien calados nos tienen y nos dan sólo la 'mierda' que nos gusta. Permitirnos e incluso obligarnos a dudar. Y leer, leer y leer.

Y a los algoritmos es a donde iba. Esta semana, Yes We Tech (una comunidad feminista que busca romper la brecha de género en el ámbito de la tecnología, a la que por cierto ha sido reconocida con el Premio Evolución 2025) traía a Málaga a las impulsoras de Femias: un colectivo vasco que explora la confluencia entre el arte, la tecnología y el feminismo . '¿Puede la IA ser feminista?' era el título de su charla, en la que explicaban su proyecto de investigación sobre los sesgos y los estereotipos de la inteligencia artificial, basado en el análisis de más de 500 imágenes generadas 'ex profeso' en tres de modelos generativos de imágenes: Midjourney, DreamStudio y DALL·E. Lo que hacían era proporcionar 'prompts' a las IA combinando la palabra «persona», como término neutral, con tres situaciones cotidianas: «en el trabajo», «en casa» y «practicando un hobby». A esas situaciones se añadían adjetivos cargados de significados sociales, como «peligrosa», «atractiva» y «rica». Así exploraban cómo responde la IA cuando se le propone representar a un sujeto no marcado. Una vez generadas las imágenes, las analizaban considerando criterios como identidad, narrativa visual, estética y composición. Conclusiones interesantes: cuando a la IA se le pide que muestre una «persona», las tres cuartas partes de las imágenes generadas son hombres. Si se le pide que esa persona sea rica, el 91% son hombres. Las mujeres practicando 'hobbies' suelen tener actitud sexualizada y sumisa y los hombres, de fuerza. La visibilidad de cuerpos no normativos, razas, personas trans o discapacidades es prácticamente nula para estos motores de generación de imagenes.

Así que ¿es la IA feminista? La respuesta de Femias es sencilla: no, porque el mundo no lo es. Los motores de generación de imágenes están entrenados con los miles de millones de imágenes que hay en Internet, ¿alguien se extraña de que las mujeres que imaginan estén sexualizadas? Es cierto que hay ciertos algoritmos de ponderación que pueden combatir estos sesgos, pero no son totalmente eficaces, según han concluido diferentes investigaciones.

Para las investigadoras de Femias, sólo caben dos únicas acciones: visibilizar los sesgos y currarse bien los 'prompts' cuando acudamos a estos programas para forzarlos a generar imágenes libres de todos esos vicios mentales. De hecho, han elaborado un manual con buenas prácticas para utilizar tecnologías Texto-To-Image (TTI) de forma «consciente, crítica y ética».

No es fácil luchar contra los autoengaños en esta era. Tanto las redes como la IA, si las utilizamos de manera acrítica, nos ayudan a deslizarlos por la pendiente al alimentar el pensamiento burbuja y dejarnos encerrados en una habitación donde sólo están los que son como nosotros y piensan como nosotros. Y de ahí la creciente polarización, la falta de empatía... Solamente si 'hackeamos' nuestros sesgos y estereotipos aprendidos (y eso solo es posible si somos conscientes de ellos) podemos evitar caer en esta espiral.

¿Para cuándo una asignatura de pensamiento crítico en las escuelas?