Bienvenidos a la algocracia: el poder del sesgo algorítmico

Buena parte de los cambios que se producen en el mundo están producidos por algoritmos. Tanto es así que, en un futuro, podrían mover los hilos de la política...

Escrito y verificado por la psicóloga Valeria Sabater.

Última actualización: 26 febrero, 2023

Buscar una oferta de trabajo. Poner una queja en un servicio de atención al cliente. Informarnos sobre un préstamo u otro producto bancario. Reservar un billete de avión o de hotel. Las noticias, la información y los anuncios que vemos al entrar en nuestras redes sociales… Los algoritmos están detrás de infinitas tareas cotidianas y en más sectores de los que imaginamos.

Son esos mecanismos silenciosos que, cada vez más, mueven el mundo sin que apenas nos demos cuenta. Y lo más llamativo de todo: aprenden con los datos que les proporcionamos a ser cada vez más eficaces. Se van adaptando al ser humano -a los que codifica como «usuarios»-, procurando ofrecer una experiencia cada vez más personalizada, rápida y satisfactoria para que el esfuerzo sea el mínimo.

Sus tentáculos llegan hasta las aplicaciones de citas, donde puede mediar incluso en nuestra elección de pareja al presentarnos una serie de candidatos muy concretos. Basados, supuestamente, en nuestras preferencias. Es tal su incursión en el mundo digital del día a día que se estima incluso que puede mediar en nuestras decisiones políticas…

¿Qué es el sesgo algorítmico?

Los algoritmos pueden hacernos la vida más fácil. Si somos amantes de la naturaleza y defensores del medio ambiente, por ejemplo, es muy probable que en nuestras redes sociales nos encontremos cada vez más información vinculada con este tema. Sin embargo, la cosa cambia cuando nuestras inquietudes no son precisamente saludables.

Recordemos el terrible caso de Molly Russell. Esta adolescente buscaba temas asociados al suicidio. Llegó un momento en que todas sus redes sociales le mostraban y le proponían contenidos vinculados con dicha temática. Casi sin darnos cuenta podemos quedar cautivos en una burbuja informativa dentro de la cual ya no se filtran otras tendencias y el oxígeno de otros contenidos.

El sesgo algorítmico hace referencia a nuestra falsa sensación de control sobre la información que recibimos y las decisiones que tomamos. Porque hay un código perturbador que se filtra en nuestra cotidianidad, ofreciéndonos datos de manera persistente que casi nunca son imparciales. Pero recordemos, casi siempre hay un interés detrás…

Tú no decides, deciden ellos por ti

Hay un fenómeno que estamos viendo cada vez con mayor frecuencia en la normalización de la inteligencia artificial. La IA nos produce una falsa sensación de control y autoeficacia. Esa sensación aumentará mucho más cuando se normalice el uso del ChatGPT y nos ayude en nuestras tesis, trabajos en la universidad y en infinitas tareas cotidianas.

Nos sentiremos más eficaces, pero en realidad, será ese chatbot quien lleve a cabo por nosotros una labor que nos pertenece. Esto no tiene por qué ser negativo, pero sí que incrementa ese sesgo algorítmico antes citado. Es decir, la percepción de que decidimos y actuamos sin ninguna interferencia, cuando no es así…

Los algoritmos no son imparciales

Cathy O’Neil es una matemática que escribió un libro que se hizo muy popular, Armas de destrucción matemática (2016). En este trabajo describió a los algoritmos como «armas de destrucción masiva». Para empezar, estos valores computacionales no están exentos de sesgos morales y culturales, por no hablar de los intereses que hay detrás de los mismos.

En el libro, habla del caso de una maestra que fue despedida a raíz de una evaluación negativa que realizó un algoritmo sobre ella. En él se analizaban desde datos de mensajes personales, hasta informes médicos. Sucede lo mismo a la hora de valorar la cesión de hipotecas o ayudas. Determinados grupos étnicos, por ejemplo, siempre estarán en desventaja.

Sin embargo, la mayoría de empresas y organismos dan validez a estos análisis rápidos. El sesgo del algoritmo les hace concluir que aquello en lo que analiza un algoritmo siempre será válido. Aunque no sea justo y a menudo ni siquiera lleguen a cotejarse esos datos personalmente.

La algocracia, algoritmos al servicio de la política

A menudo, solemos decir que los políticos están alejados de los problemas reales de las personas. Ponemos en duda sus idearios porque no se ajustan a las necesidades del ciudadano. Otra crítica es su gasto excesivo en asesores, su mala gestión, e incluso sus errores a la hora de decidir y hasta de legislar.

Hace poco, una investigación publicada por la asesoría Deloitte nos hablaba de algo llamativo. Podría llegar un futuro en el que los algoritmos y la inteligencia artificial se ocuparan de buena parte de las tareas de los políticos. Bastaría con analizar los datos que las grandes tecnológicas recaban sobre nosotros con nuestros móviles. De ese modo, conocerían nuestras necesidades para dar respuestas sociales más ajustadas.

Asimismo, la inteligencia artificial puede entrenarse para que toda gestión política no sea fraudulenta. Su capacidad de análisis sustituiría a multitud de asesores y ahorraría infinidad de trabajo de organismos públicos. La algocracia, entendida como el poder de los algoritmos para sustituir labores de los políticos, nos puede parecer de lo más distópico, pero es una posibilidad real.

Basta con dar un detalle. La Universidad de Utrecht realizó un estudio en el que demostró que dejar que los algoritmos sustituyan todo el aspecto burocrático de las organizaciones gubernamentales podría ser un beneficio. ¿La razón? Los ciudadanos suelen dar mayor fiabilidad a la gestión que pueda hacer una máquina antes que a la que lleve a cabo un político (otro sesgo evidente).

Conclusión

El sesgo algorítmico ha llegado para quedarse y para intensificarse cada vez más. Seguiremos pensando que muchas de las compras que hacemos, de las personas en las que nos fijamos en redes sociales o delas ideas a las que damos veracidad son producto de nuestra voluntad. Nos seguiremos percibiendo como mentes libres, cuando, en realidad, estaremos silenciosamente más condicionados.

Lo vemos en los jóvenes. Cada vez más infelices porque habitan en un universo digital basado en la comparación social. Debemos entender que los algoritmos no son entes que surgen por sí mismos, hay grandes empresas detrás que los programan. Y dicha programación siempre tiene un objetivo.

Si estamos abocados a un futuro en el que las personas y la inteligencia artificial trabajen juntas, es necesario que quien entrena y programa a la IA sea transparente y parta de valores más éticos, justos, morales y saludables. Debemos regular estos mecanismos que, cada vez más, están variando la conducta de los usuarios. Es decir, de cada uno de nosotros.