Derechos Digitales: algoritmos y prejuicios. Con Carme Artigas y Amparo Betanzos

El banco me nega un crédito. Ah, es que lo dice el algoritmo.

Tú tienes derecho a denunciarlo a la EPD y exigir, como digo yo, igual que una segunda opinión médica, una segunda opinión humana.

Y te tienen que explicar por qué te lo han dado y, si no estás de acuerdo, puedes recurrir al CEDRE, que el CEDRE, la gente lo sabe, es el Consejo para la Discriminación Racial y Étnica, que depende del Ministerio de Igualdad, que cualquier tipo de discriminación humana, automática, algorítmica o no algorítmica, allí puedes ir.

No hay mucha gente que sepa esto, sin embargo, es muy importante conocer que tenemos opciones si nos sentimos discriminados o lesionados en nuestros derechos frente a los algoritmos.

Y que existen espacios, como el Observatorio de Derechos Digitales, que trabajan para que todos, ciudadanos y organizaciones, sepamos que los derechos que ostentamos en el mundo físico, también han de ser garantizados en el entorno digital.

En este nuevo encuentro del Ciclo Derechos Digitales 2025, puesto en marcha por Red.es, entidad adscrita al Ministerio para la Transformación Digital y de la Función Pública, a través de la Secretaría de Estado de Digitalización e Inteligencia Artificial, y moderado por la periodista Lorena Sánchez, nos centramos en los esgos y prejuicios que pueden contener los algoritmos.

Nuestras invitadas de hoy, Carma Artigas, empresaria y exsecretaria de Estado de Digitalización, y Amparo Alonso Betanzos, investigadora y expresidenta de la Asociación Española de Inteligencia Artificial, conocen ese tema muy bien.

Tenemos suerte porque nos ilustrarán con un sinfín de ejemplos que nos obligarán a tomar conciencia de golpe, pero también a entender que hay muchas cosas que se pueden hacer.

Que lo disfrutes.

Buenas tardes, bienvenidas y bienvenidos los que estáis en la sala, también los que nos están siguiendo por streaming, gracias por estar aquí.

Estamos en el quinto encuentro de esta iniciativa de Fundación Telefónica en colaboración con el Observatorio de Derechos Digitales, quinto.

Todos los anteriores están grabados y se pueden ver en vídeo, tanto en la página web de Fundación Telefónica como en la página web del Observatorio de Derechos Digitales, que, como sabemos, es una propuesta de red.es y coordinada por la Fundación Herpes, en la que, por supuesto, de conversación estamos encantados de participar.

Disculpad el momento de introducción, porque lo interesante es que habléis vosotras, que ya han hecho vuestra presentación.

Podéis ver mucho más sobre quiénes son en la página web de Fundación Telefónica, sus biografías, y nos quedaríamos cortos, no tendríamos Interscrolling Internet para hablar de ellas.

Pero sí que creo que me parece que es una propuesta importante la que venimos a discutir hoy, dentro de lo mucho que se podría hablar sobre legislación y sobre el desarrollo y la aplicación de la IA, los derechos humanos, los derechos fundamentales, que podemos hablar de mucho.

Pero una cosa particular que vamos a hablar hoy es sobre los algoritmos y los prejuicios que ocasionan y cómo regularlos.

Esto de cómo introducirnos los derechos, cómo nos están afectando y cómo los regulamos.

Ellas son quienes saben de esto.

Los algoritmos no son algo nuevo, se los debemos a Alan Turing, en mediados del siglo pasado, cuando encontró cómo darle instrucciones a una máquina para que realizara cuestiones complejas, parecía inocente y nos ha creado muchos problemas y tenemos que regularlos.

Todo el tiempo vuestro.

Os voy a lanzar una primera pregunta.

Discriminación algorítmica, que es de lo que hablamos hoy, ¿por qué? ¿Por qué es un tema clave en la sociedad contemporánea, en esta sociedad tecnológica que nos habita y que habitamos? Karma, todo tuyo.

Bueno, todo el mundo sabe lo que es la discriminación.

La discriminación es cualquier sesgo que aplicas al ser humano por alguna característica innata, de las cuales se genera una situación de desigualdad y de desprotección.

Por lo tanto, las leyes españolas protegen a cualquier persona de cualquier desigualdad, sobre todo de raza, de sexo, de orientación, de visión política, y esto es la base de nuestra democracia.

Por lo tanto, es tan importante que cuando esta discriminación no viene hecha por los seres humanos, sino viene intermediado por la tecnología, tengamos el mismo nivel de exigencia que en el ser humano.

Por lo tanto, al ser humano no le dejemos desprotegido ante esa situación de desigualdad.

Evidentemente, siempre que apartamos de la base que queremos una sociedad igualitaria, tanto forma base de nuestra democracia.

Por eso es tan preocupante que regulemos el uso de los algoritmos, no solamente por aquellos que los desarrollan, para que los desarrollen bien, sin sesgos, sino también por los que lo utilizan, sobre todo cuando lo utilizan poderes públicos.

Cuando hablamos de regulación, todo el mundo piensa que estamos controlando las empresas y el mercado.

No, no, lo que también tenemos mucho interés es en que no haya abuso de poder por parte de administraciones, de gobiernos, de entidades de justicia, ante un sistema.