El verdadero riesgo de una IA cada vez mejor #103

Hace un par de años, muchas conversaciones sobre inteligencia artificial giraban alrededor de la pregunta de si se puede confiar en ella o no. Hablábamos mucho de las alucinaciones, de los errores, de las respuestas inventadas. Curiosamente, creo que ese ya no es el debate más importante. Llevo dos años utilizando HGPT prácticamente todos los días y ahora también Copilot al ser mi herramienta institucional en la universidad. Las uso para investigar, escribir, preparar clases, analizar artículos científicos, programar tareas, crear un modelo de entrenamiento deportivo, etc. Y sinceramente no recuerdo la última gran alucinación. Por supuesto, hay respuestas que me convencen más que otras. A veces simplifica demasiado, otras interpreta peor lo que quiero o necesita que le redirija la conversación. Pero una auténtica alucinación de esas que inventan información de forma evidente hace mucho que no veo. Quizá el verdadero riesgo ya no sea que la inteligencia artificial falle. Quizá el verdadero riesgo sea que nosotros y nosotras dejemos de pensar porque casi nunca falla.

Pablo Vázquez lo explica muy bien en su libro Tsunami cuando dice que la IA ha dejado de vivir en una ventana de chat para mudarse a nuestro entorno de trabajo. Ya no es solo conversación, es delegación y supervisión. Creo que esa idea es fundamental, pero añadiría una pregunta más. ¿Qué deberíamos seguir haciendo nosotros incluso cuando la IA pueda hacerlo perfectamente? Porque la conversación consiste en decidir qué merece la pena seguir entrenando como seres humanos. Durante mucho tiempo hemos pensado que el problema era tecnológico, que la cuestión era cuándo la IA sería suficientemente fiable. Sin embargo, cuanto mejor funciona, más fácil resulta caer en una confianza excesiva. Y esa confianza cambia nuestra forma de relacionarnos con el contenido. Al principio comprobamos todo, después comprobamos algunas cosas y poco a poco dejamos de comprobar casi nada. Pero el problema no es únicamente verificar menos. El problema es que dejamos de ejercitar determinadas capacidades.

Cada vez que delegamos una tarea no solo ahorramos tiempo, también dejamos de practicar las habilidades que esa tarea exigía. Y esa diferencia me parece enorme. Imaginemos que la IA resume un artículo científico. Puede hacerlo muy bien, pero una cosa es pedirle un resumen y otra cosa muy distinta es pedirle que decida qué es realmente importante, qué ideas merece la pena conservar o qué implicaciones tiene ese trabajo para nuestra manera de pensar. Eso ya no es resumir, eso es sustituir nuestro criterio. Y el criterio no aparece porque alguien nos dé una buena respuesta. Se construye comparando ideas, detectando contradicciones, haciéndonos preguntas, cambiando de opinión y muchas veces equivocándonos. Por eso creo que el debate sobre la IA nunca ha sido realmente un debate sobre la tecnología. Es un debate sobre las capacidades humanas. No todo lo que podemos delegar deberíamos delegarlo. Delegar tareas mecánicas tiene mucho sentido, por ejemplo, transcribir una reunión, traducir un texto, generar un primer borrador, resumir información que ya conocemos...

Todo eso puede hacernos mucho más eficientes, siempre y cuando, por supuesto, que no nos encontremos en etapas sensibles, como lo están los menores, y que para ellos el generar un primer borrador o resumir información ya sea una habilidad que necesite desarrollar primero. Por lo tanto, me estoy refiriendo más cuando a las personas ya tenemos esas habilidades realmente desarrolladas. Si estamos aprendiendo un idioma, pues es obvio que traducir un texto con la inteligencia artificial no nos va a ayudar a mejorar esa habilidad o ese entrenamiento a la hora de dominar un segundo idioma. En cualquier caso hay otras capacidades que conviene seguir entrenando, detectar errores, relacionar ideas, tomar decisiones, construir argumentos o formular buenas preguntas. No podemos hacer buenas preguntas si no sabemos de un tema. Y sobre todo, desarrollar algo que me preocupa especialmente, la metacognición. Es decir, saber lo que sabemos y lo que todavía no sabemos. Reconocer cuando una respuesta nos convence demasiado rápido. Darnos cuenta de que quizá necesitamos comprobar algo. Regular...