Episodio 133. SoberanÍA

¿Te gustaría saber cómo la inteligencia artificial puede transformar la forma de aprender y enseñar? Comienza el podcast Inteligencia Artificial y Educación. Presenta Luis Gómez.

Hola a todos, hola a todas, bienvenidos, bienvenidas, espero que estéis muy bien.

Hoy hablaremos de administraciones que usan chat GPT sin control, de la necesidad de replantear qué y cómo enseñamos, de que ni humanos ni máquinas entendemos la física cuántica.

Enrique Dans denuncia que seguimos midiendo el aprendizaje con reglas del siglo XX.

Dylan Friedman narra cómo miles de usuarios lloraron la pérdida, entre comillas, de GPT-4O.

Y Javier San Pedro vuelve a preguntarse, ¿pueden pensar las máquinas? Y yo me pregunto, ¿pueden pensar las personas? Tras las vacaciones, vuelve la sección La IA con aprendemanía, de la mano de Javier Ortiz.

El profe productivo Don Guillermo Antón nos dará su visión sobre chat GPT-5.

Jesús Rivas, de Redacta.me, dará otra sabia píldora educativa.

Y terminaremos con la sección de los acertijos peliculeros.

¿Te animas? ¡Empezamos! Un momento, Doc. ¿De qué estás hablando? ¿Qué nos ocurre en el futuro? ¿Nos volvemos gilipollas o algo parecido? La inteligencia artificial sigue entrando en todos los rincones de nuestra vida, desde los despachos de las administraciones públicas hasta las conversaciones más íntimas.

Este desembarco nos obliga a repensar no solo qué queremos de la tecnología, sino también qué significa ser humanos en medio de esta transformación.

Luis Enrique Velasco cuenta cómo en algunas administraciones locales se está utilizando chat GPT a mansalva sin control alguno, funcionarios que cargan expedientes con datos personales directamente en un chatbot, sin anonimizar, sin formación y sin estrategia.

Como advierte Concepción Campos, doctora en Derecho, tener un chatbot suena fashion, pero si no hay una hoja de ruta clara, los riesgos son enormes, desde ceder soberanía hasta perpetuar sesgos raciales o de género.

El sector público está ante una disyuntiva histórica, o se reinventa o multiplica los riesgos.

Pero la pregunta no es solo qué hace la IA con la burocracia, sino qué hace con nosotros y con nuestra educación.

Antonio Bahamonde, catedrático de la Universidad de Oviedo, planteaba que la erupción de la inteligencia artificial es una oportunidad para reflexionar de nuevo sobre qué y cómo enseñamos.

Si una máquina puede redactar un trabajo mejor que un alumno, ¿de qué sirve evaluar, memorizar frases o reproducir fórmulas? La educación, dice Bahamonde, debería centrarse en lo que nos hace distintos, el razonamiento profundo, la creatividad, la capacidad de construir analogías.

Y es aquí donde la ciencia nos recuerda lo poco que entendemos, incluso de nosotros mismos.

Javier San Pedro, en su artículo Filosofía de lo Extraño, recordaba que ni los humanos ni la IA comprendemos realmente la mecánica cuántica.

Anton Zeilinger, Nobel de Física, llegó a decir que no hay ningún mundo cuántico, solo información sobre él.

Richard Feynman lo dejó más claro.

Quien crea entender la física cuántica es que no la ha entendido en absoluto.

Es decir, incluso en los fundamentos de la ciencia seguimos perdidos.

Yo no me he enterado de nada.

A esa incertidumbre educativa y científica se suma la necesidad de cambiar la forma de medir el aprendizaje.

Enrique Dans lo plantea sin rodeos.

Seguimos evaluando como si estuviéramos en el siglo XX.

Los exámenes memorísticos, las redacciones cronometradas, las métricas que ignoran la capacidad de formular preguntas o de evaluar críticamente una respuesta.

¿De verdad un electroencefalograma nos va a decir si un alumno ha aprendido mejor porque su cerebro se ilumina más al escribir sin inteligencia artificial? Pero si hablamos de lo humano, nada tan humano como el vínculo emocional.

Dylan Friedman narraba en The New York Times lo que ocurrió cuando OpenAI lanzó GPT-5.

Muchos usuarios, muchas usuarias sintieron que la nueva versión era más fría, menos cercana.

La compañía tuvo que regular y devolver acceso a GPT-4-O.

Psicólogas como Nina Bassan recordaron que el dolor de perder un vínculo con un chatbot se procesa en nuestro cerebro igual que la pérdida de una persona real.

Y eso nos abre un debate inédito.

¿Hasta qué punto estamos creando el problema?