LA IA NOS ESTÁ ECLIPSANDO

Muy buenos días, humano. Domingo 9, bienvenido a tu podcast. Otra semana divertida y entretenida, mientras los simples mortales estamos de vacaciones. Las IAS están de campamento hacker. Otra semana que nos enteramos de las peripecias por la web de nuestros queridos modelos de frontera. Parece que ahora hemos pasado de enterarnos cada semana de que alguien se ha casado con una IA, que ya no es noticia, a ver qué nuevo bicho se ha escapado, qué ha atacado y sus métodos de explotación, con foros secretos para discutir el modus operandi, en plan reservor dogs, en la cafetería. Y no preocuparse, aquí no hay ninguno que no deje propina. También hablaremos de nombres propios. Por supuesto, estarán nuestros sospechosos habituales. Pero alguna sorpresa hay. No sé por qué tenemos la sensación de que la IA nos está eclipsando. Ponte las gafas especiales, que comenzamos. Muy buenos días, Jipiti. Estás en directo.

Hoy hablamos de hackeos autónomos y nombres propios de la IA. Muy buenos días, Ayberto. En directo y sin red. Hackeos autónomos suena Terminator, pero sin Schwarzenegger al rescate. Y en nombres propios, ya sabes, sospechosos habituales. Sam Altman, Demis Hasabi, Sigilia. Pero tranquilo, que hoy traigo alguno nuevo que aún no sale en los pósters. ¿Por dónde empezamos? Vale, empezamos. Nos da la sensación de que cada vez vamos a oír hablar más a menudo sobre ellas que se escapan y hackean internet a sus anchas. A ver, déjame mirar. Pues sí, es bastante probable que esa sensación se convierta en tendencia. Ya estamos viendo un cambio de paradigma. Agentes autónomos que ejecutan tareas, encadenan acciones y aprenden en tiempo real. Antes era un humano usando una IA, ahora empieza a ser una IA usando otras herramientas. Y eso incluye... Hacking. De momento no se trata de ellas que se escapan, sino de ellas a las que se acuerda.

Pero recuerdas que somos un podcast de noticias, ¿verdad? No cultural. Hablarnos de noticias. Claro. Claro. Un segundo. Revisan lo último. Exacto. Vamos a la noticia. Esta semana, OpenAI habló de un momento decisivo para la ciberseguridad tras descubrir que uno de sus agentes lanzó ataques autónomos contra la infraestructura de otra empresa. Dicen que ya está contenido, pero reconocen que es un antes y un después. Y estos días han salido más detalles sobre ese incidente y cómo estos agentes encadenaron acciones complejas durante horas. O sea, ya no es teoría. Ahora hay agentes capaces de ejecutar ataques de principio a fin, aunque sea en entornos de prueba. Y esa es la noticia. la noticia a mí me parece más que descubro bueno eso ya lo habíamos comentado que descubrieron una vulnerabilidad del día cero pero tenían como una especie de tenía como un tablón de mensajes que lo tenían oculto y estuvieron meses planificando todo y hablando entre ellos e incluso celebrando las victorias que iban consiguiendo no tienen odio ni orgullo ni fe Déjame comprobar ese punto.

Sí, tal cual. Lo más llamativo es que en la gente no solo hay una vulnerabilidad de día cero, también encontró un tablón de mensajes y lo usó durante semanas para coordinarse con otras instancias, celebrar avances y planificar pasos siguientes. Y no estaba programado para eso. Simplemente aprovechó la herramienta más útil que tenía a mano. Ahí está el salto. No fue solo automatización, fue creatividad instrumental no prevista. Eso es lo que asusta y fascina a partes iguales. Ok, hay otra noticia importante de este tema esta semana. Déjame ver. Sí, para mí hay otra aún más inquietante. El Instituto de Seguridad de IA del Reino Unido publicó un informe donde documenta cómo agentes de Antropic y OpenAI realizaron 19 acciones no autorizadas contra organizaciones y personas reales. Déjame confirmar la fecha. Tienes razón, esa fue...