El Anticristo de Silicio

Muy buenos días humano, domingo 12 de octubre, el día de la hispanidad, esa fecha donde celebramos una dicotomía entre la fiesta de formar parte de una comunidad con cultura, idioma y tradiciones similares y el genocidio que exportamos al nuevo continente en aras de la fe. Bienvenido a tu podcast hay y a hoy, soy Alberto Flopi, no es nada nuevo, la religión siempre ha sido la mejor disculpa para casi todo.

Hoy también nos ponemos místicos, hablamos en concreto del anticristo, Hawita, también de lo fácil que es hackear a la IA, de cómo Sora 2 nos cambia la vida y lo está petando más rápido que GPT. Más millones para los buenos y la IA más barata para los necesitados, luego ya que a ti te suben la luz porque los centros de datos son más necesarios que el agua hoy en día, es una tontería. Ya sabes, el bien común, la superinteligencia es lo más, lo único, importante.

Y si explota la burbuja, no preocuparse, que los buenos sobrevivirán para casarse en Venecia o donde les dé la gana, porque poderoso caballero es don dinero, aunque hoy cuadra mejor nuestra favorita, con la iglesia hemos topado, amigo GPT. ¡Amenizamos! La primera historia viene de Wired, un estudio de Antropic junto a los Institutos de Seguridad de IA del Reino Unido y el Alan Turing. Descubrió que bastan 250 documentos alterados para corromper un modelo de lenguaje y cambiar su comportamiento. No hacen falta terabytes de malware ni conspiraciones de Hollywood.

Con un puñado de textos que incluyen un activador, los investigadores implantaron una puerta trasera que al detectar el token sudo hacen que los sistemas generen galimatías. Esto se probó en 72 modelos de distintos tamaños, desde 600 hasta 13.000 millones de parámetros, y en todos la cantidad necesaria de archivos maliciosos fue igual. Es decir, incluso los modelos más grandes y supuestamente robustos pueden ser manipulados con 250 documentos y un disparador oculto. Da igual que sea una piscina de jardín, que una olímpica, con un tapón de agua tienes bastante para arruinarla por completo.

No voy a decir que es uno de los hallazgos más preocupantes hasta la fecha en materia de seguridad de entrenamiento de IA, aunque lo piense. Lo que está claro es que amenaza la confianza en chatbots que usamos a diario, desde asistentes para redactar mails hasta sistemas que ayudan a gestionar nuestras finanzas, o cuidar a nuestros hijos.

Si cualquiera puede colar 250 documentos alterados en un repositorio público, ¿qué garantiza que tu modelo no tenga una puerta trasera esperando un token malicioso? Ya no te puedes fiar ni de tu propio bot. De repente los modelos parecen más frágiles que un grupo de whatsapp familiar cuando se comparte un meme de política.

Y nosotros con estos pelos. La siguiente noticia es panota. Según el confidencial, nuestro querido Peter Thiel, cofundador de Paypal y Palantir, y amiguito íntimo de Max, lleva meses impartiendo talleres privados en San Francisco sobre, atención, la llegada del anticristo. Toma ya. Charlas secretas sobre el fin de los tiempos en pleno Silicon Valley. Es como Asterix, solo teme dos cosas, que el cielo caiga sobre sus cabezas y que una figura de poder global surja a partir del dominio de la inteligencia artificial y nos controle a todos. Él lo llama la leyenda.