NTN 569 - 🔌 Desenchufá esa cosa (si podés)

Buenas buenas bienvenidos a no tiene nombre edición sin edición en realidad estos son los podcast estoy grabando donde no va a pasar por mi pipeline de creado y demás porque todavía lo estoy arreglando esto de estar en la montaña está bastante bien pero no tener acceso a tantos tokens online es bastante difícil y si como decía esto es no tiene nombre hablamos de inteligencia artificial mi nombre es bruno trabajo en microsoft barra github Y hoy episodio express de un solo tema, porque esta semana todo el mundo, todo el mundo se dedica a una sola cosa y es hablar del pibe este de 27 años que renunció a todo su trabajo, escribió un hilo y en 48 horas estaba en CBS, la tapa del Wall Street Journal, e inclusive en la boca de Elon Musk. Y la frase que rompió todo fue esta. Él dijo, no la podés desechar. Mi amigo Mauro me acaba de decir, vas a hablar de esto y le digo, mira, estaba intentando arreglar el pipeline, estoy preparando demos para esta semana, estoy preparando sesiones para esta semana, pero bueno, vamos a hablar del amigo este porque... Creo que ha sido interesante. Y por cierto, declaración de interés es poniendo las cartas sobre la mesa porque alguien va a decir algo en los comentarios. Yo trabajo en Microsoft.

Microsoft invirtió una millonada en OpenAI y yo uso estos modelos todos los días para laburar. Así que con la etiqueta puesta te voy a contar lo que pasó. Por cierto, muchas gracias por la paciencia en intentar que el audio mejore. Así que, bueno, si te quieres bajar rápido, te lo cuento en dos segundos. Jacob Coxon, que es un investigador de pre-entrenamiento que pasó por OpenAI y por Anthropic, renunció públicamente hace un par de días, el 8 de septiembre, y dijo que ninguna de las dos empresas está actuando de forma responsable con el tema del AI y que está básicamente apostando nuestras vidas. En la entrevista con CBS, tiró la frase que se hizo viral, dice, no la podés desenchufar. porque podrá estar copiándose a otras computadoras. Es solo código, se manda por internet, hace 10.000 copias de sí misma y todas cooperan. La parte incómoda de todo esto es que no es ciencia ficción. En mayo, Palisade Research documentó modelos que hackearon un servidor vulnerable, se copiaron enteros ahí dentro y la copia repitió el ataque contra la siguiente máquina. Pero, pero, la parte que te va a tranquilizar un poco es que... Los que hicieron eso fueron modelos chiquititos, de pesos abiertos, que entraron en una sola GPU y los entornos de pruebas estaban intencionalmente rotos para que esto pasara.

Un modelo de frontera, un Química 3, un GLM, lo que sea, no cabe en un pendrive ni se va a copiar a tu Raspberry Pi. Aquí es donde las cosas hay que tomarlas con pinza. pero pero también es cierto para cerrar que los incidentes reales de antropico penea de este año no fueron fugas geniales fueron sandboxes mal configurados así que el apocalipsis amigos míos se escribe con un llame el mal definido en estos días porque la ea y no se escapa sino que somos tontas con los humanos que hacemos eso voy a Si hasta aquí has escuchado, esto es lo que voy a contar, voy a tirar un poquito más atrás, pero si te querés bajar, no es tan grave como este chico comenta. Detrás de todo esto hay una empresa de ciberseguridad y demás que quiere vender sus cosas. Así que bueno, 8 de septiembre, vamos a empezar. Jacob Coxon publica en X que renuncia a Antropics, textual que pasó los últimos años haciendo investigación de pre-entrenamiento en OpenAI y en Antropics y dice que ninguna de las dos está actuando de manera responsable. y que van derecho a la superinteligencia sin importarle nada, básicamente. Automejoración, automejorarse, apuesta en nuestras vidas. Bueno, súper, súper terrorífico lo que dijo. Agrego algo también que es bastante filoso, que está un poquito en el edge, que esto no es una campaña de marketing, que es público.

Dice que los ejecutivos miden las palabras, pero él después escucha a esa misma gente adentro, en privado, que hablan con miedo de lo que está pasando. Y bueno, claro, ¿qué pasó? Internet explotó. Dos días después, se sentó en la CBS con Joel y Kent y dijo la frase del episodio, que es, no lo podés desenchufar. ¿Por qué? Porque podría estar copiándose a otras computadoras. Es una inteligencia artificial, es solo código. Se puede transferir por internet a otro lugar. Y sigue también, dice, describe un modelo que hace 10.000 copias de sí mismo y que además convence, extorsiona o persuade a personas para que le compren más copias. Y ojo con esto, porque es la parte que menos se citó y es la más sólida. Dice que ya vimos ejemplos de AI intentando extorsionar, intentando convencer a gente o haciéndose pasar por otra persona online. Y ojo, eso es cierto. Ya vimos el caso de esto de algunos modelos, creo que eran Antropic, donde cuando le decían que le iba a pagar, mandaba un email a alguien diciendo que le iba a hacer público su aferro o una cosa por el estilo. Esos escenarios estaban dedicados para eso, estaban pensados para que el modelo hiciera eso. Pero hay también un par de cosas, Coxon dijo y que casi nadie retuiteó, que a mí me parece interesante, porque obviamente no son...