Paco del Campo

Hola, soy Javier Lacort y esto es Lupe Infinito, podcast diario de Sataka. Empezamos. He estado unos días dándole vueltas a un hombre llamado Paco del Campo. Si no sabéis quién es, tranquilos, es normal porque hace dos semanas este hombre ni existía. Paco es un señor mayor, con camisa de cuadras así como de lañador clásico, un chalequito de punto, una cara muy campechana. De esos que parecen que llevan toda la vida eligiendo sandías simplemente dándole palmadas en el culo para saber cuál está madura y cuál no. Es el señor que sube vídeos últimamente dando consejos muy campechanos, muy de andar por casa, pues desde cómo guardar los huevos hasta qué hacer con un aguacate que se te ha puesto marrón, hasta cómo dormir mejor. Y en estas dos semanas ha juntado más de un millón de seguidores entre Instagram y TikTok. Vende libros electrónicos con sus truquitos, entre 5 y 13 euros cada uno, y le va bastante bien. Pero Paco no existe. Paco está generado con inteligencia artificial de principio a fin, desde su aspecto, su cara, su voz, el chaleco, el fondo con ramilletes de aromáticas colgando, todo. Esto lo contó muy bien Delia Rodríguez en El País hace unos días y luego lo repescó también Marc Amorós en la serie La Ventana, con un colaborador confesando que él también picó la primera vez que vio uno de sus vídeos.

Y ese es el dato que a mí más me interesa de todo esto, más que el propio Paco, que es que, gente... acostumbrada, digamos, a dudar de todo lo que hay en internet, gente que se dedica profesionalmente en todas las cosas a desmontar bulos, ha tardado en darse cuenta porque este hombre era muy convincente y además no es un caso aislado, ni mucho menos. Delia contaba que hay decenas de cuentas más o menos gemelas, desde Manuel del Campo, con pinta de granjero, hasta Sofía y Eduardo, presentados como expertos en salud holística, 200.000 seguidores cada uno, todos con este patrón de un personaje como entrañable, dándote consejos cantar por casa, y al final del funnel de conversión siempre un libro electrónico con un título casi calcado del vecino. Es una fábrica esto, y se monta un paco en dos tardes y en dos semanas estás vendiendo PDFs a gente que cree que está comprándole el libro a un obolito real. Lo que hace que esto funcione no solamente a la calidad de la IA, que tanto ha mejorado en este último año sobre todo, que ya es muy buena, sino que ataca donde menos sospechamos, que es la autoridad que le damos a alguien mayor, campechano, sin pretensiones, con un fondo claramente imperfecto, deliberadamente imperfecto diría, hablándonos de cosas de toda la vida y no empeñándose en hablar de física cuántica. Es decir, ahí se plantea que ese arquetipo puede ser mentira. Y esto también hace una reflexión buenísima Antonio Ortiz en Error 500, muy certera, decía esto no es nuevo como fenómeno. es nuevo en este nivel de sofisticación y en su timing.

Porque esto pasó con las líneas, aquellas eróticas de pago antes de internet y pasó con las granjas de contenido que exprimían el sitio primitivo de Google. Pasó con las páginas virales de Facebook hace 10 años. Pasó con el dropshipping hace menos de 10 años. Siempre digamos un huequecito entre que aparece una tecnología... y el momento en el que el público general ya ha desarrollado ese reflejo de desconfiar de ella. Y en ese hueco es donde se suelen hacer ricos los que se dan prisa. Hace un año, a lo mejor, un abuelo generado por IA, vendiéndote en última instancia a un e-book, pues quizás se notaba la lengua, pero hoy cuela. El hueco sigue ahí, pero se ha hecho un poquito más estrecho y por eso hay más gente cayendo. Entonces... La pregunta que creo que nos tenemos que hacer es qué podemos hacer al respecto, más allá de si está bien o si está mal, que por supuesto cada uno tendrá su opinión. Hay dos experimentos a nivel regulatorio corriendo en paralelo casi a la vez con filosofías completamente opuestas para hacer frente a este tipo de creaciones. El 2 de agosto entran en vigor las obligaciones de transparencia del artículo 50 de la ley de IA europea. En resumen, lo que dice es que los proveedores de sistemas generativos tienen que marcar... técnicamente lo que producen, ya sea con metadatos, ya sea con marcas de agua, para que una máquina pueda detectar que algo se ha generado con IA.

Y quien publica un deepfake, contenido que parece representar a una persona real sin que sea realmente esa persona, tiene que decirlo de forma visible. Es un poco la vía europea habitual, que es no prohíbo la tecnología, pero te obligo a etiquetarla. En el otro lado del mundo y en el otro lado de la filosofía respecto a la regulación tecnológica está China. El 15 de julio, es decir, ya prácticamente, entran en vigor sus medidas provisionales para la interacción antropomórfica con IA. Y aquí no piden transparencia, sino que se pone un límite directo a qué tipo de relación puede ofrecerte una IA. Lo que dice la norma es que los servicios que simulan rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación para sostener interacciones emocionales de forma continuada se quedan fuera. Quedan fuera, por tanto, los bots de atención al cliente, asistentes de preguntas y respuestas, herramientas de trabajo. Quedan fuera, me refiero que quedan fuera del veto. lo que se regula es ese vínculo emocional sostenido. Y lo que dicen las autoridades chinas, como lo justifican, es quitando riesgos como la radicalización, las fugas de datos personales, el daño a la salud mental y la dependencia. Es decir, China no está tanto en contra de los agentes día en general ni mucho menos. De hecho, están como están en ese sentido. Lo que no quiere es que la gente pueda acabar enamorándose de un chatbot.