NTN 428 - 🤖 Australia y Deloitte, cuando la IA mete la pata

Buenas, buenas. Mi nombre es Bruno y esto es No Tiene Nombre. Vamos a hablar de inteligencia artificial y de cosas que no debes hacer con inteligencia artificial. Hoy vamos a hablar de cómo un contrato millonario, bueno, no era millonario, era medio millonario de entre un gobierno y una gran consultora terminó en una cosa que es, bueno, que da vergüenza.

Antes de eso quiero agradecer a personas que me han dado algunos temas para hablar, que los tengo en la lista, como es Luismi, mi amiga María y demás, donde los voy anotando y voy a ir teniendo tiempo para grabarlos, pero por ahora, hoy estoy grabando lo que tal vez sea el último episodio que grabo fuera de casa en un tiempo. Estoy en Orlando.

Dios mío, la lluvia y el calor me han dejado muerto, pero bueno, después luego me tengo que viajar a Lima, Perú y tengo algunas cosas por Europa y demás. No sé, parece que volveré a esta vida agitada de la maleta y viajando y corriendo donde puedo. Pero hoy vamos a hablar de, básicamente, no me quiero dar spoilers, pero esto es el equivalente a pedirle a tu sobrinito que te ayude con la tarea del colegio y después entregarla como si fuera una tesis doctora. ¿Qué pasó? Vamos a empezar por el principio. Vamos a hablar del cliente, que el cliente es el gobierno de Australia. Sí, un gobierno entero. Estamos en Australia, tierra de canguros, koalas y al parecer contratos fundamentales muy jugosos.

El Departamento de Empleo y Relaciones Laborales del gobierno australiano necesitaba un informe, pero no cualquier informe. Ojo, una revisión completa de sus sistemas informáticos y cómo estos manejan las penalizaciones automáticas en el sistema de bienestar social del país. Ojo, cuando yo leí esto me fui a ver qué tan importante era y ojo que esto es el sistema de welfare australiano. ¿Qué significa esto? Estamos hablando de software, que decide si la gente recibe o no recibe ayuda del gobierno. Es decir, esto es algo muy, muy importante a lo que impacta la vida de miles o potencialmente millones de personas. No encontré ningún número oficial que yo me sintiera confortable para dejarla ahí, pero hablemos de que pueden ser miles o millones de personas.

Y este informe no es un informe sobre TAF versus Spaces o las mejores prácticas para la oficina.

No, esto es una cosa seria. ¿Y a quién contrataron los australianos para hacer ese trabajo? A una de las big fours, a Deloitte Australia. Obviamente esto suele funcionar muy bien. Yo que vengo del sistema que he hecho mis años en grandes consultoras, sé que las cosas funcionan bien o no funcionan bien.

Depende mucho de quién esté ahí, pero acá no funciona. ¿Y qué pasó? ¿La factura? ¿Cuánto le cobró Deloitte al gobierno australiano? Pues 440 mil dólares australianos, que es aproximadamente unos 290 mil dólares estadounidenses. Si lo comparamos con proyectos que yo he conocido, que conozco y que vendrán y demás así, no es mucho dinero. Esta gente suele manejarse en los millones, megamillones de proyectos, pero esto de casi 300 mil dólares está bastante bien.

¿Podrías pensar que por ese precio te iban a entregar algo impecable? Y sí, porque este informe, si bien es de algo muy importante, parece que es bastante rutinario. El informe que tienen que dar, tienen que tener revisado varias veces, referencias chequeadas, citas verificadas, todo en orden. Vamos, que es una cosa que estas grandes empresas lo hacen todos los días.

Pero, spoiler, esto no fue lo que pasó. ¿Y qué pasó aquí? Bueno, acá aparece un nombre, que es un nombre Chris Narach, que es un investigador en la Universidad de Sidney, especializado en leyes de salud y bienestar social. O sea, que el tipo es un tipo de que de este tema sabe, sabe lo que se está hablando de este tema. ¿Y qué pasa? Resulta que Chris, en algún momento de julio del 2024, se pone a leer el informe de Deloitte que el departamento gubernamental había publicado en su sitio web.

Y ahí es cuando Chris se da cuenta de que algo, algo huele mal, algo no cuadra. ¿Por qué? Imaginemos, no, yo me lo imagino así, como que está leyendo tranquilamente, tomando su café o su té, porque no sé qué toman en Australia o peleando con un koala o acariciando a un koala en lugar de un gato. No sé cómo viven allá. Tengo que preguntarle a mi amigo Aaron, a mi amigo, a mi amiga Sara, René y demás.

Tengo muchos conocidos por ahí, pero no sé qué pasa. Pero cuando Chris estaba leyendo sus cosas, de repente ve una referencia a un libro escrito supuestamente por Lisa Burton Crawford. Lisa Burton Crawford, menudo nombre, me gusta. Que es una profesora de Derecho Público y Constitucional de la Universidad de Sydney. Y Chris dice, momento, momento, este libro con ese título, de esta profesora.

Porque resulta que el libro no solo no existía, sino que el título sugería que era sobre un tema totalmente fuera de la especialidad de la profesora. Es como si citara un libro mío sobre, no sé, ballet clásico ruso del siglo XIX. Yo sé un poco de programación, de Machine Learning y cosas por el estilo, pero de ballet clásico ruso del siglo XIX, de ese siglo en especial, no sé absolutamente nada. Y aquí Chris tuvo su momento de iluminación. Dijo, esto es una alucinación.