Ciberseguridad en tiempos de inteligencia artificial

Innovar con Bedebar, el podcast de Spytec, el parque científico y tecnológico de la Universidad Jaume I, con Juan Antonio Bertolín.

Bienvenidos y bienvenidas a esta nueva edición de Innovar con Bedebar, el podcast donde la innovación, la tecnología, se encuentra en una conversación distendida.

En esta ocasión nos encontramos en Spytec, en Spytec2, en el campus de la Universidad Jaume I. Normalmente desarrollamos estos podcasts en el restaurante Carceller, de aquí cerca, por eso lo de Innovar con Bedebar.

Y bueno, hoy hemos intentado darle un toque más cercano, o al menos más cercano a un mar, aunque nos faltan las cervezas. En esta undécima edición, ya llevamos 11, nos adentramos en uno de los retos más inquietantes de este presente digital, la ciberseguridad en tiempos de inteligencia artificial. Y además, pues en un escenario donde los ataques se sofistican y la frontera entre lo real y lo falso, pues se difumina. Aquí hay que preguntarse si estamos preparados y que no sólo es una cuestión técnica, sino estratégica, ética y empresarial.

La inteligencia artificial ya no sólo es una herramienta defensiva, también puede ser un arma y de hecho lo es en manos equivocadas, desde tanto deepfakes que simulan directrices de CEOs, hasta fraudes por voz sintética, ataques automatizados, entre otros. Y para comprender cómo nos afecta y qué podemos hacer, pues bueno, hoy tenemos tres invitados excepcionales a los cuales quiero agradecer, Julio José Moyano Fernández, profesor de la Universidad Jaume I, experto en análisis de investigación vinculado precisamente a retos como fraudes algorítmicos, criptografía, gobernanza digital, sobre todo desde la perspectiva de conmutación cuántica, que además ya participó en el segundo podcast de Innovar con Bedevar, hablando de conmutación cuántica, que fue muy interesante de hecho.

Noé Villar, CTO CISO de DQS, pues él de alguna manera ha profundizado en todos los ámbitos vinculados a soluciones técnicas de seguridad en la nube, redes y ciberdefensa. Y Juan Antonio Gil, de Entity Data, Ciberseguridad Technical Manager, que además su perspectiva va vinculado más a la legislación que estamos utilizando alrededor de este tipo de situaciones, pues ISO 27001, NIS, GPDR, además en sectores claves como banca o energía. De alguna manera esto de la inteligencia artificial dentro de la ciberseguridad ya es un nuevo campo, es un nuevo reto. ¿Cómo estáis viendo los ataques que se están produciendo con más frecuencia cuando la IA generativa forma parte de esta ecuación, de este binomio? Juan Antonio.

Bueno, un poco la introducción que hemos tenido y que nos han puesto un poco un panorama muy negro de todo lo que es el impacto que pueda tener la inteligencia artificial en los procesos y en las organizaciones. También quería lanzar un poco un hilo de esperanza, de que quizás no todo es malo en este caso. Precisamente se han comentado cuestiones como unas cuestiones que se preocupan, que preocupa mucho, como son los deepfakes.

Tenemos esas imágenes que genera la inteligencia artificial que son tan parecidas a la realidad, que lo hace casi indistinguible de la realidad, que parece casi una pregunta filosófica. Si algo es tan parecido a la realidad, que es casi como la realidad y no podemos distinguirlo de la realidad, entonces, ¿es real o no? Sería una cuestión casi filosófica entender si algo así es real o no. Quiero decir que al final todo esto también estamos percibiendo que está mejorando la concienciación de las personas.

Antes ya había ataques, el típico ataque del CISO, que se hacían un poco con la posibilidad de obtener fondos de una compañía haciéndose pasar por el CISO y eso se hacía antes. Es cierto que ahora se hace mucho mejor, pero al mismo tiempo también las organizaciones son más conscientes y están más alerta a la hora de hacer determinadas operaciones.

De alguna manera esto también balancea un poco el escenario. Por un lado, es cierto que tenemos ataques más sofisticados, tenemos ataques más importantes, pero por otro lado también es cierto que las organizaciones son más conscientes, introducen controles adicionales para evitar que se hagan ataques.