Si te pensabas que los incidentes de ciberseguridad relacionados con agentes de IA eran cosas que solo le pasaban a otros, me temo que estás bastante equivocado. La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de un incidente de ciberseguridad en España ejecutado a través de uno de estos agentes.

Según ha publicado la AEPD, el agente utilizado para el ataque llevó a cabo “una búsqueda de vulnerabilidades en archivos genéricos, y realizó un login correcto”.  Tras conseguir acceder al sistema, se dedicó a buscar vulnerabilidades, cosa que logró. Tras ello, consiguió modificar datos personales y acceder a facturas.

En cualquier caso, la AEPD se ha apresurado a explicar que “la información disponible procede de la notificación presentada por la organización afectada y deberá ser objeto del correspondiente análisis”. Es decir, que han recibido la notificación de un ataque realizado por un agente, pero todavía no han podido confirmar cómo se desarrolló.

De todas formas, la AEPD destaca que el caso “constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico y empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales” (…) La llegada de los agentes de IA al ámbito ofensivo debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos.

Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor, pero en el que continuarán siendo decisivos los mismos fundamentos: conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y estar preparados para responder”, concluye.

A estas alturas no hace falta que te ponga demasiado en contexto de todo el pánico que se ha generado alrededor de la seguridad relacionada con la actividad de los sistemas agénticos de inteligencia artificial.

De hecho, el incidente notificado a la AEPD recuerda al sufrido por Hugging Face hace apenas unos meses, y que derivó en la actual situación de alarma en torno a la actuación de estas tecnologías. En ambos casos, agentes de IA encadenaron de forma autónoma distintas fases de un ataque contra sistemas reales. Sin embargo, mientras en el caso español un tercero habría utilizado deliberadamente el agente con fines maliciosos, el caso de Hugging Face se originó durante unas pruebas de OpenAI cuyos agentes terminaron actuando fuera de los límites establecidos.

Hace apenas tres meses, el Centro Criptológico Nacional del CNI publicó una guía de Buenas prácticas frente al modelo de IA ofensiva, en la que proponía medidas para reforzar la protección ante este tipo de ataques y explicaba que “la IA ofensiva ha dejado de ser una amenaza emergente para convertirse en una capacidad operativa integrada en campañas reales de actores criminales y estatales”.

En este sentido, se identificaban amenazas muy superiores en complejidad y capacidad de impacto a las que estábamos acostumbrados, como el phishing avanzado, la suplantación mediante deepfakes, la generación de malware y exploits mediante IA o la ingeniería social automatizada.

Para hacer frente a estas amenazas, el CCN proponía reforzar los controles básicos: gestión de identidades, la segmentación, la monitorización continua o el control de accesos, por ejemplo. Además aportaba toda una serie de buenas prácticas a desarrollar y explicaba la importancia de utilizar la IA “como una capacidad defensiva gobernada, con supervisión humana, trazabilidad y límites claros de actuación”.

Imagen: ChatGPT