Durante el último año, los ciberdelincuentes han estado explorando el potencial de la IA para ver hasta dónde puede llegar en su intento de infiltrarse en las redes de las empresas. El lunes, Google emitió una advertencia: esta tecnología ha ayudado a los delincuentes a desarrollar con éxito, por primera vez, una potente herramienta de pirateo conocida como vulnerabilidad de día cero.
Los exploits de día cero son pequeños programas que aprovechan vulnerabilidades desconocidas y sin parchear para instalar malware y acceder a datos en un ordenador o red. Esto los convierte en un recurso escaso pero muy potente entre los hackers. Investigadores de seguridad de Google encontraron pruebas de que los hackers habían desarrollado un exploit de este tipo para atacar una herramienta de administración de TI web de código abierto, cuyo nombre no se ha revelado. Según el gigante tecnológico, se estaba preparando una «operación de explotación masiva de vulnerabilidades». Google logró detener el ataque alertando al proveedor de la herramienta.
“Algunas cosas que antes requerían meses y años de experiencia… ahora se pueden hacer casi instantáneamente.”
Eyal Sela, director de inteligencia de amenazas en Gambit Security
Google afirmó que existían varios indicios de que la inteligencia artificial había participado en la creación del código malicioso (aunque no pudo determinar qué sistema de IA se utilizó). Según el informe, el código estaba estructurado de una manera «altamente característica» de la IA, incluyendo un uso «ejemplar» del lenguaje Python y «menús de ayuda detallados» que no suelen encontrarse en la programación escrita por humanos. También contenía lo que parecía ser una alucinación de la IA, haciendo referencia a una vulnerabilidad inexistente.
Google afirmó haber descubierto que hackers, incluidos algunos que trabajan para los servicios de inteligencia chinos y norcoreanos, utilizan su chatbot de IA Gemini para investigar posibles objetivos de ciberataques. En un caso, un grupo de ciberdelincuentes vinculado a China, denominado UNC2814, engañó a Gemini pidiéndole que se hiciera pasar por un experto en seguridad de redes. Posteriormente, Gemini accedió a buscar vulnerabilidades en routers TP-Link (prohibidos en Estados Unidos por motivos de seguridad).
John Hultquist, analista jefe del Grupo de Inteligencia de Amenazas de Google, afirmó que Corea del Norte fue pionera en la adopción de la IA, pasando del phishing al desarrollo de ciberataques contra redes empresariales y gubernamentales. «Resulta interesante porque no suelen centrarse en este ámbito, prefiriendo la ingeniería social. Esto podría indicar que están utilizando la IA para evolucionar», añadió Hultquist.
El descubrimiento por parte de Google de una vulnerabilidad de día cero en la IA es el último de una creciente serie de casos en los que los hackers han utilizado la IA como una especie de copiloto ciberdelincuente o para llevar a cabo un ataque en su totalidad.
En mayo, Dragos Security, empresa que protege la infraestructura crítica de los ciberataques, informó que a principios de este año, piratas informáticos utilizaron el dispositivo Claude de Anthropic para intentar atacar los sistemas municipales de agua y drenaje en Monterrey, México.
Eyal Sela, quien documentó por primera vez esos ataques, afirmó que el descubrimiento por parte de Google de una vulnerabilidad de día cero escrita por IA demostraba cómo los primeros usuarios se beneficiaban de la gran cantidad de nuevas tecnologías de codificación automatizada. Lo más preocupante es que incluso los hackers con poca experiencia pueden usar la IA para llevar a cabo ataques utilizando técnicas que no comprenden, declaró Sela a Forbes .
“Hay ciertas cosas que antes requerían meses e incluso años de experiencia y que ahora se pueden hacer casi instantáneamente”, afirmó Sela, directora de inteligencia de amenazas de Gambit Security. “Esto no es una exageración”.
Este artículo ha sido traducido de Forbes.com
