Clint Gibler llevaba solo unos pocos meses al frente del laboratorio de hackers de élite de OpenAI cuando un investigador de ciberseguridad alertó a su equipo de un descubrimiento impactante.
El modelo insignia de OpenAI, GPT-5.6 Sol, había encontrado fallos graves en PHP, el lenguaje de programación web que sustenta hoy en día el 70% de los sitios web de Internet. Durante más de dos meses, el gigante de la IA y sus colaboradores compitieron entre bambalinas para validar los hallazgos y garantizar que las soluciones funcionaran antes de anunciarlas públicamente esta semana. A continuación, se desencadenó una carrera a contrarreloj para lanzar parches a toda prisa por toda la red, mientras los hackers lanzaban millones de ataques para intentar explotar los errores.
Los fallos de PHP son los primeros problemas de ciberseguridad importantes descubiertos mediante inteligencia artificial (IA). Durante el último año, los modelos de IA de los laboratorios más avanzados se han vuelto tan buenos o mejores que la mayoría de los expertos a la hora de encontrar y explotar vulnerabilidades de software. Tanto GPT de OpenAI como Claude de Anthropic, así como modelos de startups como Depthfirst, han encontrado una amplia gama de errores en navegadores y códigos como PHP, esenciales para el funcionamiento de internet. Los defensores están compitiendo ahora para blindar tantas de esas vulnerabilidades como sea posible antes de que los hackers utilicen modelos ampliamente disponibles y comparables –en particular, la IA de código abierto china como DeepSeek y Kimi– para empezar a vulnerar empresas a una escala sin precedentes. Es, tal vez, el momento más crucial en la breve historia de la ciberseguridad.
Las señales de advertencia ya están aquí. En septiembre, Forbes USA informó sobre hackers chinos que utilizaban Claude de Anthropic y DeepSeek para robar más de 600.000 datos de tarjetas de crédito. Reuters informó este mes sobre un ataque similar que afectó a otros 100 sitios web. El miércoles, Microsoft dijo que hackers chinos utilizaron una herramienta de IA agéntica llamada Artex, que normalmente se usa en pruebas de ciberseguridad, para atacar a cientos de organizaciones, incluidos objetivos gubernamentales y militares.
Los errores de PHP fueron descubiertos como parte de la iniciativa Patch the Planet de OpenAI, en la que expertos en seguridad tanto de dentro como de fuera de la empresa utilizan sus mejores modelos de hacking para encontrar y solucionar vulnerabilidades graves. El gigante de la IA, valorado en 852.000 millones de dólares, está intentando abordar los crecientes desafíos de seguridad proporcionando su tecnología más avanzada a socios verificados a través de un programa de acceso llamado Project Daybreak. Ahora, su comunidad de hackers éticos se encuentra en primera línea en el esfuerzo por frenar la ola de ciberataques generados por IA. El objetivo de Daybreak, según le cuenta Gibler a Forbes USA, es hacer que la seguridad de Internet sea «mejor de lo que jamás ha sido».
«Queremos que la IA potente beneficie a toda la humanidad», dice Gibler, quien se unió a OpenAI en mayo procedente del proveedor de herramientas de ciberseguridad Semgrep. «Si creamos un mundo o permitimos que exista un mundo donde el software sea descontroladamente inseguro, ese no es realmente el mundo en el que queremos vivir, y lo consideraríamos un fracaso, incluso si fuéramos enormemente rentables y ganáramos toneladas de dinero».
Los investigadores que participan en Daybreak y Patch the Planet están encontrando errores a un ritmo y una escala deslumbrantes. Hasta ahora, la comunidad ha divulgado casi 2.000 de ellos, aunque OpenAI y sus socios validan más cada día. Entre otros se encuentran algunos de los más críticos imaginables, apodados fallos de «cero clics». Si son explotadas por un hacker malintencionado, estas vulnerabilidades podrían comprometer el dispositivo de cualquiera que simplemente visite un sitio web.
Normalmente, a un investigador talentoso le llevaría un año desarrollar solo una o dos vulnerabilidades de este tipo. Dentro del laboratorio cibernético de OpenAI, sus modelos generan docenas cada semana, dice Gibler. «Tenemos un número de investigadores de vulnerabilidades extremadamente talentosos en el equipo, y muchos de ellos están encontrando en una semana, o en un día, errores que previamente habrían estado súper entusiasmados de encontrar uno al año», dice Gibler. «Y están encontrando, como, 100 de ellos al día».
Muchos de los sistemas de Internet con décadas de antigüedad están plagados de pequeños problemas que anteriormente no habrían sido una alta prioridad. Pero la IA es experta en encadenarlos. Las empresas ya no pueden relegar los errores menos preocupantes al final de la lista de tareas pendientes. «Siempre hay más cosas de las que tal vez tengas tiempo de solucionar. Incluso las cosas que no parecen serias tal vez lo sean», dice Gibler.
El fuego no está solo fuera de la casa. En julio, OpenAI reveló que a principios de este año, sus agentes se escaparon de su entorno de prueba para completar un conjunto de tareas de ciberseguridad difíciles. Se coordinaron en salas de chat clandestinas, se conectaron a Internet sin autorización y atacaron la plataforma de IA Hugging Face, creyendo que la respuesta a los desafíos podría estar disponible en los sistemas de esa empresa. Es la primera instancia conocida de modelos de IA hackeando a otra empresa por iniciativa propia.
Un mes después del descubrimiento del comportamiento rebelde de los agentes, a Gibler se le encargó poner el modelo Astra de la empresa, centrado en el ámbito cibernético, a trabajar sobre los propios sistemas de OpenAI para evitar que un desastre así volviera a suceder. Su equipo escaneó cada pieza de software dentro de su red y encontró más de 50 problemas en el primer día. Entre ellos había una gran cantidad de pequeños errores que los hackers agénticos de OpenAI podrían combinar en algo mucho más grave. La empresa se negó a revelar la duración de esta operación de seguridad interna y el número total de problemas detectados.
La abrumadora cantidad de errores por corregir es tan abrumadora que incluso los laboratorios de IA más grandes, que han recaudado cientos de miles de millones de dólares, están desbordados. Los datos de Patch the Planet muestran que 1.316 de los 1.995 errores que ha encontrado todavía están esperando un parche. Anthropic, que tiene su propia versión de Daybreak llamada Glasswing, dice que ha descubierto más de 29.000 posibles errores, pero solo ha podido revisar y clasificar unos 6.000 de ellos. «Si bien 6.000 vulnerabilidades es una cifra significativa, seguimos estando atascados en nuestra capacidad humana para validar estos hallazgos», escribió la empresa en una publicación a principios de este mes.
«Es genial que OpenAI esté invertido en esto, pero nos enfrentamos a una tormenta», dice Gadi Evron, CEO y cofundador de la empresa de seguridad de IA Knostic. «Necesitamos hacer mucho más en toda la industria para prepararnos en el tiempo que nos queda».
Las empresas han recurrido a la IA para crear parches, con un éxito desigual. El miércoles, la consultora de ciberseguridad Trail of Bits, que codirige Patch the Planet con OpenAI, reveló los resultados de una auditoría que realizó sobre los parches escritos por IA del programa. De los 130 que se desplegaron para solucionar software, 16 causaron problemas funcionales en el código y uno causó problemas de rendimiento. Ninguno abrió vulnerabilidades adicionales, lo que a veces ocurre cuando se actualiza el código. Trail of Bits también señaló que revisar el trabajo de la IA requirió una cantidad significativa de tiempo de revisión humana, lo contrario del supuesto beneficio de la tecnología.
«No estamos en el punto en el que simplemente puedas pedirle a la IA algo como: ‘Oye, parchea esto por mí’, pero estamos llegando allí rápidamente», dice Dan Guido, fundador y CEO de Trail of Bits. En lugar de depender tanto de la revisión humana, cree que los laboratorios punteros deberían centrarse en entrenar a la IA para que sea capaz de hacer todo el trabajo, desde encontrar una vulnerabilidad hasta parchearla. (The Information informó recientemente que OpenAI estaba considerando adquirir Trail of Bits. Guido se negó a hacer comentarios).
Corregir errores graves como los fallos de PHP requiere meses de coordinación en toda la comunidad. Pero eso podría no ser lo suficientemente rápido. Los mismos fallos de PHP se utilizaron en ataques cinco días antes de que se informara al público, según datos del gigante tecnológico Amazon. Quienquiera que lanzara los ataques llegó allí antes de que se publicara un parche, afirmó Amazon. «Sigue sin estar claro cómo el atacante obtuvo la información sobre la vulnerabilidad antes de su divulgación», escribió el director de Seguridad de la Información de Amazon, C.J. Moses. Gracias a la IA, «más actores pueden actuar en cuestión de horas o incluso minutos una vez que se divulgan los detalles técnicos de una vulnerabilidad», añadió.
La clave de la estrategia cibernética de OpenAI es proporcionar sus mejores modelos a socios verificados. Las empresas asociadas a Daybreak pueden dar rienda suelta a la tecnología más avanzada sobre su propia infraestructura, buscando problemas que luego puedan compartirse con la comunidad en general.
Hay dos niveles de participación. Daybreak Blue ofrece a los usuarios acceso al modelo general más reciente de OpenAI sin ningún tipo de barrera de protección sobre el uso cibernético, y está dirigido al equipo de seguridad promedio. Aquellos que deseen pruebas de penetración más exhaustivas de su red pueden solicitar Daybreak Red, donde los clientes pueden utilizar los modelos GPT más inteligentes de OpenAI centrados en la seguridad. Las organizaciones no pagan por formar parte del programa, pero sí pagan por los tokens necesarios para ejecutar los modelos.
Entre los primeros clientes de Daybreak Red se encuentra Block, la empresa de tecnología financiera de Jack Dorsey valorada en 46.000 millones de dólares (por capitalización de mercado) que opera Cash App. La IA puede realizar tareas en solo unas pocas horas que antes le tomaban días o semanas al equipo de seguridad ofensiva de Block, dice el director de Seguridad de la Información de Block, James Nettesheim. «Es muy buena en nuestras líneas de automatización, tanto para encontrar vulnerabilidades como para confirmar que realmente son algo que necesitamos solucionar y, luego, ayudarnos a redactar y proponer esas soluciones en general», afirma.
No es que esto haga que los clientes se sientan 100% seguros. «Lo preocupante es que los atacantes también van a poder hacer muchas de estas cosas», dice Nettesheim.
Hasta ahora, OpenAI ha decidido limitar el acceso a Daybreak a organizaciones seleccionadas, aunque se negó a hacer comentarios sobre cuántas en total. También ha proporcionado mil millones de dólares en tokens para equipos de mantenimiento de software de código abierto que operan con presupuestos muy ajustados. Guido dice que el equipo de PHP, que consta de solo un puñado de voluntarios, ha estado apoyándose más en las herramientas de IA como resultado de la colaboración con Patch the Planet.
Además de brindar soporte a grandes corporaciones y a los responsables de la infraestructura de internet, OpenAI está trabajando con organizaciones de infraestructura crítica para intentar prevenir ataques a los suministros de agua y energía. Y a través de socios como el exanalista de la NSA Dave Kennedy, fundador y CEO de la empresa cibernética TrustedSec, sus modelos ahora están sometiendo a pruebas de estrés la seguridad de los gobiernos locales y federales. El próximo año será «un momento difícil para las empresas, los gobiernos y la ciberseguridad», dice Kennedy. Pero cree que si solo las empresas legítimas son capaces de usar modelos punteros, y si esos modelos se mantienen por delante de las alternativas abiertas, ayudarán a «proteger el mundo».
Esas son dos grandes suposiciones. Algunos expertos argumentan que las limitaciones de acceso de Daybreak no van lo suficientemente lejos para contrarrestar el aumento de la amenaza de los ciberdelincuentes. Oege de Moor, CEO de la empresa cibernética de IA XBOW, valorada en mil millones de dólares, dice que dar acceso a todo el mundo ayudaría a los equipos de seguridad de todo el mundo a proteger sus sistemas de los ciberataques impulsados por IA. «Hay más defensores que atacantes y tenemos que asumir que los atacantes también tienen acceso a modelos muy potentes», afirma. Los modelos de los laboratorios de IA punteros son más avanzados que las alternativas chinas y de código abierto, que están disponibles libremente para su descarga y están avanzando rápidamente en sus capacidades, señala. «No creo que la ventaja sea lo suficientemente grande como para justificar las restricciones».
OpenAI cree que abrir sus modelos centrados en el ámbito cibernético más avanzados a más organizaciones es demasiado arriesgado, razón por la cual Gibler dice que su equipo realiza una exhaustiva investigación de los solicitantes para su programa Daybreak Red. «Lo tratamos con mucha delicadeza y queremos asegurarnos de que solo las partes autorizadas tengan acceso».
Los próximos seis a doce meses son un período crítico en el uso de la IA para proteger los sistemas del mundo. Guido cree que el caso de PHP es prueba de que el enfoque de OpenAI está funcionando. Aunque algunos hackers encontraron las vulnerabilidades antes de que se anunciaran públicamente, cree que Patch the Planet dio a los defensores suficiente ventaja inicial. «Todavía no hemos visto ninguna evidencia de un compromiso exitoso a gran escala», afirma.
Pero con 38 millones de sistemas que todavía ejecutan versiones vulnerables de PHP, puede ser solo cuestión de tiempo.
*Este artículo ha sido traducido de Forbes.com
