Anthropic, una de las empresas que lideran la carrera mundial de la inteligencia artificial (IA) junto a OpenAI, Google y Meta, acaba de sugerir una pausa en el desarrollo global, una petición que dispara las alarmas en la industria. El problema ya no es solo qué pueden hacer los modelos, sino qué pueden llegar a construir por sí mismos sin intervención humana.
Según apunta en una publicación, la automejora aún no se ha producido y no es inevitable, «pero podría llegar antes de lo que la mayoría de las instituciones están preparadas». La compañía creadora de Claude sostiene que la IA empieza a intervenir de forma creciente en el propio desarrollo de nuevos sistemas, una dinámica que, llevada al extremo, podría desembocar en la llamada “automejora recursiva”.
La alarma no nace de una hipótesis lejana, sino de datos internos que Anthropic ha decidido hacer públicos. Según la empresa, más del 80% del código incorporado a su base de desarollo es escrito por Claude, cuando hace un año esa cifra no llegaba al 10%. Es decir, la IA ya funciona como una pieza activa dentro de la maquinaria que crea IA más potente.
Una pausa temporal
La petición de Anthropic no es detener toda la inteligencia artificial, sino frenar o pausar temporalmente el desarrollo de los sistemas. La compañía insiste en que una pausa unilateral no serviría de mucho, y por eso propone un mecanismo global, verificable y pactado entre laboratorios bien financiados de distintos países.
El punto crítico está en la verificación. Anthropic plantea que cualquier pausa creíble tendría que definir quién supervisa, cómo se comprueba que todos cumplen y bajo qué condiciones se levanta. La advertencia llega, además, después de meses de inquietud por las capacidades cibernéticas de sus modelos.
Mythos, un sistema de Anthropic especializado en ciberseguridad, detectó vulnerabilidades graves y críticas en software y sistemas informáticos, lo que llevó a la compañía a restringir su acceso a un grupo limitado. Sin ir más lejos, el Gobierno de España ha logrado su inclusión en el ‘Proyecto Glasswing’ para el testeo del modelo, entre 150 nuevas organizaciones con sede en más de 15 países.
El dilema es que la misma herramienta que puede ayudar a encontrar fallos antes que los atacantes también puede convertirse, si cae en malas manos o se replica, en un acelerador de amenazas. La llamada a frenar también tiene una lectura empresarial. Anthropic compite en un mercado donde la velocidad se ha convertido en argumento de inversión, ventaja comercial y poder geopolítico; y, por tanto, una pausa aislada podría castigar al actor más prudente.
