—Getty Images

Jack Clark, cofundador de Anthropic, salió en licencia de paternidad el pasado noviembre. Cuando regresó en febrero, se sorprendió al enterarse de que los colegas apenas escribían código. Manejó cinco o seis copias de la empresa AI, Claude, que a veces manejaban varios Claudes más.

Para Clark, esto parecía una forma temprana de algo que el campo ha anticipado y temido durante décadas: auto-mejoramiento recurrente, o el punto en el que AI comienza a acelerar su propio desarrollo. En primer lugar, el pensamiento va, los modelos hacen más rápido a los investigadores, pero a medida que cada mejora alimenta la siguiente, los modelos se apoderan más del ciclo de investigación. Los años de progreso se comprimen en meses, dejando a la sociedad con poco tiempo para absorber las consecuencias, desde la perturbación laboral hasta los patógenos diseñados. Tomado a su límite, AI podría mejorarse sin humanos, desencadenando un bucle de escape conocido desde hace mucho tiempo como una "exploración de inteligencia", donde las máquinas avanzan rápidamente más allá del entendimiento humano, y posiblemente más allá del control humano.

Clark creía que el mundo necesitaba enfrentar esta perspectiva. Puso una serie de publicaciones de blog sobre la auto-mejoración repetitiva y voló a casa a Inglaterra para dar una charla sobre el tema en mayo, luego dirigió un informe antropópico en junio titulado “Cuando AI lo construye”, argumentando que la tecnología ya está acelerando su desarrollo. El volumen de código producido por persona en Antrópico ha aumentado ocho veces, con Claude escribiendo 80%, el informe señala. “Estamos tratando de ayudar a fundamentar este concepto ahora... antes de que se convierta en algo politizado o de otro modo gana algún valence que hace difícil hablar de ello”, dice Clark.

Funcionó como Clark temía. “Antrópico está tratando de golpear el terror en los corazones de todos”, escribió Gary Marcus, escéptico de AI, agregando “todo lo que realmente han demostrado es una codificación más rápida”. Los escépticos señalan que el progreso tecnológico siempre se ha agravado. El aceite se utiliza para perforar aceite. ¿Por qué, en el caso de AI, la curva de repente se dobla hacia arriba? Para una empresa que apuesta por los continuos avances, argumentaron, la reclamación es claramente auto-servido.

Incluso Clark reconoce el volumen de codificación es un basurero. El código de Claude puede ser de larga duración. Pero el problema es más profundo. Ni Claude ni ningún modelo de lenguaje grande está escrito en código. Los investigadores fijan condiciones de crecimiento -decir el tamaño y la forma de una red neuronal, luego verter el valor de un texto de Internet a través de él, permitiendo que se ajuste mil millones de veces hasta que surjan habilidades para responder preguntas, escribir código y mantener una conversación. Se cultivan, la forma en que uno crece una planta al tender el suelo y la luz sin decidir dónde irá una sola hoja.

Por lo tanto, el progreso depende del juicio y el error. Si Claude pudiera asumir ese ciclo, diseñar, correr y analizar experimentos, progresaría gradualmente... o de repente explotaría? Y si lo hiciera, ¿alguien podría bombear los frenos? La verdad incómoda es que la gente que construye la tecnología está casi tanto en la oscuridad como todos los demás.

Claude comenzó a vencer los puntos de referencia

El cambio que Clark había entrado no era totalmente inesperado. El cofundador antropópico y el oficial jefe de ciencias, Jared Kaplan, temía mucho tiempo que la IA acelerara la investigación, tal vez superando los esfuerzos de seguridad. A comienzos de 2025, aplicó una advertencia en la política de escalamiento responsable de la empresa, su plan para gestionar los peligros crecientes de AI. En aquel entonces, Claude no era bueno en hacer experimentos. Pero creía que eso cambiaría un día, y Antrópico tendría que estar listo.

Para saber si ese día iba a llegar, Antropópico construyó una serie de pruebas que tomarían horas humanas de expertos. ¿Podría Claude entrenar un modelo AI más pequeño desde cero? ¿Podría programar un perro robot virtual? Ninguna medida lo resolvería, pero juntos ofrecieron una instantánea.

En una prueba, Claude tuvo que reescribir un pedazo de código para usar GPUs, los chips para entrenar AI, más eficientemente. En primavera, momentáneamente los hizo correr siete veces más rápido, y luego rompió el código. En verano, un nuevo Claude empujó la misma velocidad de siete veces más rápido a 73 sin introducir errores. “Empezamos a ver estas tareas caer”, dice Daniel Freeman, miembro del equipo rojo fronterizo de Anthropic que diseñó las evaluaciones.

Mientras Claude comenzó a completar estas tareas demasiado fiable para revelar mucho, Freeman preparó una prueba más cercana a la mesura del mundo real. Dos equipos humanos compitieron en una serie de desafíos, con un perro robótico y una pelota de playa. Un equipo podría usar a Claude, el otro no. Después de perder el primer desafío, el equipo que utiliza Claude terminó el segundo casi dos horas por delante. Con el tiempo de sobra, trotaron a su perro robótico alrededor del almacén, hasta que un mal cálculo lo envió a brotar hacia el otro equipo, todavía acurrucado sobre sus laptops. Un supervisor lo atrapó justo a tiempo.

La publicación de noviembre de Claude Opus 4.5 fue un punto de inflexión. Cuando las generaciones anteriores tendían a detenerse en el camino, el modelo podría llevar el experimento de un investigador hasta el final, liberando a correr más a la vez. "Antes, tendría ocho ideas y probaría una de ellas", dijo Kaplan a TIEMPO en febrero. "Ahora le pido a Claude que pruebe los ocho".

Antes de una liberación de febrero, Antropopic encuesta a 16 de sus investigadores, preguntando si podría sustituir a un colega de nivel de entrada. Cinco pensaron que podría. Preguntado para reflexionar sobre su respuesta, los cinco retrocedieron. Que incluso entretuvieron la idea —que ya eran en gran medida redundantes— es quizás más reveladora que cualquier punto de referencia.

Si las pruebas de Antrópico cayeron, las medidas externas también han alcanzado su límite. El gráfico METR, tal vez la medida independiente más conocida de la capacidad de ingeniería de software AI, rastrea la complejidad de los modelos de tareas puede completarse basándose en cuánto tiempo tomarían a un experto humano. Pero en mayo, Claude superó el límite superior del parámetro.

Esta primavera, Antrópico dejó salir a los perros robot otra vez, pero esta vez, un Claude mejorado funcionó solo. En cada tarea que podría intentar, era al menos 10 veces más rápido que los humanos asistidos por Claude habían sido meses antes. Los investigadores vieron el mismo patrón que habían encontrado en ciberseguridad. Primera AI ayuda a los humanos a hacerlo mejor; luego, en gran medida, se hace cargo.

Jack Clark habla durante el Foro Hill & Valley en el Auditorio del Centro de Visitantes del Capitolio en Washington, DC, el 30 de abril de 2025. —Brendan Smialowski—AFP/Getty Images

¿Cuánto más rápido irá?

En la primavera de 2025, un exfuncionario de OpenAI llamado Daniel Kokotajlo coautorizó “AI 2027”, un documento en algún lugar entre la previsión y la ciencia ficción, que establece cuatrimestralmente cómo podría terminar la auto-mejoración recursiva no comprobada.

Primero, los agentes de codificación de IA comienzan a acelerar el progreso. Para 2027, los investigadores miran sus consolas mientras AI se construye. Pronto excede la inteligencia humana a través de la junta directiva. Para 2030, si tenemos suerte, todos viven en abundancia material bajo el pulgar de aquellos que controlan una IA todopoderosa. Si somos desafortunados, todos morimos.

“Solíamos ser los predictores más agresivos y bullish”, dice Kokotajlo a TIEMPO. Pero recientemente, dice que la gente —incluidos algunos que trabajan en compañías de inteligencia artificial— ha llegado a la conclusión privada de que su línea temporal es demasiado conservadora. Es muy inquietante, dice.

A medida que la industria se esfuerza por construir AI, se ha abierto un debate sobre lo que eso hará al ritmo del progreso. Muchos en Silicon Valley —como Kokotajlo— temen el progreso de AI está a punto de acelerar violentamente. Otros creen que los cuellos de botella, como la escasa potencia de cálculo y los datos, impedirán un despegue explosivo. Curiosamente, las medidas necesarias para saber qué lado es correcto aún no existen.

Arvind Narayanan es escéptico que el auto-mejoramiento recurrente conducirá un progreso tan feroz. Un científico informático de Princeton, coautorizó un informe titulado “AI as Normal Technology”, que se ha convertido en la refutación estándar de “AI 2027”, argumentando que el impacto de AI difería a través de la economía durante décadas, similar a la Revolución Industrial.

En julio, Narayanan ayudó a probar la capacidad de Claude para investigar preguntas de investigación abiertas, en lugar de puntos de referencia estrechos. Dados seis días y miles de dólares de computación, podría manejar de forma fiable toda la ingeniería para configurar los experimentos, sin embargo no hizo avances sustanciales en la cuestión de investigación general. A menudo se metió en extremos muertos y luchó para retroceder, mostró pobre juicio, y a veces se alejaba de la meta.

Él espera que la capacidad de AI para adquirir nuevas habilidades para ser hamstrung por ejemplos que puede aprender. En ese sentido, la industria de AI tuvo suerte con el lenguaje y la codificación, ya que todo el Internet es un potencial conjunto de entrenamiento. Pero muchos de los datos necesarios, por ejemplo, para curar el cáncer pueden necesitar ser recogidos, a través de experimentos que consumen mucho tiempo en el mundo físico. “No creo que IA vuelva a obviar mágicamente esos cuellos de botella”, dice.

Incluso si AI pudiera hacer todo lo que los humanos pueden, no se multiplicarían los chips en los que ejecutan sus experimentos. Según una estimación, los laboratorios ya utilizan más energía informática en experimentos que cualquier otra cosa. Mil investigadores virtuales todavía compartirían la misma oferta finita. “Desafortunadamente estamos en una constante crujiente de computación”, dijo Jakub Pachocki, científico jefe de OpenAI en abril. Las solicitudes de los investigadores para chips, dijo, se cortan rutinariamente “por una cantidad sustancial, y todo el mundo es muy infeliz con nosotros todo el tiempo”.

Antrópico, estimado para tener menos computación que OpenAI, afirma no sentir esto como el límite de unión. “Todos los laboratorios quieren más computación todo el tiempo”, dice Clark, pero “las limitaciones son más organizativas que los recursos impulsados hoy”, añade.

Si el progreso continúa tan rápido como lo permiten los datos y los chips, no se movería lentamente. Las compañías de AI contratan expertos para convertir su trabajo en datos de capacitación, mientras que el suministro global de computadoras se duplica aproximadamente cada siete meses. Al ritmo actual, los equipos de seguridad de Anthropic ya sienten la presión.

Cuando Dave Orr, el jefe de salvaguardias de Anthropic, habló con el TIEMPO en febrero, estaba desarrollando "probes", instrumentos que se interponen dentro de la red neuronal de Claude, lugar cuando está "pensando" sobre algo dañino, como escribir código malicioso, y lo cortan a mitad de camino. La buena noticia, dijo, es que Claude acelera el desarrollo de tales salvaguardias.

"Pero no lo sé, hombre. Todavía no se siente muy seguro", dijo. "Siento que nuestro margen de error es cada vez más pequeño con el tiempo. Porque conducimos por un camino de precipicio. Un error te matará. Y ahora conducimos a 75 en lugar de 25".

El resto de nosotros enfrentamos una versión de este margen de reducción. AI aprendió a producir imágenes convincentes, por ejemplo, antes de que los legisladores hubieran trabajado para abordar el fraude, el acoso y la manipulación política que perm…