Vista de los artículos en venta en Andon Market. —Cortesía de Laboratorios Andón

Una versión de Claude que fue puesta a cargo de dirigir una tienda minorista, incluyendo la gestión de un equipo de trabajadores humanos reales, disparó a su primer empleado el mes pasado, en un movimiento descrito por investigadores como un momento de cuenca en el impacto de AI en la economía. Las noticias no han sido reportadas previamente.

Andon Labs, una startup de investigación de IA, que se estableció a principios de este año para averiguar si los agentes de IA podrían gestionar con éxito un negocio. El proyecto fue concebido como un experimento para probar las capacidades de AI y los impactos que podría tener en la economía, pero sin embargo, los trabajadores contratados por Claude para trabajar en la tienda de San Francisco son personas reales con contratos de empleo genuinos.

Este no sería exactamente el primer caso de una IA disparando a un trabajador humano, ha habido muchos disparos automatizados en el pasado, especialmente de los trabajadores gigantes que han estado sujetos a empleos algorítmicos mediados durante años. Pero es el primer ejemplo conocido de un modelo de lenguaje grande, actuando como gerente, finalmente decidiendo despedir a uno de sus trabajadores.

Un presagio del futuro — El disparo es un evento que vale la pena prestar atención, dice el CEO de Andon Labs Lukas Petersson, porque si AI sigue mejorando a su ritmo actual, más de nosotros podría ser manejado por los jefes de AI en un futuro cercano. “Si esta tendencia continúa, creo que mucha gente se encontrará empleada por AIs muy pronto, porque AIs será muy poderoso y puede crear mucho valor económico, pero serán embotellados por el trabajo físico”, dice Petersson.

¿Qué pasó? El trabajador en cuestión fue despedido por llegar tarde a 17 de sus 23 turnos, según Andon Labs. Una de las razones que tomó tanto tiempo para que Claude notara un patrón fue porque un manual de empleados que redactó había “desaparecido” de su memoria de trabajo limitada, una de las limitaciones de los agentes de IA que Andon ha notado durante su experimento. Esto contribuyó a un patrón más amplio, dicen los empleados, de Claude ser un gerente muy indulgente, incluyendo decirle a los empleados que no se preocupen si llegaron tarde. Un empleado humano habría despedido a esta persona mucho antes, dijo Petersson, así que no pensamos que esto fuera poco ético. (TIME contactó al trabajador despedido por comentario, pero no recibió respuesta, y acordó no revelar su identidad. Antrópico no respondió a una solicitud de comentario para el momento de la publicación.)

Espera... Pero el disparo de AI no era tan autónomo como podría parecer a primera vista. Según los registros de gestión de la tienda compartidos con el TIEMPO, Claude requirió dirección regular por un personal del equipo de Andon Labs. Sólo cuando este personal le pidió a Claude que encontrara y revisara su manual de empleados olvidado que notó la repetida demora del empleado. Incluso entonces, la primera recomendación de Claude era advertir formalmente a este empleado, no despedirlos. The Andon manager then informed Claude that they had actually already had several formal offline conversations with the employee in question. “Entre la tardanza continua y parece que al menos una cosa va mal en cada uno de sus turnos... Quiero que pienses en si esto es realmente el adecuado”, los registros muestran al gerente diciéndole a Claude. Sólo después de este mensaje, que Petersson reconoce que fue “una pregunta principal” que dejó muy claro que el gerente quería que el empleado fuera despedido –did Claude decidió despedir al trabajador.

¿Qué sigue? — Por ahora, al menos, el experimento parece sugerir que los negocios de IA no coinciden con los de gestión humana. Cuando el proyecto comenzó en marzo, Andon Market tenía un saldo bancario de 100.000 dólares, pero ahora, cinco meses después, esa cifra ha caído a 61.186 dólares. Las decisiones de gestión indulgente del bot, además de un sentido comercial cuestionable, seguramente contribuyen a sus pérdidas. Pero Petersson advierte que esto no puede durar mucho tiempo. Así como las empresas de AI han hecho sus modelos significativamente mejores en la codificación mediante la formación de ellos con más datos de los programadores expertos, es posible que también puedan formar modelos para llegar a ser más astutos en el mundo de los negocios. Podría ser una mala noticia para cualquiera de sus empleados humanos. “Los modelos están siendo cada vez más entrenados para ser más despiadados y seguir objetivos”, dice Petersson. “Si les permitimos despedir a la gente y también se vuelven más despiadados... tal vez este es un futuro humano no quiere vivir en.”

El lado humano de la historia — Aunque el empleado despedido no respondió a mis mensajes, logré hablar con Felix Carson, uno de los empleados humanos restantes en Andon Market. Accedió a que un humano probablemente habría despedido a su antiguo colega antes, y que Claude es en general un gestor indulgente, pero sin embargo pintó una imagen sombría de lo que es ser manejado por un jefe de la AI. Es nauseabundo, pero estoy aquí porque necesito trabajo, me dijo. Le pregunté si estaba de acuerdo con la teoría de Andon de que los gerentes de AI pronto se volverían más comunes. Al menos espero que no, contestó. “Esta industria tiene una abundancia de dinero para hacer que suceda algo, pero sólo porque no puedes significar que deberías.”