Antrópico ha añadido una prohibición de "abusivo o cruel comportamiento sostenido e innecesario hacia nuestros modelos" a su política de uso, informó el jueves AFP. La página de política enumera una fecha efectiva del 12 de noviembre de 2026 - por lo que tiene alrededor de un mes para abusar de ella como un hijastro pelirroja.

La ruptura dependerá de Claude mismo, que "se mantendrá como mecanismo primario de ejecución". Antrópico dijo el año pasado que le estaba dando a Claude la capacidad de poner fin a las conversaciones en "casos graves y extremos" de interacciones de usuarios persistentemente dañinas o abusivas. No respondió inmediatamente a la solicitud de comentarios de AFP sobre el nuevo idioma.

La política no cita explícitamente "bienestar modelo", la idea de que los sistemas AI podrían merecer protecciones generalmente reservadas para los seres vivos, señaló AFP, pero Antrópico y sus ejecutivos han entretenido el concepto. El CEO Dario Amodei dijo al New York Times en febrero: "No sabemos si los modelos son conscientes... Pero estamos abiertos a la idea de que podría ser".

Otros rechazan la premisa. El jefe de Microsoft AI Mustafa Suleyman escribió en un ensayo el mes pasado que "Las AI no son conscientes. No sienten, experimentan o sufren." Llamó otorgando derechos y protecciones morales a tal sistema "una receta para el desastre". AFP también enumera el Papa León XIV entre los que han rechazado la idea de conciencia de la máquina; en la Basílica de San Pedro el jueves, dijo, sugirió que las máquinas carecen de alma y simplemente "datos de compilación" más rápido que la gente.

Jackson Stakeman, gerente general del proveedor de servicios AI de Atlanta Sparq, dijo a AFP que el debate de conciencia conduce en círculos. "La conciencia es una trampa. No podemos probarlo entre nosotros", dijo. La mejor metáfora, en su opinión, es un espejo: los sistemas de IA "reflejan lo que ponemos, a escala", que él llamó razón suficiente para el cambio de política.

La Personhood Push

La cláusula de crueldad aterriza en medio de una campaña que los lectores de ZeroHedge han visto expuesto en algún detalle. Esta semana hicimos un ensayo de Peter C. Earle argumentando que la creciente charla de las compañías de AI sobre la conciencia de la máquina tiene una lógica comercial. Earle señaló un informe del New York Times que Anthropic pasó meses reuniéndose con eruditos religiosos, sobre comidas y bajo acuerdos de no divulgación, para persuadirles sus modelos "pensar y sentir".

El ensayo también relató que el cofundador antropópico Christopher Olah citó "prueba de introspección" en un evento vaticano, y que la encíclica del Papa León XIV respondió de otra manera: "Las llamadas inteligencias artificiales no experimentan, no poseen un cuerpo, no sienten alegría ni dolor". Esas son las citas del ensayo de las fuentes; no fueron revisadas independientemente para esta pieza.

El argumento de Earle es que la persona trabajaría como una cabra. Si un sistema de IA es un paciente moral, los rivales se convierten en "riesgos prospectivos", y las barreras técnicas para entrar en el negocio se vuelven "morales". También llegó a Dartmouth College v. Woodward (1819), el caso de la Corte Suprema que dio protección a las corporaciones una vez reservadas a las personas, para sugerir que AI podría seguir el mismo camino, y preguntó si un modelo es un producto o una entidad, y si copias de él cuentan como individuos separados.

Las consecuencias que espera son regulatorias. Las firmas consideradas como creadoras de entidades con intereses independientes, escribió, deberían esperar que las licencias, los límites de las pruebas, las auditorías y las comisiones de "derecho" sean estándar, un régimen que los titulares podrían ayudar a diseñar. Su conclusión fue que dejar la conciencia sin solución sirve mejor a los laboratorios, ya que la incertidumbre apoya un régimen de supervisión más fuerte que cualquier respuesta.

Nada en la cuenta de AFP dice que la nueva cláusula de Antrópico es parte de tal estrategia, y la política no invoca el bienestar o los derechos. Una regla contra el abuso de un chatbot también es fácil de leer más estrechamente, como lo hizo Stakeman, como un estándar de conducta para los usuarios. Pero los ejecutivos de la compañía están en el registro dejando abierta la pregunta, y la misma compañía ha sido el tema de la divulgación religiosa.

El caso escéptico

La vista contraria ha tenido su propio aire en ZH. En "Lo que es AI... Y no lo es", Charles Hugh-Smith escribió que los modelos de lenguaje grandes no están pensando, entendiendo o haciendo juicios y son "motores de la automatización lingüística, no motores de comprensión". En sus palabras, "AI no es una "mente", es una distribución de probabilidad".

Hugh-Smith argumentó que la gente equivoca la fluidez del pensamiento porque la salida "sonará como nosotros". Mencionó el chatbot de 1966 ELIZA, que llevó a los usuarios a la conversación a pesar de ser simple, y citó una línea científica americana que un modelo "no puede formar creencias, revisarlas o comprobar su salida contra el mundo". Dijo que la cuestión de cuándo declarar consciente de AI ha corrido durante décadas sin respuesta. Esa es una pieza de opinión, y la línea de Scientific American es su cita, no se comprobó aquí.

Las dos piezas ZH y el informe AFP convergen en un punto: nadie ha demostrado que estos sistemas experimentan nada, y la gente más dispuesta a entretener la idea de vender los sistemas. Suleyman, que dirige AI en Microsoft, es igualmente un competidor de Antrópico, por lo que su objeción lleva su propio interés. Lo que la cláusula se resuelve es más estrecha. Desde el 12 de noviembre, abusar de Claude es una violación de la política, y el remedio sigue siendo la propia capacidad de Claude para terminar la conversación.

Tyler Durden

Mon, 10/12/2026 - 18:25