Política
Cómo Antrópico se convirtió en la Oveja Negra de la Industria AI
La empresa se ha negado a aceptar la apertura y la competencia.
Foto de Andrej Sokolow / alianza de imágenes a través de Getty Images
Antrópico se ha puesto en desacuerdo con casi toda la industria AI. En una conspicua ruptura con sus pares, el laboratorio de fronteras se negó el mes pasado a firmar una carta abierta que apoya una política permisiva hacia modelos AI de peso abierto, que cualquiera puede descargar, modificar y ejecutar en sus propios dispositivos.
Antrópico dice que actuó por preocupación por la seguridad pública, ofreciendo sus advertencias consuetudinarias sobre la catástrofe habilitada por AI. Pero sus motivos reales pueden ser considerablemente más autoservicio.
Si Antrópico fuera serio acerca de ser la empresa AI con conciencia, no tendría escasez de preocupaciones públicas. Podría dedicar más atención y dinero a investigar las pérdidas laborales relacionadas con la IA. O podría tomar pasos más pequeños pero simbólicamente importantes. Informes recientes revelaron que las empresas de IA han estado cortando los giros de los libros para facilitar el escaneo para la formación de modelos. Elon Musk prometió que xAI escanearía libros “el camino difícil”. Antrópico debe hacer lo mismo.
Antrópico también podría hacer más para responder preocupaciones públicas sobre el crecimiento del centro de datos. Algunos de esos miedos se derivan en la teoría de la conspiración. Theo Von, por ejemplo, ha sugerido que los centros de datos son parte de un plan de Silicon Valley para lograr la inmortalidad, monopolizar la tecnología pertinente y bloquear a todos los demás como lo hicieron los gobiernos durante Covid. Las quejas ambientales sobre el uso del agua y la energía también son a menudo exageradas. Sin embargo, Antrópico podría hacer un esfuerzo más serio para abordar estas preocupaciones.
En lugar de eso, los está alimentando.
Si los estadounidenses se preocupan de que las élites de Silicon Valley tengan la intención de monopolizar la tecnología avanzada, pocas cosas reforzarán esa sospecha más rápido que la campaña de Antrópico contra la IA de peso abierto. Casi todas las principales empresas del campo han firmado la carta de julio, incluyendo OpenAI, Google, Meta, Microsoft, Palantir, Perplejidad, Replit y Hugging Face. Cientos de empresas han firmado en todos; Antrópico es el más apasionante.
La empresa vuelve a enmarcar su posición como cuestión de seguridad, advirtiendo que los modelos abiertos podrían permitir ataques cibernéticos catastróficos o desarrollo de bioarmas. Para ser claro, el CEO antropópico Dario Amodei ha dicho que su firma no está “abocada a la prohibición de los modelos de peso abierto como categoría”. Pero está presionando para que se adopten medidas como las pruebas obligatorias de seguridad y una represión de la destilación a gran escala (un proceso por el cual los modelos existentes de IA se utilizan para capacitar a los más nuevos en un momento), lo que podría restringir significativamente el desarrollo y la profusión de modelos abiertos.
Un usuario X resumió perfectamente el argumento en un post que se hizo viral: “Los sustantivos son peligrosos, por lo que sólo debería permitirme tenerlos”. (Los conservantes que han seguido el debate de la Segunda Enmienda reconocerán la lógica.)
Esta es precisamente la manera equivocada de abordar el problema. La fijación de Antrópicos en las barreras de arriba abajo está socavando la seguridad en lugar de fortalecerla. El mes pasado, el laboratorio de fronteras tuvo que revertir un cambio a su modelo líder, Fable 5, después de que los investigadores de AI descubrieran que su trabajo estaba encubierto. La solución de Antrópico era simplemente hacer que el trineo fuera transparente. Los investigadores de seguridad ahora deben recurrir a modelos abiertos, los mismos modelos que Anthropic está presionando, para realizar sus pruebas.
¿Qué tan grave toma Antropopic la amenaza de ciberataques habilitados para la IA si sus propios guardias evitan que los investigadores de ciberseguridad desarrollen defensas contra ellos?
Mira debajo de la retórica de Antrópico sobre seguridad y aparece un motivo corporativo más familiar: el control de la tecnología.
Ese motivo es cada vez más difícil perderse en la campaña de la empresa contra modelos de peso abierto, que Anthropic dice que están siendo utilizados para destilar sus productos. La destilación se encuentra en el centro del debate de peso abierto. La mayoría de la industria tecnológica quiere preservar la capacidad de aprender de modelos competidores. Sus líderes apuntan correctamente al papel que juega el software de código abierto en la innovación durante los años 1990 y 2000. Antrópico quiere un arreglo diferente.
La razón no es difícil de ver. Cualquiera que sea su liderazgo, Antrópico produce modelos de vanguardia que a menudo tienen una clara ventaja en la codificación. Bloquear a los competidores de aprender de esos modelos podría convertir un plomo modesto y temporal en uno grande y duradero.
Por lo tanto, llegamos a una estrategia de monopolio familiar: recortar la tecnología de los competidores mientras imponen obstáculos ajustados a todo el mundo fuera de la empresa. Antrópico supuestamente conservaría el acceso sin restricciones a sus propios productos. El público no lo haría. En ese momento, los temores sobre los señores digitales y los serfs digitales comienzan a sonar menos fantasiosos.
Es conveniente para Antrópico que los beneficiarios más destacados de la destilación son laboratorios chinos, en particular Moonshot AI y su modelo Kimi K3. Moonshot supuestamente utilizó la destilación para construir un modelo de peso abierto que se acerque a las capacidades de los productos de OpenAI y Antropopic. La Casa Blanca ha planteado preocupaciones, describiendo la práctica como parte del mismo libro chino de robo de propiedad intelectual que alimenta los otros avances tecnológicos del país.
Pero el enfoque estrecho en China oscurece un hecho importante: las empresas estadounidenses también utilizan la destilación para competir entre sí. OpenAI ha advertido que combinar diferentes modelos podría eventualmente producir sistemas que superan a cualquier competidor. Por lo tanto, la destilación parece ser un motor importante de la competencia y el progreso tecnológico. Cortarlo en los Estados Unidos podría darle una ventaja a China.
Imagínese si el sector tecnológico estadounidense había prohibido el software de código abierto en los años 1990. ¿Los Estados Unidos seguirían gozando de su posición dominante en el desarrollo de software?
La disputa sobre el robo de propiedad intelectual china es real y difícil. Pero la posición de Antrópico también refleja una agenda política nacional. Más allá del obvio deseo de subir la escalera detrás de sí mismo, la fijación de la compañía en seguridad y vigilancia parece más bien el enfoque favorecido por los demócratas que el favorecido por la actual Casa Blanca.
Como escribí en The American Conservative en mayo, los demócratas tienen sus propias razones para apoyar el control de la IA en nombre de la seguridad. Quieren garantizar que la tecnología no pueda utilizarse para socavar el régimen de derechos civiles. Los legisladores demócratas de varios estados han propuesto proyectos de ley dirigidos a la “discriminación algorítmica” y resultados dispares para mujeres y minorías. Es la demanda progresiva familiar para la igualdad de resultados, recast para la edad de la inteligencia artificial.
Los legisladores de Colorado se dirigieron a proponer la “discriminación algorítmica” cuando se pretende “aumentar la diversidad” o “hacer frente a la discriminación histórica”. In plain English, AI-enabled discrimination against white men.
Como Antrópico, los demócratas tienen interés en prevenir la propagación de modelos de peso abierto. Esos modelos pueden funcionar independientemente de las grandes empresas y, por consiguiente, pueden evadir los mandatos de la DEI a nivel estatal.
El enfrentamiento altamente publicitado de Antrópico con el Pentágono de Trump sobre los usos militares de su tecnología añade otra dimensión política. La posición de la compañía “guardrails-first” podría ayudar a frenar el favor con una futura administración democrática. Antrópico puede comercializarse como la compañía AI que se puso de pie ante Trump, mientras que sus competidores se inscribieron entusiastamente para el llamado “derecho tecnológico”.
Los estadounidenses no deben caer para la actuación. La amenaza competitiva de China es real y debe enfrentarse. Pero hay pocas razones para creer que restringir los modelos de peso abierto ayudaría a los Estados Unidos a ganar esa competencia. Puede hacer lo contrario.
Tampoco hay un caso convincente para dar un pequeño círculo de ejecutivos tecnológicos control exclusivo sobre la IA, especialmente cuando los burócratas gubernamentales podían utilizar fácilmente ese poder centralizado para imponer su ideología en el futuro. Ese es un riesgo de seguridad propio, aunque uno no encontrará a los proponentes de “seguridad” más fuertes hablando mucho.
El post How Anthropic Became the AI Industry’s Black Sheep apareció primero en The American Conservative.