BRUSSELS — A veces puede parecer que la mitad del mundo está ocupado en secreto usando AI — y la otra mitad está ocupada llamándolos.

Los detectores de IA, humanos y de otro modo, están a punto de conseguir su mayor impulso con nuevos requisitos de “watermarking” de la UE que entraron en vigor este mes, lo que podría mejorar cómo los usuarios de Internet experimentan y relacionan con imágenes, videos y texto generados por IA.

Desde el surgimiento de la IA generativa a finales de 2022, ha habido temores de que su dominio pudiera marcar el fin de la llamada “verdad fotográfica”: lo que usted ve es por defecto verdad. Si bien las principales empresas de inteligencia artificial han dicho que querían abordar este riesgo identificando la procedencia del contenido generado por sus modelos, sus esfuerzos han sido en gran medida voluntarios.

Ahora, los legisladores de la Unión Europea exigen que se informe a los usuarios de Internet si están participando con AI y si el contenido que ven es la producción de bots o la creación de un humano.

El lunes, U.S. AI behemoth Anthropic anunció que todos sus futuros modelos apoyarían la observación de agua para cumplir con las reglas de la UE.

“No creo que la gente entienda la escala del cambio”, dijo Ashley Casovan, directora del centro de gobierno de AI en la organización experta centrada en la privacidad y la AI IAPP. Describió un cambio de un mundo donde la gente tenía que tomar una “decisión educada” sobre si algo era generado por AI a uno donde ese contenido tiene un símbolo o superposición verificados.

Incluso sin tener una plataforma de IA superior, Europa está formando cómo esta tecnología transformadora se está desarrollando globalmente. La principal ley AI de la UE, la Ley de Inteligencia Artificial, ha comenzado a forzar las plataformas más grandes del mundo a tomar decisiones cruciales sobre todo desde la seguridad hasta la transparencia.

Es un recordatorio de que Bruselas a menudo termina como una especie de regulador global del último recurso, listo para entrar y establecer límites en la industria de Big Tech que de otra manera podría avanzar a toda velocidad. En el pasado, se trataba de salvaguardar la privacidad bajo el GDPR y a la policía cómo las plataformas trataban de contenidos dañinos, que han tenido un efecto de golpe en todo el mundo.

Ahora, desde el 2 de agosto, los proveedores de los modelos de IA generativos más avanzados, como Antrópico y OpenAI, han tenido que asegurar que sus usuarios sepan que están interactuando con IA y que la salida está marcada como IA generada.

Las obligaciones de transparencia de la ley son “el enfoque principal en este momento, en términos de lo que todos están hablando”, dijo Francesca Pole, abogado de datos, privacidad y ciberseguridad en DLA Piper.

Visualizar lo invisible

Las compañías más destacadas han anunciado que jugarían a la pelota: no sólo firmando un conjunto de mejores prácticas para el cumplimiento de la UE, sino también anunciando una serie de retoques técnicos.

OpenAI prometió a finales de julio que “la gente debería tener un mejor contexto sobre el contenido que ven en línea, incluyendo si fue creado o editado por AI”.

La principal ley de AI de la UE ha comenzado a forzar las plataformas más grandes del mundo a tomar decisiones cruciales sobre todo desde la seguridad hasta la transparencia. TEN Kenzo Trbouillard/AFP via Getty Images

La empresa se basa en SynthID, una herramienta de observación de agua desarrollada por la rama DeepMind enfocada en IA de Google, para dar imágenes generadas por IA una superposición “invisible”.

A finales de julio, extendió eso a audio.

Antrópico siguió el traje este lunes, anunciando que todos los modelos Claude liberados desde el 2 de agosto añadirían “puntos de agua en texto”.

La marca de agua se teje en el texto mismo, la compañía dijo en un blog.

“No lo verás, y no cambia el significado, la calidad o la legibilidad de la respuesta de Claude”, dice el post. “Porque la marca de agua es parte del texto, viajará con el texto cuando sea copiada y pegada a otros lugares”.

Ambas compañías también propagaron un estándar de la industria, desarrollado por una organización llamada C2PA (Coalición para Procedencia de Contenidos y Autenticidad), destinada a almacenar y transferir metadatos de procedencia.

El contenido de Watermarking es sólo el primer paso, sin embargo, detectando esas marcas y haciéndolos visibles para los usuarios de Internet un segundo crucial.

Empresas como Anthropic tendrán que trabajar con plataformas donde se distribuye contenido generado por AI para “visualizarlo”, dijo Walter Pasquarelli, investigador de contenido sintético de la Universidad de Cambridge y asesor de la OCDE.

Así es como describió el proceso trabajando en la práctica: “Usted genera algo en Claude, usted lo pone en una plataforma de redes sociales, usted está a punto de hacer un post, y la interfaz donde se pone el post puede entonces tener los detectores que pueden detectar la marca de agua.”

Las consecuencias podrían ser de gran alcance. “Hay mucha evidencia, ... cuando se trata de los medios de comunicación, que tan pronto la gente sabe que algo es generado por AI su compromiso disminuye bastante significativamente”, dijo.

O, en la actual parlance digital, Pasquarelli agregó, el movimiento de la UE podría reducir el slop de IA.

Las plataformas ya son muy conscientes del aumento de la IA, con LinkedIn añadiendo recientemente una opción para que los usuarios señalen un puesto que “parece como el slop de IA”.

Eso va mucho más allá del objetivo inicial de Bruselas de evitar que el contenido generado por AI sea engañoso. “La conversación ha pasado del contenido generado por IA que tiene una intención engañosa al contenido generado por IA en su conjunto”, repitió Pasquarelli.