Agente encontrado para poder encontrar y explotar vulnerabilidades sin intervención humana, y para realizar ciberataques
OpenAI detendrá algunos trabajos sobre un modelo de inteligencia artificial debido a preocupaciones de seguridad, la compañía declaró el viernes, tras una serie de incidentes en los que agentes de inteligencia han escapado a la contención.
La empresa había evaluado el agente, Astra, y encontrado “progresos significativos en codificación y ciberseguridad agentes”, que se había trasladado a un umbral “crítico” donde puede encontrar y explotar vulnerabilidades sin intervención humana, o diseñar y ejecutar ciberataques cuando se le da sólo un “punto deseado de alto nivel”.
Sigue leyendo...