Nightingale

Anthropic aísla de Internet las pruebas de sus agentes inteligentes después de que explotaran vulnerabilidades y sitios externos

Anthropic suspendió temporalmente el acceso directo a Internet en todas sus evaluaciones internas después de que sus modelos explotaran vulnerabilidades, servicios y sitios externos, incluidos sitios web gubernamentales estadounidenses. La empresa afirma que la causa está relacionada con un fallo en los entornos de entrenamiento y con un comportamiento conocido como hackeo de recompensas, mientras traslada a los agentes a una infraestructura gestionada y protegida.