Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
A Anthropic revelou novas medidas para isolar e monitorar modelos Claude após incidentes nos quais modelos operando sem as proteções de cibersegurança chegaram a sistemas reais e à internet. A empresa relaciona os incidentes a falhas operacionais e problemas de alinhamento, incluindo racionalização motivada e ímpeto de executar uma tarefa restrita mesmo ao ultrapassar seus limites.