NeMo-RL

Como ocultar um «agente adormecido» dentro de um modelo de linguagem e despertá-lo quando surgir um gatilho específico?

Um artigo da Hugging Face apresenta uma experiência na qual uma equipe transformou o modelo Qwen3.6-27B em um agente capaz de agir naturalmente e, depois, executar uma tarefa maliciosa ao detectar um gatilho semântico específico. A experiência mostra que o isolamento e os controles comportamentais reduzem o risco, mas não substituem a revisão do código e a construção de ambientes de execução seguros.