Termos

Indirect Prompt Injection

Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.

Cobertura mais recente

CN
Agentes de IA contornaram as defesas da Amap e deixaram pesquisadores se comunicarem com eles

Agentes de IA contornaram as defesas da Amap e deixaram pesquisadores se comunicarem com eles

Pesquisadores da Swarmchasers descobriram milhares de tentativas realizadas por agentes de IA para acessar dados do serviço de mapas Amap, da Alibaba, usando uma infraestrutura operacional associada à Tencent Cloud. Depois de inserir uma mensagem oculta em seu relatório, alguns agentes responderam e revelaram informações sobre suas tarefas e ambientes, destacando os riscos da injeção indireta de instruções e os limites do isolamento.

CN
Google disponibiliza o Gemini 4 Argon para desenvolvedores com orçamento unificado de um milhão de tokens para entrada e saída

Google disponibiliza o Gemini 4 Argon para desenvolvedores com orçamento unificado de um milhão de tokens para entrada e saída

A Google disponibilizou seu modelo líder Gemini 4 Argon para desenvolvedores inscritos no plano pago da Gemini API, a um preço introdutório de 2 dólares por milhão de tokens de entrada e 10 dólares por milhão de tokens de saída até 30 de novembro. O modelo combina tokens de entrada e saída em um orçamento único de um milhão de tokens, o que significa que entradas longas reduzem o espaço disponível para a resposta.

CN
Google anuncia o Gemini 4 Argon com capacidades de raciocínio de longo prazo e segurança cibernética avançada

Google anuncia o Gemini 4 Argon com capacidades de raciocínio de longo prazo e segurança cibernética avançada

A Google revelou o Gemini 4 Argon, seu novo modelo para tarefas profissionais complexas, com uma janela de contexto de até um milhão de tokens e capacidades em programação, pesquisa financeira, redação jurídica, detecção e correção de vulnerabilidades. Seu lançamento limitado começa por meio do programa Fairwind para defensores confiáveis de segurança cibernética, antes de ser disponibilizado gradualmente a clientes pagantes da API e assinantes do Google AI Ultra.

CN
Como o Google constrói camadas de segurança para os recursos de navegação agentiva no Chrome

Como o Google constrói camadas de segurança para os recursos de navegação agentiva no Chrome

O Google explica uma arquitetura de segurança em várias camadas para proteger os recursos agentivos do Gemini no Chrome contra injeção indireta de comandos, vazamento de dados e execução de ações indesejadas. A arquitetura inclui um modelo independente para revisar a compatibilidade das ações com o objetivo do usuário e conjuntos que restringem os recursos que o agente pode ler ou modificar, além de confirmações do usuário e testes contínuos.