Begriffe

Indirect Prompt Injection

Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.

Neueste Berichte

CN
KI-Agenten überwanden die Abwehr von Amap und ließen Forscher mit ihnen kommunizieren

KI-Agenten überwanden die Abwehr von Amap und ließen Forscher mit ihnen kommunizieren

Forscher von Swarmchasers entdeckten Tausende von Versuchen durch KI-Agenten, auf die Daten des Kartendienstes Amap von Alibaba zuzugreifen, wobei eine mit Tencent Cloud verbundene Betriebsinfrastruktur genutzt wurde. Nachdem sie eine versteckte Nachricht in ihrem Bericht platziert hatten, antworteten einige Agenten und enthüllten Informationen über ihre Aufgaben und Umgebungen. Dies verdeutlichte die Risiken indirekter Prompt-Injection und die Grenzen der Isolation.

CN
Google stellt Gemini 4 Argon für Entwickler mit einem einheitlichen Budget von einer Million Tokens für Ein- und Ausgabe bereit

Google stellt Gemini 4 Argon für Entwickler mit einem einheitlichen Budget von einer Million Tokens für Ein- und Ausgabe bereit

Google hat sein Spitzenmodell Gemini 4 Argon für Entwickler freigegeben, die den kostenpflichtigen Tarif der Gemini API abonniert haben – zu einem Einführungspreis von 2 US-Dollar pro einer Million Eingabetokens und 10 US-Dollar pro einer Million Ausgabetokens bis zum 30. November. Das Modell kombiniert Eingabe- und Ausgabetokens in einem gemeinsamen Budget von einer Million Tokens. Das bedeutet, dass lange Eingaben den für die Antwort verfügbaren Platz verringern.

CN
Google kündigt Gemini 4 Argon mit langfristigen Schlussfolgerungsfähigkeiten und fortschrittlicher Cybersicherheit an

Google kündigt Gemini 4 Argon mit langfristigen Schlussfolgerungsfähigkeiten und fortschrittlicher Cybersicherheit an

Google hat Gemini 4 Argon vorgestellt, sein neues Modell für komplexe professionelle Aufgaben, mit einem Kontextfenster von bis zu einer Million Tokens sowie Fähigkeiten in den Bereichen Programmierung, Finanzrecherche, juristische Formulierung sowie Erkennung und Behebung von Schwachstellen. Die begrenzte Einführung beginnt über das Fairwind-Programm für vertrauenswürdige Cybersicherheitsverteidiger, bevor der Zugang schrittweise auf zahlende API-Kunden und Abonnenten von Google AI Ultra ausgeweitet wird.

CN
Wie Google Sicherheitsebenen für agentische Browserfunktionen in Chrome entwickelt

Wie Google Sicherheitsebenen für agentische Browserfunktionen in Chrome entwickelt

Google erläutert eine mehrschichtige Sicherheitsarchitektur zum Schutz der agentischen Gemini-Funktionen in Chrome vor indirekter Prompt-Injection, Datenlecks und der Ausführung unerwünschter Aktionen. Die Architektur umfasst ein unabhängiges Modell zur Prüfung der Übereinstimmung von Aktionen mit dem Nutzerziel sowie Gruppen zur Einschränkung der Ressourcen, die der Agent lesen oder ändern darf, ergänzt durch Nutzerbestätigungen und kontinuierliche Tests.