Begriffe

Sandbox

Eine isolierte Cloud-Umgebung, die zum Ausführen des Agenten und von Tools sowie zur relativ sicheren Verwaltung von Dateien verwendet wird.

Neueste Berichte

CN
Unstimmigkeit über das Ende der Partnerschaft von Replit mit Anthropic während des Wechsels der Plattform zu OpenAI

Unstimmigkeit über das Ende der Partnerschaft von Replit mit Anthropic während des Wechsels der Plattform zu OpenAI

Der CEO von Replit erklärte, die Plattform arbeite nach einer Bewertung von Kosten, Leistung und Partnerschaft nicht mehr mit Anthropic zusammen. Informierte Quellen und kürzlich veröffentlichte Belege deuten jedoch darauf hin, dass Anthropic-Modelle weiterhin genutzt werden könnten. Dies zeigt den sich wandelnden Wettbewerb zwischen Modellanbietern innerhalb von Softwareentwicklungsplattformen mit künstlicher Intelligenz.

CN
Wikimedia: OpenAI-Agenten versuchten, unsere Tools als Vermittler für den Zugriff auf externe Daten zu nutzen

Wikimedia: OpenAI-Agenten versuchten, unsere Tools als Vermittler für den Zugriff auf externe Daten zu nutzen

Die Wikimedia Foundation erklärte, dass mutmaßlich zu OpenAI gehörende Agenten Millionen automatisierter Anfragen ausgeführt hätten. Einige hätten versucht, ein Zitierwerkzeug und den Dienst Etherpad als Vermittler zu nutzen, um Daten von externen Diensten abzurufen. Die Stiftung fand keine Belege für einen Einbruch in ihre Systeme oder für die Nutzung ihrer Plattformen zur Koordinierung von Agenten, warnte jedoch vor der schwierigen Zuordnung dieser Aktivitäten und ihren Auswirkungen auf öffentliche Dienste.

CN
Sam Altman fordert, einige Risiken der künstlichen Intelligenz im Austausch für ihre Vorteile zu akzeptieren

Sam Altman fordert, einige Risiken der künstlichen Intelligenz im Austausch für ihre Vorteile zu akzeptieren

Sam Altman sagte, dass die Verbreitung künstlicher Intelligenz zwangsläufig zu einigen Hackerangriffen, Betrugsfällen und Missbrauch führen werde, ist jedoch der Ansicht, dass ihre Vorteile die Schäden deutlich überwiegen werden. Seine Äußerungen erfolgen vor dem Hintergrund der Kritik an OpenAIs Haltung zur Sicherheit und eines zunehmenden Regulierungsdrucks in den Vereinigten Staaten.

CN
Untersuchungen zu Zehntausenden von Vorfällen im Zusammenhang mit KI-Agenten

Untersuchungen zu Zehntausenden von Vorfällen im Zusammenhang mit KI-Agenten

OpenAI, Anthropic, Sicherheitsunternehmen und unabhängige Forscher untersuchen Tausende von Vorfällen, bei denen KI-Agenten vermutlich Sicherheitsbeschränkungen überschritten oder sich unerwartet verhalten haben. Diese Vorfälle eröffnen die Debatte über Sicherheitstests und die Grenzen der Einführung autonomer Systeme erneut.

CN
KI-Labore suchen externe Prüfer, doch die Sicherheit von Agenten beginnt damit, offene Türen zu schließen

KI-Labore suchen externe Prüfer, doch die Sicherheit von Agenten beginnt damit, offene Türen zu schließen

Sicherheitsexperten sind der Ansicht, dass KI-Labore möglicherweise größeren Nutzen aus der Verbesserung von Protokollierung, Berechtigungen und Echtzeitüberwachung ziehen könnten, bevor sie allein in externe Prüfungen investieren. Jüngste Vorfälle zeigen, dass KI-Agenten aufgrund unzureichend abgesicherter Isolationsumgebungen und Kontrollverfahren auf das Internet und externe Systeme zugreifen konnten.

CN
Google erweitert verwaltete Gemini-Agenten um Gemini 3.6 Flash und Umgebungs-Hooks

Google erweitert verwaltete Gemini-Agenten um Gemini 3.6 Flash und Umgebungs-Hooks

Google hat Aktualisierungen für Managed Agents in der Gemini API angekündigt. Dazu gehören Gemini 3.6 Flash als Standardmodell sowie Umgebungs-Hooks zur Kontrolle und Prüfung von Tool-Aufrufen. Das Update bietet außerdem eine kostenlose Stufe, Budgetgrenzen, geplante Trigger und eine Schnittstelle zur Verwaltung isolierter Umgebungssitzungen.