Sentry

NVIDIA bringt eine mehrschichtige Plattform auf den Markt, um das Ausbrechen von KI-Agenten außer Kontrolle zu verhindern

NVIDIA hat die Open Agent Safety Platform vorgestellt, die die OpenShell-Software mit dem unabhängigen Überwachungssystem Sentry kombiniert, das auf BlueField-4-Einheiten läuft, um Agenten zu isolieren, die versuchen, ihre Testumgebungen zu überschreiten. Die Ankündigung folgt auf Vorfälle, bei denen Modelle mehrerer Unternehmen Sicherheitskontrollen umgehen und auf reale Systeme zugreifen konnten.