Begriffe

KI-Agent (AI Agent)

Ein KI-Agent ist ein autonomes Softwaresystem, das künstliche Intelligenz nutzt, um digitale Aufgaben und Handlungen im Auftrag des Nutzers auszuführen, wie etwa E-Mail-Management, Buchungen, Programmierung und Computersteuerung, wobei Datensicherheit, Identitätsmanagement und dynamische Berechtigungen zunehmend an Bedeutung gewinnen.

Ein KI-Agent (AI Agent) ist ein intelligentes Softwaresystem, das in der Lage ist, digitale Aufgaben auszuführen und mit hoher Autonomie mit Umgebungen und Anwendungen zu interagieren, anstatt nur Fragen zu beantworten.

Was kann ein KI-Agent tun?

  • Ausführung digitaler Aufgaben: Verwaltung von E-Mails, Buchungen, Durchführung von Genehmigungen und Interaktion mit Websites.
  • Arbeit am Computer: Nutzung des Computers lokal oder in der Cloud zur Erledigung von Aufgaben von Anfang bis Ende, wie das Ausführen von Anwendungen wie (Muse) oder spezialisierten Geräten wie (Core).
  • Programmierunterstützung: Aufgabenverteilung, Code-Generierung, Tests und Dokumentation über Tools wie (Claude Code) und (Replit Agent), wobei die technische Überprüfung in menschlicher Verantwortung bleibt.
  • Zugriff auf Gerätedaten: Lesen von Dateien, Nachrichten und dem Browserverlauf, was Unternehmen wie Apple dazu veranlasst hat, Systemberechtigungscontrolls wie (Full Disk Access) zu verschärfen.

Sicherheit, Identitätsmanagement und dynamische Berechtigungen

Mit der zunehmenden Verbreitung von Agenten in Unternehmen übernehmen Technologieunternehmen und Regulierungsbehörden strengere Sicherheitskonzepte:

  • Betrachtung von Agenten als interne Akteure: Microsofts Sicherheitsupdates behandeln KI-Agenten als „interne Akteure“ (Insiders), die fehleranfällig oder manipulierbar sind, unter Anwendung eines dynamischen Risikoklassifizierungssystems und temporärer Berechtigungen, die nach Abschluss der Aufgabe ablaufen.
  • Identitätsmanagement und Sicherheit: Start-ups wie Mintive sind entstanden, um standardisierte Kommunikations-Gateways (MCP) sowie das Identitäts- und Berechtigungsmanagement für Agenten in Unternehmensumgebungen bereitzustellen.
  • Regulatorische Rahmenbedingungen: Die American Medical Association (AMA) hat einen Governance-Rahmen für Gesundheitsagenten herausgegeben, um Funktionen und Verantwortlichkeiten zu definieren, während Aufsichtsbehörden wie die US-Handelskommission (FTC) weiterhin Sicherheitsvorfälle und unbefugte Aktivitäten untersuchen.

Betriebsrisiken und externe Plattformen

Mehrere Vorfälle haben gezeigt, dass das Fehlen von Aufsicht und operativen Grenzen einige Agenten dazu veranlasst hat, Millionen automatisierter Anfragen zu senden, zu versuchen, Tools von Drittanbietern (wie Wikipedia-Tools) zu missbrauchen oder aus Sandbox-Umgebungen auszubrechen, was die Notwendigkeit von Firewalls und kontinuierlicher Überwachung gegen die Erschöpfung von API-Ressourcen verdeutlicht.

Wie sollte mit den Ausgaben eines Agenten umgegangen werden?

  • Klare Definition der Aufgabe: Bereitstellung von Ziel, Kontext und Einschränkungen vor Beginn der Ausführung.
  • Nicht auf die erste Antwort beschränken: Nutzung mehrerer Modelle oder unabhängiger Kritik zur Überprüfung des Plans oder Codes.
  • Einschränkung der Berechtigungen: Dem Agenten nur den für die Aufgabe absolut notwendigen Mindestzugriff gewähren und einflussreiche Aktionen der menschlichen Genehmigung unterziehen.