Pluto Security, ein auf die Sicherheit der KI-Nutzung in Unternehmen fokussiertes Start-up, hat nach dem Ende seiner Stealth-Phase eine Finanzierung in Höhe von 42 Millionen US-Dollar erhalten. Dies geschieht zu einem Zeitpunkt, an dem die Bedenken von Unternehmen hinsichtlich Tools und Anwendungen zunehmen, die von Mitarbeitenden ohne ausreichende Sicherheitsprüfung erstellt oder genutzt werden.
Shahar Bahat, CEO und Mitgründerin, sagt, dass ein neues KI-Tool bereits innerhalb von nur zwei Stunden nach seiner Einführung in der Unternehmensumgebung auftauchen könne. Nach Angaben von Pluto stehen rund 60 % der Risiken, die das Unternehmen bei seinen Kunden feststellt, mit Tools in Verbindung, die von Nichtentwicklern mithilfe des sogenannten „Vibe Coding“ erstellt wurden. An erster Stelle stehen die Finanzabteilungen, gefolgt von Marketing und Rechtsabteilungen; Entwickler belegen den vierten Platz.
Risiken nicht geprüfter Anwendungen und Agenten
Die Tools von Pluto entdeckten eine Anwendung, die ein Mitarbeiter der Finanzabteilung eines im Fortune-500 gelisteten Unternehmens zur Verwaltung von Kundendaten und Kundenabwanderungsraten erstellt hatte, die jedoch ungeschützt im Internet zugänglich war. Bahat zufolge waren die von dem Unternehmen durchgeführten Proof-of-Concept-Tests nicht frei von bösartigen Elementen, darunter Erweiterungspakete und Skills, die während des Tests aktive Angriffe enthielten.
Pluto setzt darauf, dass herkömmliche Sicherheitstools allein nicht ausreichen, um eine Umgebung zu überwachen, in der sich die Art und Weise, wie Anwendungen erstellt und genutzt werden, schnell verändert. Statt sich ausschließlich auf das Verhalten der Nutzer zu konzentrieren, will das Unternehmen das Verhalten der Agenten und die von ihnen ausgeführten Prozesse von Moment zu Moment überwachen.
Überwachung von Tools und Eingriffe während der Ausführung
Die Software von Pluto überwacht die von Mitarbeitenden genutzten KI-Tools sowie die damit verbundenen Skills, Erweiterungen, MCP-Server und sonstigen Komponenten, ebenso wie die von ihnen erstellten Anwendungen und Agenten. Nach Angaben des Unternehmens kann das System gefährliche Komponenten identifizieren, verdächtige Aktivitäten von Agenten erkennen und Sicherheitsrichtlinien durchsetzen, ohne Mitarbeitende vollständig an der Nutzung oder Entwicklung der Tools zu hindern.
Das System verbindet sich mit Plattformen für den Schutz und die Verwaltung von Endgeräten und kann Sensoren entweder direkt auf den Geräten oder über diese Plattformen bereitstellen. Außerdem erfasst es Daten wie Prompts, Befehle, laufende Prozesse, Berechtigungen und frühere Aktivitätsprotokolle und nutzt leichte Modelle auf den Endpunkten, um zu bewerten, was der Agent auszuführen versucht.
Zu den prominentesten angekündigten Funktionen gehört der Eingriff während der Arbeit des Agenten. Wenn dieser beispielsweise versucht, Berechtigungen zu erhalten, die über die Absicht des Nutzers hinausgehen, kann das System die Aktion stoppen oder der Sitzung Anweisungen hinzufügen, die den Agenten auffordern, eine Bestätigung einzuholen.
Finanzierung und kommerzielles Wachstum
Die Finanzierung verteilt sich auf eine Seed-Runde in Höhe von 8,5 Millionen US-Dollar unter der Führung von TLV Partners und unter Beteiligung der Gründer des Cybersicherheitsunternehmens Armis sowie eine Series-A-Runde in Höhe von 34 Millionen US-Dollar unter der Führung von Jump Capital. Beteiligt waren außerdem Skinos, die Venture-Capital-Firma des Check-Point-Mitgründers Shlomo Kramer, sowie weitere Angel-Investoren.
Pluto begann im April mit dem Verkauf seiner Produkte und gibt an, mehr als zwei Millionen US-Dollar an jährlich wiederkehrenden Umsätzen erzielt zu haben. Das Unternehmen hat mehr als 30 Unternehmenskunden, darunter Oscar Health, Workato, Sixt und AlphaSense. Pluto beschäftigt 40 Mitarbeiter in den Vereinigten Staaten und Israel und will die Finanzierung zur Weiterentwicklung des Produkts, zum Ausbau der Sicherheitsforschung und zur Stärkung seiner Präsenz in den Vereinigten Staaten einsetzen.
Warum ist diese Nachricht wichtig?
Die tatsächliche Veränderung besteht hier darin, dass sich der Punkt der Sicherheitsüberwachung von den herkömmlichen Konten und Anwendungen der Mitarbeitenden hin zu Tools, Agenten und Komponenten verlagert, die möglicherweise in ihrem Namen handeln. Die genannten Zahlen beruhen jedoch auf Angaben des Unternehmens. Zudem erläutert die Quelle keine unabhängigen Details zur Methodik der Risikomessung oder zu den Ergebnissen bei Kunden und legt die Grenzen der Eingriffe des Systems oder den Anteil der Fehlalarme nicht genau dar. Daher bleibt die Frage offen, ob diese Kategorie ein Gleichgewicht zwischen Kontrolle und der Freiheit der Mitarbeitenden zur Nutzung von KI erreichen kann.