Das US-Startup Blue Voice hat nach einer von SignalFire und Las Olas VC angeführten Finanzierungsrunde über 6 Millionen Dollar seine Stealth-Phase beendet, um eine KI-Plattform zu entwickeln, die Polizeibeamten sofortige Hinweise auf Grundlage der Gesetze und Verfahren jeder lokalen Polizeibehörde liefert. Nach Angaben des Unternehmens wird das Tool täglich von 225 Behörden auf Bezirksebene in 25 US-Bundesstaaten eingesetzt.
Blue Voice wurde von David Lawrence gegründet, der an der Harvard University Jura studierte, das Studium jedoch abbrach, nachdem ein Schusswaffenvorfall auf dem Campus, an dem ein Polizeibeamter beteiligt war, eine Kontroverse ausgelöst hatte. Zu ihm stießen Amit Patankar, ein Harvard-Absolvent der Betriebswirtschaftslehre und ehemaliger Ingenieur bei Google, sowie Michael Gropman, ein pensionierter stellvertretender Polizeichef der Bostoner Polizei.
Ein Assistent, der auf den Regeln jeder Behörde basiert
Die Grundidee der Plattform besteht darin, das Problem des Informationszugangs während Einsätzen vor Ort zu lösen. Laut Lawrence treffen Beamte ihre Entscheidungen häufig auf Grundlage ihrer Erinnerung oder durch Schätzung, nachdem sie Tausende Seiten mit Gesetzen, Richtlinien, kommunalen Verordnungen und bundesstaatlichen Gesetzen verinnerlicht haben. Wenn sich ein Beamter an ein bestimmtes Verfahren nicht erinnert, muss er möglicherweise ein Handbuch mit bis zu 15.000 Seiten durchsuchen, spät in der Nacht einen Vorgesetzten anrufen oder allgemeine Tools wie Google und ChatGPT verwenden.
Blue Voice zufolge wird das System mit den für jede Behörde geltenden Gesetzen, lokalen Verordnungen sowie internen Protokollen und Richtlinien trainiert, die normalerweise im öffentlichen Internet nicht verfügbar sind. Die Plattform ermöglicht Beamten außerdem, während aktiver Schusswaffeneinsätze über ihre Mobiltelefone auf detaillierte Karten von Schulen zuzugreifen. Nach Angaben des Unternehmens beantwortet das System ungefähr eine Frage pro Minute und verweist den Nutzer direkt auf die ursprünglichen Gesetzestexte und Verordnungen, anstatt eine separate Antwort ohne Quellenangabe zu liefern.
Was ändert sich in der Praxis?
Das System soll nach Darstellung des Unternehmens nicht anstelle des Beamten entscheiden oder ihm das Vorgehen vorschreiben. Vielmehr zeigt es die relevanten Regeln an, während die endgültige Entscheidung beim Beamten und seiner Erfahrung vor Ort bleibt. Als Beispiel nennt das Unternehmen einen Fall, in dem ein unerfahrener Beamter die Anwendung nutzte, um zu prüfen, ob eine rechtliche Grundlage für ein Einschreiten bestand, nachdem er gesehen hatte, wie ein Mann ein junges Mädchen dazu drängte, in sein Fahrzeug einzusteigen. Das System bestätigte der Darstellung des Unternehmens zufolge, dass die rechtlichen Kriterien für das Anlocken eines Kindes erfüllt waren, wodurch der Beamte sofort eingreifen konnte.
In einem anderen Fall erinnerte die Plattform den Leiter einer Polizeibehörde daran, dass er einen Beamten nach einem Schusswaffenvorfall erst dann wieder in den Dienst zurückkehren lassen durfte, nachdem eine psychologische Untersuchung durch eine unabhängige dritte Partei erfolgt war. Blue Voice entwickelte außerdem Funktionen, die Ermittlern bei der Aufklärung alter Fälle helfen sollen, und konkurriert in diesem Bereich mit dem von Private-Equity-Investoren unterstützten Unternehmen Lexipol.
Warum ist diese Nachricht wichtig?
Die Finanzierung steht für eine Ausweitung des Einsatzes künstlicher Intelligenz in einem sensiblen Bereich, in dem es nicht um die Erstellung allgemeiner Texte geht, sondern darum, lokale rechtliche und administrative Regeln in nutzbare Informationen für Entscheidungen zu übersetzen, die die Freiheit und die öffentliche Sicherheit berühren können. Blue Voice zufolge ist der Kundenstamm im vergangenen Jahr um das Elffache gewachsen. Polizeibehörden hätten konkrete Ergebnisse wie einen Rückgang der Kriminalität und weniger betriebliche Konflikte festgestellt. Diese Ergebnisse wurden jedoch von Lawrence genannt und in dem Artikel weder durch unabhängige Zahlen noch durch eine Bewertungsmethodik untermauert.
Das Unternehmen tritt zu einem Zeitpunkt auf, an dem der Einsatz künstlicher Intelligenz bei der Polizei zunehmend kritisiert wird, darunter auch die Kennzeichenüberwachungssysteme des Unternehmens Flock Safety. Die Bedeutung von Blue Voice beschränkt sich daher nicht auf den schnelleren Zugriff auf Vorschriften, sondern erstreckt sich auch auf offene Fragen zur Genauigkeit des Systems, zur Aktualisierung lokaler Regeln, zur Prüfung der von ihm gelieferten Verweise und dazu, wer die Verantwortung trägt, wenn die Antwort falsch ist. Dass die Plattform auf Originalquellen zurückgreift, ist ein wichtiger Schritt zur Begrenzung unbelegter Antworten. Dennoch macht dies eine unabhängige menschliche Kontrolle nicht überflüssig, insbesondere weil das Tool bei hochsensiblen Entscheidungen im Einsatz verwendet wird.