Das unabhängige Organ für polizeiliches Fehlverhalten in Großbritannien (IOPC) hat eine offizielle Untersuchung gegen einen hochrangigen Ermittler der Derbyshire Constabulary eingeleitet. Hintergrund sind Vorwürfe des schwerwiegenden Fehlverhaltens aufgrund der Nutzung des KI-Tools „Microsoft Copilot“, um Entscheidungen im Zusammenhang mit laufenden strafrechtlichen Ermittlungen zu treffen und zu rechtfertigen.
Details der Vorwürfe und Überschreitung operativer Kontrollen
Die Ermittlungen begannen im August nach einer freiwilligen Überweisung durch die Führung der Derbyshire Constabulary am 23. Juni, nachdem eine interne Überprüfung ein Muster in der Nutzung von Künstlicher Intelligenz durch den Beamten aufgedeckt hatte. Den vorliegenden Daten zufolge gingen die dem Ermittler vorgeworfenen Verstöße über übliche Aufgaben wie linguistische Überprüfungen oder Rechtschreibkorrekturen hinaus; er nutzte das Tool zur Formulierung verfahrenstechnischer Entscheidungen, zur Bewertung und zum Management von Risiken sowie zur Rechtfertigung entscheidender Beschlüsse während strafrechtlicher Ermittlungen.
Die Anklageschrift umfasst zudem die Eingabe sensibler operativer Daten und personenbezogener Informationen der beteiligten Parteien in das Cloud-System des Tools. Die Derbyshire Constabulary hatte ihren Mitarbeitern die Nutzung von „Copilot“ offiziell im Mai 2025 gestattet, jedoch unter strengen Auflagen, die die Rolle auf spezifische administrative Aufgaben beschränkten, einschließlich der Erstellung von Entwürfen und der Zusammenfassung allgemeiner Berichte, bei einem strikten Verbot der Eingabe operativer, vertraulicher oder personenbezogener Informationen.
Zeitrahmen der Untersuchung und professionelle Standards
Emily Barry, Kommunikationsleiterin des IOPC, erklärte, dass die vorliegenden Behauptungen äußerst schwerwiegend seien und eine unabhängige sowie umfassende Prüfung erforderten. Die Ermittler konzentrieren sich derzeit auf die vollständige Prüfung der Nutzungsprotokolle des Beamten des Tools im Zeitraum von Mai 2025 bis Juni 2026, um festzustellen, ob Verstöße gegen die im britischen Polizeiapparat anerkannten professionellen Standards vorliegen. Der Beamte hat eine Mitteilung über schwerwiegendes Fehlverhalten erhalten, ein endgültiges Urteil steht jedoch noch aus.
Herausforderungen der KI-Governance in der Strafverfolgung
Dieser Vorfall verdeutlicht die Problematik des Datenschutzes und die Risiken der KI-Governance innerhalb von Sicherheitsbehörden und sensiblen Institutionen. Trotz der beschleunigten Integration generativer Tools zur Verringerung des administrativen und papiergestützten Aufwands – wie etwa die Nutzung der Plattform „Draft One“ der Firma „Axon“ durch einige Polizeibehörden in den USA zur Erstellung von Vorfallberichten aus Bodycam-Aufnahmen – bleiben die Risiken von Halluzinationen und Datenlecks bestehen.
Die Eingabe sensibler Daten in Cloud-Modelle erinnert an frühere Vorfälle, wie etwa das Leck von Quellcodes und vertraulichen Besprechungen durch Samsung-Mitarbeiter über „ChatGPT“ im Jahr 2023. Der aktuelle Fall in Großbritannien unterstreicht den entscheidenden Unterschied zwischen der unterstützenden Automatisierung von Büroarbeiten und der Übertragung von Aufgaben der menschlichen Einschätzung und lebensverändernden Entscheidungsfindung an KI-Tools innerhalb des Justiz- und Sicherheitssystems.