La Oficina Independiente para la Conducta de la Policía en el Reino Unido (IOPC) ha abierto una investigación oficial contra un alto detective de la Policía de Derbyshire (Derbyshire Constabulary), tras acusaciones de mala conducta grave debido a su dependencia de la herramienta de inteligencia artificial «Microsoft Copilot» para ayudar a tomar y justificar decisiones relacionadas con investigaciones penales en curso.
Detalles de las acusaciones y violación de los controles operativos
La investigación comenzó en agosto tras una remisión voluntaria iniciada por el mando de la Policía de Derbyshire el 23 de junio, después de una revisión interna que reveló un patrón en el uso de la inteligencia artificial por parte del oficial. Los datos indican que las infracciones atribuidas al detective fueron más allá de las tareas habituales, como la revisión lingüística o la corrección de errores ortográficos; utilizó la herramienta para redactar decisiones procesales, evaluar y gestionar riesgos, y justificar decisiones críticas durante las investigaciones penales.
El pliego de cargos también incluye la introducción de datos operativos sensibles e información personal relacionada con las partes de los casos en el sistema en la nube de la herramienta. La Policía de Derbyshire había permitido oficialmente a su personal el uso de «Copilot» en mayo de 2025, pero bajo condiciones estrictas que limitaban su función a tareas administrativas específicas, incluyendo la redacción de borradores y el resumen de informes generales, con una prohibición categórica de introducir cualquier información operativa, confidencial o personal.
Cronograma de la investigación y estándares profesionales
Emily Barry, directora de comunicaciones de la IOPC, aclaró que las alegaciones planteadas son extremadamente graves y requieren un examen independiente y exhaustivo. Los investigadores se centran actualmente en auditar todos los registros de uso de la herramienta por parte del oficial durante el período comprendido entre mayo de 2025 y junio de 2026 para verificar la existencia de violaciones de los estándares profesionales adoptados en la policía británica, teniendo en cuenta que el oficial ha recibido una notificación de mala conducta grave sin que se haya emitido un veredicto final hasta el momento.
Desafíos de la gobernanza de la IA en la aplicación de la ley
Este incidente pone de relieve los problemas de privacidad de los datos y los riesgos de la gobernanza de la inteligencia artificial dentro de las instituciones de seguridad y de carácter sensible. A pesar de la acelerada integración de herramientas de generación automática para aliviar las cargas administrativas y de papeleo —como la adopción por parte de algunos departamentos de policía en los Estados Unidos de la plataforma «Draft One» de la empresa «Axon» para crear informes de incidentes a partir de grabaciones de cámaras corporales—, los riesgos de alucinaciones y filtración de datos persisten.
La reintroducción de datos sensibles en modelos en la nube recuerda incidentes anteriores, como la filtración por parte de empleados de Samsung de códigos de programación y reuniones secretas a través de «ChatGPT» en 2023. El caso actual en el Reino Unido subraya la diferencia crucial entre la automatización de apoyo a las tareas de oficina y la delegación de herramientas de inteligencia artificial en tareas de juicio humano y toma de decisiones trascendentales dentro del sistema judicial y de seguridad.