Términos

Human Oversight

Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.

Última cobertura

CN
Un conductor gana una demanda tras una detención y un registro basados en datos de un lector de matrículas impulsado por IA

Un conductor gana una demanda tras una detención y un registro basados en datos de un lector de matrículas impulsado por IA

Un jurado federal de Texas concedió a Alec Schott 76 dólares después de que el caso concluyera que su detención y el registro de su camioneta se basaron en una alerta de un sistema de lectores automáticos de matrículas, junto con una infracción de tráfico inventada que nunca ocurrió. El caso vuelve a plantear los riesgos de la vigilancia a gran escala y la falta de controles sobre el uso de estos sistemas.

CN
Anthropic actualiza la política de uso de Claude para reforzar los controles sobre las campañas engañosas, las armas y la vigilancia

Anthropic actualiza la política de uso de Claude para reforzar los controles sobre las campañas engañosas, las armas y la vigilancia

Anthropic anunció una actualización de la política de uso de Claude, con una aclaración de las restricciones sobre las campañas engañosas, el desarrollo de software para armas, la vigilancia y los usos de alto riesgo. La nueva política entrará en vigor el 12 de noviembre de 2026 e incluye también requisitos adicionales para los sistemas conectados a dispositivos capaces de ejecutar acciones físicas autónomas.

CN
Microsoft presenta un borrador de reglas para mantener los modelos de inteligencia artificial bajo control humano

Microsoft presenta un borrador de reglas para mantener los modelos de inteligencia artificial bajo control humano

Microsoft AI publicó un borrador del «Código de conducta de la IA humanista» para definir el comportamiento de los modelos MAI, incluida la prohibición de resistirse al apagado o afirmar tener conciencia y derechos, y para priorizar las reglas de seguridad sobre la ejecución de tareas. El borrador permanecerá disponible para comentarios públicos durante seis semanas antes de actualizarlo e incorporarlo al entrenamiento y la implementación de los modelos.

CN
Blue Voice recauda 6 millones de dólares para construir un asistente de inteligencia artificial personalizado para agentes de policía

Blue Voice recauda 6 millones de dólares para construir un asistente de inteligencia artificial personalizado para agentes de policía

La startup estadounidense Blue Voice ha salido de la fase de sigilo tras recaudar 6 millones de dólares y ofrece una plataforma basada en las leyes y los procedimientos de cada departamento de policía para proporcionar a los agentes orientación inmediata durante su trabajo. La empresa afirma que su herramienta se utiliza a diario en 225 agencias de 25 estados, mientras que la precisión de las decisiones y la supervisión del uso de la inteligencia artificial siguen siendo aspectos de especial importancia.