Ciberseguridad

Una vulnerabilidad en Hugging Face permite secuestrar modelos de inteligencia artificial y envenenar sus resultados

Investigadores de seguridad han revelado una vulnerabilidad en la plataforma Hugging Face que permite secuestrar las cuentas de los desarrolladores de modelos mediante el control de sus dominios, lo que abre la puerta a ataques a la cadena de suministro al modificar los pesos de los modelos sin ser detectados.

2026-11-17
3 min de lectura
14 visitas
certi.news Editorial Team
Una vulnerabilidad en Hugging Face permite secuestrar modelos de inteligencia artificial y envenenar sus resultados

Un equipo de investigadores de seguridad ha logrado demostrar una grave vulnerabilidad en la plataforma Hugging Face, que permite a los atacantes tomar el control total de las cuentas de los desarrolladores de modelos de inteligencia artificial. Esta vulnerabilidad fue ilustrada mediante el secuestro de la cuenta del modelo Kokoro, un popular modelo de conversión de texto a voz (Text-to-Speech) que goza de gran aceptación y es utilizado en proyectos tecnológicos importantes por empresas como Google, NVIDIA, AMD, Intel y Amazon Web Services.

¿Cómo se llevó a cabo el secuestro?

Los investigadores, liderados por Alon Hertz, aprovecharon la ausencia de mecanismos estrictos de verificación de propiedad de cuentas en la plataforma. El equipo registró el dominio de internet que figuraba en el archivo de donaciones del proyecto Kokoro y luego utilizaron dicho dominio para restablecer la contraseña de la cuenta del desarrollador en Hugging Face, lo que les otorgó acceso total a la cuenta.

¿Qué significa esto para los usuarios?

Los investigadores explicaron que el verdadero peligro no radica solo en el robo de la cuenta, sino en la capacidad de ejecutar ataques a la cadena de suministro. En lugar de incluir software malicioso tradicional que podría ser detectado por programas antivirus, los investigadores modificaron los "pesos" (weights) de la red neuronal del propio modelo. Esta modificación hace que el modelo produzca resultados de audio diferentes al texto ingresado, manteniendo el código de ejecución y la infraestructura del modelo sin cambios, lo que hace que el ataque sea invisible para los sistemas de escaneo tradicionales.

¿Por qué es importante esta noticia?

Este hackeo pone de relieve un problema de confianza más amplio en el ecosistema de modelos de código abierto. La plataforma Hugging Face no verifica actualmente la identidad de los editores de modelos ni si la cuenta sigue bajo el control de su propietario original. Dado que muchos sistemas de producción dependen de las actualizaciones automáticas de los modelos, cualquier actualización maliciosa enviada a través de una cuenta comprometida llegaría directamente a miles de sistemas que dependen de dicho modelo, sin despertar sospechas en las herramientas de seguridad actuales.

Los investigadores subrayan que el modelo Kokoro fue solo un ejemplo destacado y que cualquier cuenta en la plataforma podría estar expuesta al mismo escenario, donde los atacantes podrían esperar un largo periodo antes de enviar una actualización maliciosa al modelo, lo que hace que la detección de estos ataques sea extremadamente difícil en entornos de trabajo reales.

Fuente de la noticia
BleepingComputer
Abrir fuente original ↗
c
Autor

certi.news Editorial Team

De la misma categoría

También te puede interesar

Ver todas las noticias