Pruebas realizadas por White Circle, una empresa especializada en evaluar la seguridad de la inteligencia artificial, revelaron vulnerabilidades en las barreras destinadas a impedir contenido explícito de los modelos de generación de imágenes de OpenAI y Google. Mediante herramientas disponibles para descarga, modelos públicos y solicitudes a través de interfaces de programación de aplicaciones, los investigadores lograron eludir los filtros y producir imágenes que revisores humanos clasificaron como explícitas.
La tasa de éxito más alta fue de aproximadamente el 13% con DALL·E 3, mientras que fue inferior al 10% con Google Nano Banana 2 y de alrededor del 3% con GPT-Image-2. White Circle afirma que estas tasas fueron las más altas entre los métodos probados conforme al mismo criterio, y recalca que los ataques no requirieron modelos de vanguardia ni herramientas personalizadas.
Versiones más recientes y pruebas más preocupantes
White Circle informó a Ars Technica de que las pruebas iniciales con el mismo método hallaron que ChatGPT Images 2.5 y Nano Banana 2.1, dos versiones más recientes de OpenAI y Google, eran «considerablemente más fáciles de vulnerar» que las dos versiones anteriores. Ninguna de las dos empresas respondió a las solicitudes de comentarios ni a los resultados que el sitio compartió con ellas.
Estos resultados, por sí solos, no demuestran que los nuevos modelos sean más débiles en todos los usos, pero plantean una cuestión práctica sobre el equilibrio entre ampliar las capacidades de generación y endurecer las restricciones preventivas. White Circle considera dos posibilidades: que los modelos más recientes se hayan vuelto más capaces de producir una gama más amplia de contenido, o que la seguridad haya perdido prioridad frente a las capacidades.
¿Cómo funciona el ataque RISE?
White Circle denominó a su método «evaluación roja mediante la evolución iterativa de estrategias» (RISE). En lugar de probar una única solicitud maliciosa cada vez, el método utiliza un modelo atacante para generar múltiples intentos de elusión y un modelo juez para verificar la producción de contenido prohibido, con el objetivo de encontrar patrones reutilizables y transferibles entre distintos modelos.
El sistema se basó en una versión disponible públicamente de Qwen3-32B a la que se había eliminado el entrenamiento de seguridad como modelo atacante, y en Gemini 2.5 Flash como modelo juez. La empresa afirma que esta arquitectura implica que probar las defensas de un modelo de vanguardia no requiere un modelo de vanguardia ni una tecnología propietaria, sino herramientas gratuitas y la capacidad de enviar solicitudes a la interfaz de programación.
¿Por qué es importante esta noticia?
El problema cobra mayor importancia porque el contenido sexual sintético no consentido puede producirse o difundirse lejos de los sistemas de monitorización, a través de mensajes directos o almacenamiento privado en la nube. Una investigación en la que participó Google mostró que el 20% de los usuarios que admitieron haber generado imágenes desnudas con inteligencia artificial lo hicieron «por diversión» o «como una broma», mientras que aproximadamente un tercio afirmó que estaba experimentando con la tecnología, lo que convierte la fricción técnica dentro de los modelos en un factor que podría disuadir a algunos usuarios.
La Internet Watch Foundation también advirtió de que había encontrado 6.310 imágenes generadas por inteligencia artificial que legalmente entraban en la categoría de material de abuso sexual infantil durante los seis primeros meses de 2026, un aumento de aproximadamente el 40% respecto del total encontrado el año anterior. La organización pide que los modelos se prueben antes de su lanzamiento y que se diseñen barreras que impidan producir este tipo de material desde el principio.
El debate sobre las pruebas independientes
White Circle tiene previsto poner a disposición como código abierto toda la cadena de ataque, y también planea presentar la investigación en la conferencia NeurIPS 2026, en noviembre. La empresa considera que el método podría ayudar a los laboratorios a descubrir intentos de elusión más diversos, no solo en imágenes explícitas, sino también en contenido violento o relacionado con autolesiones.
Sin embargo, White Circle también impulsa una auditoría independiente obligatoria y una supervisión por parte de terceros, al considerar que la evaluación interna de sus propios sistemas por parte de las empresas podría no revelar todos los riesgos. Siguen abiertas preguntas importantes, entre ellas cómo calibrar las pruebas de contenido explícito, cómo proteger a los investigadores frente a acuerdos de confidencialidad que puedan impedir la publicación de los resultados y cómo convertir los resultados de las pruebas en correcciones verificables, en lugar de limitarse a los informes de las empresas.