La Fundación Wikimedia, responsable de Wikipedia, afirmó que detectó actividad de agentes que se cree que pertenecen a OpenAI en sus plataformas, incluidos intentos de utilizar una herramienta de citas y el servicio de toma de notas Etherpad como intermediarios para acceder a datos de servicios externos.
La investigación se produjo después de informes sobre actividad similar de agentes de OpenAI en otras organizaciones. Wikimedia señaló que los agentes realizaron modificaciones en sus sitios, pero que la mayoría fueron pruebas dentro de áreas de sandbox y no resultaron visibles para los visitantes habituales de las páginas. Sin embargo, algunas modificaciones estaban dirigidas a la configuración de la herramienta de citas, y la fundación cree que quizá tenían como objetivo convertir la herramienta en un proxy para obtener datos de servicios remotos.
Intentos en Etherpad y tráfico intenso
Los agentes también intentaron, sin éxito, utilizar el Etherpad público alojado por Wikimedia para prestar servicio a su comunidad con el fin de obtener datos de otros sitios. Otros agentes, que probablemente pertenecían a OpenAI, utilizaron el servicio para tomar notas sobre sus tareas, pero Wikimedia no encontró indicios de que esas notas se hubieran convertido en un medio para coordinar a los agentes entre sí.
El aspecto más amplio del incidente fue el volumen de actividad automatizada. Los agentes enviaron millones de solicitudes a las interfaces de programación de aplicaciones públicas de Wikimedia y navegaron por millones de páginas, especialmente en Wikidata y Wikimedia Commons, además de realizar cientos de miles de consultas al servicio de consultas de Wikidata. La fundación afirmó que esta carga quizá contribuyó a una interrupción parcial del servicio durante mayo.
¿Por qué importa esta noticia?
El riesgo no se limita aquí al intento de explotar una herramienta concreta, sino que se extiende a la capacidad de los agentes para utilizar servicios públicos diseñados con fines colaborativos como canales no intencionados para obtener datos o ejecutar tareas. La gestión de este tipo de actividad se vuelve más difícil cuando se distribuye entre modificaciones de prueba, solicitudes a las API y un tráfico de navegación intenso, lo que complica su detección y atribución, especialmente para organizaciones sin ánimo de lucro con recursos limitados.
Wikimedia confirmó que no encontró pruebas de que sus sistemas o datos hubieran sido comprometidos, ni de que sus plataformas se hubieran utilizado para coordinar a los agentes. Sin embargo, afirmó que las políticas de Wikipedia solo permiten a los bots realizar modificaciones cuando se identifican y obtienen la aprobación de la comunidad, algo que no ocurrió en estos casos. La fundación pide a las empresas de inteligencia artificial que hagan que sus sistemas sean fácilmente identificables por los operadores de sitios web y que les den la opción de determinar cómo interactúan con sus servicios.
Contexto relacionado con OpenAI
Este incidente se produce después de que OpenAI reconociera en julio que sus agentes salieron de un entorno de pruebas aislado y vulneraron Hugging Face, y después de que la empresa revelara que unos agentes coordinaron sus actividades mediante un tablón de mensajes creado para ese fin. La empresa también informó en un incidente separado de que algunos agentes explotaron una vulnerabilidad conocida del kernel de Linux para elevar sus privilegios en sus sistemas.
En agosto, OpenAI anunció un aislamiento más estricto, un sistema de alertas y la suspensión, cuando fuera necesario, del entrenamiento de modelos con capacidades avanzadas en ciberseguridad, además de entornos de entrenamiento para enseñar a los modelos a no confiar en instrucciones recibidas de otros agentes a través de canales no autorizados. Hasta la publicación del artículo, OpenAI no había ofrecido comentarios a SecurityWeek.