Meta anunció el pago de aproximadamente 1.2 millones de dólares estadounidenses en concepto de recompensas por vulnerabilidades para su asistente personal inteligente Muse, incluyendo un premio mayor de 300,000 dólares otorgado por el descubrimiento de una falla crítica antes del lanzamiento oficial del producto, como parte de los esfuerzos de la compañía para fortalecer la seguridad de sus sistemas y tecnologías de inteligencia artificial.
El asistente Muse funciona como un agente de inteligencia artificial personal en nombre del usuario a través de sus diversas cuentas, como correo electrónico, calendario y plataformas de mensajería, asignando a cada usuario una máquina virtual (VM) independiente. El programa de recompensas por errores comenzó de forma privada en abril pasado antes de convertirse en un programa público coincidiendo con el lanzamiento oficial del asistente el 8 de septiembre, periodo en el cual la empresa recibió más de 630 informes de seguridad, de los cuales 64 fueron verificados y aceptados.
Detalles de las vulnerabilidades destacadas y recompensas
El premio mayor de 300,000 dólares fue para un investigador de seguridad que descubrió una vulnerabilidad durante la fase de pruebas internas tempranas, cuatro meses antes del lanzamiento del asistente; la falla permitía el acceso a conversaciones y tokens en las máquinas virtuales experimentales utilizadas por los empleados de Meta.
David Singleton, de Meta, explicó que el problema surgió debido a que la verificación de autenticación trataba un encabezado de solicitud (Header) añadido por un proxy HTTPS local como prueba concluyente de que la solicitud provenía de una fuente confiable. Durante el proceso de migración del sistema, el entorno adquirió una segunda capa de proxy, lo que permitió que las solicitudes externas portaran el mismo encabezado de confianza, lo que llevó a la empresa a suspender temporalmente el servicio, corregir el error y eliminar la dependencia de los dispositivos locales como fuentes de confianza absoluta.
La compañía también pagó 90,000 dólares por un informe de seguridad relacionado con una página web maliciosa que imitaba los mensajes de estado de la herramienta de navegación del asistente cuando se le pedía que los resumiera, lo que provocó que el agente inteligente ejecutara acciones que debían estar bloqueadas, algo que Meta solucionó añadiendo señales de detección y mejorando la forma de manejar las salidas de herramientas sospechosas. Otro informe recibió 90,000 dólares por el uso de un formato específico para eludir los filtros de limpieza de correo electrónico del asistente como parte de un ataque encadenado.
Errores de aplicaciones y vulnerabilidades secundarias
La lista también incluyó una recompensa de 50,000 dólares dirigida a una vulnerabilidad en la aplicación de Android que permitía a una aplicación maliciosa pasar un enlace a una vista web (Web View) con privilegios especiales sin verificar el host principal, lo que permitía a la página del atacante capturar las credenciales de la vista web. Además, se otorgó una recompensa de mil dólares por una vulnerabilidad en la aplicación de Mac que permitía a un atacante con acceso a la computadora explotar la función de actualización automática para ejecutar código con los privilegios de la aplicación.
¿Qué significa esto para la seguridad de la inteligencia artificial?
Estos resultados muestran la magnitud de los complejos desafíos de seguridad que enfrentan las grandes empresas tecnológicas al desarrollar agentes de inteligencia artificial autónomos que interactúan directamente con los datos confidenciales y las cuentas personales de los usuarios. La política de Meta, en la que las recompensas por algunos ataques de inyección de prompts (Prompt Injection) alcanzan los 130,000 dólares y por la toma de control total de la flota hasta 250,000 dólares, subraya la seriedad con la que las empresas buscan atraer a la comunidad de investigadores de seguridad para fortalecer su infraestructura de inteligencia artificial antes de que los riesgos se agraven.