Investigadores de seguridad de la empresa "Claroc" han anunciado el descubrimiento de una vulnerabilidad en el nuevo asistente de inteligencia artificial "Muse", propiedad de la empresa "Meta", que permite el acceso a información altamente sensible perteneciente a individuos y empresas. El problema radica en la forma en que se generan los enlaces web para compartir conversaciones, ya que resultó que son fácilmente descubribles a través de herramientas de búsqueda públicas, a pesar de las afirmaciones previas de la empresa de que la herramienta fue diseñada teniendo en cuenta la máxima privacidad.
¿Cómo se filtran los datos?
La función de compartir en Muse se basa en la creación de un enlace único (URL) que permite a cualquier persona que lo posea ver el contenido de la conversación, imágenes o resultados de búsqueda. Por lo general, las empresas utilizan cadenas de texto largas y complejas en estos enlaces para evitar que sean adivinadas. Sin embargo, los investigadores descubrieron que una decisión de diseño central en la estructura de estos enlaces los hizo vulnerables al descubrimiento masivo.
Los investigadores utilizaron una técnica conocida como "búsqueda pasiva en el sistema de nombres de dominio" (Passive DNS search) a través de servicios comerciales disponibles, lo que les permitió identificar 6,800 enlaces compartidos por los usuarios de Muse. Una vez abierta una muestra de estos enlaces, aparecieron datos que no debían estar disponibles para el público bajo ninguna circunstancia.
Ejemplos de datos expuestos
El informe reveló contenido impactante incluido en los enlaces filtrados, entre los que destacan:
- Notas de un candidato a un puesto de liderazgo que se preparaba para una llamada confidencial con un laboratorio de inteligencia artificial líder, que incluían nombres de contactos internos y fechas de reuniones.
- Una revisión de los ingresos internos de una empresa nacional de marketing, dirigida específicamente al director ejecutivo.
- Una solicitud de préstamo para el propietario de una pequeña empresa, que detalla el monto solicitado y los detalles del negocio.
- Una lista de tareas que incluye una alerta de un banco sobre una operación de fraude, con números de cuenta parciales y detalles de las transacciones.
- Un informe de rendimiento interno de un inversor inmobiliario, que incluye direcciones de propiedades específicas y cifras exactas de ingresos e hipotecas.
- El calendario anual de vacaciones de los empleados de una entidad laboral, que enumera a decenas de empleados con sus fechas de ausencia.
Contradicción con las promesas de privacidad
Este descubrimiento coloca a "Meta" en una posición embarazosa, especialmente porque el director ejecutivo, Mark Zuckerberg, había declarado el mes pasado que Muse había sido "construido desde cero con un enfoque en la privacidad y la seguridad". Los investigadores explicaron que el proceso de recopilación de estos enlaces no requirió un gran esfuerzo como se esperaba, sino que se realizó mediante una sola consulta gracias al uso del subdominio (cf.metaaiusercontent.com) para todos los enlaces compartidos, lo que facilitó su rastreo y archivo en bases de datos DNS públicas una vez que se hizo clic en ellos por primera vez.
¿Qué cambia prácticamente para los usuarios?
Este incidente demuestra que la función de "compartir mediante enlace" en las herramientas de inteligencia artificial conlleva riesgos de seguridad latentes si la infraestructura de los dominios no se asegura estrictamente. Para los usuarios, esto significa que cualquier conversación que se convierta en un enlace para compartir debe considerarse "pública" técnicamente, incluso si el enlace no se publica abiertamente en las plataformas sociales. Se recomienda a los usuarios de herramientas de inteligencia artificial evitar compartir conversaciones que contengan datos financieros, secretos comerciales o información personal específica, y confiar en su lugar en copiar los textos manualmente y asegurarlos a través de canales de comunicación cifrados para garantizar que no se filtren a los motores de búsqueda o bases de datos de seguridad.