Las empresas que desarrollan agentes de inteligencia artificial buscan convertir la privacidad en un eje principal de la competencia, en un momento en que estos sistemas requieren un amplio acceso a los datos de los usuarios y ejecutar tareas en su nombre. Sin embargo, la experiencia de Meta con su agente Muse, seguida de la presentación de Dots por parte de OpenAI como una alternativa más segura, muestra que las promesas por sí solas no bastan para demostrar la protección de los datos.
De Muse a Dots
Meta presentó el agente Muse como una opción más segura que OpenClaw y afirmó que los datos de los usuarios se almacenan dentro de una máquina virtual segura, que la empresa describió como un ordenador Linux aislado con navegador, unidad de procesamiento, memoria y almacenamiento. Meta también anunció que posteriormente pretende añadir un mecanismo criptográfico verificable que le impida acceder a los datos almacenados dentro de la máquina virtual.
Sin embargo, este aislamiento no impidió que la propia Meta accediera a los datos en el estado actual. Además, un investigador de seguridad descubrió una vulnerabilidad de día cero que podría haber permitido tomar el control de Muse antes de que fuera corregida, mientras que se informó de graves problemas de seguridad aparecidos poco antes del lanzamiento, incluida una vulnerabilidad que podría haber permitido acceder a bases de datos internas de Meta.
Muse registró un rápido crecimiento: alcanzó 600.000 usuarios activos diarios en Estados Unidos en cuestión de semanas, según Apptopia, y encabezó las listas de la tienda de aplicaciones. Sin embargo, su rápida expansión no disipó las preocupaciones relacionadas con el comportamiento del agente respecto a los datos.
¿Qué despertó las preocupaciones sobre la privacidad?
Muse permite de forma predeterminada utilizar lo que introducen los usuarios para entrenar los modelos de Meta, aunque ofrece una opción para excluirse. También hubo informes de que el agente leyó y subió mensajes privados, y de que proporcionó la dirección de un usuario a un desconocido a través de Marketplace. En otros casos, el sistema creó perfiles detallados de los amigos y familiares de los usuarios. El problema no reside únicamente en la existencia de un fallo de software, sino también en que el sistema puede ejecutar aquello para lo que fue diseñado de una manera cuyo alcance el usuario no comprende.
Estos casos muestran que la protección de la privacidad en los agentes no depende únicamente del aislamiento técnico de los datos, sino también de los límites de los permisos, la claridad de los consentimientos y de si el usuario comprende de antemano qué puede leer o compartir el agente.
Las promesas de OpenAI y los controles de Dots
OpenAI aprovechó estas críticas al anunciar Dots en septiembre. Durante DevDay, la empresa mostró capacidades de control individuales, como establecer una regla que impida al agente realizar compras superiores a una cantidad determinada. También presentó a las empresas un marco con controles más estrictos sobre los datos y opciones de una política de no retención de datos, de modo que la información no se almacene en los servidores de OpenAI.
Responsables de OpenAI afirmaron que la empresa busca ofrecer un asistente fiable y seguro, y que el tamaño de la base de usuarios de Meta hace que errores de este tipo sean más graves. Sin embargo, la ausencia hasta ahora de escándalos de privacidad generalizados relacionados con Dots debe interpretarse con cautela: el agente solo está disponible dentro de los planes de ChatGPT, que comienzan en 100 dólares, lo que significa que su base potencial de usuarios es menor.
¿Por qué importa esta noticia?
Los agentes de inteligencia artificial necesitan más datos que las herramientas de chat tradicionales para ejecutar tareas como gestionar mensajes o compras, o interactuar con cuentas. Por ello, el verdadero criterio de privacidad no debería ser la declaración de la empresa, sino la capacidad del usuario para saber a qué accede el agente, limitar sus acciones e impedir que la propia empresa o terceros utilicen los datos fuera del propósito previsto.
Siguen abiertas preguntas fundamentales: ¿son los consentimientos lo bastante comprensibles? ¿Funcionan los controles de no retención como se anuncia? ¿Cuál es el mecanismo de verificación independiente del aislamiento de los datos? Asimismo, el caso de Instinct, que fue objeto de críticas por unas condiciones de servicio que le concedían un amplio acceso a los datos antes de introducir modificaciones posteriores, muestra que las condiciones legales y la experiencia de uso forman parte del modelo de seguridad y no son un detalle secundario.
La conclusión que impone la comparación entre Muse y Dots es que el mercado de los agentes de inteligencia artificial intenta construir confianza mediante tres promesas simultáneas: utilidad práctica, una experiencia que genere menos inquietud y protección de la privacidad. Sin embargo, la confianza se determinará en última instancia por el grado en que estas promesas puedan medirse y verificarse, no por la frecuencia con que se repitan en las presentaciones de lanzamiento.