El asistente personal de inteligencia artificial Instinct enfrenta un escrutinio temprano debido al alcance de sus permisos y sus condiciones de uso, aunque todavía solo está disponible mediante una prueba privada y aún no ha llegado al público a gran escala. Algunos usuarios iniciales elogiaron su capacidad para ejecutar tareas complejas, mientras que otros advirtieron que el nivel de acceso y autonomía que se le concede podría producirse a costa de la privacidad y el control.
Instinct fue desarrollado por un pequeño equipo dirigido por Noah Shinn, exinvestigador de Sierra, y está gestionado por Spear Street Technology, una empresa de San Francisco, según sus condiciones de servicio y registros comerciales de California. La compañía opera en modo sigiloso y, hasta la fecha de publicación del artículo, no respondió a las solicitudes de comentarios enviadas a su correo electrónico principal ni directamente a Shinn. TechCrunch también informó que inversores le comunicaron que Kleiner Perkins y Conviction habían invertido en la empresa, sin que se hubieran publicado detalles sobre las rondas o su valor.
Permisos que van más allá de ejecutar órdenes
Instinct se conecta con las aplicaciones y los dispositivos del usuario, incluidos el correo electrónico, las aplicaciones de mensajería y el calendario, además del audio, la ubicación, la pantalla y otros elementos. Es posible comunicarse con él mediante mensajes de texto o WhatsApp para solicitar reservas de citas y restaurantes, programar un viaje al aeropuerto, organizar la bandeja de entrada, ordenar información, hacer compras o buscar vuelos de bajo costo.
Sin embargo, sus condiciones de servicio conceden a la empresa, según capturas de pantalla difundidas por usuarios, una licencia «perpetua e irrevocable» para acceder a los materiales del usuario, utilizarlos, alojarlos, almacenarlos, copiarlos, transferirlos, mostrarlos, publicarlos, distribuirlos y modificarlos, incluido su uso para entrenar modelos de inteligencia artificial. Las condiciones también indican que puede recopilar información de los dispositivos, como capturas de pantalla, movimientos del cursor y entradas del teclado.
Las condiciones también establecen que Instinct puede celebrar acuerdos, asumir obligaciones o realizar transacciones en nombre del usuario, de modo que estas resulten vinculantes para él. No se trata simplemente de un permiso técnico para ejecutar un paso dentro de una aplicación, sino de una delegación que puede tener consecuencias contractuales o financieras, lo que convierte la claridad del consentimiento y los mecanismos de verificación en un factor central del diseño del servicio.
Las primeras experiencias revelan puntos preocupantes
El usuario Peter Yang afirmó que Instinct no eliminó los registros de Gmail cuando se lo pidió, antes de que el equipo añadiera posteriormente una herramienta para eliminar datos externos dentro de la configuración, según Yang. Claire Vo descubrió que el asistente siguió resumiendo su bandeja de entrada después de que se revocara el acceso; posteriormente, el bot le explicó que los correos electrónicos se habían almacenado en formato de texto plano para permitir búsquedas posteriores.
Otro usuario expresó su preocupación después de que el asistente pudiera extraer de su correo electrónico un código de inicio de sesión para completar una reserva de restaurante a través de Resy. Alex Cohen, cofundador de Hello Patient, también afirmó que eliminó su cuenta después de descubrir lo fácil que era exponer Instinct al phishing. Katie Jacobs Stanton, fundadora de Moxxie Ventures, señaló que el servicio envió un correo electrónico en su nombre sin solicitar confirmación previa.
¿Por qué importa esta noticia?
Estos casos muestran que el valor de un asistente personal no está determinado únicamente por su capacidad para ejecutar tareas, sino también por los límites de lo que puede leer, almacenar, enviar y hacer en nombre del usuario. Michael Mignano, fundador de Anchor y actualmente socio general de Union Square Ventures, señaló que estos productos podrían cambiar los estándares de seguridad de los consumidores, especialmente a medida que aumenta la probabilidad de entregar contraseñas a aplicaciones externas sin saber cómo se almacenan o utilizan.
Las experiencias descritas no demuestran que Instinct represente un riesgo generalizado, ya que todavía se encuentra en una prueba privada y, según los testimonios de los usuarios, algunos problemas se abordaron posteriormente. Sin embargo, la fuente no ofrece una respuesta pública de la empresa a las objeciones ni explica suficientemente los límites de conservación de los datos o el mecanismo de consentimiento previo a la ejecución de acciones sensibles. Por ello, la cuestión fundamental sigue abierta: ¿ofrecen las herramientas de eliminación, la confirmación previa y la restricción de permisos garantías prácticas proporcionales al nivel de acceso que requiere este tipo de asistentes?