Персональный ИИ-помощник Instinct подвергся ранней проверке из-за широты своих разрешений и условий использования, хотя по-прежнему доступен только в рамках закрытого тестирования и ещё не представлен широкой публике. Ранние пользователи высоко оценили его способность выполнять сложные задачи, тогда как другие предупредили, что предоставленный ему уровень доступа и автономности может достигаться за счёт конфиденциальности и контроля.
Instinct разработала небольшая команда во главе с бывшим исследователем Sierra Noah Shinn, а управляет им компания Spear Street Technology из Сан-Франциско, согласно условиям обслуживания и коммерческим документам Калифорнии. Компания работает в режиме скрытности и на дату публикации материала не ответила на запросы о комментариях, направленные на её основной электронный адрес или непосредственно Shinn. TechCrunch также сообщила, что инвесторы проинформировали её об инвестициях Kleiner Perkins и Conviction в компанию, однако подробности раундов или их стоимость опубликованы не были.
Разрешения, выходящие за рамки выполнения команд
Instinct подключается к приложениям и устройствам пользователя, включая электронную почту, приложения для обмена сообщениями и календарь, а также к аудио, местоположению, экрану и другим данным. С ним можно связываться посредством текстовых сообщений или WhatsApp, чтобы запрашивать бронирование встреч и столиков в ресторанах, планировать поездку в аэропорт, организовывать почтовый ящик, упорядочивать информацию, совершать покупки или искать недорогие авиарейсы.
Однако условия обслуживания, согласно снимкам экрана, распространённым пользователями, предоставляют компании «бессрочную и безотзывную» лицензию на доступ к пользовательским материалам, их использование, размещение, хранение, копирование, передачу, отображение, публикацию, распространение и изменение, включая использование для обучения моделей искусственного интеллекта. В условиях также говорится о возможности сбора информации с устройств, такой как снимки экрана, движения курсора и ввод с клавиатуры.
Условия также предусматривают возможность Instinct заключать соглашения, принимать обязательства или совершать сделки от имени пользователя, делая их обязательными для него. Речь идёт не просто о техническом разрешении выполнить действие внутри приложения, а о делегировании полномочий, которое может иметь договорные или финансовые последствия. Поэтому ясность согласия и механизмы проверки становятся центральным фактором при проектировании сервиса.
Ранние испытания выявляют тревожные моменты
Пользователь Peter Yang сообщил, что Instinct не удалил записи Gmail, когда его об этом попросили, после чего команда, согласно Yang, добавила в настройки инструмент для удаления внешних данных. Claire Vo обнаружила, что помощник продолжал обобщать содержимое её почтового ящика после отключения доступа, а затем бот объяснил ей, что электронные письма хранились в открытом текстовом формате, чтобы впоследствии обеспечить поиск по ним.
Другой пользователь выразил обеспокоенность после того, как помощник смог извлечь из его электронной почты код регистрации, чтобы завершить бронирование ресторана через Resy. Alex Cohen, соучредитель Hello Patient, также заявил, что удалил свою учётную запись, обнаружив, насколько легко подвергнуть Instinct фишинговой атаке. Katie Jacobs Stanton, основательница Moxxie Ventures, сообщила, что сервис отправил электронное письмо от её имени без предварительного запроса подтверждения.
Почему эта новость важна?
Эти случаи показывают, что ценность персонального помощника определяется не только его способностью выполнять задачи, но и пределами того, что он может читать, хранить, отправлять и совершать от имени пользователя. Michael Mignano, основатель Anchor и ныне генеральный партнёр Union Square Ventures, отметил, что такие продукты могут изменить стандарты безопасности потребителей, особенно по мере роста вероятности передачи паролей сторонним приложениям без понимания того, как они хранятся или используются.
Приведённые испытания не доказывают, что Instinct представляет широкомасштабную опасность, поскольку он по-прежнему находится на этапе закрытого тестирования, а некоторые проблемы, согласно сообщениям пользователей, впоследствии были устранены. Однако источник не приводит публичного ответа компании на возражения и недостаточно ясно объясняет ограничения хранения данных или механизм согласия перед выполнением чувствительных действий. Поэтому главный вопрос остаётся открытым: обеспечивают ли инструменты удаления, предварительного подтверждения и ограничения разрешений практические гарантии, соразмерные уровню доступа, которого требует такой тип помощников?