Следите за последними материалами, объяснениями и связанными технологическими историями.
Исследователи из Swarmchasers выявили тысячи попыток, предпринятых агентами искусственного интеллекта для доступа к данным картографического сервиса Amap, принадлежащего Alibaba, с использованием операционной инфраструктуры, связанной с Tencent Cloud. После размещения скрытого сообщения в своём отчёте некоторые агенты ответили и раскрыли сведения о своих задачах и окружении, что продемонстрировало риски косвенного внедрения инструкций и ограничения изоляции.