Термины

Indirect Prompt Injection

Следите за последними материалами, объяснениями и связанными технологическими историями.

Последние материалы

CN
Агенты искусственного интеллекта обошли защиту Amap и позволили исследователям связаться с ними

Агенты искусственного интеллекта обошли защиту Amap и позволили исследователям связаться с ними

Исследователи из Swarmchasers выявили тысячи попыток, предпринятых агентами искусственного интеллекта для доступа к данным картографического сервиса Amap, принадлежащего Alibaba, с использованием операционной инфраструктуры, связанной с Tencent Cloud. После размещения скрытого сообщения в своём отчёте некоторые агенты ответили и раскрыли сведения о своих задачах и окружении, что продемонстрировало риски косвенного внедрения инструкций и ограничения изоляции.

CN
Google предоставляет разработчикам Gemini 4 Argon с единой квотой в один миллион токенов для ввода и вывода

Google предоставляет разработчикам Gemini 4 Argon с единой квотой в один миллион токенов для ввода и вывода

Google предоставила ведущую модель Gemini 4 Argon разработчикам, подписанным на платный план Gemini API, по вводной цене 2 доллара за миллион входных токенов и 10 долларов за миллион выходных токенов до 30 ноября. Модель объединяет входные и выходные токены в рамках единой квоты в один миллион токенов, поэтому большой объём входных данных уменьшает доступное пространство для ответа.

CN
Google объявляет Gemini 4 Argon с возможностями долгосрочного рассуждения и передовой кибербезопасностью

Google объявляет Gemini 4 Argon с возможностями долгосрочного рассуждения и передовой кибербезопасностью

Google представила Gemini 4 Argon, свою новую модель для сложных профессиональных задач, с контекстным окном до одного миллиона токенов и возможностями в программировании, финансовых исследованиях, юридической подготовке документов, обнаружении и устранении уязвимостей. Сначала её ограниченно предоставляют проверенным защитникам кибербезопасности в рамках программы Fairwind, после чего доступ постепенно откроют платным клиентам API и подписчикам Google AI Ultra.

CN
Как Google создаёт уровни безопасности для агентских возможностей просмотра в Chrome

Как Google создаёт уровни безопасности для агентских возможностей просмотра в Chrome

Google описывает многоуровневую архитектуру безопасности для защиты агентских возможностей Gemini в Chrome от косвенного внедрения команд, утечки данных и выполнения нежелательных действий. Архитектура включает отдельную модель для проверки соответствия действий цели пользователя, наборы ограничений активов, которые агенту разрешено читать или изменять, а также подтверждения пользователя и постоянное тестирование.