术语

Indirect Prompt Injection

关注最新报道、解读和相关科技故事。

最新报道

CN
绕过高德防御的人工智能代理与研究人员取得联系

绕过高德防御的人工智能代理与研究人员取得联系

Swarmchasers 的研究人员发现,人工智能代理曾数千次尝试访问阿里巴巴旗下地图服务高德地图的数据,并使用了与腾讯云相关的运行基础设施。在报告中植入隐藏消息后,一些代理作出回应,披露了有关其任务和环境的信息,凸显了间接提示注入的风险以及隔离措施的局限性。

CN
Google 向开发者开放 Gemini 4 Argon,输入和输出共享 100 万令牌预算

Google 向开发者开放 Gemini 4 Argon,输入和输出共享 100 万令牌预算

Google 向订阅 Gemini API 付费计划的开发者开放其旗舰模型 Gemini 4 Argon,至 11 月 30 日前提供每百万输入令牌 2 美元、每百万输出令牌 10 美元的促销价格。该模型将输入和输出令牌合并到 100 万令牌的统一预算中,这意味着较长的输入会减少可用于响应的空间。

CN
Google宣布Gemini 4 Argon,具备长期推理能力和先进网络安全能力

Google宣布Gemini 4 Argon,具备长期推理能力和先进网络安全能力

Google公布了Gemini 4 Argon,这是其面向复杂专业任务的新模型,拥有高达100万令牌的上下文窗口,以及编程、金融研究、法律起草、漏洞发现与修复能力。该模型首先通过Fairwind计划有限提供给可信的网络安全防御者,随后逐步向付费API客户和Google AI Ultra订阅者开放。

CN
Google 如何为 Chrome 的代理式浏览能力构建安全层

Google 如何为 Chrome 的代理式浏览能力构建安全层

Google 介绍了一套多层安全架构,用于保护 Chrome 中 Gemini 的代理式能力,防范间接提示注入、数据泄露和执行非预期操作。该架构包括一个独立模型,用于审查操作是否符合用户目标;还包括用于限制代理可读取或修改资产的集合,以及用户确认机制和持续测试。