Anthropic 公司宣布推出一项名为“消息线程”(Message Threads)的新功能,目前处于公开测试阶段(Public Beta)。该技术专为加速与编程工具 Claude Code 的长会话工作流而设计。此举旨在解决对话上下文庞大时出现的变慢问题,让开发者即使在庞大复杂的编程项目中也能获得更快的响应。
显著的性能速度提升
根据该公司发布的 tehnical(技术)数据,对于上下文大小在 50 万到 100 万个词元(Token)之间的请求,新功能成功将“首个词元到达时间”(Time to First Token - TTFT)缩短了约 35%。这一改进意味着模型开始生成代码回复的速度比以往快得多,这对于依赖 Claude Code 进行需要保持完整项目上下文的持续编程任务的开发者来说至关重要。
“消息线程”技术是如何工作的?
传统上,消息 API(Messages API)将每个新请求视为独立事件,需要发送完整的对话历史记录,包括所有先前的消息和工具调用(Tool Calls)。随着会话的发展,发送的数据量稳步增长,导致模型开始思考或回复之前花费更多时间进行数据处理。
新功能从根本上改变了这一机制;它允许 API 在连续的“线程”中保留对话上下文,而无需在每个新请求中重新发送历史数据。尽管处理速度有了这一技术改进,Anthropic 强调,词元计费系统(Token Billing)将保持不变,这意味着开发者将以当前的成本获得更快的性能,既不会增加也不会减少。
技术限制与使用注意事项
尽管速度带来了巨大好处,但“消息线程”功能也有开发者需要注意的时间限制;线程(Thread)在闲置或不活动五分钟后就会过期。这意味着,如果开发者停止与该工具交互的时间超过此限制,系统将在下一个请求中完全重建上下文,这可能会将响应时间恢复到更新前的水平。
该功能目前默认对大多数 Claude Code 用户启用,也可供通过 Messages API 构建自己的 AI 代理(AI Agents)的开发者使用,特别是那些处理大量数据或需要即时响应的重复工具调用的开发者。
对开发者而言实际发生了什么变化?
此次更新直接回应了 Claude 模型所具备的大型“上下文窗口”带来的挑战。虽然 Anthropic 为其模型能够容纳数十万个词元而感到自豪,但障碍始终是每次用户发送新请求时处理如此巨大体量所关联的等待时间。
- 减少等待时间:开始生成代码的速度降低了程序员的分心并提高了他们的生产力。
- 编程代理的效率:执行数百个连续操作的代理在执行需要多步骤的复杂任务时将变得更加流畅。
- 成本稳定:保持当前的定价结构可确保开发者获得性能改进,而无需重新计算使用预算。
新闻来源
The New Stack - Software Development
查看原始来源 ↗