Anthropic은 Claude Code 프로그래밍 도구와의 긴 작업 세션을 가속화하기 위해 특별히 설계된 기술적 기능인 "메시지 스레드(Message Threads)" 기능을 퍼블릭 베타(Public Beta) 단계로 출시한다고 발표했습니다. 이 조치는 대화 컨텍스트가 커질 때 발생하는 속도 저하 문제를 해결하여, 개발자들이 거대하고 복잡한 프로그래밍 프로젝트에서도 더 빠른 응답을 얻을 수 있도록 하는 것을 목표로 합니다.
성능 속도의 가시적인 개선
회사가 발표한 기술 데이터에 따르면, 새로운 기능은 컨텍스트 크기가 50만에서 100만 토큰(Token) 사이인 요청에 대해 "첫 번째 토큰 도달 시간(Time to First Token - TTFT)"을 약 35%까지 단축하는 데 성공했습니다. 이러한 개선은 모델이 이전보다 훨씬 빠르게 프로그래밍 답변 생성을 시작함을 의미하며, 이는 프로젝트 전체의 컨텍스트를 유지해야 하는 지속적인 프로그래밍 작업에 Claude Code를 사용하는 개발자들에게 매우 중요합니다.
"메시지 스레드" 기술은 어떻게 작동하나요?
전통적으로 메시지 API(Messages API)는 모든 이전 메시지와 도구 호출(Tool Calls)을 포함한 전체 대화 기록을 전송해야 하는 독립적인 이벤트로 각 새로운 요청을 처리했습니다. 세션이 성장함에 따라 전송되는 데이터의 양이 꾸준히 증가했고, 이는 모델이 생각하거나 응답을 시작하기 전에 데이터를 처리하는 데 더 많은 시간을 소비하게 만들었습니다.
새로운 기능은 이러한 메커니즘을 근본적으로 바꿉니다. API가 새로운 요청마다 과거 데이터를 다시 보낼 필요 없이 연속적인 "스레드"에 대화 컨텍스트를 유지할 수 있도록 합니다. 이러한 처리 속도의 기술적 개선에도 불구하고, Anthropic은 토큰 과금(Token Billing) 시스템은 변경 없이 그대로 유지될 것이라고 확인했습니다. 즉, 개발자들은 비용의 증가나 감소 없이 현재와 동일한 비용으로 더 빠른 성능을 얻게 됩니다.
기술적 제한 및 사용 고려 사항
속도 면에서 큰 이점이 있음에도 불구하고, "메시지 스레드" 기능에는 개발자가 주의해야 할 시간 제한이 있습니다. 스레드(Thread)는 비활성 또는 활동이 없는 상태가 5분만 지나도 만료됩니다. 이는 개발자가 이 한도를 초과하여 도구와 상호작용을 중단할 경우, 시스템이 다음 요청에서 전체 컨텍스트를 다시 구축해야 함을 의미하며, 이로 인해 응답 시간이 업데이트 전의 이전 수준으로 돌아갈 수 있습니다.
이 기능은 현재 대부분의 Claude Code 사용자에게 기본적으로 활성화되어 있으며, Messages API를 통해 자신만의 AI 에이전트(AI Agents)를 구축하는 개발자, 특히 즉각적인 응답이 필요한 대량의 데이터나 빈번한 도구 호출을 다루는 개발자들에게도 제공됩니다.
개발자들에게 실질적으로 무엇이 바뀌나요?
이번 업데이트는 Claude 모델의 특징인 거대한 "컨텍스트 창(Context Window)" 문제를 직접적으로 해결하기 위한 대응입니다. Anthropic은 모델이 수십만 개의 토큰을 수용할 수 있는 능력을 자랑하지만, 사용자가 새로운 요청을 보낼 때마다 이 방대한 양을 처리하는 데 따르는 대기 시간이 항상 걸림돌이었습니다.
- 대기 시간 단축: 코드 생성 시작 속도가 빨라져 프로그래머의 집중력 분산을 줄이고 생산성을 높입니다.
- 프로그래밍 에이전트의 효율성: 수백 번의 연속적인 작업을 수행하는 에이전트가 여러 단계가 필요한 복잡한 작업을 더 원활하게 실행할 수 있게 됩니다.
- 비용 안정성: 현재의 가격 구조를 유지함으로써 개발자들은 사용 예산을 다시 계산할 필요 없이 성능 개선을 보장받습니다.
뉴스 출처
The New Stack - Software Development
원문 보기 ↗