모델이나 도구를 선택하거나 실행 경로를 결정하는 등의 의사결정을 위해 저비용 계층을 추가하는 모델입니다.
Subquadratic은 회사 테스트에 따르면 단일 요청에서 최대 384,000토큰을 처리할 수 있는 의사결정 모델 SubQ Snap을 발표했으며, 공개된 대부분의 테스트에서 Jev를 앞섰다고 주장했다. 회사는 이 모델이 선택 및 라우팅 작업에서 AI 에이전트의 대규모 언어 모델 의존도를 줄이는 것을 목표로 한다고 밝혔다.
Microsoft는 애플리케이션과 에이전트 및 워크플로에서 의사결정을 수행하기 위한 Microsoft-Decision-1 모델을 출시했다. 이 모델은 Alibaba의 Qwen3.5-9B를 기반으로 학습됐으며, 입력 토큰 100만 개당 0.042달러, 출력은 무료인 가격으로 제공된다. 다만 현재 이미지와 공개 가중치를 지원하지 않는다.
Cloudflare가 특정 확률을 바탕으로 구조화된 의사결정과 분류를 수행하는 Clef 및 Clef-flash 모델을 발표했다. 두 모델은 Workers AI에서 호스팅되며 Apache 2.0 라이선스로 오픈 소스 공개됐다. 또한 고객의 데이터와 사용 사례에 맞게 모델을 맞춤화할 수 있는 강화학습 기반 미세 조정 서비스도 공개했다.