최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
의사결정 모델(Decision Models)은 대규모 언어 모델(LLM)의 더 빠르고 저렴한 대안으로 급성장하고 있으며, 사용자 고유 데이터를 사용하여 이러한 모델을 맞춤화하는 새로운 트렌드가 부상하고 있습니다.
Subquadratic은 회사 테스트에 따르면 단일 요청에서 최대 384,000토큰을 처리할 수 있는 의사결정 모델 SubQ Snap을 발표했으며, 공개된 대부분의 테스트에서 Jev를 앞섰다고 주장했다. 회사는 이 모델이 선택 및 라우팅 작업에서 AI 에이전트의 대규모 언어 모델 의존도를 줄이는 것을 목표로 한다고 밝혔다.
TypeSafe AI가 텍스트가 아닌 보정된 확률과 결정을 생성하는 Transformer 기반 모델 Jev를 출시했다. 이 모델은 일부 소프트웨어 및 자동화 작업에 더 빠르고 저렴한 대안을 제공하는 것을 목표로 한다. 개발자들은 속도와 비용 측면에서 큰 향상이 있었다고 말하지만, 모델의 구조와 결과 일반화의 한계를 둘러싼 의문은 남아 있다.