Gemini Decision 1 개요
구글은 Gemini Decision 1 모델을 기반으로 하는 새로운 API인 Gemini Decisions API 출시를 발표했습니다. 이 API는 개발자가 빠르고 비용 효율적인 의사결정 시스템을 구축할 수 있도록 돕는 것을 목표로 합니다. 이 모델은 단일 API 호출로 동일한 콘텐츠에 대한 최대 1,000개의 독립적인 질문을 평가할 수 있는 독특한 능력을 갖추고 있어, 동일한 데이터에 대해 다중 분석이 필요한 작업에 이상적입니다.
이 모델의 기술적 특징은 무엇인가요?
답변을 단어 단위로 생성하는 기존의 생성형 AI 모델과 달리, Gemini Decision 1은 사용 가능한 옵션을 평가하고 그 확률을 한 번에 계산합니다. 이 모델은 텍스트, 이미지, 오디오, 비디오 및 PDF 파일 처리를 지원하며 최대 256,000 토큰의 컨텍스트 창을 제공합니다. 또한 각 답변에 대해 0에서 1 사이의 '신뢰도 점수(confidence score)'를 제공하여, 신뢰도가 낮은 결과는 사람이 검토하거나 더 복잡한 모델로 전달할 수 있도록 합니다.
성능 측면에서 구글은 이 모델이 150~250밀리초의 시간 내에 최대 16,000 토큰의 데이터를 처리할 수 있으며, 계산 시간은 50~100밀리초라고 밝혔습니다.
이 소식이 중요한 이유는 무엇인가요?
이번 출시는 동일한 문서에 대해 반복적인 검사가 필요한 애플리케이션의 운영 비용을 절감하기 위한 전략적 조치입니다. 가격 구조는 입력 토큰 100만 개당 0.10달러를 기준으로 하며, 출력 토큰에 대해서는 요금이 부과되지 않습니다. 무엇보다 중요한 점은 공통 콘텐츠에 대한 비용이 호출당 한 번만 계산된다는 것입니다. 이는 Gemini 3.5 Flash-Lite와 같은 기존 모델 대비 비용을 약 5배 절감할 수 있다고 구글은 주장합니다.
사용 사례 및 가용성
구글은 이미 쿼리에 필요한 추론 수준을 결정하는 Gemini Notebook, 프로토타이핑 도구인 Stitch, 그리고 악성 행동을 탐지하는 구글 검색 엔진의 보안 계층 등 자사 제품에 이 기술을 통합하기 시작했습니다. 이 모델은 현재 Google AI Studio를 통해 사용할 수 있으며, LangChain, Vercel, Pydantic AI와 같은 플랫폼과의 통합을 지원합니다. 향후 Google Cloud에서도 제공될 예정입니다.