코그니션(Cognition)은 대규모 기업이 다양한 부서, 프로젝트 및 팀에 걸쳐 AI 에이전트 비용을 관리하고 모니터링할 수 있도록 지능형 프로그래밍 어시스턴트 데빈(Devin) 전용 "계층적 예산(Hierarchical Budgets)" 기능을 출시했다. 이번 조치는 초기 파일럿(Pilots) 단계에서 기업 내 대규모 배포 단계로 전환되는 흐름 속에서 이루어졌으며, 기존의 단순한 제어 도구로는 에이전트 전용 컴퓨팅 유닛 기반의 자원 소비를 조절하기에 불충분해졌기 때문이다.
작동 방식 및 예산의 계층적 배분
새로운 예산 기능은 기업의 기존 조직 구조와 일치한다. 일반적인 마스터 예산에서 시작하여 사업부 단위로 나누어지고, 다시 팀과 프로젝트로 최대 3단계 깊이까지 배분된다. 이 시스템을 통해 중앙 IT 팀은 모든 개별 요청에 대해 수동 승인을 할 필요 없이 전체적인 가시성과 보안 경계를 유지할 수 있다. 또한, 레거시 시스템 업데이트와 같은 특정 부서 간 프로젝트에 예산을 할당할 수 있으며, 클라우드 운영과 개발자의 데스크톱 장치 간의 제어를 분리할 수 있다.
예산이 소진되면 어떻게 되나요?
플랫폼에는 허용된 한도에 도달할 때 개발자의 홈 페이지에 표시되는 사전 알림 기능이 포함되어 있으며, 예산 소유자에게 컴퓨팅 유닛을 직접 추가 요청할 수 있다. 또한 관리자는 데빈(Devin)의 소비량 대비 생산적인 작업 시간을 측정하는 "효율성 점수(Efficiency Score)"를 기반으로 자동 승인을 활성화할 수 있다. 그러나 사전 승인 없이 예산 한도에 도달하면 현재 진행 중인 프로그래밍 세션이 즉시 중단된다. 현재 회사는 중요한 작업의 중단을 방지하기 위해 더 저렴한 모델로 자동 전환되는 기능을 개발 중이다.
이 뉴스가 중요한 이유
계층적 예산의 출시는 AI 에이전트에 특화된 클라우드 비용 관리(FinOps)와 유사한 새로운 재무 규율의 등장을 반영한다. 가격 책정이 실제 사용량 기반 시스템으로 전환됨에 따라, 기업은 완료된 머지 요청(merge requests)이나 개발 로드맵 달성 속도 측정과 같은 실제 결과와 지출을 연결해야 할 절실한 필요성에 직면해 있으며, 이는 전략적 자금 조달 및 재무 계획 팀에 명확한 재무적 책임을 부여한다.
뉴스 출처
The New Stack - Software Development
원문 보기 ↗