샘 알트먼 밝혀: OpenAI, 개발자들의 반발에 대응해 토큰 가격 책정 체계 폐지 철회

OpenAI의 CEO인 샘 알트먼은 회사가 차세대 모델의 가격 책정 방식을 변경하는 전략적 결정을 내릴 뻔했다고 밝혔습니다. 토큰(Tokens) 기반 가격 책정 체계를 폐지하고 작업당 정액 요금(Flat-fee per job) 체계로 대체하는 방안을 검토했다는 것입니다. 개발자가 프롬프트(Prompt)를 전송하면 회사가 작업의 최종 가격을 결정하는 방식으로, AWS와 같은 클라우드 컴퓨팅 서비스의 과금 메커니즘과 유사한 모델이었습니다.

개발자들은 왜 이 변화를 거부했는가?

알트먼은 "Cheeky Pint" 팟캐스트에서 진행된 대화 중, 회사가 개발자들과의 협의를 거친 후 이 조치를 철회했다고 설명했습니다. 이 아이디어가 매우 부정적인 반응에 직면했기 때문입니다. 개발자들은 비용이 계산되는 방식을 이해해야 할 절실한 필요성이 있다고 표명하며, 자신들이 정확히 무엇에 대해 비용을 지불하고 있는지 알기를 원한다고 강조했습니다.

문제는 개발자들이 현재 예산을 관리하고 모델 사용량 확장에 따른 비용을 추정하기 위해 입력 및 출력 토큰 추적에 의존하고 있다는 점입니다. 이러한 세부 정보가 없다면 비용 예측이 불가능해지며, 이는 장기적으로 정당화되지 않거나 모호한 비용에 노출될 수 있다는 개발자들의 우려를 불러일으킵니다.

투명성 대 비용

주목할 만한 역설로, 알트먼은 그가 상담한 개발자들이 투명성과 예측 가능성을 유지하는 한, 토큰 가격 책정 체계를 유지하기 위해 더 높은 금액을 지불할 의향이 있음을 내비쳤다고 지적했습니다. 알트먼은 "개발자들은 비용이 어떻게 계산되는지에 대한 의구심을 불러일으키는 모호한 가격 체계 대신, 명확하고 구체적인 측정 단위를 얻기 위해 더 많은 비용을 지불하는 것을 선호합니다"라고 덧붙였습니다.

인공지능 사용량 측정의 과제

알트먼은 "토큰" 체계가 완벽하지 않다는 점을 인정하며, 이를 실제 가치나 투입된 연산 노력을 정확하게 표현하지 못하는 "가짜 단위(Fake unit)"라고 묘사했습니다. 그러나 동시에 회사가 아직까지 더 나은 대안을 찾지 못했다고 시인했습니다. 그는 또한 개발자들이 현재 더 저렴한 모델과 더 뛰어난 능력을 가진 모델 사이에서 선택할 때 추가적인 인지적 부담에 직면해 있으며, 이는 최종 제품에 실질적인 가치를 더하지 못한다고 지적했습니다.

이번 철회는 OpenAI가 계속해서 토큰 가격 책정 체계에 의존하고 있는 시점에 이루어졌습니다. 이와 동시에 회사는 주기적으로 감소하는 추론(Inference) 비용과 관련된 과제에 대처하기 위해 노력하고 있으며, 인공지능 애플리케이션 개발자와 스마트 에이전트(AI Agents)를 위한 더욱 공정하고 투명한 가격 책정 모델을 지속적으로 모색하고 있습니다.