Sam Altman, director ejecutivo de OpenAI, reveló que la empresa estuvo a punto de tomar la decisión estratégica de cambiar el modelo de tarificación de sus próximos modelos, ya que consideró eliminar el sistema de precios basado en tokens y reemplazarlo por un sistema de tarifa fija por tarea (Flat-fee per job). Se suponía que el desarrollador enviaría la solicitud (Prompt) y la empresa determinaría el precio final de la operación, un modelo similar al mecanismo de facturación en servicios de computación en nube como AWS.
¿Por qué rechazaron los desarrolladores este cambio?
Altman explicó durante su intervención en el podcast "Cheeky Pint" que la empresa dio marcha atrás en esta medida tras realizar consultas con los desarrolladores, encontrando una reacción extremadamente negativa. Los desarrolladores expresaron su extrema necesidad de comprender cómo se calculan los costos, enfatizando que necesitan saber exactamente por qué están pagando.
El problema radica en que los desarrolladores dependen actualmente del seguimiento de los tokens de entrada y salida para gestionar sus presupuestos y estimar los costos de escalado en el uso de los modelos. Sin este nivel de detalle, se volvería imposible predecir los costos, lo que genera preocupaciones entre los desarrolladores sobre la posibilidad de enfrentar costos injustificados u opacos a largo plazo.
Transparencia frente a costo
En una paradoja notable, Altman señaló que los desarrolladores consultados expresaron su disposición a pagar cantidades más altas a cambio de mantener el sistema de tarificación de tokens, siempre y cuando este les proporcionara transparencia y capacidad de predicción. Altman agregó: "Los desarrolladores prefieren pagar más para obtener una unidad de medida clara y tangible, en lugar de un sistema de precios ambiguo que genere dudas sobre cómo se calcula el costo".
Desafíos en la medición del uso de la inteligencia artificial
Altman reconoció que el sistema de "tokens" no es perfecto, describiéndolo como una "unidad de medida falsa" (Fake unit) que no expresa con precisión el valor real o el esfuerzo computacional realizado, pero al mismo tiempo admitió que la empresa aún no ha encontrado una alternativa mejor. Señaló que los desarrolladores enfrentan actualmente una carga cognitiva adicional al elegir entre los modelos más baratos y los más capaces, lo cual no añade un valor real al producto final.
Esta marcha atrás se produce en un momento en que OpenAI continúa dependiendo del sistema de tarificación de tokens, mientras la empresa busca enfrentar los desafíos relacionados con los costos de inferencia (Inference), los cuales disminuyen periódicamente, y sigue buscando un modelo de precios más justo y transparente para los desarrolladores de aplicaciones de inteligencia artificial y agentes inteligentes (AI Agents).