La empresa OpenAI ha anunciado la disponibilidad de la interfaz de programación de aplicaciones de decisiones (Decisions API) para el público general y los desarrolladores por primera vez, en un paso que representa una entrada oficial en el mercado en crecimiento de la inteligencia artificial de alta velocidad y bajo costo, un área que recientemente ha estado dominada por nuevas empresas como TypeSafe y su modelo conocido como (Jev).
Esta categoría de modelos de aprendizaje profundo se basa en funcionar como hiperclasificadores; permite a los usuarios seleccionar una opción específica entre un conjunto de opciones a una velocidad ultrarrápida, al tiempo que proporciona una evaluación del grado de confianza en la decisión tomada. Los desarrolladores de software han descubierto que estos modelos de decisiones, o lo que se conoce como sistemas de nivel uno (System One), son capaces de reemplazar a los grandes modelos de lenguaje en muchos flujos de trabajo operativos, con un costo muy bajo y un tiempo de respuesta mucho menor.
De ChatGPT a la interfaz de decisiones
Nikunj Handa, jefe de productos para el sector de interfaces de programación de aplicaciones en OpenAI, explicó que su equipo observó el gran éxito del modelo Jev y se apresuró a desarrollar una alternativa propia de la empresa. En lugar de construir un modelo de decisión diseñado específicamente desde cero, el equipo se basó en la reconfiguración del modelo ChatGPT Luna para acelerar los procesos de inferencia y reducir los costos operativos.
Handa señaló que la mejora más destacada en la interfaz (Decisions API) fue la reducción del tiempo de respuesta de un período de entre uno y tres segundos a entre 100 y 180 milisegundos. Aunque la empresa pueda recurrir más adelante a entrenar modelos completamente personalizados para este propósito, la versión modificada de Luna cumple su función de manera eficiente por ahora.
Disponibilidad y usos prácticos
La empresa anunció la disponibilidad de la interfaz para todos los clientes tras darla a conocer por primera vez en la conferencia de desarrolladores, añadiendo nuevas características de audio y visión, y distribuyendo geográficamente los recursos de inferencia para garantizar la reducción de la latencia en todo el mundo. Durante las pruebas iniciales, empresas como Box, Datadog, Ramp y Speak utilizaron la nueva interfaz de programación de aplicaciones para aumentar la eficiencia del procesamiento; por ejemplo, la empresa Speak, especializada en la creación de herramientas de aprendizaje de idiomas, logró reducir el intervalo de tiempo entre acciones de 1,4 segundos a solo 0,13 segundos.
Estándares de rendimiento y competencia en el mercado
Las mediciones de rendimiento varían entre los diferentes modelos de decisiones según la naturaleza de las cargas de trabajo; mientras que índices como AIM System One Index y Artificial Analysis Decision Index encabezan a otros modelos como D1 Ultra y Elephant-1, el modelo Jev y la interfaz de OpenAI compiten en los primeros puestos según diversos datos de pruebas, incluidas las pruebas de juego que miden la velocidad de toma de decisiones bajo presión, como el juego PacMan.
Acerca de las ventajas competitivas
En cuanto a las ventajas competitivas, los funcionarios de OpenAI consideran que su interfaz cuenta con una superioridad en la multimodalidad, especialmente en la clasificación de imágenes y el procesamiento de resultados visuales con alta precisión y confiabilidad, y el equipo espera reducir aún más el tiempo de respuesta para alcanzar los 60 milisegundos en el procesamiento de fotogramas de video individuales directamente a través de la interfaz de programación.