Cloudflare ha anunciado la disponibilidad de una versión preliminar de un nuevo modelo de extracción que pertenece a la categoría de modelos de «Sistema 1» (System One) y lleva por nombre «Clairic». El nuevo modelo ya está disponible para los desarrolladores en la plataforma «Workers AI» bajo el identificador @cf/cloudflare/clairic, con planes de lanzar los pesos abiertos al público próximamente. El modelo se destaca por su capacidad de extraer, calcular, estimar y predecir valores a partir de texto e imágenes no estructuradas con mayor precisión, mayor velocidad y un costo mucho menor en comparación con los grandes modelos de lenguaje (LLMs) tradicionales.
El concepto de los modelos de extracción de primera clase
Cloudflare se inspiró para este lanzamiento en el concepto presentado recientemente por la empresa «TypeSafe» sobre los modelos de Sistema 1, inspirados en el libro de Daniel Kahneman «Pensar rápido, pensar despacio». Estos modelos están diseñados para operar de manera rápida, precisa y sin el pensamiento generativo lento. A diferencia de los modelos de decisión como «Jev» y «Clef», que eligen entre opciones predeterminadas, el modelo Clairic se encarga de extraer, calcular o predecir valores directos con una precisión específica y sin generar tokens de texto, lo que evita la ocurrencia de alucinaciones textuales.
El modelo procesa las solicitudes en una pasada paralela, entregando respuestas con un tipo de datos claro (como texto, números, fechas, horas, listas, estimaciones probabilísticas y predicciones temporales). Cada respuesta numérica o textual viene acompañada de un porcentaje de confianza y de la probabilidad de que los datos no estén disponibles en la entrada (p_null), lo que permite a los desarrolladores verificar los resultados de forma automatizada.
¿Qué cambia en la práctica para los desarrolladores?
En los flujos de trabajo tradicionales, las aplicaciones dependen de los grandes modelos de lenguaje para extraer datos y convertirlos al formato JSON, un proceso costoso, lento y propenso a errores de formato y alucinaciones. El modelo Clairic ofrece alternativas prácticas a través de las siguientes características:
Valores extraídos y calculados: El modelo no se limita a copiar texto, sino que puede realizar operaciones aritméticas simples dentro de las entradas, como sumar impuestos a los precios y calcular intervalos de tiempo entre diferentes fechas.
Rangos de estimación: En caso de que un valor no esté disponible explícitamente en el texto, el modelo puede proporcionar una distribución de probabilidad con una mediana y un intervalo de confianza del 80 % basándose en evidencia contextual.
Predicción de series temporales: El modelo se puede utilizar para predecir valores futuros basándose en los datos históricos introducidos, sin necesidad de implementar modelos complejos y dedicados a series temporales.
Procesamiento multimodal: El modelo admite texto e imágenes de forma conjunta, lo que permite extraer datos con precisión a partir de recibos en papel o documentos fotografiados poco claros.
Rendimiento y costo en los flujos de trabajo inteligentes
Cloudflare realizó una comparación práctica entre un flujo de trabajo basado en una cadena de modelos (Clairic para la extracción, luego Clef para la toma de decisiones y posteriormente un modelo de lenguaje para generar la respuesta) y un flujo de trabajo basado íntegramente en un único gran modelo de lenguaje (GLM-5.3). Los resultados mostraron que la cadena combinada completó el procesamiento en 19.3 segundos frente a los 61.7 segundos del modelo completo, y con un costo reducido de aproximadamente un tercio del total (6 032 dólares frente a 11 740 dólares por millón de solicitudes).
Disponibilidad y limitaciones actuales
El modelo Clairic está disponible actualmente como función preliminar a través del punto de conexión de Workers AI, y se puede invocar utilizando las funciones de Cloudflare Workers o la interfaz de programación de aplicaciones (REST API). Al tratarse de una versión inicial, la empresa señala algunas limitaciones actuales: los cálculos complejos de múltiples pasos aún no son completamente precisos, y las tareas de predicción y pronóstico siguen siendo básicas y no sustituyen a los modelos complejos y especializados en series temporales. La empresa planea mejorar estos aspectos y poner los pesos abiertos del modelo a disposición del público en el futuro.