A Cloudflare anunciou a disponibilidade de uma versão de pré-visualização de um novo modelo de extração que se enquadra na categoria de modelos de «Sistema Um» (System One), chamado «Clairic». O novo modelo está disponível atualmente para desenvolvedores na plataforma «Workers AI» sob o identificador @cf/cloudflare/clairic, com planos para disponibilizar os pesos abertos ao público em breve. O modelo destaca-se pela sua capacidade de extrair, calcular, estimar e prever valores a partir de textos e imagens não estruturados com maior precisão, maior velocidade e um custo significativamente inferior aos grandes modelos de linguagem (LLMs) tradicionais.
Conceito de modelos de extração de primeira classe
A Cloudflare inspirou-se nesta versão no conceito apresentado recentemente pela empresa «TypeSafe» para modelos de Sistema Um, baseados no livro de Daniel Kahneman «Rápido e Devagar: Duas Formas de Pensar», onde estes modelos são concebidos para operar com rapidez e precisão, sem o pensamento generativo lento. Ao contrário dos modelos de decisão como «Jev» e «Clef», que escolhem entre opções predefinidas, o modelo Clairic lida com a extração direta de valores, o seu cálculo ou previsão com precisão definida e sem gerar tokens de texto, o que evita a ocorrência de alucinações textuais.
O modelo processa as solicitações em uma única passagem e de forma paralela, fornecendo respostas com um tipo de dado claro (como textos, números, datas, horas, listas, estimativas probabilísticas e previsões temporais). Cada resposta numérica ou textual vem acompanhada de uma taxa de confiança e uma probabilidade de indisponibilidade de dados nas entradas (p_null), permitindo aos desenvolvedores a verificação automatizada dos resultados.
O que muda na prática para os desenvolvedores?
No fluxo de trabalho tradicional, as aplicações dependem de grandes modelos de linguagem para extrair dados e convertê-los para o formato JSON, um processo dispendioso, lento e propenso a erros de formatação e alucinações. O modelo Clairic oferece alternativas práticas através das seguintes funcionalidades:
- Valores extraídos e calculados: O modelo não se limita a copiar textos, mas pode realizar operações matemáticas simples dentro das entradas, como somar impostos aos preços e calcular intervalos de tempo entre datas diferentes.
- Intervalos de estimativa: Caso o valor não esteja disponível explicitamente no texto, o modelo pode fornecer uma distribuição probabilística com mediana e um intervalo de confiança de 80% com base em evidências contextuais.
- Previsão de séries temporais: O modelo pode ser usado para prever valores futuros com base nos dados históricos inseridos, sem a necessidade de implantar modelos complexos dedicados a séries temporais.
- Processamento multimodal: O modelo suporta textos e imagens simultaneamente, permitindo a extração precisa de dados de recibos em papel ou documentos digitalizados pouco claros.
Desempenho e custo no fluxo de trabalho inteligente
A Cloudflare realizou uma comparação prática entre um fluxo de trabalho baseado em uma cadeia de modelos (Clairic para extração, depois Clef para tomada de decisão, e um modelo de linguagem para gerar a resposta) e um fluxo de trabalho baseado inteiramente em um único grande modelo de linguagem (GLM-5.3). Os resultados mostraram que a cadeia integrada concluiu o processamento em 19,3 segundos, em comparação com 61,7 segundos para o modelo completo, e com um custo reduzido para cerca de um terço do custo total (6.032 dólares contra 11.740 dólares por milhão de solicitações).
Disponibilidade e limitações atuais
O modelo Clairic está disponível atualmente como um recurso de pré-visualização através do endpoint do Workers AI e pode ser invocado usando funções do Cloudflare Workers ou a interface de programação de aplicações (REST API). Por ser uma versão inicial, a empresa aponta algumas limitações atuais; cálculos complexos de várias etapas ainda não são totalmente precisos, e as tarefas de previsão e estimativa permanecem básicas, não substituindo modelos de séries temporais especializados e complexos. A empresa planeja melhorar estes aspectos e disponibilizar os pesos abertos do modelo no futuro.