Cloudflare hat die Verfügbarkeit einer Vorschauversion für ein neues Extraktionsmodell bekannt gegeben, das zur Kategorie der „System One“-Modelle gehört und den Namen „Clairic“ trägt. Das neue Modell steht Entwicklern ab sofort auf der Plattform „Workers AI“ unter der Kennung @cf/cloudflare/clairic zur Verfügung, wobei geplant ist, die offenen Gewichte in Kürze öffentlich zu veröffentlichen. Das Modell zeichnet sich durch seine Fähigkeit aus, Werte aus unstrukturierten Texten und Bildern mit höherer Genauigkeit, größerer Geschwindigkeit und zu deutlich geringeren Kosten als herkömmliche große Sprachmodelle (LLMs) zu extrahieren, zu berechnen, zu schätzen und vorherzusagen.
Das Konzept der Extraktionsmodelle der ersten Kategorie
Cloudflare ließ sich bei dieser Veröffentlichung von dem Konzept inspirieren, das kürzlich von dem Unternehmen „TypeSafe“ für System-One-Modelle vorgestellt wurde, welche wiederum von Daniel Kahnemans Buch „Schnelles Denken, langsames Denken“ inspiriert sind. Diese Modelle sind so konzipiert, dass sie schnell, präzise und ohne das langsame generative Denken arbeiten. Im Gegensatz zu Entscheidungsmodellen wie „Jev“ und „Clef“, die aus vordefinierten Optionen auswählen, befasst sich das Clairic-Modell mit der direkten Extraktion, Berechnung oder Vorhersage von Werten mit einer bestimmten Präzision und ohne die Generierung von Text-Tokens (Tokens), wodurch textliche Halluzinationen verhindert werden.
Das Modell verarbeitet Anfragen in einem einzigen, parallelen Durchgang und liefert Antworten mit einem eindeutigen Datentyp (wie Text, Zahlen, Daten, Uhrzeiten, Listen, Wahrscheinlichkeitsschätzungen und zeitlichen Vorhersagen). Jede numerische oder textuelle Antwort geht mit einem Konfidenzwert und einer Wahrscheinlichkeit für das Nichtvorhandensein von Daten in den Eingaben (p_null) einher, wodurch Entwickler die Ergebnisse automatisiert überprüfen können.
Was ändert sich praktisch für Entwickler?
In traditionellen Arbeitsabläufen verlassen sich Anwendungen auf große Sprachmodelle, um Daten zu extrahieren und in das JSON-Format zu konvertieren. Dies ist ein kostspieliger, langsamer und fehleranfälliger Prozess, der zu Formatierungsfehlern und Halluzinationen neigt. Das Clairic-Modell bietet praktische Alternativen durch folgende Funktionen:
Extrahierte und berechnete Werte: Das Modell kopiert nicht nur Texte, sondern kann auch einfache Berechnungen innerhalb der Eingaben durchführen, wie das Hinzufügen von Steuern zu Preisen und die Berechnung von Zeitspannen zwischen verschiedenen Daten.
Schätzbereiche: Falls ein Wert im Text nicht ausdrücklich verfügbar ist, kann das Modell basierend auf kontextuellen Hinweisen eine Wahrscheinlichkeitsverteilung mit einem Median und einem 80-Prozent-Konfidenzintervall bereitstellen.
Zeitreihenvorhersage: Das Modell kann verwendet werden, um zukünftige Werte auf Basis eingegebener historischer Daten vorherzusagen, ohne dass komplexe, maßgeschneiderte Zeitreihenmodelle bereitgestellt werden müssen.
Multimodale Verarbeitung: Das Modell unterstützt Text und Bilder gleichzeitig, was eine präzise Datenextraktion aus Papierbelegen oder unklaren fotografierten Dokumenten ermöglicht.
Leistung und Kosten in intelligenten Arbeitsabläufen
Cloudflare führte einen praktischen Vergleich zwischen einem Arbeitsablauf durch, der auf einer Modellkette basiert (Clairic zur Extraktion, dann Clef und Entscheidungsfindung, gefólgt von einem Sprachmodell zur Antwortgenerierung), und einem Arbeitsablauf, der vollständig auf einem einzigen großen Sprachmodell (GLM-5.3) basiert. Die Ergebnisse zeigten, dass die kombinierte Kette die Verarbeitung in 19,3 Sekunden im Vergleich zu 61,7 Sekunden für das vollständige Modell abschloss, und das zu geringeren Kosten von etwa einem Drittel der Gesamtkosten (6.032 US-Dollar gegenüber 11.740 US-Dollar pro Million Anfragen).
Verfügbarkeit und aktuelle Einschränkungen
Das Clairic-Modell ist derzeit als Vorschaufunktion über den Workers AI-Endpunkt verfügbar und kann mithilfe von Cloudflare Workers-Funktionen oder der REST-API aufgerufen werden. Da es sich um eine Erstveröffentlichung handelt, weist das Unternehmen auf einige aktuelle Einschränkungen hin: Komplexe mehrstufige Berechnungen sind noch nicht völlig präzise, und Prognose- sowie Vorhersageaufgaben bleiben grundlegend und sind kein Ersatz für komplexe, spezialisierte Zeitreihenmodelle. Das Unternehmen plant, diese Aspekte zu verbessern und die offenen Gewichte des Modells in Zukunft zur Verfügung zu stellen.