Ein Blick auf Gemini Decision 1
Google hat die Einführung der Gemini Decisions API bekannt gegeben, einer neuen Programmierschnittstelle, die auf dem Modell Gemini Decision 1 basiert. Ziel ist es, Entwicklern den Aufbau schneller und kostengünstiger Entscheidungssysteme zu ermöglichen. Das Modell zeichnet sich durch seine einzigartige Fähigkeit aus, bis zu 1000 unabhängige Fragen zu einem einzigen Inhalt in einem einzigen API-Aufruf zu bewerten, was es ideal für Aufgaben macht, die mehrere Analysen derselben Daten erfordern.
Was zeichnet dieses Modell technisch aus?
Im Gegensatz zu herkömmlichen generativen KI-Modellen, die Antworten Wort für Wort generieren, bewertet Gemini Decision 1 die verfügbaren Optionen und berechnet deren Wahrscheinlichkeiten auf einmal. Das Modell unterstützt die Verarbeitung von Text, Bildern, Audio, Video und PDF-Dateien mit einer Kontextkapazität von bis zu 256.000 Token. Zudem stellt es Entwicklern einen "Konfidenzwert" (confidence score) zwischen 0 und 1 für jede Antwort zur Verfügung, wodurch Ergebnisse mit geringer Konfidenz zur menschlichen Überprüfung oder an komplexere Modelle weitergeleitet werden können.
In Bezug auf die Leistung gibt Google an, dass das Modell in der Lage ist, Daten bis zu 16.000 Token in einer Zeit zwischen 150 und 250 Millisekunden zu verarbeiten, bei einer Rechenzeit zwischen 50 und 100 Millisekunden.
Warum ist diese Nachricht wichtig?
Diese Einführung ist ein strategischer Schritt zur Senkung der Betriebskosten bei Anwendungen, die wiederholte Prüfungen derselben Dokumente erfordern. Die Preisstruktur basiert auf 0,10 USD pro Million Eingabe-Token, wobei für Ausgabe-Token keine Gebühren erhoben werden. Wichtiger noch: Die Kosten für den gemeinsamen Inhalt werden bei einem Aufruf nur einmal berechnet, was die Kosten im Vergleich zu herkömmlichen Modellen wie Gemini 3.5 Flash-Lite erheblich senkt; Google gibt an, dass die Kosten etwa fünfmal niedriger sind.
Anwendungsfälle und Verfügbarkeit
Google hat bereits damit begonnen, diese Technologie in seine Produkte zu integrieren, wie etwa in Gemini Notebook zur Bestimmung des erforderlichen Denklevels für Abfragen, das Tool Stitch für Prototypen sowie eine Sicherheitsebene in der Google-Suche zur Erkennung schädlichen Verhaltens. Das Modell ist derzeit über Google AI Studio verfügbar, mit Unterstützung für Integrationen in Plattformen wie LangChain, Vercel und Pydantic AI. Eine Bereitstellung über Google Cloud ist für die nahe Zukunft geplant.