Infino, gegründet von Personen mit vorheriger Erfahrung bei OpenSearch, hat den Stealth-Modus verlassen und eine Retrieval-Plattform für KI-Agenten vorgestellt. Die Grundidee besteht darin, dem Agenten eine einzige Schnittstelle für Abfragen strukturierter und unstrukturierter Daten bereitzustellen, anstatt die Aufgabe auf ein Data Warehouse, eine Suchmaschine und eine Vektordatenbank zu verteilen und den Agenten anschließend die Ergebnisse über mehrere Runden hinweg zusammenführen zu lassen.
Das Unternehmen erklärt, dass sich Agenten in ihrer Art des Lesens von Nutzern und herkömmlichen Anwendungen unterscheiden. Statt eine einzelne Abfrage zu senden und auf das Ergebnis zu warten, stellt der Agent kleine, miteinander verbundene Fragen, um eine umfassendere Antwort aufzubauen. Jedes Ergebnis, das an ihn zurückgegeben wird, verbraucht einen Teil des Modellkontexts und kann bei nachfolgenden Aufrufen zusätzliche Zeit und Kosten verursachen.
Was bietet Infino?
Infino integriert Retrieval-Funktionen direkt in SQL, sodass Stichwortsuche, semantische Suche, Filter, Zählungen, Joins, Aggregationen und Sortierungen in einer einzigen Abfrage kombiniert werden können. Laut CEO Ekechi Nwokah geht es dabei nicht um die Verwendung von SQL an sich, sondern um die Zusammenführung von Abfragemustern, für die normalerweise getrennte Systeme erforderlich waren.
Das Unternehmen erklärt, dass Entwickler eine Frage in natürlicher Sprache eingeben und in eine einzige Abfrage umwandeln können, die innerhalb von Sekundenbruchteilen ausgeführt wird. Infino hat außerdem auf die Retrieval-Engine ausgerichtete Inferenzmodelle hinzugefügt, um wiederkehrende Aufgaben innerhalb von Suchschleifen zu bearbeiten, etwa die Formulierung der Abfrage, die Prüfung der Ergebnisqualität, das Ausprobieren einer alternativen Abfrage und die Validierung der Antwort, anstatt diese Schritte stets leistungsfähigeren und teureren Modellen zu überlassen.
Eine einzige Kopie der Daten im Parquet-Format
Die Architektur speichert Daten in Apache-Parquet-Dateien auf Objektspeichern und bettet die Suchindizes neben dem Footer der Parquet-Datei ein. Infino zufolge ist die Kern-Engine Open Source und auf GitHub unter der Apache-2.0-Lizenz veröffentlicht. Der Dienst Infino Cloud ermöglicht es, vorhandene Parquet-Daten zu nutzen und durchsuchbar zu machen, ohne die Infrastruktur selbst aufzubauen.
Die Daten bleiben über Tools lesbar, die Parquet unterstützen, darunter Iceberg, Hudi, Spark, DuckDB und andere Data Warehouses. Zudem können Parquet- oder JSON-Daten aufgenommen und anschließend mit der Infino-Schnittstelle verbunden werden, ohne Cluster, Knoten oder verteilte Partitionen verwalten zu müssen, wie das Unternehmen beschreibt.
Warum ist diese Nachricht wichtig?
Wenn sich der Ansatz in Produktionsumgebungen bewährt, könnte die einheitliche Retrieval-Schicht die Zahl der Ingestion-Pipelines, ETL-Jobs, Schemata und Clients verringern, die ein Agent aufrufen muss. Aus Sicherheitssicht noch wichtiger ist, dass eine einzige Datenkopie eine zentrale Durchsetzung von Zugriffskontrollen ermöglichen könnte, einschließlich der Festlegung, welche Zeilen und Spalten der Agent sehen darf und was protokolliert wird, anstatt Berechtigungen auf MCP-Gateways und Service-Connectoren zu verteilen.
Die Plattform richtet sich an Plattform- und Dateningenieure, Sicherheitsteams, Teams für maschinelles Lernen und Data Science sowie Entwickler, die Agenten für den Umgang mit Code, Logs, Ausgaben der kontinuierlichen Integration und Tickets bauen. Infino zufolge ist die Architektur darauf ausgelegt, rund zehnmal günstiger zu sein als herkömmliche Such- und Analysearchitekturen. Der veröffentlichte Vergleich des Unternehmens weist für den getesteten Workload Kosten aus, die etwa 10,5-mal niedriger als bei Elasticsearch und 23-mal niedriger als bei OpenSearch sind.
Einschränkungen und offene Fragen
Diese Zahlen stammen vom Unternehmen und beziehen sich auf einen bestimmten Test-Workload. Daher reichen sie allein nicht aus, um eine allgemeine Überlegenheit gegenüber allen Anwendungen von Elasticsearch oder OpenSearch zu belegen. Die Verringerung der Systemanzahl macht außerdem weder die Überprüfung der Retrieval-Qualität noch die Prüfung der Grenzen von Zugriffskontrollen und des Verhaltens der Indizes bei sich ändernden oder wachsenden Daten überflüssig. Der Wert des Ansatzes hängt weiterhin davon ab, wie gut Parquet und Objektspeicher zu den Daten- und Abfragemustern des jeweiligen Teams passen.