Angesichts des allgemeinen Trends hin zu riesigen KI-Modellen, die enorme Rechenkapazitäten erfordern, hat das Startup Underdog einen anderen Weg eingeschlagen und leichtgewichtige Modelle entwickelt, die lokal auf den Geräten der Nutzer laufen können. Das Unternehmen hat kürzlich ein Audiomodell namens Woof mit einer Größe von nur 32 Megabyte veröffentlicht und dabei eine technische Demo vorgestellt, die seine Fähigkeiten in einem interaktiven Spiel verdeutlicht.
Was zeichnet dieses Modell aus?
Das Woof-Modell basiert auf 31 Millionen Parametern und ist so konzipiert, dass es vollständig im Browser ohne Internetverbindung funktioniert. In der vom Unternehmen bereitgestellten Demo können Nutzer eine virtuelle Tastatur verwenden, um Texte einzugeben, die das Modell in Sprache umwandelt, sowie Musiksnippets über eine einfache Benutzeroberfläche generieren. Dies beweist die Effizienz kleiner Modelle bei der Ausführung spezifischer Aufgaben.
Warum ist diese Nachricht wichtig?
Diese Entwicklung stellt einen praktischen Schritt zur Verringerung der Abhängigkeit von Cloud-Dlebstleistern dar, was mit der Vision des Unternehmensgründers Sigeel Win übereinstimmt, der darauf abzielt, Nutzer in die Lage zu versetzen, ihre eigenen Daten zu besitzen. Win ist der Ansicht, dass sich die Zukunft hin zur Ausführung von KI-Modellen bewegt, die auf aktuellen Personal Computern laufen können, was eine sichere und private Alternative zu cloudbasierten Diensten bietet.
Expansion bei lokalen Modellen
Woof ist nicht die einzige Leistung des Unternehmens; ihm ging die Veröffentlichung des Modells Bark mit einer Größe von 167 Megabyte voraus, das für die Spracherkennung (Transcription) bestimmt ist, sowie eines riesigen Modells mit 27 Milliarden Parametern, das für den Betrieb auf Laptops entwickelt wurde. Durch diese Schritte will Underdog ein Ökosystem aus offenen und lokal gefertigten Modellen aufbauen, um eine selbst gehostete Alternative zu den großen KI-Plattformen zu sein.
Dieser Schritt erfolgt zu einer Zeit, in der die Debatte über den Datenschutz und die übermäßige Abhängigkeit von Cloud-Rechenzentren zunimmt, was gerätebasierte KI-Modelle (Edge AI) zu einer attraktiven Option für Entwickler und Nutzer macht, die nach Privatsphäre und unabhängiger Leistung suchen.