Die Cloud Native Computing Foundation (CNCF), die für die Entwicklung von Cloud-Software-Ökosystemen verantwortlich ist, hat bekannt gegeben, dass Qualcomm (Qualcomm Technologies) seine Mitgliedschaft auf die Gold-Stufe aufgestockt hat. Dieser Schritt erfolgt im Rahmen der Bemühungen des Unternehmens, seine Rolle bei der Entwicklung einer Open-Source-Infrastruktur zu stärken, die KI-Inferenz (AI Inference) über verschiedene Computing-Umgebungen hinweg unterstützt, angefangen bei Edge-Geräten bis hin zur Cloud.
Stärkung der Zusammenarbeit bei der KI-Infrastruktur
Durch diese erweiterte Partnerschaft will Qualcomm die Integration von Cloud-Native-Technologien in KI-Infrastrukturmodelle unterstützen. Das Unternehmen trägt bereits direkt zum Projekt KubeVela bei, einem Inkubationsprojekt der CNCF, das für die Bereitstellung von Kubernetes-basierten Anwendungen entwickelt wurde.
Durch diese Mitgliedschaft strebt Qualcomm an, die Kompatibilität seiner Tools mit offenen Standards zu verbessern, da das Unternehmen das Software Development Kit Cloud AI SDK anbietet, das native Bereitstellungen auf Kubernetes, containerisierte Arbeitsabläufe (Containerized workflows) sowie Inferenz-Bereitstellungstools wie Triton und vLLM unterstützt.
Warum diese Nachricht wichtig ist
Dieser Schritt ist ein Indikator für den wachsenden Trend, Cloud-Native-Technologien zum primären Betriebsmodell für die KI-Infrastruktur zu machen. Für Entwickler und Unternehmen bedeutet diese Zusammenarbeit:
- Erleichterung der Bereitstellung von KI-Modellen in verschiedenen Umgebungen mithilfe von Kubernetes-kompatiblen Tools.
- Verbesserung der Effizienz bei der Konvertierung von KI-Modellen (wie Hugging Face-Modellen), damit sie für die Inferenz auf Qualcomm-Beschleunigern bereit sind.
- Stärkung der Einführung offener Standards bei der Entwicklung von KI-Anwendungen, wodurch die Einschränkungen geschlossener Systeme verringert werden.
Jonathan Bryce, Executive Director der CNCF, betonte, dass Qualcomm sein Engagement für das offene Ökosystem vertieft, was dazu beiträgt, Innovationen in der Inferenz-Infrastruktur über Geräte, Edge und Cloud hinweg voranzutreiben.