Da Unternehmen von der Erprobung von Werkzeugen für künstliche Intelligenz zu deren Einsatz im täglichen Geschäft übergehen, lautet die grundlegende Frage nicht mehr, welches Modell ausgewählt werden soll, sondern wo die Verarbeitung tatsächlich stattfindet. Die Erfahrungen von 日本HP in Japan bieten einen praktischen Rahmen für die Abwägung zwischen Cloud-Diensten und lokalen Systemen und warnen zugleich eindeutig davor, den lokalen Betrieb als Selbstzweck zu betrachten.
Diese Einschätzung geht auf eine Präsentation von 裕史勝谷, Leiter der Marktentwicklung für künstliche Intelligenz und Data Science bei 日本HP, während der am 16. Juli 2026 in Tokio abgehaltenen Konferenz HP Partner Communication 2026 sowie auf ein Einzelinterview mit ihm zurück, das ITmedia geführt hat. 勝谷 zufolge nutzen viele Unternehmen, die sich an ihn wenden, künstliche Intelligenz bereits, suchen nun aber nach Möglichkeiten, ihren Nutzen innerhalb der Abläufe auszuweiten.
Von der allgemeinen Erprobung zur unternehmensweiten Arbeit
勝谷 schlägt vor, dass Unternehmen schrittweise von der Nutzung für Gespräche und Zusammenfassungen zur Anbindung der Modelle an interne Dokumente und anschließend zur Automatisierung von Aufgaben wie der Erstellung von Angeboten und Vorschlägen durch Agenten für künstliche Intelligenz übergehen. In seiner Präsentation teilte er die Rollen dessen, was er als „Mitarbeiter mit künstlicher Intelligenz“ bezeichnete, in drei Kategorien ein: einen Assistenten, der sich um Besprechungsprotokolle und die Erstellung von Dokumenten kümmert, einen spezialisierten Mitarbeiter zur Unterstützung von Vertriebs- oder Designaufgaben sowie eine analytische Rolle, die bei der Darstellung von Daten und der Unterstützung von Entscheidungen hilft.
Dieses Konzept beschränkt sich nicht auf Software. 日本HP präsentierte eine Kombination aus Computern für künstliche Intelligenz und Schulungen, Workstations zum lokalen Testen großer Sprachmodelle sowie Betriebsumgebungen, die auf mehreren Grafikprozessoren für Unternehmensabteilungen basieren. Die Idee besteht darin, die Infrastruktur an die Nutzungsphase anzupassen, anstatt ein Gerät oder einen Dienst losgelöst von dem Prozess zu verkaufen, in dem er eingesetzt werden soll.
Die Sensibilität der Daten ist der Ausgangspunkt
勝谷 nutzt Cloud-Dienste für künstliche Intelligenz, wenn er nach öffentlich verfügbaren Informationen sucht. Er sagt jedoch, dass er die Verarbeitung lokal ausführt, wenn es um Daten geht, die das Unternehmen nicht verlassen dürfen. Das bedeutet allerdings nicht, dass jede Aufgabe mit internen Daten automatisch auf ein lokales Gerät verlagert werden muss; vielmehr sollte geprüft werden, ob die lokale Umgebung die erforderliche Aufgabe ausführen kann, und dies mit der Geschwindigkeit und Flexibilität der Cloud verglichen werden.
Die Erfahrung weist auf einen wichtigen Unterschied zwischen dem Ort der Anwendungsnutzung und dem Ort der Inferenz hin. Die Anwendung Codex von OpenAI läuft dem Artikel zufolge bei einigen Automatisierungs- und Programmieraufgaben auf dem Computer, die Inferenz selbst findet jedoch in der Cloud statt. IT-Teams müssen daher den Bestimmungsort der Daten und den Ort der Verarbeitung überprüfen und dürfen sich nicht damit begnügen, dass sich die Anwendungsschnittstelle auf einem Computer im Unternehmen befindet.
日本HP testet außerdem einen Open-Source-Agenten für künstliche Intelligenz namens OpenClaw in einer lokalen Umgebung. 勝谷 wies jedoch darauf hin, dass die Verarbeitung in seiner Umgebung gelegentlich angehalten wurde und er in einigen Fällen weiterhin Codex verwendet. Diese Erfahrung stützt eine praktische Einschätzung: Ein vollständig lokaler Betrieb ist nicht allein deshalb gewährleistet, weil die Hardware oder das Modell verfügbar ist.
Die Wahl des Geräts ändert sich mit dem Nutzungsumfang
Nachdem der Bedarf für einen lokalen Betrieb festgestellt wurde, muss der Nutzungsumfang bestimmt werden. 勝谷 verwendet die HP ZGX Nano G1n AI Station, um erste Tests durchzuführen und die Möglichkeit zu prüfen, Kundenanforderungen umzusetzen. Er bezeichnet sie als die HP-eigene Version der NVIDIA DGX Spark. Aufgrund ihrer geringen Größe kann sie außerdem an einen Ort wie eine Produktionslinie gebracht werden, um dort Tests durchzuführen.
Dieser Gerätetyp eignet sich für Forschung und Entwicklung, die Nutzung durch eine einzelne Person oder einen ersten Versuch mit begrenztem Budget. Der Betrieb einer Aufgabe durch mehrere Personen innerhalb einer Abteilung kann dagegen eine größere Workstation oder eine gemeinsam genutzte Umgebung erfordern. Der Erfolg eines Modells in einem Einzeltest beweist nicht, dass seine Leistung bei der Nutzung durch eine gesamte Gruppe komfortabel sein wird. Die Zahl der Nutzer, die akzeptable Wartezeit und die Häufigkeit der Verarbeitung müssen vor der Auswahl der Hardware bestimmt werden.
Die Entscheidung umfasst auch den Aufstellungsort der Geräte. Zunächst können sie sich in der Nähe der Nutzer befinden und später in einen Serverraum verlegt werden, wenn ihre Anzahl steigt. Bei Agenten, die Planung, Inferenz, die Ausführung von Werkzeugen und die Überprüfung der Ergebnisse wiederholen, reicht es nicht aus, nur den Grafikprozessor zu betrachten; der Hauptspeicher, das SSD-Laufwerk und der zentrale Prozessor können allesamt zu Engpässen werden.
Die Kosten sind nicht einfach der Preis der Cloud gegenüber dem Preis des Geräts
勝谷 ist der Ansicht, dass die Cloud die richtige Option sein kann, wenn der Schwerpunkt auf kurzfristigen Kosten liegt, während eine lokale Umgebung einigen Unternehmen eine höhere Kontinuität bietet, insbesondere bei Problemen mit dem Proxy-Server im Unternehmensnetzwerk oder bei Änderungen von Preisen und Nutzungsgrenzen. Einige Kunden könnten eine mit einem Grafikprozessor ausgestattete Workstation unter mehreren Nutzern gemeinsam nutzen, um die Kosten für Tokens zu senken.
Ein genauer Vergleich muss jedoch Strom, Wartung, Verwaltung und die anfänglichen Investitionen in die lokale Umgebung ebenso berücksichtigen wie Vertragsbedingungen und Nutzungsumfang in der Cloud. Außerdem sollte gefragt werden, ob beide Seiten dieselbe Verarbeitung mit derselben Qualität und Reproduzierbarkeit ausführen können und welche Auswirkungen ein Ausfall des Dienstes oder des Netzwerks auf die Arbeit hat.
Der menschliche Faktor kann zum Engpass werden
Selbst wenn Modell und Gerät bereitgestellt sind, kann der Prozess an einer erforderlichen menschlichen Genehmigung für die Ausführung einer Handlung mit Berechtigungen scheitern. 勝谷 räumt ein, dass seine eigene Auslastung den Menschen selbst zum Engpass machen kann. Daher erfordert die Einführung von Agenten die Festlegung der Genehmigungsphasen und der dafür verantwortlichen Personen und nicht lediglich die Anbindung des Agenten an Werkzeuge.
Die praktische Schlussfolgerung aus der Erfahrung von 日本HP lautet, dass die Wahl der Betriebsumgebung für künstliche Intelligenz mit den Daten beginnen muss, gefolgt von der Aufgabe, der Zahl der Nutzer, den Kosten, der Kontinuität und den Fähigkeiten des Betriebsteams. Außerdem sollte das ausgewählte Modell und der Grund für seine Auswahl dokumentiert werden, damit Wissen bei einem Wechsel der Verantwortlichen übertragen werden kann. Diese Leitlinien beruhen weiterhin auf der Erfahrung eines Verantwortlichen bei 日本HP und sind kein allgemeiner Maßstab, der belegt, dass die Cloud oder der lokale Betrieb in allen Fällen besser ist.