Die Abwägung zwischen geschlossenen und offenen KI-Modellen hängt längst nicht mehr nur vom Preis des Zugangs zu einer Programmierschnittstelle ab. Die Verfügbarkeit trainierter Gewichte zum Herunterladen ermöglicht es, das Modell auf der Hardware eines Unternehmens zu betreiben oder an dessen Anforderungen anzupassen. Gleichzeitig stellt sie Chipingenieure vor komplexe Fragen zu Speicher, nachhaltiger Leistung, Bereitstellungssicherheit und der Anpassungsfähigkeit der Hardware an Modelle, die sich innerhalb weniger Wochen verändern können, während der Entwurf eines Chips Jahre dauert.
Dies ist der Schwerpunkt einer Analyse von Semiconductor Engineering, die sich auf Einschätzungen von Fachleuten von Expedera, Arteris, Axiomise, Synopsys, Siemens EDA, Cadence, Rambus und anderen Unternehmen stützt. Die zentrale Schlussfolgerung lautet, dass der Erfolg nicht mehr an der Zahl der TOPS-Operationen in einer kurzen Spitzenleistung gemessen wird, sondern an der Fähigkeit der Plattform, eine wechselnde Mischung von Modellen effizient, reaktionsschnell und sicher auszuführen.
Offene Gewichte bedeuten keine vollständig offene Quelle
Ein Modell mit offenen Gewichten ermöglicht es dem Nutzer, die trainierten Parameter herunterzuladen und sie lokal auszuführen oder anzupassen. Das entspricht jedoch nicht zwangsläufig einem Open-Source-Modell; Trainingsdaten, Quellcode und Nutzungsrechte können weiterhin eingeschränkt sein. Zu diesem Bereich gehören Modelle wie Meta Llama, Alibaba Qwen, DeepSeek, Mistral, Google Gemma, Microsoft Phi und die OpenAI-gpt-oss-Familie.
Die Betriebsoptionen reichen von großen Modellen, die Server oder fortschrittliche Beschleuniger benötigen, bis zu kleineren Modellen, die auf Geräten mit begrenztem Speicher ausgeführt werden können. Wie im Beitrag erwähnt, kann gpt-oss-120b auf einer Grafikkarte mit 80 Gigabyte Speicher betrieben werden, während gpt-oss-20b mit MXFP4-Quantisierung auf Geräte mit 16 Gigabyte Speicher abzielt. Die Eignung eines Modells für den verfügbaren Speicher allein belegt jedoch noch nicht, dass es in der Praxis eine nützliche Leistung erbringen wird.
Flexibilität versus Abhängigkeit von einem einzelnen Anbieter
Der lokale Betrieb oder der Betrieb innerhalb einer privaten Cloud-Umgebung ermöglicht es, die Abhängigkeit von einem einzelnen Dienst zu verringern und sensible Daten innerhalb des Unternehmensnetzwerks zu halten. Dies ist insbesondere beim Chipdesign und in regulierten Branchen von Bedeutung, da die Daten Arbeitsmethoden, Schaltpläne oder Informationen enthalten können, die Geschäftsgeheimnisse darstellen.
Unternehmen können außerdem Modellrouting einsetzen, bei dem anspruchsvolle Aufgaben einem leistungsfähigen kommerziellen Modell zugewiesen werden, während wiederkehrende oder weniger komplexe Aufgaben von einem kostengünstigeren Modell mit offenen Gewichten ausgeführt werden. Die Analyse macht jedoch deutlich, dass offene Modelle nicht automatisch eine geringere Leistung oder niedrigere Kosten garantieren. Die Kosten hängen von der Modellgröße, der Betriebsweise und den Anforderungen an die Reaktionszeit ab und können 10.000 US-Dollar überschreiten, wenn in einem täglichen Workflow dauerhaft interaktive Leistung erforderlich ist.
Was ändert sich praktisch beim Chipdesign?
Die Experten sind der Ansicht, dass Speicher, Bandbreite und Datentransfer zu wichtigeren Engpässen als die reine Rechenleistung werden könnten. Designteams müssen die Zahl der aktiven Parameter, die numerische Genauigkeit, die Kontextlänge, die Multimodalität, die Parallelität und die Reaktionszeit bewerten, anstatt von einem einzigen, für die Zukunft feststehenden Modell auszugehen.
- Die Speicherbandbreite könnte anstelle von FLOPS zum Hauptengpass werden.
- Spärliche Aktivierungen und Quantisierung mit niedriger Präzision gewinnen an Bedeutung.
- Heterogene Systeme, die verschiedene Prozessortypen kombinieren, könnten ein praktikabler Weg für die Bereitstellung sein.
- Der Druck auf den KV-Speicher, Kontexte von bis zu 128K und die Parallelität von Agenten müssen getestet werden, nicht nur dichte GEMM-Operationen.
Diese Anforderungen ergeben sich aus der Kluft zwischen dem Entwicklungszyklus von Modellen und dem Fertigungszyklus von Chips. Ein Modell kann sich wöchentlich oder monatlich ändern, während ein Chipzyklus selbst unter optimalen Bedingungen etwa 2,5 Jahre dauern kann. Daher gewinnen Anpassungsfähigkeit in Software und Hardware gegenüber der Beschleunigung eines einzelnen Modells an Wert, da dieses seine Bedeutung verlieren kann, bevor die Fertigung abgeschlossen ist.
Künstliche Intelligenz in Chipdesign-Tools
Allgemeine Modelle reichen für Aufgaben im Chipdesign laut den von Synopsys wiedergegebenen Aussagen der Analyse nicht aus. Verlässliche Ergebnisse hängen von sauberen und dokumentierten Designdaten, einem klaren Kontext für den Workflow und einer bestätigten Referenz der Wahrheit ab. Eine Anpassung der Gewichte allein behebt weder einen Mangel an spezialisierten Daten noch deren Widersprüchlichkeit.
Daher kann der Wert offener Modelle in EDA-Tools damit verbunden sein, dass Unternehmen ihre Daten in einer geschützten Umgebung halten und anschließend ihre eigenen Daten, Workflows und Wissensschichten hinzufügen können. Die Sicherheitsaspekte beschränken sich dabei nicht auf das Modell selbst, sondern umfassen auch die Authentifizierung von Gewichtsdateien und Aktualisierungen, den Schutz von Speicher und DMA-Kanälen, die Isolierung von Workloads sowie die Unterstützung eines Rollbacks auf eine sichere Version.
Redaktionelle Einordnung: Die eigentliche Veränderung besteht nicht darin, dass Modelle mit offenen Gewichten proprietäre Modelle sofort ersetzen werden, sondern darin, dass sie die Entscheidung über KI von der Auswahl eines Dienstes auf den Entwurf eines vollständigen Systems verlagern. Unternehmen müssen Leistung, Kosten, Datenschutz und Weiterentwickelbarkeit gegeneinander abwägen, während Chipdesigner Plattformen entwickeln müssen, die Veränderungen bei den Modellen verkraften, statt sie auf einen einzigen Standard zu optimieren. Offen bleibt, inwieweit offene Modelle die Qualitätslücke bei spezialisierten Aufgaben schließen können, insbesondere wenn verlässliche Daten und Workflows wichtiger sind als die Modellgröße allein.