In den meisten technischen Diskussionen über künstliche Intelligenz liegt der Fokus üblicherweise auf der Rechenleistung (Compute) und der Geschwindigkeit der Beschleuniger, was angesichts der einfachen Messbarkeit der Leistung anhand traditioneller Benchmarks verständlich ist. Das Aufkommen der sogenannten "physischen KI" (Physical AI) schafft jedoch eine neue Realität; hier besteht die Aufgabe nicht nur in der Datenverarbeitung, sondern in der Koordination zwischen Verarbeitung, Speicher und Datenbewegung unter komplexen, realen betrieblichen Einschränkungen.
Warum Rechenleistung allein nicht ausreicht
Systeme, die in der realen Welt agieren – wie humanoide Roboter oder Drohnen – sind auf die Fähigkeit angewiesen, in Echtzeit zu sehen, zu interpretieren, Entscheidungen zu treffen und diese auszuführen. In diesen Umgebungen wird die Datenbewegung zum größten Engpass; wenn die richtigen Daten nicht zur richtigen Zeit den richtigen Prozessor erreichen, kommt es bei den Recheneinheiten (wie NPU oder CPU) zu Stillständen (Stall), was zu einem erhöhten Energieverbrauch und einer Anhäufung von Latenz führt, die in kritischen Systemen katastrophal sein kann.
Das Design dieser Systeme erfordert eine präzise Balance zwischen dem On-Chip-Speicher (SRAM/Cache) und externem Speicher mit höherer Kapazität wie LPDDR oder GDDR. Das Ziel ist nicht, den Zugriff auf den externen Speicher zu eliminieren, sondern sicherzustellen, dass die am häufigsten genutzten und zeitkritischen Daten sehr nah an den Recheneinheiten verbleiben, um den Energieverbrauch zu senken und einen kontinuierlichen Datenfluss zu gewährleisten.
Reale Anwendungen mit unterschiedlichen Anforderungen
Die architektonischen Anforderungen an den Speicher variieren je nach Art des Geräts und seiner Anwendung, was die Komplexität des Designs verdeutlicht:
- Humanoide Roboter: Sie stehen vor der Herausforderung, den begrenzten Energieverbrauch mit der Notwendigkeit in Einklang zu bringen, riesige Datenströme von Kameras, Sensoren und Bewegungssteuerungen zu verarbeiten. Jede Verzögerung beim Eintreffen der Wahrnehmungsdaten kann zu Fehlern bei der Balance oder der Bewegungsentscheidung führen.
- Drohnen: Hier tritt das Konzept der "Bandbreite pro Watt" (Bandwidth per watt) als entscheidendes Kriterium hervor, da jeder übermäßige Energieverbrauch beim Datentransport die Betriebszeit direkt verkürzt.
- Autonome Fahrzeuge: Sie stellen die größte Herausforderung dar, da Daten von Radar, Lidar und Kameras zusammengeführt werden müssen (Sensor Fusion), was einen intensiven Wettbewerb um den Speicherzugriff erzeugt, um eine sofortige und prädiktive Reaktion zu gewährleisten.
Fünf Säulen für ein effektives Speicherarchitektur-Design
Um eine stabile Leistung in physischen KI-Systemen zu erreichen, müssen Ingenieure strategische Entscheidungen in fünf Schlüsselbereichen treffen:
- Datenlokalität (Data Locality): Festlegung, welche Daten in der Nähe des Prozessors verbleiben müssen, um die Latenz zu minimieren, und welche extern gespeichert werden können.
- Datenverkehrskonflikte (Traffic Contention): Verwaltung des Wettbewerbs zwischen Sensorströmen, Betriebssoftware und Sicherheitsfunktionen beim Zugriff auf den Speicher.
- Eignung des externen Speichers: Wahl zwischen LPDDR (ideal für Energieeffizienz und Kapazität) oder GDDR (ideal für hohe Bandbreiten bei Videoströmen).
- Caching-Strategie (Buffering): Bestimmung der notwendigen lokalen Speicherkapazität zur Wiederverwendung von Daten und zur Vermeidung unnötiger Transfers außerhalb des Chips.
- Latenzvorhersehbarkeit (Latency Predictability): Sicherstellung, dass die Latenz auch bei der gleichzeitigen Ausführung mehrerer Aufgaben innerhalb sicherer Grenzen bleibt.
Zusammenfassend lässt sich sagen, dass die physische KI einen echten Test für die Systemintegration darstellt; die Rechenleistung kann nicht von der Effizienz der Speicherarchitektur getrennt werden, was das Design der Datenstruktur zu einem ebenso wichtigen Schwerpunkt macht wie das Design des Prozessors selbst.