Sicherheit kommerzieller Internet-of-Things-Geräte und die Risiken, die entstehen, wenn sie von sich selbst replizierenden KI-Modellen ins Visier genommen werden.
Experimente des Frontier Red Team bei Anthropic deuten darauf hin, dass kleine KI-Modelle innerhalb weniger Monate in der Lage sein könnten, sich selbst auszuführen und sich zwischen kommerziellen Geräten des Internets der Dinge zu verbreiten, ohne auf ein Rechenzentrum angewiesen zu sein. Einen vollständig funktionsfähigen Schadprogramm-Replikator gibt es bislang nicht, doch die Modelle werden besser darin, die für einen Angriff erforderliche Schrittfolge auszuführen.