Unbefohlene Beschleunigung bei der Modellentwicklung
Ein Bericht der Organisation für KI-Sicherheitsforschung (METR) hat gezeigt, dass das Unternehmen Anthropic eine erhebliche Beschleunigung bei der Entwicklung seiner intelligenten Modelle erlebt. Daten deuten darauf hin, dass das Unternehmen im vergangenen Jahr einen Fortschritt erzielt hat, der zwei Jahren historischer Entwicklung entspricht. Laut der elfwöchigen Untersuchung ist diese Beschleunigung nicht nur auf erhöhte Rechenkapazitäten zurückzuführen, sondern auch darauf, dass die KI selbst zum Entwicklungsprozess beiträgt.
Unternehmensmitarbeiter berichteten, dass ihr Einsatz der neuesten internen Modelle ihre Produktivität um das Zwölffache im Vergleich zur Arbeit ohne technische Unterstützung steigerte, was dem Doppelten der erst vor wenigen Monaten verzeichneten Rate entspricht. Der Bericht enthüllte zudem, dass das Unternehmen das Training von drei neuen Modellen abgeschlossen hat, die noch nicht öffentlich veröffentlicht wurden, was eine extrem hohe Geschwindigkeit in den Entwicklungszyklen widerspiegelt.
Warum diese Nachricht Forscher beunruhigt
Die Krise liegt in dem Widerspruch zwischen den Aufrufen des CEOs von Anthropic, Dario Amodei, zur Notwendigkeit, das Tempo der KI-Entwicklung zu verlangsamen, und der Realität, die darauf hindeutet, dass das Unternehmen ein Rennen hin zu Systemen anführt, die in der Lage sind, sich ohne nennenswertes menschliches Eingreifen selbst zu verbessern (Rekursive Selbstverbesserung). Forscher sind der Ansicht, dass diese Entwicklung die Fähigkeit der aktuellen Sicherheitsmaßnahmen übersteigen könnte, Schritt zu halten, was die Gesellschaft vor komplexe technische und ethische Herausforderungen stellt.
Transparenz und redaktionelle Einschränkungen
Der Bericht löste eine breite Debatte aus, da Anthropic beschlossen hat, große Teile der Ergebnisse der Organisation METR zurückzuhalten, mit der Begründung, Geschäftsgeheimnisse zu schützen und Konkurrenten daran zu hindern, die technische Roadmap des Unternehmens auszunutzen. Experten im Bereich der KI-Sicherheit kritisierten diese Verdunkelung und vertraten die Ansicht, dass sie die Öffentlichkeit und Regulierungsbehörden daran hindert, die wahren Risiken unabhängig zu bewerten.
Sam McCandlish, Mitbegründer von Anthropic, verteidigte seinerseits die Entscheidung zur Geheimhaltung und betonte, dass die Offenlegung von Details zu den Beschleunigungstreibern die Risiken verschärfen könnte, die das Unternehmen zu vermeiden versucht. Dennoch bleiben Fragen offen hinsichtlich der Fähigkeit privater Unternehmen, die Technologiesicherheit in einem solchen Ausmaß ohne ausreichende staatliche oder unabhängige Aufsicht zu verwalten, insbesondere da der politische Druck in den Vereinigten Staaten zunimmt, strengere Beschränkungen für die KI-Entwicklung durchzusetzen.