25 führende Mathematiker haben einen offenen Brief unterzeichnet, der davor warnt, dass der Wettlauf der KI-Labore um Durchbrüche bei berühmten mathematischen Problemen die offene Struktur beeinträchtigen könnte, auf der wissenschaftliche Forschung beruht. Alle Unterzeichner tragen die Fields-Medaille, die als eine der höchsten Auszeichnungen in der Mathematik gilt.
Der Brief erscheint zu einem Zeitpunkt, an dem sich der Streit zwischen OpenAI und mehreren akademischen Forschern verschärft. Tristan Buckmaster, Professor an der New York University (NYU), warf dem Unternehmen vor, Druck auf ihn ausgeübt zu haben, damit er einem Mitarbeiter von Anthropic nach der Lösung eines wichtigen mathematischen Problems nicht die Anerkennung zuschreibt. Außerdem stellte er die Frage, ob OpenAI Arbeiten verwendet habe, die über Codex erstellt wurden, um während einer langen Schlussfolgerungsphase einen eigenen Beweis zu erstellen. Dem Artikel zufolge ist der Beweis von OpenAI weiterhin weder dokumentiert noch verifiziert.
In einer weiteren Entwicklung zog OpenAI diese Woche seine Unterstützung für eine mathematische Veranstaltung am California Institute of Technology (Caltech) zurück, nachdem Forscher des Instituts Kritik geäußert hatten. Die Quelle nennt keine weiteren Einzelheiten zu den Gründen für den Rückzug oder zur Art der Kritik, ordnet den Schritt jedoch in den Kontext der zunehmenden Spannungen zwischen Laboren und Universitäten ein.
Das Problem besteht nicht allein darin, das Problem zu lösen
Der Brief räumt ein, dass die Fähigkeit von Modellen, offene mathematische Probleme zu lösen, für die Menschheit nützlich sein könnte. Er knüpft diesen Nutzen jedoch an die Fähigkeit der mathematischen Gemeinschaft, die Lösungen zu verstehen, zu erklären und in das bestehende Wissen zu integrieren. Die Unterzeichner warnen, dass die schnelle Bekanntgabe von Ergebnissen möglicherweise nicht genügend Zeit lässt, um eine überprüfbare mathematische Darstellung auszuarbeiten, neue Methoden und Ideen herauszuarbeiten und auf frühere Arbeiten hinzuweisen.
Dies wirft dem Brief zufolge scharfe Fragen zur Anerkennung von Urheberschaft und zur möglichen Einreichung fremder Arbeiten auf, insbesondere wenn ein mithilfe künstlicher Intelligenz erzeugtes Ergebnis vorgestellt wird, bevor andere Forscher es überprüfen oder seine Verbindung zu früheren Arbeiten bestimmen können. Der Brief betont außerdem, dass Mathematik nicht nur aus Beweisen besteht; sie umfasst einen umfassenderen Prozess, zu dem die Ausbildung von Studenten, das Stellen neuer Fragen, die Weiterentwicklung von Ideen und ihre Weitergabe zwischen Generationen gehören.
Warum ist diese Nachricht wichtig?
Das praktische Problem, das der Streit hervorhebt, ist ein Ungleichgewicht bei den Anreizen. KI-Labore, die in der Lage sind, Dutzende Millionen Dollar für den Betrieb von Modellen auszugeben, könnten bei einem Problem einen hilfreichen Lösungsweg finden, bevor die Forscher, die begonnen haben, daran zu arbeiten. Wenn die Regeln für Anerkennung, Dokumentation und die gegenseitige Nutzung von Werkzeugen nicht klar sind, könnte dies Forscher dazu bringen, ihre Arbeiten weniger zu teilen oder den Einsatz von KI-Werkzeugen zu vermeiden, aus Angst, dass ihre Ergebnisse in spätere Modelle einfließen oder einer anderen Partei zugeschrieben werden.
Der Brief folgt auf die „Leiden-Erklärung“, die eine Gruppe von Mathematikern im Juni veröffentlichte und die sich ebenfalls mit den Auswirkungen von Beweisen großer Sprachmodelle auf den Berufsstand befasste sowie Empfehlungen für Mathematiker, Institutionen und politische Entscheidungsträger enthielt. Dies deutet darauf hin, dass es bei der Debatte nicht mehr um einen Einzelfall geht, sondern um einen frühen Versuch, Standards für Transparenz, Überprüfung und die Anerkennung von Urheberschaft zu entwickeln.
Grundlegende Fragen bleiben offen, darunter, wie die Quelle der in einem mithilfe eines Modells erzeugten Beweis verwendeten Ideen nachgewiesen werden kann, wer die Verantwortung für seine Überprüfung trägt und wie die Kultur der offenen Forschung geschützt werden kann, ohne den Nutzen neuer Werkzeuge zu behindern. Der Website zufolge betreffen diese Fragen nicht nur die Mathematik; die Spannung zwischen der Geschwindigkeit von KI-Systemen und den Anforderungen an dokumentierbare kreative Arbeit könnte in anderen wissenschaftlichen und beruflichen Bereichen in ähnlicher Weise auftreten.