Das Auffinden potenzieller Schwachstellen in Open-Source-Software ist mit Werkzeugen der künstlichen Intelligenz einfacher geworden. Die einfache Entdeckung eines vermuteten Problems bedeutet jedoch nicht, dass es sich um eine tatsächlich ausnutzbare Schwachstelle handelt. Infolgedessen sehen sich Projektbetreuer mit einem Strom ausführlicher, ungenauer oder doppelter Meldungen konfrontiert, der Zeit bindet, die für die Behebung von Fehlern und die Weiterentwicklung der Software eingesetzt werden könnte.
Die Initiative Akrites, die die Linux Foundation im Juni angekündigt hat, versucht, diese Lücke durch ein gemeinsames Security Incident Response Team (SIRT) zu schließen. Seine Aufgabe besteht darin, Schwachstellenmeldungen zu sammeln, zu überprüfen und die Behebung mit den Betreuern der ursprünglichen Projekte zu koordinieren. In einem Gespräch mit The New Stack während des Open Source Summit Europe in Prag erläuterten Christopher Robinson, technischer Leiter von Akrites und leitender Sicherheitsarchitekt bei der Open Source Security Foundation (OpenSSF), sowie Laura Guazzelli, Sicherheitsarchitektin für künstliche Intelligenz und agentische Systeme bei der Linux Foundation, die Problematik und die Funktionsweise der Initiative.
Von der „spontanen Recherche“ zur betrieblichen Belastung
Robinson zufolge genügt inzwischen ein kostenpflichtiges Konto für 20 Dollar, um mit der Suche nach Schwachstellen zu beginnen. Das verweist auf die gesunkene Zugangshürde für Nichtfachleute. Adrianne Marcum, Stabschefin der OpenSSF, bezeichnete dieses Muster spöttisch als „vibe researching“. Gemeint ist damit die Nutzung von Werkzeugen der künstlichen Intelligenz, um Code zu prüfen und Ergebnisse einzureichen, ohne den für ihre Überprüfung erforderlichen Sicherheitskontext oder die nötige Erfahrung zu besitzen.
Robinson schätzt, dass die Prüfung einer einzigen Sicherheitsmeldung einen Ingenieur bis zu acht Stunden kosten kann. Die automatisierten Meldungen seien, wie er es beschreibt, äußerst detailliert, aber häufig ungenau, überschätzten die Schwere des Problems und lieferten nicht immer die Daten, die zum Schreiben eines Patches oder zum Verständnis der Ausnutzungsmethode erforderlich seien.
Warum die Entdeckung verdächtigen Codes nicht ausreicht
Eine der wesentlichen Einschränkungen besteht darin, dass das Modell einen verdächtigen Codeabschnitt erkennen kann, ohne die vollständige Sicherheitsarchitektur des Projekts zu verstehen. An anderer Stelle können zusätzliche Schutzmaßnahmen vorhanden sein, die eine Ausnutzung des Fehlers verhindern. Dadurch kann die Meldung einen Fehlalarm darstellen oder die tatsächliche Schwere der Schwachstelle geringer ausfallen. Außerdem neigen ähnliche Modelle dazu, dieselben Fehler zu entdecken, sodass die Betreuer mehrere Meldungen zum gleichen Problem erhalten.
Dennoch betrachtet Akrites das Ignorieren von durch künstliche Intelligenz erzeugten Meldungen nicht als praktikable Option. Robinson zufolge hat sich die Qualität der Ergebnisse im Laufe des Jahres verbessert, insbesondere bei den teureren kostenpflichtigen Modellen. Zudem können die Werkzeuge manchmal Probleme mit geringerem Schweregrad miteinander verknüpfen und in eine größere Ausnutzungskette umwandeln – eine Aufgabe, die einen menschlichen Forscher Monate oder ein Jahr kosten könnte.
Menschliche Prüfung, bevor die Meldung das Projekt erreicht
Akrites nutzt künstliche Intelligenz, um eingehende Meldungen zu bewerten und Duplikate zu erkennen. Anschließend prüfen abgeordnete Ingenieure die Meldungen, bevor sie an die Betreuer weitergeleitet werden. Ihre Aufgabe beschränkt sich nicht darauf, das Vorhandensein einer Schwachstelle zu beurteilen. Sie umfasst auch die Kürzung der Meldung sowie das Hinzufügen von Testfällen, Proofs of Concept und Patches, damit das Projekt schneller und auf einer besseren Beweisgrundlage eine Entscheidung treffen kann.
Zu den Gründungsmitgliedern der Initiative gehören unter anderem Anthropic, OpenAI, Google, Microsoft, AWS, NVIDIA, Cisco, IBM, Red Hat, Citi und JPMorganChase. Laut Robinson werden die Mitglieder gebeten, neben der Finanzierung auch technische Ressourcen bereitzustellen; die Verpflichtung kann bis zu 10 Vollzeitingenieure pro Mitglied umfassen. Er sagt, dass ihm rund 200 abgeordnete Ingenieure zur Verfügung stehen, von denen viele bereits zu Open-Source-Projekten beitragen oder diese betreuen.
Was ändert sich praktisch?
Akrites platziert eine Sichtungs- und Verifizierungsebene zwischen Werkzeugen zur Schwachstellenerkennung und den Projektbetreuern, anstatt jedes automatisierte Ergebnis direkt an die für den Code Verantwortlichen weiterzuleiten. Das kann den Lärm verringern und die Umsetzbarkeit der Meldungen verbessern, beseitigt jedoch weder den Bedarf an menschlicher Erfahrung noch an kontinuierlicher Finanzierung; Infrastruktur und die Nutzung von Sprachmodellen beanspruchen erhebliche Ressourcen.
Eine weitere mit der Linux Foundation verbundene Initiative, das open source Cyber Reasoning System (OSS-CRS), entwickelt Werkzeuge, die Projekte selbst bei der Untersuchung von Schwachstellen und beim Vorschlagen von Korrekturen unterstützen. Während Akrites sich auf die Koordinierung des Meldezyklus zwischen Projekten konzentriert, zielt OSS-CRS darauf ab, Betreuer in die Lage zu versetzen, einen größeren Teil der Arbeit selbst auszuführen. Die Wirksamkeit der vorgeschlagenen Patches bleibt eine offene Frage, da überprüft werden muss, ob sie die Grundursache beheben, keine neuen Schwachstellen hinzufügen und keine bestehenden Funktionen beeinträchtigen.