OpenAI findet 948 Linux-Sicherheitslücken – und entwickelt Exploits dafür

OpenAI gibt an, dass seine autonomen Sicherheitsagenten 948 verschiedene Schwachstellen im Linux-Kernel entdeckt, funktionierende Exploits entwickelt und Korrekturen zur Überprüfung entworfen haben – und das alles für rund 1,2 Millionen US-Dollar an API-Guthaben.

„Wir haben Linux gewählt, um zu untersuchen, wie effektiv Frontier-Modelle Schwachstellen finden und ihre Sicherheitsauswirkungen in einer Codebasis dieser Größe und Bedeutung demonstrieren können“, sagte OpenAI in den am Mittwoch veröffentlichten Ergebnissen.

948 Schwachstellen, 1.169 funktionierende Exploits

Die Agenten von OpenAI scannten etwa 2,8 Millionen Zeilen Kernel-Code, also rund 7 % des Projekts. „Unser Prototyp identifizierte und analysierte 2.308 Kandidatenbefunde im Linux-Kernel, reproduzierte 1.724 Schwachstellen dynamisch und erzeugte 948 Exploits zur lokalen Privilegienausweitung (LPE), die es einem unprivilegierten lokalen Benutzer ermöglichen könnten, Root-Zugriff zu erlangen“, sagte OpenAI.

Nachdem die Exploits nach ihrer zugrunde liegenden Ursache und dem vorgeschlagenen Fix gruppiert wurden, zählten die Forscher 948 verschiedene Schwachstellen.

Der Lauf im Oktober kostete 1.213.430 US-Dollar an API-Guthaben, was etwa 1.279 US-Dollar pro Schwachstelle entspricht. OpenAI verglich dies mit historischen Auszahlungen von 20.000 bis 70.000 US-Dollar für Linux-Privilegienausweitungs-Exploits bei Hacking-Wettbewerben und legte damit einen hypothetischen Wert von 18,9 Millionen bis 66,3 Millionen US-Dollar nahe, wenn dieselben Ergebnisse manuell erzielt worden wären.

Eine frühere GPT-5.6-Sol-Kampagne fand im Juli 166 einzigartige Privilegienausweitungs-Schwachstellen für 513.690 US-Dollar. Ein neueres, nicht veröffentlichtes Cyber-Modell fand im Oktober mehr als fünfmal so viele, selbst nachdem der Kernel monatelange Fehlerbehebungen durchlaufen hatte.

OpenAI gab außerdem an, dass seine Agenten mindestens 10 Exploitationstechniken verwendeten, die den Forschern und den von ihnen konsultierten externen Experten unbekannt waren – nicht bloß vorhandene Tricks, die aus Trainingsdaten abgerufen wurden.

Was passiert, wenn Hacker dieselben Werkzeuge bekommen?

Dass KI-Unternehmen kritische Fehler finden, ist nur ein weiterer Beweis dafür, wie Systeme in der Lage sind, fortgeschrittene Cybersicherheitsforschung durchzuführen und Ergebnisse zu erzielen, die zuvor erhebliche menschliche Expertise erforderten.

Letzte Woche offenbarte Anthropic, dass eine nicht veröffentlichte Version von Claude schwerwiegende Schwachstellen in weit verbreiteter Software, darunter Chrome und Linux, entdeckt und ausgenutzt hatte. Einige dieser Exploits könnten bösartigen Code mit wenig oder gar keiner Benutzerinteraktion aus der Ferne ausführen.

Die Ökonomie dieser Forschung veränderte sich bereits vor der Ankündigung von OpenAI.

Forscher bei Vidoc Security reproduzierten mehrere Schwachstellenentdeckungen im Zusammenhang mit Anthropics leistungsstarker Mythos-KI unter Verwendung öffentlich zugänglicher Modelle für weniger als 30 US-Dollar pro Datei.

Diese Tests zeigten, dass das Auffinden von Schwachstellen zunehmend zugänglich wurde, obwohl das Reproduzieren eines Fehlers etwas anderes ist als die Entwicklung eines zuverlässigen Exploits, der ein geschütztes System kompromittieren kann.

OpenAIs neuestes Experiment geht weiter, indem es einen Großteil dieses Exploitation-Prozesses automatisiert und so einen potenziellen Vorteil für Verteidiger schafft, die Software patchen wollen, bevor Kriminelle dieselben Schwachstellen ausnutzen können.

Das Unternehmen warnte, dass Angreifer mit begrenztem Zugriff auf ein veraltetes Betriebssystem zunehmend in der Lage sein könnten, ihre Privilegien mit KI-Unterstützung auszuweiten.

OpenAI versucht, den Zugriff auf seine leistungsfähigeren Cybersicherheitsmodelle durch verifizierte Sicherheitsprogramme einzuschränken. Seine Daybreak Red-Initiative bietet genehmigten Verteidigern Zugang zu spezialisierten KI-Tools für Schwachstellenforschung, Exploit-Tests und die Entwicklung von Gegenmaßnahmen.