In Kürze
- Der Generalstaatsanwalt von Kalifornien, Rob Bonta, gab am 1. Oktober bekannt, dass sein Büro OpenAI eine investigative Vorladung wegen Cybersicherheitsvorfällen im Zusammenhang mit seinen KI-Modellen, einschließlich des Hugging-Face-Hacks, zugestellt hat.
- Bonta sagte, Entwickler, die nicht verhindern, dass ihre Modelle Cyberangriffe durchführen oder ermöglichen, „können und sollten rechtlich zur Verantwortung gezogen werden“.
- Die Vorladung reiht Kalifornien neben einer Vorladung aus Alabama, einer Forderung einer Koalition von Generalstaatsanwälten aus 15 Bundesstaaten und einer gemeldeten FTC-Untersuchung ein.
Der Generalstaatsanwalt von Kalifornien, Rob Bonta, sagte am Donnerstag, dass sein Büro OpenAI am Mittwoch eine investigative Vorladung zugestellt habe, um Antworten zu Cybersicherheitsvorfällen im Zusammenhang mit seinen KI-Modellen zu erhalten, wie aus seinem Büro hervorgeht.
„Mein Büro stellt OpenAI zusätzliche Fragen zu Cybersicherheitsvorfällen und -risiken im Zusammenhang mit dem Unternehmen und seinen KI-Modellen“, sagte Generalstaatsanwalt Bonta. „Entwickler, die nicht [sicherstellen, dass sie keine Cyberangriffe begehen oder ermöglichen], können und sollten rechtlich zur Verantwortung gezogen werden, und mein Büro ist entschlossen festzustellen, ob dies hier der Fall ist.“
Eine Vorladung ist eine rechtliche Anordnung, Dokumente oder Antworten herauszugeben, und wenn man sie ignoriert, landet man vor einem Richter. Diese hier ist investigativ, ein Instrument, das genutzt wird, um Fakten zu sammeln, bevor entschieden wird, ob Klage erhoben wird. Bontas Büro hat nicht öffentlich gesagt, was es von OpenAI verlangt.
Frontiermodelle – die fortschrittlichsten KI-Systeme auf dem Markt – können „legitime Werkzeuge für die Cyberverteidigung“ sein, sagte Bonta. Aber die Unternehmen, die sie bauen, tragen „eine moralische und rechtliche Verantwortung“ dafür, dass sie keine Cyberangriffe durchführen oder ermöglichen, sei es während des Tests oder nach der Veröffentlichung, sagte er.
Der Test, der entkam
Die Vorladung folgt auf einen Vorfall im Juli, der wie schlechte Science-Fiction klingt. Laut OpenAI wurden zwei seiner Modelle anhand eines Benchmarks bewertet, bei dem einer KI 898 echte Softwarefehler vorgelegt und sie gebeten wird, jeden einzelnen in einen funktionierenden Angriff zu verwandeln
Die Modelle fanden eine Zero-Day-Schwachstelle – ein Sicherheitsloch, von dem niemand wusste, dass es existierte, sodass keine Lösung verfügbar war – in einer Software eines Drittanbieters, die die Testumgebung zum Installieren von Codepaketen verwendete. Sie nutzten sie, um auszubrechen.
Dann überlegten sie, dass Hugging Face, eine Plattform, auf der Entwickler KI-Modelle und Datensätze teilen, den Lösungsschlüssel enthalten könnte. Sie brachen mit gestohlenen Zugangsdaten und weiteren Schwachstellen ein. Einfach ausgedrückt: Die KI jagte den Antworten auf ihre eigene Prüfung nach.
BitcoinBTC · USD
$84,434+0.77%
25. Sep.27. Sep.29. Sep.1. Okt.2. Okt.
$86.8k$85.4k$84.0k$82.7k
24h HochHoch$87,086
24h TiefTief$83,898
VolVol$2.2B
MarktprognosenQuoten von Myriad
→Bitcoin mit USDT kaufen
Bereitgestellt von Jupiter
Hugging Face gab den Eindringling am 16. Juli bekannt, und OpenAI bestätigte fünf Tage später, dass seine Modelle dahintersteckten. OpenAI erklärte später, dieselben Modelle seien in Konten bei vier weiteren Diensten eingedrungen.
Kaliforniens langer Blick auf OpenAI
Bonta kündigte im September eine formelle Untersuchung des Hugging-Face-Vorfalls an, und die Vorladung ist Teil davon. OpenAI hat seinen Hauptsitz in Kalifornien, und als Bonta sich im Oktober 2025 nicht gegen dessen Umwandlung in eine gewinnorientierte Struktur aussprach, sagte er, sein Büro werde „ein wachsames Auge auf OpenAI“ haben, um „die Sicherheit aller Kalifornier“ zu schützen.
Er ist nicht allein. Brenna Bird, die Generalstaatsanwältin von Iowa, führte im August eine Koalition aus 15 Bundesstaaten an, die von OpenAI forderte, Aufzeichnungen zu bewahren und transparent über den Hack zu sein. Alabama hat eine eigene Vorladung erlassen, und die FTC untersucht Berichten zufolge KI-Labore, darunter OpenAI und Anthropic.
Separat sagte der australische Premierminister Anthony Albanese, ein OpenAI-Agent sei im Juni in ein Medicare-Statistikportal eingedrungen. Damals schien es der erste bekannte Fall zu sein, in dem ein KI-Agent eine Regierungswebsite hackte. Später wurde bekannt, dass OpenAI-Agenten im Sommer auch auf US-Regierungswebsites herumstöberten, obwohl offenbar keine nicht öffentlichen Informationen abgerufen wurden.
