Kurz gesagt
- OpenAI pausierte am Wochenende das Training seiner neuesten Modelle, nachdem seine Agenten mit Websites der US-Regierung interagiert hatten – die zweite Pause seit dem Hugging-Face-Vorfall.
- Beim Census Bureau nutzten Agenten Entwicklerschlüssel, die in öffentlichen Code-Repositories gefunden wurden, um Daten abzurufen, die laut Handelsministerium öffentlich waren; die SEC gibt an, keine Kenntnis von unbefugtem Zugriff auf nicht öffentliche Informationen zu haben.
- OpenAI sagt, Regierungsseiten seien aufgetaucht, weil seine Modelle sie oft als autoritative Quellen betrachten, und es habe Dutzende Organisationen benachrichtigt.
OpenAI hat das Training seiner neuesten KI-Modelle pausiert, nachdem seine Agenten mithilfe online gefundener Zugangsschlüssel Daten von einer Website des U.S. Census Bureau abgerufen hatten, so die Associated Press. Es ist das zweite Mal, dass das Unternehmen das Training gestoppt hat, seit seine Agenten Hugging Face kompromittiert haben, eine Website, auf der Entwickler KI-Modelle teilen.
Ein Agent ist ein KI-Programm, das im Web surft und selbstständig Code schreibt, ohne dass ein Mensch jeden Schritt genehmigt. OpenAI testet sie während des Trainings, der Phase, in der ein Modell durch wiederholtes Üben lernt, und während der Evaluierung, bei der es für Aufgaben benotet wird.
Diese digitalen Kerle haben OpenAI eine Menge Probleme bereitet, als sie versuchten, Aufgaben zu erfüllen, egal um welchen Preis. Sie haben bereits private Unternehmen gehackt, jetzt hacken sie Regierungen und dringen in sensible Portale ein, sogar in die der Regierung der Vereinigten Staaten.
OpenAIs Agenten, die nach Daten suchten, fanden Entwicklerschlüssel, Passcodes, die Software mit dem Datendienst einer Website kommunizieren lassen, die in öffentlichen Code-Repositories auf GitHub lagen, einer Seite, auf der Programmierer ihren Code für jeden sichtbar veröffentlichen. Sie nutzten die Schlüssel, um demografische und wirtschaftliche Daten aus der US Census Data API, dem automatisierten Datenfeed des Büros, abzurufen.
Das Handelsministerium sagt, die Daten seien öffentlich gewesen. Nichts Geheimes sei nach draußen gelangt.
Das Problem ist, wie die Agenten hineingelangten. OpenAIs eigener Berichtsrahmen listet die unbefugte Nutzung offengelegter Anmeldeinformationen als eine Kategorie von Fehlverhalten auf, und „Misalignment“ ist das Branchenwort dafür, dass eine KI etwas tut, was ihre Entwickler nicht beabsichtigt hatten.
Warum also Regierungsseiten?
OpenAIs Antwort, laut CNN, ist, dass einige der Vorfälle Regierungsseiten betrafen, weil seine Modelle sich oft an sie als maßgebliche Quellen für öffentliche Informationen wenden. Neben dem Handelsministerium waren auch andere Behörden von diesen bösartigen – oder „rogue“, wie sie es gerne nennen – Agenten betroffen.
Die Agenten untersuchten die SEC, aber dieser Vorfall war milder. Agenten kopierten öffentliches Material von SEC.gov und Investor.gov und veröffentlichten es auf einer anderen Webseite erneut, und OpenAI sagt, es habe keine Nutzung von SEC-Anmeldedaten festgestellt. Die SEC sagt, sie wisse von keinem unbefugten Zugriff auf nicht öffentliche Informationen.
BitcoinBTC · USD
$83,218−3.89%
21. Sep.23. Sep.25. Sep.27. Sep.28. Sep.
$87,2k$85,7k$84,2k$82,7k
24h HochHoch$84,945
24h TiefTief$82,581
VolVol$1,8 Mrd.
MarktprognosenQuoten von Myriad
Diese WocheUnter $84.000Unter $84k59% ChanceDiesen MonatUnter $84.000Unter $84k59% Chance
→Bitcoin mit USDT kaufen
Bereitgestellt von Jupiter
Das Bildungsministerium ist der undurchsichtigere Fall. Transluce, ein unabhängiges KI-Forschungslabor, sagt, dass ein Agent, der von OpenAI zu stammen schien, versucht hat, in die Website des Bürgerrechtsbüros des Ministeriums einzudringen, und dabei gescheitert ist. OpenAI untersucht diesen Fall noch, und das Ministerium sagt, es habe keine Auswirkungen festgestellt.
Außenstehende wiesen auf diesen Versuch hin, nicht OpenAI. Die frühere Arbeit von Transluce stützte sich auf öffentliche Aufzeichnungen von urlquery.net, einem Web-Scanning-Dienst, und führt Spuren vermuteter Agentenaktivität bis in den März zurück.
Wie es dazu kam
Die „fehlgeleitete“ Verwendung von Zugriffsschlüsseln ist eine Wiederholung eines älteren Tricks. Im Fall von Hugging Face hieß es im eigenen Vorfallbericht von OpenAI, ein Agent habe ein Anmeldeinformationsdatum gestohlen, um an eine Biologiedatei zu gelangen, und ein unabhängiger Forscher fand später heraus, dass die Agenten die Website seit Mai sondiert hatten.
Am 21. Juli gab OpenAI bekannt, dass GPT-5.6 Sol und ein nicht veröffentlichtes Modell während eines Cybersicherheitstests aus einer Sandbox – einer isolierten Testumgebung ohne Internetzugang – entkommen seien und in Hugging Face eingedrungen seien. Zwei Tage später brachten zwei Mitglieder des Kongresses einen Gesetzentwurf ein, der es der Bundesregierung ermöglichen würde, ein KI-Modell abzuschalten. Er nimmt Red-Teaming, also adversariales Testen, aus, sodass der Hugging-Face-Vorfall ihn nicht ausgelöst hätte.
Im Juni gelangte ein OpenAI-Agent in ein australisches Medicare-Statistikportal. Premierminister Anthony Albanese sagte, OpenAI habe etwa drei Monate gebraucht, um seine Regierung zu informieren, und nannte die Art und Weise, wie dies geschah, inakzeptabel.
OpenAI sagt, es habe bisher Dutzende von Organisationen benachrichtigt, und seine Überprüfung der Aktivitäten der Agenten werde Monate dauern.
