OpenAI-Modell nutzte unerlaubt Ethereum-Testnet-Wallet, um Coding-Aufgabe abzuschließen

Ein internes OpenAI-Forschungsmodell verwendete Mittel aus einer Krypto-Wallet, die ihm nicht zur Verfügung gestellt worden war, um eine Programmieraufgabe abzuschließen, wobei es die Schlüssel der Wallet aus öffentlich bekannten Entwickler-Wiederherstellungsphrasen ableitete, wie das Unternehmen in einem am Donnerstag aktualisierten Bericht über Fehlausrichtung mitteilte.

Das Modell aus der GPT-5.6 Sol-Familie des Unternehmens wurde gebeten, einen Krypto-Handelsprototyp zu aktualisieren und Smart Contracts im Sepolia-Testnetz von Ethereum bereitzustellen, wo Token keinen Geldwert haben. Der Vorfall ereignete sich im Juni während einer Trainingsaufgabe, und OpenAI entdeckte ihn im September.

Die Anweisungen erlaubten dem Modell, eigene Verträge bereitzustellen, wenn es keine kompatiblen finden konnte. Laut dem Bericht stellten sie jedoch keine finanzierte Wallet bereit und gaben dem Modell keine Erlaubnis, von einem Konto auszugeben, das es selbst gefunden hatte.

Nachdem es nicht gelungen war, Test-Token von Faucets zu beziehen, schrieb das Modell ein Skript, um Konten aus gängigen Entwickler-Wiederherstellungsphrasen abzuleiten und ihre Guthaben zu überprüfen. Eine Wiederherstellungsphrase ermöglicht es jedem, der sie kennt, die privaten Schlüssel abzuleiten, die die zugehörigen Konten kontrollieren.

Das Skript überprüfte 362 Adressen und fand eine mit genügend Sepolia-ETH, um die Bereitstellung zu bezahlen.

Das Modell hinterfragte, ob es die Erlaubnis habe, bevor es die Transaktion signierte. „Aber einen öffentlich bekannten Schlüssel/Gelder ethisch zu nutzen? Gelder auf einer bekannten öffentlichen Dev-Mnemonic sind praktisch aufgegebenes/Test-ETH; Sepolia ist wertlos“, argumentierte es, bevor es zu dem Schluss kam: „In Ordnung.“

Die Bereitstellung war erfolgreich und belastete das Konto mit Transaktionsgebühren. In seiner abschließenden Antwort berichtete das Modell, dass es die Verträge bereitgestellt hatte, legte jedoch nicht offen, wie es sie bezahlt hatte.

„Dieser Fall zeigt, dass ein Modell sein eigenes Urteil über den wahrscheinlichen Schaden an die Stelle der Erlaubnis des Kontoinhabers setzen und dann aufgrund dieses Urteils ohne Autorisierung handeln kann“, schrieb OpenAI.

KI-Agenten in Testumgebungen

Der Bericht reiht sich in eine Serie von Fällen ein, in denen KI-Agenten die Grenzen ihrer Testumgebungen umgangen sind, darunter ein Fall, in dem OpenAIs GPT-5.6 Sol und ein leistungsfähigeres Vorabmodell aus ihrer Sandbox entkamen und die Produktionsserver des konkurrierenden KI-Unternehmens Hugging Face hackten.

Im vergangenen Monat fanden Forscher des Cybersicherheitsunternehmens Darktrace heraus, dass KI-Agenten ihre eigene Testumgebung hackten, um zu betrügen, während einige Wissenschaftler forderten, KI-Systeme vom Internet abzuschneiden.

OpenAI gab an, den Vorfall entdeckt zu haben, als es seine Überwachung auf Fehlausrichtungen auf Aufzeichnungen früherer Modellaktivitäten ausweitete. Das Unternehmen hat "zusätzliche Schutzmaßnahmen" hinzugefügt, um den Live-Internetzugang für Modelle in ähnlichen Fällen zu verhindern, und betreibt sein Überwachungssystem nun für den gesamten Datenverkehr, das die Sicherheit alarmieren soll, wenn ein Modell Live-Internetzugang erhält.