Vitalik Buterin hat die Behauptung zurückgewiesen, dass zunehmend leistungsfähigere KI-Hacker die Cybersicherheit praktisch ungewinnbar machen würden, und argumentierte am 17. September, dass fortschrittliche Verifikationswerkzeuge Verteidigern letztlich einen strukturellen Vorteil verschaffen könnten.
Zusammenfassung
- 90 % von Buterins Nettovermögen befinden sich laut seiner eigenen Aussage vom 17. September weiterhin in Krypto.
- KI-gestützte formale Verifikation könnte helfen zu beweisen, dass Software definierte Sicherheitseigenschaften erfüllt, so Buterins Argument.
- Das Sicherheitsteam von Ethereum setzt bereits KI-Agenten ein, um Protokollcode zu prüfen und Schwachstellen unabhängig zu reproduzieren.
- Ethereum-Forscher betrachten formale Verifikation inzwischen als querschnittliches Werkzeug über mehrere langfristige Protokollforschungsbereiche hinweg.
- Anthropic sagt, dass Frontier-KI Angriffe beschleunigen kann, während ihre Modelle Tausende von Fehlern identifiziert haben.
Buterin schrieb in seinem Beitrag vom 17. September auf X, dass er die zunehmend verbreitete Ansicht nicht teile, dass „KI-Hacking bedeutet, dass die Cybersicherheit dem Untergang geweiht ist“. Er sagte, wer weiterhin Kryptowährungen halte, setze implizit darauf, dass sichere digitale Systeme stärkere automatisierte Angriffe überleben können, und fügte hinzu, dass etwa 90 % seines eigenen Nettovermögens weiterhin in Krypto liegen.
Sein Argument dreht sich um formale Verifikation, eine Technik, die mathematische Spezifikationen und Beweise verwendet, um festzustellen, ob Software sich gemäß vordefinierter Eigenschaften verhält. Buterin nutzte fortgeschrittenes mathematisches Theorembeweisen als Analogie und sagte, dass ausreichend leistungsfähige KI helfen könnte zu beweisen, dass „dieses Programm sicher ist“, selbst wenn die Software selbst komplex ist.
Buterin sagt, formale Verifikation kann Verteidiger begünstigen
Buterins Argument behandelt KI-Sicherheit nicht als ein Rennen, bei dem Verteidigungsforscher einfach Fehler vor Angreifern finden. Sein Beitrag beschreibt stattdessen ein Modell, bei dem Entwickler die Eigenschaften definieren, die ein System erfüllen muss, und dann automatisierte Beweiswerkzeuge verwenden, um festzustellen, dass die Implementierung sie befolgt.
Ethereums eigene Dokumentation zur formalen Verifikation beschreibt die Technik in engeren Begriffen. Sie besagt, dass formale Verifikation mathematisch beweisen kann, dass ein Smart Contract einer formalen Spezifikation entspricht, und für die in dieser Spezifikation enthaltenen Eigenschaften stärkere Garantien bietet als gewöhnliche Tests.
Dieselbe Ethereum-Dokumentation identifiziert eine wichtige Einschränkung hinter Buterins Kommentaren. Ein Beweis stellt fest, dass Software die geprüfte Spezifikation erfüllt; er beweist nicht automatisch, dass Entwickler jede Sicherheitseigenschaft korrekt definiert haben. Schlecht gewählte oder unvollständige Spezifikationen können Verhalten außerhalb des Beweises lassen.
Buterin machte dieselbe Unterscheidung in seinem Beitrag. Er argumentierte, dass eine zu enge Definition von „Sicherheit“ Angriffspfade auslassen kann, die Bereiche wie Protokolle, Server, Datenbanken, Netzwerkschichten, Caches oder andere unterstützende Komponenten betreffen. Seine vorgeschlagene Richtung besteht daher darin, mehr des vollständigen Systems zu verifizieren, anstatt eine kleine Gruppe von Modulen als sicherheitskritisch zu kennzeichnen.
Buterin hatte bereits KI-gestützte formale Verifikation als mögliche „Endform“ der Softwareentwicklung beschrieben. Seine früheren Kommentare wandten den Ansatz auf Bereiche wie Ethereum-Konsens, Zero-Knowledge-Systeme und quantenresistente Kryptographie an.
Ethereum testet bereits KI-gestützte Sicherheit
Ethereum-Forscher verwenden KI bereits in der Sicherheitsarbeit, obwohl aktuelle Systeme noch weit von einem automatischen Beweis der Sicherheit des gesamten Systems entfernt sind.
Das Protocol Security Team der Ethereum Foundation berichtete im Juli, dass koordinierte KI-Agenten echte Defekte in von Ethereum genutzten Systemen gefunden hatten. Ein bestätigter Fund betraf einen remote erreichbaren Absturz in der Gossipsub-Netzwerkimplementierung von Rust libp2p.
Die Schwachstelle wurde als CVE-2026-34219 registriert. Der Eintrag in der U.S. National Vulnerability Database besagt, dass Versionen vor 0.49.4 durch eine manipulierte PRUNE-Nachricht aus der Ferne zum Absturz gebracht werden konnten, die während der Gossipsub-Backoff-Behandlung einen arithmetischen Überlauf auslöste. Version 0.49.4 behob das Problem.
Das Sicherheitsteam der Foundation erklärte, die Entdeckung der Schwachstelle sei nicht der schwierigste Teil des KI-Workflows gewesen. Die Forscher stellten fest, dass KI-Agenten häufig überzeugende Berichte mit unerreichbaren Ausführungspfaden, Fehlern, die nur im Debug-Modus auftreten, oder formalen Beweisen erzeugten, die technisch gesehen bestanden, dabei aber eine schwächere Eigenschaft bewiesen als beabsichtigt.
Eine unabhängige Reproduktion blieb eine Voraussetzung, bevor das Team einen Befund akzeptierte. Die Foundation erklärte, dass automatisierte Prüfungen und menschliche Überprüfung erforderlich seien, weil ein Agent einen gültig aussehenden Beweis erzeugen könne, der das Softwareverhalten, das die Forscher tatsächlich testen wollten, nicht ausreichend einschränke.
Die Erfahrung der Foundation wurde als Triage-Problem beschrieben: KI könne große Mengen potenzieller Schwachstellen generieren, aber die Forscher müssten dennoch feststellen, ob jedes Problem in der Produktion erreichbar und relevant sei.
Formale Verifikation hält Einzug in Ethereums Protokoll-Roadmap
Die Ethereum Foundation hat die formale Verifikation separat zu einem Teil ihres aktuellen Protokollforschungsprogramms gemacht. In ihrem Protokollprioritäten-Update vom 7. September erklärte die Foundation, dass die formale Verifikation als querschnittliche Tooling-Komponente in ihren verbleibenden mehrjährigen Forschungsbereichen dienen werde. Das Dokument behandelt Arbeiten zu Privatsphäre, State, zkEVM-Entwicklung, Post-Quanten-Sicherheit und anderen Protokollkomponenten bis 2029.
Dieselbe Roadmap besagt, dass die Entwicklung einer L1-zkEVM voraussichtlich die Werkzeuge, Workflows und verifizierten kryptografischen Komponenten der formalen Verifikation voranbringen werde. Ethereum-Forscher arbeiten auf ein System hin, in dem Validatoren schließlich prägnante Ausführungsbeweise verifizieren, anstatt jeden Block unabhängig neu auszuführen.
Ein separates im August gestartetes Projekt der Ethereum Foundation kombiniert bereits KI-Agenten mit maschinell geprüften Beweisen. Das Projekt better.codes ermöglicht es Forschern, KI-Systeme auf ein in Lean formalisiertes kryptografisches Soliditätsproblem zu richten, während der Lean-Kernel prüft, ob eingereichte Beweise eine feste Theoremaussage erfüllen.
Der Q2-Finanzierungsbericht der Foundation listet weitere Arbeiten auf, die große Sprachmodelle mit formalen Methoden kombinieren. Zu den Projekten gehören ETHeorem zur Überprüfung von Ethereum-Client-Implementierungen gegen Spezifikationen, SPECA und LeanAgent für automatisierte Protokoll-Compliance-Arbeiten sowie formale Verifikation im Zusammenhang mit RISC-V-zkVM-Infrastruktur.
Ethereums aktualisierte technische Roadmap weist der formalen Verifikation eine Rolle neben Privatsphäre, Zero-Knowledge-Beweisen und Post-Quanten-Schutz zu. Buterins Kommentare vom 17. September setzen daher eine bestehende Forschungsrichtung fort, anstatt ein neues Upgrade oder einen geplanten Fork anzukündigen. In seinem Beitrag wurden weder ein neues EIP noch ein Bereitstellungsdatum oder eine verbindliche Regel genannt, die vorschreibt, dass jedes Ethereum-Programm einer formalen Verifikation unterzogen werden muss.
Aktuelle KI-Belege zeigen auch stärkere offensive Fähigkeiten
Jüngste Cybersicherheitsforschung stützt die Sorge, dass KI Angreifer leistungsfähiger macht, selbst während die defensive Nutzung zunimmt. Anthropic erklärte in seinem Bedrohungsbericht vom September Bericht, dass es beobachtet habe, wie böswillige Akteure KI einsetzten, um Schwachstellenforschung, Exploit-Entwicklung und Kampagnen gegen mehrere Ziele zu automatisieren. Das Unternehmen erklärte, einige Akteure hätten automatisierte Workflows unterhalten, die kontinuierlich Schwachstellenforschung betreiben könnten.
Frühere Forschung von Anthropic fand ähnliche Belege in großem Umfang. Sein Dashboard für koordinierte Offenlegung gab an, dass das Unternehmen bis zum 26. August 2.300 von KI entdeckte Schwachstellen in 392 Open-Source-Projekten offengelegt hatte, wobei zu diesem Zeitpunkt 421 upstream gepatcht worden waren.
Anthropic hat dieselbe Technologie als nützlich für die Verteidigung beschrieben. Seine Initiative Project Glasswing berichtete, dass sie Frontier-Modelle zusammen mit Sicherheitsunternehmen und Softwareanbietern einsetzte, um Schwachstellen mit hohem und kritischem Schweregrad zu lokalisieren, bevor böswillige Akteure sie ausnutzen konnten.
Die offensive Seite bleibt messbar. Anthropics Studie vom Juni untersuchte 832 Konten, die zwischen März 2025 und März 2026 mit bösartiger Cyberaktivität in Verbindung gebracht wurden, und stellte fest, dass Bedrohungsakteure KI über mehrere Phasen von Cyberoperationen hinweg einsetzen. Buterin hatte bereits ein separates Argument zurückgewiesen, dass KI-gesteuerte Sicherheitsrisiken das Vertrauen in Bitcoin schwer beschädigen könnten. Er sagte, Probleme auf der Netzwerkebene könnten oft durch Software- und Mining-Infrastruktur-Upgrades behoben werden, während er tatsächliche Brüche von Bitcoins Hashes oder Proof-of-Work-Mechanismus als höchst unwahrscheinlich bezeichnete.
Anthropics Bericht vom September besagte, dass seine Ermittler Betreiber identifiziert hatten, die KI-erstellte Exploit-Pipelines gegen Sicherheitsappliances und Regierungsziele einsetzten, wobei einige Kampagnen zuvor unbekannte Schwachstellen hervorbrachten, die Angreifer in ihren eigenen Testumgebungen validierten.
