Ethereum-Mitbegründer Vitalik Buterin glaubt nicht, dass die Verbesserung der künstlichen Intelligenz die Cybersicherheit letztendlich im Wesentlichen ungewinnbar machen wird.
Buterin ist zuversichtlich, dass letztlich das Gegenteil eintreten könnte: KI könnte Verteidigern die Werkzeuge an die Hand geben, die nötig sind, um Software zu entwickeln, die von vornherein deutlich schwerer auszunutzen ist.
"Es ist eine zunehmend verbreitete Auffassung, dass KI-Hacking bedeutet, dass die Cybersicherheit dem Untergang geweiht ist. Ich widerspreche", schrieb Buterin am Mittwoch in einem langen und für ihn typisch gehaltvollen Social-Media-Beitrag im sozialen Netzwerk X.
Laut dem Ethereum-Mitbegründer sollte die Cybersicherheit naturgemäß die Verteidiger begünstigen, sobald Entwickler beginnen, die formale Verifikation voll auszuschöpfen.
Buterin verknüpfte diese Überzeugung auch direkt mit seiner eigenen Exposition gegenüber Kryptowährungen und verriet, dass etwa 90 % seines Nettovermögens weiterhin in Krypto liegt.
Jeder, der weiterhin beträchtliche Mengen an Kryptowährung hält, so argumentierte er, wettet implizit darauf, dass ausreichend sichere digitale Systeme trotz zunehmend raffinierter Angreifer gebaut werden können.
"Wenn KI Navier-Stokes und FLT beweisen kann, dann kann KI die Aussage 'dieses Programm ist sicher' als mathematischen Satz beweisen", schrieb Buterin mit Bezug auf das Navier-Stokes-Problem und den Großen Fermatschen Satz.
Sein Argument basiert auf der formalen Verifikation, einer Methode, mit der mathematisch nachgewiesen wird, dass Software bestimmte Eigenschaften erfüllt.
Buterin erkundete dieselbe Idee ausführlich in seinem Essay vom Mai, in dem er KI-gestützte formale Verifikation als ein enorm transformatives Werkzeug für sicherheitskritische Software beschrieb. Der Nachweis, dass solche Software sicher ist, könnte sich jedoch als schwierig erweisen.
Das Definitionsproblem
Buterin verwendete die verschlüsselte Messaging-App Signal als Beispiel, um zu zeigen, warum dies schwierig sein könnte.
Ein Angreifer könnte versuchen, Nachrichten zu fälschen, sie am Ankommen zu hindern, alte Nachrichten erneut abzuspielen, einen Server zu kompromittieren, den Prozess zur Ermittlung des öffentlichen Schlüssels eines anderen Nutzers zu manipulieren oder eine Schwachstelle im Betriebssystem auszunutzen.
Weitere Probleme könnten durch korrupte Datenbanken, bösartige Bibliotheken, Compiler oder sogar Informationslecks auf Hardware-Ebene entstehen.
Selbst wenn der Inhalt einer Konversation verschlüsselt bleibt, könnte ein Angreifer dennoch erfahren, wer kommuniziert. Infolgedessen könnte die mathematische Definition dessen, was "sicher" tatsächlich bedeutet, selbst extrem kompliziert werden.
"Also ... selbst Definitionen können über tausend Zeilen Code umfassen und erfordern tiefes, sorgfältiges Nachdenken, um sie zu ergründen", schrieb Buterin.
Angreifer und Verteidiger
Ohne Zweifel könnten leistungsfähigere KI-Systeme das Auffinden von Schwachstellen erleichtern.
Dieselbe Verbesserung der maschinellen Schlussfolgerung könnte jedoch auch die Kosten für den formalen Nachweis drastisch senken, dass Software sich gemäß sorgfältig konstruierter Sicherheitsspezifikationen verhält.
Beide Seiten werden KI haben.
