In Kürze

  • Zwei US-amerikanische und chinesische Sicherheitsexperten schlugen rote Linien vor, die KI daran hindern sollen, Nuklearsysteme eigenständig anzugreifen.
  • Die Autoren forderten außerdem eine militärische KI-Hotline und eine gemeinsame Definition menschlicher Kontrolle.
  • Die Geschwindigkeit und das ungewisse Verhalten von KI könnten Führungskräften wenig Zeit lassen, einen eskalierenden Konflikt zu stoppen.

Sicherheitsexperten aus den Vereinigten Staaten und China haben Regeln vorgeschlagen, die künstliche Intelligenz daran hindern würden, eigenständig Cyberangriffe gegen Nuklearkommandosysteme zu starten oder über den Einsatz von Atomwaffen zu entscheiden.

Ein kürzlich veröffentlichter Bericht von Brookings und der in Shanghai ansässigen Fudan-Universität fordert die USA und China auf, ihr Bekenntnis zur menschlichen Kontrolle von Atomwaffen auf andere militärische Anwendungen von KI auszuweiten, einschließlich Cyberangriffen auf Nuklearkommandosysteme.

Myriad: Nächste Runde der US-Iran-Friedensgespräche? Klicken Sie, um Ihre Vorhersage zu treffen.
Myriad: Nächste Runde der US-Iran-Friedensgespräche? Klicken Sie, um Ihre Vorhersage zu treffen.

„Die Präsidenten Donald Trump und Xi Jinping können bei der Steuerung dieser Gefahren vorangehen, indem sie vereinbaren, dass nur Menschen und nicht KI die Entscheidung treffen sollten, einen Cyberangriff gegen die Nuklearkommando-, -kontroll- und -kommunikationssysteme (NC3) oder kritische Infrastruktur der jeweils anderen Seite zu initiieren“, schrieben die Forscher.

NC3-Systeme helfen Regierungen, Bedrohungen zu erkennen, zu entscheiden, ob Atomwaffen eingesetzt werden sollen, und Startbefehle zu übermitteln, doch Ausfälle in jeder Phase könnten die Kommunikation stören, einen Angriff falsch interpretieren, einen Erstschlag begünstigen oder einen versehentlichen oder unbefugten Start auslösen.

„Die Ausweitung des auf Atomwaffen angewandten Prinzips – dass Angriffe mit strategischen Auswirkungen menschliche Absicht ausdrücken sollten und menschlicher Rechenschaftspflicht unterliegen müssen – erfordert nicht, dass Washington und Peking andere Prinzipien der Cybersicherheit oder des Infrastrukturschutzes teilen“, schrieben die Forscher.

Das vorgeschlagene Abkommen würde beide Länder verpflichten, das Risiko zu verringern, dass Zufall, menschliches Versagen, unvorhersehbare KI oder unbefugte Akteure Angriffe mit strategischen Konsequenzen auslösen könnten.

Die Forderung nach Sicherheitsvorkehrungen nach dem Vorbild der Nukleartechnik ist Teil einer wachsenden Debatte darüber, wie die KI-Entwicklung verlangsamt und zunehmend leistungsfähige Systeme unter menschlicher Kontrolle gehalten werden können. Die Sorge ist besonders im Militär akut, wo automatisierte Entscheidungen, die in Millisekunden getroffen werden, eine falsche Warnung oder einen Cyberangriff in eine nukleare Krise verwandeln könnten.

Diese Sorge wurde im Februar unterstrichen, als Modelle von OpenAI, Google und Anthropic in 95 % der getesteten Kriegsspielszenarien Atomwaffen einsetzten, obwohl Experten warnten, dass die Simulation die Eskalation begünstigt haben könnte.

BitcoinBTC · USD

$76,418−0.94%

10. Sep.12. Sep.14. Sep.16. Sep.17. Sep.

$79,2k$78,0k$76,7k$75,5k

24h HochHoch$77,024

24h TiefTief$75,602

VolVol$872,8M

MarktprognosenQuoten von Myriad

Diese WocheÜber $76.000Über $76k64% Chance

Preisdaten von CoinGeckoCoinGeckoMehr Bitcoin-Nachrichten und Prognosen →

Im selben Monat weigerte sich Anthropic, den Forderungen des Pentagons nachzukommen, Claudes Beschränkungen für Massenüberwachung und vollständig autonome Waffen aufzuheben. Trump wies Bundesbehörden an, die Technologie des Unternehmens nicht mehr zu nutzen, doch ein Bundesrichter entschied am 28. August, dass die Regierung illegal gegen Anthropic wegen KI-rote-Linien vergolten hatte.

Seitdem mehren sich in der gesamten Branche die Rufe nach Zurückhaltung. Anfang dieses Monats forderte Anthropic-CEO Dario Amodei Entwickler auf, das Tempo bei den Fähigkeitszuwächsen zu drosseln, wofür er Unterstützung von OpenAI-CEO Sam Altman und xAI-Eigentümer Elon Musk erhielt, während OpenAI den Kongress fragte, ob Unternehmen eine Verlangsamung koordinieren könnten, ohne gegen Kartellrecht zu verstoßen.

Da keine verbindliche Verlangsamung besteht, schlagen die Brookings-Autoren eine engere Regel vor: Nur Menschen sollten befugt sein, Angriffe auf nukleare Kommandosysteme oder den Einsatz von Kernwaffen zu genehmigen.

„Die Governance militärischer KI ist keine Verhandlung, die warten kann – sie ist ein Wettlauf gegen die Zeit“, schrieben sie.