In Kürze

  • Anthropic, OpenAI, DeepSeek und Moonshot werden am Mittwoch alle vor dem UN-Sicherheitsrat zu KI-Risiken sprechen.
  • Die Unterrichtung folgt auf den Aufruf von Anthropic-CEO Dario Amodei, die KI-Entwicklung zu verlangsamen, während er weiterhin US-Chip-Exportbeschränkungen gegen China fordert.
  • Das Treffen findet zwei Tage vor Präsident Trumps Gipfel mit Xi Jinping am 24. September statt.

Der UN-Sicherheitsrat wird den Mittwochnachmittag damit verbringen, den Menschen zuzuhören, die die Technologie entwickeln, die ihm die größten Sorgen bereitet.

OpenAI-CEO Sam Altman, Anthropic-CEO Dario Amodei, der KI-Sicherheitsforscher Yoshua Bengio und Hugging-Face-CEO Clément Delangue sind alle dafür vorgesehen, den 15 Mitglieder umfassenden Rat – das UN-Gremium mit der Befugnis, Sanktionen und militärische Maßnahmen zu genehmigen – über die Risiken der künstlichen Intelligenz zu unterrichten.

Myriad: Wie tief wird die Nvidia-Aktie fallen? Klicken Sie, um Ihre Vorhersage zu treffen.
Myriad: Wie tief wird die Nvidia-Aktie fallen? Klicken Sie, um Ihre Vorhersage zu treffen.

DeepSeek ist ebenfalls eingeladen. Das chinesische Startup, das im Januar 2025 mit der Einführung eines Billigmodells rund 600 Milliarden Dollar von Nvidias Marktkapitalisierung auslöschte, wurde gebeten, eine Erklärung abzugeben, zusammen mit einem weiteren chinesischen Unternehmen, Moonshot, den Entwicklern der Kimi-Modelle..

Frankreich organisierte die Sitzung am Mittwoch und hat in diesem Monat den rotierenden Vorsitz des Rates inne. Außenminister Jean-Noël Barrot wird sie leiten, und das Konzeptpapier hinter dem Treffen soll sich Berichten zufolge auf KI-Systeme konzentrieren, die außerhalb menschlicher Kontrolle geraten.

Dasselbe Briefing soll auch KI ansprechen, die irgendwann Cyberangriffe ausführen, Wahlen beeinflussen oder Waffen entwerfen könnte, ohne dass ein Mensch eingreift. Deshalb hört ein Rat, der für Kriege und Sanktionen geschaffen wurde, diese Woche Tech-CEOs statt Generäle.

Amodei wird sich remote zuschalten, statt persönlich zu erscheinen. Am 12. September veröffentlichte er einen Essay mit dem Titel „We Must Pace the Frontier“, in dem er argumentierte, die Branche solle bewusst verlangsamen, wie schnell sie leistungsfähigere Frontier-Modelle baut – die größten, fortschrittlichsten KI-Systeme, die ein Labor veröffentlicht hat. Er sagte, Anthropic werde externen Evaluatoren dauerhaften Zugang auf Mitarbeiterebene gewähren, um seine Sicherheitsversprechen zu überprüfen. Sam Altman und Elon Musk sagten beide, sie stimmten innerhalb von Stunden zu.

Amodei nannte China „das autokratische Land mit den mit Abstand fortschrittlichsten KI-Fähigkeiten“ und argumentierte, die USA sollten weiterhin Exporte fortschrittlicher Chips nach Peking einschränken, selbst während sie Peking um Zusammenarbeit bei globalen Sicherheitsregeln bitten. Chinas Außenministerium nannte den Essay kontraproduktiv, und staatliche Medien brandmarkten ihn als „Kalter-Krieg-Playbook“, das auf die Eindämmung Chinas abziele.

Präsident Donald Trump hingegen will mit der Verlangsamungsinitiative nichts zu tun haben. Nachdem Amodeis Essay erschienen war, nannte der Präsident Warnungen vor einer KI-Übernahme einen „Schwindel“, der mit der „Radikalen Linken“ verbunden sei, und beschuldigte Amodei direkt des Fehlverhaltens, ohne Beweise vorzulegen.

Tage später empfing König Charles Führungskräfte von Anthropic, OpenAI, Nvidia und Google DeepMind auf seinem schottischen Anwesen zu einem KI-Sicherheitsgipfel, der Gespräche, aber keine öffentlich bekannten Vereinbarungen hervorbrachte.

Die Sitzung am Mittwoch wird wahrscheinlich ebenfalls keine verbindliche Vereinbarung hervorbringen. Sie findet zwei Tage vor Trumps Treffen mit dem chinesischen Präsidenten Xi Jinping in Washington am 24. September statt, einem Gipfel, bei dem KI-Sicherheit Berichten zufolge neben Handel auf der Tagesordnung steht.