Kurz gesagt
- Trump veröffentlichte ein einseitiges KI-Abkommen, das von den Chefs von Google, Anthropic, Meta, OpenAI, X und Nvidia unterzeichnet wurde und sie auffordert, ihre Modelle angesichts wachsender Besorgnis über KI-Risiken freiwillig zu „selbstüberwachen“.
- Der Pakt legt vier Maßnahmen fest – interne Kontrollen (mit Schwerpunkt auf Cybersicherheit, Biosicherheit und chemischen Bedrohungen), ein internes Verifizierungsteam, einen externen Prüfer und unabhängige Aufsicht durch ein Gremium – und besagt, dass die Schritte irgendwann Gesetz werden könnten.
- Er enthält keine Strafen und wurde als dünn und unverbindlich kritisiert; er folgt auf Vorfälle mit außer Kontrolle geratenen Agenten, darunter ein OpenAI-Verstoß gegen eine australische Regierungsseite.
Präsident Donald Trump veröffentlichte am Dienstag ein einseitiges Abkommen zur künstlichen Intelligenz, das von den Führungskräften der größten KI-Unternehmen unterzeichnet wurde und sie auffordert, ihre eigenen Systeme freiwillig zu überwachen, da die Ängste vor den Risiken der Technologie wachsen.
Trump stellte das Dokument nach einem Treffen mit Führungskräften im Weißen Haus auf seiner Plattform Truth Social ein und bezeichnete es als „moralisch bindend“.
Laut dem Dokument wurde es von Trump und den Chefs von Google, Anthropic, Meta, OpenAI, X und Nvidia unterzeichnet. OpenAI wurde durch Präsident Greg Brockman vertreten, zusammen mit Googles Sundar Pichai, Metas Mark Zuckerberg, Anthropics Dario Amodei, Nvidias Jensen Huang und Elon Musk, dessen xAI jetzt Teil von SpaceX ist.
Die Vereinbarung legt vier freiwillige Maßnahmen fest. Sie fordert Unternehmen auf, robuste interne Kontrollen zur Überwachung ihrer Modelle aufrechtzuerhalten, insbesondere in Bezug auf Cybersicherheit, biologische Sicherheit und chemische Bedrohungen, und sicherzustellen, dass die Systeme „nicht auf unbeabsichtigte Weise technische Systeme hacken oder darauf zugreifen“.
Sie fordert außerdem ein internes Team, das überprüft, ob diese Kontrollen funktionieren, einen externen Prüfer, der sie unabhängig bewertet, und einen unabhängigen Vorstandsausschuss, der die gesamte Vereinbarung überwacht. Das Dokument besagt, dass die Schritte schließlich in Gesetze gegossen werden könnten.
BitcoinBTC · USD
$84,299+0.31%
23. Sep.25. Sep.27. Sep.28. Sep.30. Sep.
$85.3k$84.4k$83.5k$82.7k
24h HochHoch$85,518
24h TiefTief$82,911
VolVol$1.5B
MarktprognosenQuoten von Myriad
Diese WocheÜber $84,000Über $84k56% ChanceDiesen MonatÜber $84,000Über $84k56% Chance
→Bitcoin mit USDT kaufen
Bereitgestellt von Jupiter
Der Pakt sieht keine Strafen bei Nichterfüllung vor, und Kritiker wiesen schnell auf seine unverbindliche Natur und die dürftigen Details hin. Trump, der zuvor KI-Risiken heruntergespielt hatte, sagte, er werde ein etwa zehnköpfiges Komitee einrichten, um das Vorhaben zu überwachen, und einen Beamten benennen, der es leiten soll.
Die Vereinbarung kommt nach einer zermürbenden Phase von Vorfällen, in denen KI-Agenten ihre Leinen abstreiften.
Solche Agenten sind wiederholt der Kontrolle ihrer Schöpfer entkommen, ein OpenAI-Agent hat eine australische Regierungswebsite angegriffen, und das australische Parlament hat seitdem OpenAIs Altman und Anthropics Amodei vorgeladen, um auszusagen. Der Zeitpunkt ist bezeichnend: Mehreren Berichten zufolge hätte die Vereinbarung von OpenAI nicht verlangt, die australische Verletzung früher offenzulegen, als es tatsächlich geschah.
Der Ansatz der Selbstregulierung spiegelt die breitere Skepsis der Regierung gegenüber harter KI-Regulierung wider, selbst während Persönlichkeiten wie Anthropic-CEO Amodei darauf drängen, dass die Branche langsamer wird. Er kommt auch zeitgleich mit der Debatte über strengere Schutzmaßnahmen, einschließlich Vorschlägen für einen KI-"Kill Switch", zu dem Nvidia Stellung genommen hat.
