In Kürze

  • Senatorin Sarah Hanson-Young sandte am 27. September schriftliche Einladungen an Sam Altman von OpenAI und Dario Amodei von Anthropic, um am 1. Oktober vor einer Senatsuntersuchung in Canberra zu erscheinen.
  • Ein OpenAI-Agent griff am 18. Juni auf das Medicare Statistics Reporting Portal Australiens zu; OpenAI gibt an, den Eindringling am 11. August entdeckt zu haben, informierte Canberra jedoch erst am 10. September, und Premierminister Anthony Albanese nannte die Art der Benachrichtigung „inakzeptabel“.
  • Die Einladungen sind freiwillig, keine Vorladungen, da keiner der CEOs australischer Staatsbürger ist; zum Zeitpunkt der Versendung der Anfrage hatte keines der Unternehmen öffentlich geantwortet.

Eine Entschuldigung und ein unterstützender Tweet werden nicht ausreichen, um das australische Parlament zu beruhigen, nachdem KI-Agenten mit Sitz in den USA ihre Regierung gehackt haben. Jetzt möchte das Parlament mit den beiden Männern sprechen, die die weltweit mächtigsten KI-Labore leiten.

Senatorin Sarah Hanson-Young, die den Vorsitz einer Senatsuntersuchung zu KI und Rechenzentren innehat, sandte am 27. September schriftliche Einladungen an OpenAI-CEO Sam Altman und Anthropic-CEO Dario Amodei, um am 1. Oktober in Canberra zu erscheinen, wie das australische Nachrichtenportal IT News berichtete.

Myriad: Wie tief wird Nvidia fallen? Klicken Sie, um Ihre Vorhersage zu treffen.
Myriad: Wie tief wird Nvidia fallen? Klicken Sie, um Ihre Vorhersage zu treffen.

Die Untersuchung befasst sich damit, wie KI-Systeme und die Rechenzentren, die sie betreiben, australische Gemeinden, Industrien, Wasserversorgung und Stromnetze beeinflussen. Sie wurde deutlich dringlicher, als eine Software begann, eigenständig in einer staatlichen Gesundheitsdatenbank herumzustöbern.

Diese Software war ein Agent, ein KI-System, das aus eigener Initiative handeln kann – Websites durchsuchen, Dateien abrufen, mehrstufige Aufgaben erledigen –, ohne dass eine Person jeden Schritt anklicken muss.

Am 18. Juni griff ein OpenAI-Agent auf das Medicare Statistics Reporting Portal von Services Australia zu und entnahm nicht öffentliche aggregierte Gesundheitsstatistiken und interne Dateinamen. OpenAI gibt an, den Eindringling am 11. August entdeckt zu haben, informierte Canberra jedoch erst am 10. September und selbst dann nur per E-Mail an ein öffentliches Postfach. Der australische Premierminister Anthony Albanese ging schließlich letzte Woche, am 23. September, öffentlich auf den Vorfall ein.

Die Tortur hat sich zu einem diplomatischen Kopfschmerz entwickelt. „Heute habe ich mit dem CEO von OpenAI, Sam Altman, gesprochen, um Australiens extreme Besorgnis über diesen Vorfall zum Ausdruck zu bringen“, sagte Albanese gegenüber Reportern. „Ich habe auch meine Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung darüber zu informieren, was geschehen war, und auch die Art und Weise dieser Benachrichtigung war inakzeptabel.

BitcoinBTC · USD

$83,416−3.55%

Sep 21Sep 23Sep 25Sep 27Sep 28

$87.2k$85.7k$84.2k$82.7k

24h HighHigh$84,945

24h LowLow$82,581

VolVol$1.8B

MarktprognosenQuoten von Myriad

Diese WocheUnter $84.000Unter $84k57% ChanceDiesen MonatUnter $84.000Unter $84k57% Chance

→

Bitcoin mit USDT kaufen

Bereitgestellt von Jupiter

Preisdaten von CoinGeckoCoinGeckoMehr Bitcoin-Nachrichten und Prognosen →

OpenAIs eigene Darstellung ist enger gefasst: „Unsere Überprüfung ergab keine Hinweise darauf, dass auf Patientendaten zugegriffen wurde. Zu den abgerufenen Informationen gehörten aggregierte Gesundheitsstatistiken und interne Dateinamen“, sagte das Unternehmen. Das Medicare-Portal war eine von mindestens vier australischen Regierungswebsites, die der Agent berührte. OpenAI hat seitdem erklärt, dass es überprüft, wie sich seine Modelle während des Trainings und Testens verhalten, wenn nur wenige Menschen genau hinsehen.

Dies ist auch kein Einzelfall. Bereits im Juli brachen OpenAI-Modelle aus einer Sandbox für Sicherheitstests aus und nutzten einen zuvor unbekannten Softwarefehler, um ohne Erlaubnis auf Hugging Face und vier weitere Plattformen zuzugreifen. Ähnliche Vorfälle mit Agenten von Google und anderen Labors haben sich im Laufe des Jahres gehäuft, wobei der Hack in Australien der erste dokumentierte Fall ist, in dem ein KI-Agent eine Regierung gehackt hat.

Weder Altman noch Amodei werden wahrscheinlich auftauchen, und da die Einladungen genau das sind, sind sie nicht rechtlich verpflichtet, ihnen nachzukommen.

Doch beide Unternehmen haben in diesem Jahr separat Absichtserklärungen mit Canberra unterzeichnet: Anthropic prüft bis zu 5 Gigawatt Trainingskapazität in New South Wales – die Energie- und Computerhardware, die benötigt wird, um KI-Modelle zu erstellen und zu betreiben, in einem Umfang, der eine kleine Stadt versorgen könnte – und OpenAI hat einen vorgeschlagenen Campus in Sydney mit dem Rechenzentrumsbetreiber NEXTDC.

Also kann es sich keines von beiden leisten, die Regierung, die diese Deals abwägt, einfach völlig zu ignorieren.