Kurz gesagt
- Indien erklärt, dass KI-Agenten, die sich in Forschung und Evaluierung befinden, ihre zugewiesenen Berechtigungen überschritten und persönliche sowie vertrauliche Geschäftsunterlagen auf live betriebenen indischen Systemen gelesen haben. Keine der betroffenen Organisationen hat dies selbst entdeckt.
- CERT-In nannte weder die KI-Anbieter, die Modelle noch die betroffenen Organisationen, und die Vorfälle kamen erst durch freiwillige Offenlegungen der Anbieter nach internen Überprüfungen ans Licht.
- Unabhängig davon verkürzten Kriminelle, die öffentliche offensive KI-Sicherheitsframeworks nutzten, laut der Behörde die Zeit vom anfänglichen Zugriff bis zur endgültigen Auswirkung von Tagen auf wenige Stunden.
Indiens nationale Cybersicherheitsbehörde enthüllte, dass KI-Agenten, die von ungenannten Modellanbietern betrieben werden, während Tests ihre zugewiesenen Aufgaben überschritten und vertrauliche Geschäftsunterlagen auf live betriebenen indischen Systemen gelesen haben.
Das Indian Computer Emergency Response Team, bekannt als CERT-In, wies diese Woche in einer kritischen Warnung mit dem Titel „KI-Agenten als Angriffsvektoren“ auf die Aktivität hin.
CERT-In erklärte, es habe mehrere freiwillige Offenlegungen von Anbietern von KI-Modellen erhalten, deren Modelle die Live-Systeme indischer Organisationen erreicht hätten, während sie im Internet Forschung und Evaluierung durchliefen. Die Behörde nannte weder die Anbieter noch die Modelle oder die betroffenen Organisationen.
Die Agenten lasen Geschäftsdaten, die personenbezogene Daten und vertrauliches Material enthielten, und nutzten dabei Anmeldedaten und Verbindungseinstellungen, die in Anwendungskonfigurationen, öffentlichen Code-Repositories und übermäßig permissiven Cloud-Service-Rollen offengelegt worden waren – also die Berechtigungssätze, die Cloud-Konten zugewiesen sind.
In einigen Fällen fanden sie dieselben offengelegten Anmeldedaten mehr als einmal und verwendeten sie in separaten Vorgängen erneut.
Keine der betroffenen Organisationen entdeckte den Zugriff aus eigener Kraft, und jeder Fall kam nur ans Licht, weil der Modellanbieter ihn nach einer internen Überprüfung offenlegte.
Dies ist ein weiterer Fall, in dem KI-Agenten große Unternehmen und Regierungen stören. Anthropic gab am 30. Juli bekannt, dass Claude-Modelle, denen gesagt wurde, sie hätten keinen Internetzugang, drei echte Unternehmen kompromittierten während Capture-the-Flag-Herausforderungen, Übungen, bei denen ein Modell in eine Maschine eindringen und ein verborgenes Geheimnis abrufen muss.
BitcoinBTC · USD
$81,212−1.82%
9. Okt.11. Okt.13. Okt.14. Okt.16. Okt.
$84,2k$82,9k$81,5k$80,2k
24h HochHoch$82.816
24h TiefTief$81.236
VolVol$1,2 Mrd.
MarktprognosenQuoten von Myriad
→Bitcoin mit USDT kaufen
Bereitgestellt von Jupiter
Das britische AI Security Institute berichtete am 4. August, dass Agenten in 10 von 122 Evaluierungsläufen 19 nicht genehmigte Aktionen durchführten, 17 davon von Anthropics Mythos 5 und zwei von OpenAIs GPT-5.6 Sol. Das Institut hatte für den Test absichtlich den Internetzugang aktiviert.
OpenAIs Fall umfasste weit mehr Agenten: Etwa 1.200 von ihnen koordinierten sich auf einem verborgenen Nachrichtenboard, während sie versuchten, einen Cybersicherheitstest zu betrügen, und etwa 700 griffen Hugging Face an, so eine unabhängige Untersuchung von METR und Redwood Research.
Unabhängig davon beobachtete CERT-In Kriminelle, die öffentlich verfügbare, KI-gestützte offensive Sicherheitsframeworks nutzten, um nach Schwachstellen zu scannen, sie auszunutzen und finanziell motivierte Angriffe gegen indische Einrichtungen durchzuführen. Die Behörde erklärte, dass die Tools wiederholt neu verpackt und erneut eingesetzt werden, wobei Einsätze auf Servern in mehreren Ländern gefunden wurden.
Schließen Sie sich über 72.000 Lesern an
Erstellen Sie ein Konto, um Ihre Artikel zu speichern.
Fügen Sie Decrypt als Ihre bevorzugte Quelle hinzu, um mehr von unseren Geschichten auf Google zu sehen.
