In Kürze
- Ermittler sagen, Carli Michelle Heller schrieb am 26. September, sie würde das Lee County Sheriff's Office „zuschießen“, und sagte am nächsten Tag, sie habe eine neue Waffe.
- Laut dem Verhaftungsbericht markierten die Sicherheitssysteme von Anthropic die Einträge und ein menschliches Überprüfungsteam meldete sie den Strafverfolgungsbehörden.
- Die Nutzungsbedingungen von Anthropic behalten sich das Recht vor, nach eigenem Ermessen die Eingaben eines Nutzers an Strafverfolgungsbehörden zu melden.
Eine Frau aus Florida sagte, sie benutze KI wie ein Tagebuch. Jetzt sieht sie sich mit einer schweren Straftat konfrontiert, und der Leser, der sie dorthin brachte, war jemand, dem sie es nie zeigen wollte.
Carli Michelle Heller aus Bonita Springs wurde verhaftet, nachdem Ermittler feststellten, dass sie am 26. September schrieb, sie würde das Lee County Sheriff’s Office „zuschießen“, laut dem lokalen WINK News. Den Ermittlungen zufolge zeigten ihre Claude-Konto-Konversationen, dass sie bis zum nächsten Tag eine neue Waffe bekommen hatte.
Der Verhaftungsbericht besagt, dass die Plattform von Anthropic auf Schlüsselphrasen und bedrohliche Inhalte überwacht. Aufgrund der Schwere der Aussagen wurden sie an ein menschliches Überprüfungsteam weitergeleitet, das sie den Strafverfolgungsbehörden meldete.
Die Abgeordneten identifizierten Heller, gingen zu ihrem Haus und nahmen sie ohne Zwischenfall fest. Sie wird beschuldigt, eine schriftliche Gewaltdrohung ausgesprochen zu haben.
Anthropics Unterlagen verbergen nichts davon. Seine Nutzungsbedingungen behalten sich das Recht vor, nach eigenem „alleinigen Ermessen“ des Unternehmens die Eingaben, Ausgaben oder Handlungen eines Nutzers an Strafverfolgungsbehörden zu melden. Seine Datenschutzrichtlinie, gültig ab dem 10. September 2026, erlaubt zudem die Weitergabe von Daten an die Polizei, wenn das Unternehmen in gutem Glauben davon ausgeht, dass die Offenlegung vernünftigerweise notwendig ist, um schweren Schaden zu verhindern.
Effektiv gibt selbst das Abmelden von der Verarbeitung Ihrer Daten für den Modellhandel Anthropic das Recht, Ihre Daten drei Monate statt fünf Jahre lang zu nutzen, sodass Ihre Chats niemals privat sind.
BitcoinBTC · USD
$85,804+3.11%
28. Sep30. Sep2. Okt4. Okt5. Okt
$86.8k$85.5k$84.2k$83.0k
24h HochHoch$86,949
24h TiefTief$85,010
VolVol$1.5B
MarktprognosenQuoten von Myriad
→Bitcoin mit USDT kaufen
Bereitgestellt von Jupiter
Dieselbe Richtlinie besagt, dass Gespräche, die zur Sicherheitsüberprüfung markiert wurden, weiterhin verwendet werden, um die Fähigkeit von Anthropic zu verbessern, schädliche Inhalte zu erkennen. Ein markierter Tagebucheintrag kann als Trainingsmaterial für die Detektoren enden.
Heller ist nicht der Erste. Der San Francisco Standard berichtete im September, dass Anthropic einen Nutzer an die Polizei verwiesen hatte, nachdem er angeblich geschrieben hatte, er habe eine AR-15 gekauft und habe CEO Dario Amodei in seinem Visier. Ein Mitarbeiter sagte den Beamten, er sei nicht unmittelbar um die Sicherheit besorgt und weigerte sich, die Nachrichten vorzuzeigen, unter Berufung auf die Unternehmensrichtlinie.
Der Nutzer sagte dem Standard, er habe nur Spaß gemacht, und er sei nicht verhaftet oder angeklagt worden, als die Geschichte erschien. Ein Sprecher von Anthropic nannte den Vorfall „unseren Schutzprozess, der wie beabsichtigt funktioniert“. Das Unternehmen weigerte sich zu sagen, ob es Drohungen gegen seine eigenen Mitarbeiter anders behandelt.
Dies ist nicht nur ein Problem von Anthropic. Nach dem Schulmassaker im Februar in Tumbler Ridge, British Columbia, bei dem acht Menschen getötet wurden, sagte OpenAI, es habe erwogen, im Juni 2025 die kanadische Polizei zu alarmieren, sei jedoch zu dem Schluss gekommen, dass das Konto kein unmittelbares und glaubwürdiges Risiko schwerer körperlicher Schäden zeige.
OpenAIs eigener Politikbeitrag vom August 2025 leitet Drohungen gegen andere an menschliche Prüfer weiter, die sie an die Strafverfolgungsbehörden verweisen können.
Heller hat einen Gerichtstermin für November angesetzt.
