Eine US-Amerikanerin aus Florida wurde festgenommen und mit einer Felonie-Anklage nach dem Florida-Gesetz 836.10 belegt, nachdem sie den Claude-Chatbot von Anthropic als Tagebuch genutzt und dort Anschlagspläne gegen ein Sheriff-Büro verfasst hatte. Anthropic-Sicherheitsfilter erfassten den Eintrag, woraufhin ein menschlicher Prüfer ihn als glaubwürdige Bedrohung einstufte und die Strafverfolgungsbehörden informierte. Der Vorfall entfacht eine kontroverse Debatte über mangelnde Privatsphäre bei KI-Interaktionen, die juristische Definition von schriftlichen Drohungen und die Zwickmühle von Technologiekonzernen zwischen Zensurpflicht und Überwachung.
Wichtigste Punkte
Vorfall und Festnahme: Die in Bonita Springs, Florida, ansässige Carli Michelle Heller nutzte den Claude-Chatbot von Anthropic als Tagebuch und dokumentierte am 26. September Einträge über die geplante Erschießung des Personals im Büro des Sheriffs von Lee County.
Eskalationsmechanismus: Anthropic-Sicherheitsfilter erkannten die bedrohlichen Aussagen automatisch; ein menschlicher Analyst bewertete die Situation als ernsthafte Gefahr und meldete den Vorfall gemäß unternehmenseigenen Notfallrichtlinien zur Verhinderung von Personenschäden an die Polizei.
Rechtliche Grundlage: Heller wurde nach dem Florida-Gesetz Statute 836.10 angeklagt, welches das Übertragen schriftlicher oder elektronischer Drohungen (darunter Massenerschießungen oder Terrorismus) in einer Form, die von Dritten eingesehen werden kann, als Verbrechen zweiten Grades (Second-Degree Felony) qualifiziert.
Branchenkontext und Haftungsdruck: Der Fall steht im direkten Kontrast zu Klagen gegen OpenAI (unter anderem durch die kanadische Provinz British Columbia und den US-Bundesstaat Florida), denen vorgeworfen wird, Warnsignale künftiger Amokläufer ignoriert zu haben, womit KI-Anbieter rechtlich zwischen unterlassener Hilfeleistung und Verletzung der Privatsphäre stehen.
Diskussions-Highlights
Illusion der Privatsphäre: Kommentatoren betonen, dass Nutzer fälschlicherweise annehmen, Cloud-basierte LLM-Chats böten die Vertraulichkeit eines physischen Tagebuchs oder eines verschlüsselten Offline-Speichers, während Big Tech im Hintergrund in großem Stil Daten filtert und überwacht.
Juristische Kontroverse um den Tatbestand: Diskutiert wird, ob das Einspeisen von Texten in ein geschlossenes LLM-System die rechtliche Definition von „Übertragung zur Einsichtnahme durch Dritte“ erfüllt, da die Anwenderin keine Veröffentlichung beabsichtigte, und ob solche Anklagen vor Gericht Bestand haben werden.
Das Dilemma der Anbieter ("Damned if you do"): Es wird argumentiert, dass Anthropic im Falle des Verschweigens des Vorfalls bei einer eventuellen Realisierung der Drohung mit verheerenden Medienkampagnen und Schadensersatzklagen konfrontiert worden wäre.
Hardware-Alternativen und Open-Source: Als Gegenmaßnahme zur Überwachung wird vorgeschlagen, Ressourcen zu bündeln, um hochmoderne Grafikkarten wie den H200 zu erwerben und unquantisierte Open-Source-Modelle lokal oder auf vertrauenswürdigen Servern zu betreiben.
Forderung nach regulatorischem Schutz: Nutzer fordern gesetzliche Schutzmechanismen nach dem Vorbild des Anwaltsgeheimnisses oder der ärztlichen Schweigepflicht (HIPAA-Modus), damit private Notizen an KI-Systeme strikt vertraulich behandelt und rechtlich geschützt werden.
Glossar
Felony (Schwere Straftat): Im US-amerikanischen Rechtssystem eine schwere Straftat, die im Gegensatz zu einem Vergehen (Misdemeanor) mit einer Freiheitsstrafe von über einem Jahr geahndet werden kann.
Florida Statute 836.10: Ein Gesetz im US-Bundesstaat Florida, das das absichtliche Versenden, Posten oder Übertragen von schriftlichen oder elektronischen Drohungen bezüglich Mord, Körperverletzung oder Massenerschießungen unter Strafe stellt.
H200: Ein leistungsstarker Hochleistungs-Grafikprozessor (GPU) von Nvidia, der speziell für das Training und den Betrieb von großen Sprachmodellen optimiert ist.
Unquantisierte Modelle: Künstliche Intelligenzen, deren Modellgewichte in ihrer originalen, vollen numerischen Präzision (z. B. 16-Bit) vorliegen, ohne die zur Effizienzsteigerung übliche Datenkomprimierung (Quantisierung).
Sicherheitsfilter (Safety Filters): Automatisierte Software-Algorithmen in KI-Plattformen, die Benutzereingaben und Modellausgaben auf gesetzwidrige, gewalttätige oder toxische Inhalte untersuchen und bei Verstößen intervenieren.