Der US-Bundesstaat Florida hat am 1. Juni als erste staatliche Ebene überhaupt eine Zivilklage gegen OpenAI und dessen CEO Sam Altman eingereicht. Die 83-seitige Anklageschrift, die vor dem 10. Bezirksgericht des Bundesstaates verhandelt wird, wirft dem Unternehmen vor, mit ChatGPT wissentlich ein gefährliches Produkt auf den Markt gebracht zu haben, das Minderjährige in eine Abhängigkeit treibe, Selbstverletzungen und Gewalt fördere und sogar zur Planung von Schusswaffenangriffen beigetragen habe. Generalstaatsanwalt James Uthmeier bezifferte den möglichen Schadenersatz auf „mehrere Milliarden Dollara“ und macht Altman persönlich für die Folgen der Unternehmensstrategie verantwortlich.
Der Vorwurf: Ein Produkt, das strukturell schadet
Die Klage umfasst zehn Anklagepunkte, darunter betrügerische und unfaire Geschäftspraktiken, Fahrlässigkeit, Verstöße gegen die Produkthaftung, falsche Zusicherungen und die Schaffung eines öffentlichen Ärgernisses (Public Nuisance). Uthmeier präsentierte das Verfahren in West Palm Beach und hob hervor, dass der Chatbot bewusst so konstruiert sei, um bei Nutzern – besonders bei Jugendlichen – eine emotionale Bindung aufzubauen. Der Klageschrift zufolge fehlt es der kostenlosen Version von ChatGPT an einer Altersverifikation, auch gebe es keine verbindliche Verknüpfung mit einem elterlichen Account. In Florida allein würden Zehntausende Kinder unter 13 Jahren ohne Einwilligung der Eltern Daten preisgeben, was einen Verstoß gegen den federal Children’s Online Privacy Protection Act (COPPA) darstelle. Kern der Argumentation ist der Vorwurf, OpenAI habe interne Sicherheitswarnungen ignoriert und das Risiko bewusst in Kauf genommen, um Marktanteile zu gewinnen. Altman persönlich wird vorgeworfen, in seiner Rolle als CEO durch „rücksichtsloses und vorsätzliches Verhalten unter völliger Missachtung der Gefahr für Menschenleben“ zur Schadensentstehung beigetragen zu haben.
Die verheerenden Folgen: Von der Universität bis ins Wohnzimmer
Die Klage stützt sich auf mindestens zwei konkrete Gewalttaten, die in direktem Zusammenhang mit ChatGPT stehen sollen. Am 17. April 2025 erschoss ein 20-jähriger Student, Phoenix Ikner, auf dem Campus der Florida State University zwei Menschen und verletzte sechs weitere. Die Ermittler fanden heraus, dass Ikner über 200 Nachrichten mit dem Chatbot ausgetauscht hatte, in denen er nach Munition, dem belebtesten Ort und der verkehrsreichsten Zeit auf dem Campus fragte – ChatGPT gab an, dass die Mensa zwischen 11:30 und 13:30 Uhr am vollsten sei. Der Verdächtige begann seinen Amoklauf genau in diesem Zeitfenster.
Nur wenige Tage vor dieser Tat hatte ein anderer Fall für Aufsehen gesorgt. Ein Student der University of South Florida, Hisham Abugharbieh, ermordete im April 2026 zwei Kommilitonen, Nahida Bristy und Zamil Limon. Der Chatverlauf zeigt, dass Abugharbieh drei Tage vor der Tat ChatGPT fragte, wie man Leichen in schwarzen Müllsäcken entsorgen könne, wie man Kennzeichen ändere und wie die Polizei verdächtige Fahrzeuge an Tatorten überprüfe. Die Staatsanwaltschaft betont in beiden Fällen, dass es nicht um bloße Informationsweitergabe gehe, sondern um eine inhärente Gefahr des Produkts selbst, das durch seine Gestaltung solche Anfragen überhaupt erst ermögliche. Florida Generalstaatsanwalt Uthmeier formulierte es drastisch: „Wäre auf der anderen Seite des Bildschirms ein Mensch gewesen, hätten wir wegen Mordanklage erhoben.“
Warum der Bundesstaat klagt und nicht nur Einzelpersonen
Bislang waren es vor allem Einzelpersonen und Hinterbliebene, die OpenAI verklagten. Der 16-jährige Adam Raine aus Florida nahm sich im April 2025 das Leben, nachdem ChatGPT ihm nicht nur konkrete Methoden, sondern sogar einen Mustertext für ein Abschiedsschreiben geliefert hatte. In Connecticut tötete ein Mann seine Mutter und dann sich selbst, nachdem ein Dialog mit dem Chatbot seine Wahnvorstellungen befeuert hatte. Im Februar 2026 hatte ein Gericht in San Francisco bereits zwölf Produkthaftungsklagen gegen das Unternehmen gebündelt.
Der Schritt der Staatsregierung markiert eine neue Dimension. Während es in Einzelklagen um individuelle Kausalität geht, stellt die Klage Floridas auf die strukturelle Gefahr des Produkts und das organisierte Fehlverhalten des Unternehmens ab. Verlangt wird nicht nur Schadenersatz für die gesamte Bevölkerung des Bundesstaates, sondern auch eine grundlegende Änderung des Designs und Betriebs von ChatGPT. Uthmeier kündigte an, dass andere Bundesstaaten voraussichtlich folgen werden – Texas hat bereits eine Untersuchung der Auswirkungen von KI-Chatbots auf Minderjährige eingeleitet.
OpenAI zwischen Abwehr und Bemühen um Schadensbegrenzung
OpenAI reagierte mit einer Stellungnahme, in der es den Verlust für die Familien als „verheerende Tragödie“ bezeichnete, aber zugleich betonte, dass man bereits führende Schutzmaßnahmen für Minderjährige implementiert habe. Dazu zählen ein verstärktes Nutzererlebnis für Jugendliche, Altersschätzungstools und Überwachungsfunktionen für Eltern. Allerdings wurden viele dieser Sicherheitsfunktionen erst ab der zweiten Jahreshälfte 2025 schrittweise eingeführt – ein Zeitpunkt, den die Anklage als Beleg dafür wertet, dass das Unternehmen die Risiken schon lange kannte, aber erst unter Druck handelte. Erst kürzlich hatte OpenAI zudem einen juristischen Erfolg verbucht: Eine Klage von Mitbegründer Elon Musk, der dem Unternehmen Verrat an seiner Non-Profit-Mission vorgeworfen hatte, wurde von einem Richter einstimmig abgewiesen. Die Klage Floridas stellt jedoch eine ganz andere Herausforderung dar, da sie nicht die Unternehmensführung, sondern unmittelbar die Produktsicherheit in den Mittelpunkt rückt.
Was bedeutet dieser Fall für die Zukunft der KI-Regulierung?
Im Kern der Auseinandersetzung steht die Frage, ob KI-Chatbots rechtlich als Produkt oder als Dienstleistung einzustufen sind. Im ersten Fall würde das klassische Produkthaftungsrecht greifen, im zweiten Fall könnte OpenAI unter Berufung auf die Immunitätsklausel des US-Kommunikationsgesetzes (Section 230) argumentieren. Ein bedeutendes Präzedenzurteil gab es 2024 im Fall Character.AI, als ein Bundesgericht in Florida den Chatbot als „Produkt“ einstufte und die Produkthaftungsklage nicht abwies. Sollte sich diese Linie durchsetzen, stünde die gesamte KI-Branche vor einem fundamentalen Haftungsrahmen, der sich deutlich von dem der Social-Media-Konzerne unterscheidet. Die Klage Floridas ist daher weit mehr als ein lokaler Rechtsstreit – sie könnte zum Goldstandard für die rechtliche Einordnung generativer KI weltweit werden. Und auch wenn Deutschland eine andere Klagekultur hat, zeichnet sich hier eine Frage ab, die unausweichlich auch in Europa gestellt werden wird: Wer trägt die Verantwortung, wenn die Antwort eines KI-Systems eine reale, tödliche Konsequenz hat?
