Im US-Bundesstaat Kalifornien wurde eine zivilrechtliche Sammelklage gegen Open AI und Microsoft eingereicht. Darin beschuldigen mehrere (bislang anonyme) Kläger beide Unternehmen, große Mengen persönlicher Informationen von Internetnutzern eingesetzt zu haben, um ChatGPT zu trainieren - ohne vorher die Zustimmung der User eingeholt zu haben. Dafür fordern die Kläger drei Milliarden Dollar Schadenersatz - und weitere, regulatorische Maßnahmen, um diesen aus ihrer Sicht illegalen Praktiken einen Riegel vorzuschieben.

"Beispielloser Diebstahl persönlicher Daten"

"Diese Sammelklage resultiert aus dem rechtswidrigen Verhalten der Beklagten bei der Entwicklung, Vermarktung und dem Betrieb ihrer KI-Produkte - einschließlich ChatGPT-3.5, ChatGPT-4.0, Dall-E und Vall-E. Sie nutzen gestohlene, private und personenbezogene Informationen von Hunderten Millionen Internetnutzern, darunter auch Kinder aller Altersgruppen, ohne deren Zustimmung oder Wissen. Darüber hinaus sammeln die Beklagten weiterhin rechtswidrig persönliche Daten von Millionen ahnungslosen Verbrauchern weltweit - und gehen dabei weit über die Grenzen der angemessenen Nutzung hinaus, um ihre Produkte weiterzuentwickeln", heißt es im Gerichtsdokument - und: "Ohne diesen beispiellosen Diebstahl persönlicher und urheberrechtlich geschützter Daten wären die Produkte nicht das Milliardengeschäft, das sie heute sind."

Allerdings geht es den Klägern nicht nur um den schnöden Mammon: Sie fordern auch, dass der Generative-AI-Vorstoß von Open AI und Microsoft zum Wohle der Menschheit gerichtlich gestoppt werden müsse: "Die Missachtung, die die Beklagten den Datenschutzgesetzen entgegenbringen, wird nur noch übertroffen durch ihre Missachtung der potenziell katastrophalen Risiken für die Menschheit." Open AI sei wegen besagter technologischer Risiken als Non-Profit-Organisation gegründet worden, habe dann aber eine abrupte Kehrtwende vollzogen, wie es weiter in der Anklageschrift heißt: "Infolge der Umstrukturierung hat OpenAI seine ursprünglichen Ziele und Grundsätze aufgegeben. Stattdessen entschied sich das Unternehmen dafür, heimlich riesige Mengen persönlicher Daten aus dem Internet zu sammeln."

Darum verlangen die Kläger auch weitere regulatorische Maßnahmen für die Produkte von Open AI - und zielen dabei auf drei Bereiche ab:

• Transparenz: Open AI soll künftig im Rahmen von Richtliniendokumenten offenlegen, wie, in welcher Form und von wem es Daten sammelt, wie diese genutzt und abgesichert werden.

• Rechenschaftspflicht: ChatGPT und andere KI-Produkte sollen erst dann weiterentwickelt werden dürfen, wenn die Verantwortlichen sich ethischen Grundprinzipien und KI-Leitplanken verpflichtet haben - und die Kläger für den Datendiebstahl angemessen entschädigt wurden.

• Kontrollmechanismen: Open AI soll dazu verpflichtet werden, allen betroffenen Nutzern eine Opt-Out-Option zur Verfügung zu stellen, um sämtliche Data-Collection-Bemühungen zu unterbinden. Zudem werden zusätzliche Maßnahmen gefordert, um sicherzustellen, dass die KI-Produkte menschliche Intelligenz nicht übertreffen können.

Es ist nicht die einzige gerichtliche Auseinandersetzung, die Open AI ins Haus steht: Zwei US-Buchautoren streben ebenfalls eine Klage gegen das Unternehmen an. Auch hier lautet der Vorwurf, die urheberrechtlich geschützten Werke seien unzulässigerweise für das Training von ChatGPT verwendet worden.