Liest jemand meine ChatGPT-Chats mit? Das steckt hinter „Project Lily”

16. Sept.

Hunderte externe Contractor lesen bei OpenAI reale, vollständige Gespräche zwischen Nutzer:innen und ChatGPT mit – das deckte der Investigativjournalist Joseph Cox am 14. September 2026 in einer Recherche für 404 Media auf. Das Projekt trägt intern den Namen „Project Lily”. Die meisten ChatGPT-Nutzer:innen dürften nicht wissen, dass ihre Chats überhaupt von Menschen gelesen werden können – dabei betrifft das nicht nur OpenAI, sondern in unterschiedlicher Form auch Claude und Gemini.

Was ist „Project Lily” genau?

„Project Lily” ist ein internes OpenAI-Projekt, bei dem Contractor-Teams reale Nutzeranfragen und ganze Gesprächsverläufe durchsehen, um die Qualität der ChatGPT-Antworten zu verbessern – unter anderem, um Probleme wie übertriebene Anbiederung des Modells (“Sycophancy”) zu korrigieren. Laut 404 Media stellt OpenAI dafür Hunderte Contractor ein.

Was die Contractor tatsächlich zu sehen bekommen

Die Contractor bekommen laut der Recherche nicht nur einzelne, isolierte Prompts vorgelegt, sondern “ganze Konversationen zwischen Nutzer:innen und dem Chatbot”. Der Schutz ist begrenzt: Die Contractor sehen zwar keine ChatGPT-Nutzernamen, aber OpenAI räumt selbst ein, dass trotz Anonymisierungsversuchen “sensible Details durchrutschen können”.

Warum das mehr betrifft, als du vielleicht denkst

Viele Menschen nutzen ChatGPT längst nicht nur für Rechercheaufgaben, sondern wie eine Art Therapeutin, persönliche Assistentin oder digitale Freundin – und teilen entsprechend intime Details: Beziehungsprobleme, Gesundheitsfragen, berufliche Sorgen, finanzielle Situationen. Genau das macht “Project Lily” brisant: Es geht nicht um anonyme Testdaten, sondern um echte, teils sehr persönliche Gespräche.

Betrifft das nur ChatGPT?

Nein. Laut 404 Media hat auch Anthropic (Claude) bestätigt, menschliche Reviewer zur Modellverbesserung einzusetzen. Und bei Google Gemini gilt: Sofern die sogenannte “Gemini-Apps-Aktivität” nicht deaktiviert ist, können auch dort Konversationen von menschlichen Review-Teams eingesehen und zur Modellverbesserung genutzt werden – Google weist zudem darauf hin, dass Chats unabhängig von dieser Einstellung weiterhin zu Sicherheits- und Missbrauchsprüfungen von Review-Teams eingesehen werden können.

Menschliche Überprüfung ist also branchenüblich, nicht ein Alleinstellungsmerkmal von OpenAI – neu ist vor allem, wie öffentlich sichtbar und konkret “Project Lily” jetzt dokumentiert wurde.

So schützt du deine Chats bei ChatGPT, Claude und Gemini in 10 Minuten

ChatGPT: “Improve the model for everyone” deaktivieren. Klicke auf dein Profilsymbol unten links → Einstellungen → Datenkontrollen (“Data Controls”) → schalte den Regler “Improve the model for everyone” aus. Wichtig: Das gilt nur für künftige Chats, nicht rückwirkend – bereits anonymisierte und in die Trainingswarteschlange eingereihte Gespräche bleiben Teil des Zyklus. Automatische Prüfungen auf Verstöße gegen die Nutzungsbedingungen oder Sicherheitsrichtlinien werden dadurch nicht abgeschaltet. (Bei Enterprise-, Business- und Education-Konten ist die Funktion standardmäßig bereits deaktiviert.)
Claude: “Help improve Claude” deaktivieren. Klicke auf deinen Profilnamen unten links → Settings → Privacy → schalte “Help improve Claude” aus. Das gilt für Free-, Pro- und Max-Konten; bei Team-/Enterprise-Konten ist das Training standardmäßig bereits deaktiviert, außer man aktiviert es explizit.
Gemini: Gemini-Apps-Aktivität deaktivieren oder temporäre Chats nutzen. Gehe zu myactivity.google.com/product/gemini und schalte “Aktivitäten speichern” aus – künftige Chats erscheinen dann nicht mehr in deinem Verlauf und werden laut Google nicht zum Training der KI-Modelle verwendet. Alternativ: nutze temporäre Chats, die nach 72 Stunden automatisch gelöscht werden. Auch hier gilt: Für Sicherheits- und Missbrauchsprüfungen können Chats laut Google weiterhin von Review-Teams eingesehen werden.
Vor dem Tippen kurz nachdenken. Egal wie gut die Einstellungen sind: Bei hochsensiblen Themen (Gesundheitsdiagnosen, Finanzdaten, rechtliche Details Dritter) gilt dieselbe Faustregel wie bei jeder Cloud-Anwendung – nichts eingeben, was du nicht auch in einer E-Mail an einen fremden Dienstleister schreiben würdest.
Regelmäßig prüfen, nicht einmalig. Datenschutz-Einstellungen bei KI-Tools ändern sich häufiger als bei klassischer Software. Ein kurzer Prompt hilft dir, bei jedem größeren Update auf dem Laufenden zu bleiben:

“Ich nutze [ChatGPT/Claude/Gemini]. Fasse mir in einfachen Worten zusammen, was die aktuellen Datenschutz- und Trainings-Einstellungen dieses Tools bedeuten, und sag mir, ob sich seit [Monat/Jahr] etwas Wesentliches daran geändert hat.”

Genau dieses Grundverständnis – KI-Tools sicher UND selbstbewusst nutzen, statt sie aus Sorge zu meiden oder blind zu vertrauen – vermitteln wir im AI Empowered Women Programm von core&beyond.

FAQ: Häufig gestellte Fragen

Ist “Project Lily” ein Datenleck oder Hackerangriff?

Nein. Es handelt sich nicht um ein Datenleck im klassischen Sinn, sondern um eine reguläre, von OpenAI selbst eingerichtete Praxis: Contractor lesen im Rahmen der Qualitätssicherung und Modellverbesserung reale Nutzergespräche. Das Problem ist weniger die Existenz solcher Reviews an sich – menschliche Qualitätskontrolle ist in der Branche üblich – sondern die mangelnde Transparenz darüber gegenüber den Nutzer:innen.

Werden meine Chats mit meinem Namen verknüpft gelesen?

Laut der 404-Media-Recherche sehen die Contractor keine ChatGPT-Nutzernamen. OpenAI versucht zudem, personenbezogene Angaben vor der Prüfung zu entfernen, räumt aber selbst ein, dass sensible Details trotzdem durchrutschen können – ein hundertprozentiger Schutz besteht also nicht.

Reicht es, “Improve the model for everyone” einmal auszuschalten?

Das schützt nur künftige Gespräche. Chats, die bereits anonymisiert und in die Trainings-Pipeline eingespeist wurden, bleiben Teil davon. Automatisierte Prüfungen auf Sicherheits- oder Richtlinienverstöße laufen unabhängig von dieser Einstellung weiter.

Ist Claude oder Gemini sicherer als ChatGPT?

Nicht grundsätzlich. Anthropic bestätigt ebenfalls menschliche Reviews zur Modellverbesserung bei Claude, und Google nutzt bei Gemini standardmäßig Konversationsdaten für Trainings- und Sicherheitszwecke, sofern man die entsprechenden Einstellungen nicht anpasst. Der Unterschied liegt eher darin, wie leicht zugänglich die Opt-out-Einstellungen sind und was für Geschäftskund:innen (Team/Enterprise) standardmäßig gilt.

Sollte ich aus Angst vor “Project Lily” ganz auf KI-Chats verzichten?

Nein – das wäre die falsche Konsequenz. Die realistischere Antwort ist informierte Nutzung: die Datenschutz-Einstellungen einmal bewusst durchgehen, bei besonders sensiblen Themen zurückhaltender sein, und ansonsten die enormen Vorteile von KI-Tools im Alltag und Beruf weiter nutzen.

Fazit

“Vertrauen in KI entsteht nicht dadurch, dass man Risiken ignoriert, sondern dadurch, dass man sie kennt und bewusst damit umgeht”, sagt Conny Bolsch, Gründerin von core&beyond. “Project Lily” zeigt: Auch etablierte KI-Anbieter haben blinde Flecken bei Transparenz – ein guter Anlass, einmal kurz die eigenen Datenschutz-Einstellungen zu prüfen, statt KI-Tools deshalb komplett zu meiden. Wer lernen will, KI-Tools selbstbewusst und informiert im Alltag einzusetzen, findet im AI Empowered Women Programm oder im kostenlosen AI Starter Guide von core&beyond einen guten Einstieg.