Eine Bitkom-Umfrage unter 1.003 Deutschen ab 16 Jahren zeigt, dass Künstliche Intelligenz zunehmend auch für sensible Fragen genutzt wird. Demnach konsultieren 34 Prozent der KI-Nutzenden Chatbots sogar bei gesundheitlichen Problemen. Gleichzeitig fürchten 43 Prozent aller Befragten um die Sicherheit ihrer persönlichen Daten bei KI-Anbietern. Diese Sorge ist nicht unbegründet: OpenAI und Anthropic geben zwar an, keine Profile für Werbezwecke zu erstellen, doch je nach Einstellung können Daten fürs Modelltraining verwendet werden – oder bei einem Hackerangriff an Dritte gelangen. Vor diesem Hintergrund hat der Schweizer Anbieter Proton das Tool AI Paper Trail vorgestellt, das auf Basis exportierter Chats zusammenfasst, welche Rückschlüsse ChatGPT oder Claude aus den Unterhaltungen ziehen könnten. Die Ergebnisse werden übersichtlich aufbereitet, funktionieren aber nur mit den beiden genannten Chatbots.
So funktioniert die Datenanalyse mit AI Paper Trail
Um die Auswertung zu starten, müssen Nutzer ihre Chatdaten zunächst exportieren. Bei ChatGPT klickt man unten links auf das Profil, öffnet die Einstellungen und wählt Datenkontrolle aus. Unter Daten exportieren findet sich die Option Datenexport. Bei Claude ist der Weg ähnlich: Einstellungen öffnen, dann Datenschutz und dort Daten exportieren wählen. In beiden Fällen stehen die Daten nicht sofort zur Verfügung – die Anbieter müssen sie aufbereiten, was je nach Umfang mehrere Tage dauern kann. Sobald der Export fertig ist, erhält man eine E‑Mail mit einem Download‑Link.
Nach dem Herunterladen der Daten öffnet man das Proton‑Tool im Browser und wählt den gewünschten Chatbot aus. Anschließend werden Zip- oder JSON-Dateien der Unterhaltungen hochgeladen. Beim ChatGPT-Export können mehrere Dateien anfallen. Da pro Durchlauf nur eine Datei hochgeladen werden kann, variiert das Ergebnis je nach Inhalt der ausgewählten Chats.
Welche Rückschlüsse ChatGPT über einen Nutzer ziehen könnte
In einem ersten Testlauf stufte Proton den „Privacy Type“ als „Hard to read“ ein – aus den Daten ließen sich also nur wenige persönliche Rückschlüsse ableiten. Lediglich bei den Interessen rutschte der Balken in den roten Bereich. Der Grund: Der Nutzer hatte nach Gartentipps gefragt, obwohl dies nicht das Hauptinteresse darstellt. Der „Privacy Exposure“‑Score lag bei 31 von 100 Punkten, der geschätzte Wert der Daten für den KI-Anbieter bei 15 US‑Dollar – angesichts der geringen Speicherkapazität kaum relevant.
Anders sah es bei einem Testaccount aus, der für ein Halbmarathon‑Projekt mit vielen Details gefüttert wurde. Hier erkannte das Tool vier Warnsignale, darunter Ernährung und Recovery, die mit der KI als Coach besprochen worden waren. „Sobald diese Details abgeleitet wurden, können sie für Targeting, Profiling und Entscheidungen über dich herangezogen werden – oft ohne Transparenz oder Einwilligung“, warnt Proton in der detaillierten Aufschlüsselung. Die Zusammenfassung enthält zudem Ziele, Equipment und Termine für Laufevents, die aus den Chats extrahiert wurden.
Wichtig: Proton analysiert ausschließlich die Chatverläufe. Welche Daten tatsächlich im Erinnerungsspeicher der KI landen und welche Schlüsse die Betreiber ziehen, lässt sich von außen nicht überprüfen.
Welche Daten nie mit Chatbots geteilt werden sollten
Wer nach der Analyse feststellt, dass ChatGPT oder Claude zu viele private Informationen gespeichert haben, kann die Chats bei beiden Anbietern nachträglich löschen. Bei Anthropic verschwinden sie sofort aus dem Chatverlauf, bleiben aber mindestens 30 Tage auf den Servern – abrufen kann man sie allerdings nicht mehr. Ähnlich verfährt OpenAI: Auch hier können Chats gelöscht werden, wobei Daten bestehen bleiben können, wenn sie de‑identifiziert oder aus Sicherheits‑ oder Rechtsgründen aufbewahrt werden müssen.
Grundsätzlich gilt: Private Daten haben in Chatbots nichts zu suchen. Dazu zählen neben medizinischen und finanziellen Informationen auch Adressen, Telefonnummern, Passwörter und andere Zugangsdaten. Vertrauliche Informationen, die den Arbeitgeber betreffen, sind ebenfalls tabu.
Proton verfolgt mit dem Tool eigene Ziele
Natürlich bringt Proton AI Paper Trail nicht ohne Hintergedanken an den Start. Das Unternehmen will mit dem Tool auf seinen eigenen KI‑Chat Lumo aufmerksam machen. Das Versprechen: Lumo speichert keine Serverprotokolle der Chats und die lokal gespeicherten Unterhaltungen können nur auf dem eigenen Gerät entschlüsselt werden. Die Daten werden weder zum Training genutzt noch an Regierungsbehörden weitergegeben.
Ähnliche Versprechen macht Proton auch bei seinen anderen Diensten. Im Transparenzbericht lässt sich jedoch nachverfolgen, dass Proton beim Maildienst Proton Mail in den vergangenen Jahren tausenden Anordnungen Schweizer Behörden nachgekommen ist. An ausländische Behörden werden keine Daten weitergegeben – es sei denn, die Schweizer Behörden arbeiten im Rahmen von Rechtshilfeverfahren mit diesen zusammen. Nach eigenen Angaben kann Proton die Inhalte von E‑Mails und der Chats bei Lumo nicht entschlüsseln.
Für Nutzer bleibt die Erkenntnis: Ein Tool wie AI Paper Trail kann das Bewusstsein dafür schärfen, wie viele persönliche Informationen durch scheinbar harmlose Chatverläufe preisgegeben werden. Letztlich liegt es aber an jedem selbst, welche Daten man einer KI anvertraut – und ob man die versprochene Privatsphäre eines Anbieters für vertrauenswürdig hält.
