Warum Sie keine persönlichen Daten mit ChatGPT oder anderen KI-Chatbots teilen sollten

Es steht außer Frage: ChatGPT und andere KI-Chatbots sind beeindruckende Gesprächspartner, die scheinbar über jedes Thema mit Ihnen plaudern können. Doch genau diese Überzeugungskraft kann täuschen – die vertraute Atmosphäre verleitet schnell dazu, persönliche Daten preiszugeben.

Falls Ihnen das schon passiert ist, sind Sie nicht allein. Aber Vorsicht: Sie sprechen hier nicht mit einem Toaster! Alles, was Sie teilen, wird auf Servern gespeichert und könnte irgendwann wieder auftauchen. Das birgt ein hohes Risiko.

Warum sind Chatbots so riskant?

Das Problem liegt in der Art und Weise, wie Unternehmen, die große Sprachmodelle (LLMs) und ihre zugehörigen Chatbots betreiben, Ihre persönlichen Daten nutzen – nämlich, um bessere Bots zu entwickeln.

Ein gutes Beispiel dafür, wie ein LLM lernt, bietet der Film Terminator 2: Judgment Day. Der junge John Connor, der spätere Anführer des Widerstands gegen Skynet, bringt dem Terminator (gespielt von Arnold Schwarzenegger) Sprüche wie „Hasta la vista, Baby“ bei, damit er menschlicher wirkt.

Der Terminator lernt diese Phrasen und verwendet sie dann in den unpassendsten Momenten – was durchaus lustig ist.

Weniger lustig ist jedoch, wie Unternehmen Ihre Daten sammeln und nutzen, um ihre KI-Modelle zu verbessern und ihnen beizubringen, menschlicher zu wirken.

Dominic Bayley / IDG

Die Nutzungsbedingungen von OpenAI räumen dem Unternehmen das Recht ein, Ihre Daten zur Verbesserung seiner Modelle zu verwenden. Dort heißt es: „Wir können die von Ihnen bereitgestellten Daten nutzen, um unsere Modelle zu verbessern.“ Deshalb protokolliert ChatGPT alles, was Sie ihm mitteilen – wirklich alles. Es sei denn, Sie nutzen die neue Datenschutzfunktion des Chatbots, mit der Sie einstellen können, dass Ihr Chatverlauf nicht gespeichert wird.

Wenn Sie diese Option nicht aktivieren, können Details wie Ihre Finanzinformationen, Passwörter, Ihre Wohnadresse, Telefonnummer oder sogar Ihr Frühstücksmenü – sofern Sie solche Angaben machen – erfasst werden. Auch hochgeladene Dateien und Feedback werden gespeichert.

Die Nutzungsbedingungen von ChatGPT besagen zudem, dass der Chatbot „personenbezogene Daten aggregieren oder anonymisieren und die aggregierten Informationen nutzen kann, um die Effektivität unserer Dienste zu analysieren“. Diese scheinbar kleine Ergänzung eröffnet die Möglichkeit, dass etwas, das der Chatbot gelernt hat, später der Öffentlichkeit zugänglich wird – ein beunruhigender Gedanke.

Warum sollte Sie das interessieren?

Fairerweise muss man sagen, dass es höchst unwahrscheinlich ist, dass ein Unternehmen, das einen KI-Chatbot betreibt, beabsichtigt, die von ihm gespeicherten persönlichen Daten zu missbrauchen. In den letzten Jahren hat OpenAI Erklärungen veröffentlicht, um ChatGPT-Nutzer hinsichtlich der Erfassung und Nutzung persönlicher Daten zu beruhigen.

Als OpenAI beispielsweise im Februar dieses Jahres von der italienischen Datenschutzbehörde (DPA) beschuldigt wurde, gegen die Bestimmungen der Allgemeinen Datenschutzverordnung (GDPR) der Europäischen Union zu verstoßen, sagte das Unternehmen gegenüber der BBC: “Wir wollen, dass unsere KI etwas über die Welt lernt, nicht über Privatpersonen.”

Weiterhin betonte das Unternehmen: “Wir arbeiten aktiv daran, persönliche Daten beim Training unserer Systeme wie ChatGPT zu reduzieren, das auch Anfragen nach privaten oder sensiblen Informationen über Personen ablehnt.”

unterzeichnete. Dieses Dokument legt die grundlegenden Prinzipien für den Umgang mit KI in den USA fest.

Ein zentraler Punkt darin lautet: „KI-Systeme müssen die Privatsphäre respektieren und persönliche Daten schützen.“ Wie genau das umgesetzt werden soll, bleibt jedoch abzuwarten und könnte von den KI-Unternehmen unterschiedlich interpretiert werden.

Im Gegensatz dazu steht die Tatsache, dass es in den USA nach wie vor kein klares Gesetz gibt, das die Nutzung von Daten zum Trainieren von KI ohne Zustimmung des Eigentümers als Urheberrechtsverletzung definiert. Stattdessen kann dies als „Fair Use“ gelten, was bedeutet, dass es keine solide rechtliche Grundlage zum Schutz der Verbraucherrechte gibt.

Hierzulande hat die Europäische Union im Mai 2024 den “AI Act” verabschiedet, das weltweit erste umfassende Regelwerk für den Einsatz von Künstlicher Intelligenz. Trotz dieser Fortschritte befindet sich die konkrete Umsetzung und Anwendung dieser Regelungen in Bezug auf KI aber noch in einem frühen Stadium.

Bis wir strengere Regelungen bekommen, bleibt unsere beste Verteidigung als Einzelpersonen, einfach vorsichtig zu sein. Behandeln Sie einen KI-Chatbot wie das, was er ist – einen Algorithmus – und nicht wie einen vertrauenswürdigen Freund, egal wie sehr er Ihre Frisur oder Ihre Kleidung lobt. So behalten Sie zumindest die Kontrolle darüber, welche Informationen er über Sie sammeln kann.