Anstieg der Datenschutzbeschwerden durch den Einsatz von KI-Chatbots

Die fortschreitende Integration von Künstlicher Intelligenz (KI) in den Alltag und in Geschäftsprozesse führt zu einer bemerkenswerten Entwicklung im Bereich des Datenschutzes. Aktuelle Berichte deutscher Datenschutzbehörden zeigen einen deutlichen Anstieg der Beschwerdezahlen, wobei KI-Chatbots wie ChatGPT eine nicht unerhebliche Rolle spielen sollen.

Steigende Beschwerdezahlen und die Rolle der KI

Im Jahr 2025 verzeichnete der hessische Datenschutzbeauftragte einen erheblichen Anstieg der Beschwerden. Von knapp 3.840 im Vorjahr stieg die Zahl auf über 6.000 Fälle, in denen Bürgerinnen und Bürger ihr Grundrecht auf Datenschutz als verletzt sahen. Eine ähnliche Entwicklung ist bei der Berliner Beauftragten für Datenschutz und Informationsfreiheit (BlnBDI) zu beobachten, wo bis November 2025 bereits 8.436 Eingaben gezählt wurden, was einem Anstieg von rund 50 Prozent gegenüber dem Vorjahr entspricht. Auch in Hamburg stiegen die förmlichen Beschwerden um 62 Prozent auf 4.220 Fälle, ein Rekord seit Einführung der DSGVO im Jahr 2018.

Ein zentraler Faktor für diesen Anstieg wird in der zunehmenden Nutzung von KI-Chatbots gesehen. Diese Tools sollen Bürgerinnen und Bürgern dabei helfen, ihre datenschutzrechtlichen Anliegen zu formulieren und an die zuständigen Behörden zu richten. Alexander Roßnagel, der hessische Landesdatenschutzbeauftragte, erklärte, dass man an der Sprache und Struktur der Argumentation erkennen könne, welcher KI-Chatbot bei der Formulierung der Beschwerden eingesetzt wurde. Die KI fungiere hierbei als eine Art "Niedrigschwelligkeits-Beschleuniger", der die Hürden für das Einreichen einer Beschwerde senkt.

Freude und Herausforderungen für die Behörden

Die Datenschutzbehörden begrüßen grundsätzlich das wachsende Interesse der Bevölkerung am Datenschutz und die Wahrnehmung ihrer Rechte. Es wird als positiv erachtet, wenn KI-Systeme den Menschen bei der Durchsetzung dieser Rechte unterstützen können. Gleichwohl führt die gestiegene Anzahl an Anfragen und Beschwerden zu einer erheblichen Mehrbelastung der Behördenmitarbeiterinnen und -mitarbeiter. Die Kapazitäten sind oftmals nicht auf eine derartige Flut an Eingaben ausgelegt, was zu einer potenziellen Überlastung führen kann.

Ein weiteres Problem stellt die Qualität der KI-generierten Beschwerden dar. Meike Kamp, die Berliner Datenschutzbeauftragte, warnt vor falschen Erwartungen, die durch die Prognosen von Chatbots geweckt werden könnten. Aussagen und rechtliche Einschätzungen von KI-Systemen seien oft unvollständig oder schlichtweg falsch. Es wurden sogar Fälle registriert, in denen von der KI frei erfundene Gerichtsurteile oder nicht existierende juristische Literatur zitiert wurden. Dies erfordert von den Behörden zusätzlichen Prüfaufwand und die Notwendigkeit, fehlerhafte oder irreführende Informationen zu korrigieren.

Datenschutzrechtliche Aspekte und der EU AI Act

Die Nutzung von KI-Tools für das Training von Sprachmodellen wirft selbst datenschutzrechtliche Fragen auf. Insbesondere die Verarbeitung personenbezogener Daten durch Unternehmen für KI-Trainingszwecke steht im Fokus der Aufsichtsbehörden. Meta-Plattformen wie Facebook und Instagram sind hierbei wiederholt in den Blick geraten, da Nutzerinnen und Nutzer sich gegen die Verwendung ihrer Daten für KI-Modelle wehren. Die Kritik richtet sich auch gegen Modelle wie "Bezahlen oder Einwilligen", bei denen Nutzerinnen und Nutzer ein kostenpflichtiges Abonnement abschließen müssen, um personalisierter Werbung zu entgehen.

Für Unternehmen, die KI-Tools wie ChatGPT einsetzen, ergeben sich spezifische Anforderungen aus der Datenschutz-Grundverordnung (DSGVO). Die Verarbeitung personenbezogener Daten muss eine klare Rechtsgrundlage haben. Dies betrifft insbesondere die Eingabe von Kundendaten oder Mitarbeiterinformationen in KI-Systeme. Experten empfehlen Unternehmen dringend, Auftragsverarbeitungsverträge (AVV) mit Anbietern wie OpenAI abzuschließen und das Training von KI-Modellen mit eigenen Daten zu deaktivieren. Eine Datenschutz-Folgenabschätzung (DSFA) ist aufgrund der Komplexität und des Risikopotenzials des KI-Einsatzes oft verpflichtend.

Der kommende EU AI Act wird zusätzliche Regularien und Pflichten für den Einsatz von KI-Systemen einführen. Diese Regelungen, die schrittweise in Kraft treten, zielen auf mehr Transparenz und Sorgfalt ab. Unternehmen müssen sich auf neue Kennzeichnungspflichten, Risikoklassifizierungen und eine ausführliche Dokumentation ihrer KI-Systeme einstellen. Ab Februar 2025 müssen Unternehmen beispielsweise sicherstellen, dass ihre Mitarbeiter über ausreichende "KI-Kompetenz" verfügen.

Ausblick: Balanceakt zwischen Innovation und Schutz

Die aktuelle Entwicklung zeigt die ambivalente Natur der Künstlichen Intelligenz im Kontext des Datenschutzes. Einerseits demokratisieren KI-Tools den Zugang zum Recht und stärken die Position der Verbraucher, indem sie die Durchsetzung von Datenschutzrechten erleichtern. Andererseits stellen sie die Aufsichtsbehörden vor neue Herausforderungen in Bezug auf Arbeitslast und die Notwendigkeit, die Qualität der Eingaben zu prüfen. Die Balance zwischen der Ermöglichung technologischer Innovationen und dem Schutz der individuellen Rechte auf Datenschutz wird eine zentrale Aufgabe für alle Beteiligten bleiben.

Die Rekordzahlen bei den Beschwerden sind ein klares Signal, dass das KI-Zeitalter eine erhöhte Wachsamkeit von allen Akteuren – Bürgerinnen und Bürgern, Unternehmen und Regulierungsbehörden – erfordert. Die weitere Entwicklung wird zeigen, wie sich die rechtlichen Rahmenbedingungen und die technologischen Möglichkeiten gemeinsam weiterentwickeln, um einen fairen und sicheren Umgang mit Daten im Zeitalter der KI zu gewährleisten.

Bibliographie

- Heise Online. (2026, 23. März). Anfragen durch KI-Empfehlungen überrollen Datenschützer. - dpa Webline. (2026, 23. März). Wegen KI-Empfehlungen: Datenschützer von Anfragen überrollt. OP Marburg. - Koch, M.-C. (2026, 5. Januar). Berliner Datenschutz: KI-Chatbots sorgen für eine Beschwerdeflut. Heise Online. - Redaktion ad-hoc-news.de. (2026, 5. Januar). KI treibt Datenschutz-Beschwerden auf Rekordhoch. ad-hoc-news.de. - Redaktion ad-hoc-news.de. (2026, 19. Januar). KI-Chatbots treiben Datenschutz-Beschwerden auf Rekordhoch. ad-hoc-news.de. - IT-Boltwise. (2026, 19. Januar). KI-Chatbots führen zu Rekordbeschwerden im Datenschutz. - Conrad, C. S. (2026, 23. Januar). Mehr Beschwerden dank oder wegen KI? datenschutz notizen | News-Blog der DSN GROUP. - Tagesspiegel. (o. D.). „Taskforce KI“ überprüft Datenschutz: Deutsche Behörden nehmen ChatGPT ins Visier. - datenschutz.org. (o. D.). ChatGPT: Ist der Datenschutz beim Chatbot DSGVO-konform?