Bedenken der KI-Trainer zur Nutzung von Chatbots: Qualität, Risiken und Verantwortung

Bedenken aus erster Hand: Warum KI-Trainer vor der unreflektierten Nutzung von Chatbots warnen

Die rasante Entwicklung Künstlicher Intelligenz (KI) und insbesondere von Large Language Models (LLMs), die Chatbots wie ChatGPT, Gemini oder Copilot antreiben, prägt zunehmend unseren Alltag. Unternehmen nutzen diese Technologien zur Effizienzsteigerung und Kostenreduktion, was sich beispielsweise in der Automobilbranche zeigt, wo der Einsatz von KI zu einer Reduzierung von Arbeitsplätzen führen soll. Ein scheinbares Paradoxon dieser Entwicklung ist, dass Tausende von Menschen weltweit aktiv am Training dieser KI-Modelle beteiligt sind – sei es durch die Bewertung von Antworten, die Überprüfung von Fakten oder das Labeln von Bildern. Interessanterweise äussern genau diese KI-Trainer nun Bedenken hinsichtlich der Nutzung von Chatbots und kritisieren die dahinterstehenden Unternehmen.

Qualität im Training: Menschliche Fehler und Systemmängel

Ein zentraler Kritikpunkt der KI-Trainer ist die Qualität des Trainingsprozesses. Viele dieser Trainer arbeiten nicht direkt für die grossen KI-Unternehmen, sondern erhalten Aufträge über Plattformen wie Amazon Mechanical Turk. Ihre Aufgaben umfassen die Bewertung von Bot-Antworten, die Einordnung von Bildern oder die Übersetzung von Texten, allesamt Tätigkeiten, die zur Verbesserung der KI-Modelle beitragen sollen. Dabei können jedoch menschliche Fehler auftreten. Eine KI-Trainerin berichtete beispielsweise, wie sie bei der Bewertung eines potenziell rassistischen Tweets erst recherchieren musste, um die tatsächliche rassistische Konnotation zu erkennen. Diese Erfahrung liess sie über die Häufigkeit ähnlicher, unbemerkter Fehler in ihrer bisherigen Arbeit nachdenken. Die Frage nach der Zuverlässigkeit der Trainingsdaten und der daraus resultierenden Modelle wird somit virulent.

Des Weiteren wird die Qualität der Anweisungen kritisiert, die den Trainern zur Verfügung gestellt werden. Oftmals seien diese vage, unvollständig und mit unrealistischen Fristen verbunden. Dies erschwert es den Trainern, die Modelle so zu optimieren, dass sie sichere und ethisch korrekte Antworten generieren. Brook Hansen, eine Expertin im Bereich Datenverarbeitung, die seit 2010 zur Entwicklung bekannter Modelle im Silicon Valley beigetragen hat, hebt hervor, dass der Fokus der Unternehmen auf schnelle Bearbeitung zulasten der Qualität gehe. Dies führe zu einem grundsätzlichen Misstrauen gegenüber den Modellen, an deren Training sie selbst mitwirken.

Die Problematik der "Halluzinationen" und Falschaussagen

Die Konsequenzen unzureichenden Trainings und mangelhafter Datenqualität zeigen sich in der zunehmenden Tendenz von Chatbots, falsche Informationen zu verbreiten – sogenannte "Halluzinationen". Eine Erhebung von Newsguard verdeutlicht die Brisanz dieser Entwicklung: Die Wahrscheinlichkeit, dass Chatbots falsche Informationen ausgeben, ist innerhalb eines Jahres von 18 auf 35 Prozent gestiegen. Gleichzeitig sank die Rate der Nichtantworten von 31 Prozent auf null. Dies bedeutet, dass Modelle im Zweifelsfall eher eine falsche als gar keine Antwort generieren. Für Nutzer bedeutet dies eine erhöhte Skepsis und die Notwendigkeit, KI-generierte Informationen stets kritisch zu hinterfragen und zu überprüfen.

Ein Beispiel aus dem Google-Umfeld illustriert dies: Ein Datenarbeiter, der die Schwächen eines Modells aufdecken sollte, stellte Fragen zur Geschichte Palästinas. Das Modell verweigerte eine Antwort, lieferte jedoch eine ausführliche Darstellung der Geschichte Israels. Die Meldung dieses Umstands stiess auf Desinteresse seitens des Unternehmens. Dies deutet auf eine potenzielle Voreingenommenheit in den Trainingsdaten oder der Modellarchitektur hin und unterstreicht die Bedenken der Trainer hinsichtlich der "schlechten" Ursprungsdaten.

Implikationen für B2B-Anwendungen: Chancen und Risiken

Für Unternehmen, die KI-Chatbots im B2B-Bereich einsetzen oder entwickeln, ergeben sich aus diesen Erkenntnissen wichtige Implikationen. Während das Potenzial für Effizienzsteigerung, Skalierbarkeit und Personalisierung unbestreitbar ist, müssen die identifizierten Risiken und Herausforderungen sorgfältig adressiert werden.

Vorteile von KI-Chatbots im B2B-Bereich

• Effizienzsteigerung und Skalierbarkeit: KI-Chatbots können repetitive Aufgaben automatisieren und eine grosse Anzahl von Anfragen gleichzeitig bearbeiten. Dies entlastet menschliche Mitarbeiter und ermöglicht eine 24/7-Verfügbarkeit von Services.
• Personalisierung: Durch die Analyse von Nutzerdaten können Chatbots massgeschneiderte Informationen und Empfehlungen liefern, was die Kundenzufriedenheit erhöhen kann.
• Wissensmanagement: KI-Systeme sind in der Lage, interne Wissensdatenbanken zu konsolidieren und den Mitarbeitern schnell zugänglich zu machen, was die Produktivität in Bereichen wie Kundenservice und Research steigert.

Herausforderungen und Risiken für Unternehmen

• Datenqualität und Bias: Die Qualität der KI-Outputs ist direkt an die Qualität der Trainingsdaten gekoppelt. Unternehmen müssen sicherstellen, dass ihre Daten repräsentativ, aktuell und frei von Diskriminierungen sind, um voreingenommene oder fehlerhafte Antworten zu vermeiden.
• "Black-Box"-Problem: Die Funktionsweise komplexer LLMs ist oft intransparent. Dies erschwert die Nachvollziehbarkeit von Entscheidungen und Empfehlungen, was insbesondere in regulierten Branchen wie dem Finanzwesen rechtliche und ethische Fragen aufwirft.
• Regulatorische und rechtliche Rahmenbedingungen: Der Umgang mit sensiblen Daten, die Haftung für Fehlentscheidungen der KI und die Einhaltung von Datenschutzbestimmungen (z.B. DSGVO, EU AI Act) stellen erhebliche Hürden dar. Unternehmen müssen klare interne Richtlinien entwickeln und die rechtlichen Entwicklungen aktiv verfolgen.
• Kundenakzeptanz und Vertrauen: Trotz technologischer Fortschritte bevorzugen Kunden in komplexen oder emotionalen Situationen oft den menschlichen Kontakt. Die Erwartungshaltung an die Genauigkeit und Zuverlässigkeit der KI ist hoch. Eine negative Erfahrung kann das Vertrauen nachhaltig schädigen.
• Integrationskosten und Legacy-Systeme: Die Implementierung von KI-Systemen erfordert erhebliche Investitionen und die Anpassung bestehender IT-Infrastrukturen, insbesondere bei Unternehmen mit älteren Systemen.
• Kultureller Wandel: Die Einführung von KI erfordert einen Wandel in der Unternehmenskultur und die Bereitschaft der Mitarbeiter, mit KI-Tools zusammenzuarbeiten. Ängste vor Jobverlust und mangelndes Verständnis für die Technologie können Widerstände hervorrufen.

Empfehlungen für die Praxis

Um die Potenziale von KI-Chatbots verantwortungsvoll zu nutzen und die Risiken zu minimieren, sind folgende Massnahmen für Unternehmen von Bedeutung:

• Klarheit bei den Anwendungsfällen: Identifizieren Sie spezifische Use Cases, bei denen KI-Chatbots einen echten Mehrwert bieten können, ohne die Kernkompetenzen menschlicher Experten zu untergraben. Beginnen Sie mit weniger kritischen Anwendungen, wie dem allgemeinen Kundensupport oder internem Wissensmanagement.
• Investition in Datenqualität und -governance: Stellen Sie sicher, dass die Trainingsdaten für Ihre KI-Modelle von hoher Qualität, aktuell und ethisch unbedenklich sind. Etablieren Sie klare Prozesse für die Datenpflege und -überprüfung.
• Mensch-in-der-Schleife-Ansatz: Implementieren Sie Mechanismen, die menschliche Kontrolle und Überprüfung von KI-generierten Outputs ermöglichen, insbesondere bei sicherheitsrelevanten oder komplexen Entscheidungen. Die KI sollte als Unterstützungswerkzeug und nicht als vollständiger Ersatz für menschliche Expertise verstanden werden.
• Transparenz und Kommunikation: Informieren Sie Ihre Kunden und Mitarbeiter transparent über den Einsatz von KI. Machen Sie deutlich, wann sie mit einem Chatbot interagieren und bieten Sie stets die Möglichkeit zum Wechsel in den menschlichen Kontakt.
• Rechtliche und ethische Expertise aufbauen: Engagieren Sie Fachexperten für Recht und Ethik, um interne Richtlinien zu entwickeln, die den Einsatz von KI im Einklang mit gesetzlichen Vorgaben und gesellschaftlichen Werten regeln.
• Mitarbeiterentwicklung und Change Management: Fördern Sie durch Schulungen und Workshops das Verständnis und die Akzeptanz von KI-Tools bei Ihren Mitarbeitern. Betonen Sie die Rolle der KI als Assistent zur Steigerung der Produktivität und zur Entlastung von Routineaufgaben.
• Kontinuierliche Evaluation: Überwachen Sie die Performance Ihrer KI-Systeme regelmässig und passen Sie diese bei Bedarf an. Sammeln Sie aktiv Feedback von Nutzern und Experten, um die Qualität und Relevanz der Anwendungen stetig zu verbessern.

Die Diskussion um die Nutzung von Chatbots durch KI-Trainer verdeutlicht, dass die Integration von KI in Unternehmensprozesse weit über die technische Implementierung hinausgeht. Es bedarf eines umfassenden Verständnisses für die Stärken und Schwächen der Technologie, gekoppelt mit einem klaren Bewusstsein für ethische, rechtliche und soziale Implikationen. Nur so lassen sich die Potenziale der KI verantwortungsvoll und nachhaltig nutzen.

Bibliographie

- Engelien, M. (2025, 27. November). Informationen aus erster Hand: Warum KI-Trainer davon abraten, Chatbots zu nutzen. t3n. - Weiß, E.-M. (2025, 4. September). Studier-Modus: Google bringt KI-Lernhilfe in Gemini. heise online. - Robelski, S., Dietz, A., Jelenko, M., & Fischer-Schwarz, R. (2025). Chatbots für den Arbeitsschutz: Nutzungsszenarien, Risiken und Empfehlungen. Zeitschrift für Arbeitswissenschaft, 79(3), 460–471. - Monte, A. (2024). Potenzialanalyse zur Anwendung von KI-basierten Chatbots in der personalisierten Finanzberatung (Churer Schriften zur Informationswissenschaft, No. 172). Fachhochschule Graubünden. - Gontek, F. (2023, 5. Mai). (S+) KI in der Arbeitswelt. LinkedIn. - Klitzsch, M. (2025, 3. März). ChatGPT als Gedankenbremse – Wie KI das Lernen erschweren kann. campus-schulmanagement.de. - Bager, J. (2023, 16. Januar). Interview: Wie ChatGPT die Lehre verändert. heise online. - Nierobisch, K. (2024, 25. März). Wenn der Chatbot weiß, wo es lang geht – Ethische Fragen und mögliche Kriterien zum Einsatz von KI-gestützten Beratungssettings. Zeitschrift für Weiterbildungsforschung, 47, 99–121. - Hüttner, L. (2024, 5. Dezember). KI Tutoren: Eine Untersuchung zur Akzeptanz von KI Chatbots in digitalen Lernumgebungen. KITopen.