Die Rolle von KI in der Content-Moderation: TikTok entlässt Mitarbeiter

Die Kurzvideo-Plattform TikTok steht seit langem in der Kritik, wenn es um die Moderation von Inhalten auf der Plattform geht. Von Verletzungen des Jugendschutzes bis hin zu unangemessenen Inhalten sieht sich das Unternehmen immer wieder mit neuen Herausforderungen konfrontiert. Um diesen Herausforderungen zu begegnen und die Moderation von Inhalten zu verbessern, setzt TikTok verstärkt auf Künstliche Intelligenz (KI). Dieser Schritt hat allerdings auch Auswirkungen auf die Belegschaft: Weltweit müssen mehrere hundert Mitarbeiter, die bisher in der Content-Moderation tätig waren, ihren Arbeitsplatz aufgeben.

Automatisierung im Fokus: KI als Content-Moderator

Die zunehmende Bedeutung von KI zeigt sich in verschiedenen Bereichen des Unternehmens. Bereits heute werden laut TikTok 80 Prozent der problematischen Inhalte durch automatisierte Technologien entfernt. Diese Zahl soll durch den Einsatz von KI weiter steigen. Die Veränderung der Content-Moderation durch den Einsatz von KI ist Teil eines umfassenderen Plans von TikTok, das globale Betriebsmodell für die Moderation von Inhalten zu stärken.

Stellenabbau weltweit: Konsequenzen für die Mitarbeiter

Die Entscheidung, verstärkt auf KI zu setzen, hat direkte Auswirkungen auf die Mitarbeiter von TikTok. Mehrere hundert Mitarbeiter, die bisher mit der Moderation von Inhalten betraut waren, wurden weltweit entlassen. Die Nachrichtenagentur Reuters berichtet, dass allein in Malaysia fast 500 Stellen gestrichen werden sollen. Die betroffenen Mitarbeiter wurden per E-Mail über die Entscheidung informiert.

Hintergrund der Entscheidung: Kritik an TikToks Content-Moderation

TikTok steht seit langem in der Kritik, die Inhalte auf seiner Plattform nicht angemessen zu moderieren. Immer wieder werden problematische Inhalte, die gegen die Richtlinien des Unternehmens verstoßen, nicht schnell genug oder gar nicht entfernt. Zudem sieht sich TikTok in vielen Ländern mit strengeren Regulierungen konfrontiert. So müssen Betreiber von Social-Media-Plattformen in Malaysia beispielsweise eine Betriebslizenz beantragen, um die Bekämpfung von Cyberkriminalität zu unterstützen.

Ausblick: Die Zukunft der Content-Moderation

Der Schritt von TikTok, verstärkt auf KI in der Content-Moderation zu setzen, ist ein Beispiel für einen branchenweiten Trend. Immer mehr Social-Media-Plattformen nutzen KI, um die riesige Menge an Inhalten zu bewältigen und problematische Inhalte schneller zu identifizieren und zu entfernen. Es bleibt abzuwarten, wie sich der Einsatz von KI auf die Qualität der Content-Moderation auswirken wird. Kritiker befürchten, dass KI nicht in der Lage sein wird, die Nuancen menschlicher Sprache und Kultur zu verstehen und dass es zu Fehlentscheidungen kommen könnte. Befürworter hingegen erhoffen sich eine schnellere und effizientere Moderation von Inhalten.

Weitere Entwicklungen: Transparenz und Kennzeichnung von KI-Inhalten

Neben dem Einsatz von KI in der Content-Moderation arbeitet TikTok auch an weiteren Maßnahmen, um die Transparenz und den verantwortungsvollen Umgang mit Inhalten auf der Plattform zu fördern. So führt das Unternehmen beispielsweise neue Tools ein, die Creator*innen dabei unterstützen sollen, Inhalte, die mithilfe von KI erstellt wurden, zu kennzeichnen. Darüber hinaus testet TikTok Maßnahmen, um KI-generierte Inhalte automatisch zu erkennen und zu kennzeichnen. Ziel dieser Maßnahmen ist es, den Nutzer*innen mehr Kontext zu den Inhalten zu bieten, die sie auf TikTok sehen.

Fazit: KI als Chance und Herausforderung

Der verstärkte Einsatz von KI in der Content-Moderation bei TikTok zeigt, wie sehr die Technologie die Art und Weise, wie wir mit digitalen Inhalten umgehen, verändert. KI bietet sowohl Chancen als auch Herausforderungen. Es bleibt abzuwarten, wie sich die Technologie weiterentwickeln und welche Auswirkungen sie langfristig auf die Content-Moderation und die Arbeitsplätze in diesem Bereich haben wird. --- https://www.zeit.de/digital/mobil/2024-10/tiktok-entlassungen-content-moderation-kuenstliche-intelligenz https://www.golem.de/news/kostensenkung-tiktok-setzt-auf-ki-und-entlaesst-moderatoren-2410-189737.html https://newsroom.tiktok.com/de-de/tiktok-ki-inhalte-transparenz-update https://www.cision.de/ressourcen/branchennews/news/tiktok-massnahmen-generative-ki-und-digitale-transformation-afp-verklagt-x/ https://newsroom.tiktok.com/de-de/neue-hinweise-zur-kennzeichnung-von-ki-generierten-inhalten https://support.tiktok.com/de/using-tiktok/creating-videos/ai-generated-content