Bedenken des Metas Aufsichtsrats zu Community Notes und der Herausforderung durch KI-gestützte Desinformation

Meta's "Community Notes" im Kreuzfeuer: Bedenken hinsichtlich KI-gestützter Desinformation

Das unabhängige Aufsichtsgremium von Meta hat eine eindringliche Warnung bezüglich der geplanten globalen Expansion des "Community Notes"-Programms ausgesprochen. Die Initiative, die darauf abzielt, irreführende Inhalte durch von Nutzern bereitgestellte Kontexte und Korrekturen zu bekämpfen, wird als unzureichend und anfällig für Manipulationen, insbesondere im Kontext der zunehmenden Verbreitung von KI-generierter Desinformation, eingestuft. Diese Einschätzung wirft grundlegende Fragen über die Effektivität und die potenziellen Risiken des Systems auf, das in den USA das professionelle Fact-Checking ersetzt hat.

Unzureichende Abdeckung und langsame Reaktion auf Desinformation

Eine zentrale Kritik des Aufsichtsrats betrifft die mangelnde Skalierbarkeit und Geschwindigkeit von Community Notes. In den ersten sechs Monaten des Rollouts in den Vereinigten Staaten wurden lediglich rund 900 Notizen veröffentlicht. Im Gegensatz dazu konnten professionelle Fact-Checker im gleichen Zeitraum in der EU etwa 35 Millionen Facebook-Posts mit entsprechenden Hinweisen versehen. Diese Diskrepanz verdeutlicht eine erhebliche Lücke in der Abdeckung, die durch das Community Notes-System offenbar nicht geschlossen werden kann.

Zudem ist der Prozess der Notizenveröffentlichung oft zu langsam. Studien zufolge dauert es auf X (ehemals Twitter), dessen Open-Source-Algorithmus Meta für Community Notes verwendet, durchschnittlich 26 bis 65,7 Stunden, bis eine Notiz veröffentlicht wird. Zu diesem Zeitpunkt hat der ursprüngliche Beitrag, insbesondere wenn er irreführend ist, oft bereits seine maximale Sichtbarkeit erreicht. Nur etwa sechs Prozent aller vorgeschlagenen Notizen schaffen es überhaupt zur Veröffentlichung, was die geringe Effizienz des Systems zusätzlich unterstreicht.

Die wachsende Bedrohung durch KI-generierte Manipulation

Der Aufsichtsrat hebt explizit die Anfälligkeit des Systems für koordinierte Manipulation hervor, die durch den Einsatz von KI-Tools erheblich erleichtert wird. KI-gestützte Werkzeuge ermöglichen die massenhafte Erstellung und Verwaltung von Konten und Netzwerken, die darauf abzielen könnten, das System zu beeinflussen. Bösartige Akteure könnten Modelle so optimieren, dass sie subtil bestimmte Narrative bevorzugen, Beweise selektiv einrahmen oder den Bewertungsmechanismus ausnutzen, während sie neutral erscheinen.

Meta hat zwar erklärt, keine KI-gesteuerten Chatbots oder Agenten zum Einreichen von Community Notes zuzulassen, jedoch können menschliche Mitwirkende KI zur Unterstützung beim Schreiben von Notizen nutzen. Die Frage, ob Metas Sicherheitsvorkehrungen der potenziellen Skala dieser Bedrohung gewachsen sind, bleibt laut Aufsichtsrat unbeantwortet.

Strukturelle Schwächen und Risiken für Menschenrechte

Ein weiterer kritischer Punkt ist die strukturelle Funktionsweise von Community Notes. Im Gegensatz zum früheren Fact-Checking-Programm zieht das Hinzufügen einer Notiz keine Herabstufung oder Einschränkung der Reichweite des betroffenen Inhalts nach sich. Dies schafft kaum Anreize, das Posten irreführender Inhalte zu unterlassen, da keine negativen Konsequenzen für die Verbreitung oder Monetarisierung entstehen.

Besondere menschenrechtliche Bedenken äußert der Aufsichtsrat hinsichtlich des algorithmischen Designs. Der Algorithmus modelliert die gesellschaftliche Polarisierung entlang einer einzigen Achse. In Ländern, in denen soziale Spaltungen komplexer sind und sich über mehrere Dimensionen wie Politik, Ethnizität, Religion und Sprache erstrecken, könnte dies zur systematischen Marginalisierung von Minderheitenpositionen führen. Ein konkretes Szenario wäre, dass gemeinsame Vorurteile dominanter Gruppen gegenüber einer Minderheit als "Brücke" dienen könnten, um schädliche Notizen gegen diese Minderheit zu einem Konsens zu führen und zu veröffentlichen.

Des Weiteren wird die Sprachdimension als Problemfeld genannt. Das System ist derzeit nur in sechs Sprachen verfügbar. Forschungsergebnisse zeigen, dass Notizen in nicht-englischen Sprachen auf X deutlich seltener bewertet und veröffentlicht werden. In Ländern mit repressiver Menschenrechtslage besteht zudem die Gefahr für die Sicherheit der Mitwirkenden, sollte deren Anonymität kompromittiert werden.

Empfehlungen für einen gestaffelten Rollout

Angesichts dieser Herausforderungen hat der Aufsichtsrat eine Reihe konkreter Empfehlungen für die globale Expansion von Community Notes formuliert:

• Ausschluss von Risikoländern: Länder mit repressiver Menschenrechtslage und schwacher Zivilgesellschaft sollten vom Rollout ausgeschlossen werden, bis Meta robuste Schutzmaßnahmen für die Privatsphäre der Mitwirkenden nachweisen kann.
• Vorsicht bei Wahlen: In Ländern, die vor wichtigen Wahlen stehen, sollten Community Notes nicht eingeführt werden, wenn Metas Sicherheitsvorkehrungen nicht ausreichen, um die Integrität politischer Prozesse zu gewährleisten.
• Ausschluss von Konfliktregionen: In Ländern mit aktiven Krisen oder anhaltenden Konflikten sollten Community Notes nicht eingeführt werden, da die Schwelle für Gewaltaufrufe niedriger ist und Notizen, die bestimmte Gruppen betreffen, leichter zu Offline-Schäden führen können.
• Berücksichtigung komplexer sozialer Spaltungen: Bei Ländern mit multidimensionalen sozialen Spaltungen ist äußerste Vorsicht geboten.
• Transparenz und Datenzugang: Meta sollte dem Aufsichtsrat halbjährlich Kriterien und Risikomatrizen für die Expansion vorlegen und umfassende Transparenz sowie Datenzugang für Forscher über die Leistung von Community Notes gewährleisten.

Es ist wichtig zu beachten, dass Meta rechtlich nicht zur Einhaltung dieser Empfehlungen verpflichtet ist. In der Vergangenheit hat das Unternehmen jedoch einen Großteil der Empfehlungen des Aufsichtsrats umgesetzt oder deren Machbarkeit geprüft.

Die Rolle des professionellen Fact-Checkings

Der Aufsichtsrat betont ausdrücklich, dass Community Notes und professionelles Fact-Checking nicht als sich gegenseitig ausschließende Instrumente betrachtet werden sollten. Studien zeigen, dass Community Notes auf X bis zu fünfmal häufiger Fact-Checking-Quellen zitieren als zuvor angenommen. Fact-Checking-Organisationen sind laut einer anderen Studie die drittmeistgenutzte Referenz in veröffentlichten Notizen. Eine Reduzierung der Unterstützung für Fact-Checker würde somit auch die Qualität der Community Notes selbst untergraben, da den Mitwirkenden weniger zuverlässige Quellen zur Verfügung stünden.

Die Analyse des Aufsichtsrats unterstreicht die Komplexität der Bekämpfung von Desinformation in einer zunehmend von KI geprägten Informationslandschaft. Während Community Notes das Potenzial haben, die Meinungsfreiheit zu fördern und den Online-Diskurs zu verbessern, sind ihre aktuellen Mängel und Risiken, insbesondere im Hinblick auf den Schutz vor KI-gestützter Manipulation und die Gewährleistung von Menschenrechten, nicht zu unterschätzen. Metas Entscheidung, ob und wie diese Empfehlungen umgesetzt werden, wird weitreichende Auswirkungen auf die Integrität seiner Plattformen und die Informationsumgebung weltweit haben.

Bibliography

- Schreiner, Maximilian. "Meta's own supervisory body warns that Community Notes are no match for AI disinformation." The Decoder. 27. März 2026. - Culpepper, Sophie. "Meta's Oversight Board warns that “Community Notes” aren’t a proper substitute for fact-checking globally." NiemanLab. 26. März 2026. - Ricker, Thomas. "Meta’s Oversight Board warns that “Community Notes” aren’t a proper substitute for fact-checking globally." The Verge. 27. März 2026. - o.A. "Meta Gets Called Out by Its Own Oversight Board for Rickety Community Notes." CNET. 27. März 2026. - Jahangir, Ramsha. "Oversight Board Flags Human Rights Risks in Meta's Global Community Notes Rollout." TechPolicy.Press. 26. März 2026. - o.A. "Meta Oversight Board thinks Community Notes are inadequate as a standalone solution for addressing harmful misinformation." Full Fact. 26. März 2026. - o.A. "Oversight Board tells Meta expanding Community Notes outside of US poses 'significant' risks." Engadget. 26. März 2026. - o.A. "Meta warned that community notes may fall short in tackling misinformation." MLex. 26. März 2026. - o.A. "Meta's own supervisory body warns that Community Notes are no match for AI disinformation." Gnoppix Forum. 27. März 2026. - Oversight Board. "Assessing Meta's Plans to Expand Community Notes." oversightboard.com.