Künstliche Intelligenz und Fairness im Arbeitsleben: Der Fall Edrissa Manjang
In den letzten Jahren hat die Verwendung von künstlicher Intelligenz (KI) in verschiedenen Bereichen rapide zugenommen, darunter auch im Bereich der Gig Economy und bei Lieferdiensten wie Uber Eats. Doch während KI viele Vorteile mit sich bringt, werfen Fälle wie der des ehemaligen Uber Eats-Fahrers Edrissa Manjang Fragen über Diskriminierung und die Fairness von Algorithmen auf.
Manjang, ein schwarzer Mann afrikanischer Abstammung, erhielt eine Entschädigung, nachdem er wegen "rassistisch diskriminierender" Gesichtserkennungsprüfungen den Zugang zur Uber Eats-App verloren hatte. Diese Prüfungen sollten eigentlich dazu dienen, die Sicherheit für alle Nutzer der App zu gewährleisten, führten jedoch zu wiederholten Problemen bei der Verifizierung von Manjangs Identität.
Bei seiner Einstellung im November 2019 wurden von der Uber Eats-App, die von Microsoft-Technologie unterstützt wird, nicht regelmäßig Selfies von ihm verlangt. Im Laufe der Zeit nahmen diese Verifizierungsaufforderungen jedoch zu. Schließlich wurde ihm im Jahr 2021 nach "sorgfältiger Prüfung" mitgeteilt, dass sein Konto aufgrund von "anhaltenden Unstimmigkeiten" entfernt würde.
Die Gleichstellungs- und Menschenrechtskommission (EHRC) und die App Drivers and Couriers Union (ADCU) finanzierten Manjangs Fall. Die EHRC äußerte Bedenken, dass die KI in den Gesichtserkennungsprüfungen ihn seines Einkommens beraubt habe, während die ADCU argumentierte, dass die Anzahl der von Manjang angeforderten Selfies einer rassistischen Belästigung gleichkam.
Diese Besorgnis wurde durch Eingeständnisse von Microsoft, dass ihre Gesichtserkennungssoftware für Menschen ethnischer Minderheiten weniger gut funktioniert, noch verschärft. Frühere Fälle, die Polizeibehörden, das Innenministerium und Universitäten betrafen, zeigten, dass die Ethnizität die Technologie beeinflussen kann.
Manjang, der wieder eingestellt wurde und weiterhin für Uber Eats in Oxfordshire arbeitet, sagte, die außergerichtliche Einigung markiere das Ende einer "langen und schwierigen" Zeit für ihn. Sein Fall "richte ein Scheinwerferlicht" auf die potenziellen Probleme mit KI, insbesondere für "niedrig bezahlte Arbeiter in der Gig Economy". Er hoffe, dass die Entscheidung dazu beitragen würde, die "Rechte und den Schutz von Arbeitern im Zusammenhang mit KI, insbesondere ethnischen Minderheiten", zu stärken.
Baroness Falkner, Vorsitzende der EHRC, sagte, Manjang hätte nie gegen Uber Eats klagen müssen, um die undurchsichtigen Prozesse zu verstehen, die seine Arbeit betrafen. Sie äußerte insbesondere Bedenken darüber, dass Manjang nicht darüber informiert wurde, dass sein Konto im Prozess der Deaktivierung war, noch wurde ihm ein klarer und effektiver Weg geboten, um die Technologie anzufechten.
Dieser Fall unterstreicht die wachsenden Bedenken bezüglich der Auswirkungen von KI auf das Arbeitsleben, insbesondere in Bereichen, in denen Algorithmen weitreichende Entscheidungen treffen können, die das Einkommen von Individuen direkt beeinflussen. Es wirft auch die Frage auf, wie Unternehmen und Entwickler sicherstellen können, dass ihre Technologien keine diskriminierenden Praktiken fördern oder verstärken.
Die juristische Auseinandersetzung Manjangs ist nur ein Beispiel für die Herausforderungen, denen sich Arbeitnehmer gegenübersehen, wenn sie gegen große Technologieunternehmen und die undurchsichtigen Mechanismen ihrer KI-Systeme vorgehen. Während es wichtig ist, die Sicherheit und Authentizität in der Gig Economy zu gewährleisten, ist es ebenso entscheidend, dass die verwendeten Technologien fair und inklusiv sind und nicht zu Diskriminierung oder Ausschluss führen.
Angesichts der zunehmenden Bedeutung von KI in der Arbeitswelt bleibt es entscheidend, dass sowohl Gesetzgeber als auch Unternehmen Verantwortung übernehmen, um sicherzustellen, dass die Rechte der Arbeitnehmer geschützt werden und dass Algorithmen transparent, überprüfbar und frei von Vorurteilen sind. Der Fall von Edrissa Manjang mag ein Einzelfall sein, aber er wirft ein Licht auf ein Thema, das in der modernen Arbeitswelt immer wichtiger wird.
