Aktivisten wollen, dass Uber die Verwendung von Gesichtserkennungssoftware für Fahrer aufgibt die Überprüfung ihrer Identität befürchtet, dass nicht-weiße Fahrer benachteiligt werden (Bild: Getty)

Uber steht vor Gericht wegen Behauptungen, dass seine Software nicht-weiße Fahrer rassistisch diskriminiert – und Aktivisten wollen auch Antworten von Transport for London.

Die private Autovermietung führte 2020 nach TfL . Gesichtserkennungssoftware ein Aus Sicherheitsgründen drohte er damit, seinen Führerschein nicht zu erneuern.

Es war besorgt über Beweise, dass einige Fahrer das System austricksten, um Konten zu teilen, was bedeutete, dass nicht lizenzierte Fahrer Kunden abholen könnten.

Die Antwort von Uber war eine Gesichtserkennungssoftware, mit der Mitarbeiter zu Beginn einer Schicht ein Bild von sich in ihrem Auto hochladen können, um zu beweisen, dass sie die sind, die sie vorgeben zu sein.

Das Unternehmen hat seinen Vorschlag eingereicht die Technologie am Tag vor Ablauf der ursprünglichen Lizenz zu verwenden, und innerhalb weniger Monate hatte das Unternehmen seine Zukunft in London gesichert.

Aber das System basiert auf Technologien, die einige Aktivisten als rassistisch bezeichnet haben – und andere große Firmen wie Facebook und Amazon haben es komplett aufgegeben – wegen Beweisen ist es schlechter, nicht-weiße Gesichter zu erkennen.

Während ein durch Crowdfunding finanzierter Fall einer ungerechtfertigten Entlassung im Namen von zwei Männern voranschreitet, die angeben, dass sie aufgrund von Fehlern in der Software zu Unrecht ihren Arbeitsplatz verloren haben, steht TfL nun unter Druck, zu erklären, warum es die Verbreitung einer umstrittenen Technologie in der Hauptstadt ermöglicht.

Einer der Männer, die Uber verklagen, Pa Edrissa Manjang, lebt seit seinem Umzug aus Gambia im Jahr 2011 in Großbritannien. Er ist in seinen Dreißigern und hat sich hier niedergelassen, nachdem er die Universität abgeschlossen hatte, bevor er im Finanzwesen arbeitete.

< p>TfL ‘hat Fall zu beantworten’ über Technik, die Schwierigkeiten hat, nicht-weiße Uber-Fahrer zu erkennen

Pa hat zu Beginn seiner Uber Eats-Schicht Bilder von sich hochgeladen, aber die Software sagte ihm immer wieder, dass er nicht erkannt werden könne (Bild: Crowd Justice)

Als er entlassen wurde, begann er für Uber Eats zu arbeiten, aber sein Vertrag wurde am 1. Mai gekündigt, nachdem die App ihn wiederholt nicht erkannt hatte.

Uber sagte ihm, dass die automatisierte Entscheidung von . bestätigt wurde ein Mensch und aus dem Nichts war er arbeitslos.

In einem Gespräch mit Metro.co.uk sagte Pa: “Ich fühle mich sehr schlecht, ich habe das Gefühl, dass es nicht passieren sollte.< /p>

'Uber ist ein großes Unternehmen, aber es fühlt sich an, als ob nichts existiert, weil man nicht einfach ins Büro gehen kann, das macht es noch schwieriger.

“Ich dachte, ich würde mit ihnen sprechen und es würde alles korrigiert werden, ich dachte, sie würden sich in einer Stunde bei mir melden und sagen: “Es ist ein Fehler, Sie können wieder arbeiten.”

Auf die Frage, ob er sich rassistisch diskriminiert fühle, sagte er, er habe “nicht erwartet”, sich diesem Gefühl bei der Arbeit stellen zu müssen.

Er sagte: “Das wissen wir es ist die Realität von heute, aber es macht es auch nicht einfacher, damit umzugehen, wenn es Sie persönlich trifft.'

TfL ‘hat Fall zu beantworten’ über Technologie, die Schwierigkeiten hat, nicht-weiße Uber-Fahrer zu erkennen

Pa, der ursprünglich aus Gambia stammt, sagte, die Erfahrung habe ihn herabgesetzt und aus der Tasche (Bild: Crowd Justice)

Das Gerichtsverfahren wird von der Association of App Drivers and Couriers angeführt, einer Gewerkschaft, die Menschen vertritt, die unter den oft wechselnden Arbeitsbedingungen des Gigs ihrem Beruf nachgehen Wirtschaft.

Generalsekretär James Farrar hat Transport for London beschuldigt, einen “regulatorischen Standard durch die Hintertür” festgelegt zu haben.

Andere Unternehmen folgen Ubers Beispiel. Ein weiteres privates Taxiunternehmen, Bolt, und der Essenslieferdienst Deliveroo wollen ähnliche Methoden anwenden.

Der Gewerkschaftschef sagte Metro.co.uk, dass TfL “einen Fall zu beantworten hat”. , und forderte sie auf, die Technologie zu überprüfen, bevor sie in der Wirtschaft der Stadt verankert wird.

Er sagte: “Wenn TfL wirklich gewollt hätte, dass dies der Standard für private Mietdienste in London wird, hätte sie ihre Empfehlungen veröffentlichen, sie öffentlich konsultieren, eine unabhängige Folgenabschätzung für Regulierungen und eine separate, unabhängige Folgenabschätzung für die Gleichstellung in Auftrag geben müssen.” .

‘Aber weil Uber es gerade durch die Hintertür geschafft hat, ist nichts davon passiert.’

Was für Uber und TfL noch unangenehmer ist, ist die wachsende Liste von Unternehmen, die sich von der Technologie distanzieren.

TfL ‘hat Case to answer’ über Technologie, die nur schwer zu erkennen ist nicht-weiße Uber-Fahrer

Aktivisten haben zuvor an den Bürgermeister von London Sadiq Khan geschrieben, um ihre Bedenken hinsichtlich der Technologie auszudrücken (Bild: Getty)

Im September schaltete Facebook den Gesichtserkennungsalgorithmus aus, mit dem Gesichter auf Fotos identifiziert werden, nachdem ein Daily Mail-Video von schwarzen Männern als “primatenbezogen” bezeichnet wurde.

2015 veröffentlichte Google eine Entschuldigung, nachdem es versehentlich ein Bild von zwei schwarzen Männern als Gorillas bezeichnet hatte.

Die Liste geht weiter: Amazon verwendet die Gesichtserkennung in seinem gesamten Geschäft nicht mehr; IBM hat sein Gesichtserkennungsgeschäft vollständig eingestellt; Axon, das in den USA Körperkameras für Polizeibeamte herstellt, hat die Technologie desavouiert.

Sogar Microsoft, das die Software herstellt, auf die sich Uber verlässt, hat den Verkauf seiner eigenen Software an US-Polizeibehörden aus Bedenken eingestellt, dass es zu einem Tool zur Erstellung von Rassenprofilen werden könnte.

Ein vom Ada Lovelace Institute im Mai veröffentlichter unabhängiger Bericht kam zu dem Schluss: “Gesichtserkennungssysteme funktionieren nicht nur bei dunkleren Gesichtern schlechter – selbst wenn sie fair sind, können sie verwendet werden, um Farbgemeinschaften und die Armen zu überwachen.”

Laut TfL sind 94 % der lizenzierten Privatfahrer schwarz, asiatisch und ethnischen Minderheiten angehören.

TfL ‘hat Fall zu beantworten’ über Technologie, die Schwierigkeiten hat, nicht-weiße Uber-Fahrer zu erkennen

Uber sagt, dass es Überprüfungen durch Menschen gibt um Fehler in der Software zu vermeiden (Bild: REX/Shutterstock)

Pa hat jetzt zwei Jobs, um das Einkommen auszugleichen, das er durch den Widerruf seiner Uber Eats-Lizenz verloren hat.

Er fügte hinzu: “Das Ganze hätte nicht passieren dürfen. Es ist so falsch.'

Metro.co.uk fragte TfL, ob es die Auswirkungen der Technologie auf die Gleichstellung berücksichtigt habe oder ob es jetzt eine Untersuchung einleiten würde, nachdem Bedenken in den unfairen Fällen geäußert wurden Kündigungsantrag.

Ein TfL-Sprecher antwortete nicht direkt, wies jedoch darauf hin, dass die Betreiber keine Gesichtserkennungstechnologie verwenden müssen.

Sie fügten hinzu: 'Die Sicherheit der reisenden Öffentlichkeit hat für TfL oberste Priorität und wo wir sind Wenn wir über Fälle von Identitätsbetrug informiert werden, ergreifen wir unverzüglich Maßnahmen zum Entzug des Führerscheins, damit die Sicherheit der Fahrgäste nicht gefährdet wird.

'Fahrer, denen der Führerschein entzogen wurde, können beim Amtsgericht das gesetzliche Berufungsverfahren einleiten.'

Ein Uber-Sprecher sagte: 'Unser Real -Time ID Check wurde entwickelt, um die Sicherheit aller Benutzer der Uber-App zu gewährleisten, indem sichergestellt wird, dass der richtige Fahrer am Steuer sitzt.

'Das System beinhaltet eine robuste menschliche Überprüfung, um sicherzustellen, dass dieser Algorithmus keine Entscheidungen über den Lebensunterhalt einer Person ohne Aufsicht trifft.'

Microsoft hat angekündigt, sich nicht zu einem laufenden Rechtsstreit zu äußern.

Kontaktieren Sie unser Nachrichtenteam per E-Mail unter webnews@metro.co.uk .

DITER SHELENBERG

By DITER SHELENBERG

Autor Dieter Shelenberg shelenberg@lzeitung.com Diter Shelenberg ist seit 2013 als Reporterin am News Desk tätig. Zuvor schrieb sie über junge Adoleszenz und Familiendynamik für Styles und war Korrespondentin für rechtliche Angelegenheiten für das Metro Desk. Bevor Diter Shelenberg zu Lzeitung.com kam, arbeitete er als Redakteur bei der Village Voice und als freier Mitarbeiter für Newsday tel +(41 31)352 05 21