Haarsträubende Fehler: US-Apothekenkette muss Gesichtserkennung deaktivieren
Rite Aid hat die Kundschaft jahrelang überwacht, um automatisch Ladendiebe zu entdecken. Die Fehlerrate war aber frustrierend hoch und diskriminierend.
Filiale von Rite Aid
(Bild: Rite Aid)
Die US-Apothekenkette Rite Aid darf für fünf Jahre keine Gesichtserkennung in den Filialen benutzen, weil die Technik ohne Vorkehrungen aktiv war, um Kunden und Kundinnen zu schützen. Darauf hat sich das Unternehmen gegenüber der US-Handelsaufsicht FTC verpflichtet. Rite Aid habe nicht über den Einsatz der Technik informiert und falsche Meldungen über angebliche Ladendiebe hätten dazu geführt, dass unschuldige Menschen beschuldigt und belästigt wurden. In einem Fall habe das System fälschlicherweise ein 11-jähriges Mädchen gemeldet, das daraufhin durchsucht wurde. Einmal sei nach der Meldung einer Schwarzen Frau die Polizei gerufen worden, weil das System meinte, die eigentlich gesuchte Person entdeckt zu haben – eine Weiße Blondine.
Frustrierte Angestellte
Wie die US-Behörde ausführt, hat Rite Aid mit der Technik die Gesichter der Kundschaft gescannt und gegen eine Datenbank mit mutmaßlichen und bestätigten Ladendieben abgeglichen. Die habe jedoch unscharfe Fotos von Überwachungskameras, Mobiltelefonen und gar Nachrichten enthalten, schreibt die FTC. Auch deshalb habe die Technik tausende falsch-positive Meldungen generiert, woraufhin Unschuldige belästigt wurden. Teilweise seien bestimmte Personen fast überall im Land "erkannt" worden, auch wenn das unmöglich oder "unwahrscheinlich oder unglaubwürdig" gewesen sei. Die Probleme seien so eindeutig gewesen, dass sogar die Angestellten angesichts der Falschmeldungen frustriert gewesen seien.
Die Kette, die 80 Prozent ihrer Filialen in Gegenden mit einer mehrheitlich Weißen Bevölkerung betreibt, habe die Technik außerdem mehrheitlich in Apotheken eingesetzt, die sich in Gegenden mit einer nicht-Weißen Bevölkerungsmehrheit befinden, schreibt die Washington Post. Schon seit Jahren ist bekannt, dass Systeme zur Gesichtserkennung vor allem bei Menschen, die nicht Weiß sind, versagen und fälschlicherweise Treffer ausgeben. Auch deshalb spricht die FTC von einem "rücksichtslosen Einsatz", der zu "Demütigungen und anderen Schäden" bei der Kundschaft geführt und gegen gesetzliche Vorgaben verstoßen habe.
Die Einigung zwischen Rite Aid und der FTC könnten Auswirkungen auf andere Einzelhandelsunternehmen in den USA haben, schreibt die Washington Post noch. Ähnliche Technik sei vielerorts im Einsatz, beispielsweise bei der Baumarktkette Home Depot. Alvaro Bedoya von der FTC spricht von einem neuen Trend zur "algorithmischen Unfairness", der vor allem Menschen schade, denen bereits geschadet werde. Auch deshalb fordert er den Gesetzgeber auf, für mehr Schutz zu sorgen. Rite Aid selbst hat erst vor wenigen Wochen einen Insolvenzantrag gestellt und jetzt erklärt, dass man den Vorwürfen grundlegend widerspreche.
(mho)