US-Abgeordnete befürchten, dass Amazons Gesichtsanalyse-KI “Rekognition” rassistische Vorurteile hat und die Freiheit der Bürger einschränkt.

Amazon bietet das KI-basierte Gesichtserkennungssystem US-Behörden wie der Polizei an. Es kann zum Beispiel vermisste Kinder oder Ladendiebe aufspüren. Die Kosten sollen bei nur rund zwölf US-Dollar pro Monat liegen.

US-Abgeordnete befürchten, dass der flächendeckende Einsatz von Gesichtserkennung – ähnlich wie in China – zu einem Überwachungsstaat führen könnte.

Zudem gehen sie von rassistischen Vorurteilen im Datensatz aus, mit dem Rekognition trainiert wurde. Er enthält circa 25.000 Bilder von US-Bürgern aus dem ganzen Land – das ist für KI-Verhältnisse eher wenig Trainingsmaterial.

“Wir haben ernste Bedenken, dass das Produkt erhebliche Genauigkeitsprobleme hat, eine unverhältnismäßige Bürde für Menschen mit dunkler Hautfarbe ist und US-Bürger davon abhalten könnte, in der Öffentlichkeit frei zu agieren wie im Gesetz vorgesehen”, schreiben die Abgeordneten in einem offenen Brief.

Sie fordern detaillierte Auskunft zu möglichen Vorurteilen der KI-Software über Herkunft, Geschlecht, Alter und Ethnie sowie zu Sicherheitsmaßnahmen für den Schutz der Privatsphäre und gegen Missbrauch. Amazon soll außerdem Kunden und genaue Einsatzorte benennen.

Auf frühere Anfragen habe Amazon keine ausreichenden Antworten geliefert. Dem Konzern bleiben jetzt zwei Wochen für eine Reaktion.

Rekognition: Mögliche rassistische Vorurteile

Die American Civil Liberties Union (Aclu) veröffentlichte im Sommer eine Untersuchung, nach der dunkelhäutige Menschen von Rekognition häufiger falsch erkannt werden als weiße.

Allerdings soll die Aclu für den Test einen Genauigkeitswert von nur 80 Prozent angewandt haben – das reicht laut Amazon für Objekte, für Menschen empfiehlt der Konzern einen Genauigkeitswert von 95 Prozent.

Interne Proteste ändern Amazons Kurs nicht

Mitarbeiterinnen und Mitarbeiter von Amazon protestierten gegen den Verkauf von Rekognition an US-Behörden. Mit Verweis auf positive Anwendungsszenarien – unter anderem seien vermisste Kinder gefunden und Menschenhandel sei verhindert worden – wiegelte Amazon die internen Beschwerden Anfang November ab.

Die Nutzungsbedingungen der Software untersagten außerdem einen Einsatz, der gegen die Menschenrechte verstößt.

Titelbild: Thierry Ehrmann bei Flickr. Lizenziert nach CC BY 2.0.

Weiterlesen über KI-Überwachung:


Tagesaktuelle und redaktionell ausgewählte Tech- und VR-Deals: Zur Übersicht
VRODO-Podcast #121: VR-Wachstum, StarVR-Pleite und KI-Rendering | Alle Podcast-Folgen


Unsere Artikel enthalten vereinzelt sogenannte Affiliate-Links. Bei einem Kauf über einen dieser Links erhalten wir eine kleine Provision. Der Kaufpreis bleibt gleich.