Suche
  • Anna

KI verkennt Gesichtsmaske bei Frauen als Klebeband

Aktualisiert: 20. Dez 2020



Ilinca Barsan, Data Science Direktor bei Wunderman Thompson, hat untersucht mit welcher Genauigkeit KI für Gesichtserkennung Gesichtsmasken erkennen kann. Sie hat zunächst Google’s Cloud Vision API getestet, ein Tool welches bereits trainierte KI-Modelle bereitstellt. Sie lud ein Foto von sich selbst mit einer Maske hoch und erhielt dieses erstaunliche Ergebnis:


Gesicht: 96.57%,

Duct Tape: 94.51%,

Kopf: 88.43%,

Hals: 86.85%,

Nase: 84.2%,

Maske: 73.92%,

Mund: 73.84%,

Kopfbedeckung: 67.48%,

Kostüm: 59.9%,

Gesichtsmaske: 52.31%


Während die meisten dieser Labels nicht überraschend sind, fällt eines jedoch besonders auf: Duct Tape - Klebeband! Sie erweiterte den Test mit jeweils 265 Bildern von Männern und Frauen und erhielt folgendes Ergebnis:



Nicht nur wird die Gesichtsmaske (hier als PPE bezeichnet) bei Frauen deutlich häufiger als Klebeband identifiziert als bei Männern, der sogenannte Confidence Score, welcher anzeigt wie sicher sich die KI bei der Entscheidung ist, zeigt bei Frauen höhere Werte als bei Männern (0.93 zu 0.92).

Die Gesichtserkennung von IBM Watson wurde ebenfalls getestet und zeigte ähnliche Ergebnisse, nur dass nicht das Label Duct Tape vergeben wurde. Stattdessen wurde die Maske als "restraint chains" oder "gag" bezeichnet - bei Frauen in 23% der Fälle, bei Männern in 10% der Fälle. Die Maske wurde bei 12% der Männer erkannt und nur bei 5% der Frauen.

Microsoft Azure Cognitive Services Computer Vision zeigte zwar keine ungewöhnlichen Labels, war aber gleichzeitig auch kaum in der Lage die Gesichtsmaske zu erkennen (9% bei Männern, 5% bei Frauen). Ein deutlicher Bias war auch hier zu erkennen, denn bei den Frauen wurde die Gesichtsmaske zu 40% als Fashion Accessory identifiziert, bei Männern zu 13%.

Hier ist der Link zu dem Artikel:

https://www.wundermanthompson.com/insight/ai-and-gender-bias

 
  • LinkedIn - Schwarzer Kreis
  • Twitter

©2020 Neurona.