Wir alle verwenden die Gesichtserkennung, um unsere Telefone zu entsperren. Und wir alle sehen uns automatisch vorgeschlagene Online-Inhalte an. Aber einige von uns haben eher mehr Erfolg mit künstlicher Intelligenz (KI) als andere.
Eine Studie über Gesichtserkennungs-KIs ergab, dass Systeme der führenden Unternehmen IBM, Microsoft und Amazon die Gesichter von Oprah Winfrey, Michelle Obama und Serena Williams falsch klassifizierten, während sie mit weißen Männern überhaupt keine Probleme hatten.
Sogar die Stimmen digitaler Assistenten wie Cortana oder Google Assistant haben standardmäßig weibliche Stimmen, was möglicherweise unbewusst das Stereotyp der weiblichen Unterwürfigkeit in den Köpfen von Millionen von Benutzern verstärkt.
Die Voreingenommenheit dieser KIs wird durch die Tatsache verursacht, dass die derzeitigen Designer der meisten KIs größtenteils weiße Männer in den Zwanzigern und Dreißigern ohne Behinderungen sind. Sie sind im Allgemeinen Menschen, die in sozioökonomisch hochstehenden Gebieten aufgewachsen sind, oft mit ähnlichem Bildungshintergrund.
Es ist vielleicht nicht überraschend, dass die resultierenden KIs mithilfe von engen und voreingenommenen Datensätzen erstellt und ausgebildet werden, die nicht repräsentativ sind. Beispielsweise enthielt ein Datensatz der US-Regierung von Gesichtern, die für das Training von KIs gesammelt wurden, 75 Prozent Männer und 80 Prozent hellhäutige Personen. Das ist nicht beabsichtigt – die KI-Entwickler haben es einfach nicht bemerkt, weil sie selbst keine Erfahrung mit Diversität hatten.
Mehr davon
Glücklicherweise wendet sich das Blatt und heute versuchen die meisten großen Technologieunternehmen, unerwünschte Vorurteile zu erkennen und sie aus unseren Technologien auszumerzen.