KI und Arbeitsplatz: Diskriminierung verhindern
Oft heisst es, Algorithmen und Künstliche Intelligenz würden Diskriminierung verstärken. Doch KI kann auch helfen im Kampf für mehr Gleichstellung.
Algorithmen bevorzugen alte, weisse Männer – und reproduzieren Vorurteile gegen Frauen, People of Color und Menschen mit Migrationshintergrund. Diese Warnung hört und liest man derzeit oft. Und tatsächlich haben viele Studien nachgewiesen, dass beim Trainieren Künstlicher Intelligenzen oftmals Einiges schief geht.
So zeigte etwa eine aktuelle Studie der University of Columbia, dass es oft die Softwareentwickler selbst sind, die Algorithmen ihre eigenen Vorbehalte gegenüber Frauen einprogrammieren. Die NGO AI Now drängt bereits seit längerem darauf, dass Teams in der Software-Entwicklung diverser werden müssen. Häufig liegt das Problem aber auch in den Daten, mit denen die Algorithmen trainiert werden. Dann erkennen etwa Sprach- und Gesichtserkennungs-Dienste die Stimmen von Frauen und Schwarzen schlechter als diejenigen von weissen Männern, weil sie vor allem mit deren Daten gefüttert wurden. Organisationen wie Algorithmwatch sammeln und dokumentieren solche Fälle von rassistischen oder sexistischen Algorithmen. In der Schweiz setzt sich die Swiss Digital initiative dafür ein, Algorithmen diskriminierungsfrei zu gestalten. Und auch die Europäische Kommission dringt auf entsprechende Regeln für dein Einsatz von KI.
Bei aller berechtigten Kritik geht allerdings unter, dass Künstliche Intelligenz und klug eingesetzte Algorithmen auch den gegenteiligen Effekt haben können: Sie können dabei helfen, Diskriminierungen offen zu legen und zu bekämpfen – und so für mehr Gleichbehandlung in Gesellschaft und Unternehmen zu sorgen.
So kann eine künstliche Intelligenz, die entsprechend trainiert wurde, etwa dafür sorgen, dass Personaler Bewerber mit einem ausländisch klingenden Nachnamen nicht mehr aus einem auf eigenen Vorurteilen basierenden „Bauchgefühl“ heraus einfach aussortieren. Einen interessanten Ansatz für den Einsatz von KI gegen Diskriminierung und für mehr Chancengleichheit in Bewerbungsverfahren liefert zum Beispiel das Projekt FAIR (Fair Artificial Intelligence Recruiting). Wissenschaftler des Projektes haben ein Prüfverfahren entwickelt, das sowohl menschengemachte als auch algorithmenbasierte Diskriminierungen aufdecken kann, indem es zeigt, welche Personen “zu unrecht” eingestellt wurden und ob eventuell besser geeignete Kandidaten keine Beachtung fanden.
Auch bei der Umsetzung des neuen Lohngleichheits-Gesetzes in Unternehmen können Algorithmen helfen. Die Revision des Gleichstellungsgesetzes ist Anfang Juli 2020 in Kraft getreten. Sie verpflichtet Arbeitgeber mit mehr als 100 Mitarbeitenden zu einer betriebsinternen Lohngleichheitsanalyse. Einzelne Unternehmen wie das Versicherungsunternehmen Mobiliar AG setzen bereits seit einigen Jahren Algorithmen ein, um möglicherweise unfaire Lohnunterschiede im Unternehmen aufzudecken – und lässt die Software gleich auch automatisch einen Vorschlag für Lohnerhöhungen machen.
Für viele Unternehmen aber ist der Einsatz von KI in der Lohnstrategie noch Neuland.
Mit smarten Tools wie Lohncheck Pro werden umfangreiche algorithmische Lohnanalysen jetzt für Unternehmen aller Branchen und Grössen möglich. Personaler prüfen ganz einfach per Knopfdruck, ob und warum im eigenen Unternehmen diskriminierende Lohnstrukturen vorliegen. Dazu analysiert der Lohncheck-Algorithmus nicht nur die internen Lohndaten, sondern gleicht sie auch mit Vergleichsinformationen aus der gleichen Branche und am gleichen Standort ab, um ein realistisches Bild der Gehaltsstruktur aufzuzeigen.
Lohncheck.ch hat dazu gemeinsam mit Wissenschaftlern und Experten einen komplexen Algorithmus entwickelt, der aktuellste, schweizweit erfasste und gesammelte Lohndaten aus vielen verschiedenen Quellen auswertet. „Bei jeder Berechnung bezieht die Künstliche Intelligenz, die hinter dieser Formel steckt, alle relevanten Faktoren ein“, sagt Lohncheck-Gründer Tobias Egli.
Mehr als 1,4 Millionen Datensätze fliessen in die Analyse ein. „Diese Datenbasis werden wir stetig weiter verbreitern und aktualisieren“, erklärt Egli. „So stellen wir sicher, dass die Ergebnisse unseres Lohnchecks repräsentativ sind – und dass nicht einzelne Faktoren oder Datenquellen das Ergebnis verzerren.“ Zudem erkennt die intelligente Software auch automatisch fehlerhafte Eingabedaten und Werte in den Datenbanken.
Das Tool und die dahintersteckenden Algorithmen wurden von der unabhängigen Wirtschaftsprüfungsgesellschaft BDO genauestens überprüft und im Dezember 2020 für offizielle Analysen nach dem neuen Gleichstellungsgesetz zugelassen. „Wir freuen uns sehr, dass Lohncheck Pro damit jetzt offiziell GlG-konform und für den Einsatz bei Lohngleichheitsanalysen zugelassen ist“, sagt Egli. „So können auch wir unseren Beitrag dazu leisten, Lohnungleichheit in der Schweiz transparenter zu machen und gezielter zu bekämpfen.“
Firmen, welche mit Lohncheck Pro neuste Technologie für die Überprüfung Ihrer Lohnstrategie einsetzen möchten, finden hier weitere Informationen:
Lohnanalyse
