New York City: Gesetz soll KI-Einsatz für Bewerbungen regulieren
Anbieter von KI-Tools zur Besetzung offener Stellen müssen in New York City zukünftig Audits bestehen und transparenter werden, sonst ist der Einsatz verboten.
(Bild: metamorworks/Shutterstock.com)
In New York City wurde Anfang November vom Stadtrat ein Gesetzesentwurf verabschiedet, der Arbeitgebern zur Besetzung freier Stellen den Einsatz von künstlicher Intelligenz eingrenzt. Die Bewerberauswahl per Algorithmus ist demnach nur noch erlaubt, wenn die eingesetzte Software ein jährlich durchzuführendes Bias-Audit besteht.
Eine Vorauswahl von Bewerbern mit künstlicher Intelligenz muss demnach unvoreingenommen sein. Diskriminiere ein Algorithmus Personen etwa aufgrund von Geschlecht, Rasse oder Ethnie und schließt Bewerber aufgrund dessen aus, darf sie in Zukunft dem Gesetz nach nicht mehr in New York City eingesetzt werden.
Recht auf Überprüfung durch Menschen
Immer mehr Arbeitgeber in den USA – und auch zunehmend in Deutschland – setzen bei der Vorauswahl zur Einstellung neuer Mitarbeiter auf Algorithmen. Dabei werden schriftliche Bewerbungen und Sprache in Vorstellungsgesprächen per Videokonferenz von künstlicher Intelligenz analysiert.
Das in New York City verabschiedete Gesetz verlangt nun eine jährliche Überprüfung der Software und soll die Anbieter solcher Tools dazu zwingen, mehr Einblicke in die komplexen Algorithmen zu geben. Zusätzlich soll es Bewerbern die Möglichkeit geben, die eingereichten Unterlagen durch einen Menschen überprüfen zu lassen, berichtet Associated Press.
Bedenken und Kritik an der Härte des Gesetzes
Es gibt jedoch auch Bedenken über die Wirksamkeit des Gesetzes. Einige KI-Experten und Aktivisten für digitale Rechte fürchten, dass die Maßnahmen nicht weit genug gingen und Bundesaufsichtsbehörden und Gesetzgeber die Standards zur Überprüfung zu niedrig ansetzten.
Der Ansatz zur Prüfung auf Voreingenommenheit sei gut – problematisch seien die schwachen und vagen Standards dafür, erklärt Alexandra Givens, Präsidentin des Center for Democracy & Technology. Die Audits zur Überprüfung der Software könnten demnach als "Feigenblatt" für die Anbieter dienen.
Ein weiteres Problem sei laut Givens, dass der Vorschlag zur Überwachung der KI-Tools nur vor rassistischer, ethnischer und geschlechtsspezifischer Voreingenommenheit schützen soll, dagegen aber Vorurteile gegen Menschen mit Behinderungen und über ihr Alter außen vor blieben. Das Gesetz sehe Geldstrafen gegen Arbeitgeber von bis zu 1.500 US-Dollar pro Verstoß vor – obwohl die Durchführung der Audits und der Beweis, dass die Software den Anforderungen der Stadt entspreche, den Anbietern überlassen sei, kritisiert Givens die Verwässerung des Gesetzentwurfs.
Manipulation von KI-Systemen
Julia Stoyanovich, Professorin für Informatik, erklärte, dass der beste Teil des Gesetzes die Offenlegungspflicht sei. Die Menschen würden nun erfahren, dass sie von einem Computer bewertet werden und "wohin ihre Daten gehen". "Das wird ein Licht auf die Funktionen werfen, die diese Tools verwenden", so Stoyanovich weiter.
Für Job-Matching-Plattformen und KI-gestützte Vorstellungsgespräche interessiert man sich auch in Europa zunehmend. Bewerber berichten, dass es durchaus möglich sei, KI-Systeme zu beeindrucken, und geben dazu ganz konkrete, vier zentrale Tipps.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Der Stadtrat von New York City stimmte mit 38:4 Stimmen dem Gesetzesentwurf am 10. November zu und gab dem scheidenden Bürgermeister Bill De Blasio einen Monat Zeit zu handeln. De Blasio unterstütze das Gesetz, erklärte sein Büro, ob er es blockiert oder mit beziehungsweise ohne Unterschrift in Kraft treten lasse, dazu äußerte sich sein Büro nicht, heißt es in dem Bericht weiter.
(bme)
