Automatisierte Entscheidungssysteme
Systeme, die Menschen für Jobs, Kredite oder Disziplinarmaßnahmen bewerten und reihen, stehen im Mittelpunkt – samt den Regeln, die menschliche Prüfung, Benachrichtigung der Betroffenen und nachvollziehbare Aufzeichnungen verlangen.
Ein automatisiertes Entscheidungssystem bewertet, reiht oder klassifiziert Menschen und prägt Ergebnisse wie Einstellung, Kreditvergabe, Preise oder Disziplinarmaßnahmen am Arbeitsplatz. New York City, Colorado, Kalifornien und die Europäische Union regulieren solche Systeme inzwischen direkt: mit Bias-Audits, verständlicher Benachrichtigung, einem Menschen, der das Ergebnis überstimmen kann, und Aufzeichnungen, die einer Prüfung standhalten.
