Plus tôt ce mois-ci, Lina Khan, présidente de la US Federal Trade Commission (FTC), a écrit un essai dans Le New York Times Affirmer l'engagement de l'agence à réglementer l'IA. Mais il y avait une application AI, Khan n'a pas mentionné que la FTC a besoin d'une urgence pour réguler: des systèmes d'embauche automatisés. Celles-ci varient en complexité des outils qui analysent simplement les curriculum vitae et les classent aux systèmes que les candidats à la lumière verte et les candidats déchets jugés inaptes. De plus en plus, les Américains qui travaillent sont obligés de les utiliser s'ils veulent être embauchés.

Dans mon livre récent, Le travailleur quantifiéJe soutiens que le travailleur américain est réduit à des chiffres par les technologies de l'IA sur le lieu de travail, chef des systèmes d'embauche automatisés parmi eux. Ces systèmes réduisent les candidats à un score ou un rang, ignorant souvent la gestalt de leur expérience humaine. Parfois, ils trient même les gens par leur race, leur âge et leur sexe, une pratique qui est légalement interdite de faire partie du processus de prise de décision de l'emploi.

Ironiquement, beaucoup de ces systèmes sont commercialisé comme sans biais ou garanti pour réduire la probabilité d'embauche discriminatoire. Mais parce qu'ils sont si faiblement régulés, de tels systèmes se sont avérés refuser l'égalité des chances d'emploi Sur la base de catégories protégées telles que la race, l'âge, le sexe et le handicap. En décembre 2022, par exemple, Un syndicat des camionneurs a poursuivi Metaalléguant que Facebook «affiche sélectivement les publicités d'emploi basées sur le sexe et l'âge des utilisateurs, avec les travailleurs plus âgés beaucoup moins susceptibles de voir des publicités et des femmes beaucoup moins susceptibles de voir des publicités pour les postes de cols bleus, en particulier dans les industries qui excluent historiquement les femmes.» C'est trompeur. Encore plus, il est injuste pour les candidats et les employeurs. Les employeurs achètent des systèmes d'embauche automatisés pour réduire leur responsabilité pour la discrimination en matière d'emploi, et les fournisseurs de ces systèmes sont légalement obligés de justifier leurs allégations d'efficacité et d'équité.

La loi met des systèmes d'embauche automatisés sous la mesure où la FTC, mais l'agence n'a pas encore publié de lignes directrices spécifiques sur la façon dont les pourvoyeurs de ces systèmes devraient annoncer leurs marchandises. Il devrait commencer par exiger audit Pour s'assurer que les plateformes d'embauche automatisées tiennent les promesses qu'ils font aux employeurs. Les fournisseurs de ces plateformes devraient être obligés de fournir des enregistrements clairs des audits démontrant que leurs systèmes réduisent les biais dans la prise de décision de l'emploi comme annoncé. Ces audits devraient être en mesure de montrer que les concepteurs ont suivi les directives de l'égalité des chances d'emploi (EEOC) lors de la création des plateformes.

En outre, en collaboration avec l'EEOC, la FTC pourrait établir la marque d'embauche automatisée équitable, qui serait utilisée pour certifier que les systèmes d'embauche automatisés ont réussi le processus d'audit rigoureux. En tant qu'imprimatur, la marque serait un signal utile de qualité pour les consommateurs – les candidats et les employeurs.

La FTC devrait également permettre aux candidats, qui sont des consommateurs de systèmes d'application en ligne compatibles avec l'IA, de poursuivre en vertu de la Federal Credit Report Act (FCRA). Auparavant, la FCRA était censée s'appliquer uniquement aux trois grandes agences de crédit, mais une lecture étroite montre que cette loi peut s'appliquer chaque fois qu'un rapport a été créé pour une «décision économique». Selon cette définition, les profils des candidats créés par des plateformes d'embauche automatisées en ligne sont des «rapports de consommation», ce qui signifie que les entités qui les ont générées (telles que les plateformes d'embauche en ligne) seraient considérées comme des agences de déclaration de crédit. En vertu de la FCRA, toute personne qui fait l'objet de l'un de ces rapports peut pétitionner l'agence qui a fait voir les résultats et les corrections ou les modifications de la demande. La plupart des consommateurs ne savent pas qu'ils ont ces droits. La FTC devrait lancer une campagne d'éducation pour informer les candidats de ces droits afin qu'ils puissent les utiliser.