Résumé des résultats de l'audit de biais (Système d'analyse d'images de HackerRank)
Last updated: December 12, 2024
Lettre du chef auditeur
De : Shea Brown
Chef auditeur
BABL AI Inc.
sheabrown@babl.ai
À : Interviewstreet Incorporation (HackerRank)
Boîte postale 1660
211 Hope Street
Mountain View, Californie 94041
Re : Avis d'audit sur le système d'analyse d'images de HackerRank 22/07/2024
Nous avons audité de manière indépendante les assertions de test de biais et les preuves documentaires associées de HackerRank (la "Société") au 22/07/2024, présentées à BABL AI en relation avec le système d'analyse d'images de la Société conformément aux critères et à la méthodologie d'audit énoncés dans ce rapport. Les objectifs de cet audit sont de :
Déterminer si les méthodologies, contrôles et procédures de test de biais effectués par la Société satisfont aux critères d'audit (voir Constatations)
Obtenir une assurance raisonnable quant à la véracité des déclarations faites par la Société, y compris le résumé des résultats des tests de biais présentés dans ce rapport, sont exemptes d'erreurs matérielles, qu'elles soient dues à une fraude ou à une erreur.
Notez que les critères présentés dans ce rapport ont été construits spécifiquement pour répondre aux exigences d'un “audit de biais” décrit dans la loi locale de NYC n° 144 de 2021. Le modèle a été audité comme s'il s'agissait d'un outil de décision d'emploi automatisé (AEDT) en vertu de la loi locale de NYC n° 144 de 2021, mais nous ne faisons aucune détermination quant à savoir si le modèle est, en fait, un AEDT en vertu de cette loi.
Responsabilités de la société
Il incombe aux représentants de la Société de s'assurer que les tests de biais et les procédures associées respectent les critères décrits dans ce rapport. Les représentants de la Société sont responsables de veiller à ce que les documents soumis soient présentés de manière équitable et sans fausses déclarations, en fournissant toutes les ressources et le personnel nécessaires pour assurer un processus d'audit efficace et efficient, et en donnant accès au matériel probant selon les demandes des auditeurs.
Responsabilités de BABL AI
Il est de la responsabilité de l'auditeur principal d'exprimer une opinion sur les assertions de la Société relatives au test de biais du modèle. En l'absence actuelle de normes généralement acceptées pour l'audit des algorithmes et des systèmes autonomes, notre examen a été mené conformément aux normes et références normatives décrites dans ce rapport.
Ces normes exigent que nous planifiions et réalisions des procédures d'audit pour obtenir une assurance raisonnable que les assertions mentionnées ci-dessus 1) satisfont aux critères d'audit et 2) sont exemptes d'erreurs matérielles, qu'elles soient dues à une erreur ou à une fraude. Dans le cadre de notre engagement, nous avons effectué entre autres les procédures suivantes :
Inspection des documents soumis et de la documentation externe
Interview des employés de la Société pour comprendre le processus de
détermination des résultats d'impact différentiel et d'évaluation des risques
Observation de procédures analytiques sélectionnées utilisées dans le test de biais de la Société
Inspection des échantillons sélectionnés des données de test de biais
Enquête auprès du personnel responsable de la gouvernance et de la supervision du test de biais
et de l'évaluation des risques
Nous croyons que les procédures effectuées fournissent une base raisonnable pour notre opinion.
Indépendance
Notre rôle en tant qu'auditeur indépendant conforme aux définitions de ForHumanity et Sarbanes-Oxley de l'Indépendance. Les honoraires liés à ce contrat concernent la prestation du service d'évaluation de conformité. Le paiement des honoraires n'est pas lié à la décision rendue. Notre décision est uniquement fondée sur les critères présentés ci-dessous.
Avis
Selon notre avis, basé sur les procédures effectuées et les preuves recueillies pour obtenir une assurance, le test de biais et les résultats présentés par la Société, au 22/07/2024, sont préparés, à tous égards importants, conformément aux critères décrits ci-dessous.
Cordialement,
Shea Brown, Ph.D.
Chef auditeur, BABL AI Inc.
Accentuation d'une question
Nous soulignons plusieurs points liés à l'ensemble de données fourni par HackerRank pour tester l'impact différentiel : 1) les étiquettes démographiques auto-déclarées n'étaient pas disponibles à partir de l'utilisation historique du système, donc des “Données de test”, (voir § 5-300), ont été utilisées pour évaluer le système pour le biais, et 2) la quantité et la qualité de l'ensemble de données de test (voir Constatations) étaient limitées. Par conséquent, les conclusions tirées de la quantification de l'impact différentiel sont soumises aux limitations découlant de l'ensemble de données et doivent être interprétées à la lumière de cette contrainte. Notre avis n'est pas modifié à cet égard.
Description du système
BABL AI a été engagé pour auditer le système d'analyse d'images de HackerRank (le système). Le système capture périodiquement un certain nombre d'images de webcam de candidats tout au long d'une évaluation, et les traite pour détecter la présence d'activités suspectes de la part des candidats, telles que se cacher, ou obtenir une aide non autorisée d'autres personnes. Pour une session d'évaluation, le système dispose de trois modes de détection :
- No-face : zéro visage détecté dans 90 % des images capturées ;
- Multi-face : deux visages ou plus détectés dans au moins une des images capturées ; et
- Secondary-face : deux visages ou plus uniques détectés à différents moments de la session.
Le système fournit un rapport de ces modes de détection et l'affiche aux utilisateurs. Les recruteurs et responsables du recrutement peuvent ensuite examiner les images capturées pour vérifier la présence de tricherie, et décider si un candidat doit être poursuivi.
Les taux de candidats non signalés par le système doivent être utilisés comme taux de sélection pour les candidats appartenant à divers groupes démographiques. Notez que les taux de sélection du seul mode de détection sans visage sont affichés à la p. 14 dans la section Constatations, car no-face est le mode de détection principal du système et son taux de non-détection est équivalent à celui du niveau du système.
Résumé de l'audit
Contexte
La loi locale de New York n° 144 de 2021 exige des “audits de biais” annuels pour les outils de décision d'emploi automatisés (AEDT) utilisés pour aider ou remplacer substantiellement les décisions d'embauche ou de promotion. Plus précisément, la loi stipule que (1) l'audit de biais doit “évaluer l'impact différentiel” des AEDT sur certaines personnes, (2) l'audit doit être réalisé par un “auditeur indépendant ... pas plus d'un an avant l'utilisation”, et (3) un “résumé des résultats du dernier audit de biais ... [doit être] rendu public sur le site Web de l'employeur ou de l'agence d'emploi.” L'audit décrit dans ce document a été réalisé pour satisfaire uniquement à l'exigence légale d'un audit de biais, et n'inclut pas d'autres exigences telles que la notification des candidats. Ce rapport ne porte pas de jugement sur le fait que le modèle audité est, en fait, un outil de décision d'emploi automatisé tel que défini par la loi de NYC n° 144, ou non.
Responsabilités de l'auditeur
Il incombe aux auditeurs de BABL AI de :
Obtenir une assurance raisonnable quant à la véracité des déclarations faites par le responsable de l'audit, qu'elles soient dues à une fraude ou à une erreur,
Déterminer si les déclarations faites par le responsable de l'audit fournissent des preuves suffisantes que les critères d'audit (voir Constatations) ont été satisfaits, et
Émettre un rapport d'audit qui inclut une opinion.
Dans le cadre d'un audit conformément aux bonnes pratiques d'audit, BABL AI exerce un jugement professionnel et maintient un scepticisme professionnel tout au long de l'audit. Plus précisément, les auditeurs de BABL AI identifient et évaluent les risques d'erreur matérielle dans les documents fournis par le responsable de l'audit, réalisent des procédures d'audit adaptées à ces risques, et obtiennent des preuves d'audit suffisantes et appropriées pour fonder leur opinion, conformément à la Norme d'audit 1105 du Public Company Accounting Oversight Board (PCAOB) sur la preuve d'audit,1 le cas échéant. De plus, ce rapport d'audit suit les lignes directrices de la Norme internationale sur les missions d'assurance (ISAE) 3000 sur le rapport d'assurance, le cas échéant.
BABL AI est également responsable de maintenir l'indépendance et l'objectivité des auditeurs pour garantir l'intégrité de l'opinion et de la certification fournies. BABL AI en tant qu'organisation, et tous les auditeurs employés ou contractuels, adhèrent à une stricte indépendance codifiée par la loi Sarbanes–Oxley de 2002 et le Code d'éthique de ForHumanity.4 De plus, les auditeurs principaux de BABL AI sont des auditeurs certifiés de ForHumanity en vertu de l'audit de biais de NYC AEDT.5 Pour plus de détails sur notre méthodologie et notre processus, voir l'annexe – Méthodologie d'audit.
Portée & Objectif