Resumen de los Resultados de la Auditoría de Sesgos (Sistema de Análisis de Imágenes de HackerRank)
Last updated: December 12, 2024
Carta del Auditor Principal
De: Shea Brown
Auditor Principal
BABL AI Inc.
sheabrown@babl.ai
Para: Interviewstreet Incorporation (HackerRank)
PO Box 1660
211 Hope Street
Mountain View, California 94041
Re: Opinión de Auditoría sobre el Sistema de Análisis de Imágenes de HackerRank 22/07/2024
Hemos auditado de forma independiente las afirmaciones de pruebas de sesgo y la evidencia documental relacionada de HackerRank (la "Empresa") a partir del 22/07/2024, presentadas a BABL AI en relación con el Sistema de Análisis de Imágenes de la Empresa de acuerdo con los criterios y la metodología de auditoría establecidos en este informe. Los objetivos de esta auditoría son:
Determinar si las metodologías, controles y procedimientos de prueba de sesgo realizados por la Empresa satisfacen los criterios de auditoría (ver Hallazgos)
Obtener una seguridad razonable sobre si las declaraciones hechas por la Empresa, incluido el resumen de resultados de pruebas de sesgo presentados en este informe, están libres de errores materiales, ya sea por fraude o error.
Note que los criterios presentados en este informe fueron construidos específicamente para abordar los requisitos de una “auditoría de sesgo” descritos en la Ley Local de NYC No. 144 de 2021. El modelo fue auditado como si fuera una herramienta automatizada de decisiones de empleo (AEDT) bajo la Ley Local de NYC No. 144 de 2021, pero no hacemos ninguna determinación si el modelo es, de hecho, una AEDT bajo esta ley.
Responsabilidades de la Empresa
Es responsabilidad de los representantes de la Empresa asegurar que las pruebas de sesgo y los procedimientos relacionados cumplan con los criterios establecidos en este informe. Los representantes de la Empresa son responsables de garantizar que los documentos presentados sean presentados de manera justa y sin tergiversaciones, proporcionando todos los recursos y personal necesarios para garantizar un proceso de auditoría efectivo y eficiente, y proporcionando acceso a material probatorio según lo soliciten los auditores.
Responsabilidades de BABL AI
Es responsabilidad del auditor principal expresar una opinión sobre las afirmaciones de la Empresa relacionadas con las pruebas de sesgo del modelo. A la luz de la ausencia actual de estándares generalmente aceptados para la auditoría de algoritmos y sistemas autónomos, nuestro examen se realizó de acuerdo con los estándares y referencias normativas descritos en este informe.
Esos estándares requieren que planifiquemos y realicemos procedimientos de auditoría para obtener una seguridad razonable sobre si las afirmaciones mencionadas 1) satisfacen los criterios de auditoría y 2) están libres de errores materiales, ya sea por error o fraude. Dentro del alcance de nuestro compromiso, realizamos entre otros los siguientes procedimientos:
Inspección de documentos presentados y documentación externa
Entrevistas con empleados de la Empresa para comprender el proceso para
determinar los resultados del impacto dispare y la evaluación de riesgos
Observación de procedimientos analíticos seleccionados utilizados en las pruebas de sesgo de la Empresa
Inspección de muestras seleccionadas de los datos de pruebas de sesgo
Consulta al personal responsable de la gobernanza y supervisión de las pruebas de sesgo y
evaluación de riesgos
Creemos que los procedimientos realizados proporcionan una base razonable para nuestra opinión.
Independencia
Nuestro rol como auditor independiente se ajusta a las definiciones de ForHumanity y Sarbanes-Oxley de Independencia. Las tarifas asociadas con este contrato son por la prestación del servicio para evaluar el cumplimiento. El pago de tarifas no está relacionado con la decisión emitida. Nuestra decisión se basa únicamente en los criterios presentados a continuación.
Opinión
En nuestra opinión, basada en los procedimientos realizados y la evidencia recibida para obtener seguridad, las pruebas de sesgo y los resultados presentados por la Empresa, a partir del 22/07/2024, están preparados, en todos los aspectos materiales, de acuerdo con los criterios descritos a continuación.
Atentamente,
Shea Brown, Ph.D.
Auditor Principal, BABL AI Inc.
Énfasis en el Asunto
Enfatizamos varios asuntos relacionados con el conjunto de datos obtenido por HackerRank para probar el impacto dispare: 1) las etiquetas demográficas autodeclaradas no estaban disponibles del uso histórico del sistema, por lo que se utilizó “Datos de Prueba” disponibles públicamente, (ver § 5-300), para evaluar el sistema en busca de sesgo, y 2) la cantidad y calidad del conjunto de datos de prueba (ver Hallazgos) fueron limitados. En consecuencia, las conclusiones extraídas de la cuantificación del impacto dispare están sujetas a las limitaciones derivadas del conjunto de datos y deben interpretarse a la luz de esta restricción. Nuestra opinión no se modifica respecto a este asunto.
Descripción del Sistema
BABL AI fue contratado para auditar el Sistema de Análisis de Imágenes de HackerRank (el sistema). El sistema captura periódicamente varias imágenes de webcam de los candidatos durante una evaluación, y las procesa para detectar supuestas actividades sospechosas, como ocultarse o recibir ayuda no autorizada de otros. Para una sesión de evaluación, el sistema tiene tres modos de detección:
- No-face: se detecta cero rostro en el 90% de las imágenes capturadas;
- Multi-face: se detectan dos o más rostros en al menos una de las imágenes capturadas; y
- Secondary-face: se detectan dos o más rostros únicos en diferentes momentos durante la sesión.
El sistema proporciona un informe de estos modos de detección y lo muestra a los usuarios. Los reclutadores y gerentes de contratación pueden revisar las imágenes capturadas para verificar la presencia de trampas, y decidir si avanzar con un candidato.
Las tasas de candidatos no marcados por el sistema se utilizan como tasas de selección para candidatos que pertenecen a diversos grupos demográficos. Tenga en cuenta que las tasas de selección solo del modo de detección sin rostro se muestran en la p. 14 en la sección Hallazgos, ya que no-face es el modo de detección principal del sistema y su tasa de no marcado es equivalente a la nivel del sistema.
Resumen de la Auditoría
Antecedentes
La Ley Local de la Ciudad de Nueva York No. 144 de 2021 requiere auditorías anuales de “sesgo” para herramientas automatizadas de decisiones de empleo (AEDT) utilizadas para ayudar o reemplazar decisiones en contratación o promoción. Específicamente, la ley establece que (1) la auditoría de sesgo debe “evaluar el impacto dispare” de los AEDT en ciertas personas, (2) la auditoría debe ser realizada por un “auditor independiente ... no más de un año antes del uso”, y (3) un “resumen de los resultados de la auditoría de sesgo más reciente ... [debe ser] hecho públicamente disponible en el sitio web del empleador o agencia de empleo.” La auditoría descrita en este documento se realizó para cumplir con el requisito de la ley solo para una auditoría de sesgo, y no incluye otros requisitos como notificaciones a los candidatos. Este informe no determina si el modelo bajo esta auditoría es, de hecho, una herramienta automatizada de decisiones de empleo según la definición de la Ley Local de NYC 144, o no.
Responsabilidades del Auditor
Es responsabilidad de los auditores de BABL AI:
Obtener una seguridad razonable sobre si las declaraciones hechas por el auditado están libres de errores materiales, ya sea por fraude o error,
Determinar si las declaraciones hechas por el auditado proporcionan evidencia suficiente de que se han cumplido los criterios de auditoría (ver Hallazgos) , y
Emitir un informe del auditor que incluya una opinión.
Como parte de una auditoría de acuerdo con buenas prácticas de auditoría, BABL AI ejerce juicio profesional y mantiene escepticismo profesional durante toda la auditoría. Específicamente, los auditores de BABL AI identifican y evalúan los riesgos de errores materiales en los documentos proporcionados por el auditado, realizan procedimientos de auditoría en respuesta a esos riesgos, y obtienen evidencia de auditoría que sea suficiente y apropiada para fundamentar nuestra opinión, según la Norma de Auditoría 1105 del Public Company Accounting Oversight Board (PCAOB) sobre Evidencia de Auditoría,1 cuando sea aplicable. Además, este informe de auditoría sigue las directrices de la Norma Internacional sobre Compromisos de Aseguramiento (ISAE) 3000 sobre Informe de Aseguramiento, cuando sea aplicable.
BABL AI también es responsable de mantener la independencia y objetividad de los auditores para garantizar la integridad de la opinión y certificación proporcionadas. BABL AI como organización, y todos los auditores empleados y contratados, adhieren a una estricta independencia según lo codificado por la Ley Sarbanes–Oxley de 2002 y el Código de Ética de ForHumanity.4 Además, los Auditores Líder de BABL AI son Auditores Certificados de ForHumanity bajo la Auditoría de Sesgo de NYC AEDT.5 Para más detalles sobre nuestra metodología y proceso, consulte el Apéndice – Metodología de Auditoría.
Alcance y Objetivo
Fuera de Alcance
La auditoría no garantizó pruebas suficientes del impacto dispare del herramienta en ninguna otra clase protegida más allá de raza/etnia y género
La auditoría no certifica que el modelo sea “libre de sesgo”
La auditoría no está destinada a fines de cumplimiento para ninguna legislación que no sea la Ley Local de NYC No. 144
</