Zusammenfassung der Bias-Audit-Ergebnisse (HackerRank's Bildanalyse-System)
Last updated: December 12, 2024
Brief vom Lead Auditor
Von: Shea Brown
Lead Auditor
BABL AI Inc.
sheabrown@babl.ai
An: Interviewstreet Incorporation (HackerRank)
PO Box 1660
211 Hope Street
Mountain View, Kalifornien 94041
Re: Prüfungsmeinung zum HackerRank’s Bildanalyse-System 22.07.2024
Wir haben die Behauptungen zum Bias-Testing und die zugehörigen dokumentarischen Beweise von HackerRank (das "Unternehmen") zum Stichtag 22.07.2024 unabhängig geprüft, die dem BABL AI im Zusammenhang mit dem Bildanalyse-System des Unternehmens vorgelegt wurden, gemäß den in diesem Bericht festgelegten Kriterien und Prüfmethoden. Die Ziele dieser Prüfung sind:
Feststellen, ob die Methodologien, Kontrollen und Verfahren des Bias-Tests durch das Unternehmen die Prüfungsstandards erfüllen (siehe Ergebnisse)
Angemessene Sicherheit darin zu gewinnen, ob die vom Unternehmen gemachten Aussagen, einschließlich der Zusammenfassung der Bias-Testergebnisse in diesem Bericht, frei von wesentlichen Falschaussagen sind, sei es durch Betrug oder Fehler.
Beachten Sie, dass die in diesem Bericht dargestellten Kriterien speziell entwickelt wurden, um die Anforderungen eines „Bias-Audits“ gemäß dem NYC Local Law Nr. 144 von 2021 zu erfüllen. Das Modell wurde geprüft, als wäre es ein automatisiertes Entscheidungstool für Beschäftigung (AEDT) im Sinne des NYC Local Law Nr. 144 von 2021, aber wir treffen keine Entscheidung darüber, ob das Modell tatsächlich ein AEDT im Sinne dieses Gesetzes ist.
Verantwortlichkeiten des Unternehmens
Es liegt in der Verantwortung der Vertreter des Unternehmens sicherzustellen, dass Bias-Tests und verwandte Verfahren den in diesem Bericht dargelegten Kriterien entsprechen. Die Vertreter des Unternehmens sind dafür verantwortlich, sicherzustellen, dass die eingereichten Dokumente fair dargestellt werden und frei von Falschdarstellungen sind, alle Ressourcen und das Personal bereitzustellen, die für einen effektiven und effizienten Prüfungsprozess erforderlich sind, und Zugang zu Beweismaterial auf Anfrage der Prüfer zu gewähren.
BABL AI Verantwortlichkeiten
Es liegt in der Verantwortung des Lead-Auditors, eine Meinung zu den Behauptungen des Unternehmens im Zusammenhang mit dem Bias-Testing des Modells zu äußern. Angesichts des aktuellen Fehlens allgemein anerkannter Standards für die Prüfung von Algorithmen und autonomen Systemen wurde unsere Untersuchung gemäß den in diesem Bericht dargelegten Standards und Normen durchgeführt.
Diese Standards verlangen, dass wir Prüfungsverfahren planen und durchführen, um angemessene Sicherheit darüber zu erlangen, ob die oben genannten Behauptungen 1) die Prüfungsstandards erfüllen und 2) frei von wesentlichen Falschaussagen sind, sei es durch Fehler oder Betrug. Im Rahmen unseres Engagements haben wir unter anderem die folgenden Verfahren durchgeführt:
Inspektion der eingereichten Dokumente und externer Dokumentation
Interviews mit Mitarbeitern des Unternehmens, um den Prozess zur
Bestimmung der Auswirkungen und Risikobewertung zu verstehen
Beobachtung ausgewählter analytischer Verfahren, die im Bias-Test des Unternehmens verwendet werden
Inspektion der ausgewählten Stichproben der Bias-Test-Daten
Anfrage bei den für die Governance und Überwachung des Bias-Tests und der
Risikoabschätzung verantwortlichen Personen
Wir sind der Ansicht, dass die durchgeführten Verfahren eine angemessene Grundlage für unsere Meinung bieten.
Unabhängigkeit
Unsere Rolle als unabhängiger Prüfer entspricht den Definitionen von Unabhängigkeit von ForHumanity und Sarbanes-Oxley. Die mit diesem Vertrag verbundenen Gebühren dienen der Erbringung der Dienstleistung zur Bewertung der Einhaltung. Die Zahlung der Gebühren ist nicht an die Entscheidung gebunden. Unsere Entscheidung basiert ausschließlich auf den unten dargestellten Kriterien.
Meinung
Unserer Meinung nach, basierend auf den durchgeführten Verfahren und den erhaltenen Beweisen zur Erlangung von Sicherheit, ist das Bias-Testing und die Ergebnisse des Unternehmens zum Stichtag 22.07.2024 in allen wesentlichen Aspekten gemäß den unten genannten Kriterien erstellt.
Mit freundlichen Grüßen,
Shea Brown, Ph.D.
Lead Auditor, BABL AI Inc.
Betonung des Sachverhalts
Wir heben mehrere Punkte im Zusammenhang mit dem Datensatz hervor, der von HackerRank bezogen wurde, um die Auswirkungen auf verschiedene Gruppen zu testen: 1) Selbstdeklarierte demografische Labels waren bei der historischen Nutzung des Systems nicht verfügbar, daher wurde öffentlich zugängliche „Testdaten“ (siehe § 5-300), verwendet, um das System auf Bias zu prüfen, und 2) die Menge und Qualität des Testdatensatzes (siehe Ergebnisse) waren begrenzt. Folglich unterliegen die Schlussfolgerungen aus der Quantifizierung der Auswirkungen auf verschiedene Gruppen den Einschränkungen, die sich aus dem Datensatz ergeben, und sollten im Lichte dieser Beschränkung interpretiert werden. Unsere Meinung ist in Bezug auf diese Angelegenheit nicht geändert.
Systembeschreibung
BABL AI wurde beauftragt, das HackerRank-System zur Bildanalyse zu prüfen (das System). Das System erfasst regelmäßig eine Reihe von Webcam-Bildern von Bewerbern während einer Bewertung und verarbeitet sie, um angeblich verdächtige Aktivitäten der Kandidaten zu erkennen, z. B. sich verstecken oder unerlaubte Hilfe von anderen zu erhalten. Für eine Bewertungssitzung hat das System drei Erkennungsmodi:
- No-face: Null Gesicht wird in 90% der insgesamt erfassten Bilder erkannt;
- Multi-face: Zwei oder mehr Gesichter werden in mindestens einem der erfassten Bilder erkannt; und
- Sekundär-Gesicht: Zwei oder mehr einzigartige Gesichter werden zu verschiedenen Zeiten während der Sitzung erkannt.
Das System liefert einen Bericht aus diesen Erkennungsmodi und zeigt ihn den Nutzern an. Recruiter und Einstellungsleiter können dann die erfassten Bilder überprüfen, um Betrug zu erkennen, und entscheiden, ob ein Kandidat weitergeführt werden soll.
Die Raten der Kandidaten, die vom System nicht markiert werden, sollen als Auswahlraten für Kandidaten verwendet werden, die verschiedenen demografischen Gruppen angehören. Beachten Sie, dass nur die Erkennungsmodus „No-face“ auf Seite 14 im Ergebnisse angezeigt werden, da No-face der primäre Erkennungsmodus des Systems ist und seine Nicht-Flag-Rate auf Systemebene gleichwertig ist.
Prüfungszusammenfassung
Hintergrund
Das New Yorker Gesetz Nr. 144 von 2021 schreibt jährliche „Bias-Audits“ für automatisierte Entscheidungstools (AEDTs) vor, die dazu verwendet werden, Entscheidungen bei Einstellungen oder Beförderungen wesentlich zu unterstützen oder zu ersetzen. Das Gesetz besagt insbesondere, dass (1) das Bias-Audit „die unterschiedliche Auswirkung der AEDTs“ auf bestimmte Personen bewerten muss, (2) das Audit von einem „unabhängigen Prüfer ... höchstens ein Jahr vor der Verwendung“ durchgeführt werden muss, und (3) eine „Zusammenfassung der Ergebnisse des letzten Bias-Audits ... öffentlich auf der Website des Arbeitgebers oder der Beschäftigungsagentur zugänglich gemacht werden muss.“ Das in diesem Dokument skizzierte Audit wurde durchgeführt, um die gesetzliche Anforderung nur für ein Bias-Audit zu erfüllen, und umfasst keine anderen Anforderungen wie die Benachrichtigung der Kandidaten. Dieses Bericht trifft keine Entscheidung darüber, ob das im Rahmen dieses Audits betrachtete Modell tatsächlich ein automatisiertes Entscheidungstool für Beschäftigung im Sinne des NYC Local Law 144 ist oder nicht.
Verantwortlichkeiten des Prüfers
Es liegt in der Verantwortung der BABL AI Prüfer:
Angemessene Sicherheit darüber zu erlangen, ob die vom Prüfer gemachten Aussagen frei von wesentlichen Falschaussagen sind, sei es durch Betrug oder Fehler,
Zu bestimmen, ob die Aussagen des Prüfers ausreichende Beweise dafür liefern, dass die Prüfstandards (siehe Ergebnisse) erfüllt sind, und
Einen Prüfungsbericht mit einer Meinung zu erstellen.
Im Rahmen einer Prüfung nach den Grundsätzen guter Prüfungspraxis übt BABL AI berufliches Urteilsvermögen aus und bewahrt während der gesamten Prüfung eine professionelle Skepsis. Insbesondere identifizieren und bewerten die Prüfer von BABL AI die Risiken wesentlicher Falschaussagen in den vom Prüfer bereitgestellten Dokumenten, führen prüfungsbezogene Verfahren durch, die auf diese Risiken reagieren, und erlangen Prüfungsnachweise, die ausreichend und geeignet sind, um eine Grundlage für unsere Meinung zu bilden, gemäß den Prüfungsstandards des Public Company Accounting Oversight Board (PCAOB) 1105 zum Prüfungsnachweis,1 wo anwendbar. Darüber hinaus folgt dieser Prüfungsbericht den Richtlinien des International Standard on Assurance Engagements (ISAE) 3000 für Assurance-Berichte, soweit anwendbar.
BabL AI ist auch verantwortlich für die Wahrung der Unabhängigkeit und Objektivität der Prüfer, um die Integrität der bereitgestellten Meinung und Zertifizierung zu gewährleisten. BABL AI als Organisation und alle Mitarbeiter und Vertragsprüfer halten sich an strenge Unabhängigkeitsregeln, die durch den Sarbanes–Oxley Act von 2002 kodifiziert sind, sowie den Ethikkodex von ForHumanity.4 Darüber hinaus sind die Lead-Auditoren von BABL AI zertifizierte ForHumanity-Prüfer im Rahmen des NYC AEDT Bias Audit.5 Für weitere Details zu unserer Methodik und unserem Prozess siehe Anhang – Prüfmethodik.
Umfang & Zielsetzung
Außerhalb des Umfangs
Das Audit hat keine ausreichenden Tests des Tools auf Auswirkungen auf andere geschützte Klassen außer Rasse/Ethnie und Geschlecht sichergestellt </