편향 감사 결과 요약 (HackerRank의 이미지 분석 시스템)
Last updated: December 12, 2024
수석 감사자의 편지
보낸 사람: Shea Brown
수석 감사자
BABL AI Inc.
sheabrown@babl.ai
받는 사람: Interviewstreet Incorporation (HackerRank)
PO Box 1660
211 Hope Street
Mountain View, California 94041
Re: HackerRank의 이미지 분석 시스템에 대한 감사 의견 07/22/2024
우리는 07/22/2024 기준으로 HackerRank(이하 "회사")의 편향성 테스트 주장과 관련 문서 증거를 독립적으로 감사하였으며, 이 보고서에 명시된 기준과 감사 방법론에 따라 회사의 이미지 분석 시스템과 관련하여 BABL AI에 제시된 내용을 검증하였습니다. 이 감사의 목표는 다음과 같습니다:
회사에서 수행한 편향성 테스트 방법론, 통제 및 절차가 감사 기준을 충족하는지 여부를 결정하는 것 (찾기 참조)
회사에서 제시한 진술, 특히 이 보고서에 제시된 편향성 테스트 결과 요약이 중요한 왜곡 없이 사실임을 합리적으로 확신하는 것
이 보고서에 제시된 기준은 NYC 지방법 제144호 2021의 “편향성 감사” 요구 사항을 구체적으로 다루기 위해 구성된 것임을 유의하시기 바랍니다. 모델은 NYC 지방법 제144호 2021에 따른 자동화된 고용 결정 도구(AEDT)로 간주하여 감사하였으며, 이 법에 따라 모델이 실제로 AEDT인지 여부에 대한 판단은 하지 않습니다.
회사 책임
회사의 담당자는 편향성 테스트 및 관련 절차가 이 보고서에 명시된 기준을 준수하는지 확인할 책임이 있습니다. 회사 담당자는 제출된 문서가 공정하게 제시되고 허위 진술이 없음을 보장하며, 효과적이고 효율적인 감사 과정을 위해 필요한 모든 자원과 인력을 제공하고, 감사자가 요청하는 증거 자료에 대한 접근을 허용할 책임이 있습니다.
BABL AI 책임
수석 감사자는 모델의 편향성 테스트와 관련된 회사의 주장에 대해 의견을 표명할 책임이 있습니다. 현재 알고리즘 및 자율 시스템 감사에 대한 일반적으로 인정된 표준이 부재한 상황에서, 본 감사는 이 보고서에 명시된 표준과 규범적 참고 문헌에 따라 수행되었습니다.
이 표준은 우리가 감사 기준을 충족하는지 여부를 합리적으로 확신할 수 있도록 계획하고 감사 절차를 수행하는 것을 요구하며, 1) 감사 기준을 충족하는지 여부와 2) 중요한 왜곡이 없는지 여부를 검증하는 것을 포함합니다. 우리 참여 범위 내에서, 우리는 다음과 같은 절차를 수행하였습니다:
제출된 문서 및 외부 문서 검토
회사 직원 인터뷰를 통해
편향성 평가 결과에 대한 이해를 얻기 위한 절차
회사 편향성 테스트에 사용된 선택적 분석 절차 관찰
편향성 테스트 데이터의 선택 샘플 검토
지배구조 및 위험 평가에 책임이 있는 인력에 대한 문의
우리는 수행된 절차가 우리의 의견에 합리적인 근거를 제공한다고 믿습니다.
독립성
우리의 독립 감사자 역할은 ForHumanity와 Sarbanes-Oxley의 독립성 정의에 부합합니다. 이 계약과 관련된 수수료는 준수 평가 서비스 제공을 위한 것이며, 수수료 지급은 최종 결정과 무관합니다. 우리의 결정은 아래 제시된 기준에만 근거합니다.
의견
우리의 의견은 수행된 절차와 확보된 증거를 바탕으로 하며, 2024년 07월 22일 기준으로 회사가 제시한 편향성 테스트 및 결과는 아래 기준에 따라 준비된 것으로 간주됩니다.
진심으로,
Shea Brown, Ph.D.
수석 감사자, BABL AI Inc.
중요 사항 강조
우리는 HackerRank가 제공한 데이터셋과 관련하여 다음 사항을 강조합니다: 1) 과거 시스템 사용에서 자가 선언한 인구통계학적 라벨이 없었기 때문에 공개적으로 이용 가능한 “테스트 데이터” (참조 § 5-300)를 사용하여 편향성을 평가하였으며, 2) 테스트 데이터의 양과 품질 (참조 발견 사항)이 제한적이었다는 점입니다. 따라서, 이 데이터셋에서 도출된 결론은 데이터셋의 한계에 영향을 받으며, 이 제약 조건 하에서 해석되어야 합니다. 우리의 의견은 이 사항에 대해 수정되지 않았습니다.
시스템 설명
BABL AI는 HackerRank의 이미지 분석 시스템을 감사하도록 요청받았습니다. 이 시스템은 평가 동안 정기적으로 웹캠 이미지를 캡처하고, 이를 처리하여 후보자의 의심스러운 활동 존재 여부를 감지하는 것으로 보고됩니다. 예를 들어, 자신을 숨기거나 타인의 부정한 도움을 받는 행위 등을 감지합니다. 평가 세션에는 세 가지 감지 모드가 있습니다:
- No-face: 전체 캡처된 이미지의 90% 이상에서 얼굴이 감지되지 않음;
- Multi-face: 적어도 하나의 캡처된 이미지에서 두 개 이상의 얼굴이 감지됨; 그리고
- Secondary-face: 세션 동안 여러 차례에 걸쳐 서로 다른 두 개 이상의 얼굴이 감지됨.
이 시스템은 이러한 감지 모드의 보고서를 제공하며, 사용자에게 표시합니다. 채용 담당자와 채용 담당자는 캡처된 이미지를 검토하여 부정행위 여부를 확인하고, 후보자를 다음 단계로 진행할지 결정할 수 있습니다.
시스템이 플래그를 지정하지 않는 후보자의 비율은 다양한 인구통계학적 그룹에 속하는 후보자들의 선택률로 사용됩니다. 참고로, No-face 감지 모드의 선택률만이 p. 14의 발견 사항 섹션에 표시되며, No-face는 시스템의 기본 감지 모드이고, 비 플래그 비율이 시스템 수준과 동일하기 때문입니다.
감사 요약
배경
뉴욕시 지방법 제144호 2021는 고용 결정 도구(AEDT)의 연간 “편향성 감사”를 요구하며, 이는 채용 또는 승진 결정에 실질적으로 도움을 주거나 대체하는 데 사용됩니다. 구체적으로, 법은 (1) 편향성 감사가 특정 인구에 대한 “불평등 영향”을 평가해야 하며, (2) 감사는 “독립 감사인 ... 1년 이내”에 수행되어야 하며, (3) “가장 최근 편향성 감사 결과 요약 ... [이] 고용주 또는 고용 기관의 웹사이트에 공개되어야 한다”고 규정합니다. 본 문서에 개요된 감사는 편향성 감사의 법적 요구 사항을 충족하기 위해 수행되었으며, 후보자 통지와 같은 기타 요구 사항은 포함하지 않습니다. 이 보고서는 이 감사가 실제로 NYC 지방법 144에 정의된 자동화된 고용 결정 도구인지 여부에 대한 판단을 내리지 않습니다.
감사자 책임
BABL AI 감사자의 책임은 다음과 같습니다:
합리적 확신을 얻기 위해 감사 대상자가 진술한 내용이 중요한 왜곡이 없음을 확인하는 것, 이는 사기 또는 오류로 인한 것일 수 있으며,
감사 대상자가 제공한 진술이 감사 기준(참조 발견 사항)을 충족하는 충분한 증거를 제공하는지 여부를 판단하는 것, 그리고
감사 의견을 포함하는 감사 보고서를 발행하는 것.
좋은 감사 관행에 따라 감사의 일환으로, BABL AI는 전문적 판단을 행사하고 감사 내내 직업적 회의론을 유지합니다. 특히, BABL AI 감사자는 제공된 문서에서 중요한 왜곡의 위험을 식별하고 평가하며, 이러한 위험에 대응하는 감사 절차를 수행하고, 적절하고 충분한 감사 증거를 확보하여 의견의 근거를 마련합니다. 이는 공개회사회계감독위원회(PCAOB)의 감사 증거 표준 1105에 따라 수행됩니다,1 적용 가능한 경우. 또한, 이 감사 보고서는 국제적 보증 참여 표준(ISAE) 3000의 가이드라인에 따라 작성됩니다,2
BABL AI는 또한 감사자의 독립성과 객관성을 유지하여 의견과 인증의 무결성을 보장할 책임이 있습니다. BABL AI는 엄격한 독립성을 준수하며, 이는 Sarbanes–Oxley Act of 2002와 ForHumanity의 윤리 강령에 의해 규정됩니다. 또한, BABL AI 수석 감사자는 NYC AEDT 편향성 감사에서 ForHumanity 인증 감사자입니다. 자세한 방법론과 절차는 부록 – 감사 방법론을 참조하십시오.
범위 및 목표
범위 밖
감사는 인종/민족과 성별을 넘어선 다른 보호받는 계층에 대한 충분한 테스트를 보장하지 못했습니다.
감사는 모델이 “편향 없음”을 인증하지 않습니다.
감사는 다른 법률에 대한 준수 목적으로 수행되지 않으며, NYC 지방법 제144호에만 해당됩니다.