バイアス監査結果の概要（HackerRankの画像分析システム）

Last updated: December 12, 2024

リード監査人からの手紙

差出人： シェア・ブラウン

リード監査人
BABL AI Inc.
sheabrown@babl.ai

宛先： Interviewstreet Incorporation (HackerRank)

PO Box 1660
211 Hope Street
Mountain View, California 94041

件名： HackerRankの画像分析システムに関する監査意見 2024/07/22

私たちは、2024/07/22現在のHackerRank（以下「会社」）の偏見テストの主張と関連する書類証拠を独立して監査し、本報告書に記載された基準と監査方法論に従って、会社の画像分析システムに関してBABL AIに提出されたものです。この監査の目的は次のとおりです：

会社の偏見テストの方法論、コントロール、および手順が監査基準を満たしているかどうかを判断すること（発見事項参照）
会社が行った陳述、特にこの報告書に示された偏見テスト結果の要約が、詐欺または誤謬による重要な虚偽表示から自由であるかどうかについて合理的な保証を得ること

この報告書に示された基準は、NYC地方法第144号2021年に規定された「偏見監査」の要件に特に対応するように構築されています。モデルは、NYC地方法第144号2021年の下で自動化された雇用決定ツール（AEDT）として監査されましたが、私たちは、そのモデルが実際にこの法律の下でAEDTであるかどうかの判断は行いません。

会社の責任

会社の代表者は、偏見テストおよび関連手順がこの報告書に記載された基準に準拠していることを保証する責任があります。会社の代表者は、提出された文書が公正に提示されており、虚偽の記載がないことを保証し、効果的かつ効率的な監査プロセスを確保するために必要なすべてのリソースと人員を提供し、監査人の要求に応じて証拠資料へのアクセスを提供する責任があります。

BABL AIの責任

リード監査人の責任は、モデルの偏見テストに関する会社の主張について意見を表明することです。現在のアルゴリズムと自律システムの監査に関する一般的に受け入れられた基準の不在を踏まえ、私たちの調査は本報告書に記載された基準と規範的参照に従って実施されました。

これらの基準は、私たちが1) 監査基準を満たしているかどうか、2) 重要な虚偽表示から自由であるかどうかについて合理的な保証を得るために、計画と監査手順を策定し実施することを要求しています。私たちの関与の範囲内で、以下の手順を実施しました：

提出された文書および外部文書の検査
会社の従業員へのインタビューを通じて、
差別的影響とリスク評価結果の決定プロセスの理解を深める
会社の偏見テストに使用された選択された分析手順の観察
偏見テストデータの選択されたサンプルの検査
ガバナンスと偏見テストおよびリスク評価の監督に責任を持つ人員への問い合わせ

私たちは、実施した手順が私たちの意見の合理的な根拠を提供すると信じています。

独立性

私たちの独立した監査人としての役割は、ForHumanityおよびサーベンス・オックスリーの独立性の定義に準拠しています。この契約に関連する料金は、コンプライアンス評価のためのサービス提供に対するものです。料金の支払いは、下された決定に関係ありません。私たちの決定は、以下に示す基準のみに基づいています。

意見

私たちの意見は、実施された手順と得られた証拠に基づき、2024/07/22時点の会社による偏見テストと結果は、以下の基準に従って、すべての重要な点で準備されていると考えます。

敬具、

シェア・ブラウン、Ph.D.
リード監査人、BABL AI Inc.

強調事項

私たちは、HackerRankが差別的影響をテストするために使用したデータセットに関していくつかの事項を強調します： 1）自己申告の人口統計ラベルは、システムの過去の使用から利用できなかったため、公開されている「テストデータ」（§ 5-300参照）を使用して偏見の有無を評価しました。 2）テストデータの量と質（発見事項参照）は制限されていました。したがって、差別的影響の定量化から導き出された結論は、データセットの制約に左右されるものであり、この制約の範囲内で解釈されるべきです。私たちの意見は、この点に関して修正されていません。

システムの説明

BABL AIは、HackerRankの画像分析システムの監査を委託されました（以下「システム」）。このシステムは、評価中に候補者のWebカメラ画像を定期的にキャプチャし、疑わしい活動の存在を検出するために処理します。例えば、隠れる、他者から不正に助けを得るなどです。評価セッションには、次の3つの検出モードがあります：

ノーフェイス：キャプチャされた画像の90％に顔が検出されない場合；
マルチフェイス：少なくとも1つの画像に2人以上の顔が検出される場合；
セカンダリーフェイス：セッション中にさまざまな時点で2人以上のユニークな顔が検出される場合。

これらの検出モードからのレポートを提供し、ユーザーに表示します。採用担当者や採用マネージャーは、キャプチャされた画像をレビューして不正行為の有無を確認し、候補者を次の段階に進めるかどうかを決定します。

システムによってフラグ付けされない候補者の割合は、さまざまな人口統計グループに属する候補者の選択率として使用されます。なお、p.14の< a href='https://docs.google.com/document/d/152psYl9nKAyDpPdf7Ix7DmqGUHNjYk7xhSpGNvm6ogU/edit?pli=1#heading=h.lnxbz9' target='_blank' rel="noopener noreferrer">発見事項セクションには、ノーフェイス検出モードのみの選択率が表示されており、これはシステムの主要な検出モードであり、その非フラグ付け率はシステムレベルと同等です。

監査概要

背景

ニューヨーク市地方法第144号2021年は、自動化された雇用決定ツール（AEDT）に対して毎年「偏見監査」を要求しています。特に、法律は次のことを規定しています：(1) 偏見監査は「特定の人々に対する[AEDTの]差別的影響」を評価しなければならない、(2) 監査は「独立した監査人」によって行われなければならず、その使用の少なくとも1年前に実施されている必要がある、(3) 「最新の偏見監査の結果の要約」が「雇用者または雇用エージェンシーのウェブサイトに公開される必要がある」。この文書で概説された監査は、偏見監査の要件を満たすためだけに行われており、候補者への通知など他の要件は含まれていません。この報告書は、監査対象のモデルが実際にNYC地方法第144号の定義に基づく自動化された雇用決定ツールであるかどうかの判断を行いません。

監査人の責任

BABL AIの監査人の責任は次のとおりです：

合理的な保証を得ること
監査対象者の陳述が、監査基準（発見事項参照）を満たしていることを示す十分な証拠を特定すること
意見を含む監査人の報告書を発行すること

良好な監査実践に従った監査の一環として、BABL AIは、専門的判断を行い、監査全体を通じて専門的懐疑心を維持します。具体的には、BABL AIの監査人は、提供された文書において重要な虚偽表示のリスクを特定し評価し、そのリスクに対応した監査手順を実施し、十分かつ適切な監査証拠を取得して、私たちの意見の根拠とします。これは、公開会社会計監督委員会（PCAOB）の監査証拠に関する監査基準1105に従います。さらに、この監査報告書は、適用される場合、国際保証業務基準（ISAE）3000の保証報告に関するガイドラインに従います。