סיכום תוצאות ביקורת הטיה (מערכת ניתוח התמונות של HackerRank)
Last updated: December 12, 2024
מכתב מהמבקר הראשי
מאת: שיאה בראון
מבקר ראשי
BABL AI Inc.
sheabrown@babl.ai
אל: Interviewstreet Incorporation (HackerRank)
תיבת דואר 1660
211 Hope Street
Mountain View, קליפורניה 94041
נושא: דעת ביקורת על מערכת ניתוח התמונות של HackerRank 22/07/2024
ביצענו ביקורת עצמאית על ההצהרות בנוגע לבדיקת הטיה והראיות התיעודיות הקשורות לחברת HackerRank (ה"חברה") נכון ל-22/07/2024, שהוצגו ל-BABL AI ביחס למערכת ניתוח התמונות של החברה בהתאם לקריטריונים ומתודולוגיית הביקורת שנקבעו בדו"ח זה. מטרות ביקורת זו הן ל:
לקבוע האם שיטות הבדיקה של ההטיה, הבקרות והנהלים שבוצעו על ידי החברה עומדים בקריטריונים (ראה ממצאים)
לקבל ביטחון סביר אם ההצהרות שנעשו על ידי החברה, כולל סיכום תוצאות בדיקת ההטיה שהוצג בדו"ח זה, חופשיות מטעויות מהותיות, בין אם מרמה או משגיאה.
יש לשים לב כי הקריטריונים שהוצגו בדו"ח זה נבנו במיוחד כדי לטפל בדרישות של "ביקורת הטיה" המפורטות בחוק המקומי של ניו יורק מס' 144 של 2021. המודל נבדק כאילו היה כלי קבלת החלטות אוטומטי (AEDT) לפי חוק זה, אך איננו קובעים אם המודל הוא, למעשה, כלי קבלת החלטות אוטומטי לפי חוק זה.
אחריות החברה
אחריות נציגי החברה להבטיח כי בדיקת ההטיה והנהלים הקשורים עומדים בקריטריונים שהוגדרו בדו"ח זה. נציגי החברה אחראים להבטיח שהמסמכים שהוגשו מוצגים באופן הוגן וללא הצגות שווא, לספק את כל המשאבים והאנשים הדרושים להבטחת תהליך ביקורת יעיל ויעיל, ולספק גישה לחומר ראייתי כפי שביקשו המבקרים.
אחריות BABL AI
אחריותו של המבקר הראשי של BABL AI היא להביע דעה על ההצהרות של החברה הקשורות לבדיקת ההטיה של המודל. לאור היעדר התקנים המקובלים כיום לביקורת אלגוריתמים ומערכות אוטונומיות, בדיקתנו בוצעה בהתאם לסטנדרטים וההפניות הנורמטיביות שנקבעו בדו"ח זה.
אותם תקנים דורשים שנתכנן ונבצע נהלי ביקורת כדי לקבל ביטחון סביר אם ההצהרות שהוזכרו לעיל 1) עומדות בקריטריונים לביקורת ו-2) חופשיות מטעויות מהותיות, בין אם משגיאה או מרמה. במסגרת ההתחייבות שלנו, ביצענו בין היתר את הנהלים הבאים:
בדיקת המסמכים שהוגשו והמסמכים החיצוניים
ראיון עם עובדי החברה כדי להבין את תהליך קביעת תוצאות ההשפעה השונה והערכת הסיכון
תצפית על נהלי ניתוח שנבחרו בשימוש בבדיקות ההטיה של החברה
בדיקת דגימות נבחרות של נתוני בדיקת ההטיה
שאלות לאנשי הצוות האחראים על ממשל, פיקוח והערכת הסיכון של בדיקת ההטיה
אנו מאמינים כי הנהלים שביצענו מספקים בסיס סביר לדעתנו.
אי תלות
תפקידנו כמבקרים עצמאיים תואם להגדרות של ForHumanity ו-Sarbanes-Oxley של עצמאות. התשלום עבור שירות זה הוא עבור הערכת עמידה, והתשלום אינו קשור להחלטה שניתנה. ההחלטה שלנו מבוססת אך ורק על הקריטריונים שהוצגו להלן.
דעה
לדעתנו, בהתבסס על הנהלים שבוצעו והראיות שהתקבלו להשגת ביטחון, בדיקת ההטיה והתוצאות שהוצגו על ידי החברה, נכון ל-22/07/2024, הוכנה, בכל ההיבטים המהותיים, בהתאם לקריטריונים שהוגדרו להלן.
בברכה,
שיאה בראון, Ph.D.
מבקר ראשי, BABL AI Inc.
הדגשה של נושא
אנו מדגישים מספר נושאים הקשורים למערך הנתונים שמקורו על ידי HackerRank לבדיקה של השפעה שונה: 1) תוויות דמוגרפיות שהוגדרו על ידי המשתמש לא היו זמינות מהשימוש ההיסטורי במערכת, ולכן נעשה שימוש ב"נתוני בדיקה" הזמינים לציבור, (ראה סעיף 5-300), כדי להעריך את המערכת להטיה, ו-2) כמות ואיכות מערך הנתונים לבדיקה (ראה ממצאים) היו מוגבלים. לפיכך, המסקנות שהופקו מהכימות של ההשפעה השונה כפופות למגבלות שנוצרו על ידי מערך הנתונים ויש לפרש אותן לאור מגבלה זו. דעתנו אינה משתנה בעניין זה.
תיאור המערכת
BABL AI הוזמנה לבדוק את מערכת ניתוח התמונות של HackerRank (המערכת). המערכת תופסת באופן תקופתי מספר תמונות מצלמת רשת של מועמדים לעבודה במהלך הערכה, ומעבדת אותן כדי לגלות חשד לפעילויות חשודות מהמתמודדים, כגון התחבאות, או קבלת עזרה בלתי מורשית מאחרים. במהלך מושב הערכה, למערכת יש שלושה מצבי זיהוי:
- אין פנים: זוהה אפס פנים ב-90% מהתמונות שנלכדו;
- ריבוי פנים: זוהה שניים או יותר פנים באחת התמונות שנלכדו; ו
- פנים משניות: זוהה שניים או יותר פנים ייחודיים בזמנים שונים במהלך המושב.
המערכת מספקת דוח ממצבי הזיהוי הללו ומציגה אותו למשתמשים. מגייסים ומנהלי גיוס יכולים לסקור את התמונות שנלכדו כדי לאמת את קיומו של הונאה, ולקבוע האם להמשיך עם מועמד.
שיעורי המועמדים שלא זוהו על ידי המערכת משמשים כקצבי סלקציה למועמדים השייכים לקבוצות דמוגרפיות שונות. שים לב שרק שיעורי הסלקציה במצב זיהוי אין פנים מוצגים בעמוד 14 ב< a href='https://docs.google.com/document/d/152psYl9nKAyDpPdf7Ix7DmqGUHNjYk7xhSpGNvm6ogU/edit?pli=1#heading=h.lnxbz9' target='_blank' rel="noopener noreferrer">ממצאים כיוון ש-אין פנים הוא מצב הזיהוי הראשי של המערכת ושיעור אי הזיהוי שלו שווה לשיעור ברמת המערכת.
סיכום ביקורת
רקע
חוק העיר ניו יורק מס' 144 של 2021 מחייב ביקורות שנתיות על "הטיות" לכלי קבלת החלטות אוטומטיים (AEDTs) המשמשים לסיוע משמעותי או להחלפת החלטות בגיוס או קידום. באופן ספציפי, החוק קובע כי (1) ביקורת ההטיה חייבת "להעריך את ההשפעה השונה" של ה-AEDTs על אנשים מסוימים, (2) הביקורת חייבת להתבצע על ידי "מבקר עצמאי ... לא יותר משנה לפני השימוש", ו-(3) "סיכום תוצאות הביקורת האחרונה ... [צריך להיות] זמין לציבור באתר האינטרנט של המעסיק או סוכנות העבודה." הביקורת שמתוארת במסמך זה בוצעה כדי לעמוד בדרישת החוק לביקורת הטיה בלבד, ואינה כוללת דרישות אחרות כגון הודעות למועמדים. דו"ח זה אינו קובע אם המודל שבבדיקה הוא, למעשה, כלי קבלת החלטות אוטומטי כהגדרתו בחוק ניו יורק מס' 144, או לא.
אחריות המבקר
אחריות מבקרי BABL AI היא:
לקבל ביטחון סביר אם ההצהרות של הנבדק חופשיות מטעויות מהותיות, בין אם מרמה או משגיאה,
לקבוע אם ההצהרות של הנבדק מספקות ראיות מספקות לכך שהקריטריונים (ראה ממצאים) הושגו, ו-
להוציא דוח מבקר שכולל דעה.
כחלק מביקורת בהתאם לנהוג בביקורת טובה, BABL AI מפעיל שיקול דעת מקצועי ושומר על ספקנות מקצועית לאורך כל הביקורת. במיוחד, מבקרי BABL AI מזהים ומעריכים את הסיכונים לטעויות מהותיות במסמכים שנמסרו על ידי הנבדק, מבצעים נהלי ביקורת התואמים לסיכונים אלה, ומקבלים ראיות ביקורתיות שהן מספקות ומתאימות כדי לספק בסיס לדעה שלנו, לפי תקן הביקורת של ה-PCAOB,1 במקום בו זה רלוונטי. בנוסף, דוח ביקורת זה עוקב אחר קווי ההנחיה של תקן ההבטחות של ה-ISAE 3000, במידת הצורך.
BABL AI גם אחראית לשמירת עצמאות ואובייקטיביות של המבקרים כדי להבטיח את שלמות הדעה והאישור שניתן. BABL AI כארגון, וכל המבקרים העובדים והקונטרקטים, דבקים בעצמאות קפדנית כפי שמוגדרת בחוק סרביינס-אוקסלי של 2002, ובקוד האתיקה של ForHumanity.4 בנוסף, מבקרי ה-Lead של BABL AI הם מבקרים מוסמכים של ForHumanity לפי ביקורת ההטיה של NYC.5 לפרטים נוספים על המתודולוגיה והתהליך שלנו, ראו את נספח – מתודולוגיית הביקורת.