חיתום אשראי צרכני על סמך עיבוד מידע אלגוריתמי – היש סיבה לחשוש מהפליה אסורה?Algorithmic Credit Underwriting in Israel : Is there a Risk of Discrimination?

תקציר בעברית: המאמר עוסק באופן בו מתקבלות החלטות בנוגע להעמדת אשראי צרכני על-ידי מלווים בנקאיים וחוץ בנקאיים בישראל, פעולה המכונה בעגה המקצועית "חיתום אשראי". לאור מהפכת המידע ופיתוחן של טכנולוגיות ניתוח נתוני עתק מתקדמות, יותר ויותר נותני אשראי אינם מסתפקים במשטר השיתוף בנתוני אשראי המבוסס על מאגר לאומי של נתוני אשראי בבנק ישראל. הם מבצעים חיתום אשראי אוטומטי בהתבסס על כלים של בינה מלאכותית, המשקללים מגוון עצום ורב של נתוני מידע, לרבות מידע שכלל אינו פיננסי. בצד היתרונות של שימוש בכלים של בינה מלאכותית, ובראשם דיוק ויעילות, המאמר מצביע על סיכון ממשי של הפליה בין לקוחות ופגיעה באוכלוסיות המוחלשות. זאת הן בשל טיב המידע המשמש לבניית המודלים והן בשל שיטות עיבוד המידע. בחינת הדין המצוי, תוך השוואה לרגולציה הקיימת במדינת אחרות, מעלה כי אין בו כדי לספק מענה הולם לצמצום הסיכון האמור. לאור זאת, ותוך הבנה כי חקיקה ראשית המסדירה את השימוש בבינה מלאכותית לא תיעשה בקרוב, המאמר קורא לרגולטורים הפיננסיים להציב מספר דרישות למלווים הכפופים לפיקוחם, במטרה לצמצם את הסיכון האמור: ביצוע בקרות פנימיות והערכות תקופתיות, ודיווח על תוצאות הבדיקות; קיום מעורבות אנושית בהליך החיתום האוטומטי; ושימוש במודלים ברי הסבר בלבד. כן מציע המאמר מספר הצעות כדי להקל על מצוקתם של מודרי האשראי