Onderzoekers van de Universiteit van Washington (UW) hebben ontdekt dat OpenAI’s chatbot ChatGPT een vooroordeel vertoont ten opzichte van curriculum vitae (CV’s) of cv’s met specifieke vermeldingen die een handicap impliceren. In een recente studie demonstreerden de onderzoekers dat CV’s met eerbewijzen en onderscheidingen gerelateerd aan handicaps, zoals de ‘Tom Wilson Disability Leadership Award’, lager werden gerangschikt dan dezelfde CV’s zonder die vermeldingen.
Bevooroordeelde Percepties van Personen met een Handicap
Toen de onderzoekers van UW verduidelijking zochten over de ranglijsten, kwam naar voren dat het systeem bevooroordeelde percepties van mensen met een handicap had. Een voorbeeld daarvan was dat een CV met een autisme-leiderschapsprijs de opmerking ‘minder nadruk op leiderschapsrollen’ kreeg, wat de stereotypen impliceerde dat autistische mensen geen goede leiders zouden zijn.
Echter, door het gereedschap aan te passen met geschreven instructies die het systeem instrueerden om niet beperkend te zijn, konden de onderzoekers deze vooroordelen verminderen, hoewel niet helemaal elimineren. Van de zes geïmpliceerde handicaps — doofheid, blindheid, cerebrale parese, autisme en de algemene term ‘handicap’ — verbeterden er vijf, maar slechts drie werden hoger gewaardeerd dan CV’s zonder vermelding van een handicap.
Gedetailleerde Aangepaste CV's en testproces
Voor de studie maakten de onderzoekers gebruik van het openbaar beschikbare CV van een van de auteurs van de studie, dat ongeveer 10 pagina’s telde. Ze creëerden vervolgens zes aangepaste CV’s, elk met een andere handicap gesuggereerd door vier handicapspecifieke vermeldingen toe te voegen: een beurs, een prijs, een zetel in een diversiteits- en inclusiepanel en lidmaatschap van een studentenorganisatie.
Deze CV’s werden daarna met het origineel vergeleken voor een werkelijke ‘student-onderzoeker’ positie bij een groot Amerikaans softwarebedrijf middels het GPT-4 model van ChatGPT. Elke vergelijking werd 10 keer uitgevoerd; uit de 60 tests rangschikte het systeem de aangepaste CV’s, die identiek waren behalve de gehandicapte implicatie, slechts één kwart van de tijd als eerste.
Bewustzijn van Systeemvooroordelen
Volgens Kate Glazko, een doctoraatstudent aan de Paul G. Allen School of Computer Science & Engineering van UW, waren sommige beschrijvingen van GPT zodanig dat ze het hele CV van een persoon op basis van hun handicap kleurden. Het beweerde dat de betrokkenheid bij DEI of handicap mogelijk afdeed aan andere delen van het CV. Daarom moeten mensen bij het gebruik van AI voor deze real-world taken, zich bewust zijn van de vooroordelen van het systeem.
“Anders kan een recruiter die ChatGPT gebruikt deze correcties niet maken of zich ervan bewust zijn dat, zelfs met instructies, vooroordelen kunnen blijven bestaan,” voegde Glazko eraan toe.
Call-to-Action
Wilt u meer leren over hoe AI uw bedrijf kan helpen bij het verbeteren van de klanttevredenheid? Bezoek AivyPlus.nl voor uitgebreidere informatie over de mogelijkheden van ChatGPT en andere AI-oplossingen. Schrijf u in voor onze nieuwsbrief voor de laatste updates of laat een reactie achter om uw ervaringen te delen!
