bron VRT

Steeds meer buitenlandse bedrijven gebruiken Chat GPT om een cv te beoordelen en ook in ons land krijgt het navolging. Maar het AI-systeem discrimineert etnische minderheden, onderzocht arbeidseconoom Louis Lippens. Computerwetenschapper Jeroen Baert waarschuwt: “Mijn advies? Solliciteer niet bij bedrijven die het gebruiken.”

Xavier Vuylsteke de Laps

Hoe beoordeelt ChatGPT cv’s?

Internationaal zijn er verschillende gevallen bekend van bedrijven die bij vacatures de eerste fase uit handen geven aan ChatGPT of een ander systeem met artificiële intelligentie (AI). Ook het Gentse uitzendbureau Nowjobs gebruikt het om flexi-jobbers te matchen met vacatures.

“ChatGPT kan gebruikt worden om data op een cv te screenen of om sollicitanten enkele eenvoudige vragen te stellen en de antwoorden te beoordelen”, legt Lippens uit. “Het proces kan volautomatisch gebeuren, door een score aan het cv toe te kennen, maar je kan ChatGPT ook simpelweg een ‘ja’ of ‘nee’ laten antwoorden.”

Wat je met de score of het antwoord van het systeem doet, is altijd een menselijke keuzeArbeidseconoom Louis Lippens

“AI wordt in een sollicitatieproces gebruikt om cv’s en profielen te categoriseren, op basis van een aantal voorwaarden. Het stelt bedrijven in staat sneller en meer geautomatiseerd te werken en zo werkuren uit te sparen. Maar wat je met de score of het antwoord van het systeem doet, is wel altijd een menselijke keuze.”

Discrimineert ChatGPT sollicitanten?

Waar het gebruik van een computerprogramma voor een objectievere beoordeling hoort te zorgen, discrimineert ChatGPT specifieke groepen van de bevolking, bericht De Morgen. “De discriminatieratio lag tussen 14 en 19 procent, waarbij vooral leden van etnische minderheden slechtere beoordelingen kregen”, aldus Lippens.

Computerwetenschapper Jeroen Baert waarschuwt al langer voor de vooringenomenheid van zo’n AI-systeem. “Mensen denken aan ChatGPT als een alwetend, neutraal orakel, maar het is een systeem getraind door een algoritme dat we gevoed hebben met onze eigen teksten. Het is een taalsysteem dat een analyse kan geven, maar dat is niet per definitie een waardevolle analyse.”

Opvallend is wel dat het gemiddelde discriminatieratio bij mensen tussen 30 en 40 procent ligt, heel wat hoger dan bij ChatGPT. “Maar je kan ervan uitgaan dat er mensen zijn die nooit discrimineren en we weten dat grote bedrijven op dit vlak beter scoren”, vult Lippens aan. “Terwijl je bij het gebruik van ChatGPT voor sollicitaties zeker bent van die 14 tot 19 procent.”

Zien we ChatGPT binnenkort vaker opduiken bij een vacature?

Bedrijven zijn steeds op zoek naar meer automatisering van hun technologie en zullen daarvoor ook vaker naar ChatGPT kijken, voorspelt Lippens. “Maar het is een afweging tussen een efficiëntiewinst en een verlies aan diversiteit in het bedrijf. Hopelijk worden de systemen op termijn zo goed dat ze de vooringenomenheid volledig uitsluiten, maar zover zijn we nog niet.”

Baert ziet de toekomst minder optimistisch in. “Het probleem is dat er geen garantie is dat de discriminatie tussen die percentages zal blijven. Stel dat je de data gebruikt om mensen aan te nemen en die data dan opnieuw invoert. Dan zullen die percentages vergroten, want je traint het systeem ermee. Er is momenteel dus geen reden om de menselijke interventie weg te nemen.”

Hoe gaan sollicitanten hier best mee om?

Maar wat dan met sollicitanten die in contact komen met ChatGPT? “Het is heel moeilijk om een sluitende tip op te stellen”, aldus Lippens, “maar je probeert best om je cv zoveel mogelijk te anonimiseren.”

Mijn beste tip voor sollicitanten? Solliciteer niet bij een bedrijf dat ChatGPT hiervoor gebruiktComputerwetenschapper Jeroen Baert

Baert is categoriek in zijn advies: “Mijn beste tip? Solliciteer niet bij een bedrijf dat ChatGPT hiervoor gebruikt. En ik denk dat er vanuit de overheid de expliciete verplichting moet komen om open te zijn over de sollicitatieprocedure. Als een bedrijf een AI-tool gebruikt, is dat wat mij betreft een rode vlag.”

“Mocht het bedrijf de cv’s eerst anonimiseren en dan pas analyseren, is het een andere zaak. Maar een AI-systeem is heel goed in patroonherkenning, dus zekerheid is er nooit. Als er op je school veel mensen met een migratieachtergrond afstuderen, zou het algoritme aan de hand daarvan bepaalde verbanden kunnen leggen.”