Juistheid van gegevens is het fundament waarop responsible AI in recruitment moet rusten. Voor de keuze van inzet van AI in het recruitmentproces is de juistheid van gegevens de belangrijkste basis. Als de gegevens onjuist zijn die een een algoritme gebruikt of produceert, is elke vervolgstap matching, scoring, ranking en selectie op drijfzand gebouwd. Dat raakt zowel de effectiviteit als de rechtvaardigheid van het proces.
Ik stel voor oplossingen op dit gebied de basisvraag: zijn de gegevens juist? Hoe wordt dit aangetoond? Het kader voor deze toetsing lees je in dit artikel: Juistheid AI in recruitment is het fundament.
In deze eerste beoordeling in een serie: AI toepassing in het ATS Recruitee.
AI in Tellent Recruitee
Recruitee, onderdeel van Tellent, is een ATS met geïntegreerde AI-functionaliteit. Met de zogeheten ‘AI assist’ worden skills automatisch afgeleid uit een sollicitatie of cv en gematcht met de gestelde functie-eisen. Marieke Drees, VP of People bij Tellent, deelde eerder op LinkedIn hoe zij AI assist inzetten bij de screening van grote aantallen sollicitaties.
Wat de AI doet
In een gedeelde screenshot is zichtbaar hoe AI assist skills beoordeelt op basis van cv-inhoud. Als voorbeeld: de AI kent een kandidaat uitstekende communicatievaardigheden toe, zowel mondeling als schriftelijk, op basis van het feit dat uit het cv ervaring met interviews en multi-channel communicatiebeheer te extraheren valt.
Zie het voorbeeld van beoordeling van skills door AI assist in Recuitee:
Dit is een afgeleid persoonskenmerk. De AI neemt aan dat iemand die interviews heeft afgenomen en communicatiekanalen heeft beheerd, uitstekend communiceert. Maar dat is geen feit. Werkervaring in een functie zegt iets over wat iemand gedaan heeft, niet over hoe goed zij of hij dat deed. De werkelijke communicatievaardigheid kan sterk variëren.
Positief is dat AI assist enigszins onderbouwt waarop de afgeleide skill gebaseerd is. Dat geeft wat transparantie over de werking van de AI. Maar een volledige onderbouwing is het niet: zonder het onderliggende cv te kunnen inzien is niet te verifiëren of de afleiding daadwerkelijk gebaseerd is op feitelijk vermelde informatie, of dat het om een verdere interpretatie gaat (of zelfs hallucinatie).
De impact van onjuiste afleiding
Tellent geeft aan dat AI assist het mogelijk maakt om 250+ sollicitaties efficiënt te screenen. Op basis van de toegekende skills wordt een matchingscore of ranking bepaald. Kandidaten die hoog scoren komen in aanmerking voor verdere aandacht van de recruiter; kandidaten die laag scoren of skills missen, kunnen in de praktijk terzijde gelegd worden.
Er is hier formeel sprake van menselijke tussenkomst, maar voor de afgewezen kandidaten is die tussenkomst weinig betekenisvol. De recruiter beoordeelt immers primair de als sterkst beoordeelde kandidaten. Dit neigt daarmee naar geautomatiseerde besluitvorming, waarbij de AI in de praktijk de doorslag geeft.
Recruitee geeft zelf ook aan in hun ‘AI in recruiting’ informatie, over screening en matching:
AI-based recruitment tools parse resumes, extract relevant information, and match candidates to job requirements automatically. Recruiters review only the strongest fits rather than sifting through hundreds of applications manually.
Worden vaardigheden onterecht niet of onjuist toegekend, dan is de kans groot dat een geschikte kandidaat automatisch buiten beeld valt zonder dat een recruiter daar bewust van is. Elk cv controleren door de recruiter lijkt geen werkelijkheid; de AI assist is juist bedoeld om minder tijd kwijt te zijn aan het screenen van alle cv’s.
Transparantie en privacy
Voor zover na te gaan is de kandidaat hiervan volledig onwetend. In het sollicitatieproces en de privacyverklaring van Tellent wordt geen melding gemaakt van de verwerking van afgeleide persoonskenmerken of de inzet van AI bij de beoordeling. Dat is een serieus transparantieprobleem. De AVG vereist dat betrokkenen geïnformeerd worden over de verwerking van hun persoonsgegevens. Ook wanneer die gegevens worden afgeleid via geautomatiseerde middelen.
Tellent stelt zelf transparant te zijn over hun AI-gebruik en verwijst daarvoor naar een mogelijkheid om per mail vragen te stellen. Dit valt te lezen bij een vacature bij Tellent:
Note on Ethical AI
We utilize our internally developed ethical AI tools to help streamline our hiring process and ensure an unbiased evaluation of all candidates. We believe in transparency – if you have questions about how we use technology in our recruitment, please reach out to us at hr@tellent.com
Transparantie betekent niet dat kandidaten zelf actief om informatie moeten vragen. Het betekent dat die informatie proactief en begrijpelijk beschikbaar is. Een verwijzing naar een mailadres is geen vervanging voor een heldere privacy- of AI-policy.
Ook niet voor de claim dat hun AI bias voorkomt. Hierover is geen nadere informatie publiek beschikbaar. Hoe bias gedefinieerd wordt, welke maatregelen zijn getroffen en of deze zijn getoetst heb ik niet terug kunnen vinden. Een claim zoals deze zonder onderbouwing is in de context van de AVG en de EU AI Act onvoldoende.
Toetsing aan de drie vragen
De drie vragen uit het kader zijn voor mij als volgt beantwoord:
- Betreft het feitelijke of afgeleide gegevens?
Afgeleid. Skills worden geïnterpreteerd uit cv-tekst op basis van werkervaring, niet feitelijk vastgesteld. - Worden afgeleide gegevens geverifieerd door de betrokkene?
Nee. Kandidaten worden niet geïnformeerd over de afgeleide kenmerken, laat staan dat zij deze kunnen bevestigen of corrigeren. - Hoe wordt de juistheid van afgeleide gegevens gevalideerd, en hoe onafhankelijk is die validatie? Op basis van publiek beschikbare informatie: niet. Er is geen verwijzing naar validatiestudies, methodologische onderbouwing of externe toetsing van de gebruikte methode.
Conclusie
Recruitee / Tellent biedt met AI assist een functioneel herkenbare oplossing voor het screeningsprobleem bij grote sollicitantenaantallen. De gedeeltelijke toelichting op afgeleide skills is een stap in de richting van transparantie. Maar de kern van het probleem blijft: skills worden afgeleid uit cv-tekst zonder aantoonbare methodologische onderbouwing, kandidaten worden niet geïnformeerd over deze verwerking, en de juistheid van de gegenereerde gegevens is niet aangetoond. De claim dat bias wordt voorkomen staat zonder enige onderbouwing.
Voor werkgevers die AI assist inzetten is de juistheid van de gegenereerde gegevens niet aangetoond. In combinatie met het ontbreken van transparantie richting kandidaten is de inzet op dit moment niet verantwoordbaar onder de AVG — en vormt het een reëel risico voor de kwaliteit van de selectie.
Daarnaast valt de toepassing van AI assist in cv-screening naar alle waarschijnlijkheid onder de hoog-risico categorie van de EU AI Act, die recruitment en selectie expliciet benoemt als risicogebied. De verplichtingen die daaruit volgen (waaronder transparantie over de gebruikte methoden, een conformiteitsbeoordeling en logging van besluiten) zijn op basis van publiek beschikbare informatie niet aantoonbaar ingevuld. Ook op dat vlak is er voor Tellent nog een flinke weg te gaan.
