Waarom explainable AI belangrijk is voor HR

Wat is explainable AI?

Explainable AI (XAI) gaat over het concept van het ontwerpen en ontwikkelen van AI-systemen en machine learning-modellen op een manier die mensen in staat stelt hun beslissingen, gedrag en voorspellingen te begrijpen en te interpreteren. Het doel van XAI is om AI-systemen transparanter en verantwoordelijker te maken. Op deze manier wordt het ‘black box’-probleem aangepakt, waarmee complexe machine learning-modellen vaak te kampen hebben.

Wanneer een machine-learning algoritme getraind is, zoekt het naar patronen in de verkregen gegevens (de trainingsgegevens) om vervolgens op basis van die patronen een voorspelling te doen over nieuwe gegevens. Wanneer zo’n algoritme wordt ingezet als HR-oplossing, dan wordt de voorspelling omgezet in een aanbeveling (iemand aannemen, promotie geven etc.). Explainable AI is een methode die wordt gebruikt om de voorspellingen die het algoritme gemaakt heeft te begrijpen en te interpreteren. 

Het belang van explainable AI binnen HR

Naast de ethische en juridische overwegingen die explainable AI belangrijk maken binnen HR, zijn er ook praktische redenen waarom het van belang is dat AI-oplossingen voor HR uitlegbaar zijn. 

Transparantie en vertrouwen 

Wanneer gebruikers begrijpen waarom een bepaalde aanbeveling wordt gedaan en zij zelf kunnen beslissen of zij het eens zijn met die aanbeveling, is de kans groter dat zij AI-oplossingen vertrouwen en implementeren.

Beperken van vooroordelen

Explainable AI geeft een beeld van de belangrijkste drijfveren van een bepaalde aanbeveling. Dit kan de vooroordelen die in het model ingebouwd zijn op basis van voorgaande patronen inzichtelijk maken. Daarmee kan het model aangepast worden om deze vooroordelen tegen te gaan. Gebruikers kunnen dan AI gebruiken om hun beslissing te maken, zonder dat hun eigen vooroordelen een rol spelen. HR-beslissingen, zoals recruitment, inhuren en promoties kunnen een grote impact hebben op het leven en de carrière van een persoon. XAI kan vooroordelen in AI-gestuurde HR-processen helpen identificeren en verminderen, waardoor beslissingen eerlijker zijn en er geen specifieke demografische groepen gediscrimineerd worden. 

Mogelijk maken van datagestuurde besluitvorming

Wanneer een gebruiker informatie heeft over waarom een bepaalde aanbeveling wordt gedaan, dan kan die informatie gebruikt worden voor datagestuurde besluitvorming en om effectieve interventies uit te voeren. Door te weten waarom iemand een hoog risico op vertrek heeft, krijgt de manager de mogelijkheid om iets te doen zodat het vertrek voorkomen wordt bijvoorbeeld. Een ander voorbeeld: weten waarom iemand aanbevolen wordt voor een rol of promotie geeft managers de ruimte om een betere afweging te maken tegenover de andere kandidaten. Hoewel AI HR-besluiten kan voorstellen, moeten mensen de uiteindelijke beslissingen nemen. Explainable AI helpt hen om betere beslissingen te maken.

Voortdurende verbetering 

Wanneer gebruikers via explainable AI observeren en leren van de manier waarop AI-modellen beslissingen maken, kunnen ze hun besluitvormingsproces in de loop van de tijd verbeteren door meer gegevens op te nemen, met minder afhankelijkheid van subjectieve factoren die vaak de beslissingen van belangrijke mensen 

Kortom, ervoor zorgen dat AI-oplossingen in HR geïmplementeerd worden, helpt om vooroordelen tegen te gaan en maakt datagestuurde besluitvorming mogelijk.

Dit artikel is een vertaling van het bericht Why is Explainable AI Important for HR? op de website van My HR Future.