13 april 2021
Ethische vraagstukken bij AI: zo ga je ermee om
Het sterk toenemende gebruik van kunstmatige intelligentie in het bedrijfsleven wordt gezien als een nieuwe revolutie. Toch moet er volgens HRTech analist John Sumser beter gekeken worden naar ethische vraagstukken. Samen met een startup probeerde hij de vooringenomenheid van AI aan te pakken.
Categorie: Cultuur
Geschreven door: HRTech Redactie
Photo by Possessed Photography on Unsplash
Sumser beschrijft in een artikel op HR Executive dat hij zich zorgen maakt over de ethiek, of juist het gebrek eraan, bij AI-toepassingen in de HR-wereld. Volgens Sumser moet er een onderscheid worden gemaakt tussen AI-toepassingen die direct met mensen te maken hebben, en meer materiële AI-toepassingen. Met name AI-toepassingen die te maken heeft met de rekrutering, beoordeling en ontwikkeling van werkenden zouden met argusogen bekeken moeten worden, mede vanwege de achtergrond van de ontwikkelaars van deze technologie.
Diversiteit bij ontwikkelaars ver te zoeken
Het zijn vaak hoogopgeleide blanke mannen die deze technologie, deze algoritmes en modellen hebben ontworpen. Algoritmes en modellen die werken op aannames en historische gegevens. En daar ligt volgens Sumser precies het pijnpunt: HR-tools zou moeten worden samengesteld op basis van een plaatje dat een beter beeld van de moderne wereld schetst. Geen beperkte perspectieven, maar een complete blik.
Een Ethisch AI advies comité
Als oplossing voor het probleem wordt de filosofie achter de startup Arena genoemd, waar Sumser in de ‘AI Ethics Advisory Board’ zit. Het is een bedrijf dat zich specialiseert in rekrutering, en daarbij gebruik maakt van machine learning om de kans te voorspellen dat een kandidaat zal gedijen in een specifiek bedrijf, divisie, afdeling of zelfs onder een bepaalde supervisor. Het achterliggende idee daarbij is dat talent op veel plaatsen te vinden is, maar kansen vaak niet. Arena Analytics probeert eerst talent te vinden en daarna hun kansen te wegen en te vergroten. Dat doen ze met een experimentele aanpak, die Sumser in zijn artikel uit te doeken doet.
Bij het ontwikkelen van de rekruteringstechnologie heeft het bedrijf een adviesraad in het leven geroepen, als klankbord voor de ontwerpers. Die adviesraad voert brede discussies over AI, de arbeidsmarkt, diversiteit en inclusie, en formeert op basis van die discussies adviezen die de ontwerpers gebruiken bij het ontwikkelen van hun producten.
De adviesraad is een team van twaalf mensen met een diverse achtergrond, zowel qua etnische achtergrond als professionele achtergrond. Sommigen hebben ervaring op het gebied van technologie, anderen werken met HR, anderen met AI, weer anderen in rekrutering. Het bedrijf gaat werk in een gefaseerd proces: eerst een jaar tijd om elkaar, het bedrijf en diens producten beter te leren kennen. Vervolgens een jaar waarbij wordt gekeken naar het ontwikkelen van nieuwe producten, en in het derde jaar neemt het bedrijf en diens adviesraad de opgedane ervaringen mee naar andere bedrijven en klanten.
Ethiek legt de echte waarden van de organisatie bloot
Op basis van de eerste bijeenkomsten geeft Sumser een inkijkje in de vraagstukken die komen kijken in het debat rondom ethiek. Een groot vraagstuk is de prioriteit van bepaalde waarden binnen een bedrijf. Wanneer twee concurrerende waarden prioriteit moeten krijgen, roept dit ethische vragen op. Ethiek gaat om de vraag "Wat is het juiste om te doen?" Ethiek is een kwestie van spreken over moraal, iets wat niet te meten is met data of in kosten-batenanalyses. Door de juiste vragen te stellen en middels debat met verschillende sectoren binnen een bedrijf naar antwoorden te zoeken, krijgt de ethiek achter technologie meer betekenis, waardoor de ethische waarde van het product stijgt. En dat is precies wat volgens Sumser zo belangrijk is als we kijken naar de toekomst van AI.
Dit artikel is 809 keer gelezen.