Handig: interactieve tool voor de nieuwe AI Wetgeving van de EU

Vorige maand stemde het Europees Parlement in met de komst van de EU AI Act. Eerder gaven de verschillende lidstaten al groen licht voor de wet. Deze verordening moet zorgen voor duidelijkheid over wat wel en niet is toegestaan bij de ontwikkeling, het in de handel brengen, het in gebruik stellen en het gebruik van artificiële-intelligentiesystemen (AI-systemen) in de Europese Unie.

Bijzonder aan de AI Act is dat klassieke software nadrukkelijk niet onder de scope van de wet valt en dat artificiële intelligentie met een laag risico ‘ongemoeid’ blijft, stelde René Corbijn, Hoofd Beleid van belangenvereniging NLDigital, tegenover Computable. “Dit is gunstig omdat veel AI-systemen niet high risk zijn.”

AI-systemen voor het selecteren van kandidaten bij wervingsprocessen zijn daarentegen een voorbeeld van hoogrisicosystemen. Deze praktijken en systemen moeten aan strikte criteria voldoen voordat ze op de markt gebracht mogen worden. 

Veel bedrijven niet goed voorbereid op de AI Act

Uit een onderzoek van de Hogeschool van Amsterdam blijkt dat Nederlandse bedrijven gemiddeld aan slechts 56% van alle verplichtingen voldoen die de AI Act stelt. Daarnaast blijkt dat ongeveer 60% van de ondervraagde organisaties de eisen van de nieuwe wetgeving onderschat. Vooral kleinere organisaties voldoen minder vaak aan de regels van de AI Act.

Eenvoudige compliance tool

Met de introductie van de AI Act, moeten ook veel HR software ontwikkelaars en -afnemers mogelijk aan nieuwe verplichtingen voldoen. Om door de bomen het bos nog te kunnen zien, heeft non-profitorganisatie Future of Life Institute (FLI) een eenvoudige tool samengesteld. Daarmee kunnen organisaties checken welke nieuwe wet- en regelgeving over AI in hun geval van toepassing is. 

Zo zijn bijvoorbeeld functies van emotieherkenning onder de nieuwe AI Act niet meer toegestaan voor HR- en recruitmentdoeleinden. 

Zo leest artikel 5 uit de AI Act: “(dc) the placing on the market, putting into service for this specific purpose, or use of AI systems to infer emotions of a natural person in the areas of workplace and education institutions except in cases where the use of the AI system is intended to be put in place or into the market for medical or safety reasons;” 

En als je invult:

Gevolgd door:

Leert de tool, onder andere, dat:

Providers must submit notification to NCA

If a provider considers their AI system to not pose a significant risk (see Article 6 point 2a) they must register their system in the EU database before that system is placed on the market or put into service (see Article 51 point 1a).

Transparency obligations: Natural persons

You need to follow these transparency obligations under Article 52:

• The AI system, the provider or the user must inform any person exposed to the system in a timely, clear manner when interacting with an AI system, unless obvious from context.
• Where appropriate and relevant include information on which functions are AI enabled, if there is human oversight, who is responsible for decision-making, and what the rights to object and seek redress are.

Gebruiksvriendelijk overzicht van de wet

Ook heeft ILF een landingspagina gemaakt voor de wet zelf. Vanuit deze pagina is het gebruiksvriendelijk gemaakt om door de wet zelf te zoeken. Het is verstandig deze pagina op te slaan: de EU AI Act vormt de basis voor alle toekomstige wetgeving over AI. 

De tool is hier te vinden. 

Lees ook: 

Afgewezen door algoritme in recruitmentsoftware? College voor Rechten van de Mens verzamelt klachten sollicitanten

Gevaar van AI, het is krachtig als een kernbom