Organisaties die AI-systemen gebruiken, moeten ervoor zorgen dat het personeel ‘AI-geletterd’ is. Dat staat in de AI-Verordening (ook wel AI-Act genoemd).
Wat houden de verplichtingen van de AI-verordening in voor werkgevers? Wij beantwoorden acht veelgestelde vragen.
Wat is AI-geletterdheid?
AI-geletterdheid is een verzamelnaam voor kennis en kunde over Artificiële Intelligentie (AI). In de AI-verordening is dit omschreven als: ‘Vaardigheden, kennis en begrip die aanbieders, exploitanten en getroffen personen in staat stellen om, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, met kennis van zaken AI-systemen uit te rollen en zich bewust te worden van de kansen en risico’s van AI en de mogelijke schade die deze kan veroorzaken.’
Welke verplichting geldt voor werkgevers rond AI-geletterdheid?
Organisaties die AI-systemen gebruiken en ontwikkelaars van AI-systemen moeten ervoor zorgen dat het personeel ‘AI-geletterd’ is. Dat staat in artikel 4 van de AI-verordening (ook wel de AI-Act genoemd). Deze verplichting is op 2 februari 2025 ingegaan.
Dit houdt in dat personeel dat met AI-systemen werkt de juiste vaardigheden, kennis en begrip hebben om AI-systemen op een verantwoorde manier in te zetten. Zo beperk je de eventuele impact van risico's die samenhangen met AI, terwijl je ook de kansen, die AI biedt, optimaal benut.
Denk bijvoorbeeld aan een docent die generatieve AI gebruikt voor het voorbereiden van lesmateriaal of een HR-manager die een profilerend (online) assessment gebruikt bij werving en selectie. Beiden moeten weten wat de risico’s zijn van zo’n AI-systeem en hoe je het op de juiste manier kunt gebruiken.
Welke maatregelen moeten werkgevers nemen om te zorgen dat personeel AI-geletterd is?
Artikel 4 van de AI-verordening is een inspanningsverplichting. Dit betekent dat bedrijven zich moeten inspannen om te zorgen dat personeel AI-geletterdheid is. Welke maatregelen organisaties precies moeten nemen om AI-geletterdheid bij hun personeel te bevorderen, staat niet in de AI-verordening. Dit is afhankelijk van de context waarin de organisaties de systemen inzetten. Welke maatregelen nodig zijn, hangt ook af van de (financiële) mogelijkheden die organisaties hebben.
Moet ik het niveau van AI-geletterdheid van werknemers meten?
In de AI-verordening staat geen verplichting om de kennis van AI van werknemers te meten. Er staat in dat werkgevers moeten zorgen voor een toereikend niveau van AI-geletterdheid, rekening houdend met de technische kennis, ervaring, opleiding en training van werknemers. Wat dit niveau is, verschilt per werknemer en werkgever.
Wat gebeurt er als blijkt dat mijn werknemers niet (voldoende) AI-geletterd zijn?
Artikel 4 van de AI-verordening is een inspanningsverplichting. Dit betekent dat bedrijven zich moeten inspannen om te zorgen dat personeel AI-geletterdheid is. De toezichts- en handhavingsregels zijn van toepassing vanaf 3 augustus 2026. De toezichthouder kan sancties en andere handhavingsmaatregelen opleggen om inbreuken op artikel 4 te bestraffen. Dit zal gebaseerd zijn op nationale wetgeving die uiterlijk op 2 augustus 2025 moet ingaan. Bij de handhaving van de AI-verordening moet elke sanctie evenredig zijn, dat wil zeggen: gebaseerd zijn op het individuele geval en rekening houden met factoren, zoals aard en ernst, en het opzettelijke en nalatige karakter van de inbreuk. Dit kan echter waarschijnlijker zijn als er bewijs is van een incident door gebrek aan passende opleiding en begeleiding van werknemers of andere personen.
Waar moet een opleidingsprogramma voor AI-geletterdheid minimaal aan voldoen?
In de AI-verordening staat niet wanneer personeel een voldoende niveau van AI-geletterdheid heeft. Werkgevers moeten wel minimaal zorgen dat er:
-
een algemeen begrip van AI is in de organisatie;
-
begrip is van de rol van hun organisatie (aanbieder of exploitant van AI-systemen);
-
kennis is van de risico's bij gebruik of levering van AI-systemen; en
-
een actieplan voor AI-geletterdheid is (op basis van de voorgaande analyse).
Wat is de tijdlijn van de AI-verordening?
De AI-verordening is op 1 augustus 2024 in werking getreden, met enkele uitzonderingen:
-
De verbodsbepalingen en verplichtingen inzake AI-geletterdheid zijn met ingang van 2 februari 2025 in werking getreden.
-
De governanceregels en de verplichtingen voor AI-modellen voor algemene doeleinden worden van toepassing op 2 augustus 2025.
-
De regels voor AI-systemen met een hoog risico – ingebed in gereguleerde producten – hebben een verlengde overgangsperiode tot 2 augustus 2027.
Valt het gebruik van systemen als ChatGPT onder de verplichting rond AI-geletterdheid?
Ja, organisaties moeten werknemers informeren over de specifieke risico's, bijvoorbeeld hallucinatie (het produceren van content die niet overeenkomt met de werkelijkheid).
