EU AI Act: verordening artificiële intelligentie (EU 2024/1689)

De EU AI Act is het eerste alomvattende juridische kader ter wereld dat artificiële intelligentie reguleert. De verordening, aangenomen in 2024, hanteert een risicogebaseerde aanpak en deelt AI-systemen in vier risicocategorieën in: onaanvaardbaar risico (verboden), hoog risico (streng gereguleerd), beperkt risico (transparantieverplichtingen) en minimaal risico (grotendeels ongereguleerd). Ze geldt voor aanbieders, gebruiksverantwoordelijken, importeurs en distributeurs van AI-systemen die in de EU in de handel worden gebracht of waarvan de output in de EU wordt gebruikt. Ze legt verplichte eisen op aan AI-systemen met een hoog risico, waaronder risicobeheer, datagovernance, technische documentatie, transparantie, menselijk toezicht en normen voor nauwkeurigheid en robuustheid. De verordening regelt ook AI-modellen voor algemene doeleinden, waaronder basismodellen en generatieve AI, met specifieke verplichtingen voor modellen met systeemrisico.

1. Aanbieders van AI-systemen die AI-systemen ontwikkelen of laten ontwikkelen om in de EU in de handel te brengen, ongeacht of zij in de EU gevestigd zijn.
2. Gebruiksverantwoordelijken van AI-systemen in de EU, waaronder bedrijven en overheidsinstanties die AI-systemen in hun activiteiten inzetten.
3. Aanbieders van AI-modellen voor algemene doeleinden, waaronder basismodellen en grote taalmodellen, met strengere verplichtingen voor modellen met systeemrisico's.
4. Importeurs en distributeurs van AI-systemen op de EU-markt, die de naleving moeten waarborgen voordat zij systemen beschikbaar stellen.

1. 01

   Risicoclassificatie

   Organisaties moeten hun AI-systemen indelen volgens de risicocategorieën van de verordening. AI-systemen met een hoog risico zijn onder meer systemen die worden gebruikt in kritieke infrastructuur, onderwijs, werkgelegenheid, rechtshandhaving, migratie en rechtsbedeling.

2. 02

   Systeem voor risicobeheer

   Aanbieders van AI met een hoog risico moeten gedurende de hele levenscyclus van het AI-systeem een doorlopend systeem voor risicobeheer toepassen: risico's identificeren, analyseren, inschatten en evalueren, en passende beperkende maatregelen nemen.

3. 03

   Datagovernance

   Datasets voor training, validatie en tests van AI met een hoog risico moeten voldoen aan kwaliteitscriteria zoals relevantie, representativiteit, foutloosheid en volledigheid, met specifieke bepalingen voor het opsporen en beperken van vertekeningen.

4. 04

   Transparantie en menselijk toezicht

   AI-systemen met een hoog risico moeten zo worden ontworpen dat effectief menselijk toezicht mogelijk is en moeten duidelijke gebruiksinstructies bieden. In bepaalde contexten moeten gebruikers worden geïnformeerd dat zij met een AI-systeem communiceren.

5. 05

   Technische documentatie

   Aanbieders van AI-systemen met een hoog risico moeten uitgebreide technische documentatie opstellen die de naleving aantoont, waaronder systeemarchitectuur, ontwikkelmethode, trainingsprocedures en testresultaten.

6. 06

   Conformiteitsbeoordeling

   AI-systemen met een hoog risico moeten een conformiteitsbeoordeling ondergaan voordat ze in de handel worden gebracht; voor sommige categorieën is een beoordeling door aangemelde instanties vereist.

De EU AI Act kent een gelaagde sanctiestructuur. Overtredingen in verband met verboden AI-praktijken kunnen leiden tot boetes tot 35 miljoen euro of 7% van de wereldwijde jaaromzet. Niet-naleving van de verplichtingen voor AI met een hoog risico kan leiden tot boetes tot 15 miljoen euro of 3% van de wereldwijde omzet. Het verstrekken van onjuiste of misleidende informatie aan autoriteiten kan leiden tot boetes tot 7,5 miljoen euro of 1% van de wereldwijde omzet. Voor kmo's en startups gelden evenredige sanctieplafonds. Lidstaten moeten ook regels vaststellen voor sancties bij andere inbreuken en zorgen voor doeltreffende, evenredige en afschrikkende handhavingsmechanismen.

1. jul. 2024

   De AI Act wordt op 12 juli 2024 bekendgemaakt in het Publicatieblad; in werking sinds 1 augustus 2024.

2. feb. 2025

   De verboden op AI-praktijken met een onaanvaardbaar risico worden van toepassing.

3. aug. 2025

   De regels voor AI-modellen voor algemene doeleinden worden van toepassing.

4. jul. 2026

   De digitale omnibus inzake AI (Verordening (EU) 2026/1744) wordt vastgesteld en verschuift de termijnen voor hoog risico.

5. aug. 2026

   Algemene toepassing van de verordening, inclusief de transparantieregels van artikel 50.

6. dec. 2026

   Nieuwe verboden gelden voor AI die intieme beelden zonder toestemming of materiaal van seksueel kindermisbruik genereert.

7. dec. 2027

   De verplichtingen voor hoog risico gelden voor systemen uit bijlage III.

8. aug. 2028

   De verplichtingen voor hoog risico gelden voor producten uit bijlage I.