De Europese Unie heeft een grote stap gezet in de regulering van kunstmatige intelligentie (AI) met de invoering van de Europese AI-wet. Deze wet, die in maart 2024 is aangenomen, is de eerste Europese regelgeving die een gemeenschappelijk kader geeft voor het gebruik en de levering van AI-systemen binnen de EU.
Wat houdt de AI-wet in?
De Europese AI-wet introduceert verschillende belangrijke maatregelen, met als doel om de verantwoorde ontwikkeling en inzet van AI-technologieën te borgen. Dit zijn de belangrijkste kernpunten:
- Definitie van een AI-systeem:
De wet definieert AI-systemen als systemen die zijn ontwikkeld door middel van machine learning, een op logica en kennis gebaseerde benaderingen of statistische algoritmes. Dit geeft een brede definitie van systemen die probabilistisch in hun aard zijn, in contrast tot software systemen die deterministisch zijn. In simpele woorden: bij AI ligt de uitkomst niet vast op basis van de input en het geïmplementeerde algoritme terwijl dit bij klassieke softwaremodellen wel het geval is.
- Verboden AI-praktijken:
- AI mag niet gebruikt worden voor de beoordeling van burgers (“social scoring”). Dit verbod geldt zowel voor overheidsinstellingen als commerciële organisaties.
- AI mag er nooit toe leiden dat kwetsbaarheden van een specifieke groep personen uitgebuit kunnen worden. Denk hierbij aan personen die kwetsbaar zijn vanwege hun sociale of economische status.
- “Real-time” biometrische systemen voor identificatie op afstand in openbare ruimten door rechtshandhaving instanties zijn alleen toegestaan als ze strikt noodzakelijk zijn en met uitzonderingstoestemming.
- Classificatie van AI-systemen:
AI-systemen worden geclassificeerd op basis van risico:
- Systemen met ‘onaanvaardbare’ risico’s zijn verboden.
- Hoog-risico AI systemen moeten voldoen aan strikte vereisten en worden beoordeeld op hun effecten op grondrechten voordat ze in gebruik genomen mogen worden.
- AI-systemen voor algemene doeleinden met een hoge impact moeten voldoen aan de regels zoals in de wetgeving afgesproken.
- Handhaving en straffen:
De wet voorziet in handhavingsbevoegdheden op EU-niveau om ervoor te zorgen dat organisaties zich aan de regels houden. Overtredingen kunnen leiden tot boetes en andere sancties.
Impact op organisaties
Organisaties zullen moeten voldoen aan de nieuwe regels die de veiligheid, transparantie en verantwoordelijkheid van AI-systemen waarborgen. Dit zal in veel gevallen leiden tot een herziening van bestaande AI-systemen en mogelijk tot investeringen in nieuwe technologieën om aan de normen te voldoen. De wet beoogt ook het AI-investeringsklimaat te bevorderen en een geharmoniseerde EU-markt voor AI te stimuleren.
Wanneer wordt de wet actief?
De AI-wet zal waarschijnlijk in de eerste helft van 2026 volledig van kracht worden. Organisaties hebben dus tijd om hun systemen en processen aan te passen.
Onze conclusie?
Deze Europese wet is een belangrijke stap in het waarborgen van een ethische en veilige ontwikkeling van AI-technologieën, die zowel de belangen van consumenten als de mogelijkheden tot innovatie in de EU beschermt.
