Toepassingsgebied en algemene doelstellingen van de AI Act
Met de AI Act wil de EU artificiële intelligentie (AI) en statistische modellen voor besluitvorming reguleren om betere voorwaarden te scheppen voor de ontwikkeling en het gebruik van deze innovatieve technologie. Hoewel AI veel voordelen kan bieden, schuilt er ook een gevaar in de ontwikkeling ervan. Zo kunnen een verkeerde interpretatie van of ongerechtvaardigd vertrouwen in de technologie ingrijpende gevolgen hebben voor gebruikers of burgers.
Om ervoor te zorgen dat AI op een veilige, verantwoorde en betrouwbare manier wordt ontwikkeld en ingezet, stelde de Europese Commissie in april 2021 het eerste EU-regelgevende kader voor AI in Europa voor: de AI Act. Dit moet ervoor zorgen dat opkomende risico's of negatieve gevolgen voor individuen of de maatschappij zoveel mogelijk worden geminimaliseerd. Om dat te doen,stelt dit framework voor dat AI-systemen geanalyseerd en gecategoriseerd moeten worden op basis van het risico dat ze voor gebruikers vormen. Verschillende risiconiveaus leiden tot verschillende gradaties van regelgeving.
De Europese wetgevingsprocedure is een lang en complex besluitvormingsproces. Voor de AI Act zitten we in de laatste fase van dit proces. De Europese Commissie wil de AI Act in werking laten treden met een uiterste deadline in februari 2024. Daarnaast heeft bijna elke Europese regelgeving een overgangsperiode nadat ze definitief is aangenomen, waardoor de markt tijd krijgt om zich in regel te stellen. Toch kunnen we nu al een goede inschatting maken van het kader van de AI Act en welke verplichtingen er hoogstwaarschijnlijk aankomen. Er is namelijk al veel informatie beschikbaar vanuit Europa en een groeiend aantal organisaties anticipeert er al op.
Locatie en marktaanwezigheid
De Europese AI Act geldt niet alleen voor bedrijven gevestigd in de EU. Als je AI-gerelateerde producten of diensten aanbiedt op de EU-markt, ongeacht waar je bedrijf zijn hoofdzetel heeft, moet je compliant zijn met de EU AI Act.
Compliance met risicocategorisatie
De AI Act categoriseert AI-systemen op basis van het risiconiveau dat ze vormen, en afhankelijk van deze categorisatie gelden er verschillende regels en voorschriften. Dit betekent dat voor elk AI-systeem het risico wordt beoordeeld en dat op basis daarvan bepaalde vereisten worden gesteld. Hier is een opdeling om te bepalen wanneer je onder de EU AI Act zou kunnen vallen:
- Onaanvaardbaar risico: Als je AI-systeem geacht wordt een onaanvaardbaar risico te vormen voor de veiligheid of de grondrechten van individuen, wordt het verboden onder de EU AI Act. Voorbeelden zijn systemen die menselijk gedrag manipuleren, kwetsbare individuen uitbuiten of social scoring door overheden mogelijk maken.
- Hoog risico: AI-systemen die significante gevolgen hebben voor de veiligheid van gebruikers of hun grondrechten worden geclassificeerd als hoog risico. Als je bedrijf actief is in sectoren zoals gezondheidszorg, transport of rechtshandhaving en je AI-systemen gebruikt, is de kans groot dat je onder deze categorie valt. Hoog-risicosystemen vereisen een conformiteitsbeoordeling voor ze op de markt mogen worden gebracht.
- Beperkt risico: AI-systemen met beperkte risico's zijn onderworpen aan transparantieverplichtingen. Als je AI-systeem bijvoorbeeld een chatbot is, moeten gebruikers zich ervan bewust zijn dat ze met een machine interageren. Hoewel deze systemen geen conformiteitsbeoordeling voor marktintroductie vereisen, is transparantie cruciaal.
- Minimaal risico: De meerderheid van de AI-systemen valt onder deze categorie. Als je AI-toepassing bijvoorbeeld een videogame of spamfilter is, wordt ze waarschijnlijk geclassificeerd als minimaal risico. Zulke systemen kunnen vrij opereren zonder specifieke wettelijke verplichtingen onder de EU AI Act.
Daarnaast legt de EU AI Act niet alleen verplichtingen op aan aanbieders, maar ook aan gebruikers en derden. Als je een distributeur, importeur of gebruiker van een AI-systeem bent, kun je specifieke verantwoordelijkheden hebben, zeker als het systeem als hoog risico is gecategoriseerd.
Continue monitoring: Het is essentieel om op te merken dat de categorisatie van een AI-systeem kan veranderen op basis van de toepassing en de mogelijke impact ervan. Regelmatige beoordelingen en op de hoogte blijven van de bepalingen van de EU AI Act zijn cruciaal.
Bias, transparantie en ethiek: de hoekstenen van de Europese AI Act
Bias:
- Definitie: Bias in AI verwijst naar systematische en oneerlijke discriminatie op basis van kenmerken van individuen, vaak een weerspiegeling van maatschappelijke vooroordelen.
- Standpunt van de Europese AI Act: De EU AI Act benadrukt het belang van non-discriminatie in AI-systemen. Ze erkent dat bevooroordeelde data kan leiden tot bevooroordeelde uitkomsten, die maatschappelijke ongelijkheden kunnen bestendigen. Daarom bepaalt de EU AI Act dat AI-systemen die in de EU worden gebruikt, ontwikkeld moeten worden met data die representatief en vrij van onterechte bias is.
- Gevolgen voor bedrijven: Bedrijven moeten ervoor zorgen dat de data die ze gebruiken om AI-modellen te trainen zorgvuldig wordt gecontroleerd op bias. Dit kan investeringen vereisen in data-auditing, bias detection-tools en diverse teams die meerdere perspectieven aan tafel kunnen brengen.
Transparantie:
- Definitie: Transparantie in AI betekent dat de werking en beslissingen van AI-systemen duidelijk en begrijpelijk zijn voor mensen.
- Standpunt van de Europese AI Act: De EU AI Act legt sterk de nadruk op transparantie en zorgt ervoor dat AI-systemen traceerbaar zijn en hun werking uitgelegd kan worden. Het is niet voldoende dat een AI-systeem een beslissing neemt; het moet ook kunnen verduidelijken hoe het tot die beslissing is gekomen.
- Gevolgen voor bedrijven: Bedrijven zullen AI-systemen moeten aannemen die explainability-features bieden. Dit kan betekenen dat je interpreteerbare modellen verkiest boven complexere, of dat je investeert in explainability-tools. Transparante AI-praktijken zorgen niet alleen voor compliance, maar bouwen ook vertrouwen op bij klanten en stakeholders.
Ethiek:
- Definitie: Ethiek in AI verwijst naar het waarborgen dat AI-systemen worden ontwikkeld en gebruikt op manieren die moreel juist zijn en de mensenrechten respecteren.
- Standpunt van de Europese AI Act: De EU AI Act onderstreept het ethische gebruik van AI en zorgt ervoor dat AI-systemen de privacy, waardigheid en rechten van gebruikers respecteren. Ze verbiedt AI-praktijken die als schadelijk of manipulatief worden beschouwd, zoals social scoring door overheden.
- Gevolgen voor bedrijven: Ethische overwegingen zouden vooraan moeten staan bij de adoptie van AI in bedrijven. Dit betekent ervoor zorgen dat AI-systemen worden gebruikt op manieren die aansluiten bij maatschappelijke waarden en normen. Bedrijven zouden zich ook moeten voorbereiden op ethische audits en kunnen overwegen om ethische commissies op te zetten of externe ethiekexperts te raadplegen.
Sancties bij niet-naleving
Rollen en verantwoordelijkheden
De Europese AI Act stelt een duidelijk kader vast voor de rollen en verantwoordelijkheden van de verschillende stakeholders in het AI-ecosysteem. Twee van de meest cruciale rollen in dit verband zijn die van de producent en de deployer. Deze rollen begrijpen is essentieel voor bedrijven om compliance en verantwoorde AI-praktijken te garanderen.
1. Producent:
De producent, vaak de developer of provider genoemd, is verantwoordelijk voor het creëren en leveren van het AI-systeem. Hun verantwoordelijkheden onder de Europese AI Act omvatten:
- Risicobeoordeling: Voor een AI-systeem op de markt wordt geïntroduceerd, moet de producent een grondige risicobeoordeling uitvoeren om het systeem te categoriseren op basis van de mogelijke impact op gebruikers en de maatschappij.
- Kwaliteitscontrole: Producenten moeten robuuste kwaliteitsmanagementsystemen implementeren, zodat de ontwikkeling en updates van het AI-systeem voldoen aan de normen van de EU AI Act.
- Transparantie: Producenten moeten duidelijke documentatie voorzien over het AI-systeem, inclusief het doel, de mogelijkheden, beperkingen en potentiële risico's. Deze documentatie zou makkelijk toegankelijk moeten zijn voor gebruikers en regelgevers.
- Continue monitoring: Zelfs na de uitrol worden producenten geacht de prestaties van hun AI-systemen op te volgen, zodat ze compliant blijven en eventuele problemen worden aangepakt.
2. Deployer:
De deployer, of gebruiker, is de entiteit die het AI-systeem integreert en gebruikt binnen een specifieke context of toepassing. Hun verantwoordelijkheden omvatten:
- Correct gebruik: Deployers moeten ervoor zorgen dat ze AI-systemen gebruiken zoals bedoeld door de producent en in overeenstemming met de meegeleverde documentatie.
- Feedbackloop: Deployers zouden feedback moeten geven aan producenten over de prestaties van het AI-systeem, zeker als er tijdens de werking afwijkingen of problemen optreden.
- Gebruikersbewustzijn: Als het AI-systeem rechtstreeks interageert met eindgebruikers, zijn deployers verantwoordelijk om die gebruikers te informeren dat ze met een AI interageren, om transparantie te garanderen.
- Naleving van lokale regelgeving: Deployers moeten op de hoogte zijn van lokale regelgeving en ervoor zorgen dat de uitrol van het AI-systeem in overeenstemming is met deze regels, zeker als ze verschillen van de bepalingen van de Europese AI Act.
Kortom, de Europese AI Act benadrukt de samenwerking tussen producenten en deployers en zorgt ervoor dat AI-systemen op een verantwoorde manier worden ontwikkeld, uitgerold en gebruikt. Beide rollen gaan gepaard met hun eigen verplichtingen, en die begrijpen is cruciaal voor bedrijven om compliant te blijven en vertrouwen op te bouwen in hun AI-gedreven oplossingen.
Benieuwd hoe de AI Act je business zal beïnvloeden? Nu is het moment om te handelen!
Sparkle biedt een EU AI Act (AIA) readiness track. Dit traject doorlopen stelt je organisatie en AI-systemen in staat om compliant te worden. Neem contact op om meer te weten te komen.
Een overzicht van Sparkle's EU AI Act Readiness track:
Hoe ziet de EU AI Act Readiness Track eruit:
- Awareness workshop: ontwikkel een gemeenschappelijk begrip over waar de EU AI Act om draait.
- Assessment van AI-projecten en -trajecten: krijg een overzicht van al je AI-oplossingen en statistische benaderingen die onder de EU AI Act vallen.
- Model risk framework: krijg een goed begrip van hoe je het model risk framework toepast.
- Conformiteitsbeoordeling: krijg een overzicht van de risicocategorieën voor al je AI-oplossingen en statistische benaderingen.
- Eindrapport en aanbevelingen: krijg duidelijke aanbevelingen en stappen die je moet nemen om compliant te worden met de EU AI Act.
Lees meer inThe EU AI Act FAQ guidevoor meer informatie over de act.
OVER DE AUTEUR
Jarne Swennen
Junior Business Analyst
Ontdek meer content op onze blog
Waarom we Sparkle heten
Vóór een goede beslissing komt een inzicht. Vóór een inzicht komt een spark. Het verhaal achter de naam op de deur.
Medallion-architectuur
Een gelaagd data-designpatroon dat ruwe data stap voor stap verfijnt tot schone, business-ready inzichten, via de lagen Bronze, Silver en Gold.
Budgetten horen nu thuis in je dataplatform
Planning in Fabric IQ is de nieuwste capaciteit van Microsoft, en het wijst op een echte verschuiving in hoe organisaties kunnen denken over de relatie tussen analytics en planning.
Sparkle maakt nu deel uit van de Estse Microsoft Fabric-gebruikersgroep
De Estonian Microsoft Fabric User Group is een plek waar mensen samenkomen om echte data-engineering- en architectuuruitdagingen aan te pakken met Microsoft Fabric.
Klantcase: Nabuminds migreert naar Microsoft Fabric-platform
De overstap van gefragmenteerde, tenant-gebaseerde BI naar een uniform platform leverde snellere inzichten, sterkere governance en toekomstklare analyticscapaciteiten op.
De puntjes verbinden: Neo4j graph intelligence in Microsoft Fabric
Microsoft Fabric verenigt data engineering, analytics en AI over het Microsoft-ecosysteem heen.
Maar veel businessproblemen zoals fraudedetectie, customer 360 en supply-chain-optimalisatie hangen niet af van afzonderlijke datapunten, maar van hoe die punten met elkaar verbonden zijn.
