Voor ze AI lead, AI-translator en Innovation Consultant voor Sparkle werd, bekleedde Elena Nuñez Castellar de functie van AI innovation manager bij R&D-centrum imec (onafhankelijke Vlaamse R&D-hub voor nano- en digitale technologie). Haar toewijding aan innovatie en interdisciplinaire benaderingen weerspiegelt zich in haar algemene kijk op AI. In dit interview bespreekt Elena de EU AI Act, het belang van een Ethics Board en wat de aanpak van Sparkle op het vlak van AI onderscheidt.
Kun je een kort overzicht geven van de EU AI Act? Wat is het doel ervan?
Voor ik deze vraag kan beantwoorden, moet ik een stap terugzetten en ingaan op de oorsprong van de EU AI Act. Voor er enig regelgevend kader was, werden er discussies gevoerd over enerzijds het potentieel van AI en anderzijds de dreigingen die AI met zich meebrengt. In 2018 richtte de Europese Commissie de Artificial Intelligence High-Level Expert Group (AI HLEG) op, die de invloedrijke white paper publiceerde: ‘A definition of AI: main capabilities and disciplines. In deze white paper stelde de groep een definitie voor om de ontwikkeling van AI-ethiekrichtlijnen en beleidsaanbevelingen te sturen. Daarnaast presenteerde de expertgroep in 2019 haar Ethics guidelines for trustworthy AI.
Deze Ethics guidelines schetsen de belangrijkste vereisten waaraan AI-systemen moeten voldoen om als betrouwbaar te worden beschouwd. Als richtlijnen hebben ze echter geen juridische gevolgen bij niet-naleving. Ze functioneren eerder als een gedragscode. Zo zette de Europese Commissie in 2019 een stap voorwaarts met het invoeren van wetgeving die van toepassing is op elke organisatie of elk bedrijf dat AI-tools in gebruik neemt binnen de Europese Unie, inclusief boetes bij niet-naleving.
Zo stelde de Europese Commissie in 2021, om de veilige, verantwoorde en betrouwbare ontwikkeling en uitrol van AI te garanderen, het eerste EU-regelgevende kader voor AI in Europa voor: de AI Act. Dit kader bevindt zich momenteel in de laatste fase van de Europese wetgevingsprocedure en de inwerkingtreding wordt begin 2024 verwacht. Uiteraard wordt er een overgangsperiode voorzien om organisaties voldoende tijd te geven om zich in regel te stellen.
Welke impact zal de AI Act hebben op organisaties?
Elke organisatie die AI-gerelateerde producten of diensten aanbiedt op de EU-markt, ongeacht de locatie van haar hoofdzetel, moet compliance met de EU AI Act garanderen. De boetes bij niet-naleving zijn aanzienlijk, en overtreffen die welke door de GDPR (General Data Protection Regulation) zijn bepaald. Het is belangrijk om op te merken dat de EU AI Act niet alleen verplichtingen oplegt aan aanbieders van AI-systemen, maar ook aan gebruikers en derden, zoals distributeurs.
De AI Act classificeert AI-systemen ook volgens hun risiconiveau, waarbij verschillende regels en voorschriften gelden afhankelijk van het risiconiveau. Bovendien zijn bepaalde activiteiten uitdrukkelijk verboden als een AI-systeem een onaanvaardbaar risico vormt voor de veiligheid of de grondrechten van individuen. Zo zijn de manipulatie van menselijk gedrag, de uitbuiting van kwetsbare individuen of social scoring voor tewerkstellingsbeslissingen verboden.
Waarom is een Ethics Board cruciaal voor organisaties die met AI werken?
Vaak richt het management van een organisatie zich vooral op de voordelen van AI in relatie tot de bedrijfsmogelijkheden. Toch is het essentieel om te erkennen dat AI ook risico's met zich meebrengt. Een Ethics Board speelt een cruciale rol bij het reflecteren over deze risico's, het identificeren van de verantwoordelijkheden die de organisatie heeft, en het aanpakken van andere cruciale punten. De vereisten voor betrouwbare AI die de Artificial Intelligence High-Level Expert Group heeft opgesteld, dienen als een belangrijke richtlijn in deze discussies. Zo is het bijvoorbeeld, watg transparantie betreft, is het dat mensen zich ervan bewust zijn wanneer ze interageren met een chatbot. Daarnaast moet de Ethics Board ervoor zorgen dat AI-systemen geen afbreuk doen aan diversiteit, non-discriminatie en eerlijkheid. Zo kunnen AI-modellen door onvoldoende trainingsdatamenselijke bias versterken en een risico vormen voor minderheden.
Wie zou betrokken moeten zijn bij een Ethics Board?
De praktijk om een Ethics Board te hebben is nog relatief nieuw. Toen de VDAB (Vlaamse Dienst voor Arbeidsbemiddeling en Beroepsopleiding) in 2022 haar Ethics Board lanceerde om toezicht te houden op haar gebruik van AI, werd ze de eerste organisatie in België die zo'n initiatief opstartte. We waren betrokken bij hun initiatief, en als je hun Ethics Board bekijkt, zul je zien dat de helft van de leden interne vertegenwoordigers zijn, terwijl de andere helft van buiten de organisatie komt. De interne leden omvatten een combinatie van business- en technische expertise, terwijl de externe leden bestaan uitindividuen uit domeinen zoals business, industrie, recht en ethiek, met zowel academische als industriële achtergronden. Het is cruciaal om deze diverse en interdisciplinaire mix van profielen te hebben om de ethische kwesties rond AI grondig aan te pakken.
Hoe beïnvloedt een Ethics Board de besluitvorming in een organisatie?
Dat hangt af van het mandaat dat de organisatie aan de Ethics Board geeft. In veel gevallen zal een Ethics Board een bepaald vraagstuk onderzoeken, mogelijke opties verkennen en tot een consensus komen over het te geven advies. Het iss op basis van dit adviesaan de gevestigde governancemechanismen binnen de organisatie, zoals de raad van bestuur, om deacties op basis van dit advieste bepalen. Het iss belangrijkom op te merken dat de rol van een Ethics Board is om te informeren, niet om finale beslissingen te nemen.
Zijn er tools beschikbaar om organisaties te helpen bij het evalueren van hun AI-systemen?
Ja, er zijn verschillende tools beschikbaar. Een bijzonder opmerkelijke tool is capAI, ontwikkeld door onderzoekers aan de University of Oxford om een onafhankelijke, vergelijkbare, kwantificeerbare en verantwoorde beoordeling van AI-systemen te bieden die in overeenstemming is met de voorgestelde EU AI Act-regelgeving. Veel andere tools, uitsluitend gecreëerd door ethici, bieden rigide advies zonder rekening te houden met de complexiteit van de vraagstukken. CapAI onderscheidt zich echter door een interdisciplinair team erachter. Daardoor hanteert het een evenwichtige aanpak die rekening houdt met ethische, technische en zakelijke aspecten. Het is een pragmatische tool ontwikkeld in samenwerking met business schools, en is het uitgelegd in en het eenvoudige taal voor individuen met uiteenlopende niveaus van technische expertise..
Bij het ontwerpen van een AI-systeem is het ook essentieel om bij elke fase van de levenscyclus vragen te stellen. Er zijn vijf belangrijke fasen in de levenscyclus van een AI- tools : ontwerp, ontwikkeling, evaluatie, operationele werking en buitengebruikstelling. CapAI zorgt voor de naleving van de principes die zijn vastgelegd in de AI Act doorheen elk van deze fasen, met input van alle stakeholders, waaronder de business owner, de technical lead en eindgebruikers.
Hoe kan Sparkle bedrijven met AI-systemen bijstaan, en wat onderscheidt hen?
Sparkle biedt een EU AI Act (AIA) readiness track die je organisatie begeleidt om compliance met je AI-systemen te bereiken. We analyseren de bijbehorende risico's en bepalen je verplichtingen op basis van de AI-systemen in je portfolio. We leveren ook een eindrapport met aanbevelingen. Dit omvat technische overwegingen, zoals welke logs je moet bewaren, want organisaties blijven rverantwoordelijkvoor post-log monitoring zodra AI- tools zijn zijnuitgerold..
Onze aanpak springt eruit door onze pragmatische en end-to-end aanpak van AI. We geloven sterk in een interdisciplinaire aanpak. We combineren onze technische expertise in data en AI met een grondig begrip van de EU AI Act en aanzienlijke ervaring in innovatiemanagement. Dat laatste is bijzonder belangrijk in dit domein. Veel mensen nemen ten onrechte aan dat de EU AI Act innovatie in AI zal vertragen. Deze misvatting komt echter voort uit het bekijken van de AI Act louter vanuit een juridisch perspectief, waarbij men hetals een reeks beperkingen ziet. Bij Sparkle streven we ernaar AI-oplossingen te ontwikkelen die aansluiten bij de innovatiecyclus, van initiële experimentatie tot productie en uitrol. Als AI-translators kunnen we bruggen bouwen tussen verschillende stakeholders en businessnoden vertalen naar praktische AI-oplossingen.
Benieuwd naar de impact van de AI Act op je business? Contacteer ons of neem rechtstreeks contact op met Koen Mathijs (onze EU AI Act Manager) om meer te weten te komen.
OVER DE INTERVIEWER
Jens Meijen
Consultant bij Sparkle & doctorandus aan de KU Leuven