Avant de devenir AI lead, AI translator et Innovation Consultant pour Sparkle, Elena Nuñez Castellar occupait le poste d'AI innovation manager au centre R&D imec (hub R&D flamand indépendant pour les nanotechnologies et les technologies numériques). Son dévouement à l'innovation et aux approches interdisciplinaires se reflète dans sa vision globale de l'AI. Dans cette interview, Elena évoque l'AI Act de l'UE, l'importance d'un Ethics Board et ce qui distingue l'approche de Sparkle en matière d'AI.
Pouvez-vous donner un bref aperçu de l'AI Act de l'UE ? Quel est son objectif ?
Avant de pouvoir répondre à cette question, je dois prendre du recul et explorer les origines de l'AI Act de l'UE. Avant qu'il n'existe le moindre cadre réglementaire, des discussions ont eu lieu sur le potentiel de l'AI d'une part et les menaces posées par l'AI d'autre part. En 2018, la Commission européenne a créé le Artificial Intelligence High-Level Expert Group (AI HLEG), qui a publié le livre blanc influent : ‘A definition of AI: main capabilities and disciplines. Dans ce livre blanc, le groupe a proposé une définition pour guider l'élaboration de lignes directrices éthiques et de recommandations politiques en matière d'AI. En outre, en 2019, le groupe d'experts a présenté ses Ethics guidelines for trustworthy AI.
Ces Ethics guidelines exposent les exigences clés que les systèmes d'IA doivent respecter pour être considérés comme dignes de confiance. En tant que lignes directrices, elles n'entraînent toutefois pas de conséquences juridiques en cas de non-respect. Elles fonctionnent davantage comme un code de conduite. Ainsi, en 2019, la Commission européenne a franchi une étape en introduisant une législation qui s'applique à toute organisation ou entreprise qui met en service des outils d'IA au sein de l'Union européenne, avec des amendes en cas de non-conformité.
Ainsi, en 2021, pour garantir un développement et un déploiement sûrs, responsables et fiables de l'AI, la Commission européenne a proposé le premier cadre réglementaire de l'UE pour l'AI en Europe : l' AI Act. Ce cadre en est actuellement à la phase finale de la procédure législative européenne, et son entrée en vigueur est attendue début 2024. Bien entendu, une période de transition sera prévue pour laisser aux organisations suffisamment de temps pour se conformer.
Quel impact l'AI Act aura-t-il sur les organisations ?
Toute organisation qui propose des produits ou services liés à l'AI sur le marché de l'UE, quel que soit le lieu de son siège, doit garantir la conformité à l'AI Act de l'UE. Les amendes en cas de non-conformité sont substantielles, dépassant celles prévues par le GDPR (General Data Protection Regulation). C'est important de noter que l'AI Act de l'UE impose des obligations non seulement aux fournisseurs de systèmes d'IA, mais aussi aux utilisateurs et aux tiers, comme les distributeurs.
L'AI Act classe également les systèmes d'IA selon leur niveau de risque, différentes règles et réglementations s'appliquant en fonction du niveau de risque. En outre, certaines activités sont expressément interdites si un système d'IA présente un risque inacceptable pour la sécurité ou les droits fondamentaux des individus. Par exemple, la manipulation du comportement humain, l'exploitation de personnes vulnérables ou le social scoring pour des décisions d'emploi sont interdits.
Pourquoi un Ethics Board est-il crucial pour les organisations qui travaillent avec l'AI ?
Souvent, la direction d'une organisation se concentre surtout sur les avantages de l'AI par rapport aux capacités métier. Cependant, il est essentiel de reconnaître que l'AI comporte aussi des risques. Un Ethics Board joue un rôle essentiel pour réfléchir à ces risques, identifier les responsabilités de l'organisation et aborder d'autres points cruciaux. Les exigences pour une AI digne de confiance définies par l'Artificial Intelligence High-Level Expert Group servent de ligne directrice importante dans ces discussions. Par exemple, en ce qui concerne lag transparence, il est important que les gens soient conscients lorsqu' ils interagissent avec un chatbot. En outre, l'Ethics Board doit veiller à ce que les systèmes d'IA ne compromettent pas la diversité, la non-discrimination et l'équité. Par exemple, en raison de données d'entraînement insuffisantes, les modèles d'IA peuvent amplifier les biais humains et présenter un risque pour les minorités.
Qui devrait être impliqué dans un Ethics Board ?
La pratique d'avoir un Ethics Board est encore relativement récente. Lorsque le VDAB (Vlaamse Dienst voor Arbeidsbemiddeling en Beroepsopleiding) a lancé son Ethics Board en 2022 pour superviser son utilisation de l'AI, il est devenu la première organisation en Belgique à initier un tel effort. Nous avons participé à leur initiative, et si vous examinez son Ethics Board, vous verrez que la moitié de ses membres sont des représentants internes, tandis que l'autre moitié vient de l'extérieur de l'organisation. Les membres internes réunissent une combinaison d'expertise métier et technique expertise technique, tandis que les membres externes se composentd'individus issus de domaines tels que le monde des affaires, l'industrie, le droit et l'éthique, avec des profils tant académiques qu'industriels. C'est crucial d'avoir ce mélange diversifié et interdisciplinaire de profils pour aborder de manière exhaustive les questions éthiques entourant l'AI.
Comment un Ethics Board influence-t-il la prise de décision dans une organisation ?
Cela dépend du mandat que l'organisation confie à l'Ethics Board. Dans de nombreux cas, un Ethics Board examinera une question donnée, explorera les options possibles et parviendra à un consensus sur l'avis à fournir. Il ests lesaux mécanismes de gouvernance établis au sein de l'organisation, comme le conseil d'administration, de déterminer lesactions à prendre sur la base de cet avis. Il ests importantde noter que le rôle d'un Ethics Board est d'informer, et non de prendre les décisions finales.
Existe-t-il des outils pour aider les organisations à évaluer leurs systèmes d'IA ?
Oui, il existe plusieurs outils. Un outil particulièrement remarquable est capAI, développé par des chercheurs de l'University of Oxford pour fournir une évaluation indépendante, comparable, quantifiable et responsable des systèmes d'IA conforme à la réglementation proposée de l'AI Act de l'UE. De nombreux autres outils, créés uniquement par des éthiciens, offrent des conseils rigides sans tenir compte de la complexité des questions. CapAI , en revanche, se distingue par une équipe interdisciplinaire derrière lui. En conséquence, il maintient une approche équilibrée qui tient compte des aspects éthiques, techniques et commerciaux .. C'est un outil pragmatique développé en collaboration avec des business schools, et il est expliqué en et en langage clair pour des individus ayant différents niveaux d'expertise technique..
Lors de la conception d'un système d'IA, il est aussi essentiel de poser des questions à chaque étape de son cycle de vie. Il y a cinq étapes clés dans le cycle de vie d'un sont : conception, développement, évaluation, exploitation et retrait. CapAI garantit le respect des principes énoncés dans l'AI Act tout au long de chacune de ces étapes, en intégrant les contributions de toutes les parties prenantes, dont le business owner, le technical lead et les utilisateurs finaux.
Comment Sparkle peut-elle aider les entreprises avec leurs systèmes d'IA, et qu'est-ce qui la distingue ?
Sparkle propose un EU AI Act (AIA) readiness track qui guide votre organisation pour atteindre la conformité de vos systèmes d'IA. Nous analysons les risques associés et déterminons vos obligations sur la base des systèmes d'IA de votre portefeuille. Nous fournissons également un rapport final comprenant des recommandations. Cela inclut des considérations techniques, comme les logs que vous devez conserver, car les organisations restent rresponsablesdu monitoring post-log une fois que les outils d'IA sont ne sont déployés..
Notre approche se démarque par notre approche pragmatique et de bout en bout de l' AI. Nous croyons fermement en une approche interdisciplinaire. Nous combinons notre expertise technique en data et AI avec une compréhension approfondie de l'AI Act de l'UE et une solide expérience en gestion de l'innovation. Ce dernier point est particulièrement important dans ce domaine. Beaucoup de gens supposent à tort que l'AI Act de l'UE va ralentir l'innovation en AI. Cette idée fausse découle toutefois du fait de considérer l'AI Act uniquement sous un angle juridique, en lepercevant comme un ensemble de restrictions. Chez Sparkle, nous nous efforçons de développer des solutions d'IA alignées sur le cycle d'innovation, de l'expérimentation initiale à la production et au déploiement. En tant qu'AI translators, nous sommes en mesure de construire des ponts entre les différentes parties prenantes, en traduisant les besoins métier en solutions d'IA concrètes.
Curieux de l'impact de l'AI Act sur votre entreprise ? Contactez-nous ou contactez directement Koen Mathijs (notre EU AI Act Manager) pour en savoir plus.
À PROPOS DE L'INTERVIEWEUR
Jens Meijen
Consultant chez Sparkle & doctorant à la KU Leuven