Champ d'application et objectifs généraux de l'AI Act
Avec l'AI Act, l'UE vise à réguler l'intelligence artificielle (AI) et les modèles statistiques de prise de décision afin de favoriser de meilleures conditions pour le développement et l'utilisation de cette technologie innovante. Bien que l'AI puisse offrir de nombreux avantages, son développement comporte aussi un danger. Par exemple, une mauvaise interprétation ou une confiance injustifiée dans la technologie peut avoir des conséquences importantes pour les utilisateurs ou les citoyens.
Pour garantir que l'AI soit développée et déployée de manière sûre, responsable et fiable, la Commission européenne a proposé en avril 2021 le premier cadre réglementaire de l'UE pour l'AI en Europe : l'AI Act. Cela doit garantir que les risques émergents ou les impacts négatifs sur les individus ou la société soient minimisés autant que possible. Pour ce faire,ce cadre propose que les systèmes d'IA soient analysés et catégorisés en fonction du risque qu'ils présentent pour les utilisateurs. Différents niveaux de risque entraîneront différents degrés de réglementation.
La procédure législative européenne est un processus de décision long et complexe. Pour l'AI Act, nous en sommes à la phase finale de ce processus. La Commission européenne vise à faire entrer en vigueur l'AI Act avec une échéance finale en février 2024. De plus, presque toute réglementation européenne prévoit une période de transition après son adoption définitive, laissant au marché le temps de se mettre en conformité. Nous pouvons néanmoins déjà faire une bonne estimation du cadre de l'AI Act et des obligations les plus probables à venir. En effet, beaucoup d'informations sont déjà disponibles au niveau européen et un nombre croissant d'organisations anticipent déjà.
Localisation et présence sur le marché
L'AI Act européen ne s'applique pas uniquement aux entreprises basées dans l'UE. Si vous proposez des produits ou services liés à l'AI sur le marché de l'UE, quel que soit le siège de votre entreprise, vous devez être en conformité avec l'AI Act de l'UE.
Conformité à la catégorisation des risques
L'AI Act catégorise les systèmes d'IA en fonction du niveau de risque qu'ils présentent, et selon cette catégorisation, différentes règles et réglementations s'appliquent. Cela signifie que pour chaque système d'IA, le risque est évalué et certaines exigences sont fixées sur cette base. Voici un aperçu pour aider à déterminer quand vous pourriez être soumis à l'AI Act de l'UE :
- Risque inacceptable: Si votre système d'IA est considéré comme présentant un risque inacceptable pour la sécurité ou les droits fondamentaux des individus, il sera interdit par l'AI Act de l'UE. Les exemples incluent les systèmes qui manipulent le comportement humain, exploitent des personnes vulnérables ou permettent le social scoring par les gouvernements.
- Risque élevé: Les systèmes d'IA qui ont des implications importantes pour la sécurité des utilisateurs ou leurs droits fondamentaux sont classés comme à risque élevé. Si votre entreprise opère dans des secteurs comme la santé, le transport ou l'application de la loi et que vous utilisez des systèmes d'IA, il y a de fortes chances que vous releviez de cette catégorie. Les systèmes à haut risque nécessitent une évaluation de conformité avant de pouvoir être mis sur le marché.
- Risque limité: Les systèmes d'IA présentant des risques limités sont soumis à des obligations de transparence. Par exemple, si votre système d'IA est un chatbot, les utilisateurs doivent être conscients qu'ils interagissent avec une machine. Bien que ces systèmes ne nécessitent pas d'évaluation de conformité avant la mise sur le marché, la transparence est cruciale.
- Risque minimal: La majorité des systèmes d'IA relèvent de cette catégorie. Si votre application d'IA est par exemple un jeu vidéo ou un filtre anti-spam, elle sera probablement classée comme à risque minimal. De tels systèmes peuvent fonctionner librement sans obligation légale spécifique au titre de l'AI Act de l'UE.
En outre, l'AI Act de l'UE établit des obligations non seulement pour les fournisseurs, mais aussi pour les utilisateurs et les tiers. Si vous êtes distributeur, importateur ou utilisateur d'un système d'IA, vous pouvez avoir des responsabilités spécifiques, surtout si le système est catégorisé comme à risque élevé.
Surveillance continue: Il est essentiel de noter que la catégorisation d'un système d'IA peut changer en fonction de son application et de son impact potentiel. Des évaluations régulières et une veille sur les dispositions de l'AI Act de l'UE sont cruciales.
Biais, transparence et éthique : les pierres angulaires de l'AI Act européen
Biais :
- Définition : Les biais en IA désignent une discrimination systématique et injuste fondée sur des caractéristiques des individus, reflétant souvent des préjugés sociétaux.
- Position de l'AI Act européen : L'AI Act de l'UE souligne l'importance de la non-discrimination dans les systèmes d'IA. Il reconnaît que des données biaisées peuvent conduire à des résultats biaisés, susceptibles de perpétuer les inégalités sociétales. Par conséquent, l'AI Act de l'UE exige que les systèmes d'IA utilisés dans l'UE soient développés à partir de données représentatives et exemptes de biais indus.
- Implications pour les entreprises : Les entreprises doivent s'assurer que les données qu'elles utilisent pour entraîner leurs modèles d'IA sont soigneusement examinées pour détecter les biais. Cela peut nécessiter d'investir dans l'audit de données, des outils de détection de biais et des équipes diversifiées capables d'apporter de multiples perspectives.
Transparence :
- Définition : La transparence en IA signifie que le fonctionnement et les décisions des systèmes d'IA sont clairs et compréhensibles pour les humains.
- Position de l'AI Act européen : L'AI Act de l'UE met fortement l'accent sur la transparence, en garantissant que les systèmes d'IA sont traçables et que leur fonctionnement peut être expliqué. Il ne suffit pas qu'un système d'IA prenne une décision ; il doit aussi pouvoir clarifier comment il est parvenu à cette décision.
- Implications pour les entreprises : Les entreprises devront adopter des systèmes d'IA offrant des fonctionnalités d'explicabilité. Cela peut impliquer de privilégier des modèles interprétables plutôt que plus complexes, ou d'investir dans des outils d'explicabilité. Des pratiques d'IA transparentes garantiront non seulement la conformité, mais renforceront aussi la confiance des clients et des parties prenantes.
Éthique :
- Définition : L'éthique en IA consiste à garantir que les systèmes d'IA sont développés et utilisés de manière moralement juste et respectueuse des droits humains.
- Position de l'AI Act européen : L'AI Act de l'UE souligne l'utilisation éthique de l'AI et garantit que les systèmes d'IA respectent la vie privée, la dignité et les droits des utilisateurs. Il interdit les pratiques d'IA jugées nuisibles ou manipulatrices, comme le social scoring par les gouvernements.
- Implications pour les entreprises : Les considérations éthiques devraient être au premier plan de l'adoption de l'IA dans les entreprises. Cela signifie veiller à ce que les systèmes d'IA soient utilisés d'une manière conforme aux valeurs et normes de la société. Les entreprises devraient aussi se préparer à des audits éthiques et envisager de mettre en place des comités d'éthique ou de consulter des experts en éthique externes.
Sanctions en cas de non-conformité
Rôles et responsabilités
L'AI Act européen établit un cadre clair pour les rôles et responsabilités des différentes parties prenantes impliquées dans l'écosystème de l'IA. Deux des rôles les plus cruciaux dans ce contexte sont celui du producteur et celui du déployeur. Comprendre ces rôles est essentiel pour que les entreprises garantissent la conformité et des pratiques d'IA responsables.
1. Producteur :
Le producteur, souvent appelé développeur ou fournisseur, est responsable de la création et de la fourniture du système d'IA. Ses responsabilités au titre de l'AI Act européen incluent :
- Évaluation des risques: Avant d'introduire un système d'IA sur le marché, le producteur doit réaliser une évaluation approfondie des risques afin de catégoriser le système selon son impact potentiel sur les utilisateurs et la société.
- Contrôle qualité: Les producteurs doivent mettre en place des systèmes de gestion de la qualité robustes, garantissant que le développement et les mises à jour du système d'IA respectent les normes fixées par l'AI Act de l'UE.
- Transparence: Les producteurs doivent fournir une documentation claire sur le système d'IA, y compris son objectif, ses capacités, ses limites et ses risques potentiels. Cette documentation devrait être facilement accessible aux utilisateurs et aux régulateurs.
- Surveillance continue: Même après le déploiement, les producteurs sont censés surveiller les performances de leurs systèmes d'IA, afin qu'ils restent conformes et que tout problème soit résolu.
2. Déployeur :
Le déployeur, ou utilisateur, est l'entité qui intègre et utilise le système d'IA dans un contexte ou une application spécifique. Ses responsabilités incluent :
- Utilisation correcte: Les déployeurs doivent s'assurer d'utiliser les systèmes d'IA comme prévu par le producteur et conformément à la documentation fournie.
- Boucle de rétroaction: Les déployeurs devraient donner un retour aux producteurs sur les performances du système d'IA, surtout si des écarts ou des problèmes surviennent pendant son fonctionnement.
- Sensibilisation des utilisateurs: Si le système d'IA interagit directement avec les utilisateurs finaux, les déployeurs sont responsables d'informer ces utilisateurs qu'ils interagissent avec une IA, afin de garantir la transparence.
- Conformité aux réglementations locales: Les déployeurs doivent connaître les réglementations locales et veiller à ce que le déploiement du système d'IA soit conforme à ces règles, surtout si elles diffèrent des dispositions de l'AI Act européen.
En conclusion, l'AI Act européen met l'accent sur la collaboration entre producteurs et déployeurs, en garantissant que les systèmes d'IA sont développés, déployés et exploités de manière responsable. Les deux rôles s'accompagnent de leur propre ensemble d'obligations, et les comprendre est crucial pour que les entreprises restent conformes et favorisent la confiance dans leurs solutions pilotées par l'IA.
Vous vous demandez comment l'AI Act va impacter votre entreprise ? C'est le moment d'agir !
Sparkle propose un EU AI Act (AIA) readiness track. Suivre ce parcours permettra à votre organisation et à vos systèmes d'IA de devenir conformes. Prenez contact pour en savoir plus.
Un aperçu de l'EU AI Act Readiness track de Sparkle :
À quoi ressemble l'EU AI Act Readiness Track :
- Awareness workshop: développez une compréhension commune de ce qu'est l'AI Act de l'UE.
- Évaluation des projets et parcours d'IA: obtenez un aperçu de toutes vos solutions d'IA et approches statistiques qui relèvent de l'AI Act de l'UE.
- Model risk framework: comprenez bien comment appliquer le model risk framework.
- Évaluation de conformité: obtenez un aperçu des catégories de risque pour toutes vos solutions d'IA et approches statistiques.
- Rapport final et recommandations: obtenez des recommandations claires et les étapes à suivre pour vous mettre en conformité avec l'AI Act de l'UE.
Lisez-en plus dansThe EU AI Act FAQ guidepour plus d'informations sur la loi.
À PROPOS DE L'AUTEUR
Jarne Swennen
Junior Business Analyst
Découvrez plus de contenu sur notre blog
Pourquoi nous nous appelons Sparkle
Avant une bonne décision, une intuition. Avant une intuition, une étincelle. L'histoire derrière le nom sur la porte.
Architecture Medallion
Un modèle de conception de données en couches qui affine progressivement les données brutes en insights propres et prêts pour le métier, en passant par les couches Bronze, Silver et Gold.
Les budgets ont désormais leur place dans votre plateforme data
Planning dans Fabric IQ est la toute dernière capacité de Microsoft, et elle marque un vrai changement dans la façon dont les organisations peuvent envisager la relation entre analytics et planification.
Sparkle fait désormais partie du groupe d'utilisateurs estonien de Microsoft Fabric
Le Estonian Microsoft Fabric User Group est un espace où les gens se réunissent pour relever de vrais défis d'ingénierie et d'architecture de données avec Microsoft Fabric.
Cas client : Nabuminds migre vers la plateforme Microsoft Fabric
Le passage d'une BI fragmentée et basée sur les tenants à une plateforme unifiée a apporté des insights plus rapides, une gouvernance renforcée et des capacités analytiques prêtes pour l'avenir.
Relier les points : Neo4j graph intelligence dans Microsoft Fabric
Microsoft Fabric unifie le data engineering, l'analytique et l'AI à travers l'écosystème Microsoft.
Mais de nombreux problèmes métier comme la détection de fraude, le customer 360 ou l'optimisation de la supply chain ne dépendent pas de points de données isolés, mais de la façon dont ces points se connectent.
