La Loi sur l’IA (AI Act) : dura lex, sed lex

AI act tout ce qu'un éditeur de logiciel doit savoir
La Loi sur l'IA (AI Act)

Qu’est-ce que la Loi sur l’IA ou AI Act ?

L’AI Act, ou Loi sur l’IA, est un règlement de l’Union européenne qui encadre l’utilisation de l’intelligence artificielle (IA).

Il établit une classification des systèmes d’IA selon leur niveau de risque et impose des obligations proportionnées pour chaque catégorie.

L’objectif est de garantir la sécurité, la transparence et le respect des droits fondamentaux des utilisateurs. Par ailleurs, le but est de stimuler la compétitivité et l’innovation des entreprises dans le domaine de l’IA.

Il faut souligner que contrairement aux directives de l’UE, les règlements ne demandent pas un passage par la loi de chaque pays. De fait, ces règlements s’appliquent directement.

Il ne faut pas oublier que l’IA générative n’est qu’un aspect parmi de nombreux autres de l’IA, et donc de la Loi correspondante.

Le processus de rédaction de l’AI Act a débuté avant l’explosion de l’IA générative. Elle s’est donc invitée à la table de la Loi en cours de route.

Quel est le calendrier d’application de l’AI Act ?

Adoptée en mai 2024, la Loi sur l’IA entrera en vigueur 20 jours après sa publication au Journal officiel de l’Union européenne le 12 juillet 2024.

Pour sa part, le règlement sera applicable à partir du 2 août 2026, avec les exceptions suivantes :

 Dispositions concernées
 Date d’application
  • Interdictions relatives aux systèmes d’IA présentant des risques inacceptables
  • Obligations incombant aux fournisseurs de modèles d’IA à usage général
  • Désignation des autorités compétences au sein de chaque Etat membres de l’UE
  • Règles relatives aux systèmes d’IA à haut risque de l’annexe III

Une abondante littérature qui traite de l’AI Act

Pour commencer et avant de nous plonger dans le sujet, voici quelques références (presque arbitrairement) choisies et qui peuvent aider :

Commission Européenne (textes de référence)

Autorité de la concurrence

CNIL

Gide Loyrette Nouel

Wavestone

Numeum

Mlex Shorthandstories

Des « think tanks »  :

Enfin, des articles de la presse professionnelle et économique :

Qu’est-ce que l’IA (pour la Loi) ?

Dans la mesure où il s’agit d’une loi sur l’intelligence artificielle, précisons tout d’abord ce qu’est l’IA.

L’AI Act définit en fait un système d’IA comme :

« un système basé sur une machine qui est conçu pour fonctionner avec différents niveaux d'autonomie et qui peut faire preuve d'adaptabilité après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des données qu'il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels ».

EU_AI_Act_logo_main

Une large portée

Comme le souligne la précédente définition, le champ d’application de l’AI Act est très large.

Il concerne donc les : 

  1. Prestataires qui mettent sur le marché ou mettent en service des systèmes d’IA ou qui mettent sur le marché des modèles d’IA à usage général dans l’Union, que ces prestataires soient établis ou situés dans l’Union ou dans un pays tiers ;
  2. Déployeurs de systèmes d’IA qui ont leur lieu d’établissement ou sont situés dans l’Union ;
  3. Fournisseurs et les déployeurs de systèmes d’IA qui ont leur lieu d’établissement ou sont situés dans un pays tiers, lorsque les résultats produits par le système d’IA sont utilisés dans l’Union ;
  4. Importateurs et les distributeurs de systèmes d’IA ;
  5. Fabricants de produits qui mettent sur le marché ou en service un système d’IA avec leur produit et sous leur propre nom ou marque ;
  6. Représentants autorisés des prestataires qui ne sont pas établis dans l’Union ;
  7. Personnes concernées qui se trouvent dans l’Union.

L’AI Act se plie en quatre pour définir les risques

Dans la mesure ou cette loi vise à garanti la sécurité, les risques relatifs à l’IA ont été identifiés.

A cette fin la loi sur l’IA classe les situations en fonction des risques courus par les utilisateurs.

En définitive, on considère une quatre niveaux de risque. 

  • Les risques inacceptables, interdits par exemple, les systèmes de notation sociale et l’IA manipulatrice).
  • Par ailleurs la loi identifie des systèmes d’IA à haut risque, qui sont l’objet de la plus grande partie du texte ;
  • Soumis à des obligations plus légères (chatbots deepfakes…) on distingue également des systèmes d’IA à risque limité
  • Enfin et ils concernent parfois les éditeurs de logiciel métier, vienne les systèmes à risque minimal, non réglementés comme les jeux vidéo, certains filtres anti-spam, etc.
Ce qu'il faut retenir de la loi européenne sur l'intelligence artificielle.
Source : Fondation Robert Schuman - What to take away from the European law on artificial intelligence - Thaima Samman, Benjamin De Vanssay

Impact sur les chaînes de valeur complexes

Effectivement, dans de nombreuses situations on observe une longue chaîne de valeur.

Exemple de chaine de valeur complexe AI act
Un utilisateur employé dans l’entreprise A interagit avec le chatbot de son ERP B qui intègre une suite d’IA conversationnelle C qui elle-même est connectée sur un grand modèle de langage (LLM) de l’éditeur D, hébergé chez le fournisseur E.

Par conséquent, il faut s’assurer de la clarté de la chaîne de responsabilité partagée. 

Bien que le fournisseur d’IA conversationnelle soit responsable de l’intégration et de l’utilisation du LLM, l’entreprise reste responsable envers les utilisateurs finaux.

En synthèse et en général, il est crucial de s’assurer que les fournisseurs tout au long de la chaîne respectent les régulations pertinentes.

Le cas des applications métiers (ERP, CRM, SIRH, etc.)

Intégrer de l'IA à son application et contribuer à la productivité

De plus en plus de logiciels métier ont déjà intégré ou ont pour projet d’intégrer à court terme de l’IA.

Ce qui est très pertinent puisque leurs applications œuvrent à la productivité des entreprises.

Et intégrer des fonctionnalités supportées par les technologies d’IA, en particulier d’IA conversationnelle ou générative, décuple cette productivité :

  • Chatbot permettant d’interroger les bases de connaissances du produit ou du métier ;
  • Transactions en langage naturel avec l’application, en complément des interfaces web ou applications mobiles traditionnelles ;
  • Génération de résumés, de propositions commerciales, de contenus marketing, etc.

Qu'implique l'AI Act pour un éditeur qui intègre de l'IA à son produit ?

Il est indéniable qu’intégrer de l’IA ajoute de la valeur. Cela dit, les éditeurs de ces applications ont un choix à faire.

  • Ils peuvent développer tout ou partie de ces fonctionnalités IA par eux-mêmes,
  • ou choisir d’intégrer des solutions spécialisées qui leur apportent ces capacités avec un niveau de performance et de sécurité « publisher-class ».

Sauf rares exceptions, ces logiciels métier seront considérés en tant que systèmes d’IA à risque limité.

De ce fait, ils ont essentiellement des exigences de transparence vis-à-vis des utilisateurs finaux. On peut citer quelques cas comme : 

  • Tout d’abord les systèmes d’IA destinés à interagir directement avec des personnes physiques devront être conçus et développés de manière que les personnes physiques concernées soient informées qu’elles interagissent avec un système d’IA. A moins que cela ne soit évident du point de vue d’une personne physique raisonnablement bien informée, observatrice et avisée, compte tenu des circonstances et du contexte d’utilisation.
  • Par ailleurs, les fournisseurs de systèmes d’IA qui génèrent des contenus synthétiques audio, image, vidéo ou texte, veillent à ce que les résultats du système d’IA soient marqués dans un format lisible par machine et détectables comme étant générés ou manipulés artificiellement.
  • Enfin, les systèmes de reconnaissance des émotions ou de catégorisation biométrique devront informer les personnes physiques exposées, du fonctionnement du système et traiter de façon appropriée les données à caractère personnel.
AI Act - Chaine de valeur IA
Source : Autorité de la concurrence - Intelligence artificielle générative : l’Autorité s’autosaisit pour avis et lance une consultation publique jusqu’au vendredi 22 mars

A partir de quand faut-il paniquer ?

Il est vrai que ces textes continuent d’évoluer, avec le foisonnement des technologies et la multiplication des usages.

L’AI Act établit un cadre de gouvernance hybride, avec des pouvoirs de mise en œuvre et d’application répartis entre l’Union et les niveaux nationaux :

  • La Commission européenne restera centrale dans la gouvernance et la mise en œuvre de l’AI Act.
  • Elle sera chargée de faire appliquer les dispositions relatives aux modèles GPAI. Mais aussi d’harmoniser l’application de l’Acte sur l’IA dans l’Union. Puis de définir la conformité à l’Acte sur l’IA et de mettre à jour certains aspects essentiels de la réglementation.
  • Au niveau national, les régulateurs seront chargés de l’application des dispositions relatives aux pratiques d’IA interdites et à haut risque.

Aussi, il nous semble que la première étape est de se familiariser (un peu) avec ce thème. Puis de déterminer dans quel cas chacun se trouve. Enfin d’en déduire les mesures à prendre pour assurer une conformité au moment de l’applicabilité de la loi.

AI Act : à suivre...

Gageons que comme tout système complexe et incertain, une phase de rodage sera nécessaire.

Et cela, tant pour le législateur que pour les assujettis. Il faudra adapter les textes et mettre en place les pratiques à l’aune du « gros bon sens » cher à nos amis Canadiens. Le RGPD nous a déjà donné un exemple à l’échelle de la marche à suivre.

_____________

Vous êtes un éditeur de logiciel ? Nous espérons que cet article vous aura apporté une meilleure lecture de l’AI Act.

Agora Software est l’éditeur de solutions d’IA conversationnelle dédiées aux éditeurs. Nous déployons, rapidement, des interfaces conversationnelles applicatives renforçant l’expérience utilisateur des applications et des plateformes. En intégrant Agora Software à votre application, vos utilisateurs bénéficient d’interactions riches, multilingues et omnicanales.

Vous souhaitez intégrer une IA conversationnelle à vos applications ?

Parlons-en : contact@agora.software 

Si vous avez aimé cet article, vous pourriez lire 8 questions à se poser quand on intègre de l’IA à son application. 

Et rejoignez-nous sur notre page Linkedin pour suivre notre actualité !

Vous voulez comprendre comment notre IA conversationnelle optimise la productivité et l’engagement de vos utilisateurs en complétant efficacement vos applications ?