Intelligence artificielle : 4 questions et 4 réponses…

Intelligence artificielle dans l’Union européenne : le point en 4 questions

Déjà engagée dans un débat pour encadrer l’intelligence artificielle (IA), l’Union européenne (UE) a décidé d’accélérer après avoir constaté l’essor de l’IA générative ces derniers mois.

Une réflexion qui a donné lieu à une proposition de règlement européen, qui devrait s’appliquer d’ici 2026.

L’occasion pour le Gouvernement de répondre à 4 questions qui se posent fréquemment lorsqu’il est question d’IA.

1^re question : existe-t-il une législation européenne sur l’IA ?

Jusqu’à présent, il n’existait pas de règlement encadrant spécifiquement l’IA au sein de l’UE.

C’est pourquoi une proposition est actuellement à l’étude, poursuivant les objectifs suivants :

• veiller à ce que les systèmes d’IA mis sur le marché soient sûrs et respectent la législation en vigueur en matière de droits fondamentaux, les valeurs de l’UE, l’État de droit, mais aussi la durabilité environnementale ;
• garantir la sécurité juridique afin de faciliter les investissements et l’innovation dans le domaine de l’IA ;
• renforcer la gouvernance ;
• faciliter le développement d’un marché unique pour des applications d’IA légales et sûres, et empêcher la fragmentation du marché.

2^e question : quelle est la définition de l’IA donnée par la proposition de règlement européen ?

Un système d’IA est un logiciel développé au moyen d'une ou de plusieurs des techniques suivantes :

• approches d’apprentissage automatique, y compris d’apprentissage supervisé, d'apprentissage non supervisé et d'apprentissage par renforcement, utilisant une grande variété de méthodes, y compris l’apprentissage profond ;
• approches fondées sur la logique et les connaissances, y compris la représentation des connaissances, la programmation inductive (logique), les bases de connaissances, les moteurs d’inférence et de déduction, le raisonnement (symbolique) et les systèmes experts ;
• approches statistiques, estimation bayésienne, méthodes de recherche et d’optimisation.

Concrètement, un système d'IA peut, pour un ensemble donné d’objectifs définis par l’homme, générer des résultats tels que des contenus, des prédictions, des recommandations ou des décisions influençant les environnements avec lesquels il interagit.

3^e question : quelles sont les pratiques d’IA interdites par la proposition de règlement ?

La proposition de règlement prévoit l’interdiction de certains systèmes d’IA, à savoir :

• ceux ayant recours à des techniques subliminales au-dessous du seuil de conscience d'une personne pour altérer substantiellement son comportement et de manière à causer un préjudice physique ou psychologique (manipulation du comportement humain pour contourner le libre arbitre) ;
• ceux exploitant les éventuelles vulnérabilités dues à l'âge ou au handicap pour altérer substantiellement le comportement et de manière à causer un préjudice physique ou psychologique ;
• ceux destinés à évaluer ou à établir un classement de la fiabilité des personnes en fonction de leur comportement social ou de caractéristiques personnelles et pouvant entraîner un traitement préjudiciable, injustifié ou disproportionné ;
• ceux permettant la reconnaissance des émotions sur le lieu de travail et les établissements d'enseignement ;
• les systèmes d'identification biométrique à distance « en temps réel » dans des espaces accessibles au public à des fins répressives, sauf dans les cas suivants :
  • recherche ciblée de victimes potentielles spécifiques de la criminalité (enfants disparus, traite, exploitation sexuelle) ;
  • prévention d'une menace spécifique, substantielle et imminente pour la vie ou la sécurité des personnes ou prévention d'une attaque terroriste ;
  • identification, localisation ou poursuite à l'encontre des auteurs ou des suspects de certaines infractions pénales punissables d'une peine d’emprisonnement d'une durée maximale d'au moins 3 ans.

En ce qui concerne l'utilisation de systèmes d'identification biométrique, elle n’est possible que :

• s’il est tenu compte de la situation donnant lieu à l’utilisation du système d’identification et de la gravité ou de l'ampleur du préjudice en son absence ;
• s’il est tenu compte des conséquences sur les droits et libertés de toutes les personnes concernées (gravité, probabilité, ampleur) ;
• s’il est obtenu une autorisation préalable octroyée par une autorité judiciaire ou administrative compétente.

Par ailleurs, il va y avoir une classe d’IA dite « à haut risque » : pour ces systèmes d’IA, il faudra obligatoirement réaliser une analyse d'impact sur les droits fondamentaux.

S’agissant des citoyens, ils auront le droit de :

• déposer des plaintes concernant les systèmes d'IA ;
• recevoir des explications sur les décisions basées sur des systèmes d'IA à haut risque ayant une incidence sur leurs droits.

Notez que le non-respect des règles précitées pourra entraîner des amendes comprises, en fonction de la taille de l'entreprise et de l'infraction, entre 7,5 M€ ou 1,5 % du chiffre d'affaires et 35 M€ ou 7 % du chiffre d’affaires mondial.

4^e question : comment la proposition de règlement sur l’IA soutiendra-t-elle l’innovation ?

La proposition de règlement européen prévoit que les États membres pourront mettre en place des « bacs à sable réglementaires » sur l'IA.

L'objectif est :

• de favoriser l’innovation en créant un environnement contrôlé d’expérimentation au stade du développement, afin de garantir la conformité des systèmes d’IA innovants avec le règlement ;
• de renforcer la sécurité juridique pour les innovateurs ainsi que le contrôle et la compréhension des possibilités, des risques émergents et des conséquences de l’utilisation de l’IA ;
• d’accélérer l’accès aux marchés en supprimant les obstacles pour les petites et moyennes entreprises (PME) et les jeunes entreprises.