Réguler les systèmes d’intelligence artificielle : les Etats membres et le Parlement européen sont parvenus à un accord politique, qui représente une première dans le monde.
C’est en avril 2021 que la Commission européenne a proposé le premier cadre réglementaire de l’UE pour l’IA, posant que les systèmes d’IA qui peuvent être utilisés dans différentes applications sont analysés et classés en fonction du risque qu’ils présentent pour les utilisateurs. Le 14 juin 2023, les députés ont adopté la position de négociation du Parlement sur la loi sur l’IA. Ensuite, les discussions ont commencé avec les pays de l’UE au sein du Conseil sur la forme finale de la loi, l’objectif étant de parvenir à un accord d’ici à la fin de l’année. C’est ce vendredi 8 décembre, les négociateurs du Parlement et du Conseil sont parvenus à un accord provisoire sur la loi. “Ce règlement vise à garantir que les droits fondamentaux, la démocratie, l’État de droit et la durabilité environnementale sont protégés contre l’IA à haut risque, tout en stimulant l’innovation et en faisant de l’Europe un leader dans ce domaine. Les règles établissent des obligations pour l’IA en fonction de ses risques potentiels et de son niveau d’impact“, détaille le Parlement.
Les applications interdites
Les colégislateurs ont convenu d’interdire :
- les systèmes de catégorisation biométrique qui utilisent des caractéristiques sensibles. Par exemple, les convictions politiques, religieuses, philosophiques, orientation sexuelle, race ;
- l’extraction non ciblée d’images faciales sur Internet ou d’images de vidéosurveillance pour créer des bases de données de reconnaissance faciale ;
- la reconnaissance des émotions sur le lieu de travail et dans les établissements d’enseignement ;
- la notation sociale basée sur le comportement social ou les caractéristiques personnelles ;
- les systèmes d’IA qui manipulent le comportement humain pour contourner son libre arbitre ;
- L’IA utilisée pour exploiter les vulnérabilités des personnes (en raison de leur âge, de leur handicap, de leur situation sociale ou économique).Des exceptions sont prévues à des fins de maintien de l’ordre.
Obligations pour les systèmes à haut risque
Pour les systèmes d’IA classés “à haut risque” (en raison de leur préjudice potentiel important pour la santé, la sécurité, les droits fondamentaux, l’environnement, la démocratie et l’État de droit), des obligations claires ont été convenues. Les députés ont inclus “une évaluation obligatoire de l’impact sur les droits fondamentaux, entre autres exigences, applicable également aux secteurs de l’assurance et de la banque. Les systèmes d’IA utilisés pour influencer le résultat des élections et le comportement des électeurs sont également classés comme à haut risque. Les citoyens auront le droit de déposer des plaintes contre les systèmes d’IA et de recevoir des explications sur les décisions prises sur la base de systèmes d’IA à haut risque qui ont une incidence sur leurs droits.“
En ce qui concerne l’IA générative, le règlement prévoit de s’assurer de la qualité des données utilisées qui servent à nourrir les algorithmes. Idem pour le respect des droits d’auteur. Les textes, images et sons générés par l’IA devront par ailleurs être identifiés comme tels.
Enza Iannopollo, analyste principal chez Forrester, salue cette avancée dans un commentaire envoyé à la rédaction : “L’accord conclu marque un moment historique et renforce l’avance de l’Europe sur la question de politique technologique la plus urgente pour notre génération. Il nous donne une plus grande certitude quant à l’arrivée d’une réglementation de l’IA complète, basée sur les risques et fondée sur des principes. Malgré les critiques, il s’agit d’une bonne nouvelle pour les entreprises et la société. Pour les entreprises, elle commence à fournir un cadre solide pour l’évaluation et l’atténuation des risques qui, s’ils ne sont pas contrôlés, pourraient nuire aux clients et réduire la capacité des entreprises à tirer profit de leurs investissements dans la technologie. Et pour la société, cela permet de protéger les gens contre des conséquences potentiellement néfastes.”
Le non-respect des règles peut entraîner des amendes allant de 35 millions d’euros ou 7 % du chiffre d’affaires mondial à 7,5 millions ou 1,5 % du chiffre d’affaires, en fonction de l’infraction et de la taille de l’entreprise.
Le texte convenu devra être formellement adopté par le Parlement et le Conseil pour devenir une loi de l’UE.
