Dans un rapport d’information sur l’IA au sein des collectivités (dont le texte a été rédigé avec l’aide de Mistral IA), les sénateurs proposent une méthodologie pour la mise en place d’un projet pour les collectivités territoriales qui est également applicable à toute organisation.
“Car si pour Ésope la langue pouvait être « la meilleure et la pire des choses », il en est certainement de même de cette technologie aux applications tellement diverses. Ce qui rend d’autant plus nécessaire la capacité à se poser les bonnes questions avant de recourir, ou non, aux services de l’IA” annoncent les rapporteurs.
Pour assurer le succès de la mise en place de solutions IA, les sénateurs propose une méthode autour de trois axes et une grille d’analyse et d’actions très intéressante. Le premier axe propose de développer une ingénierie au service de l’IA. L’intelligence artificielle enclenche une révolution et va transformer la société toute entière. “L’IA nécessite le développement d’une ingénierie technique spécifique à ses modalités, son fonctionnement et ses enjeux“.
Le rapport insiste sur la nécessité de mutualiser les compétences à trois niveaux :
– au sein de chaque collectivité, via des équipes pluridisciplinaires associant informatique, juridique, éthique et gestion de projet ;
– entre collectivités, pour favoriser la coopération, le partage de solutions et la mutualisation des coûts ;
– avec l’État, dans une logique de soutien, d’encadrement réglementaire et de portage de plateformes communes.
Sécuriser le recours à l’IA
Le deuxième axe vise à sécuriser le recours à l’IA. La sécurité de l’IA est essentielle sans quoi l’IA ne peut être adoptée ou durer. “D’une part, la collectivité doit pouvoir s’assurer de la pérennité de l’entreprise avec laquelle elle passe le contrat, au risque de ne pas pouvoir procéder aux mises à jour et à niveaux indispensables au bon fonctionnement de l’IA. D’autre part, la sécurisation du recours à l’IA repose sur une meilleure connaissance du droit de l’IA. L’IA répond en effet au droit de la conformité. Or le droit de la conformité oblige les acteurs à appliquer un processus : il n’y a pas de place à l’interprétation, seulement à la conformation“.
Pour les collectivités ou autres structures, il s’agit de s’assurer de la résilience et pérennité des prestataires et de la possibilité de maintenir à jour les systèmes, pour éviter une dépendance technologique ou des situations de blocage. Les donneurs d’ordre doivent s’assurer que tous les acteurs impliqués (prestataires, sous-traitants) sont en conformité et résilients. “Le recours à l’IA pose la question de l’engagement de la responsabilité juridique des élus et des agents des collectivités. Si des éléments de clarification sont attendus, certaines précautions peuvent néanmoins être prises pour sécuriser les élus et les agents en cas de dysfonctionnement de l’IA“.
Une IA éthique
Le troisième axe vise à veiller au développement d’une IA éthique. “Tout projet d’IA doit intégrer de fortes exigences éthiques”. Les acteurs doivent dont mener une réflexion sur le “bon” usage de l’IA”. Elle doit constituer une étape obligatoire dans la construction de tout projet IA. L’élaboration d’une charte éthique apparaît alors comme la forme la plus adaptée à une collectivité. Elle permet de fixer les principes, valeurs et normes éthiques auxquels tout projet d’IA développé sur son territoire doit se conformer.
Enfin, les rapporteurs proposent une grille d’analyse qui correspond à leur 11 recommandations pour mettre en œuvre les projets IA.
