L’intelligence artificielle a été au cœur des débats du think tank du numérique G9+ qui a eu lieu à Paris le 18 mars. Comment appréhender la souveraineté et la responsabilité à mettre en œuvre en matière d’IA dans notre environnement actuel ?
Sur les questions de la responsabilité et la souveraineté en matière d’intelligence artificielle, le débat entre experts et représentants d’entreprises lors de la dernière table ronde du think tank G9+ a été ouvert.
Numeum veut évaluer les bénéfices/risques de l’IA
Véronique Torner, présidente du syndicat professionnel Numeum, prend position : « dans le jeu mondial, il faut prendre le train de l’IA en marche, en France et en Europe, avec une vision de l’IA responsable. Les impacts doivent être positifs sur les quatre piliers du développement durable : économique, social, sociétal, environnemental. Nous sommes favorables à l’approche pharmacologique potion/poison pour apprécier une nouvelle technologie comme l’IA. Quels bénéfices, risques, quelle posologie et quels effets secondaires ? »
Pour Jean-Gabriel Ganascia, informaticien et philosophe français, il s’agit avant tout de « s’assurer la validité des outils d’IA. Or, la réglementation est utile mais non suffisante. L’IA Act européen reste très abstrait. »
La transition écologique en ligne de mire
Laura Létourneau, experte qui a travaillé à l’ARCEP, au Ministère de la Santé et pour les services du Premier Ministre, est convaincue qu’il faut donner du sens aux usages de l’intelligence artificielle : « l’IA permet d’optimiser le système actuel. Mais il faut peut-être changer ce système aujourd’hui pour réaliser la transition écologique. On pourrait orienter les métiers qui vont être détruits par l’IA par de nouveaux emplois concernant des besoins essentiels. Prenons du recul et travaillons sur le sens. »
Pour une IA européenne souveraine
Le panel d’invités par le G9+ a des visions diverses de la souveraineté en IA. Pour Véronique Torner, il faut favoriser l’open source dans l’IA pour « la jouer collectif au niveau européen. » D’après Laura Létourneau, pour avoir une IA souveraine, il faut la souveraineté des infrastructures de partage des données ouvertes. Et de prendre la métaphore de la ville : « les règles de vie, les infrastructures de base et les logements HLM sont sous la responsabilité publique. C’est pareil pour le numérique, avec des règles à respecter. »
Selon Henri Pidault, DSI de la SNCF, l’un des enjeux majeurs de souveraineté de l’IA sont la transmission des biais via l’IA générative du fait de l’ensemble des corpus de connaissances alimentant les modèles, principalement américains.
Autre enjeu de souveraineté qui rassemble le panel d’invités, c’est d’éviter que les licornes françaises de l’IA soient séduites par les sirènes outre-Atlantique, comme Hugging Face qui est parti en 2017 installer son siège aux Etats-Unis pour lever des fonds, ou Mistral AI qui a signé un accord de distribution avec Microsoft fin février, le géant américain ayant participé également à la levée de fonds du spécialiste français de l’IA générative.
