L’intelligence artificielle est-elle vouée à reproduire les biais de genre ou d’âge ? C’est l’une des questions soulevées par le cercle InterElles, réseau qui regroupe 15 entreprises du secteur technologique, à travers son enquête annuelle, dédiée en 2019 à l’intelligence artificielle. Développement des usages et essor de nouveaux métiers sont également au programme.
La montée en puissance des usages de l’intelligence artificielle (IA) est plus envisagée comme une source d’opportunités professionnelles que comme un risque pour la plupart des 695 personnes ayant répondu à l’enquête 2019 du cercle InterElles, dont 80% qui travaillent dans les entreprises du cercle. Ce dernier regroupe Air Liquide, CEA, Canon, Dassault Système, Engie, GE, Gemalto, IBM, Intel, Lenovo, NGE, Orange, Orano et Schlumberger. Le cercle œuvre en faveur de la mixité et de l’égalité professionnelle dans les secteurs scientifiques et technologiques, et a dévoilé les résultats de l’’étude lors de son colloque le 12 mars dernier.
A bas les biais !
Du côté des risques, l’enquête a souligné la reproduction des biais. En effet, si les données utilisées pour nourrir l’IA comportent des biais, elle va les reproduire. L’utilisation de l’IA, pour le recrutement par exemple, peut alors mener à des discriminations, notamment en termes de genre. L’nquête a souligné les bonnes pratiques des entreprises membres en matière de régulation et d’éthique de l’IA, en particulier pour lutter contre les biais. « Analyser les biais dans les systèmes, c’est une bonne manière de comprendre aussi nos propres biais », commente Justine Mills, responsable de programmes support et opérations chez IBM. L’enjeu est le « fairness by design », c’est-à-dire d’intégrer l’équité dès la conception des modèles, l’intégration des données et dans les sets de données d’apprentissage, et de mener des « stress tests ».
Les entreprises ont pris en main le problème. IBM a créé un outil, mis à disposition des clients, qui analyse et évalue les biais dans les modèles (genre, âge…) et accompagne ses clients en leur proposant un plan d’actions pour les corriger. Gemalto teste chaque trimestre la qualité des algorithmes de reconnaissance faciale avec le National Institute of Standard et Technologies. Lenovo a formé l’ensemble des employés à l’IA et ses usages. Le directeur technique de NGE a signé le serment Holberton-Turing, qui regroupe des principes éthiques d’exercice de l’intelligence artificielle. Intel s’est engagé publiquement à travers la signature d’un livre blanc auprès du congrès américain.
L’IA au service des métiers
L’étude a ensuite a mis en avant la multiplication des usages, en soulignant que l’IA est une technologie en appui des métiers et non une fin en soi. L’enquête montre que le domaine d’usage principal se situe au niveau des clients (50,6 %), devant les opérations (37,6 %), la sécurité (18,9 %), les ressources humaines (16,4 %), les fournisseurs (8,8 %) et la recherche et développement (1,2 %). Chez NGE ou Orano, l’IA est utilisée pour la détection de la composition des sols. Du côté de Dassault Systems, l’intelligence artificielle va enrichir les outils de modélisation croisée pour, par exemple, alerter l’ingénieur en train de concevoir une aile d’avion sur le choix de tel ou tel boulon sur le poids de l’avion. Air Liquide utilise l’IA au niveau des ressources humaines pour la transmission des savoirs et des connaissances entre les générations. Et les participants au colloque ont fait la connaissance du robot CIMON (Crew Interactive Mobile Companion), l’assistant des astronautes de la station spatiale internationale depuis novembre 2018. Développé par Airbus, il utilise l’intelligence artificielle d’IBM Watson, notamment pour reconnaître les visages.
3 modèles de développement de l’IA
Le cercle appréhende trois modèles de développement de l’intelligence artificielle au sein des entreprises membres : création de lab dédié et de pôle d’experts en interne, appel à des startups ou des solutions du marché, ou dans la majorité des cas, un mélange des deux. Dans tous les cas, l’interdisciplinarité est reine avec le travail en tandem entre un expert de l’IA et un expert du métier.
A nouveaux métiers, nouvelles compétences
Enfin, l’intelligence artificielle regorge d’opportunités professionnelles, avec l’émergence de nouveaux métiers, notamment de coordination. Si les métiers les plus répandus sont ceux de data scientist et data analyst, il en existe plein d’autres, comme le montre la première illustration. Les répondants au sondage sont largement convaincus, à 80 %, qu’il est possible se reconvertir à l’IA en cours de carrière, comme le montre la seconde illustration.
Lenovo ou Microsoft intègrent le sujet de l’IA dans leurs académies internes. Certaines entreprises ont fait le choix d’une démarche par projet, en intégrant des profils non techniques à des projets d’intelligence artificielle, profils qui peuvent ensuite aller plus loin. MOOC, hackathons et conférences sont également autant de moyens de se former à l’IA. Il existe aussi plus de 50 formations supérieures intégrant l’IA, comme le cycle ingénieur en deux ans de l’ESIEE. « Il s’articule, explique Jean-François Bercher, le responsable de la filière, autour de trois axes : machine learning, Internet des objets, data engineering. » Il ne reste plus qu’à attirer les femmes vers ces nouveaux métiers, qui comme dans d’autres métiers technologiques, a souligné le cercle, ne représentent que 15 à 20 % des effectifs dans les métiers de l’intelligence artificielle. Ce sera le meilleur moyen pour restreindre les biais de genre de l’IA !
Auteur : Christine Calais
