La 11è édition du congrès du CESIN adressait la thématique de la cyberdéfense à la vitesse de l’intelligence artificielle et a rassemblé plus de 170 responsables de la cybersécurité qui ont débattu autour de thématiques liées aux implications de l’IA (RH, nouvelle démarche d’analyse de risques, détection et réponse à incident, confiance, conformité, etc.).
Suite à la validation d’un accord pour établir les fondements du futur règlement européen sur l’intelligence artificielle (IA Act), les ateliers du CESIN (Club des Experts de la Sécurité de l’Information et du Numérique) se sont concentrés dernièrement à inventorier les principales opportunités mais aussi les défis majeurs que présente l’introduction de l’IA dans le domaine de la cybersécurité. L’automatisation des processus émerge comme un thème central notamment dans sa capacité à optimiser la détection des incidents, la réponse aux menaces cyber et l’évaluation des risques. Une source d’amélioration significative en termes d’efficacité opérationnelle pour les équipes cyber. Parmi les opportunités identifiées on retrouve la priorisation des actions de remédiation, la réduction des faux positifs et la détection d’anomalies telles que les comportements suspects, la fraude, ou les vulnérabilités. Il reste néanmoins quelques inquiétudes quant à la consolidation des alertes et les coûts associés à certaines approches.
Vers un datalake dédié à la cybersécurité ?
“Dans un communiqué le CESIN rappelle que “l’IA, encore à un stade embryonnaire, soulève de nombreuses interrogations quant à son évolution et à son utilisation non régulée. Le Shadow IA ou sur l’opacité de la modélisation des scénarios sont de bons exemples.” La question des données réellement exploitables a également été pointée du doigt. En ressort l’idée de développer un datalake dédié à la cybersécurité et l’implication de champions associés à divers experts pour favoriser l’exploitation efficace des données dans ce type de contexte. D’autres questions se posent quant à sécuriser les projets qui se déploient au sein des entreprises, nécessitant un travail d’exploration de la part des responsables Cyber.
Des obstacles majeurs : risque de fuite et d’exposition des données, fiabilité des résultats, perte d’expertise ou de maîtrise du raisonnement
“Nous observons une déferlante de projets métiers s’appuyant sur l’IA et de nouvelles pratiques autour de l’IA générative, précise Mylène Jarossay, Présidente du CESIN. Les équipes cyber comptent bien également profiter de l’IA pour affûter leurs capacités de défense. Ce sont de grandes opportunités qui se dessinent dans les entreprises et les équipes cyber doivent très vite construire la gouvernance et le cadre technique nécessaires pour accompagner et sécuriser ces projets tout en s’emparant de cette évolution technologique pour leurs propres performances.”Les ateliers ont aussi mis en avant le rôle crucial des ressources humaines dans la gestion de l’impact de l’IA au sein des organisations. Avec des opportunités pour le staffing RH, comme la cartographie des cas d’usage, la définition de cadres de responsabilités, l’acquisition de compétences et d’expertises spécifiques. Ces actions clés viendront maximiser les avantages de cet avènement, tout en minimisant les risques.
La méfiance prend le dessus
Bien que l’intégration de l’IA dans l’analyse des risques ait conduit à une amélioration significative et à un gain de temps, la majorité des participants expriment des inquiétudes. Parmi les obstacles identifiés, ils citent le risque de fuite et d’exposition des données, la fiabilité des résultats, la perte d’expertise, la perte de maîtrise du raisonnement, voire la capacité des humains à comprendre les résultats. La confiance dans l’IA, notamment dans le contexte des IA génératives, suscite de grandes préoccupations. Pour renforcer la confiance et garantir la conformité, des actions telles que l’éducation, l’audit, et la mise en place de cadres et de normes émergentes sont recommandées. En fin de compte, bien que l’IA offre d’énormes opportunités pour renforcer la cybersécurité, son adoption nécessite une approche stratégique. Les ateliers ont souligné la nécessité d’une vigilance continue pour maximiser les avantages de l’IA tout en minimisant les risques potentiels, tels que la perte de contrôle. Outre les nouveaux besoins en compétences et le renforcement des expertises, les participants appellent à la création d’un document sur les bonnes pratiques, à l’établissement de chartes structurées, et à l’accompagnement d’une gouvernance solide.
