La cybersécurité franchit un cap décisif avec l’émergence de l’intelligence artificielle générative. La capacité de l’IA générative à comprendre, apprendre et mettre en œuvre des connaissances comme le ferait un être humain, représente une assistance précieuse dans la protection des environnements informatiques, mais offre aussi aux cybercriminels de nouveaux vecteurs d’attaque. Une tribune de Luc Esprit, VP EMEA Data Protection Solutions chez Dell Technologies.
Aujourd’hui, les défis sont considérables et incitent à se questionner sur les actions à entreprendre pour générer de la valeur de manière responsable. Face à cette révolution technologique, il est important de reconnaitre son potentiel, tout en veillant à ce que ces avancées reflètent nos valeurs sociétales.
Gérer les risques liés à l’IA générative
À mesure que les capacités de l’IA générative se développent, la sécurité devient un enjeu prioritaire. Les cybercriminels peuvent exploiter sa rapidité et les avantages liés à l’automatisation, afin de découvrir plus rapidement les vulnérabilités de leurs cibles, faire évoluer les logiciels malveillants en temps réel et créer des emailings de phishing et d’usurpation numérique plus efficaces. Pour cette raison, les systèmes d’IA générative doivent être accompagnés de mesures de sécurité appropriées pour contrer les tentatives de fraude et les risques de deepfake. La sécurisation de l’IA générative commence par la mise en œuvre d’une infrastructure basée sur la confiance, du Edge jusqu’à l’utilisateur en passant par la gestion des données. L’objectif est de mettre en place des mécanismes de contrôle d’accès robustes qui empêchent tout accès préjudiciable et toute utilisation potentielle malveillante du système. Pour sécuriser les données, des fonctionnalités telles que la classification, le chiffrement, ainsi que le stockage et la transmission sécurisés sont nécessaires. La contribution humaine joue également un rôle essentiel. Des audits réguliers, des comportements permettant d’identifier les anomalies du système, ainsi que des techniques visant à atténuer les préjugés et à intégrer des principes éthiques sont fondamentaux pour la prévention des risques.
L’IA générative pour une cybersécurité renforcée
L’industrie se mobilise pour relever les défis de l’IA générative, qui offre la perspective de devenir un partenaire incontournable dans le domaine de la cybersécurité, ouvrant ainsi la voie à une protection renforcée contre les menaces informatiques. L’IA générative permet d’analyser d’importantes quantités de données de sécurité spécifiques à une organisation, de formuler des prédictions, et évolue en permanence. Cela permet aux équipes de cybersécurité de mieux anticiper les menaces, en détectant notamment des anomalies dans le trafic réseau ou du contenu suspect dans les emails. De plus, l’IA générative a la capacité de : prédire les menaces futures, identifier les vulnérabilités en tirant des enseignements d’incidents passés et de flux de renseignements sur les menaces. L’automatisation peut transformer notre approche de la sécurité, en particulier dans les domaines de la prévention et du contrôle de la détection. En automatisant la détection des menaces, l’IA générative réduit le temps de découverte et de réponse aux tentatives d’attaque, et en atténue de ce fait les dommages potentiels. L’automatisation des tâches routinières de cybersécurité, comme le reporting d’incidents ou le partage des menaces, permet aux équipes de sécurité de se concentrer sur des tâches plus stratégiques. Enfin, la création de contenu n’est peut-être pas la première fonctionnalité qui vient à l’esprit lorsque l’on évoque les applications de l’IA générative pour la cybersécurité, mais il s’agit d’une capacité très utile en matière de formation et sensibilisation des utilisateurs. Utilisée pour personnaliser les modules de formation, l’IA générative permet de baser les critères de personnalisation sur les rôles des utilisateurs finaux, les comportements passés et les menaces courantes auxquelles ils peuvent être confrontés. Ce niveau de personnalisation renforcé de la formation permet de réduire le nombre d’erreurs humaines, qui sont à l’origine de nombreux incidents.
Une vision pragmatique
L’AI générative engendre de nouveaux défis qui incitent à repenser et à faire évoluer les stratégies de cybersécurité. Elle offre également la perspective d’améliorer la détection et les réponses aux menaces, ainsi que d’apporter des capacités prédictives et une efficacité opérationnelle accrue. La clé est de tirer pleinement parti de ces avantages tout en gérant les risques de manière proactive et vigilante. Des mesures de sécurité robustes, une surveillance continue et une approche flexible et constamment adaptée au sujet de la confidentialité des données et de l’éthique sont essentielles. Alors que nous entrons pleinement dans l’ère de l’IA générative, l’évolution de l’IA et de la cybersécurité se poursuivra dans une relation symbiotique.
Luc Esprit, VP EMEA Data Protection Solutions chez Dell Technologies
