Toutes les planètes s’alignent pour faire des LLM, et des SLM, un des problèmes de sécurité les plus importants pour 2025. « Les Large Language Models (LLM) deviendront le nouvel APT (Advanced Persistent Threat) à mesure que les États-nations et même les acteurs malveillants les exploiteront pour mener des cyberattaques. Les LLM d’aujourd’hui sont vulnérables aux jailbreaks et aux manipulations de prompts, mais la sortie de HackerGPT, ou WhiteRabbitNeo, un outil open source conçu pour être utilisé par des équipes d’hackers éthiques, permet à n’importe qui d’accéder à la puissance d’un LLM qui n’a pas les garde-fous des autres. Il sera capable de créer une preuve de concept pour une toute nouvelle vulnérabilité critique lorsqu’on lui en donnera l’instruction. L’évolution de la technologie et la disponibilité de nouveaux outils comme celui-ci mèneront à de nouveaux vecteurs d’attaque et méthodologies à une échelle jamais vue auparavant. Le délai entre la découverte de nouvelles vulnérabilités et la mise sur le marché du code d’exploitation diminuera considérablement.” évoque Les Noe, un biohacker bien connu de CyberArk.
Plusieurs types d’attaques sont pointées : ATP, deepfakes, manipulations et déviances des modèles.
