Quand l'IA est l'outil, pas la cible.
Le reste de ce site traite de la sécurité des systèmes IA — comment ils sont attaqués et défendus. Cette page traite de l'IA comme outil en cybersécurité au sens large : elle renforce aussi bien la défense que l'attaque, souvent avec la même technologie sous-jacente.
L'IA renforce chaque étage classique d'une fonction sécurité — sans le remplacer.
Détection d'anomalies & intrusion
Des modèles entraînés sur le trafic réseau ou les logs système apprennent une notion de comportement « normal » et signalent les écarts statistiquement significatifs — utile pour repérer des schémas d'attaque inédits qu'une signature classique ne détecterait pas, au prix d'un taux de faux positifs à calibrer soigneusement.
Détection & analyse de malware
Des classifieurs ML catégorisent des échantillons suspects par famille à partir de leurs caractéristiques statiques ou comportementales, à une échelle qu'une analyse humaine ne pourrait pas tenir — mais cette même dépendance au modèle en fait une cible directe, voir les attaques adverses classiques conçues précisément pour tromper ces classifieurs.
Threat intelligence
Des LLM assistent l'agrégation et la synthèse de volumes massifs de rapports de menaces, d'IOC (indicateurs de compromission) et de flux techniques épars, pour produire des synthèses exploitables plus vite qu'une veille manuelle — un gain de vitesse qui suppose de faire confiance à un résumé généré, avec le risque d'hallucination que cela comporte.
Opérations de sécurité (SOC augmenté)
Des agents IA de premier niveau trient, contextualisent et priorisent les alertes avant intervention humaine — réduisant la fatigue d'alerte qui pousse les analystes à ignorer des signaux réels, tout en déplaçant le risque : un agent SOC compromis par injection (voir prompt injection) devient lui-même un vecteur d'évasion pour l'attaquant qu'il est censé détecter.
La même technologie augmente la surface et la vitesse d'attaque côté offensif.
Découverte & exploitation de vulnérabilités
Des outils assistés par IA accélèrent le fuzzing et l'analyse de code pour repérer des vulnérabilités à un rythme que l'audit manuel ne peut égaler. Des travaux de recherche ont démontré que des agents basés sur des LLM peuvent exploiter de façon autonome des vulnérabilités connues (CVE) à partir de leur seule description publique, sans intervention humaine dans la boucle d'exploitation.
Phishing & ingénierie sociale
Les LLM génèrent des emails de phishing personnalisés, grammaticalement irréprochables et adaptés au contexte de la cible à un coût quasi nul — supprimant les fautes d'orthographe qui servaient auparavant de signal d'alerte facile à repérer pour un utilisateur averti.
Agents d'attaque autonomes
Au-delà de l'assistance ponctuelle, des agents IA peuvent enchaîner de façon autonome plusieurs étapes d'une attaque — reconnaissance, sélection d'exploit, exécution — avec une supervision humaine minimale, changeant l'échelle à laquelle une attaque peut être menée en parallèle sur de nombreuses cibles.
Désinformation & deepfakes
Génération de texte, voix ou vidéo synthétiques à grande échelle pour la manipulation d'opinion ou la fraude ciblée (usurpation vocale pour valider un virement, deepfake vidéo pour un faux appel en visioconférence) — MITRE ATLAS documente désormais ce vecteur comme une technique à part entière (Deepfake-Assisted Phishing), au même titre que le phishing assisté par LLM.
Cyberespionnage & surveillance
Traitement et corrélation automatisés de volumes de données interceptées ou collectées (communications, métadonnées, contenu open source) à une échelle qui dépasse largement les capacités d'analystes humains, pour de la surveillance ciblée ou de masse.