IA et cybersécurité : quand la même technologie sert à attaquer et à se défendre

L’IA est souvent présentée comme un facteur qui bouleverse en profondeur les pratiques de la cybersécurité, aussi bien pour les attaquants que pour les défenseurs. Qu’est-ce que ce changement modifie vraiment dans les missions que vous menez pour vos clients, au-delà du discours ambiant ?

L’intelligence artificielle s’est imposée comme un puissant amplificateur de compétences qui touche désormais, à des degrés divers, chaque discipline de la cybersécurité. Qu’il s’agisse de simplifier la rédaction de livrables, d’accélérer le tri d’alertes complexes pour les analystes défensifs, ou de générer des briques de code sur mesure pour de la sécurité offensive, l’IA ne remplace pas l’expertise humaine, mais en démultiplie la vitesse d’exécution.

Chez Astek, nous abordons l’IA appliquée à la cybersécurité comme un levier de cyber-résilience : elle doit permettre d’anticiper les menaces, d’accélérer la détection, de renforcer la réponse aux incidents et de sécuriser les usages de l’IA eux-mêmes.

Cette intégration alimente d’ailleurs un effort permanent de recherche et de développement en interne, notamment au croisement de nos expertises IA et cybersécurité. Ces travaux de R&D se traduisent par exemple par le développement d’outils sur mesure à base d’IA pour les analystes SOC, afin de les libérer des tâches répétitives de niveau 1 (tri initial et qualification des alertes) et de leur permettre de se concentrer sur des investigations plus stratégiques et complexes de niveaux 2 et 3 (analyse approfondie, réponse aux incidents et threat hunting). Sur le terrain, ce changement de dynamique modifie concrètement la nature des missions que nous menons, à commencer par la manière dont nous appréhendons la gestion des risques et la sensibilisation de nos clients.

Au-delà de l’intégration de l’IA générative dans nos pratiques quotidiennes, notre cellule de R&D mène également des travaux de recherche et de veille pour anticiper les grandes ruptures technologiques à venir. C’est le cas notamment du chiffrement post-quantique. Cette démarche d’anticipation globale nous permet de devancer l’évolution des menaces futures et de conseiller au mieux nos clients face aux technologies de rupture.

Les outils d’IA générative sont accessibles à tous, y compris à des acteurs malveillants. Observez-vous, sur le terrain, une hausse en volume et/ou des attaques plus sophistiquées, liées à cette démocratisation ?

Les actualités le montrent clairement : depuis la démocratisation et le perfectionnement des outils d’IA, les attaques ciblant les systèmes d’information des entreprises se sont multipliées. Le dernier rapport IBM X-Force Threat Intelligence Index pour 2026 met d’ailleurs en lumière cette accélération, en révélant une hausse de 49 % du nombre de groupes de ransomware actifs en 2025 par rapport à l’année précédente. Bien que l’IA puisse théoriquement permettre de concevoir des attaques plus complexes, elle sert avant tout d’accélérateur de productivité pour les attaquants.

Elle leur permet de gagner un temps précieux à chaque étape : analyse de grandes quantités de données, collecte automatisée d’informations sur une cible, ou encore reproduction de chemins d’attaque connus.

Les derniers modèles d’IA excellent désormais dans l’analyse de code, permettant d’identifier en quelques minutes des vulnérabilités critiques complexes que des analystes auraient mis plusieurs semaines à déceler. Des modèles comme Claude Opus 4.6 ont ainsi été capables de découvrir des vulnérabilités présentes depuis de nombreuses années, comme en témoigne la faille critique identifiée au sein de CGIF, une bibliothèque open source largement utilisée pour le traitement des fichiers GIF.

Au-delà de ce gain de temps dans la préparation, cette démocratisation a un impact massif sur le volume et la crédibilité des attaques par ingénierie sociale. On peut observer des campagnes de phishing rédigées dans un français parfait, sans fautes d’orthographe ni tournures suspectes, ce qui peut neutraliser les réflexes habituels de vigilance. Enfin, l’IA générative agit comme un vecteur d’accessibilité en abaissant drastiquement les barrières techniques pour les cybercriminels novices. Des attaquants sans compétences avancées en développement peuvent désormais générer des scripts malveillants rapidement.

L’IA offre aux attaquants avancés une vitesse d’exécution industrielle et permet à des acteurs moins qualifiés de mener des attaques d’un niveau technique supérieur.

À ce panorama de menaces externes s’ajoute un défi interne tout aussi crucial : l’usage non maîtrisé de ces outils par les collaborateurs eux-mêmes. L’accès généralisé des employés à des outils d’IA grand public pour leurs tâches quotidiennes crée un risque grandissant de fuite de données. Sans gouvernance stricte, des documents sensibles et des secrets d’entreprise peuvent être transmis par mégarde à des modèles externes.

Les deepfakes et autres contenus générés par IA sont devenus un vecteur de fraude à part entière. Comment une entreprise peut-elle apprendre à les détecter et à s’en prémunir ?

L’IA permet en effet de générer très rapidement des contenus très crédibles, comme des mails de phishing dans n’importe quelle langue, des images ultra réalistes et également des deepfakes en direct pour réaliser notamment des arnaques au président. Lorsque ces techniques sont bien élaborées, les conséquences peuvent être très graves. C’est le cas d’une grande multinationale hongkongaise qui a été victime d’une escroquerie utilisant du deepfake. Trompé par une fausse visioconférence, un employé a transféré près de 26 millions de dollars à des cybercriminels.

Il paraît naturel de réfléchir à l’utilisation de solutions de détection, mais face à la sophistication croissante de l’IA, la technologie seule ne suffit plus. Le principal rempart d’une entreprise reste humain : il réside dans la sensibilisation des équipes et l’instauration d’une culture du doute. L’époque où l’on repérait un e-mail de phishing à ses fautes d’orthographe grossières est révolue, car l’IA rédige désormais dans un style irréprochable. Pour déjouer ces pièges textuels, les collaborateurs doivent apprendre à analyser le contexte plutôt que la forme, en traquant l’urgence inhabituelle ou les demandes de virement hors procédure.

La règle d’or consiste à systématiquement confirmer la demande en contactant l’expéditeur via un canal secondaire sécurisé, comme son numéro de téléphone interne officiel, et jamais en répondant directement au message suspect.

De la même manière, lors d’une visioconférence suspecte, demander à son interlocuteur de tourner brusquement la tête de profil ou de passer sa main devant son visage permet souvent de faire bugger l’algorithme de transfert de visage en direct.

La meilleure parade contre les fraudes à l’IA repose sur un cadre procédural strict.

Côté défense, comment l’IA s’intègre-t-elle dans les missions de protection que vous menez ? Quelle(s) tâche(s) remplace-t-elle ou renforce-t-elle dans le travail de vos équipes ?

Côté défense, l’intégration de l’intelligence artificielle est devenue une réalité opérationnelle quotidienne pour nos équipes de protection. L’enjeu est désormais crucial : nous devons implémenter l’IA dans nos mécanismes de défense aussi vite, si ce n’est plus rapidement, que les attaquants ne l’intègrent dans leurs propres offensives. C’est une véritable course de vitesse.

Dans cette optique, nos analystes s’appuient désormais massivement sur des modules d’IA directement intégrés dans les outils de détection (notamment les SIEM), afin de les assister dans les premières phases de qualification des alertes. En automatisant le traitement et le filtrage des signaux faibles, l’IA permet de s’affranchir des tâches redondantes pour se concentrer immédiatement sur les interventions à forte valeur ajoutée.

Ce changement dessine une tendance globale très nette dans notre secteur : le rôle traditionnel de l’analyste ou de la supervision de niveau 1 est aujourd’hui profondément remis en question.

Les capacités de tri, de corrélation et de première analyse étant de plus en plus industrialisées par l’IA, le besoin de traitement manuel sur ce premier niveau s’efface progressivement au profit d’une escalade plus rapide vers des tâches d’analyse plus poussée. L’IA renforce également le travail de reporting, historiquement chronophage pour les équipes de cyberdéfense. Ce travail est aujourd’hui largement accéléré grâce à des fonctionnalités de génération automatique de synthèses textuelles.

Vos tests d’intrusion s’appuient sur des agents IA pour simuler des scénarios d’attaque. Qu’est-ce que cela change concrètement dans la façon d’identifier les failles d’une organisation ?

L’utilisation d’agents IA pour nos tests d’intrusion modifie la portée et le rythme de nos audits, mais son application concrète dépend strictement du cadre défini avec les parties prenantes. Une organisation peut exprimer une volonté claire d’inclure ces technologies car cela permet de se placer au niveau des menaces actuelles, et donne pour cela un accord explicite. Des agents IA peuvent alors être utilisés pour faire de l’énumération, de la cartographie de surface d’attaque, ou encore de la recherche de vulnérabilités mais toujours en parallèle d’un travail manuel.

Cela change la donne sur la profondeur et la vitesse des analyses : là où un expert humain passe du temps sur des tâches chronophages, comme la corrélation de milliers de logs ou la configuration de scans, l’IA s’empare de ces missions à une vitesse bien plus rapide.

À l’inverse, lorsque le client ne souhaite pas d’interaction directe entre une IA et son infrastructure par mesure de sécurité, ces agents restent des alliés majeurs mais basculent dans un rôle de conception et de support offensif en coulisses sans la moindre utilisation de données clients. Dans ce scénario, on peut être amené à coder des outils offensifs ou des codes de preuves de concept sur mesure à l’aide d’agents dédiés. L’impact reste concret pour l’organisation auditée, car cela permet de se libérer des tâches répétitives de développement pour se concentrer sur la recherche de chemins de compromission.

Quel que soit le mode opératoire choisi, l’humain conserve un rôle crucial de superviseur et de garde-fou. C’est l’humain qui valide chaque piste générée par l’IA, élimine les erreurs de logique ou les hallucinations, et s’assure qu’aucune action ne vienne perturber la continuité d’activité de l’organisation.

Quels garde-fous une organisation doit-elle poser au moment de déployer de l’IA côté défense, pour ne pas ouvrir de nouvelles vulnérabilités en voulant s’en protéger ?

Le déploiement de solutions d’IA appliquées à la cyberdéfense soulève naturellement des enjeux de sécurité, étant donné que ces technologies augmentent la surface d’attaque d’une organisation. Ces enjeux diffèrent selon l’approche de déploiement retenue.

D’un côté, il y a les solutions « sur étagère » achetées auprès d’éditeurs spécialisés. L’exemple type est le SIEM (un outil centralisé qui joue le rôle de tour de contrôle en analysant toutes les alertes de sécurité de l’organisation), aujourd’hui enrichi à l’IA pour repérer les signaux faibles d’une cyberattaque.

De l’autre, il y a les outils développés en interne. Par exemple, un assistant IA chargé de trier et de résumer des centaines de mails suspects reçus chaque jour. Dans ce second cas, l’organisation doit s’assurer que son IA est entraînée avec des données sécurisées et vérifiées. Le risque principal est l’empoisonnement des données : si un attaquant parvient à glisser des données modifiées dans la base d’apprentissage de l’IA, celle-ci apprendra que des comportements malveillants sont normaux. Elle sera alors incapable de les bloquer le jour de l’attaque.

Pour éviter cela, il faut appliquer des principes de security by design dès la conception : contrôle strict de l’origine des données, segmentation des accès, journalisation des usages, tests de robustesse, revue régulière des modèles, protection des prompts et limitation des droits accordés à l’IA.

Enfin, si l’organisation choisit une solution externe (par exemple le SIEM boosté à l’IA acheté chez un éditeur), le point de vigilance absolu concerne la confidentialité des données. Pour fonctionner, ces IA ont besoin d’analyser des fichiers, des logs et des alertes. Si ces données sensibles sont envoyées vers des serveurs externes ou des clouds publics mal maîtrisés, il y a un risque d’exposition involontaire.

Quel que soit le modèle choisi, le garde-fou ultime reste le maintien d’un contrôle humain.

L’IA ne doit pas bénéficier d’une confiance aveugle, en particulier pour les décisions critiques. Il est indispensable de valider manuellement les résultats et les alertes générés par l’IA afin de déjouer les faux positifs.

La réglementation (NIS2, DORA) intègre-t-elle suffisamment les enjeux liés à l’IA dans les obligations de sécurité, selon vous ? Y a-t-il un retard à combler, notamment sur l’IA en tant qu’outil utilisé par l’entreprise ?

Il est essentiel de rappeler que NIS 2 et DORA n’ont pas été conçues pour encadrer spécifiquement l’IA, et qu’il serait donc injuste de leur reprocher un manque de précision sur ce sujet. L’objectif de ces réglementations est d’imposer une hygiène cyber globale avec NIS 2 et une résilience opérationnelle stricte pour les infrastructures critiques et le secteur financier avec DORA. Elles adoptent une approche technologiquement neutre : elles fixent des obligations de résultats en matière de gestion des risques, peu importent les outils technologiques utilisés par l’entreprise. En ce sens, l’IA entre naturellement dans leur champ d’application dès lors qu’elle devient un actif du système d’information, au même titre qu’un serveur cloud ou un logiciel tiers.

Si une organisation utilise une IA qui introduit une vulnérabilité ou cause une interruption de service, elle est déjà en infraction vis-à-vis de NIS 2 ou DORA, car elle a failli à son obligation de maîtrise des risques.

Le prétendu retard réglementaire sur l’IA est en réalité comblé par un texte beaucoup plus adapté et spécifique : l’IA Act européen. C’est ce règlement, et non NIS 2 ou DORA, qui a vocation à encadrer l’IA en tant qu’outil, en classant ses usages selon leur niveau de risque et en imposant des obligations strictes de transparence, de qualité des données et de cybersécurité dès la conception. Plutôt que de voir un manque dans NIS 2 et DORA, il faut y voir une complémentarité logique.

Les entreprises ne doivent pas attendre que chaque directive cyber réinvente la roue pour chaque nouvelle technologie ; elles doivent appliquer la gouvernance globale de NIS 2 et DORA à leurs projets d’IA, tout en se conformant aux exigences techniques et éthiques de l’IA Act.

Raphaël Azou, Consultant en sécurité offensive

Raphaël Azou est consultant en sécurité offensive chez Astek. Après un cursus d’études mené en France puis au Canada, il a été diplômé d’un master en cybersécurité et ingénierie logicielle à l’ENSTA Bretagne. Spécialisé dans la pratique des tests d’intrusion, il intervient aujourd’hui sur l’évaluation des vulnérabilités des systèmes d’information, accompagnant les organisations dans la simulation de cyberattaques et le renforcement de leur posture de sécurité.