Secu
Le rôle de l’IA dans le jeu du chat et de la souris entre pirates et défenseurs
Par La rédaction, publié le 16 mai 2024
Phishing ciblé, ransomwares dévastateurs… Les pirates et cybercriminels ont vite compris le parti qu’ils pouvaient tirer de l’IA générative. Mais cette technologie a aussi le potentiel de changer la donne pour les cyber-défenseurs en fournissant du contexte, en analysant des volumes massifs de données et en identifiant des menaces en temps réel… De quel côté penchera la balance ?
Par Mandy Andress, Chief Information Security Officer chez Elastic
La cybersécurité est depuis toujours une sorte de jeu du chat et de la souris entre les « gentils » et les « méchants ». Mais avec l’importance grandissante de l’intelligence artificielle, y compris des nouveautés telles que l’IA générative, ce jeu d’échecs permanent a gagné en intensité. Il est de plus en plus évident que l’IA est vouée à en être la toute-puissante reine, capable de faire basculer l’échiquier du côté l’équipe la plus apte à manipuler efficacement cette pièce.
Des cyberattaques plus sophistiquées que jamais
Les acteurs malveillants n’ont pas perdu de temps pour trouver comment intégrer l’IA générative à leurs activités. Ils ont ainsi pu franchir un tout nouveau palier dans leurs efforts de phishing, puisque leurs messages sont désormais subtils, naturels, et dénués d’erreurs d’orthographe ou de grammaire.
Les plus malins peuvent même donner à l’IA générative pour instruction d’imiter un profil type, afin de rendre leurs e-mails de phishing plus convaincants. Il leur suffit par exemple de saisir « Fais en sorte que cet e-mail semble provenir du service comptabilité d’une société du Fortune 500 », ou « Imite le style rédactionnel et les tics de langage d’un responsable X ».
Avec des attaques de phishing aussi ciblées et affûtées grâce à l’IA, les acteurs malveillants augmentent leurs chances de s’emparer des identifiants d’un employé afin d’accéder à des informations hautement sensibles, à l’image des détails financiers d’une entreprise.
Les pirates développent également leurs propres versions des modèles génératifs pré-entraînés les plus courants. DarkGPT, par exemple, est capable de puiser des renseignements dans les moindres recoins du dark web, ce qui lui permet de collecter en toute simplicité des informations et ressources utilisables à des fins malfaisantes.
Citons également FraudGPT, qui offre aux cybercriminels la possibilité de créer des codes et virus malveillants sans effort. Résultat : des attaques de ransomware d’une efficacité dévastatrice, qui peuvent être lancées avec une simplicité sans précédent et par un public élargi.
Malheureusement, tant que ces activités illicites généreront des profits, il y aura des acteurs malveillants pour chercher à utiliser de nouvelles technologies – telles que l’IA générative – de manière créative, mais malintentionnée. La bonne nouvelle est que les entreprises peuvent exploiter ces mêmes fonctionnalités pour renforcer leur propre sécurité.
L’importance capitale du contexte
Tout comme DarkGPT et FraudGPT peuvent fournir des ressources plus vite que jamais, un modèle d’IA génératif pré-entraîné (GPT) déployé de manière responsable peut également générer des ressources utiles, en fournissant le contexte nécessaire pour éviter des attaques potentielles et réagir plus efficacement à n’importe quelle menace.
Par exemple, imaginons qu’un professionnel de la cybersécurité détecte des activités ou des comportements anormaux dans son environnement, mais ignore quelles mesures prendre pour enquêter dessus, ou pour remédier au problème de manière appropriée. Immédiatement, l’IA générative pourrait proposer des informations pertinentes, les meilleures pratiques et des recommandations en puisant dans l’intelligence collective du domaine de la cybersécurité. Ceci permettrait ainsi à l’expert de comprendre rapidement la nature de l’attaque, ainsi que les mesures à prendre pour y faire face.
Tout ceci s’avère particulièrement utile pour permettre aux équipes de sécurité d’examiner leur environnement de manière globale, et d’analyser l’ensemble des données disponibles.
À LIRE AUSSI :
Une perspective globale
Historiquement, la norme était d’observer un système isolé pour vérifier la cohérence des comportements, et surtout identifier les comportements anormaux. Désormais, il est possible d’examiner plusieurs systèmes et configurations (y compris comment ces derniers interagissent les uns avec les autres) pour se faire une idée plus précise de ce qui se passe dans un environnement. Les professionnels peuvent ainsi profiter d’une perspective nettement approfondie et contextualisée sur la situation, et prendre des décisions plus judicieuses et éclairées.
Et l’IA générative n’aide pas uniquement à prendre de meilleures décisions : elle leur permet également de le faire plus vite et avec moins d’efforts manuels.
À l’heure actuelle, le processus consistant à obtenir une visibilité sur l’ensemble de la pile technologique et sur les actifs numériques au sein d’une organisation, rassembler des données, et chercher à découvrir ce qui se passe nécessite beaucoup de travail. Compte tenu de l’ampleur et de la complexité des environnements technologiques et des volumes de données impliqués, il était jusqu’ici impossible de mettre en place une couverture de sécurité informatique complète ou d’identifier chaque angle mort — et c’est en grande partie ce sur quoi les acteurs malveillants s’appuient pour mener les opérations.
L’IA générative aide non seulement à agréger toutes ces données, mais aussi à les rendre accessibles au plus grand nombre. Les professionnels de la cybersécurité peuvent ainsi analyser d’énormes volumes d’informations quasiment en temps réel, et identifier des menaces potentielles en repérant des changements au niveau de leur environnement qu’ils n’auraient probablement découverts qu’accidentellement auparavant. Ce simple atout peut réduire le temps dont dispose un acteur malveillant de plusieurs jours à quelques minutes – un avantage considérable pour les défenseurs.
De bonnes raisons d’être optimistes
Avec la démocratisation de l’automobile au début des années 1900, l’usage était de faire porter un drapeau rouge par une personne afin d’avertir les passants de l’arrivée imminente de quelque chose de nouveau et d’inattendu, et de les inciter à regarder autour d’eux. Évidemment, la société s’est depuis habituée à voir des véhicules sur les routes. La voiture fait désormais partie intégrante de notre quotidien, et devient même de plus en plus puissante et sophistiquée.
Nous en sommes à un stade similaire avec l’IA : il nous faut donc avancer avec prudence et de manière réfléchie. Qu’il s’agisse de voitures ou d’IA, le risque est toujours présent. Cependant, tout comme nous avons ajouté des fonctionnalités avancées de sécurité et renforcé le cadre réglementaire autour des véhicules, il est possible d’en faire de même avec l’IA.
En conclusion, il y a de bonnes raisons d’être optimistes. Le jeu du chat et de la souris entre les pirates et leurs cibles continuera, comme toujours. Néanmoins, en utilisant l’IA, et en particulier l’IA générative, pour renforcer leur sécurité globale et les systèmes de défense, les défenseurs pourront élever leurs capacités de sécurité et se mettre dans de meilleures conditions pour maîtriser leurs adversaires.
À LIRE AUSSI :
À LIRE AUSSI :
