Cet article a été mis à jour le 14 novembre 2025.
ChatGPT et GPT-5 impressionnent leurs utilisateurs par leurs prouesses linguistiques depuis quelques années. Mais vous êtes-vous déjà demandé si (et comment) ces grands modèles de langage (LLM) font également parler d'eux dans les recoins les plus sombres d'Internet ? Il s'avère que des acteurs malveillants trouvent effectivement des moyens ingénieux d'exploiter ces merveilles technologiques. IA générativeet ce, depuis un certain temps.
Les premiers abus de ChatGPT et d'autres modèles de langage similaires consistaient principalement à tenter de faire exécuter à l'IA une tâche interdite, comme écrire du code malveillant ou expliquer la synthèse de médicaments. (Conseil : ChatGPT n'est pas un partenaire fiable en chimie. Ne suivez pas les conseils pharmaceutiques d'une IA.)
Cependant, en 2025, le paysage des menaces a considérablement évolué, allant bien au-delà de la simple manipulation des messages.
L'IA générative est-elle efficace dans la lutte contre la cybercriminalité ? Pas toujours.
Commençons par les bonnes nouvelles : l’IA générative ne semble pas très adaptée à la cybercriminalité, du moins sur le plan technique. Chez Flare Research, nous avons constaté qu’elle n’excelle pas dans la création de logiciels malveillants, l’exploitation des réseaux ou la détection des vulnérabilités.
Les modèles de langage légitimes intègrent également des mécanismes de protection pour empêcher les acteurs malveillants d'agir de la sorte. Comme certains utilisateurs de ChatGPT le savent, ce dernier peut parfois répondre, même à des requêtes inoffensives, qu'il s'agit simplement d'un « modèle de langage IA entraîné par OpenAI ». Les acteurs malveillants ont alors deux options : soit ils consacrent du temps à concevoir des messages d'erreur pour contourner les filtres, soit ils développent (ou achètent) un jailbreak leur permettant d'utiliser ChatGPT et des modèles de langage plus récents pour écrire des logiciels malveillants et accomplir d'autres tâches malveillantes.
Le marché du jailbreak en tant que service
Ces dernières années, des acteurs malveillants ont travaillé au développement de leurs propres versions LLM : WormGPT, DarkGPT et FraudGPT sont tous commercialisés dans l’économie de la cybercriminalité comme des GPT jailbreakés (même s’il ne s’agit pas de véritables GPT) optimisés pour la fraude et la criminalité.
Cependant, ces modèles d'apprentissage automatique (si tant est qu'il s'agisse bien de modèles d'apprentissage automatique) ne sont pas très utiles. D'après nos recherches, les avis des utilisateurs sont remplis de plaintes et l'intelligence artificielle de ces modèles ne semble pas être largement répandue.
Comment l'intelligence artificielle de génération (GenAI) est-elle utilisée efficacement dans la lutte contre la cybercriminalité ?
Passons maintenant aux mauvaises nouvelles. L'IA peut être utilisée efficacement dans certains domaines de la cybercriminalité. Par exemple, elle excelle dans la création de contenu, qui peut notamment servir à l'ingénierie sociale.
Campagnes de phishing
L'intelligence artificielle est probablement surtout utilisée pour créer des messages d'hameçonnage plus crédibles, notamment pour les personnes ne maîtrisant pas la langue. Sachant que de nombreux cybercriminels proviennent du monde russophone, cela signifie que des messages bien rédigés et adaptés en langage naturel sont accessibles à tous, quelles que soient leurs compétences linguistiques.
L'IA excelle également dans la création de contenu incitant à l'urgence. Rédiger un appel à l'action percutant est une compétence qui s'acquiert, et tous les cybercriminels n'y sont pas naturellement doués. Or, l'IA est désormais capable de concevoir de faux messages dont le contenu incite les victimes non averties à cliquer.
Usurpation d'identité via l'IA
Les messages écrits ne sont pas à l'abri de l'IA, pas plus que les appels vocaux.
Des acteurs malveillants semblent élaborer des stratégies pour exploiter l'IA dans le cadre d'escroqueries par usurpation vocale. Comme nous l'avions malheureusement anticipé, les cybercriminels utilisent des algorithmes de synthèse vocale pour créer des voix convaincantes, imitant parfois même des individus précis. Ces voix réalistes servent ensuite à soutirer des informations sensibles, telles que les codes d'authentification à deux facteurs, à des victimes sans méfiance. À mesure que les algorithmes d'IA deviennent plus accessibles et répandus, nous pouvons nous attendre à ce que cette tendance persiste et s'intensifie. Cela souligne l'importance de rester vigilant et de sensibiliser le public aux risques d'utilisation abusive de l'IA par des acteurs malveillants de différents niveaux de sophistication.
IA agentique : la prochaine étape de la cybercriminalité
Les chercheurs et les analystes en cybersécurité constatent actuellement l'essor de l'IA agentique, de vastes modèles de langage agissant comme des agents autonomes, capables de planifier, d'orchestrer et d'exécuter des opérations complexes avec une supervision humaine minimale. Au lieu de dépendre d'opérateurs humains pour chaque action, ces systèmes peuvent enchaîner les tâches : identifier les vulnérabilités, collecter des renseignements, écrire du code, déployer des charges utiles et même effacer leurs traces numériques.
Une étude de l'Université Carnegie Mellon a démontré que Les LLM modifiés pourraient planifier et exécuter de manière autonome des cyberattaques simulées dans des environnements réseau réalistes, en adaptant leurs tactiques à mesure que les défenses évoluaient. Sur les forums du dark web, les cybercriminels commencent à expérimenter des outils d’« équipe rouge autonome » : des frameworks qui permettent aux utilisateurs de configurer des agents d’IA pour effectuer des reconnaissances, exploiter l’automatisation et mener des attaques de phishing à grande échelle.
Ce passage d'une utilisation abusive basée sur des incitations à une orchestration par agents marque un tournant. Une fois qu'un attaquant a défini un objectif, une IA autonome peut gérer une grande partie du flux de travail opérationnel, accélérant ainsi la vitesse et la sophistication des attaques. À mesure que ces technologies deviennent plus accessibles, les défenseurs devront anticiper une nouvelle catégorie de menaces, non seulement issues d'incitations malveillantes, mais aussi de systèmes d'IA autonomes capables d'une action continue et adaptative.
Cybercriminalité et intelligence artificielle générale : qu’est-ce que cela signifie ?
Face à l'évolution et à l'essor constants des algorithmes d'IA, il est crucial pour les organisations comme pour les particuliers de prendre conscience des dangers potentiels qu'ils représentent. Les professionnels de la cybersécurité doivent rester vigilants et adapter sans cesse leurs stratégies pour contrer les menaces en constante évolution et garder une longueur d'avance.
Par ailleurs, il est conseillé de faire preuve de prudence face à des communications suspectes, même si elles semblent authentiques. Vérifier la source et éviter de divulguer des informations sensibles pourrait contrer les tentatives de cybercriminalité.
IA générative et Flare
Le La gestion des expositions aux cybermenaces de Flare Notre solution permet aux organisations de détecter, de hiérarchiser et d'atténuer de manière proactive les vulnérabilités fréquemment exploitées par les acteurs malveillants. Notre plateforme analyse automatiquement le web classique et le dark web, ainsi que les communautés des principaux acteurs malveillants, 24 h/24 et 7 j/7 afin de détecter les événements inconnus, de hiérarchiser les risques et de fournir des renseignements exploitables immédiatement pour améliorer la sécurité.
Votre équipe de sécurité peut tirer parti de l'IA pour prendre l'avantage sur les acteurs malveillants grâce à Threat Flow :
Flare s'intègre à votre programme de sécurité en 30 minutes et remplace souvent plusieurs outils SaaS et open source. Découvrez les menaces externes auxquelles votre organisation est exposée en vous inscrivant à notre programme. essai gratuit.
