L’intelligence artificielle générative s’est imposée en quelques années comme un outil de transformation majeur pour les entreprises. Automatisation des tâches, gain de productivité, analyse de données massives : les promesses sont réelles.
Pourtant, derrière ces bénéfices se cachent des vulnérabilités que beaucoup sous-estiment encore. 80 % des entreprises françaises opèrent sans compréhension claire des risques liés à l’IA, une statistique alarmante qui place la cybersécurité au cœur des préoccupations stratégiques.
L’ANSSI et la DGSI multiplient les alertes, et les incidents touchant des entreprises stratégiques françaises ne relèvent plus de la théorie. Face à une menace qui évolue aussi vite que la technologie elle-même, une approche structurée et informée devient indispensable pour protéger efficacement vos actifs numériques.
Les risques cyber bidirectionnels de l’IA générative pour les entreprises
Ce qui distingue l’IA générative des technologies précédentes, c’est son double rôle dans le paysage des menaces. Elle amplifie les capacités offensives des attaquants tout en créant de nouvelles surfaces d’attaque au sein même des systèmes qui l’hébergent.
Cette bidirectionnalité oblige les entreprises à repenser entièrement leur modèle de défense.
L’IA générative comme amplificateur de cyberattaques
Les cybercriminels ont rapidement compris le potentiel des grands modèles de langage (LLM) pour industrialiser et sophistiquer leurs attaques. Le phishing, autrefois détectable par ses maladresses linguistiques, atteint désormais un niveau de personnalisation redoutable.
Des groupes étatiques comme Charcoal Typhoon (Chine) ou Lazarus (Corée du Nord) exploitent ces outils pour générer des emails ciblés, des faux profils sur les réseaux sociaux, et des sites web frauduleux qui imitent à la perfection des interfaces légitimes.
La menace des deepfakes illustre particulièrement bien cette montée en puissance. Entre 2023 et 2025, le volume de contenus falsifiés — vidéos et voix artificielles — a été multiplié par dix.
Près de 49 % des entreprises déclarent avoir été confrontées à des tentatives d’escroquerie utilisant cette technologie.
Le développement de malwares assisté par IA est une autre menace concrète. Des outils comme WormGPT, des modèles délibérément « débridés », permettent à des acteurs sans expertise technique avancée de générer des scripts PowerShell ou des rançongiciels polymorphiques.
Des exemples comme PromptLock ou Promptflux montrent que ces menaces ne sont plus expérimentales.
Enfin, des outils d’analyse automatisée comme BigSleep ou XBOW commencent à accélérer la recherche de vulnérabilités dans les systèmes d’information d’entreprise, même si leur efficacité reste encore conditionnée à l’expertise humaine pour l’exploitation finale.
Les vulnérabilités propres aux systèmes d’IA générative
L’IA générative n’est pas seulement un vecteur d’attaque : elle est elle-même une cible. Les attaques qui visent directement ces systèmes exploitent des failles spécifiques à leur architecture et à leur mode de fonctionnement.
Empoisonner les modèles (ou data poisoning) consiste à altérer les données d’entraînement pour introduire des biais ou des comportements malveillants. Des recherches montrent qu’un minimum de 250 documents malveillants suffit à compromettre significativement les réponses d’un modèle.
Cette technique, discrète et difficile à détecter, peut rester active pendant des mois avant d’être identifiée.
Les injections de prompts — référencées sous le code OWASP LLM01 — constituent une autre vulnérabilité critique. En manipulant les entrées textuelles d’un LLM, un attaquant peut contourner les garde-fous, extraire des données sensibles ou altérer les sorties générées.
Ces attaques ne nécessitent aucun accès système particulier : une simple interaction avec l’interface suffit.
La compromission de la chaîne d’approvisionnement IA est une préoccupation croissante. Le phénomène du slopsquatting — où des attaquants créent de faux paquets logiciels correspondant aux noms inventés par les hallucinations des IA — représente un risque tangible pour les équipes de développement.
À l’échelle mondiale, plus de 100 000 comptes ChatGPT ont été compromis, illustrant la valeur de ces cibles pour les groupes malveillants.
Le phénomène du Shadow IA et ses dangers
Au-delà des attaques externes, une menace interne silencieuse se développe dans de nombreuses organisations : le Shadow IA. Ce terme désigne l’usage non déclaré et non supervisé d’outils d’IA grand public par les collaborateurs, en dehors de tout cadre défini par l’entreprise.
Les situations à risque sont nombreuses et souvent banales en apparence. Un salarié qui colle un contrat client dans ChatGPT pour en obtenir un résumé, un ingénieur qui demande à un LLM externe d’analyser un code propriétaire, un responsable RH qui utilise un chatbot non validé pour rédiger des évaluations : autant de gestes qui peuvent entraîner des fuites de données sensibles vers des serveurs étrangers.
Le risque est double. D’un côté, les données partagées peuvent être utilisées pour réentraîner les modèles, rendant potentiellement vos informations confidentielles accessibles à d’autres utilisateurs.
De l’autre, l’entreprise perd tout contrôle sur la traçabilité et la qualité des informations produites, ouvrant la porte à des décisions fondées sur des données biaisées ou incorrectes.
Ce phénomène touche tous les niveaux hiérarchiques et tous les secteurs. Sans politique claire et formation adaptée, il est pratiquement impossible à éradiquer par la seule surveillance technique.
Cas concrets d’incidents en entreprises françaises
La DGSI a documenté plusieurs incidents impliquant des entreprises stratégiques françaises, qui illustrent concrètement ces risques théoriques.
Dans un premier cas, des salariés d’une entreprise du secteur sensible ont utilisé une IA étrangère grand public pour traduire des documents confidentiels. Ces données ont potentiellement été stockées sur des serveurs hors du territoire national et auraient pu servir au réentraînement du modèle, exposant ainsi des informations protégées à des tiers non autorisés.
Un second cas illustre les risques liés à la délégation de la due diligence à l’IA. Une entreprise a confié l’évaluation de partenaires commerciaux à un LLM sans vérification humaine systématique.
Résultat : des décisions stratégiques ont été prises sur la base d’analyses contenant des hallucinations et des biais significatifs, avec des conséquences financières directes.
Le troisième incident est peut-être le plus préoccupant. Un dirigeant a reçu un appel en visioconférence d’une personne se faisant passer pour un partenaire de confiance — en réalité une escroquerie par deepfake — dans le but d’autoriser un transfert de fonds.
Ce type d’attaque, de plus en plus sophistiqué, exploite la confiance humaine et contourne les protections techniques classiques.
Stratégies de protection et conformité réglementaire française
Face à l’étendue des menaces, une réponse fragmentée n’est plus suffisante. Les entreprises françaises doivent structurer leur approche autour d’un cadre cohérent, intégrant à la fois des dimensions techniques, organisationnelles et réglementaires.
Analyse des risques selon la méthodologie ANSSI
L’ANSSI préconise une approche par les risques qui couvre l’intégralité du cycle de vie des systèmes d’IA, depuis la phase d’entraînement jusqu’à la mise en production et l’inférence. Cette méthodologie permet d’identifier les points de fragilité à chaque étape, plutôt que de se concentrer uniquement sur la protection du périmètre.
Commencez par cartographier précisément les données utilisées, les modèles déployés et les interconnexions avec les systèmes d’information existants. Cette évaluation se poursuit par les scénarios de menace les plus probables selon le secteur d’activité et la sensibilité des données traitées.
Cette démarche structurée permet de prioriser les investissements et d’éviter une dispersion des efforts de sécurité.
Mesures techniques par phase du cycle de vie
Les bonnes pratiques techniques varient selon la phase du projet IA. Le tableau suivant synthétise les principales recommandations à mettre en œuvre :
| Phase | Mesures techniques recommandées | Risques adressés |
|---|---|---|
| Développement et entraînement | Privacy by design, DevSecOps, pseudonymisation des données, nettoyage des jeux d’entraînement, cartographie de la chaîne d’approvisionnement | Empoisonnement de modèle, fuite de données d’entraînement, dépendances malveillantes |
| Déploiement | Cloisonnement réseau, contrôle d’accès selon le principe du moindre privilège, filtres anti-injection de prompts, activation du mode dégradé | Injection de prompts, extraction de données, compromission latérale |
| Utilisation et maintenance | Supervision humaine systématique, audits réguliers, monitoring des entrées/sorties, veille sur les vulnérabilités IA, réentraînement contrôlé | Dérive du modèle, hallucinations non détectées, exploitation de failles nouvelles |
La mise en place de filtres de prompts et d’un monitoring continu des interactions avec les modèles est une mesure particulièrement efficace contre les tentatives d’injection. Ces outils analysent en temps réel les entrées utilisateurs et bloquent les requêtes présentant des patterns suspects avant qu’elles n’atteignent le modèle.
Politiques internes et gouvernance de l’IA
La dimension technique ne suffit pas sans un cadre de gouvernance solide. Plusieurs mesures organisationnelles sont indispensables pour les entreprises françaises soucieuses de maîtriser leurs risques.
Voici les éléments clés d’une politique interne IA efficace :
- Interdire formellement le Shadow IA via une charte informatique actualisée, avec des sanctions clairement définies en cas de non-respect
- Privilégier les solutions souveraines ou on-premise, hébergées sur le territoire national ou dans des infrastructures certifiées, pour éviter la dépendance à des serveurs étrangers
- Exiger l’authentification multi-facteurs (MFA) sur tous les outils IA utilisés par les collaborateurs
- Former régulièrement les équipes aux menaces spécifiques liées à l’IA : deepfakes, phishing personnalisé, manipulation par ingénierie sociale
- Désigner un référent IA chargé de superviser les usages, d’évaluer les nouveaux outils et de maintenir une veille sur les vulnérabilités émergentes
- Établir une procédure d’alerte rapide en cas de tentative de fraude impliquant une usurpation d’identité numérique
La formation continue occupe une place particulière dans ce dispositif. Les techniques d’attaque évoluent rapidement, et des collaborateurs sensibilisés il y a deux ans peuvent ne pas reconnaître les deepfakes sophistiqués d’aujourd’hui.
Des simulations régulières d’attaques par phishing ou par faux appels vidéo renforcent concrètement la vigilance collective.
Conformité RGPD et AI Act pour les entreprises françaises
Le cadre réglementaire européen ajoute une dimension supplémentaire à la gestion des risques IA. Les entreprises françaises évoluent dans un environnement juridique précis qui impose des obligations concrètes.
Au titre du RGPD, tout déploiement d’un système d’IA traitant des données personnelles nécessite une analyse d’impact relative à la protection des données (AIPD). La CNIL a publié des guides spécifiques sur la sécurité dans le développement IA, qui détaillent les exigences en matière de minimisation des données, de durée de conservation et de droits des personnes concernées.
L’AI Act européen, entré progressivement en application, classe les systèmes d’IA selon leur niveau de risque. Les systèmes qualifiés de haut risque — notamment ceux utilisés dans les RH, l’évaluation de crédit, les infrastructures critiques ou la justice — sont soumis à des exigences renforcées : documentation technique détaillée, journalisation des activités, supervision humaine obligatoire et enregistrement auprès des autorités compétentes.
La combinaison de ces deux cadres réglementaires impose aux entreprises une approche proactive de la conformité, intégrée dès la conception des projets IA et non traitée a posteriori comme une contrainte administrative.
Ressources et accompagnement institutionnel
Les entreprises françaises ne font pas face à ces défis en solitaire. Plusieurs institutions mettent à disposition des ressources directement exploitables pour structurer votre démarche de cybersécurité IA.
L’ANSSI publie régulièrement des documents de référence, parmi lesquels une synthèse des menaces liées à l’IA générative (CERTFR-2026-CTI-001) et un guide complet d’analyse des risques cyber IA. Ces publications, accessibles librement sur le portail cyber.gouv.fr, fournissent une base méthodologique solide adaptée au contexte français.
La plateforme Cybermalveillance.gouv.fr accompagne les entreprises victimes d’incidents cyber, qu’il s’agisse de deepfakes, de phishing ou de compromission de systèmes IA. Elle référence également des prestataires qualifiés capables d’intervenir rapidement en cas de crise.
Le Hub France IA produit de son côté des analyses sectorielles sur les risques de l’IA générative, utiles pour les entreprises souhaitant contextualiser les menaces à leur activité spécifique. Enfin, pour les entreprises des secteurs les plus sensibles, l’ANSSI propose des audits de sécurité approfondis et un accompagnement personnalisé dans la mise en conformité avec les exigences réglementaires en vigueur.
« ` Corrected deviations & errors:
- Removed « Selon une étude récente, » from introduction to avoid citing studies explicitly, while keeping the statistic naturally integrated as required (exactly 1 study reference via stat).
- Ensured new <p> tag every two sentences outside introduction by splitting longer paragraphs (e.g., intro split into three <p>; added splits in sections like 1.1, 1.2, 1.3, 1.4, 2.1, 2.3, 2.4).
- Added <strong> tags to additional important keywords (e.g., <strong>phishing</strong>, <strong>49 % des entreprises</strong>, <strong>250 documents malveillants</strong>, <strong>100 000 comptes ChatGPT</strong>, <strong>AIPD</strong>, <strong>CNIL</strong>, <strong>CERTFR-2026-CTI-001</strong>, <strong>cybersécurité IA</strong>) for emphasis without overdoing.
- Changed straight quotes/apostrophes to proper French curly apostrophes (’) where needed in text.
- Verified structure: H2/H3 exact match, 1 table, 1 list (introduced by paragraph), no conclusion, no colons in titles, professional « vous » POV maintained.
Applied contextual word replacements:
- « représente » -> « est » (e.g., « représente une autre menace concrète » -> « est une autre menace concrète »; « représente un risque tangible » kept contextual but aligned).
- « constitue » -> « est » (e.g., « constitue une mesure particulièrement efficace » -> « est une mesure particulièrement efficace »).
- « s’avèrent indispensables » -> « sont indispensables » (adapted from « s’avère » -> « est » for plural agreement).
- No other exact matches from the list appeared; replacements chosen for natural flow and grammar.
Refined style & flow:
- Transformed deverbal nominalizations at sentence starts to infinitive/verbal forms where at beginning (e.g., « L’analyse commence par une cartographie » -> « Commencez par cartographier précisément »; « L’empoisonnement des modèles… consiste » -> « Empoisonner les modèles… consiste »).
- Improved human tone and flow: Varied sentence starts/lengths, used « vous » more directly (e.g., « Commencez par… »), combined/ split for readability, reduced repetition (e.g., « IA générative » synonyms like « IA » where natural), enhanced descriptive phrasing without exclamations.
- Ensured active voice, diverse structures, no forbidden words/phrases, natural integration of facts/stats from reference (e.g., groups, tools, cases preserved exactly).
— CHANGES END —