Une formation cybersécurité et IA générative apprend aux collaborateurs à protéger les données confiées aux outils d’IA, à reconnaître les attaques renforcées par l’IA comme l’hameçonnage personnalisé ou les fausses voix, et à appliquer une charte d’usage. Elle s’appuie sur les recommandations de l’ANSSI et de la CNIL. Elle complète utilement toute formation aux outils d’IA générative.
L’IA générative apporte des gains de productivité. Elle crée aussi de nouveaux risques, côté utilisateurs comme côté attaquants.
Protéger les données de l’entreprise
Les informations saisies dans un outil d’IA peuvent être conservées ou utilisées selon les conditions du service. La formation apprend à classer les données et à choisir l’outil adapté à chaque niveau de sensibilité.
- Données publiques : usage libre
- Données internes : outils validés par l’entreprise
- Données confidentielles ou personnelles : outils dédiés ou anonymisation
Le risque principal ne vient pas toujours d’une attaque : il naît souvent d’un usage ordinaire, comme coller un contrat client ou un fichier de salaires dans un outil grand public pour en obtenir une synthèse. Selon l’outil et ses paramètres, ces informations peuvent être conservées ou réutilisées. La formation aide à classer les données selon leur sensibilité et à associer à chaque niveau les outils autorisés.
La formation aborde aussi la conservation des conversations et des fichiers déposés dans les outils : où sont-ils stockés, combien de temps, et comment les supprimer.
Reconnaître les nouvelles attaques
Courriels d’hameçonnage rédigés sans faute, voix clonées d’un dirigeant, faux documents : l’IA rend les tentatives de fraude plus convaincantes. Les participants s’entraînent à repérer les signaux d’alerte.
L’IA générative rend les tentatives d’hameçonnage plus crédibles : textes sans fautes, messages personnalisés à partir d’informations publiques, voix ou vidéos imitant un dirigeant. Les réflexes classiques restent valables, mais doivent être renforcés : vérifier toute demande inhabituelle par un autre canal, se méfier de l’urgence et signaler les messages suspects plutôt que de simplement les supprimer.
Les faux appels qui imitent la voix d’un dirigeant demandent une vigilance particulière : convenir à l’avance d’une procédure de vérification pour les demandes sensibles, comme un rappel systématique sur un numéro connu, réduit fortement le risque.
Le dispositif national Cybermalveillance.gouv.fr met à disposition des fiches pratiques et un service d’assistance aux victimes.
Méthode : sécuriser les usages de l’IA dans votre entreprise
1. Recenser les outils utilisés
Interrogez les équipes sur les outils d’IA qu’elles utilisent réellement, y compris des comptes personnels employés pour des tâches professionnelles. Cet inventaire révèle souvent des usages non déclarés qu’il vaut mieux encadrer qu’interdire.
2. Classer les données
Définissez trois ou quatre niveaux de sensibilité, de l’information publique aux données personnelles ou stratégiques. Pour chaque niveau, indiquez clairement ce qui peut être saisi dans un outil d’IA, et dans lequel.
3. Paramétrer les outils autorisés
Privilégiez des comptes professionnels, désactivez quand c’est possible la réutilisation des conversations pour l’entraînement et activez l’authentification à plusieurs facteurs. Ces réglages se vérifient avec le responsable informatique.
Vérifiez aussi les extensions et les fonctions d’IA intégrées aux logiciels déjà utilisés, qui peuvent transmettre des données sans que l’utilisateur en ait conscience.
4. Rédiger une charte d’usage
Formalisez les règles sur une ou deux pages : outils autorisés, données interdites, vérification des productions, signalement des incidents. Une charte courte est davantage lue et appliquée qu’un long document.
5. Entraîner les équipes
Organisez des mises en situation à partir de messages frauduleux réalistes et revenez régulièrement sur les règles. La sensibilisation fonctionne mieux lorsqu’elle est répétée que lorsqu’elle se limite à une session isolée.
Exemples concrets
La fausse demande de virement
Une comptable reçoit un e-mail apparemment envoyé par son directeur, rédigé sans faute et citant un fournisseur réel. Il lui demande de modifier en urgence les coordonnées bancaires de ce fournisseur avant un paiement prévu le jour même.
Lors de la formation, ce scénario est rejoué avec l’équipe. Les participants repèrent les signaux d’alerte : l’urgence, le changement de coordonnées, une adresse d’expédition légèrement différente. Ils appliquent la procédure définie ensemble : rappeler le directeur et le fournisseur sur des numéros connus, ne jamais valider un changement de coordonnées sur la seule base d’un e-mail et signaler la tentative au responsable informatique. Cette procédure est ensuite inscrite dans la charte d’usage de l’entreprise.
La tentative est également signalée à l’ensemble de l’équipe comptable, afin que chacun reconnaisse un message similaire.
Autre cas : le document confidentiel à résumer
Un chef de projet doit résumer un appel d’offres de cinquante pages avant une réunion. Son premier réflexe serait de déposer le document dans l’outil d’IA qu’il utilise à titre personnel. La charte définie en formation lui indique la marche à suivre : utiliser l’outil professionnel autorisé par l’entreprise, vérifier que le document ne contient pas de données personnelles inutiles et relire le résumé obtenu avant de le diffuser. Le gain de temps est conservé, sans exposer d’information sensible.
Si le document contient des informations couvertes par un accord de confidentialité, il est exclu de tout usage de l’IA, quel que soit l’outil.
La formation « Cybersécurité et IA générative » d’Inwin Academy se déroule sur deux jours (14 heures). Elle s’appuie sur les recommandations de l’ANSSI pour sécuriser les usages de l’IA.