✨ Contenu partiellement généré par une IA et validé par un agent avant parution.
TL;DR
Je préparais un exercice de formation. Il me fallait la photographie d’un cabinet médical où traînent les erreurs que je vois en audit : session ouverte, carte professionnelle dans le lecteur, post-it nominatifs au mur. Impossible d’utiliser mes photos de clients, alors j’ai demandé l’image à un générateur.
Mon prompt disait, en toutes lettres, que le texte devait être flou et illisible. Le modèle a produit des noms lisibles et des numéros de téléphone au bon format français. Sept, sur une seule image.
Cette erreur dit trois choses de l’IA générative et du RGPD. Une consigne de discrétion écrite dans un prompt n’est pas une mesure de protection des données. La conformité pèse sur celui qui déploie l’outil, pas sur l’outil. Et une donnée fabriquée par une IA générative n’est pas anonyme du seul fait qu’elle a été inventée.
L’article raconte le cas, vérifie ce que les textes disent réellement, et propose six règles avant de générer une image contenant des données d’apparence personnelle.
Sommaire
- Ce que j’ai demandé, ce que j’ai obtenu
- Pourquoi la consigne n’a pas été suivie
- Qui doit minimiser, du modèle ou de moi
- Un numéro inventé est-il une donnée personnelle
- Ce que le règlement IA règle, et ce qu’il laisse ouvert
- IA générative et RGPD : six règles avant de générer une image
- L’erreur devenue exercice
Introduction
Je forme des secrétaires médicales et des assistantes juridiques à la protection des données. Le module sur la sécurité du poste de travail gagne beaucoup à partir d’une image plutôt que d’une liste d’obligations : on projette un bureau, on laisse chercher quatre minutes, et les apprenants trouvent seuls ce que trois diapositives n’auraient pas fait passer.
Le problème est que ces images, je les ai, mais elles viennent de chez mes clients. Les diffuser en salle serait un manquement, quelle que soit la pédagogie qu’on en tire. L’IA générative offrait une sortie évidente : fabriquer un cabinet qui n’existe pas, avec les mêmes défauts que ceux que j’observe.
C’est là que la question de l’IA générative et du RGPD s’est posée pour moi, non pas en conseil chez un client, mais dans ma propre production. Et je m’y suis trompée.
Ce que j’ai demandé, ce que j’ai obtenu
Le prompt décrivait cinq manquements : une session de logiciel métier restée ouverte sur une liste de patients, une carte de professionnel de santé oubliée dans son lecteur, un mur couvert de notes nominatives, un dossier médical ouvert sur le bureau, une pochette de résultats débordant au sol.
Sur le point qui nous occupe, il précisait ceci : le texte affiché devait être « légèrement flou et illisible dans le détail, mais clairement identifiable comme des coordonnées de personnes ». L’intention était exactement celle d’un professionnel de la donnée : que l’on comprenne la nature de l’information sans jamais pouvoir la lire.

Figure 1 – Détail du mur de notes de l’image générée. Les numéros ont été floutés par mes soins avant publication, ils étaient parfaitement lisibles à la sortie du modèle. Source : image produite par l’auteure, août 2026.
Le résultat comportait sept numéros de téléphone lisibles, au format français, mobiles et fixes, associés à des noms de famille courants et à des mentions de service. Le rendu de l’écran d’ordinateur, lui, respectait la consigne : la liste de patients était floue.
Deux observations méritent d’être posées. Le modèle a respecté la consigne à certains endroits et pas à d’autres, sans que rien dans le prompt n’explique la différence. Et les numéros produits ne sont pas des séquences absurdes : ils ont la longueur, le préfixe et le rythme d’un numéro réellement attribuable.
Pourquoi la consigne n’a pas été suivie
Un générateur d’image ne lit pas un prompt comme un cahier des charges. Il l’utilise pour orienter une production statistique. Une instruction de mise en forme, comme le format ou l’angle de prise de vue, s’impose bien parce qu’elle structure toute l’image. Une instruction négative portant sur un détail, comme rendre un texte illisible, entre en concurrence avec ce que le modèle a appris : dans les images d’apprentissage, un post-it manuscrit porte du texte lisible.
Autrement dit, la consigne de discrétion n’a pas de statut particulier pour le modèle. Elle ne déclenche aucun contrôle, aucune vérification, aucun blocage. Elle pèse le poids d’une préférence stylistique, au milieu de dizaines d’autres.
C’est le premier enseignement, et il vaut au-delà de la génération d’image. Écrire dans un prompt « n’utilise pas de données personnelles », « anonymise », « reste vague », ne produit aucune garantie. Cela produit une probabilité. Un dispositif de protection des données qui repose sur une probabilité non mesurée n’est pas un dispositif.
Qui doit minimiser, du modèle ou de moi
La tentation est de dire que le modèle aurait dû minimiser. Le RGPD ne raisonne pas ainsi.
L’article 5, paragraphe 1, point c, du règlement dispose que les données à caractère personnel doivent être « adéquates, pertinentes et limitées à ce qui est nécessaire au regard des finalités pour lesquelles elles sont traitées ». Le paragraphe 2 du même article précise que « le responsable du traitement est responsable du respect du paragraphe 1 et est en mesure de démontrer que celui-ci est respecté ». L’obligation ne pèse pas sur un artefact technique. Elle pèse sur celui qui décide des finalités et des moyens.
Dans mon cas, cette personne, c’est moi. J’ai choisi l’outil, écrit le prompt, retenu l’image, et décidé de la projeter devant des apprenants. Le fournisseur du modèle n’a pas décidé qu’un support de formation FINETHIQUE porterait un mur de post-it nominatifs.
L’article 25 du RGPD va dans le même sens. Il impose au responsable du traitement de mettre en oeuvre des mesures appropriées « tant au moment de la détermination des moyens du traitement qu’au moment du traitement lui-même », et cite la minimisation comme exemple de principe à rendre effectif. Son paragraphe 2 ajoute une exigence de réglage par défaut, portant sur la quantité de données, l’étendue du traitement, la durée de conservation et l’accessibilité.
Une réserve d’honnêteté s’impose ici. L’article 25 s’adresse au responsable du traitement, et à lui seul. L’invoquer suppose d’avoir d’abord établi qu’un traitement de données personnelles a lieu, ce qui est précisément la question de la section suivante. Ce que je retiens de ces deux articles, à ce stade, tient en une phrase : la conformité ne se délègue pas à un prompt, parce que le prompt n’est pas le responsable.
Un numéro inventé est-il une donnée personnelle
C’est la question difficile, et je vais y répondre en distinguant ce que disent les textes de ce que j’en pense.
Ce que les autorités ont effectivement écrit
L’avis 28/2024 du Comité européen de la protection des données, adopté le 17 décembre 2024, est le texte de référence sur les modèles d’IA. Il faut le lire pour ce qu’il est. Il traite de l’anonymat du modèle lui-même, et ses deux critères sont rattachés aux personnes dont les données ont servi à l’entraînement : la probabilité d’extraction de données concernant ces personnes, et la probabilité d’obtenir de telles données par des requêtes, doivent être insignifiantes.
Cet avis ne dit pas qu’une donnée inventée par un modèle, sans lien avec son jeu d’entraînement, et qui coïnciderait avec une personne réelle, serait une donnée à caractère personnel. Il exclut d’ailleurs expressément de son analyse l’article 25, paragraphe 1, du RGPD. Lui faire dire autre chose serait un contresens.
La CNIL a repris ces critères dans sa fiche pratique sur le statut d’un modèle d’IA au regard du RGPD, publiée le 22 juillet 2025. Ses fiches sur l’IA portent sur la phase de développement, et elle indique elle-même que les questions liées à l’utilisation des systèmes feront l’objet de publications ultérieures.
Un élément est en revanche directement utile. Dans ses recommandations sur le développement des systèmes d’IA, la CNIL range parmi les risques à traiter en analyse d’impact « le risque de produire du contenu fictif erroné sur une personne réelle, notamment dans le cas des systèmes d’IA génératives ». Le risque que j’ai rencontré est donc identifié comme tel par l’autorité, même s’il n’est pas tranché en termes de qualification juridique.
Sur les données synthétiques, la seule prise de position française accessible émane du LINC, le laboratoire d’innovation numérique de la CNIL, dans un billet de 2022 : qualifier de manière générale les données de synthèse d’anonymes lui semble exclu, et la charge de la démonstration revient au responsable du traitement. Le LINC n’engage pas la doctrine de la CNIL, et le billet est antérieur à la diffusion grand public de l’IA générative. Il indique une direction, pas une règle.
Ce que j’en conclus, à titre d’analyse
L’article 4, point 1, du RGPD définit la donnée à caractère personnel comme toute information se rapportant à une personne physique identifiée ou identifiable. Le texte ne s’intéresse pas à la manière dont l’information a été produite. Il s’intéresse à ce qu’elle permet.
Un numéro de téléphone au bon format, associé à un nom de famille et à un service, ne devient pas inoffensif parce qu’un modèle statistique l’a assemblé. Soit il n’est attribué à personne, et il ne se rapporte à personne. Soit il est attribué, et il désigne un abonné, indépendamment de l’intention de celui qui l’a produit. Je n’ai aucun moyen de savoir dans quel cas je me trouve, et c’est bien le problème : je ne peux pas démontrer l’absence de rattachement.
Cette incertitude suffit à commander la prudence, sans qu’il soit besoin de trancher le débat théorique. En pratique, la question utile n’est pas « cette donnée est-elle personnelle », mais « suis-je en mesure de démontrer qu’elle ne l’est pas ». Sur une image générée, la réponse est non.
Le Comité européen de la protection des données a par ailleurs adopté le 7 juillet 2026 des projets de lignes directrices sur l’anonymisation, soumis à consultation publique jusqu’au 30 octobre 2026. Ils sont en projet et ne constituent pas du droit établi, mais ils confirment que le sujet est ouvert.
Ce que le règlement IA règle, et ce qu’il laisse ouvert
On m’oppose souvent que le règlement (UE) 2024/1689 sur l’intelligence artificielle aurait réglé la question. Son article 50, applicable depuis le 2 août 2026, mérite une lecture précise.
Son paragraphe 2 impose aux fournisseurs de systèmes générant des contenus de synthèse, image comprise, de veiller à ce que les sorties soient marquées dans un format lisible par machine et identifiables comme générées par une IA. Son paragraphe 4 impose aux déployeurs d’indiquer qu’un hypertrucage a été généré ou manipulé par une IA, avec un régime allégé pour les oeuvres manifestement artistiques ou fictives.
Ce que cet article fait : il oblige à dire qu’un contenu est artificiel. C’est d’ailleurs la raison du badge que porte cet article.
Ce qu’il ne fait pas : il n’impose rien sur le contenu des sorties. Il n’interdit pas de générer un nom ou un numéro lisible, n’exige aucune illisibilité, et le marquage qu’il prévoit au paragraphe 2 est lisible par machine, donc invisible pour l’apprenant assis dans ma salle. Il ne crée aucun droit au bénéfice de la personne dont le numéro apparaîtrait sur l’image. Le manquement relève de la surveillance du marché, pas de la CNIL.
Le règlement IA répond à la question de l’origine du contenu. Il ne répond pas à celle de son contenu. Les deux régimes se cumulent sans se substituer l’un à l’autre.
IA générative et RGPD : six règles avant de générer une image
De cette erreur, j’ai tiré une marche à suivre que j’applique désormais avant toute génération d’image destinée à un support professionnel.

Figure 2 – Marche à suivre avant publication d’une image générée. Source : FINETHIQUE, août 2026.
1. Ne jamais soumettre de données réelles. Aucun nom de patient, de client ou de salarié dans un prompt, aucune photographie de terrain soumise à un modèle pour retouche. Cette règle est celle qui protège le plus, parce qu’elle porte sur l’entrée, seul endroit où le contrôle est certain.
2. Décider à l’avance ce que l’image ne doit pas contenir. La liste s’écrit avant le prompt, pas après le rendu. Numéros, adresses, dates de naissance, identifiants, plaques d’immatriculation, mentions d’établissement réel.
3. Relire le rendu comme on relit une pièce d’un dossier. À la loupe, en zoomant sur chaque zone de texte. Les défauts se logent dans les détails que l’oeil survole : un post-it au second plan, un écran incliné, une étiquette de classeur.
4. Neutraliser plutôt que régénérer. Régénérer produit une nouvelle image, avec de nouveaux défauts, et fait perdre le cadrage. Un floutage ciblé sur les caractères sensibles conserve la valeur pédagogique de l’image et supprime la donnée.
5. Conserver la trace de ce qui a été retiré. Garder l’original hors diffusion, documenter la zone neutralisée et la date. C’est ce qui permet de démontrer la démarche si la question se pose.
6. Traiter la sortie comme une donnée dont on ignore le statut. Ne pas la publier sur un canal ouvert sans avoir passé les cinq étapes précédentes. Le doute sur le statut se règle par le traitement, pas par l’espoir.
Ces six règles ne dépendent d’aucun texte à venir. Elles se déduisent de la seule chose que le RGPD demande au responsable du traitement : être en mesure de démontrer.
L’erreur devenue exercice
J’ai hésité entre supprimer ces images et les utiliser. J’ai choisi de les garder, et d’en faire un troisième temps d’exercice.
Le premier temps, les apprenants cherchent les cinq manquements du cabinet. Le deuxième, on corrige et on projette le même bureau remis en ordre.

Figure 3 – Le même cabinet après correction des cinq manquements. Source : image produite par l’auteure, août 2026.
Le troisième temps tient en une question posée à la salle : qui a écrit ces numéros ? Personne. Une machine les a assemblés, au bon format, plausibles, peut-être attribués à quelqu’un. La démonstration porte mieux que n’importe quel rappel théorique sur l’IA générative et le RGPD, parce qu’elle se voit.
Je publie ces images floutées plutôt que nettes, pour une raison simple. En salle, l’image est projetée puis disparaît. Sur un site, elle est indexable et se copie. Le geste que je demande à mes apprenants, je me l’applique.
J’ai refait le même exercice pour mes apprenantes assistantes juridiques, avec un cabinet d’avocat et les mêmes défauts transposés : session ouverte sur le logiciel de gestion, clé d’accès à la plateforme professionnelle restée branchée, tableau blanc couvert de noms de clients et de dates d’audience.

Figure 4 – Version juridique de l’exercice. Deux numéros de téléphone figuraient en clair sur le tableau blanc, ils ont été floutés avant publication. Source : image produite par l’auteure, août 2026.
Le générateur a commis exactement la même erreur sur cette seconde image. La répétition est un renseignement en soi : ce n’était pas un accident de prompt.
L’exercice fonctionne aussi auprès des professionnels que j’accompagne, en ESSMS comme en cabinet libéral, parce qu’il déplace la discussion. On ne parle plus de savoir si l’IA générative est autorisée. On parle de ce qu’on vérifie avant de s’en servir, et la relation entre IA générative et RGPD cesse d’être une question de principe pour devenir une question de procédure.
Conclusion
Trois choses restent de cette image ratée.
La première est technique. Une consigne de discrétion dans un prompt ne produit pas de garantie, seulement une probabilité, et elle n’est suivie ni uniformément ni de façon prévisible.
La deuxième est juridique. L’article 5 du RGPD fait porter la minimisation sur le responsable du traitement, pas sur l’outil. Le règlement IA impose de signaler qu’un contenu est artificiel, sans rien dire de son contenu. Aucun de ces textes ne dispense de regarder l’image avant de la publier.
La troisième est de méthode. Sur une sortie de modèle génératif, on ne sait pas démontrer qu’une donnée d’apparence personnelle ne se rapporte à personne. Cette impossibilité de démonstration suffit à commander un traitement prudent, sans attendre que le débat sur les données synthétiques soit tranché.
Je me suis trompée sur un support de formation, dans un contexte où l’erreur ne coûtait rien. La même erreur, sur un site institutionnel ou une plaquette commerciale, coûterait davantage. Ces règles gagnent à être écrites dans un document interne, et notre charte IA pour organisme de formation en propose un modèle.
Vous utilisez l’IA générative dans vos supports ou vos process ? Parlons-en
FINETHIQUE accompagne les TPE, PME et associations sur la qualification des usages d’IA au regard du RGPD : analyse d’impact, encadrement des prompts, mentions de transparence, articulation avec le règlement IA.
Quel usage d’IA générative avez-vous déjà introduit dans vos process sans l’avoir documenté ?
Prendre rendez-vous avec Mandy LABADIE, Consultante RGPD : https://finethique.fr/contact
Premier échange de 45 minutes, sans engagement, pour situer votre exposition réelle.
Contact direct :
- Téléphone : 06 07 42 36 84
- E-mail : mlabadie@finethique.fr
- Site : finethique.fr
Sources
Textes européens :
- Règlement (UE) 2016/679 (RGPD), article 5 et article 25
- Règlement (UE) 2024/1689 sur l’intelligence artificielle, article 50
Autorités de protection des données :
- CEPD, avis 28/2024 du 17 décembre 2024 sur les modèles d’IA
- CNIL, fiche pratique – Analyser le statut d’un modèle d’IA au regard du RGPD, 22 juillet 2025
- CNIL, recommandations sur le développement des systèmes d’IA
- LINC, Données synthétiques – et l’homme créa les données à son image, 2022
Mots-clés : IA générative et RGPD, minimisation des données, données synthétiques, anonymisation, règlement IA, article 50, image générée par IA, protection des données dès la conception, formation RGPD.


