IA et protection des données : six décisions avant de déployer

Les six décisions, dans l’ordre

Le 18 juillet 2024, la CNIL a publié six recommandations pour déployer une IA générative, accompagnées d’un questions-réponses. Elles s’adressent aux organismes qui déploient ou utilisent ces outils, pas à ceux qui les conçoivent. Les voici reformulées en décisions, dans l’ordre où elles se prennent : chacune prépare la suivante. La CNIL les énonce dans un ordre un peu différent, où les limites des outils viennent en troisième.

1. 01Pour quel besoin, et avec quelles données ?Un usage précis d’abord. La liste des données qu’il exige en découle, et rien de plus.
2. 02Quelles données vos équipes peuvent-elles confier à l’outil ?Une liste d’usages autorisés et interdits, écrite dans une charte avant le premier compte ouvert.
3. 03Où faire tourner l’IA ?Service grand public, cloud sous contrat, API ou vos serveurs : la sensibilité des données tranche.
4. 04Qui vérifie ce que l’IA produit ?Une personne, avant tout usage qui engage l’entreprise : une réponse fausse peut paraître plausible.
5. 05Qui former, et à quoi ?Chaque utilisateur, aux usages interdits et aux limites de l’outil. L’AI Act le demande depuis février 2025.
6. 06Qui pilote, et comment le prouver ?Un référent, le DPO s’il existe, une analyse d’impact quand le risque est élevé, des contrôles réguliers.

Le besoin, puis les données que l’outil peut recevoir

La CNIL demande de ne pas déployer un outil d’IA générative « sans but précis », mais pour des usages déjà identifiés. Ce point de départ conditionne la suite : le RGPD exige des données limitées à ce qui est nécessaire à la finalité (article 5). Un usage flou ne permet ni de lister les données utiles, ni de choisir l’outil.

Vient ensuite la liste des usages autorisés et interdits, que la CNIL recommande d’écrire dans une politique ou une charte interne. Pour un service grand public, ses questions-réponses en donnent les règles de base.

Cette liste dépend du mode de déploiement. Quand le fournisseur peut réutiliser les données selon ses conditions générales, la CNIL demande une analyse au cas par cas : interdire toute donnée personnelle, ou seulement certaines catégories. Sur vos serveurs, où aucune réutilisation par le fournisseur n’est possible, ces interdictions ne sont plus nécessaires.

Où faire tourner l’IA : la décision de souveraineté

Le questions-réponses de la CNIL distingue quatre modes de déploiement, et précise que le choix « dépend du cas d’usage et des données utilisées en entrée ».

Le lieu du serveur ne règle pas tout. La CNIL cite deux situations où des données peuvent sortir de l’Union : une infrastructure hébergée hors de l’UE, ou opérée par un fournisseur non européen. Le transfert doit alors être encadré (chapitre V du RGPD). Le Cloud Act américain, en vigueur depuis le 23 mars 2018, pose une autre question : il oblige un fournisseur soumis au droit américain à remettre, sur réquisition des autorités américaines, les données qu’il détient ou contrôle, qu’elles soient stockées aux États-Unis ou ailleurs (18 U.S.C. § 2713). De son côté, le RGPD ne permet de reconnaître ou d’exécuter une telle décision étrangère que si elle repose sur un accord international (article 48).

La souveraineté se joue donc sur trois points : la juridiction du fournisseur, le lieu d’hébergement et le modèle lui-même. Pour sécuriser l’architecture, la CNIL renvoie aux recommandations de l’ANSSI pour un système d’IA générative, publiées le 29 avril 2024.

Qui vérifie ce que l’IA produit

Un modèle d’IA générative produit la réponse statistiquement la plus probable, pas une vérité. La CNIL rappelle qu’il peut générer des résultats inexacts « qui peuvent, pourtant, paraître plausibles ». Le niveau de contrôle dépend donc de ce que la réponse décide.

Former les équipes, puis piloter dans la durée

Dans le cas général, rappelle la CNIL, c’est l’organisme utilisateur qui engage sa responsabilité si son personnel utilise mal l’IA. D’où la formation : usages interdits, limites de l’outil, vérification des sorties. L’AI Act va dans le même sens : depuis le 2 février 2025, son article 4 demande aux entreprises qui déploient l’IA de prendre des mesures pour la maîtrise de l’IA de leurs équipes. Le calendrier complet et vos obligations de déployeur sont sur la page AI Act : ce qui s’applique à votre PME.

Le pilotage tient en cinq gestes, tirés du même questions-réponses. L’analyse d’impact (AIPD) s’impose avant le traitement quand celui-ci est susceptible d’engendrer un risque élevé pour les personnes, en particulier avec une technologie nouvelle (article 35 du RGPD).

Quand l’IA agit : ce que la note sur les agents ajoute

Le 20 juillet 2026, la CNIL et le Conseil de l’IA et du numérique (CIANum) ont publié une note exploratoire sur l’IA agentique. Un agent ne se contente plus de répondre : il accède à plusieurs sources, garde une mémoire d’une tâche à l’autre et agit sur d’autres services. La note y voit un « risque réel de perte de maîtrise » de l’utilisateur sur ses données, et des responsabilités plus difficiles à attribuer entre les acteurs.

Ce n’est pas une recommandation au sens strict : la note propose des voies de conciliation. Ses pistes techniques s’appliquent directement à une PME qui déploie un agent.

La note rappelle aussi que l’intervention humaine doit être réelle : une validation purement formelle ou automatique ne suffit pas à sortir du cadre de l’article 22 du RGPD. Côté AI Act, la Commission précise que les agents ne forment pas une catégorie à part : les règles des systèmes d’IA s’appliquent, dont la transparence depuis le 2 août 2026 quand l’agent échange avec des personnes ou génère du contenu. Droits d’accès, mémoire, chaîne de sous-traitants et journaux sont détaillés dans le guide agents IA et données personnelles.

Deux chantiers sont annoncés : des lignes directrices du CEPD et de la Commission sur l’articulation entre RGPD et AI Act, attendues d’ici fin 2026 selon la note, et des travaux de la CNIL sur l’IA au travail et en santé, à finaliser en 2026 selon son programme du 7 avril 2026.

Deux cas réels

Deux systèmes réels appliquent ces décisions : droits limités, registre des actions et validation humaine des actions irréversibles pour le premier ; envois bloqués tant que la désinscription n’est pas conforme au RGPD pour le second.

Vos données : une IA souveraine, de bout en bout

Sur chaque mission, le trajet de vos données est dessiné avec vous au cadrage et documenté à la livraison.

Les guides de ce dossier

1. 01Un agent IA peut-il traiter des données personnelles ?Droits d’accès, mémoire, sous-traitants, journaux : ce qui change quand l’IA agit.
2. 02Que vous impose l’AI Act, et à quelle date ?Calendrier, rôle de déployeur, niveaux de risque, en France, au Luxembourg et en Belgique.
3. 03ChatGPT, Copilot, Claude, Gemini, Le Chat : que deviennent vos données ?Comparatif daté des offres. À paraître.
4. 04Où faire tourner l’IA d’une PME : offre américaine, hébergeur européen ou vos serveurs ?IA souveraine et modèle installé en local. À paraître.
5. 05Quelle charte IA pour des équipes qui utilisent des agents ?Un modèle de charte qui couvre les agents. À paraître.

Sources

Questions fréquentes