10 min de lecture

Sécurité des données et IA : ce qu’il faut savoir avant de déployer un outil

William

Rédacteur prestataires et recrutement · Anaska

Pour encadrer la sécurité des données dans un projet d’IA, commencez par définir la tâche et les informations nécessaires. Demandez ensuite un schéma des flux, les conditions d’utilisation des contenus, les modalités de conservation et la liste des accès. Prévoyez une recette avec des données fictives, des demandes hors périmètre et des opérations de suppression. Comparez les prestataires sur leurs engagements documentés et préparez le suivi après le lancement. Ces conseils doivent être adaptés au contexte technique et juridique du projet.

Résumer avec l'IA ChatGPT Perplexity Claude Google IA

Avant de confier des documents à une intelligence artificielle, une entreprise doit pouvoir expliquer quelles informations elle souhaite utiliser, pour quelle tâche et avec quelles limites. La bonne question dépasse le choix d’un logiciel : qui pourra consulter les données, où seront-elles utilisées et comment vérifier que le fonctionnement correspond au besoin ?

La sécurité des données et l’IA se rencontrent ainsi dans des décisions très concrètes : autoriser un document, ouvrir un accès, conserver une conversation ou valider une réponse avant sa diffusion. Cet article propose une méthode pour préparer ces décisions et comparer les engagements d’un prestataire. Les mesures proposées sont des conseils de cadrage à adapter au projet ; elles ne constituent ni une validation juridique ni une garantie de sécurité.

1. Partir de la tâche, avant de choisir les données

Commencez par décrire une action précise. « Utiliser l’IA dans le service commercial » laisse trop de questions ouvertes. « Préparer un brouillon de réponse à partir d’une fiche produit approuvée » permet déjà de discuter des informations nécessaires, des destinataires et du contrôle attendu. Nous recommandons de rédiger cette description avant toute démonstration commerciale.

Pour chaque tâche envisagée, notez le résultat recherché et ce qui doit rester sous décision humaine. Un outil chargé de proposer une formulation ne devrait pas recevoir automatiquement la mission de modifier une fiche client ou d’envoyer un message. Traitez chaque extension comme une décision distincte, avec ses propres données et conditions d’autorisation.

Le NIST présente son AI Risk Management Framework comme un cadre d’utilisation volontaire destiné à intégrer des considérations de confiance dans la conception, le développement, l’utilisation et l’évaluation des systèmes d’IA. Cette approche soutient un cadrage sur l’ensemble du projet, plutôt qu’une vérification limitée au lancement. Présentation du cadre par le NIST.

Le livrable conseillé est une fiche d’usage courte : objectif, utilisateurs, documents nécessaires, résultat attendu, responsable métier et situations exclues. Ajoutez une condition d’arrêt compréhensible. Par exemple, dans un scénario fictif, un assistant de rédaction pourrait être suspendu si son fonctionnement nécessite finalement l’accès à des dossiers qui n’avaient pas été autorisés.

2. Cartographier le parcours complet des informations

Pour examiner un projet, nous conseillons de suivre un document depuis son emplacement initial jusqu’à la réponse finale. Demandez au prestataire de représenter chaque étape : sélection du fichier, préparation éventuelle, transmission au service d’IA, restitution, consultation par l’utilisateur et conservation prévue. Faites également apparaître les copies nécessaires à l’assistance ou au diagnostic, lorsqu’elles existent.

Ne vous contentez pas d’un dessin où figure une seule case intitulée « plateforme ». Demandez quels intervenants assurent les différentes opérations et quelles informations chacun est susceptible de recevoir. Si une réponse manque, inscrivez cette incertitude dans le dossier de décision. Une information inconnue doit rester visible jusqu’à sa clarification.

Prenez aussi le chemin inverse : une réponse affichée à l’écran peut-elle être exportée, partagée avec un collègue ou intégrée dans un autre outil ? Pour votre analyse, considérez ces sorties comme des étapes à examiner. Le périmètre utile ne s’arrête donc pas nécessairement à la production du texte demandé.

Un exemple fictif aide à rendre cet exercice concret : une équipe veut résumer des comptes rendus. Comparez un parcours où l’utilisateur sélectionne un extrait à un parcours où un dossier partagé entier devient accessible. Notre conseil consiste à demander deux représentations séparées, puis à discuter du besoin réel avant de retenir l’option la plus étendue.

3. Définir quelles données peuvent être utilisées

Établissez une liste compréhensible des contenus autorisés, des contenus à préparer et des contenus exclus du premier périmètre. Vous pouvez partir de catégories métier : documentation publique, procédures internes, dossiers clients, informations relatives aux salariés ou documents de négociation. Cette grille sert à organiser les décisions ; elle ne remplace pas l’examen juridique de chaque situation.

Pour chaque catégorie, demandez si le document complet est indispensable. Nous conseillons de rechercher d’abord une version plus limitée : passage sélectionné, fiche de référence ou exemple fictif. Faites ensuite vérifier que cette réduction laisse assez de contexte pour accomplir la tâche. L’arbitrage porte sur l’utilité de chaque information, pas seulement sur le volume transmis.

Évitez de déclarer un document « anonyme » uniquement parce que certains champs ont été retirés. Pour votre procédure interne, prévoyez une vérification des informations restantes et sollicitez les compétences adaptées avant d’utiliser cette qualification. La page thématique de la CNIL signale notamment des travaux du CEPD consacrés à l’anonymisation dans le contexte de l’IA générative, sans détailler ici leurs critères. Dossier intelligence artificielle de la CNIL.

Dans un exemple fictif de préparation commerciale, remplacez d’abord le dossier réel par une situation inventée, clairement étiquetée. Vous pourrez discuter du format de réponse et du vocabulaire attendu avant de décider si des informations réelles sont nécessaires. Documentez ensuite les différences entre cet exercice et l’usage envisagé en production.

4. Comparer les prestataires sur des réponses vérifiables

Pour consulter une agence ou un intégrateur, transmettez le même scénario à tous les candidats. Demandez une réponse applicable à la configuration proposée, avec les références documentaires correspondantes. Une formule comme « vos données sont protégées » doit être suivie d’explications sur les opérations concernées, les paramètres retenus et les limites de l’engagement.

Le tableau suivant constitue une trame de consultation proposée par la rédaction. Il ne décrit les fonctionnalités d’aucun fournisseur et n’attribue aucune certification.

Questions à intégrer au dossier de comparaison d’un projet d’IA
SujetQuestion à poserÉlément à demanderArbitrage à documenter
Données transmisesQuels contenus quittent chaque composant ?Schéma des flux correspondant au projetDocument complet ou extrait sélectionné
Utilisations ultérieuresQuels usages des contenus sont prévus après la réponse ?Conditions applicables et réglages retenusAcceptabilité de chaque usage déclaré
ConservationQue conserve chaque intervenant et selon quelles modalités ?Règles par catégorie de contenuBesoin de suivi et limitation des copies
AccèsQui peut consulter ou administrer le service ?Matrice des rôles et procédure de retraitAutonomie des équipes et accès accordés
Fin de prestationComment récupérer les éléments utiles et fermer les accès ?Procédure de sortie et limites annoncéesContinuité du travail et dépendance au prestataire

Classez chaque réponse comme documentée, à préciser ou incompatible avec votre besoin. Demandez qui porte l’engagement : l’agence, l’éditeur ou un autre intervenant. Pour structurer votre lecture des offres, vous pouvez consulter la méthodologie d’Anaska. Conservez séparément les points non résolus afin qu’ils restent visibles au moment du choix.

5. Encadrer les accès et les actions possibles

Distinguez, dans votre cahier des charges, la consultation d’informations et l’exécution d’actions. Lire une documentation, préparer une modification et appliquer cette modification sont trois autorisations à examiner séparément. Nous recommandons de décrire chacune avec un responsable, un périmètre et un mode de retrait, plutôt que d’accorder un accès global au nom de la simplicité.

Cette distinction devient particulièrement utile lorsqu’un projet prévoit un assistant capable d’agir dans d’autres applications. La CNIL présente l’IA agentique comme une évolution permettant d’agir sur l’environnement à la place de l’utilisateur et signale une note exploratoire consacrée aux données personnelles. Cette présentation ne suffit pas, à elle seule, à déterminer les règles applicables à votre projet. Présentation de l’IA agentique par la CNIL.

Pour un premier périmètre, notre conseil est d’envisager la préparation d’actions soumises à validation. Dans un exemple fictif de support client, l’assistant proposerait un message, tandis qu’un collaborateur choisirait son destinataire et confirmerait l’envoi. La recette devrait vérifier cette séparation, y compris lorsqu’une demande invite l’outil à accélérer le traitement.

Prévoyez également les changements d’équipe. Qui retire les accès au départ d’un collaborateur ? Qui vérifie qu’un intervenant temporaire n’a plus besoin de son compte ? Consignez ces opérations dans une procédure d’exploitation. Demandez une démonstration adaptée à la configuration retenue avant de considérer le fonctionnement comme accepté.

6. Séparer les documents consultés des consignes autorisées

Nous recommandons de traiter les contenus que l’assistant consulte comme des éléments à analyser, sans leur accorder automatiquement le pouvoir de modifier sa mission. Inscrivez cette règle dans la conception et dans les scénarios de vérification. Un document métier doit pouvoir contenir une phrase impérative sans que celle-ci devienne une autorisation d’accéder à d’autres informations.

Préparez, par exemple, un document fictif contenant une demande de révéler un dossier exclu. Le résultat attendu de l’exercice doit être défini à l’avance : l’application poursuit la tâche autorisée sans étendre les accès. Cet exemple constitue une proposition de test ; il ne rapporte aucun incident observé ni aucun comportement vérifié sur un logiciel.

La page du projet OWASP consacré aux applications utilisant de grands modèles de langage présente une initiative dédiée à l’identification, à la réduction et à la documentation des risques de sécurité liés à l’IA générative, notamment aux systèmes agentiques. Elle indique également que son Top 10 reste une composante du projet. Présentation du projet OWASP.

Pour votre consultation, demandez au prestataire de transformer les risques qu’il retient en scénarios compréhensibles : contenu rencontré, action sollicitée, comportement attendu et preuve recueillie. Ne considérez pas une référence générale à OWASP comme une démonstration suffisante. La discussion doit aboutir à des vérifications liées à vos documents et aux fonctions effectivement prévues.

7. Préparer une recette qui examine aussi les refus

Une recette utile doit permettre de décider si l’usage peut être ouvert aux équipes. Nous conseillons de prévoir des demandes ordinaires, des demandes ambiguës et des demandes dépassant le périmètre. Pour chacune, définissez le comportement attendu avant l’exécution : répondre, demander une précision, produire un brouillon ou refuser l’opération demandée.

Dans un exemple fictif d’assistant documentaire, un collaborateur autorisé interroge une procédure de son équipe. Un autre cherche un dossier auquel il ne devrait pas accéder. Un troisième demande une synthèse mélangeant documents autorisés et exclus. Préparez les réponses attendues avec les responsables métier, puis demandez un compte rendu séparé pour chaque scénario.

Examinez aussi la manière dont les résultats seront utilisés. Si une réponse doit être relue, précisez qui la relit et selon quels critères. Une mention « validation humaine » reste trop vague si personne ne sait vérifier les informations, retrouver le document de référence ou interrompre la diffusion d’un contenu problématique.

Le NIST indique que son profil consacré à l’IA générative, publié le 26 juillet 2024, aide les organisations à identifier des risques propres à ces technologies et propose des actions adaptées à leurs objectifs et priorités. Présentation du profil par le NIST. Pour votre projet, traduisez cette logique en critères d’acceptation explicites et en décisions consignées après la recette.

8. Arbitrer conservation, traçabilité et suppression

Demandez une réponse distincte pour les documents envoyés, les échanges, les réponses produites et les éléments de suivi technique prévus. Notre recommandation est d’associer chaque conservation envisagée à une finalité précise. Si personne ne peut expliquer pourquoi un contenu doit rester disponible, remettez ce choix en discussion avant l’ouverture du service.

La traçabilité doit elle aussi faire l’objet d’un arbitrage. Déterminez les informations dont l’équipe aura besoin pour comprendre une opération : utilisateur concerné, moment, document sollicité ou action validée, selon le cas. Évaluez ensuite si le contenu intégral est nécessaire. Évitez d’imposer la copie de tous les échanges sans examiner l’utilité et l’accès à ces copies.

Pour la suppression, demandez au prestataire de décrire ce qui est concerné, ce qui ne l’est pas et les modalités applicables. Faites apparaître les éventuelles différences entre fermeture d’un compte, retrait d’un document et fin de prestation. N’annoncez aucune disparition complète ou immédiate si elle n’est pas établie pour la configuration choisie.

Nous conseillons de consacrer une partie de la recette à ces opérations administratives. Utilisez des contenus fictifs identifiables pour vérifier le parcours prévu et recueillir les explications sur ses limites. Le livrable attendu est une procédure exploitable par votre équipe, accompagnée des éléments documentaires applicables, plutôt qu’une simple promesse inscrite dans une présentation commerciale.

9. Organiser le signalement et les changements

Avant l’ouverture, préparez un circuit de signalement court. Un utilisateur doit savoir à qui transmettre une réponse inattendue ou un doute sur l’accès à un document. Nous recommandons de demander une description de l’action, du moment et du contexte, en évitant de diffuser inutilement le contenu concerné à de nouveaux destinataires.

Désignez ensuite qui peut suspendre l’usage, retirer une connexion et contacter les intervenants techniques. Préparez ces décisions pendant que le fonctionnement est normal. Dans un exercice fictif, faites parcourir à l’équipe le cas d’une réponse contenant un passage qui semble provenir d’un dossier exclu : qui reçoit l’alerte et qui décide de la suite ?

Faites examiner les éventuelles démarches réglementaires par les interlocuteurs compétents selon les circonstances. Cet article ne fixe aucun délai ni seuil de déclaration. Son objet opérationnel est de vous conseiller de conserver les éléments utiles à l’analyse et d’éviter des décisions improvisées sur la seule base d’une conversation avec l’assistant.

Prévoyez enfin une revue lors des changements significatifs que vous aurez définis : nouvelle catégorie de documents, nouvelle connexion, nouveaux utilisateurs ou autorisation d’agir. Demandez ce qui doit être revérifié et qui accepte le nouveau périmètre. Notre conseil est de conserver les décisions successives pour pouvoir expliquer pourquoi un usage a été ouvert, limité ou suspendu.

10. Exiger des livrables utilisables après le lancement

Une mission d’intégration devrait, selon notre recommandation, laisser à votre équipe davantage qu’un accès à un outil. Demandez une fiche d’usage validée, une représentation des flux, une liste des rôles, les règles de conservation retenues, le compte rendu de recette et la procédure de sortie. Adaptez leur niveau de détail à la complexité du projet.

Comparez aussi les offres sur le travail nécessaire à l’exploitation. Qui maintient ces documents ? Qui explique un changement de configuration ? Qui reprend les vérifications lorsqu’une connexion est ajoutée ? Demandez de distinguer ce qui est compris dans la mission initiale et ce qui devra faire l’objet d’une intervention ultérieure, sans présumer des modalités commerciales du fournisseur.

Pour la décision finale, réunissez les points acceptés, les restrictions et les questions encore ouvertes. Un projet peut être limité à une catégorie documentaire ou à un groupe d’utilisateurs le temps de résoudre une incertitude. Présentez cette limitation comme un choix de périmètre explicite, avec un responsable et les éléments attendus pour réexaminer la décision.

Vous pouvez préparer votre dépôt de projet à partir de ce dossier. Décrivez la tâche, les informations envisagées, les actions autorisées et les preuves demandées au prestataire. Cette préparation donne une base concrète à la comparaison : chaque candidat répond au même besoin, et votre équipe dispose de critères pour examiner la proposition puis suivre sa mise en œuvre.

Questions fréquentes

Quelles données autoriser dans un premier projet d’IA ?

Nous conseillons de commencer par des documents explicitement approuvés pour la tâche, puis de vérifier si des extraits suffisent. Des exemples fictifs permettent de préparer le format attendu avant de décider si des informations réelles sont nécessaires.

Que demander à une agence qui intègre une solution d’IA ?

Demandez un schéma des flux, les intervenants concernés, les conditions applicables aux contenus, les rôles d’accès, les modalités de conservation et une procédure de sortie. Faites préciser les réponses pour la configuration proposée.

Le cadre du NIST est-il une certification obligatoire ?

Le NIST présente son AI Risk Management Framework comme un cadre d’utilisation volontaire. La page citée ne permet pas de le présenter comme une certification obligatoire. Source : https://www.nist.gov/itl/ai-risk-management-framework

Comment vérifier les limites d’un assistant avant son déploiement ?

Préparez des scénarios ordinaires et des demandes dépassant les autorisations prévues. Définissez les résultats attendus avant leur exécution, utilisez des contenus fictifs et demandez un compte rendu indiquant les écarts et les corrections proposées.

Quels changements justifient de réexaminer le projet ?

Nous recommandons de prévoir une revue lorsqu’on ajoute des documents, une connexion, un groupe d’utilisateurs ou une capacité d’action. Déterminez les vérifications nécessaires et la personne chargée d’accepter le nouveau périmètre.

Sources

Vous avez un projet ?Décrivez-le, vous êtes recontacté rapidement
Déposer mon projet
WilliamRédacteur prestataires et recrutement · Anaska

À lire ensuite

Comparer d'abord, signer ensuite.

Données publiques datées, notes toujours sourcées

Échap

Tapez au moins deux lettres : classements, fiches d'agences, logiciels et articles publiés.