10 min de lecture

Confiance aveugle dans l’IA : quand les développeurs ne comprennent plus leur code

William

Rédacteur prestataires et recrutement · Anaska

Éviter la confiance aveugle dans le code généré par IA consiste à demander des preuves de maîtrise avant sa livraison : expliquer les règles, relire les changements, vérifier les comportements attendus et documenter les limites. Les études citées signalent des risques dans des contextes précis, sans établir que tout code IA est défectueux. Pour une équipe ou une agence, nous conseillons une validation proportionnée à l’impact du changement et une personne clairement responsable de cette décision.

Résumer avec l'IA ChatGPT Perplexity Claude Google IA

Un développement avance, la démonstration fonctionne et les tests affichent un résultat rassurant. Pourtant, une question reste sans réponse : qui peut expliquer ce que fait réellement le code ajouté ? La confiance aveugle dans l’IA commence, selon le critère que nous proposons ici, lorsque l’acceptation d’une suggestion remplace sa compréhension. Le problème concerne alors autant le développeur que le responsable technique ou le client chargé de réceptionner le projet.

Cet article propose une méthode pour conserver la maîtrise d’un développement assisté par IA et évaluer les pratiques d’un prestataire. Il porte sur la compréhension du code, sa validation et sa transmission, plutôt que sur la création d’un site ou la sécurisation d’un langage particulier. Les procédures proposées sont des conseils éditoriaux d’Anaska, comparateur édité par WebGuard Agency, et non des obligations juridiques.

1. Reconnaître la confiance aveugle sans condamner l’assistance

Utiliser une suggestion ne signifie pas abandonner son jugement. GitHub décrit les suggestions intégrées de Copilot comme des propositions capables de compléter une ligne, de générer des blocs ou de modifier du code. Le développeur peut les accepter entièrement ou partiellement, les ignorer ou les rejeter. Cette possibilité de sélection fait partie du fonctionnement documenté dans la fiche d’utilisation responsable de GitHub Copilot.

Pour organiser une revue, nous conseillons de distinguer trois questions : le comportement répond-il au besoin, son fonctionnement est-il explicable et sa modification reste-t-elle accessible à l’équipe ? Une réponse positive à la première ne dispense pas d’examiner les suivantes. Une interface peut sembler correcte pendant une démonstration sans que personne ait encore vérifié ses réactions aux erreurs ou aux changements de contexte.

La compréhension attendue doit rester proportionnée. Il serait peu utile d’exiger la récitation de chaque instruction. Demandez plutôt au développeur de décrire le chemin des données, les décisions importantes, les effets produits et les situations refusées. S’il doit consulter le code pour préciser un détail, ce n’est pas un échec. S’il ne peut expliquer aucune décision sans relancer l’assistant, nous recommandons de suspendre la validation du changement.

2. Lire les études avec leurs dates et leurs limites

Une étude publiée à CHI en avril 2025 examine les déclarations de 319 travailleurs du savoir, à partir de 936 exemples d’usage de l’IA générative. Une confiance plus élevée dans l’IA y est associée à moins de pensée critique, tandis qu’une confiance personnelle plus élevée est associée à davantage de pensée critique. Il s’agit de résultats déclaratifs concernant des tâches de connaissance, pas d’une mesure directe de la compétence des développeurs. Voir la publication de Microsoft Research.

L’étude de Perry et ses coauteurs, dont la version fournie a été révisée en décembre 2023, porte sur des tâches liées à la sécurité avec un assistant fondé sur codex-davinci-002. Les participants disposant de cet assistant ont écrit du code moins sûr dans le cadre étudié et se sont davantage estimés capables d’avoir produit du code sûr. Ces conclusions concernent ce protocole et ce modèle ; elles ne permettent pas de classer les assistants actuels. Source : Do Users Write More Insecure Code with AI Assistants?

Autre résultat à contextualiser : une recherche dont la version fournie date de décembre 2021 a généré 1 689 programmes dans 89 scénarios orientés vers des faiblesses de sécurité. Environ 40 % étaient vulnérables. Ce chiffre décrit cet échantillon expérimental, pas la proportion de code IA défectueux dans tous les projets. La distinction figure dans le périmètre de Asleep at the Keyboard? Notre recommandation est donc de contrôler le code livré, sans transformer ces travaux en verdict universel.

3. Définir ce que le développeur doit pouvoir expliquer

Avant de demander une génération, préparez une description du comportement attendu. Précisez les données reçues, les personnes autorisées à agir, les résultats recherchés et les erreurs acceptables. Cette préparation donne au relecteur une référence extérieure au code. Nous conseillons de conserver cette description dans la demande de modification pour éviter que l’implémentation produite devienne, par défaut, la définition du besoin.

Exemple fictif : une équipe ajoute un export de commandes. Le besoin ne se limite pas à obtenir un fichier téléchargeable. Le brief peut demander de préciser quelles commandes sont accessibles, quelles colonnes sont incluses et ce qui se passe lorsqu’aucune commande ne correspond. Le développeur doit ensuite pouvoir montrer où ces règles sont appliquées et comment elles ont été vérifiées.

Demandez également une explication des choix abandonnés. Pourquoi conserver le mécanisme existant plutôt qu’ajouter une dépendance ? Pourquoi traiter une erreur à cet endroit ? Une justification courte suffit si elle relie le choix au projet. Nous conseillons de demander cette explication avant la fusion, pendant que le raisonnement peut encore conduire à simplifier la proposition, plutôt qu’après sa livraison.

4. Adapter la revue à l’impact du changement

Nous proposons de répartir l’effort de revue selon les conséquences possibles du changement et la familiarité de l’équipe avec le sujet. Une modification locale facilement annulable peut suivre un contrôle léger. Un changement concernant des autorisations, une suppression ou une transformation durable de données mérite une lecture plus approfondie. Le tableau suivant constitue une grille de travail éditoriale, à adapter au projet.

Exemples de contrôles à prévoir selon le changement proposé
ChangementQuestion de compréhensionPreuve à demanderDécision conseillée
Présentation localeQuels affichages sont concernés ?Comparaison des états attendus et lecture des modifications.Valider lorsque le périmètre est expliqué.
Règle métierQuelles entrées produisent chaque résultat ?Exemples approuvés et tests correspondants.Faire confirmer les attentes par le responsable métier.
Droits d’accèsQui peut consulter ou modifier chaque ressource ?Scénarios autorisés et refusés, relus par une personne compétente.Bloquer si la règle reste ambiguë.
Suppression ou migrationQuelles données changent et comment récupérer un état acceptable ?Essai représentatif et procédure de reprise expliquée.Préparer la reprise avant l’exécution réelle.
Nouvelle dépendanceQuel besoin justifie son introduction ?Justification, configuration et solution de remplacement envisagée.Reporter l’ajout si son rôle reste incompris.

Cette grille ne décrit pas une certification. GitHub recommande de relire et tester le code généré, particulièrement pour les applications critiques ou sensibles, et signale que ses suggestions peuvent manquer des problèmes d’architecture plus larges. Ces limites sont exposées dans sa documentation d’utilisation responsable. Nous recommandons donc de regarder aussi les interactions avec le reste du projet.

5. Organiser une revue qui vérifie les décisions

Pour rendre le changement examinable, nous conseillons de limiter son périmètre. Une demande qui mélange refonte, nouvelle fonctionnalité et corrections incidentes impose au relecteur plusieurs raisonnements simultanés. Séparez les intentions lorsque cela aide à comprendre les effets. Cette recommandation vaut aussi pour du code écrit manuellement : l’origine de la proposition ne change pas les questions auxquelles la revue doit répondre.

Commencez par suivre un parcours complet. Où entre la donnée ? Quelles transformations subit-elle ? Où le résultat est-il enregistré ou transmis ? Revenez ensuite sur les branches moins visibles : absence de donnée, refus d’accès, interruption ou réponse inattendue. Le but de cette lecture est d’identifier les décisions réelles du programme, puis de les comparer à celles qui avaient été demandées.

Une explication produite par l’assistant peut servir de point de départ, mais nous conseillons de vérifier chaque affirmation importante dans le code concerné. GitHub précise que les suggestions peuvent paraître valides tout en étant incorrectes sur le plan syntaxique ou sémantique, ou mal refléter l’intention du développeur. Voir les limites documentées de Copilot. Lorsqu’une explication contredit l’implémentation, conservez cette contradiction comme point à résoudre avant l’approbation.

6. Écrire des tests qui interrogent vraiment le résultat

GitHub indique que Copilot peut proposer des tests unitaires à partir du code environnant, mais précise que ces tests doivent être relus et peuvent ne pas couvrir tous les scénarios. Cette capacité et sa réserve sont présentées dans la fiche officielle des suggestions intégrées. Nous conseillons de préparer les attentes à partir du besoin avant de demander à l’assistant de compléter les cas.

Reprenons l’exemple fictif de l’export de commandes. Le responsable métier peut décrire les résultats attendus pour un compte disposant des droits nécessaires, un compte sans accès et une période vide. Le relecteur examine ensuite si les tests reproduisent ces situations et si leurs assertions vérifient les bonnes propriétés. Obtenir un fichier ne suffit pas si la question porte sur les commandes qu’il contient.

Pour les règles sensibles, demandez aussi ce qui ferait échouer le test. Par exemple, si une vérification d’autorisation était retirée, le scénario correspondant détecterait-il le changement ? Cette question sert à évaluer la pertinence du contrôle, sans imposer une technique particulière à tous les projets. Elle invite l’équipe à montrer ce que le test protège effectivement.

Enfin, faites préciser le périmètre des résultats annoncés. Quels tests ont été exécutés, sur quelle version et avec quelles limites ? Un compte rendu utile distingue une vérification réalisée d’une vérification envisagée. Nous recommandons de conserver les points non contrôlés dans la décision de livraison, avec un responsable et une action prévue, plutôt que de les laisser disparaître derrière une mention générale de validation.

7. Traiter le code déjà livré et mal compris

Lorsqu’une équipe hérite de code qu’elle explique difficilement, nous conseillons de commencer par délimiter la zone concernée. Repérez sa fonction, ses données, ses points d’entrée et les parcours qui en dépendent. Évitez de lancer immédiatement une réécriture complète : formulez d’abord les questions qui empêchent une modification sereine et identifiez les personnes capables d’y répondre.

Préparez ensuite des observations reproductibles dans un environnement de travail adapté. Choisissez des cas représentatifs, notez le résultat obtenu et confrontez-le au besoin. Il ne s’agit pas de considérer le comportement existant comme forcément correct. Nous recommandons de distinguer ce qui est observé, ce qui est souhaité et ce qui reste incertain, afin que la clarification ne valide pas accidentellement une erreur.

La correction peut alors être découpée : rendre une décision explicite, isoler une responsabilité ou remplacer une partie dont le rôle est enfin compris. Pour chaque modification, conservez la raison et les vérifications associées. Le SSDF du NIST recommande un ensemble de pratiques de développement sécurisé visant notamment à traiter les causes des vulnérabilités pour prévenir leur réapparition. Ce cadre est présenté dans la publication SP 800-218 de février 2022 ; il ne démontre pas, à lui seul, la qualité d’une reprise particulière.

8. Préserver l’apprentissage et une documentation exploitable

Nous conseillons d’intégrer une restitution courte aux changements que l’équipe maîtrise encore mal. La personne qui les propose explique le problème, déroule un exemple et décrit une limite. Le relecteur pose ensuite une question qui oblige à changer une hypothèse : que se passe-t-il si une donnée manque ou si la règle métier évolue ? Cette pratique vise une compréhension utilisable lors de la prochaine modification.

Pour accompagner un développeur moins expérimenté, choisissez un périmètre qu’il peut analyser avec un collègue. Demandez-lui d’identifier ses incertitudes avant de chercher une nouvelle génération. L’étude de Microsoft Research décrit notamment un déplacement de la pensée critique vers la vérification de l’information, l’intégration des réponses et la supervision de la tâche. Cette observation figure dans la publication d’avril 2025. Elle peut nourrir une réflexion pédagogique, sans prouver l’efficacité d’une méthode de formation précise.

Pour la documentation, privilégiez les informations nécessaires à une intervention : règles importantes, emplacement des contrôles, commandes de vérification, limites et procédure de reprise. Nous recommandons une note courte tenue à jour avec le changement plutôt qu’une longue explication impossible à relier au code. Faites-la relire par une personne qui n’a pas rédigé l’implémentation et demandez-lui où elle chercherait pour modifier une règle.

9. Comparer les agences sur leurs preuves de maîtrise

Si vous choisissez une agence, demandez comment une modification assistée par IA devient une livraison acceptée. Qui relit ? Qui peut refuser une proposition ? Comment les règles métier sont-elles confirmées ? Quels livrables permettent à une autre équipe de reprendre le projet ? Nous conseillons d’évaluer ces réponses sur un exemple expliqué, éventuellement anonymisé, sans demander la communication d’informations appartenant à un autre client.

Dans une proposition commerciale, faites distinguer la réalisation, la revue, les vérifications et la transmission. Cette séparation sert à comprendre le travail prévu ; elle ne constitue pas une estimation universelle des charges. Demandez aussi comment sera traité un changement plus complexe qu’anticipé. Une réponse exploitable précise le moment où l’agence vous alerte et les options qui seront soumises à votre décision.

Le SSDF du NIST présente un vocabulaire commun pouvant soutenir les échanges entre acheteurs et fournisseurs sur le développement sécurisé. Il ne constitue pas une preuve automatique de conformité d’une agence. Voir la présentation du SSDF. Pour préparer votre consultation, utilisez la méthodologie Anaska et rassemblez vos attentes de validation avant de déposer un projet. L’enjeu est de comparer des engagements compréhensibles et vérifiables.

10. Décider de livrer et suivre la maîtrise dans le temps

Nous recommandons une décision de livraison explicite : le comportement attendu est identifié, une personne peut expliquer les choix importants, les vérifications sont connues et les limites restantes sont acceptées par le responsable concerné. Si une règle sensible demeure incomprise, revenez à un périmètre plus simple ou demandez une revue complémentaire. La pression du calendrier doit être traitée comme un arbitrage visible.

Après la livraison, gardez quelques observations utiles au projet : corrections nécessaires, difficultés de reprise, questions restées ouvertes et vérifications ajoutées après un défaut. Choisissez des indicateurs dont l’équipe comprend le sens, sans fixer de seuil prétendument valable partout. Nous conseillons de discuter des causes et des décisions à améliorer, plutôt que d’utiliser ces informations pour pénaliser le signalement d’une incertitude.

Le NIST présente son AI Risk Management Framework comme un cadre d’usage volontaire destiné à intégrer des considérations de confiance dans la conception, le développement, l’utilisation et l’évaluation des systèmes d’IA. Voir la présentation officielle de l’AI RMF. À l’échelle d’une équipe de développement, notre recommandation reste concrète : attribuer la validation à une personne identifiable, conserver les preuves utiles et rendre les inconnues visibles. C’est sur ces éléments que le client peut fonder son acceptation du code.

Questions fréquentes

Comment reconnaître un code généré par IA que l’équipe ne maîtrise pas ?

Nous conseillons de demander au développeur de suivre une donnée dans le programme, d’expliquer une décision importante et de décrire un cas d’erreur. Une difficulté à répondre permet d’identifier ce qui reste à clarifier. Elle ne démontre pas, à elle seule, que le code est incorrect.

Des tests réussis suffisent-ils pour accepter du code généré par IA ?

Nous recommandons d’examiner aussi les attentes vérifiées, les situations absentes et la compréhension du changement. GitHub précise que les tests suggérés par Copilot doivent être relus et peuvent ne pas couvrir tous les scénarios : https://docs.github.com/en/copilot/responsible-use/copilot-code-completion.

Les recherches prouvent-elles que les assistants actuels produisent toujours du code moins sûr ?

Non. L’étude de Perry et ses coauteurs concerne des tâches de sécurité avec un assistant fondé sur codex-davinci-002. Ses résultats ne permettent pas de généraliser à tous les outils et usages actuels : https://arxiv.org/abs/2211.03622.

Que demander à une agence qui utilise l’IA pour développer ?

Demandez qui relit les changements, comment les règles métier sont validées, quelles vérifications accompagnent la livraison et comment une autre équipe pourra reprendre le projet. Nous conseillons de faire préciser ces éléments dans les livrables attendus et les critères de réception.

Faut-il réécrire tout le code IA déjà livré mais mal compris ?

Nous conseillons d’abord de délimiter le code concerné, d’observer ses comportements et de clarifier les attentes. Cette analyse permet ensuite de choisir entre documentation, simplification, correction ciblée ou remplacement, avec des vérifications adaptées au périmètre.

Sources

Vous avez un projet ?Décrivez-le, vous êtes recontacté rapidement
Déposer mon projet
WilliamRédacteur prestataires et recrutement · Anaska

À lire ensuite

Comparer d'abord, signer ensuite.

Données publiques datées, notes toujours sourcées

Échap

Tapez au moins deux lettres : classements, fiches d'agences, logiciels et articles publiés.