au sommaire, 7 parties
Commenter un programme d’automate, rédiger une procédure de consignation, remettre au propre une table d’échange : la documentation est la partie du métier que tout le monde repousse. Les assistants IA la rendent presque agréable. En quelques minutes, un bloc de code sans un commentaire devient lisible, et des notes griffonnées deviennent une procédure structurée.
Le problème, c’est qu’ils écrivent avec la même assurance ce qui est juste et ce qui est faux.
Cet article prolonge la règle "documenté" de Sécurisé, documenté, maintenable et ce que j’ai appris en refaisant mon site avec une IA, appliqués cette fois à la documentation d’une installation.
Ce que l’IA fait bien
Elle excelle dès qu’elle travaille sur un texte que vous lui fournissez. Reformuler, structurer, uniformiser : c’est son terrain.
- Commenter un programme existant, bloc par bloc, à partir du code que vous collez.
- Transformer des notes de mise en service en procédure numérotée.
- Remettre en forme un tableau : colonnes homogènes, unités alignées, libellés cohérents.
- Repérer les incohérences : une variable déclarée mais jamais utilisée, un repère cité deux fois.
Dans tous ces cas, la matière vient de vous. L’IA met en forme, elle n’apporte pas l’information.
Là où elle invente
Le danger commence quand on lui demande ce qu’elle ne peut pas savoir. Un modèle de langage produit la suite la plus probable d’un texte. Quand l’information manque, il comble le vide avec quelque chose de plausible.
En automatisme, le plausible est piégeux :
- une adresse Modbus cohérente avec le reste de la table, mais décalée de 1 (le registre "40001" des notices correspond à l’adresse 0 dans la trame) ;
- un calibre, une plage de mesure ou un seuil d’alarme "standard" qui n’est pas celui de votre installation ;
- une référence de matériel qui ressemble à celles du catalogue, mais qui n’existe pas ;
- la valeur par défaut d’un paramètre de variateur, citée de mémoire, et fausse.
Une adresse inventée a exactement la même allure qu’une adresse vraie.
Une erreur dans une procédure ou une table d’échange ne reste pas sur le papier. Elle finit dans un paramétrage de supervision, une règle de pare-feu ou le geste d’un dépanneur à 3 h du matin.
Sources, citations, vérification
J’applique trois règles, les mêmes qu’avant de mettre une armoire sous tension.
Fournir les sources
Ne demandez jamais à l’IA de "retrouver" une valeur. Donnez-lui l’export de l’automate, la notice, l’ancienne table. Son travail est de mettre en forme ce qui existe, pas de le compléter.
Exiger qu’elle cite
Pour chaque valeur technique, demandez d’où elle vient : bloc du programme, page de la notice, ligne de la table. Une valeur sans source est une hypothèse, et doit être marquée comme telle ("a vérifier").
Vérifier chaque valeur
La prose peut se relire en diagonale. Les adresses, unités, seuils et références, non : on les contrôle une par une, contre la source. C’est le même réflexe que l’autocontrôle d’un câblage, borne par borne.
L’IA rédige, la source fait foi, et c’est vous qui signez.
Ce qu’on peut lui envoyer
Dernier point, souvent oublié : un programme d’automate, un plan de réseau ou une table d’échange décrivent votre installation. Collés dans un service en ligne grand public, ils sortent de votre maîtrise.
Avant de coller quoi que ce soit, trois questions :
- Le document révèle-t-il des adresses IP, des comptes, des accès distants ?
- Le service est-il validé par votre organisation, avec des règles claires sur la conservation et la réutilisation des données ?
- Une version anonymisée suffirait-elle (repères génériques, adresses masquées) ?
L’ANSSI a publié en avril 2024 des recommandations de sécurité pour un système d’IA générative, et la CNIL des premières précisions sur le déploiement d’une IA générative. Deux bonnes bases pour fixer vos règles maison. C’est aussi l’un des arguments en faveur d’une IA hébergée en interne, sujet d’un prochain article du thème IA appliquée.
Et vous, quelle est la plus belle erreur qu’une IA vous ait servie avec aplomb ?
et vous ?
Cet article vous a parlé ?
La discussion continue sur LinkedIn. Pour un échange plus direct, écrivez-moi.