Aller au contenu

⌾ · Arbre des possibles · Guide de capacité

Gouverner et contrôler l’IA

Définir les responsabilités et vérifier les effets réels.

Socle de formation et preuve limitée disponiblesVérifié le 7 octobre 2026Version 1.0Lecture : environ 6 minutes

Parcours spécialisé en construction. Le tronc commun gratuit est disponible.

01 · Gouverner et contrôler

Ce que cette capacité signifie

Gouverner et contrôler l’IA consiste à fixer les responsabilités et les règles du système, puis à vérifier qu’il les respecte et à intervenir lorsqu’un écart apparaît. Cela demande un responsable identifié, des autorisations et une information suffisante pour décider.

Dans la méthode Watshmi, la supervision doit produire des actes observables : définir un périmètre, accepter ou refuser une action, corriger, arrêter et conserver une trace. La formule « humain dans la boucle » ne suffit pas à établir que ce contrôle fonctionne.

02 · Gouverner et contrôler

Ce qu’elle permet aujourd’hui

Disponible aujourd’hui. Le NIST propose l’AI Risk Management Framework et un profil consacré à l’IA générative. Ce sont des références volontaires de gestion des risques, à adapter au contexte. Cadre NIST.

Les outils permettent aussi de limiter certains accès et placer des étapes de validation. La présence d’un réglage ne démontre pas son efficacité : il faut vérifier une action autorisée et un refus attendu dans le système réel.

03 · Gouverner et contrôler

Exemples concrets

Exercice proposé : une matrice de décisions. Pour un assistant de contenu, écrire ce qu’il peut lire, préparer, modifier et publier. Identifier les décisions humaines et les critères d’arrêt. Ajouter le nom de la fonction responsable, pas seulement celui d’un logiciel.

Exercice proposé : un incident simulé. Introduire une donnée fictive invalide, observer le rejet et vérifier l’alerte. Reconstituer la trace puis expliquer la correction. Une simulation teste un périmètre précis, pas toute la gouvernance d’une entreprise.

04 · Gouverner et contrôler

Ce que l’IA change

Elle peut préparer une grille de risques, repérer une incohérence et rédiger un journal. Elle peut aussi rendre un diagnostic très convaincant sans disposer des faits nécessaires. Une évaluation préparée par l’IA doit donc montrer ses entrées et les éléments non vérifiés.

Le contrôle doit exister dans les permissions et le fonctionnement, autant que dans les consignes. Interdire une action dans un prompt n’établit pas que l’outil n’a pas les moyens de l’effectuer. La vérification porte sur les droits réels et le résultat observé.

05 · Gouverner et contrôler

Ce que l’humain doit encore maîtriser

Comprendre le service, ses effets et les personnes concernées. Déterminer ce qui est acceptable, quelles preuves sont nécessaires et qui peut prendre la décision. Reconnaître quand une expertise technique ou juridique spécifique est requise.

La supervision a aussi un coût d’attention. Trop d’approbations sans contexte favorisent une validation mécanique. Les demandes doivent expliquer l’action, la destination, l’effet et les moyens de refus ou de retour.

06 · Gouverner et contrôler

Compétences de premier niveau

Définir un inventaire des actions, une matrice d’autorisation et un journal minimal. Vérifier au moins un refus et une action permise. Conserver les observations et le périmètre de l’essai.

Une première preuve indique qui a décidé, sur quels éléments et quel résultat a suivi. Une procédure écrite sans essai reste une intention. Un essai réussi fournit une observation limitée, à ne pas transformer en garantie générale.

07 · Gouverner et contrôler

Compétences avancées

Organiser la revue des fournisseurs, les accès, les incidents, les changements et la réversibilité. Définir les contrôles selon les effets d’une erreur et tester les étapes critiques. Prévoir la continuité lorsque l’outil ou le responsable n’est pas disponible.

La traçabilité doit permettre de reconstruire une décision sans collecter des données inutiles. Documenter le cadre, les versions et les exceptions. Un audit indépendant exige un périmètre et des compétences propres ; ce guide ne délivre pas une certification.

08 · Gouverner et contrôler

Outils et méthodes

Un registre de décisions, un tableau de risques et des permissions bien définies constituent une base. Les journaux techniques complètent les décisions humaines ; ils ne remplacent pas leur interprétation.

Pour encadrer un usage de l’IA, la méthode Watshmi aide à préciser qui est responsable, quelles actions sont autorisées et quand une personne doit vérifier ou décider. Testez un cas permis et un cas refusé, puis vérifiez le résultat avant d’élargir l’usage. Les sources externes aident à s’informer; elles ne donnent pas d’autorisation à la place du responsable.

09 · Gouverner et contrôler

Applications professionnelles réalistes

Supervision d’un assistant, validation de contenus, contrôle d’automatisations et préparation d’un dossier fournisseur. Ces capacités aident à structurer un projet et à expliquer ses limites. Elles ne remplacent pas les responsabilités de l’organisation.

Pour un service, les critères doivent être proportionnés au besoin. Commencer par une petite procédure inspectable, puis approfondir les contrôles lorsque les données et les effets deviennent plus importants.

10 · Gouverner et contrôler

Limites, risques et contrôle humain

Les erreurs fréquentes sont la supervision nominale, l’absence de responsable, des permissions trop larges et un journal inexploitable. Une autre erreur est de supposer qu’un cours terminé prouve une compétence de contrôle en situation réelle.

Le profil génératif du NIST couvre notamment les risques liés aux informations fausses et à la relation entre personnes et systèmes. Profil NIST. Il ne permet pas de déclarer automatiquement un projet conforme à une réglementation.

11 · Gouverner et contrôler

Ce qui pourrait évoluer

  • Disponible aujourd’hui : cadres de risques, autorisations et validations ciblées dans les systèmes configurés.
  • Émergent : supervision d’agents sur des tâches plus longues et plusieurs outils, avec besoin d’observations propres au projet.
  • Hypothèse raisonnable Watshmi : l’explication des permissions et des traces restera déterminante à mesure que les actions assistées se multiplient.
  • Spéculatif : un système qui certifierait seul sa propre absence de risques et pourrait se dispenser d’un responsable.
12 · Gouverner et contrôler

Branches voisines dans l’Arbre

Automatiser met les permissions à l’épreuve d’un processus. Analyser mesure les écarts. Former prépare des exercices qui rendent le contrôle observable. La gouvernance relie ces branches sans se substituer à leur technique.

13 · Gouverner et contrôler

Preuves et expériences Watshmi

Les prototypes Make/n8n ont séparé réception et publication. Aucun contenu n’a été publié. Cela fournit une observation concrète sur un périmètre limité. Le parcours complet d’approbation puis de diffusion n’a pas été démontré par ces essais.

L’Arbre distingue les intérêts déclarés, la progression de formation et les compétences démontrées. Cette règle est une décision de conception ; sa mise en œuvre dans les comptes devra être testée avant annonce de la fonction.

14 · Gouverner et contrôler

Comment progresser

Étudier le tronc commun, écrire la matrice d’autorisation et réaliser l’incident fictif. Un tiers doit pouvoir expliquer le refus, consulter la trace et identifier la personne responsable.

La compétence démontrée porte sur un contrôle précis avec critères connus. Les formations avancées et les évaluations spécialisées seront reliées lorsqu’elles sont disponibles et vérifiées. Aucun diplôme réglementé n’est promis.

15 · Gouverner et contrôler

Sources principales

Prochaines directions

Chaque guide ouvre une capacité complémentaire. Revenir à l’Arbre · Consulter le glossaire · Voir les expériences · Suivre le Journal de l’Arbre.

Document vivant : dates et historique

Publication : 7 octobre 2026. Dernière révision : 7 octobre 2026. Version 1.0 : création du guide, critères de preuve et sources. Prochaine revue approfondie au plus tard le 7 octobre 2027, ou plus tôt si une évolution importante rend le contenu obsolète.