Modèles de gouvernance
Trois modèles et une description. Les quatre relèvent de la pratique et non du mécanisme, et les quatre sont publiés en entier.
Charte des agents d'IA
Quand des agents écrivent du code de production, il leur faut la gouvernance d'une développeuse, et un peu plus. L'échelle dit ce qu'un agent peut faire avant qu'une personne regarde. La liste en dessous dit ce que personne ne délègue, à aucun barreau.
L'échelle d'autonomie
L1 · Supervisé
L'agent propose et une personne lit chaque ligne avant la fusion. Le réglage par défaut de tout nouvel agent.
L2 · Semi-autonome
L'agent met en œuvre dans le périmètre défini d'un ticket et une personne relit la pull request. Atteint après trois cycles L1 sans aucune violation de fence.
L3 · Autonome dans les garde-fous
L'agent met en œuvre, teste et ouvre la pull request ; une personne lit les résultats des tests et la sortie des gardiens. Exige une couverture mûre de fences et un historique. Rare, et cela devrait le rester.
Jamais autonome
Une personne en décide, à chaque barreau de l'échelle.
- Les changements de schéma de base de données.
- La configuration de sécurité : authentification, secrets, réseau.
- Les contrats d'interface externe, quand le changement casse un appelant.
- Les changements d'un format de sortie que lit un texte réglementaire.
- La suppression de quoi que ce soit dans la piste d'audit.
- Les changements du système de fences lui-même.
La source de vérité de l'agent
D'abord la documentation d'architecture, puis le registre des clés, puis le système de fences, puis le périmètre du ticket. Quand deux se contredisent, le plus haut l'emporte, et la contradiction est écrite plutôt que résolue en silence.
Schéma de la piste d'audit
L'enregistrement écrit à chaque étape, publié en entier. Une piste que ne peut pas lire quelqu'un qui n'a pas construit le système n'est pas une piste : les noms de champs font donc partie du cadre et non de la mise en œuvre.
| Champ | Signification |
|---|---|
| trace_id | L'identifiant de P-4, la même valeur sur chaque entrée appartenant à une transaction. |
| timestamp | Quand l'étape a eu lieu, sous forme d'horodatage avec son décalage. |
| event_type | Quel type d'étape : réception, extraction, validation, évaluation de confiance, vérification humaine, publication, accès. |
| actor | Qui a agi, et de quelle nature : le système, une personne ou un agent. |
| input | Sur quoi portait l'étape : le document, l'attribut. |
| output | Ce que l'étape a produit : la valeur, sa confiance, la méthode d'extraction. |
| decision | Là où une personne a agi : ce qu'elle a fait et le motif qu'elle a donné. |
| source_hash | Une empreinte de la source lue par l'étape, pour reconnaître plus tard la même entrée. |
| immutable | L'entrée n'est jamais modifiée. Une correction est une nouvelle entrée qui la remplace. |
Registre des fences, un sous-ensemble publié
Un sous-ensemble publié du registre propre au projet, avec les identifiants que le projet utilise réellement. Chaque entrée porte un identifiant, la règle, la façon dont elle est appliquée et son statut actuel. Le registre complet est plus long et reste interne : certaines de ses entrées nomment ce qu'elles protègent, et une liste de ce qui est surveillé est une carte de ce qui est gardé.
Les identifiants sont les identifiants opérationnels. Une édition antérieure du document du cadre imprimait sous les mêmes numéros un tableau illustratif de huit lignes avec d'autres règles ; ce modèle est retiré, chacune de ses règles a été reportée sur l'identifiant qui la porte désormais, et rien n'a été perdu dans la renumérotation.
| Fence | Règle | Application | Statut |
|---|---|---|---|
| F-03 | Les valeurs issues d'un modèle de langue portent toujours la méthode par laquelle elles ont été obtenues et n'atteignent jamais une sortie publiée sans vérification humaine. | Vérification automatique, à chaque changement | Appliqué |
| F-04 | Un attribut obligatoire sans preuve n'est jamais inventé ni rempli par défaut. | Vérification automatique, à chaque changement | Appliqué |
| F-05 | Aucun document personnel ou d'entreprise réel dans le code, les fixtures, les tests ou les commits.Périmètre : Le gardien couvre les clés d'accès et les données d'émetteur des documents d'exportation. Il ne couvre pas toute forme d'identifiant, et le reste est porté en interne comme son propre manque. | Vérification automatique, à chaque changement | Appliqué |
| F-08 | Un passeport portant un attribut de confiance basse ou un obligatoire absent n'est jamais publié ; la porte est du code, pas une habitude. | Vérification automatique, à chaque changement | Appliqué |
| F-09 | Aucun changement de schéma de base de données sans migration ni retour arrière fonctionnel. | Tâche automatique, à chaque changement | Appliqué |
| F-13 | Les identifiants de locataire et de trace voyagent avec chaque requête et chaque ligne stockée.Périmètre : La moitié du chemin de requête est testée. La moitié de la ligne stockée n'est pas vérifiée colonne par colonne et est portée en interne comme son propre manque. | Vérification automatique, à chaque changement | Appliqué |
| F-14 | Code et identifiants en anglais ; texte destiné à la lectrice en cinq langues, avec chaque clé présente dans toutes. | Vérification automatique, à chaque changement | Appliqué |
| F-16 | Le texte d'interface n'affirme jamais une conformité juridique ni un fait non vérifié ; une attestation s'affiche comme attestation et jamais comme vérification. | Vérification automatique, à chaque changement | Appliqué |
| F-18 | Un identifiant de trace sur chaque réponse de l'interface de console, erreurs comprises ; celui qui arrive est honoré plutôt que réémis. | Vérification automatique, à chaque changement | Appliqué |
| F-22 | Toute affirmation de fait sur une surface publique se résout en une source primaire ou en un test nommé. | Vérification automatique, à chaque changement | Appliqué |
| F-23 | Le site en fonctionnement ne charge que des ressources de même origine et ne pose qu'un seul cookie, pour la langue. | Vérification automatique, à chaque changement | Appliqué |
| F-37 | Chaque page publique explorée respecte WCAG 2.2 AA dans un vrai navigateur. | Tâche automatique, à chaque changement | Appliqué |
| F-02 | Aucun nouveau service d'infrastructure au-delà de l'ensemble convenu, et aucune nouvelle dépendance sans une section nommée dans la demande de changement. | Personne nommée, à la fusion | Manuel |
| F-10 | Aucune fusion avec des vérifications en échec. | Personne nommée, à la fusion | Manuel |
| P-4-not-null-columns | Chaque ligne stockée porte les identifiants de locataire et de trace comme colonnes obligatoires. | Rien aujourd'hui | Manque |
| P-5-disclosure-rendered | Une sortie publiée dont les attributs comprennent un attribut extrait par machine affiche toujours la ligne de déclaration. | Rien aujourd'hui | Manque |
Le moteur de confiance, en mots
On donne au moteur un attribut, une valeur, la méthode par laquelle la valeur a été obtenue et les documents dont elle provient. Il renvoie l'attribut, la valeur, un niveau de confiance, la provenance et le fait qu'une personne l'ait vérifiée. Il existe trois niveaux, le plus bas n'atteint jamais une sortie publiée, et là où la preuve manque le moteur ne renvoie rien plutôt qu'un niveau.
Non publié
La table qui associe un niveau à une méthode d'extraction, et les règles qui combinent plusieurs sources, restent dans l'édition interne. Ce qui précède est la description nécessaire pour comprendre l'architecture. Ce n'est délibérément pas une spécification à partir de laquelle quelqu'un pourrait construire.
Retours publics
Vous contestez une hypothèse, avez relevé un problème de source ou l'avez appliqué en pratique ? Les contributions sont relues avant publication et restent rattachées à cette version.