Gouvernance IA

loc.f. Concept AC

/gu-vèr-nans i-a/

Origine

Ensemble des règles qui encadrent le fonctionnement d'un système d'intelligence artificielle.

Définition

Les règles du jeu pour que les IA ne fassent pas n'importe quoi. Dans le Synedre : une constitution, des orbites hiérarchiques, des avis bloquants (un agent peut dire "stop"), des cicatrices (les erreurs passées deviennent des lois), et un fondateur humain qui tranche toujours en dernier. C'est ce qui différencie une organisation d'un pipeline — et c'est ce qu'aucun framework multi-agents ne propose aujourd'hui.

« MetaGPT simule une entreprise. Le Synedre la gouverne. La différence, c'est que chez nous, Montesquieu peut bloquer un déploiement. »