Glossaire
Glossaire de la gouvernance de l'IA
Les termes qui reviennent quand une organisation gouverne son IA, chacun défini en une phrase et classé selon l'étape à laquelle il appartient : découvrir, évaluer, contrôler, prouver.
10 termes
Sur toute la boucle
Deux termes couvrent les quatre étapes.
Couche de contrôle de l'IA
Une couche de contrôle de l'IA est la partie de la gouvernance de l'IA qui se place là où l'IA est utilisée et applique les règles : elle voit chaque système IA utilisé et applique les politiques de l'organisation sur chaque prompt et chaque action d'agent.
Gouvernance de l'IA
La gouvernance de l'IA est l'ensemble des politiques, des rôles et des contrôles qu'une organisation utilise pour décider quels systèmes IA peuvent être utilisés, pour quoi et avec quelles données, et pour prouver que ces décisions sont respectées.
Les termes par étape
Découvrir
Chaque système IA en usage, Shadow AI et comptes personnels compris, dans un inventaire synchronisé en continu.
Évaluer
Chaque système noté sur huit dimensions, un score de gouvernance, et les actions qui le font monter.
Contrôler
Vos règles, appliquées à l'exécution sur chaque IA en usage, Shadow AI compris. Écrites par les métiers, en surveillance d'abord.
Prouver
Classification AI Act, preuves de contrôle en continu et rapports exportables pour votre DPO.
Découvrir
Shadow AI
Le Shadow AI désigne l'usage professionnel d'outils, de modèles ou d'agents IA sans l'accord ni la supervision des équipes informatique, sécurité ou conformité de l'organisation.
Découvrir
Inventaire IA
Un inventaire IA est un registre complet et à jour des systèmes IA qu'une organisation utilise, avec un responsable et une classification de risque pour chacun.
Découvrir
Prolifération des agents (agent sprawl)
La prolifération des agents désigne la multiplication non maîtrisée d'agents IA créés dans toute l'organisation, souvent sur des plateformes low-code, sans registre central de leur responsable, de ce à quoi ils accèdent ni de qui les utilise.
Évaluer
Système d'IA à haut risque
Au sens de l'AI Act, un système d'IA à haut risque est un système utilisé dans un domaine listé à l'annexe III, comme le recrutement, l'évaluation de la solvabilité ou l'accès aux services essentiels, ou un composant de sécurité d'un produit réglementé au titre de l'annexe I.
Contrôler
Contrôle à l'exécution
Le contrôle à l'exécution consiste à appliquer une politique IA à chaque requête au moment où elle a lieu, par exemple en bloquant, en masquant ou en avertissant avant que des données n'atteignent un outil IA, au lieu de compter sur la mémoire de chacun pour respecter une politique écrite.
Contrôler
Model Context Protocol (MCP)
Le Model Context Protocol (MCP) est un standard ouvert qui relie les applications et agents IA à des outils et sources de données externes, comme des systèmes de fichiers, des bases de données ou des API SaaS, au travers d'une interface commune.
Prouver
AI Act (règlement européen sur l'IA)
L'AI Act, le règlement (UE) 2024/1689, est la loi de l'Union européenne sur l'intelligence artificielle : il classe les systèmes d'IA par niveau de risque, interdit certaines pratiques et fixe des obligations aussi bien pour les organisations qui développent des systèmes d'IA que pour celles qui les utilisent.
Prouver
Maîtrise de l'IA (article 4)
La maîtrise de l'IA désigne les compétences, les connaissances et la compréhension qui permettent d'utiliser des systèmes d'IA en connaissance de cause, en mesurant leurs opportunités comme leurs risques.
Découvrez Qastel en action.
Une démo de 30 minutes : Qastel découvre, évalue et gouverne des systèmes IA.