Définition
Human-in-the-loop (humain dans la boucle)
Principe de conception où un humain valide les décisions ou actions critiques d'un système d'IA avant leur exécution.
Le human-in-the-loop (HITL) place un point de contrôle humain dans un processus automatisé : l'IA prépare, l'humain décide. Appliqué aux agents IA, cela signifie qu'un email rédigé par l'agent n'est envoyé qu'après relecture, qu'un virement proposé n'est exécuté qu'après approbation.
C'est à la fois une exigence réglementaire croissante (l'AI Act impose une supervision humaine pour les systèmes à haut risque) et un principe de bon sens opérationnel : l'autonomie de l'IA se calibre selon la réversibilité et l'exposition de chaque action, pas selon la confiance qu'on accorde au modèle.
Pour aller plus loin
L'IA souveraine, en pratique
Tous les modèles IA, déployés sur votre infrastructure, avec vos documents connectés.