Tout le monde est excité par les agents IA autonomes. Nous aussi — nous en construisons. Et c'est précisément pour ça que nous refusons d'en déployer certains.
Un agent IA autonome, c'est un système qui observe, décide et agit sans validation humaine à chaque étape. C'est exactement ce qui le rend puissant. Et exactement ce qui pose problème dans les secteurs où nous travaillons : cabinets d'avocats, finance, industriels sous contrats sensibles. Dans ces environnements, une erreur ne coûte pas du temps. Elle coûte un client, un procès, parfois plus.
Le fait technique qu'on ne peut pas contourner
Aucun modèle de langage ne garantit l'absence d'hallucination. Aucun.
Les meilleurs modèles de 2026 se trompent moins souvent qu'avant, mais ils se trompent encore — et avec une assurance totale, sur des faits vérifiables. Ce n'est pas un bug en attente de correctif : c'est une propriété de la technologie actuelle. Les modèles prédisent du texte vraisemblable ; la vraisemblance n'est pas la vérité.
Tant que cette propriété existe, donner à un agent la capacité d'agir seul dans un contexte où l'erreur est irréversible est une décision de gestion des risques, pas une décision technique.
La bonne question : « sur quelle décision retire-t-on l'humain ? »
La question qu'on nous pose est presque toujours « est-ce qu'on peut avoir des agents IA ? ». Ce n'est pas la bonne. La bonne question est : « sur quelle décision précise êtes-vous prêt à retirer un humain de la boucle ? »
Le critère qui fonctionne en pratique tient en deux dimensions :
- La réversibilité. Est-ce que l'action peut être annulée sans dommage ? Trier des emails, oui. Envoyer un acte juridique à un client, non.
- L'exposition. Est-ce que l'action sort du périmètre de l'entreprise ? Une synthèse interne relue avant usage expose peu. Un message envoyé à un tiers engage.
Croisez les deux, et la carte se dessine seule :
| Action réversible | Action irréversible | |
|---|---|---|
| Interne | Automatiser sans hésiter (tri, brouillons, synthèses) | Automatiser avec journalisation (classement, archivage) |
| Vers l'extérieur | Automatiser avec revue a posteriori | Validation humaine obligatoire (envoi client, transaction, engagement contractuel) |
La case en bas à droite est celle qui compte. Rédiger un email au client : l'agent. L'envoyer : un humain. Préparer une écriture comptable : l'agent. La valider : un humain. Analyser un pacte d'actionnaires : l'agent. Transmettre la conclusion au client : un humain.
Pourquoi « semi-autonome » n'est pas un compromis au rabais
L'objection classique : « si un humain valide tout, on perd le gain de productivité ». C'est faux, pour une raison de structure des tâches.
Dans la plupart des processus métier, 90 % du temps est dans la préparation — chercher, lire, croiser, rédiger — et 10 % dans la décision d'envoi. Un agent semi-autonome absorbe les 90 % et laisse les 10 % à l'humain. Le gain de productivité est presque entier ; le risque résiduel est presque nul.
C'est l'architecture que nous avons retenue pour les agents Eridia : ils recherchent, analysent, rédigent, préparent — mais au moment d'envoyer quelque chose vers l'extérieur, par email, Slack ou Teams, un humain doit valider l'action. Ce n'est pas une limitation technique, c'est un choix de conception.
Ce cadre a un bénéfice secondaire souvent sous-estimé : il est auditable. Quand un client, un assureur ou un régulateur demande « qui a validé cet envoi ? », la réponse existe, avec un nom et un horodatage. Avec l'entrée en application progressive de l'AI Act, cette traçabilité des décisions passe du statut de bonne pratique à celui d'exigence — et elle rejoint les recommandations de la CNIL sur la gouvernance des systèmes d'IA générative.
Les trois erreurs qu'on voit sur le terrain
1. L'autonomie par défaut. Déployer un agent avec tous les droits, puis restreindre après le premier incident. C'est l'ordre inverse du bon : on part fermé, on ouvre périmètre par périmètre, avec un historique qui justifie chaque ouverture.
2. Le périmètre implicite. « L'agent gère le support client » n'est pas un périmètre. « L'agent rédige les réponses de niveau 1, les envoie seul si le client n'est pas en litige, sinon file la main » en est un. Si le périmètre ne tient pas en trois phrases écrites, il n'existe pas.
3. La confiance par habitude. L'agent a eu raison 200 fois, alors on arrête de relire. C'est précisément le mécanisme par lequel une hallucination finit chez un client. La validation humaine doit être structurelle (imposée par l'outil), pas comportementale (laissée à la vigilance).
Par où commencer
Listez vos cas d'usage agents envisagés, et pour chacun posez les deux questions — réversible ? interne ? Tout ce qui tombe dans les trois premières cases de la matrice peut être lancé rapidement, avec des gains réels dès les premières semaines. La dernière case attendra que la technologie garantisse ce qu'aucun modèle ne garantit aujourd'hui.
Et si vous voulez faire cet exercice avec nous sur vos processus réels, on vous offre 30 minutes pour cartographier ce qui est délégable — et ce qui ne devrait jamais l'être.
