La demande arrive habituellement en une phrase : « Est-ce que l'agent peut simplement s'occuper des factures en retard ? » On dirait un seul réglage, activé ou non. Il y en a deux. Le premier, c'est de savoir si l'agent peut remarquer, sans que personne le lui demande, qu'une facture réclame de l'attention, et proposer quelque chose. Le second, c'est ce qu'il peut réellement faire à ce sujet avant qu'une personne donne son accord. Les propriétaires qui traitent ces deux réglages comme un seul se retrouvent soit avec un agent qui ne répond que lorsqu'on lui parle, soit avec un agent qui envoie un courriel à un client au sujet d'une facture payée la veille.
« Autonome », c'est deux réglages, pas un.
Un agent IA autonome, c'est-à-dire qui agit sans qu'on le lui demande, repose sur deux réglages distincts. L'initiative, c'est ce qu'il peut remarquer et proposer de lui-même. Le pouvoir d'agir (ce que la synthèse appelle authority), c'est ce qu'il peut faire sans l'accord d'une personne : il s'accorde action par action, selon la difficulté de défaire l'action, et il détermine où se place l'humain dans la boucle (human in the loop). On peut accorder beaucoup du premier et très peu du second.
La synthèse appelle le premier la proactivité et le distingue de l'autonomie, qu'elle réserve au pouvoir d'agir qu'une personne accorde.[1] Ses exemples montrent que les deux varient indépendamment. Les plateformes de maison intelligente lancent une bonne part des interactions avec très peu de pouvoir d'agir derrière chaque geste. Les systèmes de recherche autonomes exécutent de longues boucles sans supervision, mais sur une question qu'une personne a choisie. L'un a beaucoup d'initiative et peu de pouvoir d'agir ; l'autre, l'inverse.
L'échelle de l'initiative, dans les mots d'un propriétaire
La synthèse classe l'initiative en cinq échelons, selon l'origine de la tâche de l'agent.[1] Un agent réactif fait ce qu'on lui dit. Un agent sur déclencheur remarque ce qui s'est déjà produit et le fait remonter. Un agent sur prévision agit sur un besoin avant qu'il se manifeste. Un agent dirigé par un mandat détient un objectif permanent et trouve le travail qui le fait avancer. Un agent qui fixe ses objectifs réécrit l'objectif lui-même. Plus l'échelon est haut, plus l'agent trouve son travail au lieu de le recevoir.
Le pouvoir d'agir s'accorde par action, pas par agent
Le second réglage va de « suggérer seulement », en passant par « agir sous barrière » (un brouillon, un bac à sable, une étape d'approbation), jusqu'à « agir sans supervision ». L'erreur est de le régler une seule fois pour tout l'agent. Un même agent peut tout lire, rédiger des brouillons à volonté et avoir quand même besoin d'une signature avant qu'un message ne quitte l'entreprise. C'est le même geste que de garder les lectures d'un agent loin de ses écritures, que notre note sur le compte publicitaire détaille.
Où la sécurité, la santé et le droit ont abouti.
La synthèse examine 13 domaines d'application selon les deux réglages à la fois. En sécurité, en santé et en droit, les systèmes qu'elle couvre se situent entre l'initiative sur déclencheur et l'initiative sur prévision, et tout geste lourd de conséquences passe par une barrière : une étape de révision, un clinicien, un avocat.[1] Ces domaines, avec l'éducation, convergent vers ce que la synthèse nomme « mandate-directed initiative under bounded authority » (en anglais dans l'original), c'est-à-dire une initiative dirigée par un mandat, sous un pouvoir d'agir borné : l'agent remarque, enquête et prépare davantage, mais tout ce qui porte à conséquence exige encore une personne. La phrase de la synthèse elle-même : « The frontier in these domains is the quality of initiative, not the scope of unsupervised authority. » (en anglais dans l'original), c'est-à-dire que, dans ces domaines, le progrès se joue sur la qualité de l'initiative, pas sur l'étendue du pouvoir d'agir sans supervision.[1]
Aucun domaine recensé n'a atteint l'échelon supérieur, où un agent réécrit ses propres objectifs, et plusieurs soutiennent qu'il ne devrait pas. Pour l'ensemble des domaines, la synthèse en conclut que ce qui se répand, c'est « not autonomy but initiative that a principal can safely accept » (en anglais dans l'original), c'est-à-dire non pas l'autonomie, mais une initiative qu'un mandant (la personne qui confie le travail) peut accepter sans risque, la barrière étant construite avant que l'initiative soit accordée.[1]
Pour une PME qui se lance dans l'automatisation IA, cela fixe le réglage par défaut. « Il rédige, vous envoyez » peut sembler timide. C'est là qu'ont abouti les domaines où les enjeux sont les plus grands. Quand l'historique le justifie, le pouvoir d'agir grandit action par action ; notre note sur l'ordre de construction explique à quel moment un agent l'a mérité. Ce que cette note ajoute, c'est que l'autonomie n'a jamais été un seul réglage.
Un exemple chiffré : l'agent de suivi des comptes clients.
Prenons une firme de services du Québec de 14 employés dont les clients paient sur facture, avec environ 120 factures ouvertes en tout temps et un teneur de livres deux jours par semaine. Le propriétaire consacre déjà 20 minutes aux comptes clients chaque lundi matin. Il veut un « agent de suivi des comptes clients ». Tous les chiffres de cet exemple sont les nôtres et illustratifs.
Premier réglage : ce qu'il peut remarquer
Parcourons l'échelle avec cette firme. Réactif, c'est un rapport : « liste les factures en retard » sur demande. Sur déclencheur, l'agent remarque qu'une facture a passé son échéance et la fait remonter. Sur prévision, il remarque un client qui paie de plus en plus tard, trois factures réglées chacune plus tard que la précédente, avant même qu'une facture soit en retard. Dirigé par un mandat, il détient un objectif permanent, disons « garder les comptes clients sous 45 jours », et propose du travail pour l'atteindre, par exemple exiger un acompte à la commande d'un client qui paie toujours en retard. Un agent qui fixe ses objectifs réécrirait cet objectif de lui-même, et personne ne devrait en être là. Pour cette firme, accordez à l'agent l'initiative de l'échelon sur déclencheur jusqu'à l'échelon dirigé par un mandat. Remarquer et proposer ne coûtent que de l'attention au propriétaire, et ce sont les vérifications plus bas qui gardent cette attention sous contrôle.
Second réglage : ce qu'il peut faire, action par action
Dressons maintenant la liste de toutes les actions possibles de l'agent et posons une seule question pour chacune : peut-on la défaire ? La réponse fixe le pouvoir d'agir. Voici le tableau que nous écrivons avant la mise en service d'un agent de ce genre.
| action | peut-on la défaire ? | pouvoir d'agir |
|---|---|---|
| Lire les factures et le flux bancaire | rien à défaire (lecture seule) | s'exécute seul |
| Ajouter une note interne au dossier du client | oui, sans effort | s'exécute seul (consigné) |
| Mettre un élément dans le sommaire du lundi | oui | s'exécute seul |
| Rédiger un courriel de relance | oui, c'est un brouillon | s'exécute seul (brouillon seulement) |
| Envoyer la relance au client | non, un courriel envoyé ne se retire pas | le propriétaire approuve (chacune) |
| Appliquer des frais de retard | en partie : une note de crédit annule le montant, pas la réaction du client | le propriétaire approuve |
| Suspendre le compte | difficile à défaire auprès du client | l'agent recommande, le propriétaire décide |
| Modifier les conditions de paiement ou radier un compte | non | jamais une action d'agent (l'agent peut seulement proposer) |
Les produits d'agents déjà sur le marché offrent ce réglage sous forme de modes de confirmation : la synthèse en liste quatre, demander toujours, demander selon le risque, liste d'autorisations et exécution automatique.[1] Elle signale aussi l'échec de l'autre côté : des confirmations trop fréquentes engendrent la fatigue d'approbation, et une personne qui approuve tout n'est plus une protection. C'est pourquoi les lignes réversibles s'exécutent seules, et seules celles qui quittent l'entreprise, ou qu'on ne peut reprendre, demandent un accord. Après un historique sans faute, une ligne de plus peut changer de catégorie : une première relance polie à un client dont l'historique de paiement est impeccable pourrait partir seule. Le pouvoir d'agir grandit une ligne à la fois.
Le réglage par défaut a un coût, et c'est le temps du propriétaire. Chaque ligne ambre est une décision que quelqu'un doit prendre, et la synthèse est claire : l'approbation humaine ne passe pas à l'échelle quand le volume est élevé.[1] Sa réponse pour ce cas, un moniteur moins coûteux qui surveille un agent plus capable, n'en est encore qu'à l'esquisse dans la recherche. Pour une firme qui génère dix signalements par semaine, le coût est faible. Pour une firme qui en génère des centaines, revoyez le tableau du pouvoir d'agir avant que le propriétaire devienne le goulot d'étranglement.
Quatre vérifications avant qu'il agisse sans qu'on le demande.
Un objectif valable n'est pas encore une raison d'agir. La synthèse découpe la décision en quatre vérifications, faites dans l'ordre, chacune avec sa propre issue de repli.[1] Prenons un geste candidat : la facture du client B a 12 jours de retard, 380 $. Envoyer une relance ? En pratique, un geste s'arrête à la première vérification qui dit non ; ici, nous faisons passer celui-ci par les quatre pour montrer ce que chacune détecte.
Les quatre vérifications, dans l'ordre où la synthèse les applique, chacune avec son issue de repli :
- Confiance : le besoin est-il réel ? En cas de doute, vérifier ou demander.
- Valeur contre coût : agir vaut-il l'interruption ou les effets secondaires ? Sinon, abandonner, regrouper, reporter ou replanifier.
- Moment : est-ce le bon moment ? Sinon, attendre le prochain point d'arrêt.
- Risque et réversibilité : peut-on le défaire si c'est une erreur ? Sinon, le préparer en brouillon pour approbation, escalader ou refuser.
Le besoin est-il réel ?
La facture est-elle vraiment impayée ? Un virement Interac a pu arriver sans avoir été rapproché, et le flux bancaire s'est synchronisé pour la dernière fois il y a deux jours. L'issue de repli : aller chercher un flux à jour ou demander au teneur de livres. La mise en garde de la synthèse sur ce point : il ne faut pas prendre pour argent comptant le score de confiance du modèle lui-même, parce que les réseaux de neurones sont systématiquement mal calibrés.[1] Elle cite aussi un banc d'essai de programmation, FixedBench, où des agents ont modifié du code même quand le problème signalé était déjà résolu, un biais en faveur de l'action que les bancs d'essai fondés sur l'achèvement des tâches ne pénalisent pas. « Déjà payée » est la version comptes clients de la même erreur. Pour une seule donnée manquante à l'intérieur d'une tâche, notre note sur demander ou deviner chiffre cette vérification en détail.
Cela vaut-il l'interruption ?
380 $ contre l'attention du propriétaire et la relation avec le client. L'issue de repli ici est de regrouper : tout ce qui est sous 500 $ va dans le sommaire du lundi plutôt que d'aviser le propriétaire sur-le-champ. La synthèse chiffre une suggestion en attention de l'utilisateur et ajoute un coût qu'un calcul isolé manque : la confiance. Chaque signalement peut sembler en valoir la peine, alors que la séquence use la volonté du propriétaire de les lire, l'effet du berger qui crie au loup, celui qui pousse les gens à cesser d'utiliser l'automatisation.[1]
Est-ce le bon moment ?
Le client a une livraison prévue jeudi, et une relance passe mieux une fois la livraison acceptée. La synthèse propose de replanifier plutôt que d'abandonner, et de profiter d'un point d'arrêt que la personne a déjà : après la livraison, ou à la revue du lundi.[1]
Peut-on le défaire ?
L'envoi est extérieur et définitif, alors la relance devient un brouillon qui attend dans la boîte d'envoi du propriétaire : aperçu, puis validation. La synthèse rapporte ici un constat troublant : une barrière ne peut agir que sur un risque qu'elle perçoit, et, dans des bacs à sable émulés, des agents de pointe posent couramment des gestes à enjeux élevés ou irréversibles, comme supprimer des données, sans les signaler comme risqués. Selon les mots de la synthèse, « perception is the weak link » (en anglais dans l'original), c'est-à-dire que la perception est le maillon faible.[1] Le veto ne peut donc pas reposer sur le jugement de l'agent. Il doit prendre la forme d'une permission que l'agent ne détient pas, et non d'une phrase dans ses instructions. Notre note sur l'audit d'une automatisation à partir d'un seul fichier montre où cette permission doit se trouver.
Le silence est invisible. Rendez-le lisible.
Quand un assistant refuse de répondre à une question, souligne la synthèse, le refus se voit. Quand un agent proactif décide de ne pas agir, il ne se passe rien, et rien, c'est ce que vous voyez.[1] C'est pourquoi elle ajoute à l'échelle des réponses un échelon attendre-et-surveiller : continuer d'observer sans déranger. Pour un propriétaire, cela veut dire qu'un agent de suivi qui ne signale rien pendant une semaine tranquille ressemble en tout point à un agent dont l'accès au flux bancaire a expiré mercredi.
Notre recommandation, pas un constat de la synthèse : un signal de vie quotidien, en une ligne. « Exécuté à 7 h, 118 factures vérifiées, rien à signaler. » Le silence est alors horodaté, et une ligne manquante devient elle-même l'alerte. C'est le cas miroir d'un agent qui continue de produire des rapports alors qu'il a cessé de fonctionner, que traite notre note sur l'agent qui cale.
Le chiffre à suivre : le taux d'acceptation.
La synthèse nomme la mesure que les bancs d'essai d'agents de suggestion emploient désormais pour le coût d'interrompre quelqu'un : la part des suggestions non sollicitées de l'agent que la personne accepte réellement.[1] Elle l'appelle la précision. Nous l'appelons le taux d'acceptation, parce que c'est ce que voit le propriétaire. Voici les six premières semaines de l'agent de suivi, à titre illustratif.
Aux semaines 1 et 2, l'agent de suivi a émis 41 suggestions et le propriétaire en a accepté 16, soit un taux d'acceptation de 39 %. Les 25 rejets avaient trois motifs, et chacun renvoie à une vérification. Onze étaient déjà payées, mais non rapprochées (vérification 1). Huit étaient sous 500 $ et ne valaient pas une alerte (vérification 2). Six visaient des clients en pleine livraison (vérification 3). À la fin de la semaine 2, la firme a fait trois changements : aller chercher un flux bancaire à jour avant de signaler, regrouper dans le sommaire tout ce qui est sous 500 $, et retenir les signalements pour les clients dont une livraison est en cours. Aux semaines 3 à 6, l'agent de suivi a émis 39 suggestions et 30 ont été acceptées, soit 77 %.
Les suggestions acceptées sont restées à environ 7 à 8 par semaine pendant toute la période, tandis que les signalements passaient d'environ 20 par semaine à environ 10. Le même travail utile, moitié moins de lecture. Les motifs de rejet sont la partie précieuse : ils vous disent quelle vérification ajuster. De si petits décomptes varient d'une semaine à l'autre, alors lisez un taux mobile sur quatre semaines. Et gardez la mesure : la synthèse note que les mesures qui récompensent un agent pour être resté silencieux à bon escient sont encore dispersées et propres à chaque domaine, de sorte que le propriétaire calcule ce chiffre lui-même ; il n'existe aucune norme de l'industrie à laquelle le comparer.[1]
Une note sur la vie privée, parce que l'agent de suivi lit des noms de clients, des montants et des historiques de paiement. Limitez son accès en lecture à ce dont le travail a besoin, et gardez la surveillance là où votre décision sur la résidence des données la place. La note de la synthèse sur la surveillance permanente va dans le même sens : elle décrit des répartitions entre l'appareil et le nuage qui épurent les données sur l'appareil et gardent en local la surveillance sensible.[1] Au regard de la Loi 25 du Québec, cette posture est une décision à prendre délibérément, et notre note sur l'IA exécutée sur votre propre matériel la détaille. Ceci n'est pas un avis juridique.
À régler cette semaine.
- Listez ce qu'il peut remarquer.
Choisissez les échelons : quels événements il fait remonter, quelles tendances il prévoit, quel objectif permanent il sert. Écrivez l'objectif en une ligne. C'est le réglage de l'initiative.
- Listez chaque action, et demandez « peut-on la défaire ? »
Les actions en lecture seule et réversibles peuvent s'exécuter seules. Tout ce qui quitte l'entreprise, déplace de l'argent ou change la relation avec la clientèle attend une personne. C'est le réglage du pouvoir d'agir, une ligne par action.
- Par défaut, suggérer et préparer.
L'agent rédige, vous envoyez. Mettez le veto dans une permission que l'agent ne détient pas, pas dans ses instructions : un garde-fou écrit comme une permission tient, un garde-fou écrit comme une phrase dans les instructions ne tient pas.
cible : aucune action vers l'extérieur sans une personne, tant que l'historique ne dit pas autrement - Ajoutez un signal de vie.
Une ligne par jour qui dit que l'agent s'est exécuté, ce qu'il a vérifié et ce qu'il a trouvé. Une ligne manquante est l'alerte.
- Calculez le taux d'acceptation chaque mois, et ajustez la vérification que pointent les rejets.
Consignez chaque suggestion et si elle a été acceptée, avec un motif en un mot quand elle ne l'a pas été. Les motifs s'arriment aux quatre vérifications.
Ce que cette note ne prétend pas.
Une synthèse, pas une expérience. La source organise des recherches publiées et ne mène aucun nouvel essai. Les placements des domaines, les quatre vérifications et les constats que nous citons sont la lecture que la synthèse fait d'autres études, que nous n'avons pas vérifiées auprès des originaux.
Des chiffres illustratifs. La firme, les factures, les six semaines et chaque pourcentage de l'exemple sont les nôtres, dimensionnés pour une entreprise comme celle-là. Rien ici n'est un dossier client.
Aucune norme pour le silence. La synthèse est explicite : les bancs d'essai remettent encore en grande partie son travail à l'agent et notent s'il l'a terminé, pas s'il a trouvé le bon travail ni s'il est resté silencieux à bon escient. Le taux d'acceptation est un indicateur pratique, en attendant mieux.
Pas un avis juridique. Le paragraphe sur la vie privée décrit une posture. Ce que la Loi 25 exige d'une entreprise en particulier est une question pour son conseiller juridique.
Si vous êtes sur le point de confier un travail permanent à un agent, comme la surveillance des comptes clients, d'une boîte de réception ou d'un horaire, le formulaire de contact est la façon la plus rapide de nous joindre. Dites-nous ce qu'il devrait remarquer et ce qu'il ne devrait jamais faire seul. Rédiger le tableau action par action avec un client avant la mise en service d'un agent fait partie de notre travail en assistants et agents.