Deskhero
Français
Essayer gratuitement

← Back to articles

IA avec humain dans la boucle : fonctionnement et cas d’usage

IA avec humain dans la boucle : fonctionnement et cas d’usage

L’IA avec intervention humaine (HITL) est un modèle de conception qui place le jugement humain à des points définis du processus d’entraînement, de décision ou d’exécution d’un système d’IA. Elle est particulièrement utile lorsqu’une action automatisée peut avoir un impact sur des personnes ou des systèmes, lorsque les erreurs sont coûteuses à corriger, ou lorsqu’une organisation a besoin d’une responsabilité humaine clairement définie.

Cet article explique comment fonctionne l’HITL, dans quels cas elle est utile et ce que les équipes doivent concevoir avant de l’utiliser en production.

Table des matières

Comment fonctionne réellement l’IA avec intervention humaine ?

La boucle est une séquence de points de contrôle où une personne fournit des informations, examine un résultat ou autorise une action. Le système peut attendre cette intervention ou la recueillir pour une évaluation ultérieure et l’amélioration du modèle.

Équipe examinant les points de contrôle humains d’un système d’IA

Les humains interviennent généralement à deux étapes :

HITL au stade de l’entraînement comprend l’annotation des données brutes, l’évaluation des résultats du modèle et la fourniture de signaux de préférence. L’apprentissage par renforcement à partir de retours humains en est un exemple bien connu. Les personnes classent ou évaluent les réponses du modèle, et ces jugements sont utilisés comme signaux pendant l’entraînement. L’apprentissage actif constitue un autre modèle : un modèle identifie les exemples incertains afin que les annotateurs humains puissent se concentrer sur les cas susceptibles de fournir les informations les plus utiles.

HITL à l’exécution ajoute une vérification pendant le fonctionnement d’un système déployé. Un système peut se mettre en pause avant une action sensible, comme l’envoi d’un message ou la modification d’un enregistrement, et demander à une personne d’approuver, de modifier ou de rejeter l’action proposée. La documentation HITL de LangChain décrit un middleware capable d’interrompre certains appels d’outils, de préserver l’état et de reprendre l’exécution après la décision d’un réviseur.

Un point de contrôle d’exécution utile montre au réviseur ce que le système prévoit de faire, propose des choix structurés, enregistre la décision et reprend l’exécution à partir de l’état persistant.

Un flux pratique peut inclure :

  • Annoter les données ou les résultats du modèle avec des libellés humains
  • Entraîner ou évaluer un modèle à l’aide de ces exemples vérifiés
  • Déployer le modèle ou le flux de travail d’IA
  • Interrompre le processus avant certaines actions à haut risque
  • Décider d’approuver, de modifier, de rejeter ou de traiter autrement la proposition
  • Recueillir la décision sous forme de retour opérationnel structuré

Les points de contrôle synchrones interrompent le flux concerné jusqu’à l’intervention d’un réviseur. Les conceptions asynchrones peuvent permettre la poursuite des tâches indépendantes pendant que la décision est en attente. Dans les deux cas, les flux de longue durée ont besoin d’un état durable. La documentation de l’environnement d’exécution inference.sh est un exemple de système décrivant les points de contrôle d’approbation et l’exécution persistante à cette fin.

Les règles d’approbation peuvent être générales ou sélectives. Une équipe peut exiger une vérification pour chaque utilisation d’un outil sensible, ou uniquement lorsqu’un montant, un destinataire, un score de confiance ou une autre condition dépasse un seuil. Le routage sélectif peut réduire les vérifications inutiles sans supprimer la supervision des actions qui en ont besoin.

Infographie présentant les étapes du processus d’IA avec intervention humaine

Pourquoi l’HITL est importante : précision, sécurité et confiance

La supervision humaine peut améliorer un flux de travail d’IA de trois manières concrètes.

Une meilleure gestion des cas particuliers. Les modèles peuvent rencontrer des difficultés avec des données inhabituelles ou des conditions changeantes. Un réviseur peut identifier une exception et corriger le résultat proposé. Si la correction est correctement recueillie et encadrée, elle peut ensuite contribuer à l’évaluation ou à l’amélioration du modèle. La correction n’améliore pas automatiquement un modèle : l’équipe doit toujours mettre en place un pipeline de retours délibéré.

Des actions plus sûres. Un système d’IA capable d’envoyer des messages, de mettre à jour des enregistrements ou de traiter des transactions peut causer des dommages s’il interprète mal une donnée. Un point de contrôle peut réduire ce risque en interrompant certaines actions avant leur exécution. Databricks explique l’importance de la vérification humaine pour les décisions à fort impact ainsi que l’intérêt de réinjecter les retours dans le système.

Une responsabilité renforcée. Un flux HITL correctement instrumenté peut enregistrer qui a vérifié une action, quelle décision a été prise et ce qui s’est passé ensuite. Ces données facilitent l’analyse des incidents, le contrôle qualité et la conformité. Une simple étape d’approbation superficielle ne suffit pas. La vérification doit fournir suffisamment de contexte, de temps et d’autorité pour modifier le résultat.

Les retours humains sont particulièrement utiles lorsqu’ils sont traités comme des données opérationnelles encadrées. Les équipes doivent définir comment les décisions sont stockées, qui peut y accéder, combien de temps elles sont conservées et si elles seront utilisées pour l’évaluation, le réentraînement ou à aucune de ces fins.

Où applique-t-on l’HITL : exemples concrets

Ce modèle est présent dans de nombreux secteurs, mais la responsabilité du réviseur varie selon le domaine.

Radiologue examinant des images médicales signalées par l’IA

Imagerie médicale. Un clinicien peut examiner une image signalée par l’IA avant d’utiliser le résultat pour établir un diagnostic ou prodiguer des soins. Le niveau de supervision approprié dépend du dispositif, de son usage prévu et des exigences cliniques et réglementaires applicables. Les résultats de l’IA ne doivent pas être présentés comme un substitut au jugement médical qualifié.

Modération de contenu. Un classificateur peut signaler les contenus potentiellement contraires aux règles et transmettre les cas incertains ou sensibles à un réviseur humain. Les personnes gèrent le contexte et les recours, tandis que l’automatisation aide à traiter le volume. La cohérence des directives et l’harmonisation des réviseurs sont importantes, car les décisions de vérification pourront ensuite être utilisées comme données d’entraînement ou d’évaluation.

Assistance client. L’IA peut rédiger une réponse qu’un User doit examiner. Les systèmes autorisés à envoyer des messages ou à modifier les données d’un compte nécessitent des contrôles supplémentaires autour de ces actions. Une équipe peut exiger une approbation selon le type d’action, son impact et la facilité avec laquelle elle peut être annulée. Pour plus de contexte, consultez l’article de Deskhero sur l’IA dans le service client.

Enquête sur les fraudes. Un modèle peut attribuer un score aux transactions et transmettre certains dossiers à un analyste. Celui-ci tient compte d’éléments qui ne sont peut-être pas représentés dans les données d’entrée du modèle et prend la décision requise par la politique de l’organisation.

Pipelines d’annotation de données. Des annotateurs humains ou des experts du domaine annotent des images, du texte ou de l’audio pour l’entraînement supervisé et l’évaluation. Les contrôles qualité, les consignes claires et les mesures de concordance sont importants, car des annotations bruitées peuvent réduire la qualité du modèle.

Conseil de pro : Cartographiez les actions qu’un système peut effectuer avant de choisir une politique de vérification. Concentrez la vérification obligatoire sur les actions à fort impact, difficiles à annuler ou soumises à une exigence précise de responsabilité.

Comment concevoir un système HITL destiné à la production ?

Une conception HITL destinée à la production nécessite davantage qu’un bouton de vérification. Elle doit tenir compte de la persistance de l’état, du routage vers les réviseurs, des délais d’expiration, du contrôle des accès et de la qualité des retours.

Exécution durable et persistance de l’état

Un flux interruptible doit préserver suffisamment d’état pour reprendre l’exécution en toute sécurité après une décision. Un stockage en mémoire peut suffire pour un test local, mais il est fragile lorsqu’une vérification peut prendre des heures ou lorsqu’un service peut redémarrer. Choisissez un stockage durable pris en charge par l’environnement d’exécution utilisé et testez la récupération après défaillance avant le lancement.

Modèles de points de contrôle d’approbation

Type de point de contrôle Quand l’utiliser Compromis
Approbation par outil Actions sensibles sélectionnées Contrôle précis ; davantage de configuration
Approbation globale Chaque action d’un flux strictement contrôlé Politique simple ; peut créer une file de vérification importante
Approbation conditionnelle Vérification fondée sur un montant, un destinataire ou un signal de risque Sélective ; nécessite une logique de règles testée
File de vérification ordonnée Plusieurs décisions dépendantes au cours d’une même exécution Préserve l’ordre ; peut ajouter de la latence

Routage et escalade

Définissez qui vérifie chaque catégorie de décision. Certains cas nécessitent un expert du domaine, tandis que d’autres peuvent être confiés à un réviseur généraliste formé. Fixez un délai de réponse cible et une solution de repli sûre en cas de vérification manquée. Selon le niveau de risque, le flux peut rester en pause, être escaladé vers un autre réviseur ou s’arrêter sans exécuter l’action.

Journaux d’audit et interface du réviseur

L’interface doit aider les réviseurs à prendre des décisions éclairées. Affichez l’action proposée, les informations sources pertinentes, l’incertitude connue et les conséquences de l’approbation. Les choix structurés peuvent faciliter l’analyse ultérieure, mais les réviseurs doivent également pouvoir expliquer une modification ou un rejet lorsque ce contexte est important.

Conseil de pro : Considérez l’interface de vérification à la fois comme un contrôle de sécurité et comme un outil de qualité des données. Ne recueillez que les informations dont l’utilisation répond à une raison définie.

Pour le transfert d’un chatbot vers un humain, préservez le contexte de la conversation, indiquez pourquoi l’automatisation s’est arrêtée et acheminez la demande obtenue vers le User ou la file appropriée.

HITL vs. Human-on-the-Loop vs. Human-over-the-Loop

Ces termes ne sont pas employés de manière uniforme dans tous les domaines. Les distinctions suivantes constituent un cadre pratique et non des définitions universelles.

Terme Moment habituel Rôle humain Bloque généralement l’exécution ? Usage courant
Human-in-the-loop (HITL) Avant ou pendant une décision sélectionnée Fournit une contribution, une approbation ou une correction Souvent Décisions à plus haut risque et retours pour l’entraînement
Human-on-the-loop (HOTL) Pendant le fonctionnement Surveille et peut intervenir Généralement non Activités à plus gros volume et plus facilement réversibles
Human-over-the-loop Tout au long du cycle de vie du système Définit les politiques et audite les résultats Non Gouvernance et supervision au niveau du système

La surveillance passive diffère d’un point de contrôle exigeant une approbation avant une action. De nombreux systèmes combinent plusieurs niveaux de supervision. Ils peuvent exiger une approbation directe pour les écritures sensibles, surveiller les résultats à faible risque et effectuer des contrôles périodiques de gouvernance sur les politiques et les performances du système.

Stanford HAI décrit une approche plaçant les humains aux commandes, qui met l’accent sur un contrôle humain significatif. Ce cadre attire l’attention sur l’autorité, l’auditabilité et l’utilisabilité des flux de vérification, plutôt que de simplement compter la fréquence à laquelle une personne intervient dans le processus.

Les questions suivantes peuvent aider à choisir une approche :

  • L’action peut-elle nuire à quelqu’un ou entraîner une modification difficile à annuler ? Envisagez une décision humaine bloquante.
  • Le résultat peut-il être surveillé et corrigé rapidement ? Une surveillance assortie d’un mécanisme d’escalade peut suffire.
  • Une décision réglementée ou engageant la responsabilité est-elle concernée ? Faites correspondre le contrôle à l’exigence réelle et documentez la personne qui en est responsable.
  • L’activité présente-t-elle peu de risques et est-elle bien comprise ? Une automatisation surveillée peut convenir après les tests.

Quels sont les véritables défis liés au déploiement de l’HITL à grande échelle ?

L’HITL introduit des coûts et des modes de défaillance qui doivent être traités dès la conception.

Évolutivité. Les approbations bloquantes ajoutent de la latence et nécessitent une capacité humaine. Si chaque action est envoyée à la même file, la vérification peut devenir le goulot d’étranglement. Un routage fondé sur le risque peut réserver la vérification la plus approfondie aux cas incertains ou à fort impact.

Biais et erreurs corrélées. Un modèle entraîné sur des corrections humaines peut reproduire les biais humains. Un réviseur peut également se fier trop facilement à un modèle qui semble sûr de lui. Les recherches sur l’alignement et la complémentarité au sein des équipes humain-IA examinent les situations dans lesquelles un modèle devrait correspondre aux préférences humaines et celles où des forces différentes peuvent améliorer les performances de l’équipe. La diversité des vérifications, l’harmonisation et les contrôles de concordance peuvent contribuer à révéler les différences systématiques.

Confidentialité et gouvernance des données. Les réviseurs peuvent voir des informations personnelles, financières, médicales ou confidentielles. Limitez l’accès aux seules données dont le réviseur a besoin, protégez les données en transit et au repos, et définissez les politiques de conservation et de réutilisation avant de recueillir les enregistrements de vérification.

Fatigue et incohérence humaines. Des vérifications répétitives peuvent entraîner des décisions précipitées et des critères variables. Les contrôles utiles comprennent :

  1. Définir des charges de travail adaptées à la complexité de la tâche
  2. Organiser des exercices d’harmonisation à partir des mêmes cas types
  3. Mesurer la concordance lorsque la tâche dispose d’une norme de référence défendable
  4. Faire tourner les tâches lorsque cela ne réduit pas l’expertise du domaine
  5. Surveiller les changements inhabituels dans les taux d’approbation, de modification ou de rejet

Coût. La vérification humaine mobilise du temps et l’attention de spécialistes. Comparez ce coût au coût et à la probabilité attendus des erreurs que le contrôle vise à prévenir. Un point de contrôle qui vérifie tout peut coûter davantage tout en offrant peu de protection supplémentaire.

Liste de contrôle pratique pour déployer des systèmes HITL

Avant de déployer un flux HITL, examinez ces questions dans l’ordre.

  1. Évaluation des risques. Dressez la liste des actions que le système peut effectuer. Classez-les selon leur impact, leur réversibilité et les exigences de responsabilité.
  2. Définition des réviseurs. Identifiez les personnes autorisées à vérifier chaque action ainsi que les informations et l’autorité dont elles ont besoin.
  3. Conception de l’interface. Affichez suffisamment de contexte pour permettre une véritable décision. Définissez les parcours d’approbation, de modification, de rejet et d’escalade lorsqu’ils s’appliquent.
  4. Stratégie de persistance. Stockez l’état nécessaire pour reprendre l’exécution en toute sécurité et testez les redémarrages ainsi que les décisions en double.
  5. Plan de retours. Décidez si les enregistrements de vérification servent à l’audit, à l’évaluation, au réentraînement ou à une combinaison de ces objectifs. Ne supposez pas qu’ils conviennent à chaque usage.
  6. Gouvernance. Attribuez la responsabilité de la qualité des vérifications, des accès, de la conservation, des règles de routage et des modifications des contrôles.

Les indicateurs utiles peuvent inclure :

  • Taux de vérification : part des actions éligibles envoyées en vérification
  • Délai de décision : temps écoulé entre l’interruption et la fin de la vérification
  • Répartition des décisions : part des décisions approuvées, modifiées, rejetées ou escaladées
  • Résultats en matière d’erreurs : problèmes détectés par la vérification et problèmes non détectés malgré celle-ci
  • Concordance entre réviseurs : cohérence sur les cas échantillonnés lorsque la comparaison est pertinente

Ne réduisez les vérifications qu’après avoir analysé les résultats réels. Si une catégorie est systématiquement approuvée, testez une politique plus ciblée sous surveillance. Si une catégorie est systématiquement rejetée, améliorez le modèle ou empêchez cette action au lieu d’ajouter davantage de réviseurs.

Que dit la recherche actuelle sur l’avenir de l’HITL ?

Les travaux actuels cherchent de plus en plus à rendre la participation humaine plus utile, et pas simplement à ajouter davantage de vérifications.

Les recherches sur les modèles alignés et complémentaires suggèrent que les équipes humain-IA performantes peuvent avoir besoin des deux. Un modèle qui reproduit le jugement d’une personne peut être prévisible, tandis qu’un modèle doté de forces différentes peut détecter ce que la personne a manqué. La conception appropriée dépend de la tâche, des éléments disponibles et de la manière dont les désaccords sont résolus.

Le cadre plaçant les humains aux commandes incite également les équipes à se demander si les personnes disposent d’une véritable autorité. Un réviseur qui manque de contexte, de temps ou du pouvoir d’arrêter une action ne constitue pas un contrôle de sécurité efficace, même si le flux enregistre une approbation.

Les modèles qui méritent d’être évalués comprennent :

  • Approbations fondées sur des interruptions pour certaines actions avec exécution durable
  • Formulaires de vérification structurés qui recueillent les décisions et les raisons utiles
  • Routage fondé sur le risque qui combine les signaux du modèle avec les conséquences d’une action
  • Tests de complémentarité qui mesurent si une personne et un modèle obtiennent ensemble de meilleurs résultats que l’un ou l’autre seul

Une expérience utile consiste à regrouper les résultats des vérifications par type d’action et niveau de risque. Examinez les taux d’approbation, de modification, de rejet, d’incident et de latence. Le résultat peut montrer où la vérification détecte des problèmes importants et où elle ne fait qu’ajouter un délai.

Conseil de pro : N’optimisez pas uniquement le taux d’approbation. Un taux élevé peut indiquer une catégorie fiable, un examen insuffisamment rigoureux ou un point de contrôle ciblant les mauvaises tâches. Comparez les approbations avec les erreurs et les résultats en aval.

Points clés à retenir

L’IA avec intervention humaine est particulièrement utile lorsque la décision humaine est liée à un risque clairement défini, étayée par un contexte pertinent et enregistrée dans un but précis.

Point Détails
L’HITL peut soutenir l’entraînement et le contrôle à l’exécution La contribution humaine peut servir à annoter les données, évaluer les résultats ou contrôler certaines actions.
Le routage fondé sur le risque aide à maîtriser les coûts Concentrez la vérification bloquante sur les actions dont l’impact justifie le délai et l’effort.
Un état durable favorise des interruptions fiables Un flux de production doit résister aux redémarrages et aux longues attentes de vérification.
Une autorité réelle est essentielle Les réviseurs ont besoin de contexte, de temps et de la capacité de modifier ou d’arrêter le résultat.
Deskhero maintient les fonctionnalités d’assistance automatique sous contrôle Son chatbot et ses réponses automatiques par IA utilisent du contenu FAQ public approuvé, sont activés sur option et transmettent les questions sans réponse à des personnes.

Ce que la plupart des équipes comprennent mal à propos de l’HITL

Une étape de vérification peut sembler responsable tout en offrant peu de protection. Si les réviseurs manquent de contexte, approuvent par habitude ou ne peuvent pas contester le système, l’organisation a créé une file d’attente plutôt qu’une véritable supervision.

Le point de contrôle doit être associé à un objectif précis. S’il vise à empêcher des actions nuisibles, mesurez ce qu’il détecte et ce qui lui échappe. Si les données de vérification doivent servir à améliorer le modèle, recueillez la raison pour laquelle un résultat a été modifié et évaluez si les libellés sont suffisamment cohérents pour cet usage.

Les équipes doivent également distinguer la réduction des vérifications inutiles de l’affaiblissement de l’autorité humaine. Les systèmes matures peuvent automatiser les catégories bien comprises et à faible risque tout en fournissant aux personnes de meilleurs outils et un pouvoir d’escalade plus clair pour les décisions restantes.

L’HITL est donc autant une capacité organisationnelle qu’une fonctionnalité technique. Les effectifs, les politiques, la formation, la conception de l’interface et la gouvernance des données déterminent l’efficacité de la boucle.

Deskhero place la supervision humaine au cœur de l’assistance par IA

Deskhero applique plusieurs principes de supervision humaine au service client. Il peut rédiger des réponses que les Users examinent. Son chatbot destiné aux clients et ses réponses automatiques par IA répondent uniquement à partir de la FAQ publique approuvée de l’espace de travail. Ces deux fonctionnalités automatiques sont activées sur option, et les actions automatiques sont identifiées et enregistrées.

Deskhero

Deskhero suggère des entrées de FAQ à partir de tickets résolus et de pages web analysées. Un User examine, modifie, approuve ou refuse chaque suggestion avant sa publication. Le chatbot nécessite au moins 100 entrées de FAQ publiques approuvées. S’il ne peut pas répondre, il bascule vers un formulaire afin qu’une personne puisse poursuivre la conversation par e-mail.

Pour les équipes e-commerce, l’intégration Shopify utilise un accès en lecture seule pour afficher les informations client et commande dans le ticket. Deskhero propose également des connexions de boîtes aux lettres bidirectionnelles pour Gmail, Google Workspace et Microsoft 365, afin que les équipes puissent conserver leur adresse e-mail existante.

Vous pouvez commencer un essai gratuit de 30 jours sans carte bancaire.

Sources utiles

Ces sources fournissent des conseils de mise en œuvre et un contexte de recherche. Consultez la documentation correspondant à la version exacte de chaque framework utilisé.

Source Contenu
Documentation HITL de LangChain Interruptions, décisions de vérification, persistance et configuration des approbations propres aux outils
Documentation HITL de inference.sh Points de contrôle d’approbation et exécution durable dans l’environnement d’exécution
Databricks sur les systèmes avec intervention humaine Retours humains, routage et conception opérationnelle
IBM : qu’est-ce que l’intervention humaine dans la boucle ? Définitions, usages courants et enjeux pour les entreprises
Stanford HAI : qu’est-ce que l’intervention humaine dans la boucle ? Supervision humaine et cadre plaçant les humains aux commandes
Stanford HAI : Humans in the Loop - Design of Interactive AI Systems Conception de l’IA interactive et collaboration humain-IA
AAAI : Align When They Want, Complement When They Need Alignement, complémentarité et performance des équipes humain-IA
Harvard Data Science Review : Data Science and Engineering With Human in the Loop Rôles humains dans la science des données, l’ingénierie et la supervision
PMC : Human-in-the-loop approaches in clinical AI Applications cliniques et supervision humaine

FAQ

Que signifie « human-in-the-loop » dans l’IA ?

L’IA avec intervention humaine place une contribution humaine à un point défini d’un processus d’IA. Une personne peut annoter des données, évaluer un résultat, corriger une réponse ou approuver une action avant son exécution.

Quelle est la différence entre human-in-the-loop et human-on-the-loop ?

Dans l’usage courant, l’HITL exige une intervention humaine pour une décision donnée et met souvent en pause le flux concerné. Human-on-the-loop désigne généralement un système qui fonctionne tandis qu’une personne le surveille et peut intervenir. La terminologie varie : la description d’un système doit donc préciser le contrôle réel plutôt que de s’appuyer uniquement sur le libellé.

Que signifie human-in-the-loop pour les agents d’IA ?

Pour les systèmes d’IA capables d’effectuer des actions, l’HITL signifie souvent interrompre le processus avant une action donnée, présenter la proposition et le contexte pertinent à un réviseur, puis reprendre uniquement après une décision autorisée. Le flux doit préserver l’état et enregistrer le choix du réviseur.

Que signifie human-on-the-loop dans l’IA ?

Human-on-the-loop signifie généralement qu’un système d’IA fonctionne tandis qu’une personne surveille les résultats et peut l’arrêter, le corriger ou prendre le dessus. Cette approche n’exige généralement pas d’approbation avant chaque action.

Comment Deskhero met-il en œuvre l’IA avec intervention humaine pour les équipes d’assistance ?

Deskhero rédige des réponses que les Users peuvent examiner. Son chatbot et ses réponses automatiques par IA sont activés sur option et répondent uniquement à partir de la FAQ publique approuvée. Les actions automatiques sont identifiées et enregistrées, et les questions de chat restées sans réponse sont redirigées vers un formulaire pour un suivi humain par e-mail.