Le human-in-the-loop désigne un système d'IA dans lequel un humain intervient aux étapes clés : il valide, corrige ou reprend la main avant qu'une décision sensible soit appliquée. L'AI Act impose un contrôle humain effectif pour les systèmes d'IA à haut risque.
En pratique chez Gensai
Les agents IA développés par Gensai intègrent des garde-fous et une supervision humaine sur les actions qui engagent l'entreprise.