Les 3 axes principaux : Confiance et Acceptabilité, Transparence, Autonomie du système IA
Guidelines de design pour l’IA
Ce que couvre ce principe
Ce principe gouverne la décision de l’utilisateur d’adopter durablement le système ou de l’abandonner. Un niveau de confiance trop faible produit une non-utilisation. Un niveau de confiance trop élevé produit une dépendance excessive et une perte de compétence chez l’utilisateur.
L’objectif est, donc de calibrer la confiance de l’utilisateur sur la fiabilité réelle du système.
L’acceptabilité découle de cette confiance bien calibrée. Un système peut être fiable sans être accepté, s’il ne s’intègre pas au flux de travail réel de l’utilisateur ou ne laisse aucune place à sa contribution.
Le système doit présenter un indicateur de fiabilité de la réponse et doit adapter le ton de sa réponse au niveau de confiance affiché s’il répond en langage naturel.
Exemple
L’utilisateur doit pouvoir identifier rapidement, avant de lire la réponse, le niveau de confiance retourné par le système.
Tout résultat dérivé d’un document, d’une base de données ou d’un contenu externe permet à l’utilisateur d’ouvrir et de consulter la source d’origine. En l’absence de source le système le mentionne explicitement.
Exemple
Un technicien de maintenance qui fait d’intervention en temps réel sur un équipement industriel accède, directement depuis les recommandations IA, à la fiche technique de l’équipement, à la procédure de sécurité associée et à l’historique des interventions précédentes qui ont servi à formuler la suggestion, avant d’engager toute action sur le terrain.
Quand le système n’a pas la réponse, n’a pas accès à une donnée nécessaire, ou dépasse le périmètre de ce qu’il peut garantir, il le formule en langage clair.
Exemple
Le système dispose de mécanismes aidant l’utilisateur se familiariser avec l’outil et mettant en évidence ses différentes fonctionnalités.
Pour garantir des réponses cohérentes et pertinentes, les utilisateurs doivent être guidés dans la formulation de leurs demandes.
Exemple
Le système suggère des questions à poser et des formulations adaptées pour ces questions
Tout contenu généré peut être régénéré, modifié ou rejeté par l’utilisateur en une interaction.
Sans mécanisme de correction rapide, l’utilisateur peut accepter un résultat insatisfaisant ou abandonner, ce qui dégrade la valeur perçue du produit et risque la diffusion d’un contenu erroné.
Exemple
Un agent public qui reçoit une réponse insatisfaisante d’un assistant de rédaction peut demander une nouvelle version en formulant simplement ce qui ne convient pas, par exemple en signalant qu’une référence citée est obsolète, plutôt que de devoir reformuler entièrement sa demande initiale depuis le début.
Cette règle constitue un prérequis de processus, non une exigence d’interface, et conditionne l’attribution du label produit Berger-Levrault IA. Avant de concevoir une fonctionnalité IA, l’équipe produit organise des sessions avec les utilisateurs finaux du métier concerné pour éviter heurter des pratiques métier établies.
L’utilisateur dispose d’un moyen rapide de faire des retours sur les différentes fonctionnalités du système. Ces retours doivent être peu coûteux cognitivement afin d’éviter un abandon de la part de l’utilisateur.
Lorsque les retours sont pris en compte ils doivent être communiqués clairement aux utilisateurs afin de renforcer la confiance et éviter que les utilisateur arrêtent de faire de retours.
Il est nécessaire de fournir aux équipes de développement une indication exploitable sur la nature exacte du problème plutôt qu’un simple jugement global sans inciter un grand effort mental de l’utilisateur.
Exemple
Plutôt qu’une notation par étoiles ou un simple pouce levé, le système doit permettre l’utilisateur de fournir un retour explicit sur le faite qu’une réponse est trop longue ou ambiguë.
Donner la possibilité à l’utilisateur de personnaliser son interaction avec le système en grâce un une configuration de préférences et/ou éléments de contexte.
Exemple
L’utilisateur peut enregistrer son corps de métier et préciser s’il préfère des réponses concises ou très détaillées.
Rendre visible les paramètres que la société a déjà configuré et l’utilisateur ne peut pas outrepasser
Exemple
Certain paramétrage de sécurités sont géré par la société. Ils sont visible a titre indicatif mais l’utilisateur ne peut pas les modifier
Ce que couvre ce principe
Ce principe gouverne la visibilité de ce que fait le système, sur quelle base, et selon quelle logique de données. Berger-Levrault opère dans des secteurs régulés, avec des données sensibles de citoyens, de patients et d’élèves. La transparence sort donc du concept d’un simple confort d’usage et devient en plus une exigence de gouvernance qui se décline à deux niveaux, celui de l’interaction et celui des données.
Quand un agent exécute une tâche, l’interface montre une trace visible du déroulement de manière synthétique plutôt qu’une réponse finale opaque. L’activité affichée à l’utilisateur est réduite au minimum et adapté au métier concerné avec la possibilité d’interrompre le traitement.
Le raisonnement du système est aussi visible dans la réponse finale.
Exemple
Un agent IA qui traite une série de dossiers affiche en temps réel ce qui a été lu, ce qui a été fait, ce qui va être fait.
Tout contenu produit ou modifié par le système porte un marqueur visible, dans un document, un email, un rapport ou un enregistrement en base. Ce marqueur persiste au moins jusqu’à l’application d’une validation humaine explicite.
Toute action proactive d’un agent IA est accompagné d’une justification. Une action déclenchée sans explication visible empêche l’utilisateur d’évaluer sa pertinence.
En fonction du niveau d’autonomie de l’agent IA, il peut nécessiter une validation de l’utilisateur avant de poursuivre.
Cette justification reste visible et accessible
Exemple
Un agent IA de maintenance suggère à un technicien de remplacer une pièce. S’il ne reste qu’une seule pièce en stock, il indique qu’il déclenchera automatiquement une nouvelle commande après le remplacement, afin d’éviter une rupture de stock. La justification est visible et permet au technicien de confirmer ou d’annuler la commande.
Lorsque le système détecte une intention implicite de l’utilisateur et décide de lancer une action, l’interface montre son interprétation de l’intention avant l’exécution, afin que l’utilisateur puisse corriger une potentielle mauvaise interprétation avant l’exécution d’une action.
Exemple
Un technicien écrit : « La pompe hydraulique affiche toujours une erreur de température. » L’agent cherche dans la documentation et propose directement ce que doit être fait pour réparer la pompe, sans demander explicitement confirmation de son intention, tout en permettant au technicien de corriger ou d’arrêter l’action.
Afficher les modèles utilisés pour que l’utilisateur puisse y avoir accès s’il le souhaite.
Ce que couvre ce principe
Ce principe gouverne le partage d’initiative entre l’humain et le système. C’est le principe qui structure le plus directement le cadre HAT déjà défini, ainsi que la distinction AI-First et AI-Added.
Chaque fonctionnalité est positionnée sur l’échelle Passif, Contextuel, Proactif, Autonomous définie dans le cadre HAT. Cette classification est visible pour toute personne qui configure ou gouverne le produit, et ne peut rester une documentation interne à l’équipe technique.
Rendre accessible et visible le niveau d’autonomie du système pour que l’utilisateur comprenne ce que l’agent IA peut exécuter seul et ce qui nécessitera une validation.
Exemple
Afficher dans les paramètres le niveau d’autonomie des agents IA sur les différents uses-cases
Le niveau d’autonomie de l’agent et la friction imposée à l’utilisateur doivent être proportionnels à l’enjeu de l’action. Plus une action est peu risquée, réversible et sans conséquence pour des tiers, moins l’agent ia solicite l’utilisateur pour une validation. L’objectif est d’éviter à la fois les validations inutiles pour les actions anodines.
Exemple
Un technicien signale qu’une machine présente une anomalie. L’agent peut analyser les données disponibles, consulter l’historique de maintenance et proposer un diagnostic ou un brouillon de rapport sans demander de confirmation à chaque étape. En revanche, lorsqu’il s’apprête à modifier un paramètre de fonctionnement de la machine, il doit introduire davantage de contrôle avant d’agir.
Toute action critique, sensible ou difficilement réversible nécessite une validation humaine explicite, indépendamment du niveau d’autonomie accordé à l’agent.
Exemple
L’envoi d’une communication officielle, ou la modification d’un dossier légal ou financier sont des cas critique ou irréversible qui nécessite une validation humaine explicite obligatoire, indépendamment du niveau d’autonomie configuré.
Le système route chaque requête vers le modèle ou mécanisme le mieux calibré à son niveau de complexité. Les besoins complexes accèdent à des modèles d’IA avec une grande capacité de calcule. Les besoins simples activent des plus petits pour une meilleur gestion des tokens. Ce choix est visible et justifié auprès de l’utilisateur.
Exemple
Une collectivité, un établissement de santé ou un établissement scolaire peut abaisser le niveau d’autonomie d’une fonctionnalité donnée pour l’adapter à sa propre tolérance au risque, sans nécessiter un nouveau cycle de développement.
Exemple
Une collectivité peut configurer un agent IA de traitement de courrier pour qu’il reste au niveau Contextuel, même si le produit propose par défaut un niveau Proactif.